С развитием технологий искусственного интеллекта все чаще упоминается явление, известное как дипфейк. Это видеоролики или аудиозаписи, созданные с помощью нейросетей на основе реальных изображений, видео или звука. В основе таких материалов лежит модель, которая с помощью машинного обучения стилизована под определенного человека. В результате на видео можно увидеть политических деятелей, популярных актеров, блогеров или даже ваших знакомых. Сегодня эта технология широко применяется в различных сферах – искусстве, культуре, блоггинге, кинематографии, политике и даже в мошенничестве. Чтобы не стать жертвой интернет-мошенников, важно уметь отличать дипфейки от реальных людей, а также быть готовым к противостоянию злоумышленникам и их манипуляциям.
Безобидные сценарии использования дипфейков
Дипфейки довольно реалистично имитируют людей – их мимику, черты лица и даже голос, что у многих не вызывает сомнений в подлинности контента. Такие цифровые разработки активно используются в кино: дипфейком можно заменить актера, с его помощью легко улучшить качество дубляжа фильмов. А в рекламе использование сгенерированного искусственным интеллектом видео позволяет значительно сократить затраты на съемку.
Еще одним возможным применением таких роликов на благо общества является создание виртуальных копий человека, которые останутся доступны после его смерти. Родные и близкие смогут общаться с умершим, проводить с ним время. Однако эта технология пока не реализована в полной мере, хотя она и считается одним из самых перспективных направлений развития индустрии дипфейков.
Дипфейки и мошенничество
Мошенники быстро нашли способы использовать контент, сгенерированный нейросетями, для реализации своих схем. Самый распространенный вариант – использование образа известной личности или лидера мнений для воздействия на их аудиторию. Например, злоумышленники могут выпустить видео, где популярный блогер призывает подписчиков зарегистрироваться на определенной криптобирже или вступить в финансовую пирамиду, обещая при этом значительную прибыль. Те, кто не распознает подделку, рискуют потерять свои деньги в очередном мошенническом проекте.
Другой вариант незаконного использования дипфейков – создание контента, который должен влиять на общественные настроения. Это касается преимущественно политической и социальной сфер жизни. В интернете можно найти множество фейковых видео, в которых якобы политики, военные лидеры, социальные блогеры или известные журналисты призывают к определенным действиям или выражают нетипичные для них мнения.
Однако самый распространенный способ использования дипфейков мошенниками – это генерация голосовых сообщений и имитация видеозвонков от лица другого человека. Например, вы можете получить сообщение от знакомого с просьбой одолжить деньги, не подозревая, что его аккаунт в мессенджере или социальной сети уже взломан. Чтобы не вызвать подозрений, мошенники могут дополнительно отправить голосовое сообщение, сгенерированное нейросетью. Голос в таких случаях может быть похож на реальный, но интонации и качество речи часто вызывают сомнения.
Как распознать подделку
Несмотря на реалистичность дипфейков, обнаружить в них недостатки и заподозрить что-то неладное не так уж сложно. На помощь потенциальной жертве могут прийти специализированное программное обеспечение, современные устройства и здравый смысл.
Например, если вы регулярно созваниваетесь с родственниками по видеосвязи, их внезапный звонок вас не насторожит. Однако если общение обычно происходит только голосом, а собеседник неожиданно перешел на видео, это повод задуматься и проверить подлинность собеседника.
Важно быть внимательным и тогда, когда, например, политический деятель в видеообращении говорит о чем-то, что нехарактерно для него, или если давно забытая звезда 90-х внезапно начинает делиться секретами легкого заработка.
Все, что вызывает удивление или подозрения, должно быть проверено. Это единственный способ избежать ловушек, расставленных мошенниками. Далее приведены способы распознать дипфейки, доступные каждому.
Визуальные несоответствия и рассинхронизация
Если у вас возникают подозрения по поводу видео, обратите внимание на следующие моменты:
- Цвет кожи: Проверьте, одинаков ли оттенок кожи на лице, руках и теле – в фейковых видео часто встречаются расхождения.
- Моргание: Оцените частоту моргания героя видео – слишком частое или редкое моргание может указывать на использование нейросети.
- Направление взгляда: Следите за тем, смотрит ли человек исключительно в камеру или иногда поглядывает в стороны – алгоритмы пока не способны создавать реалистичный подвижный взгляд.
Рассинхронизация звуковой и видеодорожки также может быть признаком дипфейка. Если вы слышите речь, но губы человека не двигаются, или наоборот, видите движения рта в тишине – это повод усомниться в подлинности контента.
Особенности звука в дипфейках
При общении по видеосвязи, прослушивании голосовых сообщений или просмотре видео обратите внимание на аудиосоставляющую контента. Для живого человека характерен определенный набор звуков, которые нейросеть может игнорировать при создании дипфейка. Если вы заметите нехарактерные нотки в голосе или странности в дыхании, стоит проверить видео на подлинность.
Для сгенерированного контента нормальными считаются обрывистый тембр голоса, отсутствие эмоциональной окраски и недостаток акцентов на ключевых моментах. Также в таких роликах часто “проглатываются” окончания слов или фраз.
Программное обеспечение для идентификации дипфейков
Существуют специальные программы для ПК и смартфонов, которые помогут распознать подделку. Большинство из них также используют алгоритмы искусственного интеллекта и с высокой вероятностью могут обнаружить фейковые фото и видео. Среди популярных разработок:
- Forensically – программа для анализа визуального контента;
- Image Edited – бесплатное приложение для проверки изображений;
- Truepic – предоставляет информацию о происхождении материала;
- Deepware – бесплатная программа для оценки подлинности видео;
- KaiCatch – сервис для обнаружения искажений на объектах.
Перечень подобных приложений постоянно пополняется, и в открытом доступе можно найти актуальные версии программ, которые помогут выявить мошеннический контент.
Способы проверки подлинности в переписке или разговоре
При общении со знакомыми по видеосвязи распознать дипфейк можно, попросив человека повернуться в профиль или провести рукой перед лицом. Настоящее видео останется целостным, а в случае дипфейка картинка может “поплыть” и черты лица потеряют форму. Нейросеть использует загруженные в интернет изображения, и у нее может не быть достаточно данных для воссоздания лица под углом, особенно в профиль.
Еще более надежный способ убедиться, что перед вами реальный человек, – завершить сеанс связи и перезвонить самостоятельно. Так вы будете уверены, что общаетесь со своим знакомым. Если нужно проверить подлинность незаметно, спросите у собеседника о каком-то факте, известном только вам двоим.
Итоги
Технологии искусственного интеллекта развиваются стремительно, и мошенники уже используют их в своих целях. Поэтому с каждым годом вероятность столкнуться с дипфейками возрастает не только у звезд и политиков, но и у обычных людей.
Чтобы избежать финансовых потерь и защитить своих близких, важно отслеживать новые мошеннические тренды и учиться их распознавать. Критическое восприятие информации и проверка подозрительных материалов помогут минимизировать риски и не позволят мошенникам добраться до ваших средств.
