Коротко про дипфейк: как научиться отличать сгенерированные видео от настоящих?

01.08.2024

Олена Гайдак

Инструменты искусственного интеллекта проникают в различные сферы нашей жизни и становятся доступными широкой общественности. В первую очередь это касается создания контента — изображений, текста, видео. Большинство программ облегчают работу маркетологов, дизайнеров, копирайтеров — например, создание изображений для статьи, визуализация будущего проекта, написание текстов и тому подобное. Однако есть технологии, использовать которые следует с осторожностью. 

В статье поговорим о Deepfake: что это и зачем его создают? А также попробуем разобраться, стоит ли считать дипфейк сугубо негативным явлением. 

Что такое дипфейк? 

Дипфейк — это технология создания фиктивного видео с помощью искусственного интеллекта. Название Deepfake образовано из трех английских слов Deep Learning (глубинное обучение) и Fake (обман). Сегодня дипфейком называют ролики и изображения, где сфальсифицировано участие реальных людей. 

Deepfake создает нейросеть. Процесс проходит в несколько этапов:

1. Программа собирает данные из тысяч настоящих снимков и видео, обрабатывает черты лица, мимику и жесты. 
2. ИИ создает синтезированное изображение лица — своеобразную цифровую маску с набором похожих жестов, мимики, цифровым наложением голоса.
3. Напоследок ненастоящий образ накладывается на видеоряд, в котором хотят имитировать участие реального человека. 

С развитием технологий правдоподобность дипфейков растет.

Как распознать deepfake?

Определить, что перед вами дипфейк, можно с помощью внимательности, критического мышления и современных технологий. 

Визуальный анализ

Самый частый совет, который встречается в интернете, это внимание к деталям на видеоряде. Например:

1. Цвет кожи приобретает неестественный оттенок.
2. Лицо накладывается не на 100% идеально. Можно заметить края маски и мерцание вокруг лица.
3. Несовершенное соответствие артикуляции, мимики и жестов. 
4. Несоответствие теней или необычные отражения в стеклах очков, окнах, зеркалах. 

Технологии для распознавания дипфейков

Анализ такого количества мелких деталей требует большой сосредоточенности. Поэтому лучшая идентификация deepfake — это анализ с помощью специальных инструментов на основе ИИ:

1. Технологию распознавания ИИ-контента активно внедряют социальные сети — YouTube, TikTok, Instagram, Facebook. Платформы учатся распознавать такой контент с участием машинных алгоритмов и обязывают пользователей самостоятельно маркировать сгенерированные креативы. 
2. В 2020 году компания Microsoft заявила о создании программы, определяющей подлинность видео — Video Authenticator. 
3. Массачусетский университет создал виртуальный тренажер, в которой можно научиться распознавать фейковый контент. 

Большинство инструментов, которые быстро и на 100% отличают дипфейки, еще находятся на стадии разработки или не выпущены в массовое пользование. В большинстве случаев необходимо полагаться на собственную наблюдательность.

Зачем создают дипфейки?

Deepfake ассоциируется у большинства людей с негативными явлениями. Фальшивые видео используют для:

• Обращений политиков с целью манипуляции общественным мнением;
• Изображения известных людей в видеорекламе;
• Создания розыгрышей. 

Примеры положительного использования дипфейков

Есть ситуации, когда создание дипфейка может принести пользу:

Кинематограф. Технология Deepfake реалистично воспроизводит актеров. Например, некоторые финальные сцены в фильме «Форсаж 7» смонтировали с помощью нейросетей. 

Реклама. 3 года назад Lay’s запустили сервис Messi Messages. Болельщики создавали и отправляли персонализированные видеосообщения от имени футболиста Месси на разных языках.   

Искусство. В музее Сальвадора Дали во Флориде, США, установили виртуальный киоск, из которого обращается сам художник. Специалисты создали серию интерактивных роликов, в которых Сальвадор Дали здоровается с посетителями, делает с ними селфи и рассказывает интересные факты из своей биографии.

Обучение. Британский рекламный холдинг WPP создал серию обучающих фильмов для сотрудников. Материал преподают сгенерированные личности, которые обращаются к зрителям на языке слушателя.  

Продвижение социальных месседжей. Дэвид Бекхэм регулярно участвует в информационных кампаниях, направленных на борьбу с малярией. В одной видеорекламе известный футболист обращается к зрителям на разных языках, в частности на хинди и арабском. В другом ролике Дэвида Бекхэма состарили до 75-летнего возраста. Это стало возможным благодаря ИИ.

Напоследок: стоит ли использовать дипфейк? 

Использование дипфейков до сих пор остается достаточно спорным вопросом, который поднимает немало этических и правовых вопросов. Даже если вы не интересуетесь созданием ИИ-видео, навыки распознавания фейков необходимы каждому пользователю интернета.  

Deepfake — интересная технология, которая продолжает стремительно развиваться. Простые видео с подменой лица сегодня можно сделать даже с помощью приложения на телефоне. Основной недостаток — массовый выпуск фальсификаций, в которых изображения людей используются без их согласия. 

С другой стороны пользу сгенерированных роликов невозможно отрицать. Если вы все-таки решили создать дипфейк, не забудьте:

1. Получить согласие человека или правообладателей, чье изображение собираетесь использовать.
2. Сделать пометку, что контент создан нейросетью.
3. Проверьте законность размещения deepfake в определенной стране. В Украине пока нет ни одного нормативного акта, который бы регулировал использование ИИ. Однако в Европе нельзя использовать ИИ для дискриминации или манипуляций. В Китае создавать и размещать ИИ-контент можно только с целым рядом строгих ограничений.