Коротко про дипфейк: как научиться отличать сгенерированные видео от настоящих?
Инструменты искусственного интеллекта проникают в различные сферы нашей жизни и становятся доступными широкой общественности. В первую очередь это касается создания контента — изображений, текста, видео. Большинство программ облегчают работу маркетологов, дизайнеров, копирайтеров — например, создание изображений для статьи, визуализация будущего проекта, написание текстов и тому подобное. Однако есть технологии, использовать которые следует с осторожностью.
В статье поговорим о Deepfake: что это и зачем его создают? А также попробуем разобраться, стоит ли считать дипфейк сугубо негативным явлением.
Что такое дипфейк?
Дипфейк — это технология создания фиктивного видео с помощью искусственного интеллекта. Название Deepfake образовано из трех английских слов Deep Learning (глубинное обучение) и Fake (обман). Сегодня дипфейком называют ролики и изображения, где сфальсифицировано участие реальных людей.
Deepfake создает нейросеть. Процесс проходит в несколько этапов:
- Программа собирает данные из тысяч настоящих снимков и видео, обрабатывает черты лица, мимику и жесты.
- ИИ создает синтезированное изображение лица — своеобразную цифровую маску с набором похожих жестов, мимики, цифровым наложением голоса.
- Напоследок ненастоящий образ накладывается на видеоряд, в котором хотят имитировать участие реального человека.
С развитием технологий правдоподобность дипфейков растет.
Как распознать deepfake?
Определить, что перед вами дипфейк, можно с помощью внимательности, критического мышления и современных технологий.
Визуальный анализ
Самый частый совет, который встречается в интернете, это внимание к деталям на видеоряде. Например:
- Цвет кожи приобретает неестественный оттенок.
- Лицо накладывается не на 100% идеально. Можно заметить края маски и мерцание вокруг лица.
- Несовершенное соответствие артикуляции, мимики и жестов.
- Несоответствие теней или необычные отражения в стеклах очков, окнах, зеркалах.
Технологии для распознавания дипфейков
Анализ такого количества мелких деталей требует большой сосредоточенности. Поэтому лучшая идентификация deepfake — это анализ с помощью специальных инструментов на основе ИИ:
- Технологию распознавания ИИ-контента активно внедряют социальные сети — YouTube, TikTok, Instagram, Facebook. Платформы учатся распознавать такой контент с участием машинных алгоритмов и обязывают пользователей самостоятельно маркировать сгенерированные креативы.
- В 2020 году компания Microsoft заявила о создании программы, определяющей подлинность видео — Video Authenticator.
- Массачусетский университет создал виртуальный тренажер, в которой можно научиться распознавать фейковый контент.
Большинство инструментов, которые быстро и на 100% отличают дипфейки, еще находятся на стадии разработки или не выпущены в массовое пользование. В большинстве случаев необходимо полагаться на собственную наблюдательность.
Зачем создают дипфейки?
Deepfake ассоциируется у большинства людей с негативными явлениями. Фальшивые видео используют для:
- Обращений политиков с целью манипуляции общественным мнением;
- Изображения известных людей в видеорекламе;
- Создания розыгрышей.
Примеры положительного использования дипфейков
Есть ситуации, когда создание дипфейка может принести пользу:
Кинематограф. Технология Deepfake реалистично воспроизводит актеров. Например, некоторые финальные сцены в фильме «Форсаж 7» смонтировали с помощью нейросетей.
Реклама. 3 года назад Lay’s запустили сервис Messi Messages. Болельщики создавали и отправляли персонализированные видеосообщения от имени футболиста Месси на разных языках.
Искусство. В музее Сальвадора Дали во Флориде, США, установили виртуальный киоск, из которого обращается сам художник. Специалисты создали серию интерактивных роликов, в которых Сальвадор Дали здоровается с посетителями, делает с ними селфи и рассказывает интересные факты из своей биографии.
Обучение. Британский рекламный холдинг WPP создал серию обучающих фильмов для сотрудников. Материал преподают сгенерированные личности, которые обращаются к зрителям на языке слушателя.
Продвижение социальных месседжей. Дэвид Бекхэм регулярно участвует в информационных кампаниях, направленных на борьбу с малярией. В одной видеорекламе известный футболист обращается к зрителям на разных языках, в частности на хинди и арабском. В другом ролике Дэвида Бекхэма состарили до 75-летнего возраста. Это стало возможным благодаря ИИ.
Напоследок: стоит ли использовать дипфейк?
Использование дипфейков до сих пор остается достаточно спорным вопросом, который поднимает немало этических и правовых вопросов. Даже если вы не интересуетесь созданием ИИ-видео, навыки распознавания фейков необходимы каждому пользователю интернета.
Deepfake — интересная технология, которая продолжает стремительно развиваться. Простые видео с подменой лица сегодня можно сделать даже с помощью приложения на телефоне. Основной недостаток — массовый выпуск фальсификаций, в которых изображения людей используются без их согласия.
С другой стороны пользу сгенерированных роликов невозможно отрицать. Если вы все-таки решили создать дипфейк, не забудьте:
- Получить согласие человека или правообладателей, чье изображение собираетесь использовать.
- Сделать пометку, что контент создан нейросетью.
- Проверьте законность размещения deepfake в определенной стране. В Украине пока нет ни одного нормативного акта, который бы регулировал использование ИИ. Однако в Европе нельзя использовать ИИ для дискриминации или манипуляций. В Китае создавать и размещать ИИ-контент можно только с целым рядом строгих ограничений.
