Что такое дипфейк простыми словами

Представьте, что вы смотрите видео с известным человеком или слышите знакомый голос, но это все — подделка. С появлением технологии дипфейк такое стало вполне возможным: ИИ точно копирует внешность, голос и мимику людей, создает видео и аудио, которые не отличить от настоящих. Разбираемся, что такое дипфейк и почему он опасен.

Что такое дипфейк?

Дипфейк — технология создания контента, в основе которой лежат глубокое обучение и искусственный интеллект. Название произошло от сочетания слов «deep learning» — глубокое обучение, и «fake» — подделка. Для создания цифровых копий нейросеть анализирует фото, видео и аудио: так она учится воспроизводить мимику, движения и особенности речи человека. Как правило, сервисы для генерации таких файлов находятся в общем доступе, поэтому применяют их для самых разных целей.

Почему дипфейк может быть опасен?

Сегодня рядовые пользователи используют нейросети для работы, создания забавных картинок, ретуши фото, переводов, создания текстового контента. Однако технологию освоили и злоумышленники. 

1. Телефонное мошенничество. Преступники могут создать цифровую подделку вашего голоса и обмануть систему голосовой идентификации банков. Другая распространенная схема — звонки с поддельным голосом ваших знакомых с просьбой срочно перевести деньги. Подробнее о распространенных схемах телефонного мошенничества можно почитать здесь.
2. Фальшивые заявления публичных личностей. Технология дипфейк позволяет создавать опасные для репутации видео с участием политиков и общественных деятелей. Инструмент часто применяют в периоды политической нестабильности, чтобы ослабить конкурентов.
3. Кража биометрических данных. Злоумышленники создают поддельные материалы для шантажа жертвы и распространяют компрометирующие дипфейк-видео. Отличить реальное видео от поддельного не могут даже некоторые системы биометрической идентификации.

Как распознать дипфейк?

Хоть нейросети и научились делать очень правдоподобные фотографии, видео и аудио, отличительные черты все равно можно найти. Главное — оставайтесь бдительными.

На дипфейк-видео можно заметить:

• неестественное моргание или его отсутствие,
• искажение черт лица при поворотах головы,
• несовпадение движений губ и речи,
• странные блики в глазах,
• размытые границы между лицом и фоном.

В дипфейк-аудио можно заметить:

• «механические» нотки в голосе,
• неестественные паузы и интонация,
• отсутствие характерных речевых особенностей говорящего — например, мелких дефектов речи, «любимых» слов-паразитов.

Как не попасться на дипфейк?

Хотя полностью исключить риск столкновения с поддельным контентом невозможно, существует простые и эффективные меры по выявлению ИИ-подделок. Некоторые способы уменьшают риск наткнуться на мошенников в целом. Помните, что безопасность в цифровом пространстве — это не разовое действие, а постоянная практика.

1. Тщательно проверяйте источники информации. Доверяйте только официальным сайтам организаций и подтвержденным аккаунтам знаменитостей. А при появлении сомнительных видео или аудиозаписей обязательно сверяйтесь с несколькими надежными источниками и обращайте внимание на даты публикации материалов.
2. Используйте современные технические средства защиты. Включите двухфакторную аутентификацию на важных аккаунтах и регулярно обновляйте системы безопасности на всех устройствах. Так злоумышленники не смогут получить доступ к вашему хранилищу фото для генерации подделок.
3. Соблюдайте правила цифровой гигиены. Не публикуйте личную и конфиденциальную информацию в блогах и на публичных страницах, отключайте трансляцию геолокации.
4. Развивайте навыки критического мышления. Если видео кажется странным и неестественным, обратите внимание на мелкие детали: может быть, вам не кажется. И помните: чем крупнее инфоповод, тем больше вероятности, что его могут коснуться цифровые подделки. 

Еще больше интересных и полезных материалов про самые современные технологии всегда можно найти в блоге «ИнтерКамСервис» — интернет-провайдера для дома и бизнеса в Петропавловске-Камчатском. 

Как распознать поддельное мобильное приложение

Что такое нейросети и для чего они нужны