Дипфейк — созданное или изменённое ИИ видео, изображение или запись голоса, где человек правдоподобно говорит или делает то, чего никогда не было.
Как создаются дипфейки
Дипфейки создают с помощью моделей глубокого обучения — изначально автокодировщиков и генеративно-состязательных сетей (GAN), сегодня в основном диффузионных моделей и нейросетевого синтеза речи. Модель замены лица обучается на фото и видео человека и переносит его лицо на другое видео. Клонирование голоса позволяет подделать голос по нескольким секундам записи. Современные инструменты делают дипфейки в реальном времени прямо в видеозвонках.
Чем дипфейки важны для безопасности
Дипфейки превратили социальную инженерию в гораздо более мощное оружие:
- мошенничество от имени руководителей — в 2024 году сотрудник гонконгского офиса инженерной компании Arup перевёл около 25 млн долларов после видеозвонка, где все остальные «коллеги» были дипфейками;
- голосовой фишинг — звонки клонированным голосом родственника или начальника с просьбой о деньгах или паролях;
- обход проверки личности по селфи или видео (KYC);
- поддельные кандидаты на удалённых собеседованиях и дезинформационные кампании;
- интимные изображения без согласия и травля.
Как защититься
- Проверяйте необычные просьбы о деньгах или данных через второй, заранее известный канал — перезвоните на сохранённый номер.
- Договоритесь о кодовых словах для срочных просьб в семье и в финансовом отделе.
- Требуйте подтверждения крупных платежей несколькими людьми.
- Обращайте внимание на метки подлинности контента (C2PA) и используйте детекторы, но не рассчитывайте заметить визуальные ошибки — качество быстро растёт.
Синонимы:
Deepfake, Синтетические медиа
