Діпфейк — створене чи змінене ШІ відео, зображення або запис голосу, де людина правдоподібно каже чи робить те, чого ніколи не було.
Як створюють діпфейки
Діпфейки створюють за допомогою моделей глибинного навчання — спершу автокодувальників і генеративно-змагальних мереж (GAN), нині переважно дифузійних моделей і нейромережевого синтезу мовлення. Модель заміни обличчя навчається на фото й відео людини та переносить її обличчя на інше відео. Клонування голосу дає змогу підробити голос за кількома секундами запису. Сучасні інструменти створюють діпфейки в реальному часі просто у відеодзвінках.
Чим діпфейки важливі для безпеки
Діпфейки перетворили соціальну інженерію на значно потужнішу зброю:
- шахрайство від імені керівників — у 2024 році працівник гонконзького офісу інженерної компанії Arup переказав близько 25 млн доларів після відеодзвінка, де всі інші «колеги» були діпфейками;
- голосовий фішинг — дзвінки клонованим голосом родича чи керівника з проханням про гроші або паролі;
- обхід перевірки особи за селфі чи відео (KYC);
- підроблені кандидати на віддалених співбесідах і дезінформаційні кампанії;
- інтимні зображення без згоди та цькування.
Як захиститися
- Перевіряйте незвичні прохання про гроші чи дані через другий, заздалегідь відомий канал — передзвоніть на збережений номер.
- Домовтеся про кодові слова для термінових прохань у родині та у фінансовому відділі.
- Вимагайте підтвердження великих платежів кількома людьми.
- Звертайте увагу на мітки автентичності контенту (C2PA) і використовуйте детектори, але не розраховуйте помітити візуальні помилки — якість швидко зростає.
Синоніми:
Deepfake, Синтетичні медіа
