Ein Deepfake ist ein mit KI erzeugtes oder verändertes Video, Bild oder Audio, das realistisch zeigt, wie eine Person etwas sagt oder tut, was nie geschehen ist.
Wie Deepfakes entstehen
Deepfakes werden mit Deep-Learning-Modellen erzeugt – ursprünglich Autoencoder und Generative Adversarial Networks (GANs), heute vor allem Diffusionsmodelle und neuronale Sprachsynthese. Ein Face-Swap-Modell lernt aus Fotos und Videos einer Person und überträgt ihr Gesicht in ein anderes Video. Voice Cloning kann eine Stimme schon aus wenigen Sekunden Audio nachahmen. Echtzeit-Tools ermöglichen inzwischen Live-Deepfakes in Videoanrufen.
Warum Deepfakes für die Sicherheit wichtig sind
Deepfakes machen Social Engineering deutlich gefährlicher:
- CEO-Betrug – 2024 überwies ein Mitarbeiter des Ingenieurkonzerns Arup in Hongkong rund 25 Millionen US-Dollar nach einem Videoanruf, in dem alle anderen „Kollegen“ Deepfakes waren;
- Voice-Phishing – Anrufe mit der geklonten Stimme eines Angehörigen oder Vorgesetzten, die Geld oder Passwörter verlangen (moderner Enkeltrick);
- Umgehung von Identitätsprüfungen per Selfie oder Video (KYC);
- falsche Bewerber in Remote-Interviews und Desinformationskampagnen;
- nicht einvernehmliche intime Bilder und Belästigung.
So schützen Sie sich
- Prüfen Sie ungewöhnliche Geld- oder Datenanfragen über einen zweiten, bekannten Kanal – rufen Sie unter einer gespeicherten Nummer zurück.
- Vereinbaren Sie Codewörter für dringende Anfragen in der Familie und im Finanzteam.
- Verlangen Sie für große Zahlungen das Vier-Augen-Prinzip.
- Achten Sie auf Content Credentials (C2PA) und nutzen Sie Erkennungstools, verlassen Sie sich aber nicht auf sichtbare Fehler – die Qualität steigt schnell.
Synonyme:
Synthetische Medien
