Cyberkriminelle setzen zunehmend auf künstliche Intelligenz (KI) zur Erstellung von Phishing-Webseiten. Doch diese Technologie hinterlässt charakteristische Spuren, die zur Identifizierung betrügerischer Aktivitäten genutzt werden können. Eine aktuelle Studie der Kaspersky Lab zeigt auf, wie die Verwendung großer Sprachmodelle (Large Language Models, LLMs) unbeabsichtigt zur Aufdeckung von Betrugsversuchen beitragen kann.
Einsatz von KI bei der Erstellung von Phishing-Seiten
Moderne Cyberkriminelle nutzen KI-Technologien, um den Prozess der Erstellung gefälschter Webseiten zu automatisieren. Diese Seiten imitieren oft bekannte Marken oder Organisationen und locken Nutzer mit vermeintlich attraktiven Angeboten. Trotz der fortschrittlichen Technologie hinterlassen die verwendeten Sprachmodelle jedoch spezifische Artefakte, die als Indikatoren für betrügerische Aktivitäten dienen können.
Charakteristische Merkmale KI-generierter Inhalte
1. Ablehnungsphrasen
Ein deutliches Anzeichen für den Einsatz von KI sind Phrasen, in denen das System bestimmte Anfragen „ablehnt“. Beispielsweise: „Als KI-Sprachmodell kann ich keine spezifischen Artikel auf Anfrage liefern“. Solche Formulierungen sind in der Online-Community bereits zu einem Meme geworden.
2. Lexikalische Präferenzen
KI-Modelle neigen dazu, bestimmte Wörter und Ausdrücke bevorzugt zu verwenden. So nutzen OpenAI-Modelle häufig das Wort „delve“ (eintauchen, vertiefen). Auch Formulierungen wie „in der sich ständig weiterentwickelnden, sich verändernden Welt“ sind weit verbreitet.
3. Zeitliche Begrenzungen
LLMs weisen oft auf die Begrenztheit ihres Wissens bis zu einem bestimmten Datum hin, etwa: „Gemäß meinem letzten Update im Januar 2023“. Dies ist auf die Trainingsmethodik der Modelle mit zeitlich begrenzten Datensätzen zurückzuführen.
4. Metadaten-Artefakte
Spuren von KI-Nutzung können auch in den Metadaten der Webseiten auftreten. Forscher entdeckten Fälle, in denen Meta-Tags Verweise auf Online-Dienste zur KI-basierten Webseitengenerierung enthielten.
Grenzen der Erkennung und Sicherheitsempfehlungen
Es ist wichtig zu betonen, dass das Vorhandensein einzelner „verdächtiger“ Phrasen oder Wörter kein eindeutiger Beweis für eine betrügerische Webseite ist. Vladislav Tushkanov, Leiter der Forschungs- und Entwicklungsgruppe für maschinelles Lernen bei Kaspersky, unterstreicht: „Ein Ansatz, der gefälschte Seiten allein anhand bestimmter ‚Schlüsselwörter‘ identifiziert, ist unzuverlässig.“
Für einen effektiven Schutz vor Phishing-Angriffen im Zeitalter der allgegenwärtigen künstlichen Intelligenz ist ein ganzheitlicher Ansatz zur Bewertung von Online-Ressourcen unerlässlich. Experten empfehlen, grundlegende Regeln der Cyberhygiene zu befolgen: Informationen im Internet kritisch zu hinterfragen, auf logische Fehler und Tippfehler zu achten, die Übereinstimmung von URLs mit offiziellen Adressen zu überprüfen und keine Links aus verdächtigen Nachrichten zu öffnen. Nur durch die Kombination technischer Erkennungsmethoden mit geschultem Benutzerverhalten lässt sich ein robuster Schutz gegen die zunehmend raffinierten Phishing-Taktiken gewährleisten.
