OpenAI, der Entwickler hinter dem populären KI-Chatbot ChatGPT, hat kürzlich alarmierende Erkenntnisse über den Missbrauch seiner Technologie durch Cyberkriminelle veröffentlicht. In einem detaillierten Bericht enthüllt das Unternehmen, wie Hacker-Gruppen aus verschiedenen Ländern ChatGPT für eine Vielzahl bösartiger Aktivitäten einsetzen, darunter die Entwicklung von Malware, die Verbreitung von Desinformation und die Durchführung von Phishing-Angriffen.
Chinesische Hacker-Gruppe SweetSpecter im Fokus
Eine der von OpenAI identifizierten Gruppierungen ist die chinesische Hacker-Gruppe SweetSpecter. Diese Gruppe, die erstmals im November 2023 von Cisco Talos-Analysten entdeckt wurde, nutzt ChatGPT für verschiedene Zwecke im Rahmen ihrer Cyberspionage-Aktivitäten. SweetSpecter verwendet einen Cluster von ChatGPT-Konten für Skripterstellung und Schwachstellenanalyse. Ihre Angriffsmethode umfasst das Versenden von Phishing-E-Mails mit schädlichen ZIP-Archiven, die als Support-Anfragen getarnt sind. Nach dem Öffnen dieser Anhänge wird eine Infektionskette ausgelöst, die zur Installation des SugarGh0st RAT (Remote Access Trojan) auf dem System des Opfers führt.
Iranische Gruppen CyberAv3ngers und Storm-0817
OpenAI berichtet auch über zwei iranische Hacker-Gruppen, die ChatGPT missbrauchen. Die Gruppe CyberAv3ngers, bekannt für Angriffe auf kritische Infrastrukturen in westlichen Ländern, nutzte den Chatbot, um Standard-Anmeldeinformationen für weit verbreitete speicherprogrammierbare Steuerungen (SPS) zu erfragen. Zudem entwickelten sie mit Hilfe von ChatGPT benutzerdefinierte Bash- und Python-Skripte und verschleierten ihren Code.
Die zweite iranische Gruppe, Storm-0817, ging noch einen Schritt weiter. Sie setzte ChatGPT ein, um eigene Android-Malware und die dazugehörige Steuerungsinfrastruktur zu entwickeln. Diese Schadsoftware kann Kontaktlisten, Anrufprotokolle und gespeicherte Dateien stehlen, Screenshots erstellen, den Browserverlauf auslesen und den genauen Standort des Benutzers ermitteln. Besonders besorgniserregend ist, dass Storm-0817 ChatGPT auch zur Entwicklung des Servercode nutzte, der für die Verwaltung der Verbindungen zu kompromittierten Geräten erforderlich ist.
Gegenmaßnahmen und Implikationen
OpenAI hat schnell auf diese Bedrohungen reagiert, indem es alle mit diesen bösartigen Aktivitäten in Verbindung stehenden Konten gesperrt hat. Zudem wurden Kompromittierungsindikatoren, einschließlich IP-Adressen, an Cybersicherheitspartner weitergeleitet. Diese Vorfälle unterstreichen die dringende Notwendigkeit verstärkter Sicherheitsmaßnahmen und ethischer Richtlinien für KI-Technologien. Sie verdeutlichen auch die Herausforderungen, denen sich Entwickler und Sicherheitsexperten gegenübersehen, wenn es darum geht, den Missbrauch fortschrittlicher KI-Tools zu verhindern.
Die Enthüllungen von OpenAI markieren einen Wendepunkt in der Cybersicherheitslandschaft. Sie zeigen, dass KI-Technologien wie ChatGPT zu einem mächtigen Werkzeug in den Händen von Cyberkriminellen geworden sind. Um diesen neuen Bedrohungen zu begegnen, müssen Unternehmen und Einzelpersonen ihre Sicherheitsstrategien überdenken und anpassen. Dies beinhaltet die Implementierung fortschrittlicher Erkennungssysteme, die Schulung von Mitarbeitern in Bezug auf KI-gestützte Bedrohungen und die kontinuierliche Überwachung der sich entwickelnden Taktiken von Cyberkriminellen. Nur durch wachsame und proaktive Maßnahmen kann die globale Gemeinschaft hoffen, mit dem rasanten Tempo der KI-gestützten Cyberkriminalität Schritt zu halten.
