Компания OpenAI, разработчик популярного чат-бота ChatGPT, недавно опубликовала тревожный отчет о злоупотреблении их технологией искусственного интеллекта (ИИ) хакерскими группировками. Согласно данным, более 20 иностранных «операций влияния» были пресечены, в которых ChatGPT использовался для разработки вредоносного программного обеспечения, распространения дезинформации и проведения фишинговых атак.
Подтверждение опасений экспертов по кибербезопасности
Этот отчет подтверждает ранее высказанные опасения специалистов по информационной безопасности о потенциальном использовании ИИ злоумышленниками. Ранее эксперты из Proofpoint и HP Wolf уже сообщали о случаях применения ИИ для создания вредоносных скриптов и распространения малвари, таких как инфостилер Rhadamanthys и AsyncRAT.
Конкретные случаи злоупотребления ChatGPT
Китайская группировка SweetSpecter
OpenAI раскрыла деятельность китайской хакерской группы SweetSpecter, которая использовала ChatGPT для повышения эффективности своих кибершпионских операций. Группа атаковала правительственные учреждения азиатских стран, используя фишинговые письма с вредоносными ZIP-архивами. SweetSpecter применяла ChatGPT для скриптинга и анализа уязвимостей, что позволило им усовершенствовать свой вредоносный инструмент SugarGh0st RAT.
Иранская группа CyberAv3ngers
Другой случай касается иранской хакерской группы CyberAv3ngers, специализирующейся на атаках на критическую инфраструктуру западных стран. Эта группа использовала ChatGPT для получения учетных данных по умолчанию для программируемых логических контроллеров (ПЛК), разработки кастомных скриптов и обфускации кода. Особую озабоченность вызывает использование ИИ для планирования пост-эксплуатационных действий и изучения методов взлома конкретных уязвимостей.
Иранская группа Storm-0817
Третий случай связан с иранской группировкой Storm-0817, которая применяла ChatGPT для создания вредоносного ПО для Android. С помощью ИИ хакеры разработали малварь, способную похищать личные данные пользователей, включая контакты, журналы звонков, историю просмотров и геолокацию. Кроме того, группа использовала ChatGPT для разработки серверной части своей вредоносной инфраструктуры.
Меры противодействия и последствия
OpenAI сообщает о блокировке всех учетных записей, связанных с обнаруженными злоупотреблениями. Компания также передала индикаторы компрометации, включая IP-адреса, своим партнерам по кибербезопасности. Эти действия направлены на предотвращение дальнейшего использования ChatGPT в злонамеренных целях.
Раскрытие этих инцидентов подчеркивает растущую угрозу использования технологий ИИ киберпреступниками. Это ставит перед разработчиками ИИ-систем и специалистами по кибербезопасности новые вызовы. Необходимо разрабатывать более совершенные механизмы защиты и мониторинга, чтобы предотвратить злоупотребление ИИ-технологиями. Организациям и пользователям рекомендуется повысить бдительность и усилить меры кибербезопасности в свете этих новых угроз.
