В сфере кибербезопасности появился новый вектор атак на цепочки поставок программного обеспечения — слопсквоттинг (slopsquatting). Данная угроза непосредственно связана с растущим использованием генеративных ИИ-систем для разработки кода и их склонностью к созданию несуществующих программных пакетов.
Что такое слопсквоттинг и чем он опасен
Термин «слопсквоттинг», введённый специалистом по информационной безопасности Сетом Ларсоном, описывает атаки, при которых злоумышленники создают вредоносные пакеты в репозиториях PyPI или npm, используя названия, которые часто «придумывают» ИИ-модели. В отличие от классического тайпсквоттинга, основанного на опечатках, слопсквоттинг эксплуатирует саму природу ИИ-систем и их склонность к «галлюцинациям».
Масштаб проблемы в цифрах
Согласно недавнему исследованию, около 20% рекомендаций ИИ-моделей содержат ссылки на несуществующие пакеты. Особенно высокий процент ошибок демонстрируют открытые модели, такие как CodeLlama, DeepSeek и WizardCoder. Даже продвинутые коммерческие решения вроде ChatGPT-4 допускают ошибки в 5% случаев.
Анализ «галлюцинаций» ИИ
Исследователи выявили более 200 000 уникальных имен несуществующих пакетов. Примечательно, что 43% этих названий регулярно появляются в ответах ИИ-моделей при схожих запросах. Структурный анализ показал, что 38% названий имеют сходство с реальными пакетами, 13% являются результатом опечаток, а 51% представляют собой полностью вымышленные имена.
Рекомендации по защите
Для минимизации рисков слопсквоттинга специалисты рекомендуют следующие меры безопасности:
- Тщательная ручная проверка имен пакетов перед использованием
- Применение сканеров зависимостей и lockfile
- Верификация хешей для подтверждения подлинности пакетов
- Снижение «температуры» при использовании ИИ-моделей
- Тестирование сгенерированного кода в изолированной среде
Хотя активных атак с использованием слопсквоттинга пока не зафиксировано, регулярность и правдоподобность «галлюцинаций» ИИ создает благоприятную почву для потенциальных злоумышленников. Разработчикам и специалистам по безопасности следует проявлять повышенную бдительность при работе с ИИ-генерируемым кодом и тщательно верифицировать все используемые зависимости.
