Специалисты компании Palo Alto Networks провели масштабное исследование, демонстрирующее потенциальные риски использования больших языковых моделей (LLM) в создании вредоносного программного обеспечения. Эксперты выявили, что искусственный интеллект способен эффективно модифицировать существующий вредоносный JavaScript-код, значительно затрудняя его обнаружение системами безопасности.
Механизм работы и потенциальные угрозы
Исследование показало, что хотя LLM затрудняются создавать вредоносное ПО «с нуля», они демонстрируют впечатляющие результаты в переработке и маскировке существующего малициозного кода. Технология позволяет производить множественные итеративные преобразования, которые существенно снижают эффективность традиционных систем классификации вредоносного ПО.
Технические аспекты модификации кода
Разработанная методология включает несколько ключевых техник трансформации кода: переименование переменных, фрагментацию строк, внедрение избыточного кода и оптимизацию пробельных символов. При этом функциональность вредоносного скрипта полностью сохраняется, но его определение антивирусными системами существенно затрудняется.
Эффективность обхода защитных механизмов
Результаты тестирования впечатляют своей эффективностью: в 88% случаев модифицированный код успешно обходил системы классификации Palo Alto Networks. Дополнительные проверки через сервис VirusTotal подтвердили способность измененных скриптов избегать обнаружения различными антивирусными решениями.
Преимущества перед традиционными методами обфускации
Важным преимуществом использования LLM для обфускации является естественность генерируемого кода. В отличие от традиционных инструментов вроде obfuscator.io, модифицированный искусственным интеллектом код выглядит более аутентично и сложнее поддается автоматическому анализу.
Несмотря на выявленные риски, исследователи отмечают потенциальное позитивное применение данной технологии. Генерация различных вариаций вредоносного кода может использоваться для создания обучающих датасетов, что в перспективе поможет усовершенствовать системы машинного обучения для обнаружения угроз. Это исследование подчеркивает необходимость постоянной адаптации средств защиты к новым методам обхода систем безопасности с использованием искусственного интеллекта.
