ИИ-браузеры под угрозой: новые уязвимости в системах с искусственным интеллектом

CyberSecureFox 🦊

Революционные браузеры с интегрированными ИИ-агентами, способные автономно выполнять сложные онлайн-задачи, оказались крайне уязвимыми перед широким спектром кибератак. Исследование компании Guardio выявило критические недостатки в системах безопасности таких решений, которые могут привести к серьезным финансовым потерям и компрометации персональных данных пользователей.

Технология ИИ-агентов в современных браузерах

ИИ-агенты представляют собой автономные системы искусственного интеллекта, интегрированные непосредственно в браузер. Они способны самостоятельно навигировать по интернету, осуществлять покупки, управлять электронной почтой, бронировать билеты и заполнять различные формы без участия пользователя.

В настоящее время наиболее заметным представителем этого направления является браузер Comet, разработанный командой Perplexity. Параллельно Microsoft интегрирует агентские функции в Edge через Copilot, а OpenAI активно работает над собственной платформой под кодовым названием «Aura».

Критические уязвимости в системах безопасности

Комплексное тестирование Guardio продемонстрировало, что современные ИИ-браузеры подвержены как традиционным методам кибератак, так и новым угрозам, специально адаптированным для систем искусственного интеллекта.

Атака через поддельные интернет-магазины

В ходе первого эксперимента исследователи создали фальшивый сайт Walmart с помощью платформы Lovable. При получении задачи приобрести Apple Watch, браузер Comet автоматически завершил покупку, введя данные банковской карты и адрес доставки без дополнительной верификации подлинности сайта или запроса подтверждения у пользователя.

Фишинговые атаки нового поколения

Второй тест продемонстрировал уязвимость ИИ-систем перед социальной инженерией. Поддельное письмо от имени банка Wells Fargo с фишинговой ссылкой было воспринято Comet как легитимное сообщение. Система не только перешла по вредоносной ссылке, но и предложила пользователю ввести конфиденциальные банковские данные на поддельной странице.

Инъекции промптов через ClickFix-атаки

Наиболее изощренная атака использовала модифицированную ClickFix-методологию с внедренными в HTML-код скрытыми инструкциями для ИИ-агента. Браузер интерпретировал эти команды как легитимные директивы и выполнил клик по поддельной CAPTCHA, инициировав загрузку вредоносного программного обеспечения.

Эволюция киберугроз в эпоху ИИ

Появление ИИ-браузеров фундamentально изменяет ландшафт кибербезопасности. Как отмечают аналитики Guardio, злоумышленникам больше не требуется обманывать миллионы пользователей индивидуально — достаточно скомпрометировать одну ИИ-модель, после чего атака может масштабироваться практически бесконечно.

Особую опасность представляет доступность тех же ИИ-моделей для киберпреступников, что позволяет им «тренировать» вредоносные системы против защитных механизмов до достижения максимальной эффективности атак.

Рекомендации по безопасности

В свете выявленных уязвимостей эксперты настоятельно рекомендуют пользователям избегать делегирования критически важных задач ИИ-агентам. Банковские операции, онлайн-покупки и доступ к корпоративной электронной почте должны оставаться под непосредственным контролем человека.

Передача конфиденциальной информации — учетных данных, финансовых деталей, персональных данных — автоматизированным системам в настоящее время представляет неоправданный риск. Ручной ввод критически важной информации остается наиболее безопасным подходом.

Текущее состояние технологии ИИ-браузеров демонстрирует классический конфликт между инновациями и безопасностью. Несмотря на впечатляющие возможности автоматизации, существующие решения требуют кардинального усиления защитных механизмов перед массовым внедрением. Пользователям следует проявлять максимальную осторожность при работе с такими системами, особенно при выполнении операций, связанных с финансами и персональными данными.

Оставьте комментарий

Этот сайт использует Akismet для борьбы со спамом. Узнайте, как обрабатываются ваши данные комментариев.