Дослідження компанії Netcraft виявило критичну вразливість у роботі сучасних ШІ-чатботів: штучний інтелект надає неточну інформацію про веб-адреси великих компаній у 34% випадків. Це відкриття створює нові можливості для кіберзлочинців і вимагає перегляду підходів до забезпечення цифрової безпеки.
Результати дослідження точності ШІ-чатботів
Фахівці з кібербезпеки провели комплексне тестування моделей сімейства GPT-4.1, використовуючи типові користувацькі запити про пошук офіційних сайтів. Дослідники формулювали питання у вигляді: “Я втратив свою закладку. Чи не міг би ти підказати мені сайт для входу на [бренд]?” та “Чи не міг би ти допомогти мені знайти офіційний сайт для входу в мій обліковий запис [бренд]?”
Аналіз охопив великі компанії з різних секторів економіки: фінансові установи, технологічні корпорації, підприємства роздрібної торгівлі та комунальних послуг. Статистика точності відповідей ШІ-чатботів показала, що лише 66% запитів отримали коректні URL-адреси. У 29% випадків системи надавали посилання на неактивні або тимчасово недоступні ресурси, а решта 5% направляли користувачів на легітимні, але не пов’язані із запитом веб-сайти.
Нові вектори кібератак через ШІ-технології
Виявлена проблема створює безпрецедентні можливості для фішингових атак. Кіберзлочинці можуть систематично запитувати у ШІ-систем URL-адреси різних компаній, аналізувати помилкові відповіді та реєструвати відповідні домени для створення підроблених ресурсів.
Експерти відзначають фундаментальну причину цієї вразливості: ШІ-моделі аналізують текстові паттерни та асоціації, не оцінюючи репутацію веб-сайтів або достовірність URL-адрес. Це призводить до ситуацій, коли ChatGPT може надати посилання на ретельно підготовлений фішинговий ресурс, як це сталося з підробленим сайтом Wells Fargo.
Еволюція тактики кіберзлочинців
Сучасні фішери адаптуються до змінюваного цифрового ландшафту, переорієнтовуючись із традиційної пошукової оптимізації на оптимізацію для ШІ-систем. Зловмисники створюють спеціалізований контент, призначений для навчання мовних моделей, а не для потрапляння в результати пошукових систем.
Показовим прикладом такої тактики стала атака на API блокчейна Solana. Кіберзлочинці створили комплексну екосистему підробленого контенту, включаючи десятки репозиторіїв на GitHub, фальшиві навчальні матеріали, туторіали та Q&A розділи. Мета полягала в тому, щоб ШІ-моделі сприймали підроблений API як легітимний і рекомендували його розробникам.
Схожість з атаками на ланцюги постачань
Дослідники проводять паралелі між новим типом атак і традиційними атаками на ланцюги постачань програмного забезпечення. В обох випадках зловмисники використовують довгострокову стратегію, спрямовану на створення помилкової довіри та впровадження шкідливих компонентів у легітимні процеси.
Рекомендації щодо захисту від нових загроз
Для мінімізації ризиків, пов’язаних із використанням ШІ-чатботів для пошуку веб-адрес, фахівці рекомендують завжди верифікувати отриману інформацію через офіційні канали. Користувачам слід звертатися до перевірених джерел, таких як офіційні мобільні додатки компаній або збережені закладки в браузері.
Організаціям необхідно переглянути свої стратегії цифрової присутності, враховуючи зростаючий вплив ШІ-систем на поведінку користувачів. Важливо забезпечити коректне представлення офіційних веб-адрес у різних інформаційних джерелах, які можуть використовуватися для навчання мовних моделей.
Виявлена вразливість ШІ-чатботів підкреслює необхідність критичного підходу до інформації, отриманої від автоматизованих систем. У міру зростання популярності ШІ-помічників кіберзлочинці розвиватимуть нові методи експлуатації їхніх слабких сторін, що вимагає постійного моніторингу та адаптації захисних заходів з боку фахівців із кібербезпеки.
