Експерт з кібербезпеки Mozilla 0Din Марко Фігероа виявив низку критичних вразливостей у системі безпеки ChatGPT, які дозволяють отримати неавторизований доступ до файлової системи та виконувати довільний код всередині пісочниці. Особливе занепокоєння викликає можливість доступу до конфіденційних системних файлів та інструкцій штучного інтелекту.
Детальний аналіз виявлених вразливостей
У ході дослідження було ідентифіковано п’ять критичних векторів атаки на систему безпеки ChatGPT. Найбільш небезпечною виявилася можливість прямої взаємодії з файловою системою пісочниці через стандартні команди Linux. Дослідник продемонстрував здатність отримувати доступ до системних директорій, включаючи критично важливу папку /home/sandbox/.openai_internal/, яка містить конфігураційні дані платформи.
Технічні аспекти експлуатації вразливостей
Виявлені вразливості дозволяють завантажувати файли до директорії /mnt/data з подальшим їх виконанням. Особливо небезпечною є можливість запуску Python-скриптів всередині ізольованого середовища. Хоча дослідник свідомо утримався від спроб повного подолання захисту пісочниці, потенційні ризики компрометації системи залишаються значними.
Компрометація системних інструкцій ChatGPT
Одним із найсерйозніших відкриттів стала можливість отримання несанкціонованого доступу до внутрішнього плейбуку ChatGPT через методи промпт-інжинірингу. Цей документ містить критичні інструкції щодо поведінки та реагування чат-бота, що створює потенціал для обходу вбудованих механізмів безпеки та політик використання.
Реакція OpenAI та оцінка ризиків
Попри серйозність виявлених проблем, реакція OpenAI викликає занепокоєння у спільноті фахівців з кібербезпеки. Компанія розглядає можливість виконання коду в пісочниці як передбачену функціональність, а не вразливість. Наразі представники OpenAI вивчають порушені питання, проте конкретного плану щодо усунення виявлених загроз не представлено.
Це дослідження демонструє критичну необхідність перегляду підходів до безпеки систем штучного інтелекту. Хоча пісочниця ChatGPT забезпечує базовий рівень ізоляції, виявлені вразливості створюють серйозні ризики для конфіденційності даних та цілісності системи. Експерти наполягають на впровадженні додаткових механізмів захисту та регулярному проведенні незалежного аудиту безпеки для запобігання потенційним кібератакам.
