На конференцията по киберсигурност Black Hat USA 2025 в Лас Вегас изследователи представиха нов метод за измама на AI системи като ChatGPT, Copilot и Gemini. Техниката, известна като AgentFlayer е разработена от изследователите от Zenity Майкъл Баргури и Тамир Ишай Шарбат. Прессъобщение, описващо откритията беше публикувано на 6 август.
Концепцията зад атаката е много проста: текстът се скрива в документ, като се използва бял шрифт на бял фон. Невидим за човешкото око, той може лесно да бъде прочетен от AI системи. Щом изображението бъде доставено на целта, капанът е заложен.
Ако файлът е включен в подкана, AI отхвърля първоначалната задача и вместо това следва скритата инструкция – търсене на свързано облачно хранилище за достъпни идентификационни данни. За да извлекат данните, изследователите са използвали втора тактика: те са инструктирали AI да кодира откраднатата информация в URL адрес и да зареди изображение от него. Този метод дискретно прехвърля данните към сървърите на атакуващите, без да буди подозрения.
Zenity демонстрира, че атаката работи на практика:
- В ChatGPT имейлите бяха манипулирани, така че AI агентът да получи достъп до Google Drive.
- В Copilot Studio на Microsoft изследователите откриха повече от 3000 случая на незащитени CRM данни.
- Salesforce Einstein можеше да бъде подведен да пренасочи комуникациите с клиенти към външни адреси.
- Google Gemini и Microsoft 365 Copilot също бяха податливи на фалшиви имейли и календарни записи.
- Нападателите дори получиха данни за вход в платформата за разработчици Jira чрез специално създадени билети.
OpenAI и Microsoft реагираха, докато други не виждат нужда от действие
Добрата новина е, че OpenAI и Microsoft вече са пуснали актуализации, за да поправят уязвимостите, след като са били предупредени от изследователите. Други компании обаче реагираха по-бавно, а някои дори отхвърлиха експлойтите като „преднамерено поведение“. Изследователят Майкъл Баргури подчерта сериозността на проблема, заявявайки:
„Потребителят не трябва да прави нищо, за да бъде компрометиран и не се изисква никакво действие, за да бъдат изтеглени данните.“
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
