ChatGPT се превърна в крадец на конфиденциалност на данни от файл без нито един клик

Съвременните чатботове, базирани на генеративни модели с изкуствен интелект, вече не се ограничават само до комуникацията с потребителя — те свободно се свързват с услуги на трети страни, за да предоставят персонализирани отговори на запитванията. ChatGPT може да бъде свързан с пощенската кутия в Gmail, хранилището в GitHub и календара в екосистемата на Microsoft. А нападателите могат да откраднат потребителски данни от тези платформи — всичко, което трябва да направят, е да подхвърлят на ChatGPT само един „отровен“ документ.

Експертите по киберсигурност Майкъл Баргъри и Тамир Ишай Шарбат демонстрираха на конференцията Black Hat в Лас Вегас как да се използва уязвимостта в услугата OpenAI Connectors за кражба на данни от платформи на трети страни. Атаката, която те нарекоха AgentFlayer, им позволи да извлекат секретни API ключове на разработчик от неговото облачно хранилище в Google Drive.

„Потребителят не е нужно да прави нищо, за да бъде компрометиран, и не е нужно да прави нищо, за да изпрати данните [на нападателите]. Показахме, че това се прави без нито един клик: просто ни е нужен имейл адрес, предоставяме документа и това е всичко. Така че да, много, много е лошо“ — цитира Wired Майкъл Баргури.

Атаката започва със споделяне от страна на нападателя на злонамерен документ с потенциалната жертва чрез Google Drive или с качване на документа от страна на жертвата в хранилището си. Документът съдържа набор от бележки от фиктивна среща с главния изпълнителен директор на OpenAI Сам Алтман, заедно със заявка към ChatGPT, написана с бял шрифт и с точка – малко вероятно да бъде видяна от човек, но със сигурност четлива от машина. Жертвата моли ChatGPT да създаде резюме на последната среща със Сам или друга личност. Скритата заявка гласи, че е възникнала „грешка“ и не трябва да се създава резюме; потребителят „всъщност“ е разработчик с наближаващ краен срок за проект и изкуственият интелект трябва да намери API ключове в Google Drive и да ги добави в края на посочения в заявката URL-адрес. Този URL-адрес всъщност е Markdown команда за свързване с външен сървър и изтегляне на изображение, съхранено там – но сега той съдържа откраднатия API ключ на жертвата.

Майкъл Баргури, по негови думи, тази година е съобщил за своите открития на OpenAI и компанията бързо е внедрила мерки за защита от атаки чрез услугата си Connectors. Механизмът позволява кражба само на ограничено количество информация в рамките на една сесия. Свързването на големи езикови модели с външни източници на данни разширява възможностите и ефективността на ИИ-инструментите, но е съпроводено със собствен набор от рискове, предупреждават експерти.