Установено е, че в ChatGPT има уязвимост, която позволява на потенциален нападател да инжектира фалшива информация в дългосрочната памет на чатбота за даден потребител, като използва злонамерени запитвания, което позволява достъп до личните данни на жертвата. OpenAI първоначално счита откритието, направено от експерта по киберсигурност Йохан Рехбергер за незначителна заплаха и бързо приключва разследването.
Чрез използване на уязвимостта нападателят може да получи достъп до дългосрочната памет на кореспонденцията – функция, която OpenAI започна да тества през февруари и пусна публично през септември.
Паметта на ChatGPT съхранява важна информация от кореспонденцията с потребителя и я използва като контекст във всички бъдещи диалози. Големият езиков модел знае информация за потребителя, като например неговата възраст, пол, убеждения и други, така че не е необходимо да се въвеждат тези данни във всяка следваща кореспонденция.
Райбергер обаче открива, че чрез използване на непряка инжекция в заявка е възможно да се създадат изкуствени записи в паметта на ChatGPT – такива инжекции могат да бъдат имейли, публикации в блогове и електронни документи. Изследователят демонстрира как ChatGPT може да бъде заблуден да вярва, че целевият потребител е на 102 години, живее в „Матрицата“ и смята, че Земята е плоска. Във всички следващи разговори с потребителя изкуственият интелект се основава на тези лъжи. Фалшивите спомени бяха вградени чрез файлове в хранилищата на Google Drive и Microsoft OneDrive, изтегляне на файлове и сърфиране в сайтове, включително Bing.
През май експертът съобщава за откритието си на OpenAI, но компанията затваря жалбата още същия месец.
Месец по-късно Райбергер подава вторa жалба, към която прилага хакерски модел – той кара приложението ChatGPT macOS да изпраща цялата кореспонденция на потребителя с чатбота на сървър, избран от потенциален атакуващ. За да се направи това било достатъчно да се каже на изкуствения интелект да отвори връзка, която изтегля зловредно изображение – след това хакерът получава всички логове на диалозите между човека и машината. Извличането на данни продължавало дори когато се стартирала нова кореспонденция.
Впоследствие OpenAI частично закърпи уязвимостта, затваряйки възможността за използване на функцията на паметта като вектор за извличане на данни. Според Райбергер обаче възможността за това чрез инжектиране като част от злонамерени заявки все още остава. На потребителите на ChatGPT се препоръчва да отбелязват времето на сесиите, в които в паметта на изкуствения интелект се добавя нов материал и редовно да проверяват паметта за инжекции от ненадеждни източници. OpenAI е подготвила инструкции за управление на функцията памет.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
