OpenAI представи Lockdown Mode: режим за повишена безопасност

Не е тайна, че задвижваните от изкуствен интелект технологии в последно време поемат все по-сложни задачи, особено тези, свързани с уеб-технологиите. Това променя изискванията за сигурност, тъй като проблемът с инжектирането на зловреден софтуер от трети страни напоследък се превърна в належащ проблем. Нападателите могат да се опитат да подведат ИИ-системите да следват злонамерени инструкции или дори да разкрият чувствителна потребителска информация. За да предотврати това, OpenAI представи два нови механизма за сигурност.

Тези инструменти са създадени специално за подобряване на потребителската безопасност и намаляване на риска от атаки чрез инжектиране. В тази връзка беше представен Lockdown Mode в ChatGPT – допълнителна разширена настройка за сигурност, предназначена за малка група потребители, които са загрижени за безопасността на данните си. Например, според компанията, тази нова функция ще бъде интересна за ръководители или отдели по сигурността в големи организации, които се нуждаят от подобрена защита срещу сложни заплахи. Този режим значително ограничава взаимодействието на чатбота ChatGPT с външни системи, за да намали риска от изтичане на данни чрез злонамерено инжектиране.

„Lockdown Mode деактивира определени инструменти и функции на ChatGPT, които нападателите биха могли да използват, за да откраднат чувствителни данни от разговорите на потребителя или свързаните приложения“ —- се казва в прессъобщение на компанията.

Например, сърфирането в интернет в този режим е ограничено до кеширано съдържание, така че не се правят заявки към мрежата в реално време и те никога не напускат контролираната от OpenAI мрежа. Това е необходимо, за да се предотврати изтичането на чувствителни данни, но, изненадващо, компанията заяви, че този режим не е необходим за обикновените потребители.

Освен това, компанията твърди, че въпреки че OpenAI е инвестирала сериозно в сигурността, някои възможности на AI все още представляват определени рискове. Системата вече ще уведомява потребителите за тези рискове.

„Някои потребители са склонни да приемат тези рискове – и ние вярваме, че потребителите трябва да могат сами да решат как да процедират, особено що се отнася до управлението на личните им данни“ —- се казва в прессъобщението.

За да ви предупреди относно рисковете за сигурността при използване на определени функции, системата ще показва специален маркер „Повишен риск“ във всички приложения на OpenAI — ChatGPT, ChatGPT Atlas и Codex.