Gartner с предупреждение към компаниите за опасностите от AI браузърите

Публикуван наскоро доклад от страна на Gartner предупреждава компаниите да се въздържат от използването на т.нар. „AI браузъри“.

„Настройките по подразбиране в AI браузърите отдават приоритет на потребителското преживяване пред сигурността“, пишат Gartner. В анализа си към Atlas на OpenAI и Comet на Perplexity, Gartner посочват два конкретни риска тук.

Те са свързани със страничните AI ленти и автономното извършване на действия от името на потребителя, докато е вписан в различни услуги.

Лентата обобщава, търси, превежда и си взаимодейства с уеб съдържание чрез AI услуги. При втория род рискове или т.нар. „агентни транзакции“, браузърът самостоятелно навигира, взаимодейства и завършва дадени задачи в сайтовете в уеб сесии, в които потребителят се е авторизирал пред различни услуги.

От Gartner предупреждават, че страничните ленти изпращат често чувствителни данни към облака на доставчика на AI услугата. Това включва активно уеб съдържание, история на браузването и отворени табове. По този начин се увеличава риска от открито излагане на информация. Освен, ако не са променени различни настройки за поверителност и сигурност.

На първо място, пишат Gartner, компаниите трябва да инспектират функционирането на бекенд структурата на съответната услуга. Заедно с това, те трябва да проведат надлежно обучение над служителите си. Особено, ако става дума за високо чувствителна информация. „Образовайте потребителите, че всичко, което разглеждат може потенциално да се изпрати към бекенд инфраструктурата на услугата. Нека се уверят, че нямат таб, в който има изложена високо чувствителна информация докато използват страничната AI лента“.

Ако отговорните фактори в организациите решат, че бекенд компонента на тези браузъри не е безопасен, то те трябва да забранят на служителите си да свалят и използват приложенията. Опасностите относно тези браузъри са различни. Така например, AI браузърът може автономно да посети фишинг сайт и да му предостави чувствителни данни. Те също така са податливи на различни по род, специфични атаки.

Като например погрешни действия, произтичащи от грешна логика в разсъждението на агентите. И непряко инжектирани промпт-инструкции от агента. Пример за подобен род атаки е умишленото вграждане на злоумишлени инструкции в документ, имейл или сайт, който агентът трябва да достигне и обработи. В такъв и сходни случаи, агентът неволно се явява атакуващата страна. Друга опасност тук се явява погрешни действия, причинени от модела на разсъждения на модела. Проблемът възниква при погрешен дизайн в процеса на разсъждение или т.нар. „верига на мисълта“. Това касае извеждането на погрешно заключение, сгрешено интерпретиране на инструкциите и др. Това на свой ред може да доведе до напълно погрешни резултати и отговори (т.нар. „халюциниране“). Опасност представлява и риска от „каскаден провал“. Едно привидно незначително грешно действие на агента да бъде последвано от многобройни по-големи сгрешени отговори и цялостно погрешен резултат.