Аналитиците на Gartner: още сега премахнете всички браузъри с изкуствен интелект

Навярно нямате представа какво правят AI агентите зад гърба ви.

Аналитичната компания Gartner призова организациите временно да спрат да използват браузъри с вградени AI функции. В неотдавнашна консултация компанията посочва, че този тип инструменти създават прекомерни рискове за корпоративната сигурност, а настройките им по подразбиране са насочени по-скоро към удобството, отколкото към защитата на данните.

Gartner подчертава, че под браузъри с вграден изкуствен интелект се разбират решения като Comet на Perplexity и ChatGPT Atlas на OpenAI, които разполагат със странична лента с възможности за автоматичен анализ на уеб страниците, както и с механизми, които позволяват на софтуера самостоятелно да навигира в сайтовете и да извършва действия в оторизирани сесии.

Според авторите на доклада този подход води до изпращане на съдържанието на активните табове, историята на сърфиране и други елементи на работната среда към облачната инфраструктура на разработчика, което увеличава вероятността от изтичане на данни. За да се намалят рисковете, компанията съветва да се проучи внимателно архитектурата на използваните услуги за изкуствен интелект и да се оценят техните мерки за сигурност, но дори и при положителен резултат е необходимо да се гарантира, че служителите не държат отворени чувствителни данни, докато страничната лента се използва.

Екипът на Gartner посочва и уязвимостта на такива браузъри към скрита намеса чрез подмяна на командите, което може да доведе до неправилно поведение на агента, пренасочване към фишинг ресурси и последващо компрометиране на идентификационните данни. Допълнителна заплаха е възможността за автоматизиране на рутинните процеси: служителите могат да се опитат да възложат на браузъра да изпълнява задължителните модули за обучение или други задачи, които изискват лично участие. Възможни са и грешки при взаимодействието с вътрешните системи за обществени поръчки, които могат да доведат до некоректни оферти или поръчка на неподходящи стоки и услуги.

Авторите на документа предлагат частични мерки, включително ограничаване на функциите на пощата и забрана за съхранение на данни. Въпреки това те стигат до заключението, че докато не бъде извършена цялостна оценка на риска, е по-добре да се блокират напълно такива инструменти, а дори и след одита вероятно ще се наложи да се изготви разширен списък с неприемливи сценарии и редовно да се следи за спазването на тези ограничения.