Microsoft призна, че AI агентите не са безопасни, но въпреки това ще напълни Windows 11 с тях

Неотдавна ръководителите на Microsoft многократно заявиха, че в бъдеще Windows 11 ще разполага с повече агенти с изкуствен интелект, които ще изпълняват различни задачи. Вътрешна документация на компанията обаче показва, че такива алгоритми могат да халюцинират (да представят невярна информация), да действат непредсказуемо и да се превърнат в инструмент при нови хакерски атаки. Въпреки всичко това софтуерният гигант продължава да прокарва в Windows 11 функции, базирани на AI агенти.

Ако Microsoft смята, че агентите с изкуствен интелект са толкова рискови, че изискват отделни акаунти, изолирани сесии и одиторски дневници, за да бъдат защитени от неоторизиран достъп, тогава е трудно да се обясни защо Windows 11 се превръща в полигон за тестване на технологията.

Важно е да се отбележи, че това се случва на фона на факта, че потребителите на операционни системи стават все по-уморени от широкото разпространение на функции, базирани на изкуствен интелект. В средата на октомври Microsoft обяви, че всеки компютър с Windows 11 в крайна сметка ще се превърне в компютър с изкуствен интелект. Компанията обяви едновременно няколко интеграции на AI, които трябва да позволят на технологията да „общува“ с компютъра, да показва на AI съдържанието на екрана и да го инструктира да действа от негово име. По същество Microsoft иска потребителите да заменят натискането на клавишите и кликането на мишката с естествен език. Първоначално това се реализира чрез въвеждането на Copilot Voice и Copilot Vision, както и на Copilot Actions.

Последните промени в операционната система превръщат лентата със задачи на Windows 11 в своеобразен център на подсистемата за изкуствен интелект. Полето за търсене е заменено от интерфейса Ask Copilot, който ви позволява да стартирате AI агенти или асистента Copilot с едно кликване или текстова команда.

След като бъдат активирани, AI агентите ще изпълняват задачи във фонов режим и потребителят може да проследява процеса директно в лентата на задачите, сякаш са обикновени приложения. Въпреки че AI агентите са достъпни по избор и функционалността им е силно ограничена, пътната карта на Microsoft дава ясна представа – те са следващият ключов етап от развитието на Windows.

Положително е, че Microsoft не се опитва да представи тези нововъведения като нещо напълно безопасно. В официалната документация на компанията се посочва, че агентите с изкуствен интелект „имат функционални ограничения по отношение на поведението си, понякога могат да халюцинират и да дават непредсказуеми резултати“.

Освен това агентите с изкуствен интелект са уязвими към атаки с инжектиране на подкани (XPIA), както и към злонамерени подкани и зловреден софтуер. Един от най-големите рискове, които Microsoft вижда са атаките XPIA, при които нападателят скрива злонамерени инструкции в елементи на потребителския интерфейс, документи или приложения, с които AI агентът взаимодейства. Този подход може да позволи пренасочване на първоначалните инструкции на агента и да го накара да извърши злонамерени действия, като например копиране на чувствителни данни.

Изследователи в областта на информационната сигурност вече предупредиха, че агентите с изкуствен интелект, работещи чрез графичен интерфейс са уязвими към този тип атаки. Причината за това е, че на агентите се предоставят високо ниво на привилегии на устройството, за да изпълняват задачите си. Microsoft осъзнава това, но не се отказва от идеята за по-нататъшно внедряване на агенти с изкуствен интелект. Очевидно потребителите, които смятаха, че скандалната функция Recall е кошмар за неприкосновеността на личния живот, няма да се зарадват на агентите с изкуствен интелект, тъй като те представляват значително по-голяма заплаха.

Microsoft настоява агентите да работят под отделни акаунти, да имат ограничени права и да са защитени от извършване на неоторизирани промени в инструкциите. В същото време компанията предоставя на агентите права за четене и запис в личните папки на потребителя, като например „Документи“, „Изтегляне“, „Изображения“, „Видеоклипове“ и други“.

Ако Microsoft иска агентите с изкуствен интелект да взаимодействат с приложенията и файловете като истински потребители, трябва по някакъв начин да избегне сриването на системата под собствената ѝ тежест.

За тази цел разработчиците са създали работното пространство за агенти, което е в основата на „операционната система за агенти“. Всичко, което компанията обеща, включително алгоритми с изкуствен интелект, които могат да взаимодействат с приложения, да редактират файлове, да преместват файлове и да изпълняват многоетапни задачи работи само защото Windows 11 може да създава изолирани сесии, в които AI агентите да работят. Това не е като виртуална машина, защото Agent Workspace е паралелна среда на Windows със собствен акаунт, работен плот, дърво на процесите и ограничени права.

Осигуряването на отделно работно пространство за агентите с изкуствен интелект е първият опит на Microsoft да им предостави „място за съществуване“ в рамките на Windows, като същевременно ги държи извън потребителската сесия. Всеки агент получава отделен акаунт на компютъра, а Windows държи такива КМ под контрол, като разрешава само онези действия, за които е дадено изрично разрешение от потребителя. Подобни ограничения са отговорът на Microsoft на опасения, за които самата компания е предупреждавала.

В изолираното пространство агентът с изкуствен интелект взаимодейства с приложенията точно като потребител. Той може да щраква върху бутони в интерфейса, да въвежда текст в полета, да превърта страници, да премества файлове и т.н. AI отговаря за логиката зад тези действия. Той е отговорен за логиката зад тези действия. Функцията Copilot Actions вече използва този модел. Вместо да се обръща към базиран в облака AI модел, например за генериране на текст, агентът изпълнява действията самостоятелно, като използва софтуер, инсталиран на компютъра.

Ето защо Microsoft отделя отделни сесии за тази цел. Ако агентът с изкуствен интелект изтълкува погрешно подкана или в някой обект, с който взаимодейства, се съдържат злонамерени инструкции, щетите технически се ограничават до пространството, което Windows контролира и в рамките на което се регистрира всяко действие. Също така би трябвало да се предотврати проникването на агенти в системните директории, хранилищата за удостоверения и папките на приложенията, където неволното четене или писане може да наруши работата на продукта.

За да започнете да взаимодействате с агент с изкуствен интелект, трябва да активирате експерименталните функции на агента, които са деактивирани по подразбиране.

„Тази функция сама по себе си няма AI възможности, тя е функция за сигурност за агенти като Copilot Actions. Активирането на тази опция ви позволява да създадете отделен акаунт на агента и работно пространство на устройството, осигурявайки изолирана среда за отделяне на дейността на агента от дейността на потребителя.“

се казва в описанието на Microsoft

За контрол на достъпа Microsoft използва протокола Model Context Protocol, който е позициониран като мост между агентите и приложенията. По този начин агентите взаимодействат с инструментите в системата. MCP позволява на агента с изкуствен интелект да открива инструменти, да извиква функции, да чете метаданни за файлове и да взаимодейства с услуги. По този начин се предотвратява възможността за директен достъп и се предоставя на Windows централна точка за контрол, където се извършва удостоверяване, предоставяне на разрешения на инструментите и т.н. Без MCP агентът с изкуствен интелект би бил „сляп“ и Workspace го държи в безопасни граници.

Microsoft дори не обмисля да се откаже от внедряването на изкуствен интелект в Windows. Компанията иска да направи взаимодействието на потребителите с AI възможно най-естествено. Споменатата по-рано функция Recall беше нагледен пример за това как не трябва да се използва продукт с ИИ в настолна операционна система. Негативната реакция на потребителите беше толкова осезаема, че Microsoft беше принудена да отложи пускането на тази функция, която записва всички действия на потребителите в системата, да я преработи и да я направи незадължителна.

Въпреки това е съвсем очевидно, че Microsoft е направила своя избор. Изборът е да се преработи Windows 11 и да се интегрират агенти, които могат да изпълняват различни задачи. Компанията е достатъчно смела, за да осъзнае рисковете, и достатъчно уверена, за да продължи напред. Възможно е появата на операционни системи, базирани на агенти да е по същество неизбежна. Всяка голяма компания, занимаваща се с изкуствен интелект се движи към бъдеще, в което AI ще прави нещо повече от това да комуникира с потребителите.