ИИ-агент в Windows 11 ще може да изтегля вируси, предупреждава Microsoft

Microsoft публикува сериозно предупреждение относно възможностите на изкуствения интелект, които скоро ще се появят в Windows 11 — потребителите се съветват да активират функцията само ако „осъзнават последиците за сигурността“ и поради потенциалните заплахи, тя ще бъде деактивирана по подразбиране.

Microsoft възнамерява евентуално да трансформира Windows 11 в операционна система с разширено присъствие на AI-агенти. Въпреки че инициативата не е всеобщо приета от потребителската общност, компанията упорито продължава с визията си и сега е на прага на пускането на първите пълноценни функции на ИИ-агенти в платформата. „Тази настройка може да бъде активирана само от администратор на устройството и след като бъде активирана, тя ще стане достъпна за всички потребители на устройството, включително и останалите администратори и обикновени потребители“ — отбелязва компанията.

Когато AI-агентът е активен, той има ограничен достъп до папката с потребителския профил (C:\Users\username\), както и до стандартните папки за изтегляне, документи, снимки, видеоклипове, музика и работния плот. За да изпълнява работата си обаче, той осъществява достъп до собствено ново работно пространство – има собствена защитена работна среда, но с достъп до софтуера и файловете на потребителя. Това е свързано с определени рискове. „AI приложенията създават нови заплахи за безопасността, като например Cross-query injection (XPIA), при които вградено в потребителския интерфейс или документите злонамерено съдържание може да отмени инструкциите към агента, което води до нежелани действия, включително кражба на данни или инсталиране на зловреден софтуер“ — предупреждава Microsoft.

В светлината на тази заплаха, компанията очерта редица принципи, които възнамерява да следва при разработването на агенти в Windows, включително осигуряване на постоянна видимост на ИИ-инструментите и изискване за одобрение от страна на потребителя за всички решения, свързани с изкуствения интелект. „В агентите трябва да има възможност за създаване на описващи действията им журнали. Windows трябва да има възможност за проверка на тези действия с помощта на журнала, който е защитен от несанкциониран достъп“ — отбелязва разработчикът.

Първите предварителни версии на Windows 11 станаха достъпни за тестерите вчера, въпреки че приложенията все още не поддържат тази функция. Скоро в агентското пространство ще може да работи и ИИ-асистентът Copilot, последван от други AI-приложения.