Може ли изкуственият интелект да уволни шефа или да изпразни сметките на компанията?

Защо водещи експерти съветват да не се дава твърде много власт на алгоритмите.

Изкуственият интелект, който се превърна в незаменим помощник в бизнеса, все повече се възприема като потенциален източник на вътрешни заплахи. Според Уенди Уитмор, ръководител на отдела за анализ на сигурността в Palo Alto Networks, през 2026 г. именно автономните AI агенти могат да се окажат най-голямата заплаха за компаниите отвътре.

Рязкото нарастване на броя на тези агенти в корпоративната среда притеснява експертите. Анализаторите на Gartner прогнозират, че до края на 2026 г. специализираните системи с изкуствен интелект ще обработват 40% от корпоративните приложения. През 2025 г. тази цифра не достигна дори 5%. Подобна динамика, от една страна, спомага за частичното компенсиране на недостига на кадри в областта на информационната безопасност, но от друга страна, създава нови рискови вектори.

AI агентите ускоряват обработката на логовете, откриването на заплахите и отстраняването на уязвимостите и позволяват на анализаторите да се съсредоточат върху стратегическите задачи. Но автоматизацията отвъд контрола е свързана с цената на това, че системите, предназначени за защита, могат сами да станат уязвими. Особено ако им се предоставят широки права на достъп, което води до ефекта на „суперпотребителя“ – когато на агента се дава възможност да контролира критични ресурси без знанието или участието на специалисти по сигурността.

Уитмор подчертава значението на свеждането до минимум на правата за достъп на AI – следвайки същите принципи, които се прилагат за обикновените служители. Проблемът се усложнява от факта, че отделните компании вече тестват сценарии, при които ИИ одобрява финансовите транзакции и подписва документи вместо ръководителите.

Макар че подобни технологии подобряват управлението, те създават и рискове от неправомерно поведение на служителите. Достатъчна е една успешна атака, например чрез въвеждане на злонамерени намеци или използване на уязвимости, за да започне AI да действа в полза на нападателите – да одобрява преводи, да изтрива резервни копия или да събира чувствителни данни.

Опасността от подобни сценарии вече е потвърдена от практиката. През 2025 г. анализаторите на Palo Alto Networks регистрираха случаи, в които киберпрестъпници са използвали AI за автоматизиране на атаките и генериране на нови хакерски техники. В една такава кампания, наречена „Anthropic attack“ (антропична атака), китайска група използва AI инструмента Claude Code, за да събере информация от редица организации.

Нападателите започнаха активно да се насочват към езиковите модели в корпоративните системи, заобикаляйки обичайните стъпки на атаката, като например получаването на контрол над контролер на домейн. Това предполага, че AI може не само да засили атаката, но и да промени изцяло нейното естество.

Според Уитмор внедряването на AI напомня на миграцията към облака, започнала преди две десетилетия. Тогава най-големите нарушения на сигурността на данните не се дължаха на самата технология, а на лошата конфигурация и недостатъчната защита. Ситуацията е подобна и при AI. Докато разработването на нови модели изпреварва развитието, мерките за сигурност изостават.

С нарастващата автономност на AI агентите най-важната задача е да се въведат основни правила: ограничаване на правомощията, проследяване на действията и своевременно откриване на аномалии. Без тях AI може да се превърне от инструмент за защита в пълноправен дигитален инсайдер.