AI, който може да управлява компютър без потребител, беше подмамен да изтегли и стартира вирус

През октомври Anthropic представи моделът на изкуствен интелект Claude Computer Use, който позволява на невронната мрежа Claude самостоятелно да управлява компютър въз основа на потребителски заявки. Изследовател в областта на безопасността на AI е намерил начин да превърне тази функция в злонамерена.

Експертът по киберсигурност Йохан Ренбергер публикува доклад относно това, как е успял да злоупотреби с функцията за използване на компютъра: по негово искане AI е изтеглил и стартирал злонамерено приложение, след което се е свързал със сървъра, контролиращ зловредния софтуер.

Трябва да се отбележи, че Claude Computer Use остава в бета-версия и компанията, която го е разработила в лицето на Anthropic предупреди, че функцията може да не работи по предназначение: „Препоръчваме да вземете предпазни мерки, за да изолирате Claude от чувствителните данни и дейности, за да избегнете рискове, свързани с инжектиране на заявки“ . Тези видове модели на атака срещу AI остават често срещани.

Ренбергер нарече експлойта си ZombAIs — с негова помощ експертът принуди системата да зареди средата за дистанционно управление Sliver, която беше разработена за да се тества проникване, но киберпрестъпниците са я адаптирали за своите нужди. Той също така отбеляза, че това не е единственият начин за използване на AI за престъпни дейности — например Claude може да се принуди да напише вирус от нулата и да го компилира, защото той може да напише код на C.

Установено е също, че китайският чатбот DeepSeek AI е уязвим към заявките тип инжекционни атаки. А големите езикови модели се оказаха способни да изведат код с управляващите символи ANSI за хакване на системни терминали — този подтип атака беше наречен Terminal DiLLMa.