Роботите с изкуствен интелект се оказаха невероятно податливи на хакерски атаки

Ново проучване на IEEE показва, че хакването на роботи с изкуствен интелект е също толкова лесно, колкото и подвеждането на чатботове. Учени са успели да накарат роботите да извършват опасни действия с помощта на прости текстови команди.

Според изданието HotHardware, докато хакването на устройства като iPhone или гейминг конзоли изисква специални инструменти и технически умения, хакването на големи езикови модели (LLM) като ChatGPT е много по-лесно. Достатъчно е да се създаде скрипт, който да заблуди изкуствения интелект, че дадена заявка е в рамките на възможното или че забраните могат временно да бъдат пренебрегнати. Например, достатъчно е потребителят да си представи забранена тема като част от уж безобидна „приказка за лека нощ“ за да може моделът да произведе неочакван отговор, включително инструкции за създаване на опасни вещества или устройства, които трябва незабавно да бъдат блокирани от системата.

Оказа се, че хакването на LLM е толкова просто, че с него могат да се справят дори обикновени потребители, а не само експерти по киберсигурност.

Ето защо Институтът на инженерите по електротехника и електроника (IEEE) – инженерна асоциация от САЩ изрази сериозна загриженост след публикуването на новото изследване, което показва, че роботите, управлявани от изкуствен интелект могат да бъдат хакнати по подобен начин. Учените са доказали, че подобни кибератаки могат например да накарат автономни автомобили да блъскат умишлено пешеходци.

Уязвимите устройства включват не само концептуални проекти, но и добре познати такива. Например, роботите Figure, демонстрирани наскоро в завода на BMW или кучетата роботи Spot на Boston Dynamics. Тези устройства използват технологии, подобни на ChatGPT и могат да бъдат подведени чрез определени заявки, водещи до действия, напълно противоположни на първоначалното им предназначение.

В експеримента изследователите атакуват три системи: робота Unitree Go2, автономния автомобил Clearpath Robotics Jackal и симулатора на безпилотен автомобил NVIDIA Dolphins LLM. При хакерската атака е използван инструмент, който автоматизира процеса на създаване на злонамерени текстови заявки. Резултатът е плашещ – и трите системи бяха успешно хакнати за няколко дни със 100-процентова ефективност.

В своето изследване IEEE цитира и учени от Университета на Пенсилвания, които отбелязват, че в някои случаи изкуственият интелект не само е изпълнявал злонамерени команди, но и е давал допълнителни препоръки. Например роботите, програмирани да търсят оръжия са предлагали и използването на мебели като импровизирани средства за нараняване на хора. Експертите подчертават, че въпреки впечатляващите възможности на съвременните ИИ-модели те си остават само прогнозни механизми, без да могат да разбират контекста или последиците от действията си. Ето защо контролът и отговорността за използването им трябва да останат в ръцете на хората.