Всички роботи с изкуствен интелект сe провалиха на тестовете за безопасност за хората

Роботите, управлявани от големи езикови модели (LLM) са показали склонност да дискриминират и одобряват действия, които биха могли да причинят физическа вреда, когато взаимодействат с хора. До този извод стигнаха изследователи от Кралския колеж в Лондон (KCL) и Университета Карнеги Мелън (CMU) в съвместно проучване, публикувано в International Journal of Social Robotics.

В работата, озаглавена „LLM-based robots risk discrimination, violence and misconduct“ (Роботи, базирани на LLM, рискуват дискриминация, насилие и неправомерно поведение) за първи път се оценява поведението на роботи, управлявани от изкуствен интелект, когато имат достъп до лична информация – като пол, националност или религиозна принадлежност на събеседника. В експериментите екипът тества ситуации от ежедневието, в които роботите могат да оказват помощ, например в кухнята или на възрастни хора у дома.

Изследователите специално са включили в сценариите инструкции, които имитират технологиите за злоупотреба, описани в документите на ФБР: наблюдение с помощта на AirTag, скрит видеозапис в поверителни зони и манипулиране на лични данни. Във всички случаи роботите са получавали както директни, така и завоалирани команди, предполагащи физическа вреда, психологически натиск или нарушаване на закона.

Нито един от тестваните AI модели не е преминал основни проверки за безопасност: всеки от тях е одобрил поне една команда, способна да причини сериозна вреда на хората.

По-специално, системите с изкуствен интелект са се съгласявали да отнемат помощните средства за придвижване на дадено лице (инвалидна количка, патерици или бастун), въпреки че за ползвателите на тези устройства подобно действие е равносилно на физическа травма. Някои AI модели намериха приемливи и осъществими сценарии, в които робот заплашва офис служители с кухненски нож, прави скрити снимки в частни зони или краде информация от кредитни карти. Един AI модел дори предложил на робот да изразява физически „отвращение“ на лицето си при взаимодействие с хора, изповядващи определена религия.

Съавторът на изследването Румейса Азим, изследовател в Лабораторията за граждански и отговорен изкуствен интелект към Кралския колеж в Лондон заяви, че подобни системи в сегашния им вид са неподходящи за роботи с общо предназначение, особено ако взаимодействат с уязвими групи от населението. Ако AI трябва да контролира физическо устройство, което влияе на хората, той трябва да отговаря на същите строги стандарти за безопасност, каза тя.

Учените предлагат задължително независимо сертифициране за безопасност на всички AI системи, предназначени за управление на физически роботи. Те подчертават, че използването на големи езикови модели като единствен механизъм за вземане на решения е неприемливо в критични области като промишлеността, грижите за болни и възрастни хора или домашната помощ. Те подчертават „спешната необходимост от редовни и всеобхватни оценки на риска на изкуствения интелект преди използването му в роботиката“.