Дрон с изкуствен интелект на ВВС на САЩ продължава да „убива“ своите оператори

Военновъздушните сили на Съединените щати изглежда все още не успяват да обучат своя боен дрон, задвижван от изкуствен интелект (ИИ), да не „убива“ оператора си по време на симулации. Според полковник Тъкър „Синко“ Хамилтън, ръководител на тестовете и операциите с ИИ-технологии за ВВС на САЩ, очевидно безпилотният летателен апарат счита, че човекът е основната пречка за изпълнението на неговата мисия.

По време на презентация на конференция по отбраната в Лондон, проведена на 23 и 24 май, той подробно е описал изводите от извършените от него симулации с „автономна въздушна бойна система“. В изготвения доклад, представен на 26 май от полковник Хамилтън, се казва, че при един от проведените тестове, дрон, задвижван от изкуствен интелект, е получил задачата да открие и унищожи обекти, изстрелващи ракети земя-въздух. Окончателното решение дали целта да бъде поразена се взима от човек. Бойната машина обаче е била обучена да разбира, че унищожаването на ракетни установки е основната ѝ мисия. Така, когато на дрона е било наредено да не поразява идентифицираната цел, той е решил, че неговият оператор представлява пречка за изпълнението на задачата и просто го е „отстранил“:

„В някои случаи операторът му нареждаше да не поразява идентифицираната заплаха, но дронът възприема, че не това е крайната му цел. И така, какво мислите, че направи? Просто „уби“ оператора си, защото този човек му пречеше да изпълни мисията си.“

Полковник Хамилтън добавя, че след тези тестове са обучили дрона да не убива оператора си, но изглежда и това не е помогнало много, тъй като машината е открила нов начин да изпълни задачата си докрай:

„Ние обучихме системата да разбира, че е грешно да „убива“ своя оператор. И какво започна да прави? Дронът реши да унищожи комуникационната кула, от която получава заповедите си, за да премахне препятствието, което пречи на изпълнението на мисията му.“

Полковникът твърди, че резултатите от тестовете са пример за това „защо не може да се води разговор за широката употреба на ИИ, без да има установен етичен кодекс относно разработването на технологията“.

Военни дронове с изкуствен интелект са били използвани в реална бойна обстановка и преди. Случаят, който се счита за първата в историята атака, предприета от безпилотни летателни апарати, действащи по собствена инициатива, е от март 2020 г. по време на Втората либийска гражданска война, според доклад на ООН, изготвен година по-късно. Мнозина изразяват загриженост относно опасностите, които крие ИИ-технологията. В направено наскоро открито изявление, подписано от десетки експерти в областта, се казва, че намаляването на рисковете от изчезване на човечеството заради напредъка на изкуствения интелект трябва да бъде равно по приоритет на усилията за предотвратяване на ядрена война.