Повече от 60 държави се споразумяха да обърнат внимание на опасенията, свързани с използването на ИИ във войната

Внезапният възход и напредък на системите за изкуствен интелект през последните няколко месеца породиха опасения за потенциално вредното им въздействие върху обществото. ИИ може не само да застраши човешките работни места и творчество, но и използването на интелигентни машини във военни действия може да има катастрофални последици. За да се справи с тази опасност, миналата седмица се проведе първата световна среща на високо равнище за отговорно използване на изкуствения интелект във военната област (REAIM), в резултат на която държавите подписаха споразумение за поставяне на отговорното използване на ИИ на по-високо място в политическия дневен ред.

На конференцията REAIM, организирана съвместно от Нидерландия и Южна Корея миналата седмица в Хага, присъстваха представители на над 60 държави, включително Китай. В разговорите участваха министри, правителствени делегати, мозъчни тръстове и индустриални/граждански организации. Русия не беше поканена да участва в срещата, а Украйна не присъстваше.

Призивът за действие, подписан от всички участници, с изключение на Израел, потвърди, че държавите се ангажират да разработват и използват военен ИИ в съответствие с „международните правни задължения и по начин, който не подкопава международната сигурност, стабилност и отчетност“.

Заместник-държавният секретар на САЩ по контрола на въоръженията Бони Дженкинс призова за отговорно използване на ИИ във военни ситуации.

„Приканваме всички държави да се присъединят към нас в прилагането на международните норми, що се отнася до военното разработване и използване на ИИ“ и автономните оръжия, заяви Дженкинс. „Искаме да подчертаем, че сме отворени за сътрудничество с всяка държава, която е заинтересована да се присъедини към нас“.

Представителят на Китай Джиан Тан заяви на срещата на върха, че страните трябва да се „противопоставят на търсенето на абсолютно военно предимство и хегемония чрез ИИ“ и да работят чрез ООН.

Други въпроси, които подписалите се съгласиха да разгледат, включват надеждността на военния изкуствен интелект, непредвидените последици от използването му, рисковете от ескалация и начина, по който хората трябва да бъдат включени в процеса на вземане на решения.

През 2019 гoдина Министерството на отбраната на САЩ заяви, че хората винаги ще имат последната дума за това дали автономните оръжейни системи да открият огън по живи цели. Що се отнася до тези непредвидени последици, споменати в изявлението, някои се опасяват, че навлизането на Индия във военни системи, задвижвани от изкуствен интелект, може да доведе до ядрена война с Пакистан поради повишения риск от превантивни удари.

Някои участници отбелязаха ползите от използването на ИИ в конфликти, особено в Украйна, където машинното обучение и други технологии бяха използвани за отблъскване на по-голям и по-мощен агресор.

„Представете си ракета, която удря жилищна сграда“, каза холандският заместник министър-председател Вопке Хукстра. „За част от секундата изкуственият интелект може да открие удара и да посочи къде може да се намират оцелелите. Още по-впечатляващо е, че ИИ би могъл да прихване ракетата на първо място. И все пак ИИ има и потенциала да унищожава в рамките на секунди.“

Критиците твърдят, че изявлението не е правно обвързващо и не разглежда много други проблеми, свързани с използването на ИИ във военни конфликти, включително управлявани от ИИ бойни дронове.

Миналата седмица се породиха още опасения относно многобройните потенциални приложения на ИИ във войната, след като Lockheed Martin разкри, че новият му учебен самолет е бил управляван от изкуствен интелект в продължение на повече от 17 часа, което е първият случай, в който ИИ е бил ангажиран по този начин в тактически самолет. На друго място бившият главен изпълнителен директор на Google и председател на Alphabet, Ерик Шмид заяви, че изкуственият интелект може да има подобен ефект върху войните, както въвеждането на ядрените оръжия.