Роботите-убийци: предимство за военните или заплаха за човечеството?

ООН има намерение да регулира използването на изкуствен интелект във военните технологии.

Използването на дронове с изкуствен интелект (AI) за таргетиране става все по-разпространено. Някои дронове са способни самостоятелно да откриват целите и да ги унищожават. Това предизвиква загриженост сред изследователите и юристите. Разработването на така наречените „летални автономни оръжия“ (LAWs) привлича вниманието на целия свят, който вече е инвестирал значителни средства в програма за разработване на подобни устройства.

Дебатът за използването на AI във въоръжените конфликти продължава с пълна сила, тъй като автономните оръжейни системи могат да намалят риска от случайни жертви и да повишат точността на ударите. Съществува обаче и риск от сериозни грешки и етични проблеми, свързани с прехвърлянето на решенията за набелязване на целите към съвременните алгоритми.

Важна стъпка в регулирането на този въпрос стана включването на LAWs в дневния ред на Общото събрание на ООН, насрочено за септември. Генералният секретар на ООН Антониу Гутериш изрази желание до 2026 г. да се забранят оръжията, работещи без човешки контрол.

Контролът и регулирането на подобни оръжия продължават да бъдат обект на ожесточени дебати. Това е така, тъй като международната общност все още не е стигнала до общо определение на автономните оръжия. А това затруднява тяхната забрана. Тази ситуация продължава да бъде сериозно предизвикателство пред сключването на международно споразумение за регулиране на тези AI системи.

Въпреки това някои експерти считат, че съществуващите дефиниции са достатъчно широки, за да позволят започването на преговори. Без при това да се чака окончателното споразумение по терминологията. Въвеждането на ясна и реалистична дефиниция на LAWs ще бъде ключов въпрос в бъдещите дискусии.

Сред другите въпроси, повдигнати в дебата, е проблемът за отговорността за действията на автономните оръжия. Етичните дилеми и правната сложност, свързани с този вид оръжия, усложняват интегрирането им в съвременните военни стратегии.

Научните изследвания показват, че изкуственият интелект превъзхожда човека в някои аспекти на бойните действия. Като например бързата обработка на изображенията и вземането на решения. Въпреки това надеждността на тези системи и тяхната способност да идентифицират правилно целите остава под въпрос. Особено когато става въпрос за разпознаване на изображения с помощта на камери.

Докато автономните оръжия могат да реагират ефективно на радиочестотни или инфрачервени сигнали, разпознаването на визуалните изображения може да бъде обект на сериозни грешки. Например леки промени в изображенията могат да подведат невронните мрежи, които могат да класифицират неправилно обектите.

Допълнителни етични съображения са свързани с използването на автономни оръжия за нападение или защита. Някои учени и военни предложиха да се запази принципът „човекът в контура“, който гласи, че човекът трябва да потвърждава целите преди изстрелването. Както и да може да отмени атаката, ако условията на бойното поле се променят.

Въпреки това, дори при наличието на човешки контрол, въпросите за отчетността и прозрачността остават открити. В случай на грешки или непредвидени последици от автономните оръжия може да е трудно да се определи кой точно носи отговорност.

Дискусиите, започнати в ООН, и предстоящите преговори могат да доведат до създаването на работна група, която да проучи подробно тези въпроси. И евентуално да се стигне до международен договор. Експертите и учените се надяват, че тези мерки ще помогнат за оформянето на по-безопасно и етично бъдеще за използването на изкуствения интелект във военните технологии.