Пореден доклад предупреждава за опасностите от автономните оръжия

AI революцията дойде като внезапен дъжд в ясен ден. И вместо „революция“ и еволюция, по-скоро има риск да доведе до деволюция. Отнемане на работни места, лични трагедии, масови убийства на деца. Ако това ви е революцията, не, благодарим. А може да стане и по-зле. Колко повече? Това са се опитали наскоро да изложат в специален доклад хората от Brennan Center for Justice.

Изследователите от центъра разглеждат рисковете от прибързаното налагане на изкуствения интелект в армията, рисковете от автономните оръжия и използването на технологията от властите за следене.

Изследването привежда, че за 2026 военното министерство на САЩ е изискало от правителството отделянето на $13.4 млрд. за „автономия и автономни системи“. Те са предназначени не само за оръжейни платформи, но и за внедряване на технологията във веригите за доставка, администрация, следене.

Докладът подчертава, че случаите на грешки на AI системите не са изключение. И макар и да се предвижда някаква форма на човешки надзор, реалностите са различни. „В действителност те (операторите) може да проявят подчертана склонност да се доверяват на алгоритмичните препоръки“, пишат от центъра. „В допълнение, по-широкото използване на изкуствен интелект принизява живота на истинскиte хора до дейта точки на екрана и звукови сигнали. Това може да направи войниците по-малко чувствителни към актове на насилие и разрушения“, допълват те.

Особено притеснителен момент в доклада се очертава натиска на представители на компаниите и властите тези системи да бъдат внедрявани по-бързо и безогледно.

Цитира се например скорошен призив на Шаям Санкар от Palantir Technologies. Той изразява безпокойство, че Западът е изгубил предимството си пред Китай заради прекомерни регулации и бюрокрация. Министърът на войната на САЩ Пит Хегсет също изразил неудовлетворение от „прекалено бавното налагане“ на технологията. Докладът изтъква имената на две компании – Palantir Technologies и Anduril Industries, които вземат все по-голям дял от военния бюджет на САЩ. И нещо повече. Лидерите от частния сектор поемат все по-голям контрол в тестването, придобиването и надзора на тези системи. Изземвайки функции на държавата.

„Отговорната иновация изисква от правителството да прави ясно разграничение между скорост и спазването на предохранителни мерки, пишат авторите на изследването. „Армията трябва да може да прави безпристрастни, основаващи се на реална база оценки, за ролята на всяка нова технология. Трябва също да провежда надлежен одит и тестване. Това ще гарантира, че новоприетите технологии са безопасни и ефективни. И не нарушават фундаментални човешки права“.