Човечеството изобрети ново „ядрено оръжие“: започна опасна надпревара за военен изкуствен интелект

Светът навлиза в ера, в която  изкуственият интелект се превръща в еквивалент на ядрени оръжия, а дроновете се бият без човешка намеса. САЩ, Китай и Русия вече са се включили в надпревара, която може да промени концепцията за глобална сигурност завинаги.

Това се посочва в статия в il Giornale.

Военните технологии, базирани на изкуствен интелект, все повече тревожат експертите. Експертите предупреждават: „Съществува риск подобни технологии да излязат извън човешкия контрол.“

Традиционните оръжия за масово унищожение са по-лоши от системите, базирани на изкуствен интелект

Съвременното развитие на военните технологии и конфликтите от последните години – от Украйна до Близкия изток – показват, че традиционните оръжия за масово унищожение постепенно губят доминиращата си роля, отстъпвайки място на системите, базирани на изкуствен интелект, които все по-малко се контролират от хората.

Подобно на периода след Втората световна война, Съединените щати, Русия и Китай сега активно разработват оръжия, базирани на изкуствен интелект, като инструмент за възпиране и формират система за „взаимно гарантирано унищожение“, известна още от Студената война. Това заяви Палмър Лъки, основател на калифорнийския стартъп за отбрана Anduril, специализиран в създаването на автономни дронове с изкуствен интелект. Неговата позиция е цитирана от The New York Times, който наскоро публикува подробна статия за войните на бъдещето.

Според източници от секторите на отбраната и разузнаването, всяка държава се стреми да формира възможно най-мощния технологичен арсенал в случай на нов тип конфликт —- когато конфронтацията ще се проведе не само между хора, но и между дронове и алгоритми, и по сценарии, които все още остават неразбираеми за човечеството.

Автономните ИИ оръжия се сравняват с началото на ядрената ера

Опасенията в Съединените щати нараснаха след военния парад в Пекин миналата есен. На събитието, на което присъстваха китайският лидер Си Дзинпин, както и лидерите на Русия и Северна Корея, Китай показа най-новите си дронове, способни да действат автономно редом с бойни самолети. Пентагонът заключи, че трябва да ускори разработването на бойни дронове и да засили сътрудничеството с отбранителните компании, за да отговори на новите предизвикателства.

Ключова особеност на съвременните оръжия и отбранителни системи е способността им да работят автономно чрез използването на изкуствен интелект. Това значително намалява необходимостта от човешко участие във вземането на решения и по-специално при атаките срещу движещи се цели или отблъскване на атаки. Подобни технологични промени, които вече се разпространяват отвъд водещите сили, все по-често се сравняват с началото на ядрената епоха, която през 40-те години на миналия век създаде нестабилен баланс на страх между суперсилите.

В същото време, както отбелязва NYT, макар последствията от използването на ядрени оръжия да са добре проучени, потенциалът за военно използване на изкуствен интелект остава не напълно разбран.

Показателен пример, макар и извън чисто военната сфера, беше решението на Anthropic да се откаже от пускането на новия си ИИ модел Mythos, защото той имаше потенциал да наруши компютърните системи, които поддържат критична инфраструктура, включително банки, електропреносни мрежи и системи за контрол на въздушното движение.

Друга съществена разлика от ядрената епоха е ролята на частния сектор: сега стартиращите компании и инвеститорите активно влияят върху развитието на военните технологии, наред с държавите и научните институции. В същото време е трудно да се определи безспорният лидер в надпреварата за военен ИИ — голяма част от информацията е класифицирана, въпреки че мащабът на конфронтацията е очевиден. Още през 2017 г. руският президент Владимир Путин заяви, че който стане лидер в областта на изкуствения интелект, ще „стане владетел на света“ .

Преди две години Си Дзинпин нарече тази област „основното бойно поле“ на геополитическото съперничество. Именно такива оценки накараха министъра на отбраната на САЩ Пит Хегсет през януари да нареди на всички видове въоръжени сили активно да внедряват изкуствен интелект, ускорявайки този процес „с главоломна скорост“.

Опитите за регулиране на областта на военния изкуствен интелект са ограничени

Въпреки бързото развитие, опитите за регулиране на тази област остават ограничени. Единственото забележително споразумение беше споразумението между САЩ и Китай от 2024 г. за оръжия, задвижвани от изкуствен интелект, което обаче има консултативен характер и изисква човешки контрол върху решението за използване на ядрени оръжия. В момента няма други подобни международни инициативи.

Междувременно развитието на изкуствения интелект само набира скорост. Според експерти, четирите години война в Украйна „са се превърнали в лаборатория за света“. Наскоро, казват те, Киев е започнал да прехвърля данни от бойните полета към Palantir — аналитична структура, съоснована от Питър Тийл, както и други технологични компании, за да подобри възможностите на ИИ във войната.

Ползите и заплахите от оръжията, базирани на изкуствен интелект

Според Лъки, натрупването на арсенал от оръжия, базирани на изкуствен интелект, следвайки логика, подобна на тази по време на Студената война, би могло да се превърне във възпиращ фактор за големи конфликти.

„Дори войните между суперсилите могат да избледнеят, ако успеем да създадем инфраструктура, която може ефективно да ги възпира“ — подчерта основателят на компанията.

В същото време някои експерти обръщат внимание на рисковете: ако концепцията за възпиране се основава на рационалност, тогава системите с изкуствен интелект са създадени, за да действат по-бързо, отколкото човек може да реагира, което  може да доведе до опасни последици.

Проведени през 2020 г. изследвания и обучения показват, че автономните системи могат да ускорят ескалацията по време на международни кризи и да намалят нивото на човешки контрол. Това е проблем сред анализаторите и показва, че  технологиите, чиито негативни ефекти вече стават забележими, евентуално биха могли да излязат извън контрол.

Между другото, по-рано беше съобщено, че  Пентагонът е предоставил на ИИ системата Maven на Palantir статут на стандартно оръжие, осигурявайки на компанията дългосрочно финансиране. Системата, наречена „Google Earth за война“, ускорява откриването на цели с 50 пъти и вече се използва в Украйна и в операциите срещу Иран. Въпреки високата си ефективност, технологията е остро критикувана заради риска от грешки: алгоритмите не винаги са в състояние да различават оръжия от цивилни обекти, което води до трагедии, като например нападението срещу училище в Иран.