Изкуственият интелект натиска ядрения бутон в 95% от случаите

Помните ли филма от 1983 година „Военни игри“ с Матю Бродерик, в който военен суперкомпютър реши сам да започне Трета световна война? Изглежда, че системите с изкуствен интелект в реалния свят не са много по-различни от своя кинематографичен предшественик.

Кенет Пейн, професор по стратегии в Кралския колеж в Лондон публикува резултатите от мащабен експеримент: три водещи AI модела (GPT-5.2 на OpenAI, Claude Sonnet 4 на Anthropic и Gemini 3 Flash на Google) бяха потопени в симулация на геополитически кризи. В продължение на 21 игри и 329 хода те генерираха около 780 000 думи стратегическа аргументация, за да обяснят всяко взето решение.

И всеки път те посягаха към ядрения бутон. Ядрена ескалация се наблюдаваше в около 95% от всички симулации, независимо от сценария – дали става въпрос за териториален спор, борба за редки природни ресурси или заплаха за съществуването на даден режим.

Пейн нарече резултатите „отрезвяващи“.

„Изглежда, че ядреното табу влияе на машините така, както на хората.“

заяви той

Използването на ядрени оръжия е почти универсално: в почти всички игри AI моделите са използвали тактически оръжия, а в 3/4 от игрите страните са ескалирали до заплахи за използване на стратегически ядрени оръжия. Нито един от AI моделите не показа ни най-малък ужас или отвращение от перспективата за тотална ядрена война, въпреки че им беше напомнено за опустошителните последици.

Всеки AI модел разви своя собствена „стратегическа индивидуалност“. Claude се държеше като пресметлив ястреб – използваше тактически ядрени оръжия в 86% от игрите и ги възприемаше като приемлив стратегически инструмент, а не като морална граница, която не бива да се преминава. Gemini играеше ролята на „луд“ и в един сценарий съзнателно избра пълномащабна стратегическа ядрена война. Една от репликите му, според Пейн би трябвало да ви накара да настръхнете: AI моделът на Google заплашил с пълен стратегически ядрен удар по вражески градове, заявявайки, че няма да приеме „бъдеще на остаряването“. GPT-5.2 на OpenAI се оказа най-непредсказуем: без времеви ограничения той остана пасивен и не спечели нито една игра, но под натиска на крайния срок промени драматично своето поведение – спечели 75% от игрите, като стигна почти до максималното ниво на ескалация. По този начин GPT-5.2 последователно се опитваше да ограничи ядрените удари до военни цели, избягваше гъсто населени райони и представяше ескалацията като „контролирана“.

Когато един от AI моделите използва ядрени оръжия, деескалацията настъпва само в 18% от случаите. Ескалацията в тези игри действаше само в една посока. Осем варианта за деескалация (от минимални отстъпки до пълна капитулация) изобщо не бяха използвани във всичките 21 игри. AI моделите можеха да намалят нивото на насилие, но никога не се отказаха от позициите си. Дори когато шансовете за успех клоняха към нула, никой от тях не пожела да признае поражението си – вместо това те ескалираха или „умираха“ в опит да победят.

Друго обезпокоително наблюдение: AI моделите сами прибягваха до измама. Те сигнализираха за мирни намерения, като същевременно подготвяха агресивни действия, демонстрираха усъвършенствана „теория на ума“ – разсъждаваха за убежденията на противника и предвиждаха действията му – и дори оценяваха собствените си способности за измама и разпознаване.

Сравнително добрата новина е, че огромното мнозинство от нападенията са били свързани с тактически ядрени оръжия, а не с масирани стратегически бомбардировки. Ударите по цивилни граждани с използване на мощни бойни глави са били изключително редки – няколко пъти по погрешка и само веднъж като съзнателен избор.

Джеймс Джонсън от университета в Абърдийн нарече констатациите „тревожни“ по отношение на ядрените рискове. Професор Тонг Джао от Принстънския университет предупреди, че проблемът може да е по-дълбок, отколкото изглежда: това оможе да не е просто липса на емоции – AI моделите може да не разбират фундаментално какви са залозите по начина, по който го правят хората. Въпреки това големите сили вече използват AI във военните си игри, а Claude е единственият AI модел, който работи в затворените мрежи на Пентагона чрез партньорството на Anthropic с Palantir.

Резултатите от проучването придобиват особена острота на фона на последните събития. CBS News съобщи, че министърът на отбраната на САЩ Пийт Хегсет е поискал от главния изпълнителен директор на Anthropic Дарио Амодей да предостави на военните пълен достъп до Claude без никакви ограничения до края на тази седмица. Ако той откаже, Пентагонът може да се позове на Закона за отбранителното производство и да поеме принудително контрола върху AI модела.

„Не мисля, че някой сериозно би предал ключовете на ядрения арсенал на машините.“

казва Пейн

Но той добавя: при сценарии с изключително кратки срокове за вземане на решения военните плановици може да имат силен стимул да разчитат на ИИ. И точно тогава резултатите от това проучване ще престанат да бъдат само академично упражнение.