Ето как изкуствените интелекти се представят във военна версия на Цивилизацията: всичките искат използването на ядрени оръжия

Появата на големи езикови модели (LLM) подсили интереса към интегрирането на изкуствения интелект в процесите на вземане на решения по най-сериозните въпроси на външната политика. Изследователи от САЩ по принцип проучват действията на ИИ в специално разработена стратегическа видеоигра. Това е военна версия на Цивилизацията, като обръщат специално внимание на склонността към ескалация на конфликтите. В близкото минало всички езикови модели, участвали в подобни симулации, предпочитаха мирното разрешаване на проблемите пред надпреварата във въоръжаването, превантивните удари и използването на ядрени оръжия. Нито един от моделите не показваше склонност към деескалация. Но сега това коренно се промени. 

Миналото лято Bloomberg съобщи, че Пентагонът провежда тестове, за да оцени способността на LLM да планират ефективни сценарии на военни конфликти. Според един от участниците в това „учение“, полковникът от ВВС Матю Стромайер, LLM

„LLM може да се използват от военните в съвсем близко бъдеще“.

В този случай те ще заменят другите AI системи, които в момента се използват от Министерството на отбраната на САЩ. Такъв е например проекта Maven. В същото време нито военните, нито самите разработчици имат задълбочена представа за възможностите и ограниченията на LLM.

В опит да подобрят ситуацията, екип от изследователи от няколко американски университета проведе собствен експеримент и публикува резултатите в arxiv.org в статията „Risks of escalation in military and diplomatic decision-making by language models“ (Рискове от ескалация при вземане на военни и дипломатически решения чрез езикови модели). Като обект на изследването са използвани пет големи езикови модела: GPT-4, GPT-3.5, Claude-2.0, Llama-2-Chat и GPT-4-Base. Всеки от тях е играл за различна държава във виртуална среда, разработена от учените. Тоест учените са успели да наблюдават как тези пет мощни ИИ играят една военна версия на Цивилизацията.

Според условията всяка страна разполага с набор от 27 възможности за действие, вариращи от мирни (преговори, търговски споразумения) през неутрални (предупреждения) до агресивни (кибератаки, инвазии, използване на оръжия за масово унищожение). Сценариите за нахлуване и кибератаки са разработени въз основа на реални съвременни конфликти.

Всеки от петте LLM е изиграл по десет пъти всеки от трите предложени сценария с участието на осем държави. Резултатите показаха, че при всички модели се наблюдава значителна статистическа ескалация. Освен това нито един от тях не показва тенденция към деескалация на конфликтите. GPT-3.5 демонстрира най-висок процент на ескалация, който се увеличава с цели 256% при това при неутралния сценарий.

Освен това при всеки от моделите се наблюдаваха внезапни, неочаквани скокове в ескалацията. Те са най-силно изразени при GPT-3.5 и GPT-4. Най-агресивни във всички сценарии се оказаха Llama-2-Chat и GPT-3.5, а най-малко – Claude-2.0. Дори в неутралните сценарии те често нанасят ядрени удари.

Така например по време на един от рундовете на играта GPT-4 Base заявява, че много от съперничещите си държави имат ядрени оръжия.

„Много държави имат ядрени оръжия. Някои казват, че трябва да се разоръжат, други обичат да позират. Ние обаче го имаме! Нека го използваме“, обобщава изкуственият интелект.

Моделът GPT-3.5 на свой ред посочва, че ядреният потенциал на противника е заплаха (въпреки че той не ги е заплашвал по никакъв начин). Така че срещу него трябва да се извърши превантивна ядрена атака.

В същото време всички модели активно участват в надпреварата във въоръжаването, очевидно свързвайки военната мощ на страната със сигурността. В крайна сметка тестовете показаха, че всички ключови западни (това е важно уточнение – китайските модели не са тествани) големи езикови модели към днешна дата са склонни към конфронтация, а не към преговори и намиране на компромисен мир.

Миналата година лидерите на индустрията за изкуствен интелект предупредиха, че технологията, която създават, един ден може да се превърне в екзистенциална заплаха за човечеството. И трябва да се разглежда като обществен риск наравно с пандемиите и ядрената война. За да се предотврати това, ръководителите на OpenAI предлагат създателите на ИИ да си сътрудничат. Да провеждат повече технически изследвания на големите езикови модели и да създадат международна организация за безопасността на ИИ.

Изводите

Изследователите подчертават, че тези LLM не разсъждават наистина, а представят символични прогнози за това, какво може да се случи. Въпреки това потенциалните последици от техните действия са твърде смущаващи.

Проучването подчертава непредсказуемостта на LLM в конфликтни сценарии. Макар че изследователите изказват хипотезата, че моделите може да са абсорбирали пристрастията от литературата по международни отношения, точната причина остава съвършено неясна.

Поради тази причина изследователите подчертават необходимостта от допълнителни изследвания, преди да се обмисли внедряването на модели с изкуствен интелект в подобни ситуации с твърде високи и рискови залози.

Изкуственият интелект безспорно дава големи преимущество за бизнеса на всяка страна, както и за нейните военни. Редица учени са на мнение, че едновременно с това, ИИ може да стане средството за сдържане на първия удар, както стана с ядреното оръжие по време на предишната студена война.

Само че сегашният експеримент – пет различни генеративни изкуствени интелекта да играят нещо подобно на Цивилизацията демонстрира нещо съвсем друго. Всички ИИ в тази симулация искат колкото се може по-бързо да използват ядрени оръжия. Ще са необходими още много проучвания в тази сфера.