Фалшив доклад на изкуствен интелект, използван от армията на САЩ, едва не предизвика война с Китай

Фалшива информация, генерирана от изкуствен интелект, е била на косъм да стане причина за военен конфликт между САЩ и Китай. Американски военнослужещи са били изключително близо до това да се качат на борда на китайски кораб в Близкия изток, след като са получили фалшиво съобщение, че плавателният съд пренася компоненти за ядрено оръжие.

По данни на телевизия Си Ен Ен (CNN), американски военни самолети също са били в пълна готовност и в непосредствена близост до мястото на събитието. Когато обаче длъжностните лица са анализирали доклада по-внимателно, е станало ясно, че чатбот в програмата с изкуствен интелект грешно е идентифицирал съдържанието на кораба.

Ботът е комбинирал разузнавателна информация за корабния манифест, изготвена от Тихоокеанското командване за специални операции на САЩ (базирано на Хаваите), с други тайни сигнали. Докладът се е оказал напълно неверен, но според информиран източник на CNN, ситуацията е била толкова напрегната, че „почти е започнала война“. Съществуват сериозни опасения, че подобен инцидент е можел да ескалира с катастрофални последици.

В началото на септември Военното министерство на САЩ обяви, че започва да използва специализирани версии на водещи модели с изкуствен интелект като Grok на Илон Мъск, ChatGPT и Gemini на Google.

„С това пускане правим гигантска стъпка към масовото приемане на изкуствения интелект в целия ни департамент“, заяви министърът на отбраната на САЩ Пийт Хегсет. Още през януари той пое ангажимент да ускори навлизането на новите технологии в армията. В основата на този ход стои убеждението, че изкуственият интелект може значително да укрепи процеса на вземане на решения и бързо да обработва огромни обеми от разузнавателни данни.

През август от аналитичния център Фондация „Карнеги“ посочиха, че използването на изкуствен интелект от армията „бележи началото на нова ера, в която всеки служител може да бъде по-ефективен“. Заедно с подкрепата за технологиите обаче, експертите отправят и сериозно предупреждение: „Премахването на капацитета за тестване в Пентагона, прескачането на важни стъпки за проверка или невнимателното прехвърляне на решения със смъртоносен изход на автономни системи може да застраши живота на войниците и да свали прага за възникване на конфликти.“

През последните седмици политиците във Вашингтон бяха изрично предупредени от експерти от Силициевата долина, че изкуственият интелект може бързо да излезе извън контрол. В Обединеното кралство десетки членове на престижното Кралско научно дружество (Royal Society) също алармираха за опасностите от така наречения „свръхинтелигентен ИИ“.

Показателен е и фактът, че Джейкъб Коксън, един от ключовите създатели на съвременните системи с изкуствен интелект, подаде оставка от компанията Anthropic поради опасения, че технологията може да постави човечеството под реален риск.

В отговор на запитванията представител на Военното министерство на САЩ заяви: „Всеки ден американската армия наблюдава, оценява и анализира стотици потенциални заплахи по целия свят, за да гарантира отбраната на нашата страна и нашите съюзници. Поради съображения за оперативна сигурност и като въпрос на политика, ние не коментираме конкретни разузнавателни доклади, предполагаемо оперативно планиране или текущи военни оценки.“

От ведомството допълват, че остават напълно ангажирани със строгата проверка на всички разузнавателни данни и с отговорното интегриране на новите технологии, така че да подкрепят военнослужещите във вземането на информирани, точни и безопасни решения във всяка оперативна среда.