Пентагонът може да прекрати споразумението си с Anthropic заради етични ограничения върху изкуствения интелект

Министерството на отбраната на САЩ обмисля прекратяване на партньорството си с Anthropic поради разногласия относно условията за ползване на нейните ИИ-модели. Пентагонът настоява за правото да използва инструментите за „всички законни цели“, включително чувствителни военни приложения. Anthropic отказва да премахне ограниченията върху използването на изкуствен интелект в автономни оръжия и масово наблюдение, съобщава Axios.

Пентагонът може да намали или напълно да прекрати партньорството си с Anthropic след месеци на трудни преговори, заяви висш служител на администрацията пред Axios. Причината е нежеланието на компанията да позволи използването на своите модели във всички военни дейности без изключение.

Министерството на отбраната настоява четири водещи лаборатории за изкуствен интелект да разрешат използването на своите инструменти за „всички законни цели“, включително разработване на оръжия, разузнаване и бойни операции. Anthropic настоява две категории да останат забранени: масово наблюдение на американците и напълно автономни оръжия.

Според длъжностното лице, има „значителна сива зона“ по отношение на това какво точно попада под тези ограничения и Пентагонът не се чувства комфортно да се съгласи с индивидуални случаи на употреба или да рискува блокиране на програми от страна на Claude. „Всичко е на масата“, включително намаляване на партньорството или пълното му прекратяване, отбелязва длъжностното лице, добавяйки: „Но те ще трябва да намерят порядъчен заместник, ако смятаме, че това е правилното решение.“

Говорител на Anthropic заяви, че компанията остава „ангажирана с използването на изкуствен интелект на границата в подкрепа на националната сигурност на САЩ“. Той също така подчерта, че Anthropic „не е обсъждала използването на Claude за конкретни операции с Министерството на отбраната“ и не е провеждала подобни дискусии с индустриални партньори извън техническите въпроси.

Миналото лято Anthropic подписа договор с Пентагона на стойност до 200 милиона долара, а Claude стана първият модел, внедрен в класифицираните мрежи на агенцията. OpenAI ChatGPT, Google Gemini и xAI Grok работят в некласифицирани среди и са се съгласили да се откажат от стандартните ограничения за сътрудничество с Пентагона.

Министерството на отбраната преговаря с тези компании за преминаване към класифицирано пространство и насърчава стандарта „всички цели са законни“ за всички приложения. Според длъжностното лице, една от компаниите вече се е съгласила с тези условия, а другите две са демонстрирали по-голяма гъвкавост от Anthropic.

Anthropic е известна с принципната си позиция относно използването и регулирането на изкуствения интелект. Главният изпълнителен директор на компанията, Дарио Амодей, призова света да се „събуди незабавно “, тъй като свръхмощният изкуствен интелект може да надмине човешките възможности само за една до две години, представлявайки значителни заплахи. Той критикува правителствата и технологичните гиганти за това, че игнорират опасностите от нарастващия дигитален авторитаризъм в полза на печалбата от индустрията.

Anthropic също така наскоро обяви, че ще дари 20 милиона долара на политическата група Public First Action. Това ще подкрепи американски кандидати, които се застъпват за стриктното регулиране на изкуствения интелект и запазване на правата на щатите да инициират собствено законодателство в тази област.