Anthropic отхвърли искането на Пентагона за премахване на ограниченията върху AI за военна употреба

Anthropic заяви, че няма да се съгласи с искането на военното министерство на САЩ да разреши използването на нейните AI модели без ограничения, въпреки заплахите за прекратяване на договорите и признаването на компанията за рисков фактор във веригата за доставки.

Според американските медии изкуственият интелект на Anthropic е възможно да е бил използван чрез сътрудничеството ѝ с Palantir по време на операция в Каракас на 3 януари. Съобщава се, че по време на операцията, която е включвала задържането на президента Николас Мадуро и съпругата му, AI може да е бил използван за разузнавателен анализ и планиране. Официално Пентагонът не разкрива подробности.

Съобщенията за тази операция се превърнаха в катализатор на напрежението между Anthropic и Министерството на отбраната на САЩ. Компанията има договор с Пентагона на стойност около 200 млн. долара, но нейната политика ограничава използването на AI модели за насилие, масово наблюдение или напълно автономни оръжия.

В свое изявление главният изпълнителен директор на Anthropic Дарио Амодей заяви, че AI моделите на компанията вече се използват активно в отбранителните и разузнавателните служби на САЩ. Компанията твърди също, че е първата сред разработчиците на усъвършенстван изкуствен интелект, която внедрява своите системи в секретни правителствени мрежи и национални лаборатории.

В същото време Anthropic отказва да отмени ограниченията за две категории употреба.

Първата е масовото вътрешно наблюдение на гражданите, което според компанията е несъвместимо с демократичните ценности и крие сериозни рискове за неприкосновеността на личния живот. Втората е създаването или управлението на напълно автономно оръжие, способно да прихваща и поразява цели без човешка намеса.

Компанията твърди, че настоящите системи с изкуствен интелект все още не са достатъчно надеждни за подобна употреба и могат да представляват опасност както за военните, така и за цивилните. Anthropic е готова да работи за подобряване на надеждността на технологията, но само при подходящ контрол и ограничения.

Според Амодей министерството е обявило, че ще подписва договори само с компании, които се съгласяват на „всякаква законна употреба“ на AI без ограничения. Имаше и заплахи за изключване на Anthropic от правителствените системи, за определянето ѝ като заплаха за доставките и за използване на Закона за отбранителното производство, за да се наложи премахване на ограниченията.

Anthropic подчертава, че въпреки несъгласието би желала да продължи да работи с правителството на САЩ и ще осигури плавен преход към други технологии, без да нарушава военните операции.

//ОЩЕ ПО ТЕМАТА:

Изкуственият интелект натиска ядрения бутон в 95% от случаите