Пентагона с противоречиво послание относно Anthropic

По-рано тази година Пентагона и Anthropic влязоха в остър сблъсък заради използваната от военните технология на AI компанията. Ябълката на раздора се оказаха вградени в модела им автозащити, които не позволяват безконтролното му използване. Дарио Амодей ясно заяви, че технологията им няма да се използва за автономни оръжия и масово следене. И няма да отстъпи от принципите си. На правителството в САЩ това не му хареса. Последваха заплахи към Anthropic, че ако не се подчинят ще бъдат изхвърлени от щедрите федерални контракти и поставени в забранителен списък, определящ моделите им като риск за националната сигурност.

Раздялата между двете страни изглеждаше сигурна. До появата на Mythos, представяният за всемогъщ AI хакер на Anthropic. Специализираният модел разкри критични уязвимости в серия от продукти, смятани за непробиваеми. Като например OpenBSD. Рекламен трик или реално опасение, но предварителните планове за общ достъп до Mythos бяха променени. От Anthropic разкриха специалния проект Glasswing. Ставаше дума за специализирана програма, обхващаща 40 организации и компании. Anthropic предоставя достъп до Mythos с една цел – да проверят и обезпечат системите си. И макар и да не беше споменато, оказа се, че Пентагона влиза в кръга на тези организации. Тези дни американските военни отправиха объркващо изявление по повод отношенията им с AI стартъпа. Накратко: все още не харесваме Anthropic, но Mythos е друга работа.

От военното ведомство на САЩ заявиха, че Anthropic продължава да бъдат считани за риск за националната сигурност. Но Mythos представлява отделен „момент“ за националната сигурност. „Считам, че въпросът с Mythos, който беше обсъден не само в нашето министерство, но и на правителствено ниво, е отделен момент за националната сигурност“, коментира за CNBC Емил Майкъл от Министерството на войната. „Трябва да се уверим, че сигурността на мрежите ни е допълнително обезпечена. Този модел има способности, които са специално насочени към откриването на кибер уязвимости и запушването им“.

Включването на Anthropic в списъка с компании, представляващи риск за националната сигурност на САЩ поставя Пентагона в деликатна позиция. По този начин, всеки военен контрактор, работещ с правителството на САЩ трябва да докаже, че не използва технологията на Anthropic. Поставянето на компанията в списъка пък провокира Anthropic да съди правителството. CNBC коментират, че не е ясно как военното министерство ще използва Mythos без да наруши собствените си забрани

В допълнение към това, изданието привежда, че миналата седмица военните са влезли в договорни отношения със седем AI компании. Цел на тези споразумения е разполагането на техните технологии в секретни мрежи за „законова оперативна употреба. Компаниите са Google, OpenAI, Nvidia, Microsoft, Amazon Web Services, SpaceX/xAI и Reflection.