AI моделът Mythos принуди властите на САЩ да установят контакт с Anthropic, която „застрашава националната сигурност“

Ръководителят на Anthropic ще се срещне с шефа на администрацията на Белия дом на фона на опасения, свързани с новия AI модел Mythos, способен да открива уязвимости в програмния код. Според данни на компанията, този AI модел вече е открил хиляди пропуски във всички основни операционни системи и браузъри, а сега неговите възможности се проучват от служители от обкръжението на президента на САЩ.

Срещата на Дарио Амодей с шефа на администрацията на Белия дом Сюзи Уайлс се провежда в условия на остра противоречивост: администрацията едновременно се опитва да включи Anthropic в „черния списък“ и е принудена да си сътрудничи с нея по въпроси, свързани с киберсигурността. Длъжностни лица от Белия дом и Националния институт за стандарти и технологии (NIST) анализират последствията от пускането на Mythos и обмислят разширяване на достъпа до модела за федералните ведомства става ясно от вътрешна кореспонденция, получена от The Washington Post. Особено загрижени са Уайлс, вицепрезидентът Джей Ди Ванс и министърът на финансите Скот Бесент, разказа източник, запознат с хода на преговорите.

Anthropic не пусна публично своя AI модел и създаде коалиция от големи технологични корпорации за оценка на рисковете в рамките на инициативата Project Glasswing. Компанията уведоми предварително държавните органи за киберсигурност.

„Предвид темповете на развитие на АI, ще мине много малко време, преди подобни възможности да се разпространят – вероятно сред онези, които не възнамеряват да ги използват отговорно. Последиците за икономиката, обществената сигурност и националната сигурност могат да се окажат сериозни.“

се казва в официалното изявление на компанията

Междувременно OpenAI почти е завършила разработката на свой собствен AI от следващо поколение с кодовото име Spud. Федералните ведомства реагираха бързо. Бесент и шефът на Федералния резерв Джером Пауъл събраха във Вашингтон ръководителите на най-големите банки, призовавайки ги да отнесат сериозно към заплахите.

Anthropic стана първата голяма компания в областта на изкуствения интелект, получила достъп до класифицираните системи на федералните ведомства. Отношенията се разклатиха, когато Пентагонът поиска правото да използва Claude за всякакви законни цели, включително управление на автономни оръжия и масово следене. Амодей отговори с отказ, но по-късно се срещна с министъра на отбраната Пийт Хегсет, но преговорите стигнаха до задънена улица в края на февруари.

Съдът в Сан Франциско обяви включването на компанията в „черния списък“ за незаконно, но апелативният съд във Вашингтон постанови временно решение, с което запази забраната в сила. Въпреки официалното прекъсване на връзките с Пентагона, Claude остана интегриран във военните системи, поради което същата нощ, когато администрацията обяви прекратяването на сътрудничеството, AI моделът беше използван за подкрепа на въздушни удари срещу Иран. За да възстанови отношенията си с Белия дом, през март Anthropic нае лобиста Брайън Балард, който има тесни връзки с екипа на президента, като похарчи за това 130 000 долара.