Атаки срещу болници и проникване в електроцентрали – Mythos вече играе по свои правила

Властите в САЩ неочаквано се обявиха против една от най-амбициозните инициативи в областта на изкуствения интелект. Белият дом се опитва да спре разширяването на достъпа до мощната система Claude Mythos, която самата компания-разработчик счита за потенциално опасна.

Компанията създател Anthropic предложи да включи в системата още около 70 компании и да увеличи общия брой на потребителите до 120. По-рано в рамките на проекта Glasswing достъп получиха само избрани корпорации, сред които Amazon, Google и JPMorgan.

Идеята за разширяване предизвика остра реакция в Белия дом. Длъжностните лица се опасяват, че разпространението на такъв инструмент ще създаде рискове за сигурността. Повод за тревога даде самата Anthropic. В един от вътрешните си анализи компанията показа, че при хакване Claude Mythos е способен да атакува енергийни мрежи, електроцентрали и болници.

Допълнителни съмнения са свързани с ресурсите. В администрацията на Доналд Тръмп смятат, че Anthropic може да не разполага с достатъчно изчислителна мощност, за да обслужва едновременно държавни структури и търговски компании. Главният изпълнителен на Anthropic Дарио Амодей от своя страна уверява, че няма ограничения по отношение на ресурсите, а диалогът с властите продължава. Компанията заявява, че работи с правителството по въпроси, свързани с киберсигурността и технологичното лидерство.

Отношенията между страните остават напрегнати. Преговорите по проекта Mythos се водят и на фона на съдебни дела. По-рано Пентагонът разтрогна договора си с Anthropic и заплаши да включи компанията в черния списък, след като тя отказа да предостави пълен и неограничен достъп до своите AI системи. Разработчикът се опита да забрани използването на технологиите си за масово следене и създаване на оръжия.

Ситуацията се влоши от неотдавнашен инцидент. Anthropic проверява възможен неразрешен достъп до Mythos. Няколко потребители успяха да пробият системата на 8 април и оттогава редовно я използват, при това не за задачи, свързани с киберсигурността.

В същото време самата платформа вече демонстрира високо ниво на ефективност. Claude Mythos умее да открива уязвимости и да ги експлоатира, затова компанията предварително предоставя достъп на специалисти по сигурност, за да намали рисковете. Успоредно с това Anthropic увеличава изчислителните си мощности и сключва сделки с големи технологични компании, включително Broadcom. Ограниченията по отношение на ресурсите остават една от ключовите заплахи за по-нататъшното развитие на проекта.