Шефът на Anthropic призова AI да се регулира по същия начин като лекарствата, авиацията и автомобилите

Главният изпълнителен директор на Anthropic Дарио Амодей публикува есе, озаглавено „Policy on the AI Exponential“ (Политика относно експоненциалния растеж на изкуствения интелект), в което заяви, че времето, в което се задоволявахме само с прозрачност е отминало – най-модерните AI модели на трябва да се регулират толкова строго, колкото самолетите, автомобилите или лекарствата. Заедно с есето Anthropic обяви законодателно предложение за задължително тестване на авангардните AI модели и политическа рамка в случай на масово изместване на работни места – компанията обещава да подкрепи финансово и двете инициативи.

Амодей започва с метафора от „Властелинът на пръстените“: политическите институции са Дървобрад, който се поздравява с друго дърво цял ден, докато AI се развива със скоростта на хобитите, които трябва да действат незабавно. За четири години AI моделите преминаха пътя от неспособност да напишат смислен ред код до писане на по-голямата част от кода в големите AI компании, и ако законите на мащабирането се задържат още година-две, светът ще получи това, което Амодей нарича „страната на гениите в центъра за данни“.

За повратна точка той счита Claude Mythos Preview – AI модел, който демонстрира реални киберрискове за финансовия сектор, критичната инфраструктура и националната сигурност. Според Амодей това окончателно доказа, че AI моделите са се превърнали в инструменти от стратегическо значение, а след киберрисковете скоро ще последват биологични рискове и такива, свързани с автономността на системите.

Пет области, които според Амодей се нуждаят от преосмисляне:

1. Регулиране и обществена безопасност. Ключовото предложение в есето е да се създаде за AI аналог на Федералната администрация за гражданска авиация на САЩ (FAA). AI моделите, надхвърлящи определен праг на изчисления, трябва да преминават задължително тестване от независима трета страна по четири направления на риск: киберсигурност, биологично оръжие, загуба на контрол над AI системите и автоматизирани изследвания, които ускоряват първите три. Държавата трябва да има правомощия да блокира внедряването на опасни модели, но само в рамките на тези четири риска и с предпазни мерки срещу политически фаворитизъм. Компаниите разработчици са длъжни да защитават тежестите на моделите и оперативно да докладват за инциденти.
2. Макроикономика и данъци. Амодей предупреждава, че изкуственият интелект може да блокира икономиката в режим на „хиперрастеж с хипернеравенство“: експлозивен ръст на БВП при едновременно продължително изместване на човешкия труд. Той подчертава, че не иска да бъде „пророк на апокалипсиса“ – предупрежденията за загуба на работни места са необходими, за да могат политиците и бизнесът да успеят да се адаптират. Сред предложените инструменти са: държавен мониторинг на влиянието на AI върху заетостта, застраховка на заплатите за тези, които са принудени да преминат към по-нископлатена работа, данъчни стимули за задържане на персонала, а в краен случай – безусловен базов доход или универсални капиталови сметки, финансирани от данъци върху ИИ-компаниите и прираста на капитала.
3. Ускоряване на положителното въздействие. Парадоксално, но за технологиите, които AI ще ускори – биомедицина, енергетика, материалознание – Амодей се страхува не от недостатъчна регулация, а напротив: че регулатори като FDA и EMA, които са изчислени за цикъл на одобрение на лекарства от 7-8 години просто ще се затрупат от потока на нови разработки.
4. Държавата и гражданските свободи. Амодей нарича мощният AI в неподходящи ръце потенциален инструмент на автокрацията. Конкретни предложения: да се забрани законодателно използването на напълно автономно оръжие в страната (срещу собствените граждани), да се вградят в автономните системи механизми за конституционна отчетност, включително „изключвател“ под контрола на съдебната власт, да се затвори вратичката за закупуване на данни от брокери за масово следене, както и да се гарантира на гражданите достъп до AI, който не е по-слаб от този, който държавата използва срещу тях в регулаторни или съдебни действия.
5. Лидерството на демокрациите. Според Амодей, AI „пренарежда цялата игрална дъска“ на геополитиката – като ядреното оръжие, но потенциално в по-голям мащаб. Страна с мощен AI срещу страна, изоставаща с три години, е като „морските пехотинци от Втората световна война срещу средновековни мечоносци“. Той предлага коалиция на демокрациите с общи правила за сигурност, свободен обмен на чипове и оборудване вътре в коалицията и координиран отказ на достъп за противниците – с постепенно разширяване, така че членството да става все по-привлекателно, а престоят извън коалицията – все по-скъп. Сред примерите той споменава, че автономното оръжие има легитимно приложение за защита от външна агресия – като например срещу руската инвазия в Украйна.

Отделно от това Амодей отхвърля широко разпространената в бранша теза, че изкуственият интелект се нуждае от „по-добър маркетинг“, за да преодолее общественото съпротивление. Хората са загрижени, защото правилно оценяват реалността на рисковете, пише той, и счита за свой дълг като лидер в бранша да остане прозрачен по отношение на тях, а общественото безпокойство нарича демократична отчетност в действие. Задачата е да се насочи тази енергия към конструктивни решения, докато прозорецът на възможностите е отворен: съвпадението на очевидните доказателства за рисковете, първите икономически ефекти от ИИ и общественото търсене на регулиране направи политиците необичайно отворени към действия.