Властите в САЩ обмислят задължителна проверка на AI моделите преди пускането им на пазара

Администрацията на Доналд Тръмп, която по-рано пропагандираше „невмешателство“ в разработването на изкуствен интелект сега обсъжда въвеждането на държавен надзор върху най-новите AI модели, включващ задължителна проверка преди публичното им представяне, съобщава The New York Times.

Според американски служители в Белия дом се обсъжда създаването на работна група по въпросите на изкуствения интелект. Тя трябва да обедини представители на технологични компании и държавата за „изработване на механизми за контрол“.

Миналата седмица представители на администрацията обсъдиха идеята с ръководителите на Anthropic, Google и OpenAI. Очаква се работната група да разгледа едновременно няколко подхода към регулирането, включително този, който в момента разработва Великобритания – там държавните органи ще проверяват AI системите за съответствие със стандартите за безопасност.

Както отбелязва NYT, тези дискусии свидетелстват за рязка промяна в курса на Белия дом. След завръщането си на власт Тръмп активно подкрепяше развитието на AI, наричайки технологията ключов фактор в геополитическото съперничество с Китай. В частност, той отмени регулаторните инициативи на предишната администрация, които изискваха от разработчиците да извършват оценка на безопасността и да докладват за потенциални военни приложения на технологията.

„Ще направим този сектор най-добрият. В момента той е като прекрасно новородено бебе. Трябва да му дадем възможност да расте и да се развива. Не може да бъде спиран – нито от политиката, нито от глупави правила.“

заяви Тръмп през юли миналата година

Въпреки това, на фона на опасенията относно влиянието на AI върху пазара на труда, енергетиката, образованието, личния живот и дори психичното здраве, позицията на Тръмп започна да се променя. Проучване на Pew Research Center показа, че около половината както от републиканците, така и от демократите са по-скоро загрижени, отколкото възхитени от развитието на технологията.

Повратният момент беше обявяването от Anthropic на Mythos. Според компанията, този AI модел може да открива уязвимости в софтуера толкова ефективно, че може да доведе до „прелом в киберсигурността“.

В Белия дом се опасяват от политическите последствия в случай на мащабна кибератака с използване на AI. Успоредно с това властите оценяват дали новите модели могат да бъдат полезни за Пентагона и разузнаването. Един от вариантите е да се предостави на правителството приоритетен достъп до системите, без да се ограничава по-нататъшното им пускане. В същото време в бранша няма единодушие относно това как трябва да изглежда регулирането. Част от компаниите предупреждават, че прекомерният контрол ще забави иновациите и ще отслаби позициите на САЩ в конкуренцията с Китай.

Промяната в политиката по отношение на изкуствения интелект съвпада с кадрови промени в администрацията. През март „кураторът по AI“ на Белия дом Дейвид Сакс напусна поста си, а функциите му бяха частично поети от шефа на кабинета Сюзи Уайлс и министъра на финансите Скот Бесент. Плановете на дуото обаче се усложняват от конфликта между Пентагона и Anthropic, които не успяха да постигнат споразумение по договор за 200 млн. долара за използване на AI за военни цели. В резултат на това военните прекратиха сътрудничеството си с компанията, а тя заведе дело в съда.

Трябва да се отбележи, че частично технологиите на Anthropic все още се използват от Пентагона – по-специално в системата Maven, която анализира разузнавателни данни и предлага цели за въздушни удари във войната с Иран. По същия начин AI моделът Mythos беше използван от Агенцията за национална сигурност за търсене на уязвимости в държавния софтуер. През април Уайлс и Бесент проведоха среща с главния изпълнителен директор на Anthropic Дарио Амодей относно възобновяването на сътрудничеството, като и двете страни определиха преговорите като продуктивни.