Ерик Шмидт се обяви срещу „проекта Манхатън“ в областта на изкуствения интелект

В нова статия главният изпълнителен директор на Google Ерик Шмид, главният изпълнителен директор на Scale AI Александър Уанг и Дан Хендрикс, ръководител на Центъра за сигурност на изкуствения интелект, предупреждават: САЩ не трябва да се стремят към монопол върху свръхразумния изкуствен интелект по подобие на проекта „Манхатън“. Авторите твърдят, че подобни опити могат да предизвикат ответни действия от страна на Китай, включително кибератаки, които да дестабилизират международните отношения. Вместо да се стремят към свръхинтелигентност, експертите предлагат да се съсредоточат върху ограничаване на заплахата чрез използване на защитни стратегии и блокиране на опасните ИИ проекти.

„Проектът „Манхатън“ в областта на изкуствения интелект предполага, че конкурентите ще приемат дисбаланса или заплахата от унищожение, вместо да действат. Опитите за създаване на свръхоръжия и установяване на глобален контрол могат да предизвикат ответни действия и да увеличат напрежението, разрушавайки стабилността, която тази стратегия уж защитава“, отбелязват авторите.

Статията се появява няколко месеца след като Конгресът на САЩ предложи стартирането на „проект Манхатън“ за финансиране на разработването на ИИ, подобно на създаването на атомната бомба през 40-те години на миналия век. Министърът на енергетиката на САЩ Крис Райт наскоро заяви, че страната е „на прага на нов проект „Манхатън“ в областта на изкуствения интелект. Документът поставя под въпрос популярната сред американските политици и индустриални лидери идея, че правителствената програма за ИИ е най-добрият начин за конкуренция с Китай.

Шмидт, Уанг и Хендрикс смятат, че САЩ се намират в ситуация, напомняща взаимното гарантирано унищожение, но в контекста на изкуствения интелект. Както при ядрените оръжия, монополът върху мощните ИИ системи може да доведе до заплаха от превантивен удар от страна на съперниците.

Експертите предупреждават, че САЩ трябва да бъдат предпазливи в стремежа си към доминиране в тази област. Въпреки че паралелът с ядрената заплаха може да звучи радикално, световните лидери вече разглеждат ИИ като важно военно предимство. Пентагонът например твърди, че подобни технологии помагат да се ускори вземането на решения в бойни ситуации.

Шмидт и колегите му предлагат концепцията за взаимно гарантиран провал на ИИ (Mutual Assured AI Malfunction – MAIM), според която държавите могат предварително да блокират опасните ИИ проекти, без да чакат противниците да ги превърнат в оръжия.

САЩ трябва да се съсредоточат не върху „спечелването на надпреварата за свръхинтелигентност“, а върху възпирането на другите държави да създават свръхразумен изкуствен интелект. Авторите призовават да се разшири арсеналът от кибератаки за неутрализиране на опасните проекти и да се ограничи достъпът на противниците до авангардните чипове на изкуствения интелект и моделите с отворен код.

Авторите описват два подхода към политиката за ИИ. „Песимистите“ смятат, че катастрофата от развитието на ИИ е неизбежна, и призовават за забавяне на напредъка. „Щраусите“, от друга страна, са убедени в необходимостта от ускоряване на развитието и се надяват на най-доброто. В статията се предлага и трети вариант: балансиран подход към развитието на ИИ с акцент върху отбранителните стратегии.