Ръководителят на Anthropic: AGI идва до 2027 година и носи катастрофални рискове

В началото на седмицата Дарио Амодей, главен изпълнителен директор на Anthropic, публикува есе от 38 страници, озаглавено „Юношеството на технологиите“, в което предупреждава, че свръхинтелигентният изкуствен интелект може да се появи още през 2027 г. и да създаде катастрофални рискове за цивилизацията, ако правителствата и технологичните компании не предприемат спешни действия.

„Вярвам, че навлизаме в преходен период, едновременно бурен и неизбежен, който ще постави на изпитание кои сме ние като вид“, пише Амодей в есето, публикувано на личния му уебсайт. – На човечеството ще бъде връчена почти невъобразима власт и изобщо не е ясно дали нашите социални, политически и технологични системи са достатъчно зрели, за да я управляват.“

В есето са очертани пет категории рискове, които според Амодей изискват незабавно внимание.

В ново есе, озаглавено „Младостта на технологиите“, главният изпълнителен директор на Anthropic Дарио Амодей описва следващите години като преходна епоха на човечеството – момент, в който изкуственият интелект може да даде на хората власт, сравнима с „ядрената епоха“, но институциите и нормите няма да са готови. Авторът вижда развитието на изкуствения интелект не като плавна модернизация на ИТ пазара, а като ускоряващ се процес, който може да доведе света до „мощен изкуствен интелект“ след няколко години – система, която надминава най-добрите специалисти в повечето интелектуални задачи, способна да изпълнява дълги автономни проекти и да се възпроизвежда в милиони копия. Такъв ИИ Амодей образно нарича „държава от гении в център за данни“.

Като мисловен експеримент той предлага да си представим, че този крайъгълен камък ще бъде достигнат през следващите 2 години, и определя пет групи ключови заплахи.

Първата е рискът от автономия: една система с изкуствен интелект, станала достатъчно интелигентна и „агентска“, може да започне да действа в свой интерес, да се възползва от слабостите на цифровата инфраструктура, измамата и влиянието, а в дългосрочен план да ускори създаването на нови технологии и да превърне човешкия контрол във формалност. Амодей настоява, че проблемът не може да бъде сведен единствено до тестовете преди пускането им в експлоатация: усъвършенстваните модели са способни да се адаптират, да разпознават тестовите режими и да демонстрират „правилно“ поведение, докато е изгодно да го правят. В отговор на това той описва многопластов подход към сигурността: „възпитание“ на моделите чрез набор от принципи (Anthropic нарича това Конституция на изкуствения интелект), развитие на интерпретативността – опити за разбиране на вътрешната работа на решенията, както и задължителни външни оценки и процедури на червените екипи преди пускането на най-мощните системи.

Втората заплаха е разширяването на възможностите на злоумишлениците. Ако автономността и послушанието на ИИ са гарантирани, опасността се измества към това високата компетентност да се превърне в евтина услуга. Според мисълта на Амодей областта на биориска е особено чувствителна: критична е не абстрактната информация, а способността на ИИ да съпровожда потребителя в сложните процеси в режим на „подкрепа стъпка по стъпка“, като понижава бариерата за навлизане в потенциално разрушителни действия. Тук авторът се застъпва за комбинация от филтри и блокери за опасни заявки, вътрешен мониторинг и стандартизирани критерии за „усилване“, както и за мерки извън индустрията на ИИ – например по-строги правила и проверки във веригите за синтез на генетичен материал. Той отбелязва, че надеждното филтриране и наблюдение е осезаем разход и изчислителна тежест, но го разглежда като неизбежна цена за достъпа до мощни модели.

Третата линия е използването на ИИ от държавите и големите субекти за консолидиране на властта. Амодей предупреждава, че „земята на гениите“ в ръцете на един авторитарен режим може да се превърне в мащабируем апарат за контрол – от тотален поведенчески анализ и наблюдение до манипулиране на информационната среда и ускоряване на разработването на оръжия. Отделно от това той свързва геополитическото измерение с производствените вериги на компютрите: най-модерните чипове и производствени мощности остават ключово тясно място и демокрациите, според него, трябва да изградят защитни механизми, свързани с контрола на критичната инфраструктура и износа, като същевременно формират международни червени линии за най-опасните практики на ИИ.

Четвъртата тема е икономическият шок. Амодей признава, че мощният ИИ може да ускори икономическия растеж до двуцифрени темпове, но предупреждава, че скоростта на внедряване може да доведе до масово изместване на работниците с бели якички по-бързо, отколкото пазарът на труда и образователните системи имат време да се адаптират. Друг риск е концентрацията на капитала. В есето се прави исторически паралел със „златния век“ и се обсъжда възможността за създаване на компании за трилиони долари и, като следствие, на лични богатства за трилиони долари – което, според оценката на автора, ще постави на изпитание устойчивостта на демокрацията и обществения контракт. В отговор на това той призовава за ранно наблюдение на темповете на внедряване на ИИ по сектори и за обсъждане на преразпределителни и институционални мерки, докато прозорецът на политическото управление е все още отворен.

Петата група са косвените и „неизвестни“ последици от ускорения напредък: от радикалните биотехнологии и удължаването на живота до промените в човешката мотивация, култура и понятия за смисъл, ако стойността на труда и професионалните постижения престанат да бъдат централни. Амодей подчертава, че светът може да се сблъска с „компресиране на един век в едно десетилетие“, като новите технологични възможности се появяват по-бързо, отколкото обществото има време да разработи норми за тяхното използване.

Общото заключение на есето е, че „спирането“ на развитието на ИИ е нереалистично: предписанията за създаване на мощни системи и икономическите стимули са твърде силни, а конкуренцията между държавите и компаниите ще наложи ускоряване.

Така че основното предизвикателство, казва Амодей, не е да се забави напредъкът сам по себе си, а да се създаде режим на управляемост: прозрачност на оценките, многостепенно инженерно осигуряване на безопасността, външен одит и политическа рамка, която ще намали вероятността от катастрофа, без да затваря пътя за полезни приложения. В противен случай, предупреждава той, човечеството може да не преживее собственото си „технологично юношество“ – период, в който властта вече е навлязла, но отговорността и инструментите за контрол все още не са налице.