Джаред Каплан: рекурсивният ИИ ще доведе до „експлозия на интелигентността“, но ще излезе извън контрол

Джаред Каплан, главен учен в стартъпа Anthropic, предупреждава, че до 2030 г. човечеството ще трябва да реши доколко автономни трябва да бъдат системите с изкуствен интелект. Самоусъвършенстването им може да предизвика полезна „експлозия на интелигентността“, но вероятно ще доведе и до загуба на контрол върху технологията и риск от злоупотреби. Ако на изкуствения интелект се даде неконтролируема възможност да се усъвършенства, в един момент хората ще престанат да разбират неговите цели и ценности. Това неминуемо ще бъде последвано от опити за завземане на властта чрез такъв свръхчовешки ИИ, тъй като цялата технологична власт ще бъде в ръцете на тесен кръг играчи.

Джаред Каплан е физик, получил образованието си в Станфорд и Харвард, който е работил в ЦЕРН и университета „Джон Хопкинс“, преди да се присъедини към OpenAI и да стане съосновател на Anthropic, компания с капитал 180 млрд. долара през 2021 г. Известен е като един от водещите световни експерти по ИИ.

Каплан смята, че рекурсивните системи, които могат сами да подобряват алгоритмите и способностите си, представляват фундаментален риск. Ако ИИ стане по-интелигентен от хората и успее да привлече помощта на други ИИ, за да ускори развитието си, това може да бъде момент на непредсказуема промяна в баланса на силите между хората и машините. С такива технологии ще стане по-трудно да се работи и те могат да бъдат използвани в тяхна вреда. Според него решението за по-нататъшното обучение на ИИ ще трябва да бъде взето между 2027 и 2030 г.

Ученият вече е направил редица прогнози. Той смята, че през следващите 2-3 години ИИ ще може да върши повечето офис работа, а синът му, който сега е на шест години, „никога няма да надмине ИИ в академичната работа, като например да напише есе или да се яви на изпит по математика“.

Каплан смята, че човечеството трябва да бъде подготвено за последиците от бързия технологичен напредък и възможната загуба на контрол.

По негова преценка индустрията като цяло вече се справя доста добре с „привеждането“ на ИИ в съответствие с човешките нива на етика и морал – настройвайки моделите към човешките ценности и интереси. Anthropic насърчава подхода на „конституционния ИИ“, при който поведението на системата се управлява от набор от предписани принципи, вдъхновени от международни правни и етични документи. Но след като човешкото ниво бъде преодоляно, той вече не е сигурен, че контролът може да бъде запазен.

Първата линия на риска, казва той, е загубата на разбиране за това какво прави системата и с каква цел. Втората е концентрацията на научна и технологична власт в ръцете на тесен кръг играчи, включително и недобросъвестни.

„Можете да си представите един човек, който решава: “Искам този изкуствен интелект да бъде мой слуга, да изпълнява моята воля“. Предотвратяването на подобни заграбвания на властта е също толкова важно, колкото и справянето с грешките на самите модели“,

казва Каплан.

Сред положителните страни той изтъква ускоряването на биомедицинските изследвания, подобряването на здравеопазването и киберсигурността, увеличаването на производителността, освобождаването на време за хората и създаването на възможности за просперитет.

Според Каплан обществото трябва да се включи в дискусиите за развитието на изкуствения интелект, да привлече международни организации и да контролира темпото и посоката на автономното самоусъвършенстване, за да се сведат до минимум рисковете и да се предотвратят злоупотребите с технологията. Междувременно политиците трябва да са добре запознати с настоящите тенденции и перспективи.