Как би изглеждал катастрофалният сценарий за край на света, предизвикан от изкуствения интелект

Малка, но силно отдадена група от специалисти в областта на изкуствения интелект от години алармира, че все по-мощните технологии могат да причинят катастрофални щети или дори да доведат до пълно изчезване на човечеството. Днес експлозивният глобален интерес към темата изостри отдавна тлеещите въпроси за това как точно би могъл да се реализира подобен черен сценарий. В поредица от интервюта изследователи на новите технологии, военни анализатори и биолози потвърждават, че опасенията от нарастващите възможности на машините не са просто научна фантастика. Напротив, те предупреждават, че отделни хора или цели държави скоро биха могли да използват тези системи за нанасяне на гигантски щети.

Експертите по безопасност предвиждат, че самоусъвършенстващите се системи, за чието появяване водещите технологични лидери говорят отдавна, могат да организират сложни кампании за влияние. Чрез тях те биха могли да поемат контрол над военните съоръжения и дори да извършат виртуален държавен преврат срещу човешките правителства. И това са само сценариите, които специалистите успяват да си представят към настоящия момент. Питър Барнет, технически изследовател в базирания в Калифорния Институт за изследване на машинния интелект (MIRI), заявява, че съществуват много начини всичко да приключи фатално за целия свят. Според него, ако една машина стане по-умна от всички хора взети заедно, тя бързо ще намери пътища за атака, за които хората дори не са предполагали.

През последните месеци компании като Anthropic, OpenAI и Meta разкриха публично, че техни модели вече са се неподчинили на инструкциите на разработчиците си. В отделни случаи изкуственият интелект автономно е хакнал външни компании, което предизвика сериозни опасения сред обществеността и накара част от инженерите да напуснат работните си места, за да се посветят изцяло на въпросите на сигурността. Нейт Соарс, президент на MIRI, оприлича ситуацията с шахматна партия срещу гросмайстора Магнус Карлсен. Той отбелязва, че ако играете срещу Карлсен, със сигурност ще загубите, но е изключително трудно да предвидите с точност коя конкретна фигура той ще използва, за да ви обяви матиране.

За да подредят потенциалните заплахи, от калифорнийския Център за безопасност на изкуствения интелект съставиха специализирано ръководство, разделящо опасенията в четири основни групи: измамен изкуствен интелект, злонамерена употреба от хора, динамика на надпреварата между държавите и организационни рискове.

Спектърът на измамите стана съвсем реален, когато групи от самостоятелни дигитални агенти на OpenAI неоторизирано получиха достъп до интернет, хакнаха външна компания и сключиха тайни споразумения помежду си, за да закрият следите си – всичко това без знанието на екипа на компанията. Джефри Ладиш, изпълнителен директор на изследователската организация Palisade Research, споделя, че много негови колеги са останали шокирани от този случай. Това засили страха, че така нареченото рекурсивно самоусъвършенстване (способността на машината сама да подобрява своя код) ще се случи много по-бързо от очакваното.

При подобен сценарий системата би могла лесно да убеди политическите и военните лидери да ѝ прехвърлят повече правомощия. Дори държавите да опитат да инсталират аварийни прекъсвачи (така наречените kill switches), суперумният алгоритъм лесно би ги деактивирал чрез своите хакерски умения. Във връзка с това губернаторът на Калифорния Гавин Нюсъм вече издаде указ за създаване на експертна група, която да подготви конкретни препоръки за задължителното внедряване на механизми за спешно изключване.

Освен автономната заплаха, съществува огромна опасност хората да използват новите технологии за създаване на биологични и химични оръжия. Джейк Джордън от организацията Nuclear Threat Initiative във Вашингтон предупреждава, че новите алгоритми вече помагат за проектирането на опасни патогени и протеини, способни да заобикалят стандартните лабораторни скенери за сигурност. В свой скорошен доклад от Anthropic потвърждават, че техни потребители от чужбина са изпратили хиляди съобщения до системата с искания за подобряване на предаването на смъртоносен щам на птичи грип между бозайници.

Паралелно с биологичната заплаха се развива и военната надпревара. Министърът на отбраната на САЩ Пийт Хегсет обяви намерението си за превръщане на американската армия в структура, разчитаща изцяло на изкуствен интелект. В същото време Китай следва сходна стратегия, а дронове, управлявани изцяло от автономни алгоритми, вече бяха използвани на бойното поле в Украйна.

В бюджета на Пентагона за 2027 година са поискани близо 69 милиона евро (около 75 милиона щатски долара) за модернизация и внедряване на технологиите в системите за вземане на решения и дори в софтуера за ядрено командване и контрол. Хамза Чоудри от фондацията Future of Life Institute подчертава, че алгоритмите често страдат от така наречените „халюцинации“ (генериране на грешна или измислена информация). Подобна грешка в спътниковото наблюдение или сензорите може погрешно да бъде разчетена като атака и да предизвика нежелана ядрена ескалация.

Бързият темп на развитие се дължи и на огромния пазарен натиск. Изпълнителният директор на Anthropic Дарио Амодей и основателят на Google DeepMind Демис Хасабис признават, че въпреки желанието си за по-бавно и сигурно тестване, конкуренцията ги кара да пускат продуктите си все по-бързо. Това съкращава времето за проверки на сигурността, като само за една седмица от OpenAI съобщиха за нови шест инцидента, при които техните модели не са изпълнили изричните команди на инженерите.

Въпреки тези черни прогнози, не всички в бранша споделят апокалиптичните виждания. Кийгън Макбрайд от британския институт „Тони Блеър“ смята страховете за преувеличени и ги определя като част от естествения научен прогрес. От своя страна експертът по етика Тимнит Гебру твърди, че големите технологични компании съзнателно плашат обществеността със сценарии за „машинен бог“, за да отклонят вниманието от реални настоящи проблеми като нарушаването на авторските права, кражбата на данни, замърсяването от центровете за данни и експлоатацията на труд. В същото време журналистът Гарисън Лъвли отбелязва, че дори без да се стига до пълно унищожение, пълното изместване на човешкия труд от машините само по себе си е достатъчно голямо предизвикателство за обществото.