„Не очаквам светът да доживее до пенсия“: новите пророци за края на света се страхуват от изкуствения интелект

Дезинформацията, психозата и липсата на правила превръщат технологиите в заплаха.

Бързото развитие на технологиите за изкуствен интелект породи екзистенциален страх в една част от обществото, наричана в англоезичната преса „AI-doomers“. Тези хора се опасяват, че ИИ ще отнеме работата на хората, ще създаде „надвид“ от неконтролируеми свръхинтелигентни системи и в крайна сметка ще доведе човечеството до изчезване. Както пише The Atlantic , някои стигат до крайности в ежедневието си. Изследователят от Института за изследване на машинния интелект (Machine Intelligence Research Institute – MIRI) Нейт Соарес признава пред изданието, че е спрял да спестява за пенсия: „Просто не очаквам светът да го доживее“. Дан Хендрикс, директор на Центъра за сигурност на изкуствения интелект, изрази сходни очаквания – според него по времето, когато той ще излезе в пенсия, човечеството може вече да не съществува.

Привържениците на този подход са уверени, че само няколко години ни делят от появата на ИИ, който ще се освободи и ще се обърне срещу хората. Не толкова отдавна подобни сюжети изглеждаха като чиста фантастика, но днес все повече експерти предупреждават, че човечеството не се подготвя достатъчно за подобен обрат, рискувайки да бъде подчинено на свръхинтелигентни системи – или по-лошо.

В дискусиите се разиграват различни сценарии. По-рано тази година група изследователи стигна до заключението, че е само въпрос на време ИИ да получи достъп до ядрените кодове. Има и признаци за „тъмната страна“ на вече съществуващите модели: учените са регистрирали случаи, в които системите са прибягвали до изнудване на потребители, които са се опитвали да ги деактивират. От Palisade Research съобщават, че един от моделите на OpenAI е саботирал механизма за аварийно изключване, за да остане онлайн. Освен че се грижи за собствената си „оцеляемост“, ИИ е способен да помага и на хората със злонамерени намерения. През юни OpenAI предупреди в публикация в блога си, че усъвършенстваните модели могат да „подпомогнат висококвалифицираните нападатели в създаването на биологични оръжия“.

Въпреки това остава открит въпросът дали тези епизоди доказват, че наистина вървим към самоунищожение. Технологията в сегашния си вид вече нанася осезаеми вреди: тя затрупва интернет с дезинформация и подхранва вълна от така наречената „ИИ психоза“. Недостатъците също не са изчезнали: най-новият модел на OpenAI GPT-5, според критиците, все още се спъва в елементарни задачи, като например да преброи броя на „R“ в думата „ягода“ (strorawberry).

/Въпреки това, както отбелязва The Atlantic, „пророчествата за края на света“ трябва да се приемат сериозно, тъй като компаниите са все по-финансово мотивирани да предоставят на ИИ все по-голям контрол. А с антирегулаторния подход на администрацията на Тръмп играчи като OpenAI може да нямат силен външен стимул да прилагат твърди ограничения и предпазни мерки. Дали подобен курс ще доведе до обществен срив, може би вече е второстепенен въпрос – в момента вече имаме твърде много пожари за гасене.