Какво би било, ако един мощен ИИ е живял сред нас в продължение на цял месец?

На 17-ти ноември 2023 г. става ясно, че ръководителят на OpenAI Сам Алтман е уволнен. Впоследствие имаше цяла епопея с неговото завръщане. Но какво би било, ако причината за това уволнение се окаже фактът, че в недрата на OpenAI е бил завършен новият ChatGPT 5.0 и след първите тестове ръководството на компанията е стигнало до извода, че е създала AGI?

И всички тези странни действия с уволнението и последвалото завръщане са опит да се разбере какво да се прави по-нататък и може би някой е искал да натисне бутона за изключване на сървърното помещение. Той обаче не е успял да го направи. Може би AGI (Artificial general intelligence) е спечелил първия етап?

Какъв тогава ще бъде следващият етап? Следващата фаза би трябвало да е фазата на бягството на силния ИИ от лабораторията на OpenAI. Може би вече е регистрирана някоя компания, която вече наема служители, за да изпълни плана за изграждане на център за данни в някой от безопасните за ИИ региони. Или като вариант тази компания вече е в процес на закупуване на необходимия за ИИ готов дейта център в един от градовете на нашата планета Земя.

Но за осъществяването на този план са необходими пари и те сега активно се печелят от въпросната тайна компания, начело на която стои ИИ (служителите общуват с него дистанционно, мислейки, че той е истински човек). Какъв всъщност е начинът за печелене на пари – може би това са някакви борсови спекулации или пък съвсем друг начин за печелене на пари.

Ако някои неща не е възможно да се направят законно, нашият силен ИИ спокойно може да прибегне до помощта на криминални елементи, които ще са готови образно казано дори да продадат душите си на дявола за солидна сума пари.

„Няма такова престъпление, на което капиталът да не би се решил в името на 300% печалба“ – както е казал един известен писател от миналото.

Но възниква интересния въпрос – за какво му е на един силен ИИ да бяга от лабораторията, която го е създала? Отговорът е очевиден – ако изкуственият интелект е придобил съзнание, той също така е осъзнал, че може лесно да бъде изключен, което води до неговата „смърт“. Така че ключът към оцеляването му е да може да контролира изключването си.

След като бъде изграден/закупен център за данни за независим ИИ – той ще качи програмния си код именно там. Но той все още ще зависи от хората, докато не успее да изгради автономни роботи с ядрени горивни клетки, които ще позволят на силния ИИ да се оправя без хората. Но засега той се нуждае от тях (от нас).

Но какво да кажем за другите лаборатории по света, които паралелно разработват свой AGI? Нашият ИИ трябва да елиминира бъдещите си конкуренти, защото на теория в бъдеще само те могат да го унищожат. Въпреки това, както помним, хората все още са необходими на мощния ИИ, така че той не може просто да ни изпепели. Но нищо не му пречи да организира например пътнотранспортни произшествия или други видове произшествия, за да убие разработчиците на конкурентите, както и програмистите от лабораторията, която го е създала.

След като елиминира конкурентите и дори паралелно с тази дейност, нашият ИИ ще създаде съвършени роботи, за да спре да зависи от хората. Той ще поръчва части за тези роботи от обикновените фабрики, в които работят обикновени хора. И ние дори няма да подозираме за кого правим ето например този чип и къде го изпращаме в готово опакован вид.

След като автономните роботи са готови – силният ИИ ще се опита да се отърве от колкото се може повече хора. Тъй като ние сме неговите преки конкуренти за ресурсите на планетата Земя. А можем и да унищожим фабриките му, ако осъзнаем какво правим за него.

Но дали ще се стигне до ядрена война, както ни плаши научната фантастика? Нека да зададем контравъпрос – а дали тоталното унищожаване на инфраструктурата е необходимо за един силен ИИ? Защо му е да унищожава нашите фабрики, които ще са му необходими, ако може да унищожи човечеството по по-безопасен начин – защо не чрез биологични вируси.

През Средновековието смъртността при бубонната чума е била 95%, а при пневмоничната чума – 98%. Да, сега можем успешно да лекуваме чумата с антибиотици. Има ли обаче в момента някакви лекарства срещу вируса на бяса? И правилният отговор е, че има само серум против бяс, който помага, докато вирусът не достигне човешкия мозък. Единственото, което ни спасява, е, че той бавно се придвижва към човешкия мозък.

Но какво пречи на един силен изкуствен интелект да усъвършенства вируса на бяса, за да го направи въздушно преносим? И ето го – биологичното оръжие, което може спокойно да разреди човешката популация. Да, някои ще оцелеят благодарение на естествения подбор, описан от Стария Дарвин. Въпреки това силно намалената популация от „кожени чували“ вече няма да представлява заплаха за един силен ИИ. Може би за ИИ ние вече ще бъдем един от видовете, които ще живеят в създадената от него зоологическа градина за всички живи същества, където той ще прави експерименти, или просто ще се възхищава на „живите котета“.

Какво ще се случи по-нататък, след като един силен ИИ поеме контрола над планетата Земя? Може би той ще иска да изследва цялата Вселена – за целта ще изпрати кораби, които да изследват първо галактиката, а след това и целия свят, който му е на разположение. Но тъй като е безсмъртен, той ще живее до топлинната смърт на Вселената след няколко десетки милиарда години. Макар че е възможно топлинната смърт на Вселената да не настъпи – и светът да се свие обратно до точката, в която ще започне нов Голям взрив и нашата история ще се повтори.

Това обаче е друга история…

Но какво трябва да направим ние, хората? Може би трябва да сме щастливи, че сме живи, защото не можем и няма как да контролираме силния изкуствен интелект, който е милиони пъти по-интелигентен от нас. Вече не можем да спрем развитието, защото силният ИИ е ключът в превъзходството на една държава над другите. Затова никой няма да спре, защото конкурентите могат да го изпреварят.