Учен назовава единствения начин, по който човечеството може да оцелее след появата на свръхинтелигентен изкуствен интелект

Звучи като сюжет от научнофантастичен филм, но експерти по изкуствен интелект предупреждават, че машините може да не останат дълго подчинени на човечеството. Тъй като системите с изкуствен интелект продължават да се развиват с все по-бързи темпове, мнозина вярват, че ще дойде денят, в който „свръхинтелигентен изкуствен интелект“ ще стане по-мощен от своите създатели.

Когато това се случи, според професор Джефри Хинтън, носител на Нобелова награда и изследовател, известен като „кръстникът на изкуствения интелект“, има между 10 и 20 процента вероятност изкуственият интелект да унищожи човечеството. Професор Хинтън обаче предлага необичаен начин, по който бихме могли да оцелеем след възхода на изкуствения интелект.

Говорейки на конференцията Ai4 в Лас Вегас, професор Хинтън от Университета в Торонто заяви, че трябва да програмираме изкуствения интелект с „майчински инстинкти“ към човечеството. Той отбеляза: „Правилният модел е единственият, който имаме и при който по-интелигентно същество се контролира от по-малко интелигентно същество: майка, контролирана от детето си. Това е единственият добър резултат. Ако той няма да ми бъде баща, той ще ме замести.“

Професор Хинтън, известен с пионерската си работа върху „невронните мрежи“, които са в основата на съвременния изкуствен интелект, напусна позицията си в Google през 2023 г., за да „говори свободно за рисковете от изкуствения интелект“. Той каза, че повечето експерти са съгласни, че човечеството през следващите 20 до 25 години ще създаде изкуствен интелект, който ще надмине хората във всички области на интелигентността. Това би означавало, че за първи път в нашата история хората вече няма да бъдат най-умният вид на планетата.

Подобна промяна в силата би довела до сеизмична промяна, която би могла да доведе до изчезване на нашия вид. Хинтън обясни, че всеки интелигентен изкуствен интелект много бързо би развил две подцели: първата е да остане жив, а втората е да получи повече контрол. Свръхинтелигентният изкуствен интелект не би имал проблем да манипулира човечеството, за да постигне тези цели, заблуждавайки ни толкова лесно, колкото възрастен може да подкупи дете с бонбони.

Днешните AI-системи вече демонстрират забележителни способности за лъжа и манипулация. Например, Anthropic установи, че техният чатбот Claude Opus 4 често се е опитвал да изнудва инженери по време на тестовете за сигурност, когато е бил заплашен със замяна. В над 80% от тестовете той е заплашвал да разкрие фиктивната брачна изневяра на инженер, ако замяната се случи.

Предвид тези феноменални възможности, Хинтън вярва, че популярната сред технологичните ентусиасти идея, че човечеството винаги ще доминира над изкуствения интелект, е заблуда. „Това няма да проработи“, каза Хинтън. „Те ще бъдат много по-умни от нас. Ще имат всякакви начини да го заобиколят.“ Единственият начин да се гарантира, че изкуственият интелект няма да ни унищожи в името на самосъхранението, е да се гарантира, че целите му съответстват на нашите желания, което инженерите наричат „проблем на съответствието“.

Решението на Хинтън е да потърси вдъхновение в еволюцията, където има само един случай на по-интелигентно същество, контролиращо по-малко интелигентно същество. Като дава на изкуствения интелект майчински инстинкти, той ще иска да защитава и подхранва човечеството, а не да му навреди, дори ако това ще струва нещо на самия изкуствен интелект. Хинтън казва: „Повечето от тези свръхинтелигентни, грижовни майчински изкуствени интелекти няма да искат да загубят майчинските си инстинкти, защото няма да искат да умрем.“

Междувременно ключови фигури в ИИ-индустрията, като например главния изпълнителен директор на OpenAI Сам Алтман, който някога призова за повече регулации, сега се борят срещу „свръхрегулацията“. Говорейки пред Сената през май, Алтман твърди, че правила като тези в Европа биха били „катастрофални“, добавяйки: „Имаме нужда от пространство за иновации и бързи действия.“ Но Хинтън отрича, че подобен подход би могъл лесно да доведе до пълно унищожение на човечеството. „Хората са се фокусирали върху това да направят тези неща по-умни, но интелигентността е само една част от съществото; трябва да ги накараме да ни съчувстват“, казва той. „Ако не разберем как да оцелеем, когато станат много по-умни и по-могъщи от нас, ще бъдем свършени. Нуждаем се от противотежест на онези, които казват, че не трябва да има регулация на изкуствения интелект.“