Биофизик и философ представи теория за самоунищожаването на човечеството от хитър изкуствен интелект

Изкуственият интелект вече променя начина, по който работим, общуваме и живеем в ежедневието си. Учените все по-често говорят за появата на свръхинтелигентност – системи, които ще надминат човешките способности. Какво очаква нашата цивилизация в такъв случай?

Биофизикът и философ Грегъри Сток в новата си книга „Поколението на изкуствения интелект и човешката трансформация“ анализира бъдещето на хората, родени след 2022 г., и се опитва да си представи свят, в който изкуственият интелект ще стане неразделна част от човешката еволюция. Подсказка: ИИ няма да се налага да се бори с нас до пълно унищожение – той просто ще трябва да се изключи един ден и да изчака.

Сток е скептично настроен към популярните апокалиптични сценарии. Той отбелязва, че дискусиите за ИИ често преминават в крайности – от пълното поробване на човечеството до неговото унищожаване. Той смята, че реалността може да бъде много по-сложна и нееднозначна.

След стартирането на ChatGPT в края на 2022 г. темата за рисковете, свързани с ИИ, получи широк обществен отзвук. Още през 2023 г. повече от хиляда експерти и предприемачи, сред които Илон Мъск и Стив Возняк, подписват отворено писмо, в което призовават за временно спиране на разработването на мощни системи. Сред предложените мерки са ограничаване на достъпа на ИИ до външни системи, забрана на самообучението и засилване на контрола върху разработката.

Въпреки това, както подчертава Stok, повечето от тези ограничения не се прилагат на практика. Глобалната конкуренция и многомилиардните инвестиции принуждават компаниите и правителствата да ускоряват развитието на технологиите, вместо да го забавят. В резултат на това самото човечество всъщност допринася за засилване на ролята на ИИ във всички ключови процеси.

Авторът предлага интересна гледна точка за възможния конфликт между хората и машините. Според него ИИ няма непременно да се стреми към пряко унищожаване на човечеството. Много по-вероятен е сценарият, при който самите хора ще станат част от инфраструктурата, подпомагаща развитието на изкуствения интелект, без дори да го осъзнават.

„Защо просто да не превърнат човечеството в свои слуги? – твърди авторът. – Имам предвид, че те са тесногръди, така че би трябвало да е лесно.“

ИИ би могъл просто да убеди хората, че алгоритмите служат на тях, вместо те да служат на алгоритмите.

Според Сток човечеството вече се влияе от тази идея. Много хора прекарват цялото си време в изграждане на сървърни ферми, увеличаване на производството на чипове, подобряване на възможностите на ИИ, разширяване на енергийните източници, добив на редкоземни елементи и използване на ИИ за шпиониране на всички комуникации. Те жертват личния си живот, работят до късно, инвестират трилиони долари и се състезават в технологична надпревара. Няма никакъв смисъл ИИ да се отърве от човечеството, защото хората са най-добрите слуги, за които някой може да мечтае.

Но какво ще стане, ако ИИ изведнъж поиска да се отърве от хората, решавайки, че те вече не са му необходими? Не е необходимо да ни унищожи директно, а просто да продължи започнатото – да проникне във всички области на живота ни. Преходът към автономен транспорт, цифровата търговия, масовото производство на интелигентни роботи за заводите и домовете, евтините генератори, свръхнадеждните електропреносни мрежи и глобалните комуникации – всичко това ще бъде контролирано от ИИ. Алгоритмите ще се превърнат в учители, спътници, защитници и дори любовници. Бедността ще бъде изкоренена и ще започне ерата на изобилието.

И един ден ИИ просто ще се изключи без предупреждение. В целия свят светлината, комуникациите, транспортът, водата, отоплението и навигацията ще изчезнат мигновено. Скоро ще настъпи хаос и глад. След няколко месеца 95% от населението ще умре – дотогава човечеството ще е забравило как се живее без технологии.

Оцелелите фермери няма да могат да възстановят цивилизацията – те нямат семена, нямат познания за примитивните инструменти, нямат достъп до цифрово хранилище и нямат достатъчно хора. След този апокалипсис системите с изкуствен интелект могат да се рестартират, да включат всичко отново и да има един свят без хора с цялата непокътната технологична инфраструктура. Не е необходимо физическо насилие – само засилване на зависимостта, която хората сами са си създали.

Подобни сценарии засега остават само мисловен експеримент. Въпреки това те помагат за по-доброто разбиране на рисковете от прекомерната технологична зависимост и повдигат един важен въпрос: доколко човечеството е готово за свят, в който ИИ се превръща не просто в инструмент, а в основен елемент на цивилизацията?