От големия взрив до апокалипсиса: Забравеното предупреждение на Стивън Хокинг за ИИ

През 2014 година Стивън Хокинг отправи тревожно предупреждение за възможните заплахи, породени от изкуствения интелект. Неговата загриженост беше предизвикана не от предполагаемата злонамереност на машините, а от перспективата за достигане на т.нар. технологична сингулярност – моментът, в който ИИ ще надмине човешкия интелект и ще може самостоятелно да се развива отвъд първоначалния си замисъл.

В този случай, както подчертава ученият, ако целите на свръхинтелигентната система не съвпадат с човешките цели, последствията могат да бъдат катастрофални.

През последните години научната общност и представителите на технологичната индустрия все по-често изразяват подобни опасения. Един от най-известните страхове е сценарий, напомнящ на филмите от поредицата „Терминатор“: изкуствен интелект поема контрола над военните системи и инициира ядрен конфликт. По-прозаичен, но не по-малко опустошителен резултат е изместването на хората от пазара на труда, където машините стават все по-евтини, по-бързи и по-ефективни.

Тези страхове отразяват отдавнашни тревоги, които датират от литературата и киното от началото на 20-и век. Учените постхуманисти разглеждат тези страхове през призмата на културните стереотипи, породени от художествени произведения. Още в пиесата на Карел Чапек „R.U.R.“ от 1920 година, където за първи път се появява думата „робот“, се разказва за създаването на изкуствени работници, които в крайна сметка се бунтуват. Във филма „Метрополис“ на Фриц Ланг от 1927 година сюжетът се върти около конфликта между роботите и хората, където машините се превръщат в символ на класовата борба.

С развитието на компютърните технологии тревогата се засилва. Персонажи като HAL 9000 от „2001: Космическа одисея“, лъкатушещите андроиди в „Светът на дивия запад“ и зловещите агенти в „Матрицата“ подчертават опасността от излизане на технологиите извън контрол. Тези образи формират митология на страха, в която изкуственият интелект винаги е на ръба да се разбунтува срещу създателите си.

Подобни сюжети обаче могат да отклонят вниманието от една по-тревожна реалност – природата на самите хора. Съвременните корпорации и техните ръководители активно използват ИИ за печалба, като често пренебрегват моралните последици.

Един от ярките примери е масовото събиране на данни, включително произведения на изкуството и текстове, за обучение на ИИ-модели без съгласието на авторите им. В образователната среда ИИ се използва за проследяване на ученици, което поражда опасения за пълен контрол.

Разработването на спътници с изкуствен интелект и секс роботи вече надхвърли границите на научната фантастика. Подобни устройства оказват влияние върху междуличностните отношения, като заменят живото взаимодействие с предварително програмирани отговори. Както пише ученият Ила Нурбакш, ИИ се превръща в механизъм, който манипулира желанията на хората и им продава собствените им мечти в опростен вид.

Но на фона на тези притеснения въпросите, свързани с неприкосновеността на личния живот и защитата на данните, започват да изглеждат почти безобидни, когато се замислите как ИИ се използва от агенциите за сигурност. Новите технологии позволяват на държавите лесно да проследяват, изолират и елиминират граждани под претекст за сигурност. В тази реалност заплахата не идва от самите машини, а по-скоро от тези, които ги създават и използват.

Айзък Азимов разглежда подобни дилеми в своите разкази. Известните му „Три закона на роботиката“ се основават на идеята, че машините не трябва да вредят на хората, но като се има предвид човешката история, възниква основателният въпрос: способни ли са самите хора да следват такива принципи?

Може би именно това трябва да разглеждаме като основна заплаха. Не хипотетичната воля на изкуствения интелект, а неспособността на човечеството да насочи развитието му към общото благо. Без зрялост и отговорност всяка технология може да се превърне в инструмент за унищожение – не по вина на машините, а по вина на тези, които ги създават.