40 години по-късно „Терминаторът“ все още формира представата ни за изкуствения интелект

Филмът има огромно влияние върху екзистенциалната опасност от изкуствения интелект.

На 26-ти октомври 2024 г. се навършиха 40 години от излизането на класическия научнофантастичен филм на режисьора Джеймс Камерън „Терминаторът“ – филм, който популяризира страха на обществото от машини, с които не може да се спори и които „абсолютно никога няма да спрат… докато не умрете“, както казва един от героите.

Сюжетът на филма се отнася до свръхинтелигентна ИИ система с името Скайнет, която е завладяла света, инициирайки ядрена война. На фона на настъпилото опустошение оцелелите хора организират ефективна борба под ръководството на харизматичния Джон Конър.

В отговор Скайнет изпраща киборг убиец (в ролята Арнолд Шварценегер) назад във времето до 1984 г. – преди раждането на Конър, за да убие бъдещата му майка Сара. Значението на Джон Конър за войната е толкова голямо, че Скайнет залага на изтриването му от историята, за да запази съществуването си.

Интересът на обществото към изкуствения интелект безспорно никога не е бил по-голям, отколкото е днес. Компаниите, разработващи изкуствен интелект, обикновено обещават, че техните технологии ще изпълняват различните задачи по-бързо и по-точно от хората. Те твърдят, че изкуственият интелект може да открива неочевидни закономерности и модели в данните, което ще подобри вземането на решения от страна на хората. Широко разпространено е схващането, че ИИ е готов да промени всичко – от войната до икономиката.

Непосредствените рискове включват въвеждането на предубеждения в алгоритмите за проверка на кандидатурите за работа и заплахата генеративният ИИ да измести хората от някои професии, като например програмирането и писането на обемен софтуер.

Но екзистенциалната опасност е тази, която към днешен ден често доминира в обществените дискусии – а шестте филма за Терминатора оказаха огромно влияние върху начина, по който се формулират тези аргументи. Всъщност, според някои хора, представената във филмите заплаха, която представляват машините, управлявани от изкуствен интелект, отклонява вниманието от съществените ползи, които предлага технологията.

„Терминатор“ (The Terminator) не е първият филм, в който се разглеждат потенциалните опасности, свързани с изкуствения интелект. Съществуват паралели между Скайнет и суперкомпютъра HAL 9000 във филма на Стенли Кубрик от 1968 г. „2001: Космическа одисея“.

Той също така се основава на романа на Мери Шели от 1818 г. „Франкенщайн“ и пиесата на Карел Чапек от 1921 г. „R.U.R.“. И двете истории показват изобретатели, които губят контрол над своите творения.

При излизането си филмът е описан в рецензия на „Ню Йорк Таймс“ като „B-филм с талант“. В последвалите години той е признат за един от най-великите научнофантастични филми на всички времена. В боксофиса филмът печели над 12 пъти повече от скромния си бюджет от 6,4 млн. долара (4,9 млн. паунда по днешен курс).

Това, което беше безспорно най-новото в „Терминатор“, е как той преосмисли отдавнашните страхове от въстание на машините през културната призма на Америка от 80-те години на ХХ век. Подобно на филма „Военни игри“ от 1983 г., в който тийнейджър едва не предизвиква Трета световна война, като хаква военен суперкомпютър, „Скайнет“ подчертава страховете от ядреното унищожение от Студената война, съчетани с тревогата от бързата технологична промяна.

Четиридесет години по-късно Илън Мъск е сред технологичните лидери, които спомагат за поддържането на фокуса върху предполагаемия екзистенциален риск от ИИ за човечеството. Притежателят на X (бившата Twitter) неведнъж се е позовавал на поредицата „Терминатор“, изразявайки загриженост относно хипотетичното развитие на свръхинтелигентен ИИ.

Но подобни сравнения обикновено дразнят защитниците на технологията. Както каза бившият министър на технологиите на Обединеното кралство Пол Скъли на конференция в Лондон през 2023 г:

„Ако говорите за края на човечеството само заради някакъв сценарий в стил „Терминатор“, ще пропуснете всички добри неща, които ИИ [може да направи]“.

Това не означава, че няма истински опасения относно военните употреби на ИИ – такива, които дори могат да изглеждат като паралелни на филмовата поредица.

Оръжейни системи, управлявани от изкуствен интелект

За успокоение на редица хора американски официални лица заявиха, че ИИ никога няма да взема решение за разполагането на ядрено оръжие. Но комбинирането на ИИ с автономни оръжейни системи е възможно.

Тези оръжия съществуват от десетилетия и не изискват непременно изкуствен интелект. Веднъж активирани, те могат да избират и атакуват цели, без да бъдат пряко управлявани от човека. През 2016 г. генералът от военновъздушните сили на САЩ Пол Селва въведе термина „терминологична главоблъсканица“, за да опише етичните и правните предизвикателства, които тези оръжия поставят.

Стюарт Ръсел, водещ британски компютърен учен, настоява за забрана на всички смъртоносни и напълно автономни оръжия, включително тези с изкуствен интелект. Той твърди, че основният риск не е от това, че една разумна система от типа на Скайнет може да изпадне в състояние на лудост, а от това доколко добре автономните оръжия могат да следват нашите инструкции и да убиват със свръхчовешка точност.

Ръсел визира сценарий, при който малки квадрокоптери, снабдени с изкуствен интелект и експлозивни заряди, биха могли да се произвеждат масово. След това тези „роботи за клане“ ще могат да се използват на рояци като „евтини, селективни оръжия за масово унищожение“.

Държавите, включително САЩ, посочват необходимостта от човешки оператори, които да „упражняват подходящи нива на човешка преценка за употребата на сила“, когато управляват автономните оръжейни системи. В някои случаи операторите могат визуално да проверяват целите, преди да разрешат нанасянето на удари, и могат да „отменят“ атаките, ако ситуацията се промени.

ИИ вече се използва за подпомагане на военното таргетиране. Според някои това вече дори е отговорно използване на технологията, тъй като може да намали съпътстващите щети. Тази идея напомня за смяната на ролите на Шварценегер в ролята на доброжелателната „машина пазител“ в продължението на оригиналния филм – „Терминатор 2: Денят на Страшния съд“.

ИИ обаче би могъл да подкопае и ролята на човешките оператори на дронове, които оспорват препоръките на машините. Някои изследователи смятат, че хората са склонни да се доверяват на всичко, което казват компютрите.

„Реещите се боеприпаси“

Военните, участващи в различни конфликти, все по-често използват малки и евтини безпилотни летателни апарати, които могат да откриват и поразяват цели. Тези „реещи се боеприпаси“ (наречени така, защото са проектирани да висят над бойното поле) се отличават с различна степен на автономност.

Както става дума в изследване, написано в съавторство с изследователката в областта на сигурността Ингвилд Боде, динамиката на войната в Украйна и другите актуални конфликти, в които тези боеприпаси са широко използвани, поражда опасения относно качеството на контрола, упражняван от човешките оператори.

Наземните военни роботи, въоръжени с оръжия и предназначени за използване на бойното поле, силно напомнят за безмилостните Терминатори, а въоръжените въздушни дронове с времето могат да заприличат на въздушните „ловци-убийци“ от франчайза. Но тези технологии не ни мразят така, както Скайнет, нито пък са „свръхинтелигентни“.

Въпреки всичко, от решаващо значение е човешките оператори да продължат да упражняват контрол върху тези системи.

Вероятно най-голямото завещание на „Терминатор“ е да изкриви начина, по който колективно мислим и говорим за ИИ. Сега това е по-важно от всякога, поради това колко ключово значение имат тези технологии за стратегическата конкуренция за глобална власт и влияние между САЩ, Китай и Русия.

Цялата международна общност, от свръхдържави като Китай и САЩ до по-малките държави, трябва да намери политическа воля за сътрудничество – и да се справи с етичните и правните предизвикателства, породени от военните приложения на ИИ в този период на геополитически сътресения. Начинът, по който държавите ще се справят с тези предизвикателства, ще определи дали ще успеем да избегнем мрачното бъдеще, така ярко представено в „Терминатор“ – дори и да не успеем скоро да видим пътуващи във времето киборги.