Какво ще се случи, когато компютрите надминат хората?

Предсказанията на футуриста Рей Кърцвейл за изкуствения интелект изглеждат поразително познати днес. Той задава важни въпроси още през 1991 г. – 35 години по-късно ние получаваме отговори.

Когато изкуственият интелект (ИИ) все още се е изучавал в изследователски лаборатории, Рей Курцвейл е бил разочарован от това колко тясно е възприеман. Днес неговите прогнози са се сбъднали, но все още има много „тъмни страни“, които тепърва трябва да изследваме, пише Techradar.

В интервю за Computerworld от 1991 г., Кърцвейл твърди, че обществените очаквания са изкривени не от провали, а от познаването на технологията: „Когато хората говорят за изкуствен интелект, те обикновено имат предвид само експертни системи, но това е само малка част от него. До края на това десетилетие по-голямата част от софтуера ще бъде интелигентен, но не е задължително да се нарича изкуствен интелект.“

Повече от 30 години по-късно, разпознаването на изображения, преводът на реч в текст, системите за препоръки и автоматизираното вземане на решения са повсеместни, но тези технологии рядко се считат за изкуствен интелект. Това обозначение просто е сведено до проекти като ChatGPT и Google Gemini.

По време на интервюто си за Computerworld, Кърцвейл вече е бил дълбоко ангажиран с търговската страна на изкуствения интелект, тъй като е основал няколко компании, специализирани в разпознаването на изображения, синтез на музика и разпознаване на реч. На въпроса дали е изненадан от начина, по който са се развили компютърните системи, той отговорил: „Не съм особено изненадан. Винаги съм вярвал, че цифровата информация може да обхваща много видове явления – от звук, реч и музика до изображения и 3D-обекти. Почти всичко може да бъде дигитализирано. Дори нашият генетичен код може да бъде дигитализиран.“

Когато го попитали директно как определя изкуствения интелект, Кърцвейл избягвал научнофантастичните клишета от онова време, обяснявайки: „ИИ е изкуството да се създават машини, които изпълняват функции, свързани с човешкия интелект. Интелигентността е способността за ефективно използване на ограничени ресурси, използвайки абстрактно мислене, способността за разпознаване на модели и възможността за решаване на проблеми за ограничено време.“

Съвременните системи за машинно обучение са изградени почти изцяло на това предположение. Те не разсъждават по начина, по който хората обичат да си представят, но са отлични в разпознаването на модели в огромни количества данни – точно когнитивната функция, която Курцвейл определи като доминираща преди 35 години.

В интервюто той е попитан за текущото състояние на развитието на изкуствения интелект. Отговорът му бил показателен: „Създаваме системи, които могат да имитират човешкия интелект в тясна област. Те диагностицират ограничен набор от заболявания, играят шах, вземат финансови решения и насочват ракета към сграда.“

Ограничението, обяснява той, се крие в контекста: „Тези системи отново стават идиоти, когато излязат извън своята област на знания. С напредването на изкуствения интелект ние се опитваме да разширим областта на познанията на машината, като комбинираме различни системи на изкуствения интелект, като например разпознаване на реч, разбиране на естествен език и възможности за вземане на решения в рамките на определена експертна област.“

Computerworld е попитал Рей какво си представя за бъдещето и той отговорил: „Въпросът е какво всъщност ще се случи, когато компютрите могат да съперничат или да надминат човешкия интелект? След като компютърът може да имитира основни човешки функции, той ще може да комбинира това с огромното превъзходство, което вече демонстрира в способността си да запомня милиарди или трилиони факти с изключителна точност, да осъществява достъп до тази информация с невероятно висока скорост и да изпълнява тези функции отново и отново много бързо.“

След това той отбелязва: „Ако може да прочете книга, нищо няма да му попречи да прочете всяка публикувана някога книга, всяко списание и техническо издание и да овладее всички човешки знания. След като постигне равенство с човешкия интелект в някои области, той неизбежно ще го надмине значително в други.“

Кърцвейл завършил тази мисъл с коментар, който е особено актуален днес: „Последиците от това са трудни за разбиране. Голяма част от нашата гордост произтича от вярата ни в нашето интелектуално превъзходство.“

Един от най-философски предизвикателните въпроси в интервюто е дошъл, когато го попитали дали една машина някога би могла да притежава съзнание. „Ключовият въпрос е въпросът за съзнанието и какво означава да си живо, съзнателно същество и дали машина, която изглежда имитира човекоподобни функции, е съзнателна“ —- казва той. „Може би най-добрият начин да разберем парадоксите, пред които сме изправени в този въпрос, е да разгледаме следния сценарий: в крайна сметка ще можем да сканираме човек и компютърът ще запомни точната структура на всички наши неврони и други клетки. След това можем да си представим създаването на нов компютър, който ще бъде свързан точно като човека, който току-що беше сканиран.“

Кърцвейл не се е опитвал да реши проблема със съзнанието като инженерен проблем. Той го е преформулирал като въпрос за идентичността. Ако една система изглежда, говори и помни точно като човек, тогава въпросът за съзнанието престава да бъде технически и става философски: „Ако се сблъскате с този компютър, той ще ви се стори много подобен на същия този човек. Тогава въпросът става: това същият човек ли е? Съзнателен ли е този компютър? Можете да кажете „да“, защото бихте усетили съзнанието му, ако го интервюирате. Въпросът е: няма научен експеримент, който може да определи дали някое друго същество – животно, машина или човек – е съзнателно.“

Днес, когато системите с изкуствен интелект създават език, който описва емоции, идентичност и самосъзнание, формулировката на Кърцвейл изглежда по-малко хипотетична и по-неловка. Той със сигурност не е твърдял, че машините ще бъдат съзнателни, а само че хората нямат надежден начин да го отрекат, когато подобно поведение стане непреодолимо. Тази несигурност се прояви в реалния живот през 2022 г., когато инженерът на Google Блейк Лемойн се убеди в разумността на системата LaMDA, сподели твърденията си с The Washington Post и беше незабавно отстранен от работа.

Интервюто от 1991 г. засегна и обществената тревожност относно автоматизацията и работата, което е основна тема днес.

Кърцвейл казва: „Това ще окаже дълбоко въздействие върху обществото и ролята, която хората играят. Въпреки че компютрите, автоматизацията и машините са все по-способни да изпълняват функции, които хората могат да правят, човешката заетост се е увеличила драстично. Преди сто години имахме 12 милиона работни места, които са заели 30% от населението, а сега има над 120 милиона, които са заели 50% от населението. Освен това сложността на тези работни места се е увеличила, а заплатите са шест пъти по-високи в постоянни долари. Остава обаче въпросът: какво ще правят хората през 2050 г., предвид огромния интелектуален потенциал, който компютрите вероятно ще притежават?“

Кърцвейл не се е опитал да отговори на собствения си въпрос, а умишлено го е оставил отворен.

Днес, на седемдесет години, Рей работи в Google и често е наричан „духовният баща на изкуствения интелект“. Много от идеите, залегнали в основата на съвременното машинно обучение, повтарят аргументите, които той е изложил през 1991 г. Тридесет и пет години по-късно сме много по-близо до бъдещето, което той описва, но не сме по-близо до отговора на въпроса, който е оставил без отговор.