От силиция до синапсите: може ли изкуственият интелект наистина да има съзнание?

Как съвременните технологии ни доближават до създаването на осъзнати машини.

Напредъкът в областта на изкуствения интелект (ИИ) размива границите между уникалните човешки способности и тези, които могат да бъдат възпроизведени от машините. Ако изкуственият общ интелект (AGI) достигне пълния си потенциал и надмине човешкия интелект, разликата между способностите на хората и компютрите може напълно да изчезне.

Тази потенциално тревожна тема напоследък привлича значително внимание на медиите и експертите. Развитието на AGI повдига обезпокоителни морални и правни въпроси. Ако тези машини придобият съзнание, ще се сблъскаме с необходимостта да признаем техните чувства, мисли, желания и може би основни права като нови съзнателни същества. От друга страна, ако ИИ постигне превъзходство над хората във всички области, но остане без съзнание, рискуваме да бъдем доминирани от по-напреднал, но „безчувствен“ интелект.

И двата потенциални сценария за бъдещето не са обнадеждаващи и изискват отговори на изключително трудни въпроси: какво точно е съзнанието? И дали то ще остане биологична черта, или в крайна сметка би могло да бъде споделено със създадените от нас AGI устройства?

Съзнанието в компютрите на фон Нойман

За да може компютърът да изпита широкия спектър от вътрешни състояния, с които разполагат хората, предполага се, че хардуерът му трябва да функционира като човешкия мозък. Човешките мозъци са изключително енергийно ефективни аналогови „устройства“, способни на паралелна обработка на високо ниво.

Съвременните компютри, базирани на архитектурата на фон Нойман, не притежават тези качества – те са енергоемки цифрови машини, състоящи се предимно от серийни електрически вериги.

Компютърните чипове на фон Нойман физически разделят паметта и процесора, като изискват информацията да бъде извлечена от паметта, преди да бъдат извършени изчисленията.

„Класическите компютри на фон Нойман имат физическо разделение между паметта и процесора. Инструкциите и данните се намират в паметта, а процесорът ги извлича колкото е възможно по-паралелно, след което извършва изчислението и връща данните обратно в паметта“,

обяснява Стивън Дийс, инженер по невроморфни технологии в Калифорнийския университет в Сан Диего.

Това ограничение на количеството информация, което може да се прехвърли за определено време, и ограничението, което то налага на скоростта на обработка, се нарича тясното място на архитектурата на фон Нойман . Тясното място на фон Нойман не позволява на сегашните ни компютри да достигнат или дори да се доближат до изчислителните възможности на човешкия мозък. Поради тази причина много експерти считат, че появата на съзнание в съвременните компютри е малко вероятна.

Съзнанието в невроморфните компютри

Компютърните учени активно разработват невроморфни компютърни чипове, които заобикалят ограниченията за обработка на компютрите на фон Нойман, като имитират архитектурата на невроните. Някои от тях съчетават в себе си паметта за съхранение и процесорите в един общ чип. Други използват специализирани елементи за обработка с ниска консумация на енергия, като например мемристори – вид транзистор, който „помни“ предишните състояния на напрежението и по този начин подобрява ефективността. Невроморфните чипове имитират паралелното свързване и ниските енергийни изисквания на мозъка.

„Изчислителното устройство с мемристори, което включва невроморфните компютри, използва хардуерна физика за извършване на изчисленията“, обяснява Дейс, визирайки мемристорите. „Изчислителните елементи са и елементите на паметта.“

Ако невроморфната технология може да бъде разработена до нивото, необходимо за възпроизвеждане на невронната активност, невроморфните компютри може да имат по-голям потенциал за съзнателно изживяване на живота, а не само за интелигентни изчисления.

„Ако някога достигнем ниво на сложност на обработката като човешкия мозък, тогава ще можем да кажем: „Това работи като мозък – вероятно усеща същото, което и ние“, казва Дейс.

И все пак, дори в бъдеще, изпълнено с хардуер, подобен на мозъка, и готова сцена за изкуствено съзнание, големият въпрос остава: как ще разберем дали нашите AGI системи изпитват тъга, надежда и красивото чувство на влюбване, или просто изглеждат така, сякаш изпитват тези чувства?

Как изобщо ще разберем какво се случва в съзнанието на една машина?

Изобилието от теории за съзнанието

Има само един начин да разберем това: да определим емпирично как функционира съзнанието в органичните същества и да разработим метод, чрез който то да бъде последователно разпознато. Необходимо е да разберем съзнанието в самите нас, преди да има някаква надежда да го разпознаем в изкуствените системи. Ето защо, преди да се навлезе в сложните последици от създаването на съзнателни компютри, трябва да се разреши един древен въпрос: какво е съзнанието и кой го има?

През последните десетилетия невробиолозите извадиха този вековен въпрос от ръцете на философите, признавайки, че връзката между невронната активност и съзнателния опит е неоспорима. Съществуват много невробиологични теории за съзнанието (ToC, Theories of Consciousness) – толкова много, че се полагат усилия списъкът да бъде сведен до приемлив брой. Тук ще разгледаме три от тях: Интегрираната информационна теория (IIT, Integrated Information Theory), Глобалната теория за работното пространство на невроните (GNWT, Global Neuronal Workspace Theory) и Теорията за схемата на вниманието (AST, Attention Schema Theory).

Според Интегрираната информационна теория (IIT), разработена от Джулио Тонони, директор на Института за сън и съзнание към Университета на Уисконсин-Медисън, ключът към съзнанието се крие в количеството интегрирана информация в дадена система – колко сложно нейните компоненти комуникират помежду си чрез мрежи от неврони или транзистори. Една система с високо ниво на интегрирана информация е съзнателна, докато системата с ниско ниво на интегрирана информация не е съзнателна.

Кристоф Кох , изтъкнат изследовател в Института за мозъка „Алън“ в Сиатъл, Вашингтон, и поддръжник на IIT, обяснява, че човешките мозъци имат високо ниво на интегрирана информация поради обширното паралелно свързване на техните невронни мрежи. Информацията може да преминава през много невронни пътища едновременно, което увеличава обработващата мощност на мозъка. Съвременните компютри, подвластни на тесните места на архитектурата на фон Нойман, са съставени предимно от серийни вериги, така че подобно ниво на обработка на информация е непостижимо.

Теорията за схемата на вниманието (AST), разработена от Майкъл Грациано, професор по психология и невробиология в Принстън, предлага различна гледна точка: мозъкът ни създава модел на това, на което обръщаме внимание, наречен „схема на вниманието“. Този модел, подобно на модела на самолет, е представяне. Моделът на самолета не включва напълно оборудвана пилотска кабина или функционална пилотска кабина. По същия начин схемата на вниманието на нашия ум е приближение: мисловен модел на това, на което умът ни обръща внимание, и на това, как го възприемаме.

AST предполага, че въпреки ограниченията си, нашата схема на вниманието е толкова убедителна, че сме склонни да стигаме до погрешното заключение, че съзнанието е нещо мистично, нещо „повече“ от материята. Всъщност имаме достъп само до този модел на нашето съзнание, а не до самото съзнание, така че не можем да разберем пряко как работи нашето съзнание, точно както един модел на самолет не може да възпроизведе опита от летенето.

Теорията за глобалното невронно пространство (GNWT), създадена от Бернард Баарс, научен сътрудник по теоретична невробиология в Института по неврология на Калифорнийския университет в Сан Диего, предлага информацията, която мозъкът ни смята за достатъчно важна, да бъде избирателно и временно поставена в централно пространство в мозъка ни (подобно на киносалон), за да можем да ѝ обърнем внимание. Информацията, която не е необходимо да разглеждаме съзнателно, се съхранява в свързани, но отделни области (подобно на задкулисието).

„Основната идея [на GNWT] е доста простичка. Във всеки един момент само едно подмножество от неосъзнатата информация се подбира от мрежите за внимание и този подбор служи за свързване на неосъзнатите модули за обработка с „глобалното работно пространство“. Каквото и съдържание да се намира в работното пространство, то е съзнателно в този момент“,

казва Майкъл Питс, професор по психология в колежа Рийд в Орегон.

Въпреки различните си подходи IIT, GNWT и AST имат обща цел – емпирично разкриване на сложната връзка между мозъчната тъкан и житейския опит. След като невробиолозите разберат как невронните мрежи създават съзнание, това знание може да се използва за разбиране на съзнателните преживявания – или липсата на такива – в неорганичните мрежи.

Компютърното съзнание: нещо повече от футуристична мечта?

Според IIT съзнанието в съвременните компютри е абсолютно невъзможно. Цялата шумотевица около изкуственото съзнание е напразна. Хардуерът си е хардуер. Без значение колко брилянтен е компютърът в играта на шах, Го, Тексас Холдем или Scotland Yard , в края на деня той не знае, че е спечелил играта, нито пък е изпитал емоционалната въртележка на съревнованието. По думите на Кох „той не е преживял абсолютно нищо“.

„Не е достатъчно да погледнем една система за изкуствен интелект отвън и да се запитаме дали тя е съзнателна въз основа на нейното поведение“, казва Кох. „Трябва да се погледне под капака. Машината на Тюринг, която само изглежда, че мисли, не е съзнателна“.

Според IIT неспособността на машината да „бъде нещо“, което преживява себе си по отношение на външния свят, се крие в ограничената ѝ причинно-следствена сила. Каузалната сила се определя като способността на една система да използва миналото си състояние, за да повлияе на сегашното си състояние, и да използва сегашното си състояние, за да повлияе на бъдещото си състояние. Колкото повече една система може да влияе на себе си, толкова по-голяма е нейната причинно-следствена сила. Невробиолозите използват променливата „фи„, за да обозначат количеството причинно-следствена сила в дадена система, и тя се измерва чрез анализ на самовлияещите се връзки между компонентите на веригата.

Съвременните компютърни процесори просто не разполагат с необходимото количество самовлияещи се вътрешни връзки, за да достигнат прага на интегрираната информация, необходим за възникването на опит. За разлика от човешкия мозък, който съдържа приблизително 86 милиарда неврона със 100 трилиона връзки между тях, компютърът съдържа много по-малко затворени или самовлияещи се връзки. Компютърът може да се държи изключително интелигентно – дори да надминава човешкия интелект – но това не е равносилно на способността да влияе на себе си: да бъде съзнателен.

„Популярният начин да се обобщи IIT е да се предположи, че една система е съзнателна, когато цялото (интеграцията на информацията) е по-голямо от сумата на неговите части“, казва Питс. „IIT се фокусира повече върху начина, по който е организирана една система, и как тя влияе на самата себе си, отколкото върху това, което прави. Според IIT две системи могат да имат едно и също входно-изходно поведение, но в зависимост от това как е организирана системата, едната може да е съзнателна, а другата – не.“

За разлика от огромното мнозинство от ТоС, които са изчислителни функционални теории, предполагащи, че съзнанието може да бъде сведено до физически компоненти, които го произвеждат, „IIT започва със съзнанието и работи назад до физическия субстрат на съзнанието. IIT не започва с дадена физическа система, например мозък или машина, и не предполага, че тя може да бъде редуцирана дотолкова, че да ни отведе до източника на съзнанието“, казва Кох.

Поради това допускане IIT не се вписва в нито една от традиционните философски теории за съзнанието, като материализъм, дуализъм, идеализъм или панпсихизъм.

„Това е проблем, когато се сблъскваме с две хиляди години „изми“. Те се преподават във всички философски школи и можем да ги видим във всички книги и са много добре установени, но всичко това е философия. IIT не се вписва в нито една [философия на ума]“, казва Кох.

Въпреки убедителната теоретична основа на IIT, някои невролози поставят под въпрос структурата на теорията. IIT се основава на пет аксиоми, които привържениците на теорията смятат за безпогрешно верни. Питс обяснява:

Някои хора имат проблем с начина, по който започва IIT, защото това е амбициозна теория, която прави смели твърдения. Вместо да се вземат данни и да се изгради теория, тя започва с първичните принципи. Тя описва пет аксиоми, които трябва да са верни за всяко съзнателно изживяване. След това тя използва тези аксиоми, за да изведе постулати, които могат да доведат до прогнози.

„Една от критиките към IIT – добавя Питс, – е, че никога не се получава експериментален резултат, който да оспори същността на теорията, защото аксиомите са установени като универсално вярна отправна точка. Тя е твърде гъвкава и не подлежи на фалшификация, ще кажат някои хора“.

Въпреки че IIT прогнозира, че изкуствените интелигентни компютри не притежават онова „допълнително нещо“, необходимо за съзнанието (а именно каузална сила), тя не изключва перспективата за бърза поява на високоинтелигентни машини – AGI системи – които ще надминат хората чрез своите изчислителни способности. Това е важно разграничение, което трябва да запомним, предупреждава Кох, преценявайки как най-добре да посрещнем едно бъдеще, изпълнено с AGI ботове: „Има разлика между интелигентност и съзнание„.

Подготовката за AGI, съзнателен или не

Дебатите за естеството на съзнанието и за това дали AGI в крайна сметка ще живее като нас вероятно няма да бъдат решени скоро. Въпреки това технологичният напредък бързо ни приближава към бъдеще, изпълнено с машини, които във всяко отношение ще се държат като нас. Как можем да се подготвим за това?

Кох предлага да се опитаме да повишим човешката интелигентност, за да компенсираме очертаващата се пропаст между органичните и изкуствените мозъци. Съзнателни или не, бъдещите изкуствени интелекти ще бъдат много по-интелигентни от нас. Защо да не посветим част от технологичните си ресурси за повишаване на човешкия интелект заедно с изкуствения?

Интересна идея, но има маргинални групи от хора, които няма да се справят с така нареченото от учения „повишаване на човешкия интелект“. Дали какво ще стане с тях?