Ако ИИ придобие съзнание, дали ще разберем за това?

През 2021 г. инженерът на Google Блейк Лемоан попадна в заглавията на вестниците – и беше уволнен – понеже заяви, че чатботът LaMDA, който тества, притежава разум. Системите за изкуствен интелект (ИИ), особено т.нар. големи езикови модели като LaMDA и ChatGPT, със сигурност могат да изглеждат като съзнателни. Вярно е, че те са обучени да обработват само огромни количества текст, за да имитират човешките отговори. Но дали дори на теория тези модели могат да притежават съзнание? Неотдавна група от 19 компютърни специалисти, невролози и философи предложиха интересен начин за проверка на това, като използваха дълъг списък с характеристики, които, взети заедно, биха могли да подскажат (но не и да докажат), дали изкуственият интелект притежава съзнание. В тази експериментална работа изследователите се опират на теориите за човешкото съзнание и предлагат 14 критерия за оценка на съществуващите езикови модели.

Какво представлява съвременният ИИ и как работи той?

Грубо казано, съвременните системи с изкуствен интелект могат да изпълняват задачи, свързани с човешките когнитивни функции, като например тълкуване на реч, участие в игри и идентифициране на модели. Обикновено те се научават да правят това, като обработват огромни количества информация и откриват модели, които да прилагат при вземането на собствени решения.

В много случаи хората са тези, които контролират процеса на обучение на ИИ, като подсилват правилните решения и възпират неправилните. Някои системи за ИИ обаче са проектирани да се учат без наблюдение от страна на хората, както в случая с видеоигрите – като играят отново и отново, ИИ системите започват да разбират правилата и начините за победа.

Трябва да се отбележи, че съвременните системи с изкуствен интелект са предимно езикови модели, поради което се наричат чатботове. Всъщност невронните мрежи са математически модели (или програми), които са способни да се учат и да обработват големи количества данни. Те се базират на алгоритми за машинно обучение, които симулират работата на човешкия мозък.

Всички тези умения дават възможност на изкуствения интелект не само да генерира собствени текстове и да общува с потребителите онлайн, но и да пише музика, да генерира изображения и дори да диагностицира заболявания. Но ако съвременният ИИ е толкова добър в много задачи, които преди са били запазени за хората, можем ли да наречем тези системи съзнателни? Да си припомним победата на машината над шаха, след което последваха редица други победи. Дали по този начин изкуственият интелект ще се усъвършенства токова много, че ще можем да кажем, че има съзнание? Нека се спрем по-подробно.

Може ли ИИ да стане разумен и интелигентен?

Преди време лингвистът и виден интелектуалец Ноам Чомски недвусмислено заяви, че изкуственият интелект, поне ChatGPT, със сигурност няма да завладее човечеството. Според професора, съвременните системи за изкуствен интелект просто не са способни да придобият дори и подобие на човешкия интелект.

„Отговорите на изкуствения интелект не са нищо повече от вероятности, които се променят във времето“, пише Чомски.

Сега авторите на ново проучване, публикувано в сървъра за предварително публикуване arXiv (където се поместват нерецензирани статии), предлагат по-различен подход към въпроса за съзнанието в съвременните системи с изкуствен интелект. В своята статия от цели 120 страници екипът от учени разглежда 14 критерия за човешкото съзнание по отношение на съществуващите архитектури на невронни мрежи, включително модела, на който се базира ChatGPT.

Екипът е стигнал до извода, че нито една от съществуващите ИИ системи вероятно никога няма да може да придобие съзнание. Все пак работата предлага базисна рамка за извършване на оценка на все по-подобните на човека ИИ, като като изследователите започват да въвеждат систематична методология, която е липсвала досега.

Адил Рази, компютърен невролог в университета Монаш и научен сътрудник в Канадския институт за напреднали изследвания (CIFAR), който не е участвал в новата работа, казва, че това е ценна и доста важна стъпка.

Трябва да се отбележи, че до 20-те години на миналия век темата за съзнанието в машините се възприема като прерогатив на научната фантастика. Но ако изкуственият интелект се научи да имитира наличието на съзнание, това ще се превърне във важна тема за обсъждане сред философите (и дори невробиолозите). Освен това проблемът за разумността на изкуствения интелект има морално измерение. В крайна сметка как трябва да се отнасяме към изкуствения интелект въз основа на вероятността той да има съзнание?

Какво представлява съзнанието и как можем да го открием?

Авторите на новото изследване се фокусират върху така наречената идея за „феноменално съзнание“ – субективното качество на дадено преживяване, като например усещането за болка или виждането на цветове. Но възможно ли е да се изследва феноменалното съзнание на един алгоритъм? Последният, за разлика от човешкия мозък, не подава сигнали за своето функциониране, които биха могли да бъдат регистрирани чрез ЕЕГ или ЯМР.

Вместо това учените са използвали „теоретичен подход“, като първо са анализирали съществуващите теории за човешкото съзнание и след това са се опитали да ги открият в основната архитектура на изкуствения интелект, казват експертите.

За да може една предложена подобна теория да бъде проверена, нейната основа трябва да лежи в областта на невробиологията и да бъде подкрепена с емпирични данни, като например сканиране на мозъка по време на различни когнитивни задачи. Трябва да се разгледа и възможността съзнанието да възникне независимо от изчисленията, извършвани от биологичните неврони или силициевите чипове.

Въз основа на горните критерии бяха оценени шест теории. Една от тях беше теорията за рекурентната обработка, според която прехвърлянето на информация чрез обратна връзка е ключът към съзнанието. Друга теория, теорията за глобалното невронно работно пространство, твърди, че съзнанието възниква, когато независими потоци от информация преминават през тясно място и се комбинират в работно пространство, аналогично на компютърен класьор.

Теориите от по-висок порядък предполагат, че съзнанието включва процеса на представяне и анотиране на основните входни данни от сетивата, се казва в статията.

Други теории подчертават значението на механизмите за контрола на вниманието и необходимостта тялото да получава обратна връзка от външния свят. Така от тези шест теории изследователите определиха 14 индикатора за съзнателно състояние.

Съзнание или обикновен алгоритъм?

Авторите на статията стигат до заключението, че колкото повече показатели има една архитектура на изкуствен интелект, толкова по-вероятно е тя да притежава съзнание. Например един от вариантите на големия езиков модел, който стои в основата на ChatGPT, е бил близо до демонстрирането на друга характеристика – наличието на глобално работно пространство, а именно

PaLM-E на Google, който приема данните от различни роботизирани сензори, и по този начин отговаря на критериите за „свобода на действие и въплъщение“.

Друга система за изкуствен интелект, а именно DeepMind, която е обучена да управлява аватар в симулирано 3D пространство, също отговаря на изискванията за „свобода на действие и въплъщение“, въпреки че не разполага с физически сензори като PaLM-E. Въпреки това нито един от ИИ, избран от авторите на статията, не е набрал необходимия брой точки, за да може да се каже, че има съзнание.

Проблемът с всички подобни проекти, според един от авторите на изследването, е, че всички съществуващи теории се базират на нашето разбиране за човешкото съзнание. Съзнанието обаче може да приема и други форми, като например при другите бозайници.

Авторите на публикацията отбелязват, че техният контролен списък е в процес на разработване. Между другото, те не са единствените ентусиасти в тази област. Днес все повече учени активно се занимават с тази тема, работейки паралелно върху създаването на все по-мощни и по-умни системи за изкуствен интелект. Сега тази интересна научна работа очаква рецензия и съвсем скоро ще бъде официално публикувана