„След 10 години генеративните изкуствени интелекти могат да придобият съзнание“

Когато миналото лято експерт от Google заяви, че е забелязал признаци на съзнание в езиковия модел LaMDA 2, думите му бяха посрещнати с недоверие и дори присмех. За Дейвид Чалмърс, философ и изследовател на съзнанието, този случай бе повод да се замисли какво може да бъде доказателството за появата на съзнание в изкуствения интелект. В статия, публикувана в Boston Rewiev, той дава подробен отговор на този въпрос.

Съзнанието, според учения, има много измерения. На първо място има сетивни преживявания, свързани с възприятието. На второ място са афективните преживявания, свързани с чувствата. На трето място са когнитивните преживявания: мислите и разсъжденията. Четвърто, агентивните преживявания: намеренията и действията. Съществува и самосъзнание. Всички те са компоненти на субективния опит.

В същото време съзнанието не е равнозначно на самосъзнанието и не трябва да се отъждествява с човешкия интелект. Така например редица зоолози смятат, че някои видове животни – котки, мишки, риби – имат съзнание, но не достигат човешкия интелект. Съзнанието се е появило в резултат на еволюцията по-рано от развития интелект. Затова не е изключено изкуственият интелект също да го притежава.

Липсата на ясна дефиниция на съзнанието затруднява изучаването на този проблем. В информатиката е добре известен тестът на Тюринг, който мнозина смятат за достатъчно условие за съзнание, макар че със сигурност това не е необходимо условие. Разработването на сравнителен тест за откриване на съзнание в изкуствения интелект е трудно, смята Чалмърс, но би било възможно да се измислят най-различни съвсем нови тестове, които да търсят отделни компоненти на съзнанието: вниманието, афективните преживявания, самосъзнанието.

В същото време появата на съзнание в ИИ не означава непременно, че той незабавно ще придобие някакви невероятни способности. Като цяло ролята на съзнанието в поведението е слабо проучена. Въпреки това системите със съзнание веднага придобиват по-висок статус в нашите очи. Започваме да се отнасяме към тях по различен начин от „бездушните“ обекти.

Оттук възниква следният важен въпрос: трябва ли да създаваме изкуствен интелект със съзнание? Несъмнено появата му ще предизвика етични дебати и трудности в много по-голяма степен, отколкото предизвика появата на генеративните езикови модели. И Чалмърс не е убеден, че появата на такава машина би донесла полза на човечеството.

По-нататък Чалмърс изброява и развива четири варианта на индикатори за съзнание в езиковите модели: машината съобщава, че е придобила съзнание; изглежда, че машината е придобила съзнание; машината има изключителни разговорни умения; машината е придобила универсална интелигентност, т.е. престанала е да се специализира само в едно нещо.

Фактът, че в генеративните модели се наблюдава тенденция към обобщаване, предполага ясно движение на изкуствения интелект към универсалност. Той все още не е достигнал нивото на човека, но през последните десетина години значително се е развил.

Чалмърс назовава и недостатъците на ИИ, които си струва да се вземат предвид, когато се преценява дали даден модел има съзнание. Това са биологичният фактор, основаващ се на схващането, че съзнанието изисква въглеродна форма на живот; липсата на сетивни органи и тяло; липсата на модел на света и на самия себе си в света (заради което съвременните езикови модели са си спечелили прозвището „стохастични папагали“); липсата на рекурентни процеси в ИИ; липсата на глобално работно пространство (термин, предложен от когнитивните психолози и невролозите в края на 80-те години); и липсата на една личност в модела.

Нито една от горепосочените трудности не е непреодолима, но всички заедно те представляват сериозна пречка за настоящите езикови модели. Чалмърс оценява шансовете съзнанието да се появи в сегашния ИИ на по-малко от 10%. Но той предупреждава да не приемаме това число твърде сериозно.

От друга страна, ако вземем предвид еволюцията на технологиите, „напълно е възможно през следващото десетилетие да разполагаме със стабилни системи със сетива и тела, модел на света и на самите нас, рекурентна обработка на информацията, глобално работно пространство и единни цели“.

Чалмърс оценява тази вероятност на над 50%. И същата вероятност такива системи да развият истинско съзнание. Заедно това са 25 %. Никак не е малко.