Без съзнание, предупреждава невроученият от Принстън Майкъл Грациано в ново есе, публикувано от The Wall Street Journal, чатботовете с изкуствен интелект са обречени да бъдат опасни социопати.
Те могат да представляват реална опасност за хората.
С появата на чатботове като ChatGPT – мощни системи, които могат да имитират човешкия ум във впечатляваща степен, инструментите на изкуствения интелект станаха по-достъпни от всякога. Но тези алгоритми ще се изхитрят да говорят за всичко, което им е удобно. Грациано смята, че за да ги приведем в съответствие с нашите ценности, те ще се нуждаят от съзнание.
Съзнанието е част от инструментариума, който еволюцията ни е дала, за да ни превърне в емпатичен и просоциален вид. Без него ние непременно бихме били социопати, защото не бихме разполагали с инструментите за просоциално поведение.
Разбира се, ChatGPT няма да изскочи от екрана и да убие някого.
Но даването на все повече правомощия на изкуствения интелект може да има съвсем реални последици, за които трябва да внимаваме в недалечното бъдеще. Според Грациано, за да ги направим по-послушни, трябва да им позволим да осъзнаят, че светът е пълен с други умове, различни от техните.
Има обаче един проблем. Не разполагаме с ефективен начин да разберем дали един изкуствен интелект е съзнателен или не. Всъщност от философска гледна точка е трудно дори да се установи дали другите хора са съзнателни.
Ако искаме да знаем дали един компютър е съзнателен, тогава трябва да проверим дали компютърът разбира как съзнателните умове си взаимодействат. С други думи, имаме нужда от обратен тест на Тюринг: Да видим дали компютърът може да определи дали говори с човек или с друг компютър.
Той се опасява, че ако не успеем да отговорим на тези сложни въпроси, може да се сблъскаме с мрачни последици.
Социопатична машина, която може да взема решения, свързани с последствията, би била изключително опасна. Засега чатботовете все още са ограничени в своите възможности – те са по същество играчки. Но ако не се замислим по-задълбочено за машинното съзнание, след година или пет години може да се изправим пред криза.