Мнение на философа: „Може би никога няма да разберем дали ИИ има съзнание“

Човечеството не разполага нито с теоретичната база, нито с инструментите, за да потвърди наличието на съзнание в ИИ и следователно да му придаде морален статус. До това заключение стигна философът от Кеймбридж Том Макклеланд. Той твърди, че всяка дискусия за „разумността“ на машините днес е само спекулация и единствената рационална позиция е агностицизмът – поне докато науката не разкрие самата природа на съзнанието.

В дебата за съзнанието на изкуствения интелект изследователят идентифицира два основни подхода. Привържениците на първия смятат, че съзнанието е вид „софтуер“: ако пресъздадем неговата структура, ИИ ще стане интелигентен дори на силициеви чипове. Противниците са убедени, че съзнанието е неразривно свързано с биологията на живия организъм и всяко цифрово копие ще си остане само имитация. В статията си за Mind and Language Макклелънд обобщава: и двете позиции са „скок на вярата“, който все още не може да бъде подкрепен с научни доказателства.

Ученият твърди, че проблемът е фундаментален: ние все още не разбираме какво поражда съзнанието и как то функционира. Следователно не разполагаме с надежден начин да определим дали изкуственият интелект действително може да го притежава.

Съзнателният опит, както отбелязва ученият, зависи от феномена сетивност – способността да се изпитват положителни и отрицателни усещания, което прави субекта етично значим. Без този компонент всяко машинно „съзнание“ остава неутрално и не включва никакви морални последици.

„Например безпилотните автомобили, способни сами да виждат пътя, със сигурност са голямо постижение. От етична гледна точка обаче то няма голямо значение. Съвсем друг е въпросът, ако тези автомобили започнат да проявяват емоционални реакции към своята дестинация“,

казва Макклеланд.

Системите, които могат да обработват информацията и да вземат решения, не е задължително да имат съзнание. Дори ако ИИ постигне висока степен на автономност и самосъзнание, това състояние може да бъде етично неутрално, стига да не включва сетивни преживявания – способността да се изпитва страдание или удоволствие.

Макклелънд подчертава, че технологичният шум около изкуственото съзнание често води до спекулативни твърдения и може да отклони ресурси от реалните етични проблеми. Той твърди, че разумният подход към въпроса за изкуственото съзнание е агностицизмът. Хората все още не могат и вероятно никога няма да могат да разберат дали една машина притежава съзнание. Въпреки това прекомерното внимание към хипотетичното съзнание на ИИ може да доведе до „екзистенциална токсичност“ – състояние, при което хората създават емоционални връзки и вземат решения въз основа на предположения за наличието на съзнание в тези системи.