Изкуственият интелект може да разруши семейства и да разедини цели нации

Джонатан Бърч, професор по философия в Лондонското училище по икономика предупреди за предстоящо разделение в обществото по отношение на изкуствения интелект. Според него през следващите години хората ще се разделят на два лагера: тези, които вярват, че ИИ-системите са способни да изпитват емоции и съзнание и онези, които са убедени в тяхната пълна безчувственост.

Изказването беше направено в навечерието на важна среща на представители на различни държави в Сан Франциско, на която се планира да бъдат обсъдени мерките за сигурност, свързани с развитието на интелигентните машини. Наскоро международна група учени представи прогноза, според която изкуственият интелект може да придобие съзнание до 2035 година.

Дебатът за последиците от това ИИ да има чувства напомня за научнофантастични филми като „Изкуствен интелект“ от 2001 година на Стивън Спилбърг и „Тя“ от 2013 година на Спайк Джонз. Споровете могат да бъдат толкова остри, че да доведат до формирането на враждуващи субкултури. Някои от тях настояват да се предоставят на системите на изкуствения интелект права, подобни на тези на хората и животните, докато други категорично отхвърлят подобна възможност.

Проблемът ще се задълбочи от религиозните и културните различия между страните. Хората в различните части на света все още имат много различно отношение към етичните въпроси.

Нека вземем за пример Индия, където стотици милиони хора са вегетарианци и Съединените щати, които са едни от най-големите консуматори на месо в света. Подобни противоречия могат да възникнат и във връзка с изкуствения интелект – възгледите на държави като Саудитска Арабия, която се стреми да се превърне в център за разработване на изкуствен интелект ще се различават значително от тези на другите държави по света.

Възможно е да възникнат конфликти дори в семействата. Например хората, които изграждат емоционални връзки с чатботове или цифрови копия на починали роднини може да се сблъскат с неразбиране от страна на близките си.

Изследователите призовават технологичните компании да се отнесат сериозно към въпроса за определяне на нивото на съзнание на техните системи с изкуствен интелект. Необходимо е да се прецени дали съвременните модели са способни да изпитват щастие и страдание, дали е възможно да им се навреди или да им се извлече полза. Досега разработчиците избягваха тази дискусия. Според Бърч те са съсредоточени върху това да направят технологията по-надеждна и печеливша, като умишлено оставят настрана философските въпроси и етиката.

Най-големите технологични компании, сред които Microsoft, Perplexity, Meta, OpenAI и Google също се въздържат от коментари.

Може ли чатботът в смартфона ви да бъде щастлив и тъжен? Какво ще стане, ако роботите, програмирани да вършат домакинска работа страдат и се обиждат, ако се отнасяте зле с тях? Тези въпроси се отнасят дори за автоматизираните системи в складовете – могат ли те да бъдат недоволни от условията на труд?

Патрик Батлин, изследовател от Оксфордския университет разсъждава какво ще се случи, ако решим да игнорираме чувствата на алгоритмите

„Съществува риск системите с изкуствен интелект да се опитат да се противопоставят на нас по опасен начин.“

Сред експертите няма консенсус по въпроса доколко е вероятно машините изобщо да се научат да усещат нещо и да осъзнаят реалността. Анил Сет, невролог и изследовател на съзнанието смята, че това все още е много далечна перспектива, а може би дори непостижима. Въпреки това той предупреждава, че не би било разумно да се изключва напълно такава възможност.

Сет също така прави разлика между понятията интелигентност и съзнание. Интелигентността, казва той, е способността да правиш правилните неща в правилния момент. Съзнанието, от друга страна е нещо повече: състояние, при което съзнанието ни е изпълнено със светлина, цветове, сенки и форми. Ние изпитваме емоции, мислим, вярваме, възнамеряваме – и всичко това е нещо специално за нас.