Папата критикува изкуствения интелект: „Той превръща хората в консуматори на безсмислени мисли и продукти без любов.“

В послание за 60-ия Световен ден на социалните комуникации на 24 януари (денят се чества на 17 май), папата разкритикува ИИ-продуктите и дийпфейковете.

Лъв XIV, който не е против определени игри и филми и не е далеч от съвременната култура, изрази неодобрение към изкуствено създадените или променени лица и гласове – т.нар. дийпфейкове. Тези коментари вероятно отразяват позицията на Католическата църква.

„Нашите лица и гласове са уникални, отличителни черти на всеки човек; те разкриват нашата собствена уникална идентичност и са определящите елементи на всяка среща с другите. […] Лицата и гласовете са свещени. Бог, който ни е създал по свой образ и подобие, ни ги е дал, когато ни е призовал към живот чрез Словото, което ни е говорил“ —- се казва в посланието.

Гласовете и лицата не са единствените неща, които тревожат Понтифика. Той вижда проблема на по-високо ниво —- как езиковите и други генеративни модели влияят на живота и комуникацията.

„…Дигиталните технологии заплашват да променят радикално някои от фундаменталните основи на човешката цивилизация, понякога приемани за даденост. Чрез имитиране на човешки гласове и лица, мъдрост и знания, съзнание и отговорност, емпатия и приятелство, системите, известни като изкуствен интелект, не само пречат на информационните екосистеми, но и навлизат в най-дълбокото ниво на комуникация – човешките взаимоотношения.“

Папата не призовава за изоставяне на изкуствения интелект, но набляга на отговорното му използване и осъзнаването на рисковете.

„Защитата на лицата и гласовете в крайна сметка означава да защитим самите себе си. Да се ​​възползваме от възможностите, предлагани от цифровите технологии и изкуствения интелект, със смелост, решителност и благоразумие, не означава да си затваряме очите за критичните предизвикателства, сложности и рискове.“

„Не се отказвайте от способността си да мислите“ —- подчертава отделно Лъв XIV.

Главата на Католическата църква вижда не само изкуствения интелект, но и социалните медии като пречка за това. По-конкретно, тяхната съвременна технологична организация, алгоритмите за възнаграждаване на потребителите и избора на съдържание.

„Отдавна има достатъчно доказателства, че алгоритмите, предназначени да увеличат максимално ангажираността в социалните медии (което е от полза за платформите), възнаграждават бързите емоции и наказват по-трудоемките човешки реакции, като например усилията, необходими за разбиране и размисъл. Като групират хората в „балончета“ от лесен консенсус и леко възмущение, тези алгоритми намаляват способността ни да слушаме и мислим критично и изострят социалната поляризация.“

Проблемът със зависимостта от изкуствения интелект също получи внимание. Посланието разкрива връзката ѝ с упадъка на човешките способности.

„Ситуацията се изостря допълнително от наивното и безусловно разчитане на изкуствения интелект като „приятел“, който знае всичко, източник на всички знания, хранилище на всички спомени, „оракул“ на всички съвети. Всичко това може допълнително да подкопае способността ни да мислим аналитично и креативно, да разбираме смисъла и да разпознаваме синтаксиса и семантиката. Докато изкуственият интелект може да осигури подкрепа и помощ при управлението на задачи, свързани с комуникацията, в крайна сметка избягването на усилието за самостоятелно мислене и разчитането на изкуствени статистически компилации заплашва да влоши нашите когнитивни, емоционални и комуникативни умения.“

Думите в заглавието се отнасят до „креативност“ в областта на изкуствения интелект. Генерирането на съдържание е навлязло в почти всички креативни индустрии. Папата призовава за предпазливост.

„През последните години системите с изкуствен интелект все повече поемат контрола върху производството на текстове, музика и видео. Това излага значителна част от човешката творческа индустрия на риск да бъде демонтирана и заменена с етикета „Задвижвано от изкуствен интелект“, превръщайки хората в пасивни консуматори на необмислени мисли и анонимни продукти без собственост или любов. Междувременно шедьоврите на човешкия гений в музиката, изкуството и литературата се свеждат до обикновени тренировъчни площадки за машините.“

В доста обширно послание Лъв XIV засегна и измамното хуманизиране на изкуствения интелект, влиянието върху изборите, дезинформацията и изкривяването на реалността в резултат на тези процеси.