Папа Лъв XIV предупреждава за заплахите на AI за човешкото достойнство и труда

Два дни след избирането си Папа Лъв XIV се обърна към кардиналите в Рим и даде ясно да се разбере, че изкуственият интелект ще бъде в центъра на неговото папство. Робърт Френсис Превост, който е родом от Чикаго и е завършил математика, се позова на наследството на своя съименник Лъв XIII, който е защитавал правата на работниците по време на сътресенията на индустриалната революция.

„Днес Църквата предлага своята съкровищница от социално учение, за да отговори на поредната индустриална революция и на иновациите в областта на изкуствения интелект, които поставят предизвикателства пред човешкото достойнство, справедливостта и труда.“

каза Лъв XIV пред колегията на кардиналите, които отговориха с бурни овации

Предупреждението на Папа Лъв XIV идва след години на диалог между Ватикана и Силициевата долина.

През последното десетилетие ръководители на компании като Google, Microsoft, Cisco и други са пътували до Рим, за да обсъждат с църковните лидери етичните и обществените последици от изкуствения интелект. Тези срещи често се провеждаха при закрити врати, като и двете страни се стремяха да повлияят на глобалния разговор за технологиите и тяхното въздействие върху човечеството.

Въпреки продължаващите дискусии обаче, между Ватикана и технологичната индустрия остава значителна пропаст. Католическата църква се застъпва за задължителен международен договор за AI – позиция, на която някои технологични компании се противопоставят в полза на доброволни етични насоки. Европейският съюз започна да прилага правно обвързващи разпоредби, докато някои представители на правителството на САЩ се противопоставят на подобни мерки. Междувременно някои ръководители на технологични компании отхвърлиха дори широки етични рамки, като предпочетоха да избегнат изцяло официалния надзор.

Опасенията на Папа Лъв XIV повтарят тези на неговия предшественик Папа Франциск, който ставаше все по-предпазлив към изкуствения интелект, когато научаваше повече за неговите възможности и потенциални опасности.

Франциск се срещна с технологични лидери и предупреди за „технологична диктатура“, като призова правителствата да създадат задължителни международни правила за регулиране на AI. В послание до лидерите на Г-7 Франциск описа AI като „очарователен и ужасяващ“ и предупреди, че човечеството може да се изправи пред бъдеще без надежда, ако „машините“ вземат решенията вместо човека.

Ватиканът също така изтъкна рисковете от концентриране на властта и богатството на ИИ в ръцете на няколко компании, потенциала за автономни оръжия и заплахата децата да израснат в свят, оформен от нехуманизирани цифрови взаимодействия. В неотдавнашен документ Ватиканът предупреди, че дори AI да има положителни приложения, неконтролираното му развитие може да стане за сметка на мнозина.

Кардинал Джузепе Версалди, дългогодишен сътрудник на Папа Лъв XIV, подчерта неотложността на въпроса.

„Лъв XIV иска световете на науката и политиката незабавно да се заемат с този проблем, без да позволяват на научния прогрес да напредва с високомерие, нанасяйки вреда на онези, които трябва да се подчинят на неговата сила. Тези инструменти не трябва да бъдат демонизирани, а трябва да бъдат регулирани. Въпросът е кой ще ги регулира? Не е правдоподобно те да бъдат регулирани от техните създатели. Трябва да има по-висш орган.“

каза Версалди пред Wall Street Journal

Тъй като Ватиканът е домакин на голяма конференция за изкуствения интелект, етиката и корпоративното управление, както технологичните ръководители, така и църковните служители следят отблизо как Папа Лъв XIV ще използва влиянието си. Очаква се той да предаде писмено послание на участниците в конференцията, но все още не се е срещал с изпълнителни директори на технологични компании толкова рано в своето управление. Предстоящите срещи с лидерите на Microsoft и Google могат да дадат допълнителна информация за това дали новият папа ще предложи насоки или предизвикателство на компаниите, които оформят бъдещето на AI.