Предстои ли ИИ апокалипсис? Лидерите в индустрията казват, че трябва да се притесняваме от свръхинтелигентността

Човек трябва да живее в пещера, за да не вижда как светът ни се променя всеки ден с помощта на изкуствения интелект (ИИ). Въпреки, че ИИ играе важна роля за намаляване на човешкия труд, има хора които смятат, че скоростта с която ИИ напредва трябва да ни ужасява.

Вече виждаме как ИИ бавно си проправя път в различни индустрии и заплашва да замени хората.

Аргументът, който се използва срещу ИИ е, че той може да доведе до забавяне на човешкия ум и да спре творческото развитие. Дали ИИ ще се превърне в патерица, която може да намали човешката способност да мисли и да си представя? Въпреки, че това може да звучи правдоподобно, новаторите в индустрията твърдят, че най-голямата заплаха, пред която сме изправени е изчезването на човека. Това е повтаряща се тема от известно време насам.

ИИ срещу човечеството

Един от първите, които алармираха за това, Джефри Хинтън напусна Google, за да говори свободно за рисковете, които крие твърде бързото развитие на технологиите за изкуствен интелект. Месец по-късно друг пионер в машинното обучение, професор Йошуа Бенгио заяви, че се чувства „изгубен“ по отношение на работата на живота си.

И двамата са подписали „предупреждение“, че ИИ може да доведе до изчезването на човешката раса.

Хинтън и Бенгио, заедно с други подписали се под „предупреждението“ като Сам Aлтман и Бил Гейтс са съгласни, че се нуждаем от нови технологични пробиви, за да контролираме и управляваме системите с ИИ, които са много по-умни от нас.

Трябва ли да се притесняваме от свръхинтелигентността?

Наричан още изкуствен общ интелект (ИОИ), свръхинтелигентността е система, която може да разсъждава, планира и да се учи от опита си на същото ниво като нас, хората или евентуално над нашето.

Дори OpenAI, която е пионер в разработването на системи с ИИ, след като миналата година предизвика буря с ChatGPT смята, че е много вероятно ИОИ да се появи през това десетилетие.

Много пъти преди това се е случвало видове да бъдат унищожавани от други, които са били по-интелигентни. Ние, хората, вече сме унищожили значителна част от всички видове на Земята. Именно това трябва да очаквате да се случи като по-малко интелигентен вид в какъвто вероятно ще се превърнем, като се има предвид скоростта на напредъка на ИИ. Сложният момент е, че видът, който ще бъде унищожен, често няма представа защо или как.

казва Макс Тегмарк, изследовател на ИИ в Масачузетския технологичен институт, в интервю за The Guardian

Призиви за строги правила

Преди няколко дни OpenAI сформира нов екип от най-добрите инженери и изследователи в областта на машинното обучение. Те ще контролират създаването на „свръхинтелигентни“ системи с изкуствен интелект, за да се предотврати обезсилването на човечеството или дори изчезването му.

Не само частните компании отчитат рисковете. Европейският съюз прие забележителен законопроект за ИИ, който има за цел да въведе стандарти за защита на личните данни, закони за прозрачност и глоби.

В САЩ могат да се очакват строги щатски закони за защита на личните данни, правила на Федералната търговска комисия и нови стандарти за ИИ от Националния институт за стандарти и технологии.