Водещи ИИ учени: Изкуственият интелект може да избяга от контрола над него във всеки един момент

По време на международна среща, някои от най-големите световни експерти по изкуствен интелект се събраха, за да обсъдят и огласят реалните опасности, които той крие.

Това е международен консорциум от учени, чиято цел е да намалят рисковете, свързани с ИИ.

Сред подписалите писмото са известни личности като компютърният учен от Института Тюринг Джефри Хинтън и Джан Я-Цин, бивш президент на китайския технологичен гигант Baidu, заедно с редица други водещи специалисти в областта на ИИ в световен мащаб.

Изявлението, написано по време на третата среща на групата във Венеция, е определено като „консенсусно изявление“ 

То е насочено не само към очертаване на рисковете от ИИ, но и към извеждането на справянето с тях като приоритет за „глобално обществено благо“. На тези срещи десетки експерти се събраха, за да отправят призив за подготовка по отношение на рисковете, свързани с ИИ, които наближават с бързи темпове.

Мислете локално, планирайте глобално

Тъй като изкуственият интелект не познава международни граници, мисленето за тази технология и нейните рискове в глобален контекст е от изключителна важност. Макар да са налице „обещаващи първоначални стъпки от страна на международната общност“ към сътрудничество в областта на безопасността на ИИ на междуправителствени срещи на върха, тези усилия трябва да продължат в интерес на разработването на „глобален план за действие при извънредни ситуации“. 

Такива планове за действие ще включват създаването на международни органи за готовност в случай на извънредни ситуации, свързани с ИИ.

Не е ясно дали това ще се случи в рамките на утвърдена организация като ООН или извън нея.

Трябва да се създаде и взаимно признат консенсус относно „червените линии“ и какво да се прави, когато те бъдат пресечени.

Под изявлението са се подписали и личности извън организацията.

Сред тях са бившият президент на Ирландия Мери Робинсън, носителят на наградата „Тюринг“ Андрю Яом както и няколко изследователи и служители от академични институции в Квебек и Пекин. Изявлението е широкообхватно по отношение на това какво трябва да се направи за намаляване на рисковете, но е сравнително неясно по отношение на това какви точно са тези рискове и как могат да възникнат.

Все пак препоръките на IDAIS вероятно са добри, а насърчаването на международния диалог по такава важна тема е от първостепенно значение пред лицето на предстоящата интензивна надпревара между САЩ и Китай в областта именно на изкуствения интелект.