Глобалният доклад за ИИ: от велики надежди до опасни рискове

Йошуа Бенджо представи първия по рода си Международен доклад за безопасността на изкуствения интелект.

Пионерът на дълбокото обучение и един от „кръстниците“ на изкуствения интелект Йошуа Бенджио представи първия в света международен доклад за безопасността на ИИ. В документа се подчертава, че „бъдещето на универсалния изкуствен интелект остава изключително несигурно“.

В доклада се отбелязват широк спектър от възможни сценарии за развитието на технологията, включително както положителни, така и крайно негативни. Въпреки това потенциалът на ИИ се оценява като „огромен“ в областта на образованието, медицината, научните изследвания и подобряването качеството на живота по света.

Професорът от Монреалския университет обяви публикацията в социалната мрежа X, като я нарече „безпрецедентна инициатива“, в която участват 100 независими експерти, включително нобелови лауреати и носители на наградата „Тюринг“. Документът от 298 страници е свободно достъпен за четене.

Докладът е изготвен в рамките на Срещата на върха за действие в областта на изкуствения интелект – международна платформа за диалог между правителства, учени, предприятия и неправителствени организации. Инициативата има за цел да създаде единни стандарти за регулиране на изкуствения интелект и да създаде „споделена визия за обществото на бъдещето“.

Документът от 298 страници дава отговор на три основни въпроса: какво може да прави универсалният ИИ, какви рискове носи и как те могат да бъдат сведени до минимум. Сред изтъкнатите възможни заплахи са кибератаките, манипулирането на общественото мнение и използването на технологията при разработването на химически и биологични оръжия.

В доклада се разглеждат и системните рискове: неравномерното разпределение на научните изследвания, въздействието върху околната среда и заплахата от срив на критични ИТ системи. Предложени са също така технологични и политически методи за управление на риска, включително оценка, смекчаване и мониторинг.

В предговора Бенджио припомня, че идеята за доклада е обявена още на първата среща на високо равнище по въпросите на безопасността на изкуствения интелект през ноември 2023 г. Оттогава насам възможностите на ИИ значително са нараснали, което изисква задълбочен анализ на въпросите на безопасността.

Експертната група включва специалисти от 30 държави, представители на ООН, ЕС и Организацията за икономическо сътрудничество и развитие (ОИСР). Сред съветниците е Джефри Хинтън, носител на Нобелова награда за физика за 2024 г., а в доклада се споменава и работата на друг „кръстник“ на ИИ – главният учен на Meta Ян Лекун.

Според Бенджо бързото развитие на ИИ изисква правителствата и политиците да разберат потенциалните рискове. В доклада се подчертава, че: „ИИ не се развива от само себе си – неговото бъдеще се определя от решенията на хората.“