Комитетът за изкуствен интелект на Съвета на Европа създава нов инструмент

Комитетът по изкуствен интелект (CAI) към Съвета на Европа прие Методологията за оценка на рисковете и въздействията на системите с изкуствен интелект от гледна точка на правата на човека, демокрацията и върховенството на закона (методологията HUDERIA). Това е първият по рода си инструмент, който предоставя насоки и е структуриран подход за извършване на оценки на риска и въздействието на системите с изкуствен интелект. Насочен е към подпомагане прилагането на Рамковата конвенция за изкуствения интелект и правата на човека, демокрацията и върховенството на закона — първото международно правно обвързващо споразумение в тази област в историята.

Методологията HUDERIA е специално разработена за защита и насърчаване на човешките права, демокрацията и върховенството на закона. Както публичните, така и частните участници могат да го използват за идентифициране и справяне с рисковете и въздействията върху човешките права, демокрацията и върховенството на закона през целия жизнен цикъл на системите с изкуствен интелект.

По същество HUDERIA оценява AI системите в по-широк социален контекст, признавайки, че въздействието на AI произтича от сложното взаимодействие между техническите системи и социалните структури. Методологията включва, наред с други неща, създаването на план за намаляване на риска и минимизиране или елиминиране на идентифицираните рискове, защитавайки обществото от потенциални вреди.

Например, ако се установи, че използваната система с изкуствен интелект е предубедена спрямо определени демографски групи, планът за смекчаване може да включва коригиране на алгоритъма, прилагане на човешки надзор и/или прилагане на други подходящи контроли.

Методологията изисква редовни преоценки, за да се гарантира, че AI системата продължава да работи безопасно и по начин, съвместим със съответните задължения за правата на човека с развитието на контекста и технологията. Този подход гарантира, че обществеността е защитена от рискове, възникващи през целия жизнен цикъл на ИИ-системата.

CAI прие методологията HUDERIA на своята 12-та пленарна среща, проведена в Страсбург от 26 до 28 ноември. През 2025 г. той ще бъде допълнен от модела HUDERIA, който ще предостави библиотека със знания, съдържаща поддържащи материали и ресурси, включително и гъвкави инструменти и мащабируеми препоръки.