Европарламентът прие AI Act – първите в света правила относно изкуствения интелект

Европейският парламент прие закона за изкуствения интелект AI Act, в който се определят правилата и изискванията към разработчиците на модели на изкуствен интелект. Документът има за цел да гарантира безопасното, прозрачно, екологосъобразно и етично използване на AI в Европа.

С тези правила се въвежда базиран на риска подход към изкуствения интелект и се определят задълженията на разработчиците и потребителите на изкуствен интелект в зависимост от нивото на риска, който той може да представлява. Системите на ИИ с неприемливи нива на риска за безопасността на хората ще бъдат строго забранени. В тази група ще попаднат например системите, които използват подсъзнателни или целенасочени манипулативни техники, използват уязвимостта на хората или се използват за социална оценка (класифициране на хората въз основа на тяхното поведение, социално-икономически статус, лични характеристики).

Парламентът също така прецизира списъка на забранените практики в областта на изкуствения интелект. Той включва:

• Дистанционна биометрична идентификация, включително идентификация в реално време на обществени места, с изключение на правоприлагащите органи и само след съдебно разрешение;

• Биометрична категоризация, използваща чувствителни характеристики (напр. пол, раса, етническа принадлежност, гражданство, религия, политическа позиция);

• Прогнозни полицейски системи (въз основа на профилиране, местоположение или предишно криминално поведение);

• Разпознаване на емоциите в правоприлагащите органи, граничните служби, на работното място и в образователните институции;

• Безразборното извличане на биометрични данни от социални медии или записи от камери за видеонаблюдение за създаване на бази данни за разпознаване на лицата (нарушение на правата на човека и правото на неприкосновеност на личния живот).

В закона е посочен и списък на „високорисковите“ системи с изкуствен интелект. Според документа това са системи, които потенциално могат да навредят на човешкото здраве или на околната среда. Той включва също така системи с изкуствен интелект, използвани за оказване на влияние върху избирателите в политически кампании, и алгоритми за препоръки в социалните медии.

Съгласно закона AI Act доставчиците и разработчиците на „високорисков“ ИИ трябва да извършват оценки на риска и съответствието, да регистрират системите си в европейската база данни за ИИ, да гарантират, че данните, използвани за обучение на изкуствения интелект, са с високо качество, да осигурят прозрачност на системата и информираност на потребителите, както и да осигурят задължителен човешки надзор и възможност за намеса в системата.

По отношение на AI с „нисък риск“, като например чатботовете, от доставчиците се изисква да информират потребителите, че си взаимодействат с изкуствен интелект, а не с човек. За генеративните модели се добавя още едно изискване за информиране на потребителите, че съдържанието е създадено от невронна мрежа.