ARIA: проект, който разкрива тъмните страни на изкуствения интелект

NIST стартира инициатива, която няма да позволи на машините да вредят на човечеството.

Националният институт по стандартизация и технологии (NIST) обяви старта на новата програма „Оценка на рисковете и въздействието на изкуствения интелект“ (ARIA, Assessing Risks and Impacts of AI) за оценка на безопасността и надеждността на изкуствения интелект. Програмата ще помогне на организациите и физическите лица да разберат доколко безопасна и ефективна ще бъде дадена AI технология след нейното внедряване. Проектът се реализира съвместно с Института за безопасност на изкуствения интелект.

За какво е необходима ARIA?

ARIA се появи в отговор на изпълнителната заповед на президента Байдън относно сигурността на изкуствения интелект, подписана през 2021 г. Проектът има за цел да създаде сигурна и справедлива екосистема за разработване и прилагане на усъвършенствани невронни мрежи. Основната цел на указа е да се гарантира, че новите технологии са от полза за обществото, а не създават заплахи.

Декретът е разработен чрез множество консултации с експерти в областта на технологиите, правото, както и с представители на бизнеса и гражданското общество. В него са посочени основните принципи, които разработчиците и потребителите на изкуствен интелект трябва да спазват: прозрачност, сигурност, защита на данните и справедливост.

„За да разберем напълно въздействието на ИИ върху нашето общество, трябва да го тестваме в реални условия – и точно това прави програмата ARIA“,

каза министърът на търговията на САЩ Джина Реймондо.

Тя заяви, че инициативата е част от усилията на Министерството на търговията за изпълнение на заповедта на Байдън.

Участниците в ARIA ще оценяват как се представят технологиите в различните реални сценарии, а не само в лабораторни условия. Това ще помогне за ранното идентифициране на евентуални отрицателни въздействия. Лори Е. Локасио, директор на NIST, подчерта, че ARIA ще подкрепи работата на Института за сигурност на изкуствения интелект на САЩ и ще разшири ангажимента на NIST към научната общност.

Какво е направено досега?

През януари 2023 г. NIST публикува документ, наречен „Рамка за управление на риска при изкуствения интелект“, който стана основа на програмата ARIA. В документа се посочва как да се използват количествени и качествени методи за анализ и мониторинг на опасностите в съвременния свят. ARIA ще разработи нови методологии и показатели за оценка на това доколко добре се справят AI системите в различните социални контексти.

Резултатите от изследванията на ARIA ще помогнат на NIST и Института за сигурност на ИИ на САЩ да изградят надеждни системи, гарантиращи пълна защита на потребителите и запазване на личния им живот.