Над 100 експерти предупредиха: независимата проверка на безопасността на AI в момента е почти невъзможна

Над 100 експерти и специалисти по оценка на рисковете в областта на изкуствения интелект вчера публикуваха отворено писмо, в което предупреждават, че не разполагат с необходимите ресурси за проверка на безопасността на технологиите за изкуствен интелект.

Целта на това обръщение е да се принудят доставчиците на базови AI модели да осигурят на независимите оценители на технологията необходимата „научна обективност, прозрачност, независимост и надеждна защита“ за ефективно и достоверно изпълнение на тяхната работа.

„Просто се опитваме да изразим обща позиция по основните принципи и да създадем условия, при които независимият надзор би могъл да се превърне в ефективен инструмент за управление на рисковете в областта на AI като цяло.“

заяви в интервю за CNBC Конрад Стош, президент на консорциума AI Assessment Forum, който организира публикуването на това писмо

Сред подписалите писмото са известни фигури в областта на AI като британско-канадският учен Джефри Хинтън, както и служители на организации като Университета „Джонс Хопкинс“, Станфордския университет и нестопанската организация METR, занимаваща се с оценяване.

Общността от експерти по оценяване се оказа в центъра на вниманието, след като през изминалия уикенд главният изпълнителен директор на Anthropic Дарио Амодей предложи да се предостави на независими експерти достъп до вътрешни процедури в областта на сигурността и доклади за инциденти с цел проверка и одит на най-модерните AI модели и процесите по тяхното разработване.

Според Стош коалицията не „подкрепя някакъв конкретен начин“ за осигуряване на безопасно разработване на AI модели, но иска за оценителите и другите специалисти, работещи независимо от големите лаборатории да бъдат установени поне „основни принципи“ и „по-високо ниво на стандартизация“.

Стош отбеляза, че предложението на Амодей предполага предоставяне на значително по-голям достъп, отколкото този, с който оценителите са разполагали преди. Като един от сценариите би могло да се предложи създателите на AI модели да предоставят на външни експерти достъп до компютрите на компанията, да разрешат общуване със служителите и да осигурят възможност за достъп до „поверителни вътрешни данни и непубликувани системи“. Освен това експертите биха искали да имат защита срещу евентуални ответни мерки от страна на компаниите за изкуствен интелект, чиито решения ще оценяват.

Външните експерти не са предназначени да заменят вътрешните програми на компаниите за оценка на безопасността на моделите, добави Стош.

„В момента има много малко групи, които разполагат с достатъчна техническа компетентност, мащаб и възможности за извършване на подобна дейност.“

добави той