AI изследовател заяви, че „светът е в опасност“ и напусна работата си, за да изучава поезия

Изследовател по безопасността на изкуствения интелект е напуснал американската компания Anthropic със загадъчното предупреждение, че „светът е в опасност“. В писмото си за напускане, споделено в X, Миринанк Шарма казва на фирмата, че напуска на фона на опасенията за AI, биологичните оръжия и състоянието на света като цяло.

Той заяви, че вместо това ще се занимава с писане и изучаване на поезия и ще се върне в Обединеното кралство, за да „стане невидим“. Това се случва в момент, когато водещ изследовател от OpenAI заяви, че подава оставка, споделяйки опасенията си относно решението на компанията да внедри реклами в своя продукт ChatGPT.

Anthropic, която е известна най-вече с чатбота си Claude наскоро пусна поредица от реклами, насочени към OpenAI, в които критикува хода на компанията да включи реклами за някои потребители. Компанията, която е създадена през 2021 година от отцепил се екип от първите служители на OpenAI се позиционира като компания с по-безопасен подход към изследванията на AI в сравнение със своите конкуренти.

Шарма е ръководил екип в нея, който е проучвал предпазните мерки за AI. В писмото си за напускане той заявява, че приносът му включва проучване на причините, поради които генеративните AI системи се подмазват на потребителите, борба с рисковете от биотероризъм с помощта на AI и изследване на това „как AI асистентите могат да ни направят по-малко хора“.

Той заяви, че въпреки удоволствието, което е изпитал по време на работата си в компанията, е ясно, че „е дошло времето да продължи напред“.

„Светът е в опасност. И то не само от AI или биологични оръжия, а от цяла поредица взаимосвързани кризи, които се развиват в този момент.“

пише Шарма