OpenAI загуби още един водещ изследовател по сигурността на ИИ в лицето на Роузи Кембъл

Светът на изкуствения интелект отново беше разтърсен от голяма новина: Роузи Кембъл, водещият изследовател по политиката за сигурност в OpenAI, обяви напускането си от компанията. Решението ѝ се превърна в пореден сигнал за възможни вътрешни проблеми в една от най-влиятелните компании в областта на изкуствения интелект в света. Причината за уволнението беше разпускането на екипа AGI Readiness — звено, отговарящо за оценката на готовността на човечеството за появата на изкуствен общ интелект.

Верижна реакция на напускане на таланти

Оставката на Кембъл не е изолиран инцидент. През последната година OpenAI загуби плеяда от брилянтни умове. Първо, Майлс Бръндидж, ръководител на екипа AGI Readiness, напусна компанията. Той беше последван от съоснователя Иля Суцкевер, изтъкнатите изследователи Ян Лайке и Джон Шулман. Всеки от тях изрази сериозни опасения относно новия курс на компанията.

Комерсиализацията срещу първоначалната мисия

През есента на 2023 г., OpenAI обяви значителни промени в своя бизнес модел. Компанията започна активно да развива търговско направление, което предизвика вълна от критики от страна на бивши служители. Мнозина вярват, че стремежът към печалба може да засенчи основната мисия на организацията — да създаде безопасен AGI в полза на цялото човечество.

Сам Алтман, главен изпълнителен директор на OpenAI, защитава хода, като подчертава необходимостта от значителни инвестиции за постигане на амбициозните цели. Според него развитието на AGI изисква огромни средства, които могат да бъдат привлечени само чрез търговска дейност.

Бъдещето е под въпрос

Експерти от индустрията все повече изразяват загриженост относно бъдещето на OpenAI. Масовото напускане на ключови професионалисти по сигурността може значително да повлияе върху способността на компанията да разработва сигурни системи с изкуствен интелект. Особено остър е въпросът кой сега ще поеме отговорността за оценката на рисковете, свързани с развитието на AGI.

Алтман обаче настоява, че отговорността за определяне на стандартите за сигурност трябва да бъде не само на OpenAI, но и на обществото като цяло. Това е глобален проблем, който изисква широко обсъждане и участие на различни заинтересовани страни.