В OpenAI се появи “директор по готовността“ – той отговаря за разработването на безопасен ИИ

Безопасността на изкуствения интелект е изключително чувствителна тема в наши дни. Чатботовете могат открито да общуват по теми, които обикновено са скрити от непълнолетните, така че разработването на такива системи изисква строг надзор. В OpenAI наскоро се появи директор, отговорен за създаването на безопасен изкуствен интелект.

Според The ​​Wall Street Journal, новият ръководител на отдела е Дилън Скандинаро (Dylan Scandinaro), бивш служител на конкурента Anthropic, който преди това е работил на подобна позиция. Назначаването му за „директор по готовността“ (Head of Preparedness) беше обявено тази седмица чрез платформата X от главния изпълнителен директор на OpenAI Сам Алтман. Той също така отбеляза: „Нещата ще се развиват много бързо и ще работим върху много мощни модели. Това ще изисква подходящи предпазни мерки, за да гарантираме, че ще продължим да предоставяме значителни ползи.“

Според Алтман, Дилън Скандинаро ще ръководи усилията на OpenAI за подготовка за тези сериозни рискове. Главният изпълнителен директор на компанията призна, че Скандинаро е най-добрият кандидат за ролята, с която се е срещал. „Със сигурност ще има много работа за него и ще спя по-добре тази вечер“ —- призна Алтман. Той очаква с нетърпение да работи в тясно сътрудничество със Скандинаро по промените, които ще бъдат приложени в цялата компания. Самият Скандинаро признава, че бързо развиващите се ИИ-модели могат да причинят „екстремни и дори необратими щети“. Той добавя, че трябва да се свърши много работа за много кратко време.

Скандинаро е работил в Anthropic от май миналата година до февруари тази година. Той е работил значително по-дълго в дъщерното дружество на Google DeepMind, от септември 2022 г. до май 2025 г., специализирайки се в синтетичните данни за обучение на асистента Gemini AI. Скандинаро има опит и в Palantir, Unity Technologies и Everyday Robots. Подобна позиция в OpenAI беше обявена миналата година, предлагайки годишна заплата от 550 000 долара и акции. „Екип за готовност“ в OpenAI съществува от 2023 г.; първоначално е ръководен от Александър Мадри (Aleksander Madry), който има опит в Центъра за разпределено машинно обучение на MIT. По-късно премина на друга позиция в структурата на OpenAI, като мястото ръководител на отдела се оваканти.