Подготовка за GPT-5: Ръководството на OpenAI сформира комитет за контрол на безопасността на AI

Този комитет, според Bloomberg, ще включва както членове на борда на директорите, така и ръководители на компанията. Функциите на комисията ще бъдат ограничени до оценката на сигурността на големите езикови модели, разработени от компанията. На комисията ще бъдат дадени 90 дни, за да извърши първоначалната оценка на съществуващите разпоредби за безопасност. След това, комисията ще трябва да публикува своите препоръки в тази област и да ги оповести публично. Компанията също така отбеляза, че е започнала да обучава най-новия си голям езиков модел, който се предполага, че е GPT-5.

Нека припомним, че в рамките на OpenAI специализираното подразделение беше принудено да се бори за ресурси, а водещият научен специалист Иля Суцкевер, който напусна персонала на OpenAI през май, имаше конфликти с настоящото ръководство относно методите за оценката на риска миналата есен, което доведе до опит за напускане на основателя на компанията Сам Алтман. Отчасти функциите за наблюдение на въздействието на изкуствения интелект върху обществото бяха възложени на изследователския отдел в OpenAI, който след напускането на Сутцкевер беше оглавен от Джон Шулман, който също е бил част от стартъпа в началото.

Надзорният комитет ще се състои от трима членове на борда: председателят Брет Тейлър, главният изпълнителен директор Адам Д’Анджело и бившият изпълнителен директор на Sony Entertainment Никол Селигман. Още шест членове на комисията ще бъдат привлечени от изпълнителни директори, включително Алтман и Шулман. Ще бъдат включени и странични консултанти, които не са свързани с компанията. Двама от тях преди това са били високопоставени служители в САЩ.