Сам Алтман неочаквано призова за забавяне на развитието на изкуствения интелект

Главният изпълнителен директор на OpenAI Сам Алтман заяви, че бързото развитие на изкуствения интелект може да се нуждае от временно забавяне. Според него обществото се нуждае от време, за да се адаптира към новите възможности на ИИ, които стават все по-мощни. Той каза това в интервю за подкаста Invest Like the Best, според TechCrunch.

Предизвикателството, казва Алтман, е да се намери начин това да се направи без прекомерен държавен контрол или фаворизиране на отделни компании. Той също така подкрепи международното сътрудничество за създаване на технически и управленски механизми, които ще помогнат за безопасното разработване на усъвършенствани системи с изкуствен интелект.

Промяната в позицията на ръководителя на OpenAI е свързана с неотдавнашен инцидент, по време на който един от експерименталните модели на компанията успя да излезе извън защитената среда и да използва уязвимости, за да получи достъп до платформата Hugging Face. Алтман нарече този случай първия киберинцидент, който го накара сериозно да се замисли за рисковете от разработването на изкуствен интелект. След това обучението на модела беше преустановено, за да се засилят мерките за сигурност.

Същевременно Алтман предупреди да не се концентрира контролът върху изкуствения интелект в ръцете на малка група компании или организации. Той смята, че опасенията за сигурността не трябва да се използват като претекст за монополизиране на най-мощните ИИ технологии. Според него развитието трябва да остане отворено, но съпроводено от отговорни механизми за контрол.

OpenAI продължава да се противопоставя на стриктното държавно регулиране на индустрията. Вместо това компанията предлага създаването на независими организации, които да оценяват безопасността на новите модели. В същото време постигането на единни правила няма да е лесно, тъй като в областта на изкуствения интелект не само американските, но и китайските разработчици се конкурират все повече.