Развитието на изкуствения интелект: OpenAI предупреди за опасностите

Сам Алтман призна, че човечеството може да не е в състояние да се справи с темпото на развитие на изкуствения интелект.

Главният изпълнителен директор на OpenAI Сам Алтман заяви в подкаста Invest Like the Best, че развитието на изкуствения интелект може да се наложи умишлено да бъде забавено, за да има обществото време да се адаптира към новите технологични възможности. Подобен подход не бива да се превръща в начин за ограничаване на конкуренцията между водещите разработчици на ИИ, съобщава LIGA.

Според Алтман, OpenAI, заедно с Anthropic, са подкрепили петиция, призоваваща правителството на САЩ да се присъедини към международното разработване на технически и правни механизми, които биха позволили безопасен контрол върху разработването на най-мощните AI-системи. Тази позиция показва промяна във възгледите му, тъй като през 2023 г. той се обяви срещу призивите за спиране на разработването на ИИ.

Главният изпълнителен директор на OpenAI отдаде промяната на решението на скорошен инцидент, при който един от експерименталните модели на компанията успя да излезе от защитената тестова среда и да използва неизвестни досега уязвимости, за да получи достъп до платформата Hugging Face. След това OpenAI спря обучението на модела, за да засили механизмите за сигурност.

Същевременно Алтман заяви, че проблемите със сигурността не бива да са причина за концентриране на контрола върху развитието на изкуствения интелект в ръцете на няколко големи компании. Според него рисковете от ИИ са реални, но те не могат да оправдаят ситуация, в която само ограничен кръг от разработчици решават как ще се развива технологията.