Водещи разработчици на AI нарекоха продуктите си заплаха, сравнима с пандемия и ядрена война

Ръководителите на OpenAI, Google DeepMind, Anthropic и други лаборатории за изкуствен интелект предупредиха, че технологиите, върху които работят, могат да застрашат съществуването на човечеството, така че трябва да се отнасят към категориите на социалните рискове заедно с пандемиите и ядрените войни.

„Намаляването на риска от изчезване поради ИИ трябва да бъде глобален приоритет заедно с другите обществени рискове като пандемии и ядрени войни“ – гласи отвореното писмо, състоящо се от едно изречение, написано от лидерите в индустрията. Очаква се документът да бъде публикуван от организацията с нестопанска цел Center for AI Safety. Той е подписан от над 350 ръководители, изследователи и инженери, работещи в областта на AI.

Сред подписалите се, по-специално се открояват: ръководителят на OpenAI Сам Алтман (Sam Altman); Ръководителят на Google DeepMind Демис Хасабис (Demis Hassabis); Главният изпълнителен директор на Anthropic Дарио Амодей (Dario Amodei), заедно с Джефри Хинтън (Geoffrey Hinton) и Йошуа Бенгио (Yoshua Bengio) – двама от тримата носители на наградата Тюринг, считани за кръстниците на модерния изкуствен интелект, докато третият, Ян Лекун (Yann LeCun), оглавяващ на изследванията в областта на AI в Meta, все още не е подписал.

В обществото действително има нарастваща загриженост относно по-нататъшното развитие на системите с изкуствен интелект. Смята се, че платформите от мащаба на ChatGPT могат да се използват за разпространение на дезинформация и пропаганда. Освен това, само в Европа и Съединените щати 300 милиона души могат да загубят работата си поради AI. Тези опасения се споделят от лидерите в индустрията, които по този начин се поставят в необичайната позиция да твърдят, че технологиите, които разработват, крият сериозни рискове и трябва да бъдат строго регулирани от държавата.

Някои скептици твърдят, че AI-технологиите все още са твърде незрели, за да представляват осезаема заплаха за човечеството, така че трябва да се съсредоточим върху краткосрочните проблеми – пристрастните и неправилни отговори на AI-системите. Други смятат, че AI, сравним с човешките способности, ще се появи в близко бъдеще. За да се избегнат възможни негативни последици, лидерите в индустрията предлагат създаването на организация, насочена към регулиране на ИИ – това трябва да бъде нещо като аналог на Международната агенция за атомна енергия (МААЕ), която се опитва да предотврати разпространението и използването на ядрени оръжия.

През март повече от хиляда изследователи и представители на индустрията подписаха отворено писмо, призоваващо за шестмесечно спиране на напредналите AI-системи, обявявайки ги за заплаха за човечеството. Следващият документ в оригинала си съдържа само 22 думи – кратка формулировка, предназначена да обедини експерти, чиито мнения може да се различават по определени въпроси. „Мисля, че ако нещо се обърка с тази технология, тогава всичко ще бъде напълно различно. И ние искаме да го обявим. Искаме да работим с правителството, за да предотвратим това“ – каза изпълнителният директор на OpenAI Сам Алтман по време на скорошно изслушване в Конгреса на САЩ.