Прекратява се разработката на изкуствен суперинтелект: Стив Возняк, Ричард Брансън, принц Хари и стотици известни личности подписаха открито писмо

Стотици видни хора, включително и разработчици на ранните версии на изкуствен интелект, подписаха писмо, призоваващо за прекратяване на разработването на така наречения общ изкуствен интелект.

Писмото, озаглавено „Декларация за суперинтелекта“, призовава за забрана върху разработването на общ изкуствен интелект, която не трябва да бъде отменена, докато не се постигне широк научен консенсус, че напредъкът в областта на изкуствения интелект може да бъде постигнат безопасно и по контролиран начин с широка обществена подкрепа. Писмото цитира данни от скорошно проучване на Института за изследване на изкуствения интелект (FLI).

Според проучването, само 5% от гражданите на САЩ подкрепят бързото и нерегулирано разработване на иновативни инструменти, базирани на изкуствен интелект. Над 73% от анкетираните подкрепят въвеждането на строга регулация на изкуствения интелект. Около 64% ​​от анкетираните заявяват, че докато не се докаже, че ИИ е безопасен и контролируем, неговото развитие не трябва да се допуска.

Сред подписалите писмото са съоснователят на Apple Стив Возняк, основателят на Virgin Ричард Брансън, медийни фигури, включително водещият на War Room Стив Банън и водещият на токшоу Глен Бек, както и артистите Джоузеф Гордън-Левит, принц Хари и Меган Маркъл, пенсионираният адмирал от ВМС на САЩ Майк Мълън, който е бил председател на Обединения комитет на началник-щабовете при бившите президенти Джордж У. Буш и Барак Обама, отец Паоло Бенанти, съветник на папата по въпросите на изкуствения интелект и голям консорциум от експерти и учени в областта на изкуствения интелект, включително лауреатът на наградата Тюринг Йошуа Бенхио и лауреатът на Нобелова награда Джефри Хинтън. 

„Следващото поколение системи с изкуствен интелект ще могат да превъзхождат повечето хора в много когнитивни задачи само за няколко години. Този напредък би могъл да отвори решения за критични глобални предизвикателства, но носи и значителни рискове. За да се придвижим безопасно към суперинтелекта, трябва научно да определим как да проектираме ИИ-системите, които са фундаментално неспособни да навредят на хората, независимо дали чрез некомпетентност или злонамерена употреба. Трябва също така да гарантираме, че обществеността има значително по-голямо влияние върху решенията, които ще оформят нашето споделено бъдеще“ — подчертава Йошуа Бенхио, професор в университета в Монреал. 

В писмото не се отбелязва, че изкуственият интелект не е задължително да достигне нивото на общ изкуствен интелект, за да предизвика масов хаос. В момента генеративните AI-модели, далеч от това да достигнат нивото на общ изкуствен интелект, променят процесите на обучение, запълват интернет с огромни количества дезинформация и нежелано съдържание и причиняват множество психични разстройства у потребителите.

Главният изпълнителен директор на OpenAI Сам Алтман, съоснователят на DeepMind и главен директор на Microsoft по изкуствения интелект, Мустафа Сюлейман, главният изпълнителен директор на Anthropic, Дарио Амодей, главният директор на Белия дом по изкуствен интелект и криптовалути, Дейвид Сакс, и основателят на xAI, Илон Мъск, отказаха да подпишат писмото.

„Много хора искат мощни AI-инструменти за наука, медицина, производителност и други цели. Но пътят, поет от ИИ-корпорациите, стремящи се да създадат изкуствен интелект, превъзхождащ хората и предназначен да ги замени, е напълно несинхронизиран с обществените нужди, мненията на учените относно безопасността и мненията на религиозните лидери за това кое е правилно. Никой, който разработва тези AI-системи, не е питал човечеството дали това е приемливо. Ние сме питали и отговорът е неприемлив“ — отбелязва съоснователят на FLI Антъни Агире.