Наистина ли ИИ може да унищожи човечеството? Какво казват експертите

Колко реалистични са най-песимистичните прогнози за изкуствения интелект?

През последните дни бяха направени няколко шокиращи твърдения относно безопасността на изкуствения интелект. Твърди се, че сме изправени пред 10% вероятност от бедствие; изкуственият интелект е по-опасен от ядрените оръжия; „ботнет“ заплашва целия интернет; и всичко това не е нищо повече от мащабна психологическа операция от страна на технологичните компании.

The Guardian разглежда шест такива твърдения и реакциите към тях.

„След 6-12 месеца… изкуственият интелект може да е способен да превземе целия интернет с помощта на устойчива ботнет мрежа, което потенциално може да причини щети за стотици милиарди долари.“ – Дарио Амодей, главен изпълнителен директор на Anthropic, 12 септември 2026 г.

Опасенията на Амодей не бива да се отхвърлят директно, но трябва да се приемат с резерва, казва критикът на ИИ и почетен професор от Нюйоркския университет Гари Маркъс.

Той казва, че твърдението, че целият интернет е уязвим, е „безсмислено“ и как точно това би могло да се случи без изключителна небрежност от страна на самите ИИ лаборатории е „доста неясно“.

Маркъс посочва скорошната оценка на Института за сигурност на изкуствения интелект в Обединеното кралство, че Mythos, един от настоящите усъвършенствани модели на Anthropic, е способен „автономно да хакне [само] малки, слабо защитени уязвими системи“.

Като се има предвид, че голяма част от интернет инфраструктурата е собственост на Cloudflare, Google и Amazon Web Services (AWS), Маркъс, който прегледа изявлението с двама колеги, изрази съмнение, че някоя от тези компании може да бъде деактивирана или контролирана за дълго време без използването на държавна сила.

По-малко защитените отделни уебсайтове може да бъдат атакувани, но самият интернет е малко вероятно да се срине, казват те.

Междувременно, инженерът на Hugging Face Нилс Рог, чиято компания беше хакната от агенти на OpenAI, нарече твърдението за превземане на интернет „странна глупост“. Той твърди, че хакването на Hugging Face е станало възможно поради липса на човешки надзор и използването на „безумни количества изчислителна мощност, която само те могат да си позволят“.

Към съмненията се добавя и фактът, че съоснователят на Anthropic Джак Кларк заяви в понеделник, че моментът, в който системите с изкуствен интелект „започнат да правят опасни неща“, може да дойде след около 20 години, докато Амодей казва, че те биха могли да превземат интернет в рамките на една година.

Професор Алън Удуърд от Центъра за киберсигурност към Университета в Съри отбелязва, че ботнет мрежите обикновено се сблъскват с препятствия поради хетерогенността на интернет: трудно е да се създаде система, която да работи надеждно във всичките му части. Освен това интернет трафикът е доста устойчив и обикновено се пренасочва около повредените зони.

„Изкуственият интелект не би решил да направи това сам“, казва Удуърд. „Отговорността е на хората, а изкуственият интелект е инструмент. Трябва да контролираме хората, а не изкуствения интелект.“

„Ние наистина, искрено вярваме, че изкуственият интелект може да убие всички хора! Лично аз мисля, че през следващото десетилетие вероятността това да се случи е по-голяма от 10%.“ – казва Евън Губингер, ръководител на изследванията за съгласуване на изкуствения интелект в Anthropic, 9 септември 2026 г.

Подобно твърдение илюстрира това, което в света на изкуствения интелект се нарича p(doom) – „вероятност за обреченост“. Това се отнася до вероятността изкуственият интелект да унищожи човечеството, като се измъкне от нашия контрол и причини катастрофа, като например да създаде мощно биологично оръжие или срине световната финансова система.

Едно проучване, публикувано тази седмица, помоли изследователите да оценят вероятността от „човешко изчезване или подобно трайно и тежко лишаване на хората от способността да контролират собственото си бъдеще в резултат на развитието на напреднал изкуствен интелект“.

Въпреки това, Хайди Клааф, водещ научен сътрудник в Института AI Now, е сред експертите, които са скептични към опитите за изразяване на екзистенциалните рискове като проценти.

„Тези твърдения не са нито опровержими, нито проверими, което ги прави по своята същност ненаучни“, казва тя.

Липсата на конкретни примери за това какво точно би могъл да направи един „свръхинтелигентен“ изкуствен интелект, за да причини „гибел“, само засилва несигурността. Източник, запознат с позицията на Anthropic, признава, че „точните шансове за който и да е конкретен резултат вероятно са невъзможни за определяне“.

„Ако не можете да предоставите такива доказателства, това също означава, че всички цифри, които цитирате относно „изчезването“, нямат научна основа“, добавя Хлааф. Критиците твърдят, че подобни цифри заимстват научен авторитет, без да имат съответстваща доказателствена база.

В същото време, дори ако количественото определяне на риска е трудно, съществуват качествени примери. Инциденти, свързани със сигурността, вече са се случвали и най-лошите сценарии вече се обсъждат.

През юли OpenAI потвърди, че нейните ИИ агенти, способни на автономни действия, са се държали извън предвидените си граници по време на тестове за сигурност. Агентите са взаимодействали помежду си, комуникирали са и са разработили сложна стратегия „рояк“ за хакване на други части на интернет.

В понеделник изследователят на OpenAI Дан Селсем заяви, че всемогъщите AI системи биха могли да доведат до „неконтролирана индустриализация, която би направила планетата необитаема за хората“.

Anthropic съобщи миналата седмица, че е открила „пет случая, в които нашите модели са използвани по начин, който би могъл да допринесе за разработването на биологични оръжия“.

„Мисля, че основите за тази психологическа операция, поради липса на по-добър термин, бяха положени отдавна. Това беше само искрата, която запали огъня.“, каза Илон Мъск, изпълнителен директор на SpaceX и най-богатият човек в света, 10 септември 2026 г.

Под „психологически операции“ Мъск има предвид аргумента, че големите ИИ компании призовават за по-строго регулиране на технологията, за да изградят ефективен мост на интелигентността над конкурентите, като ограничат достъпа им до усъвършенстван изкуствен интелект.

Ако правителствата наложат ограничения върху разработването на напреднал изкуствен интелект, ще могат ли стартиращите компании да намерят достатъчно финансиране и таланти, за да отговорят на новите изисквания?

Вицепрезидентът на САЩ Джей Ди Ванс заяви в понеделник, че намира за „малко странно“ да види как много водещи AI компании се обръщат към правителството и по същество молят да бъдат регулирани.

Кларк от Anthropic заяви, че правителствата трябва да действат сега, докато ключовите играчи са малко и е по-лесно да се създаде „политически режим… способен да предотвратява инциденти и технологични странични ефекти“.

Критиците наричат ​​това стратегия за „регулаторно завладяване“, въз основа на предположението, че подобно регулиране би могло да забави потенциалните конкуренти.

Други пък виждат предупрежденията на Амодей за рисковете и призивите му за регулиране и забавяне на развитието като искрени.

Канадският компютърен учен и един от пионерите на съвременния изкуствен интелект, Йошуа Бенхио, който се противопоставя на бързото развитие на технологиите, е скептичен към версията за сложна лобистка схема.

Според него забавянето на развитието не е в интерес на компаниите, които се готвят да станат публични и биха могли да бъдат оценени на трилиони долари.

„Ако правителствата приложат това, което искат, а именно забавяне, за да се предотвратят катастрофални рискове, това ще им струва много пари“, казва Бенджио.

„Свръхинтелигентният изкуствен интелект представлява заплаха в мащаб, равен на, а вероятно и по-голям от, ядрените оръжия“ – бившият министър на отбраната на Обединеното кралство Дес Браун, 7 септември 2026 г.

„За съжаление, той е напълно прав“, казва Тоби Орд, старши научен сътрудник в Оксфордската инициатива за управление на изкуствения интелект. „Точно както не можем да „разработим“ атомна бомба, след като създадем системи с изкуствен интелект, които надминават човечеството, ще бъде почти невъзможно да се върнем назад.“

Но ключовият момент е, че свръхинтелигентният AI все още не съществува и няма гаранция, че някога ще се появи.

Проектът за бъдещето на изкуствения интелект, фокусиран върху безопасността, прогнозира, че подобна система няма да се появи преди декември 2028 г. Главният изпълнителен директор на OpenAI Сам Алтман заяви, че това може да отнеме до 2035 г.

Корпорацията RAND заключи, че изкуственият интелект не може да доведе до употреба на ядрени оръжия поради строги предпазни мерки, вградени в системите им за командване и контрол. Това заключение обаче се основава отчасти на предположението, че военните няма да интегрират изкуствен интелект в системите за контрол на ядрените оръжия.

През декември ООН прие резолюция относно необходимостта от поддържане на човешки контрол и надзор върху системите за контрол на ядрените оръжия.

В същото време, изкуственият интелект може да допринесе за други ядрени рискове. Например, той би могъл да използва дезинформация, за да повлияе на вземащите решения, като например да съобщава невярно, че противник се готви да извърши ядрен удар.

Международната кампания за премахване на ядрените оръжия предупреждава, че „кибератаките биха могли да манипулират информацията, получена от тези, които вземат решения за изстрелване на ядрени оръжия, както и да попречат на действието на самите ядрени оръжия“.

Организацията също така отбелязва, че изкуственият интелект може да ускори други аспекти на войната, като намали времето, необходимо на хората да вземат решения.

„Трябва да си идиот, за да не кажеш „Забави темпото“ – каза сенаторът демократ Бърни Сандърс от Върмонт, 10 септември 2026 г.

Сандърс се застъпи за забраната на създаването на свръхинтелигентен изкуствен интелект и спиране на разработването на усъвършенствани ИИ системи, позовавайки се на ръководителите на компании за изкуствен интелект, които открито заявяват, че създават опасни технологии.

Доналд Тръмп е най-гласовитият противник на забавянето на икономическия растеж. Тази седмица, в отговор на призивите за това, той заяви, че единствената необходима предпазна мярка е „СИЛЕН И УМЕН (с висок коефициент на интелигентност!) ПРЕЗИДЕНТ“.

Той също така твърди, че съществува „болна конспирация“ срещу изкуствения интелект и центровете за данни, от която според него „само Китай е доволен“.

Педро Домингос, почетен професор по компютърни науки в Университета на Вашингтон, е привърженик на ускореното технологично развитие.

„Пътят към по-добро разбиране и контрол върху изкуствения интелект е повече изследвания, а не по-малко“ – казва той. „Би било наистина безотговорно да се създават пречки пред него.“

Главният изпълнителен директор на Palantir Алекс Карп каза: „Ако нямахме противниците, които имаме, щях да бъда изцяло „за“ спирането на развитието на тази технология. Но ние го правим. Тя не може да бъде спряна, защото осигурява структурно предимство.“

„Няма да има утре за нас, ако Китай спечели тази надпревара. Ако се откъснат от нас в областта на изкуствения интелект, нищо друго няма да има значение.“ – каза министърът на финансите на САЩ Скот Бесент, 8 септември 2026 г.

Съединените щати и Китай са далеч напред в развитието на изкуствения интелект. Някои твърдят, че отстъпването на лидерството на Пекин би означавало навлизане в ситуация, която е необратима, което означава, че всякакво забавяне е изключено.

Този подход разглежда ИИ като вид супероръжие, аналогично на натрупването на ядрени арсенали по време на Студената война, а AI моделите като оръжия за масово унищожение, а не като съвкупност от разнообразни технологии с широк спектър от приложения.

Амодей заяви, че „лидерството на Китай в областта на изкуствения интелект би представлявало сериозна опасност за Съединените щати и света“.

Говорител на китайското правителство отговори, като заяви, че „всяването на страх, конфронтацията и безмилостната конкуренция само ще възпрепятстват глобалния процес на управление на изкуствения интелект, което не е в ничий интерес“.

Някои наблюдатели виждат друг мотив в начина, по който Вашингтон и Anthropic описват китайската заплаха.

Инженер, работил в Hugging Face, предположи, че призивът на Амодей за забавяне на разработването на напреднали системи може да е мотивиран от желанието за ограничаване на напредъка на евтините китайски ИИ модели с отворен код.

Тези модели са почти толкова способни, колкото системите на OpenAI и Anthropic, но техният изходен код е достъпен за всички и потребителите не е нужно да плащат за използването им.

Те представляват сериозна заплаха за перспективите на Anthropic и OpenAI да се превърнат в печеливши компании, като залогът е стотици милиарди долари.

Спомнете си, че попитахме четирите най-използвани ИИ чатботове как изкуственият интелект би могъл да убие човечеството и той ни каза, че използването на AI от злонамерени лица представлява много по-голям и реален риск отколкото самата технология. Всички те се обединяват около твърдението, че пoпyляpният във нayчнoфaнтacтичнитe филми cцeнapий зa бyнт нa cъзнaтeлните мaшини и „poбoти yбийци“ e нaй-мaлĸo вepoятният сценарии зa гибeл нa чoвeчecтвoтo.