Големият спор: супер изкуственият интелект ще се появи през 2027 година. И какво ще се случи тогава?

Докато експертите по машинно обучение обсъждат бъдещето на изкуствения интелект, бивш служител на OpenAI, компанията, която даде на света ChatGPT, твърди, че надпреварата за общ изкуствен интелект (AGI) вече е започнала. В дълъг доклад известният изследовател Леополд Ашенбреннер пише, че в момента само няколкостотин души имат ситуационна представа за технологията и за това как напредъкът ѝ ще се отрази на бъдещето, а жаждата за печалба кара разработчиците да разработват AGI с темпове, които пренебрегват всички рискове и ограничения.

„Ние създаваме системи, които могат да мислят и да обосновават действията си. До 2025/26 г. те ще надминат много висшисти, а до края на десетилетието ще бъдат по-умни от вас и от мен“, се казва в доклада.

Наистина ли ще станем свидетели на появата на свръхинтелигентност? Нека се спрем по-подробно.

Общият изкуствен интелект (General Artificial Intelligence – AGI) е област от теоретичните изследвания на изкуствения интелект, която се стреми да създаде софтуер с интелигентност, подобна на човешката, и способност да самостоятелно да се самообучава.

В преследването на AGI

Предсказанията за гибелта на киното в ръцете на генеративния изкуствен интелект бледнеят в сравнение с предупрежденията за съдбата на човечеството, ако учените наистина успеят да създадат изкуствен интелект с общо предназначение (AGI) – все още хипотетична система, способна да работи на човешко или свръхчовешко ниво. Мненията на учените обаче се различават значително – първите смятат AGI за недостижим, вторите прогнозират появата му след десетилетия, а третите са уверени, че AGI ще се появи преди 2030 г.

Неотдавна бившият служител на OpenAI Леополд Ашенбренер, чиято рожба е именно ChatGPT, публикува голям доклад от 165 страници, в който описва развитието на генеративните системи за ИИ през следващите 10 години. Може да изглежда, че Ашенбренер преувеличава, но думите му ни карат да се замислим: мащабът на финансирането на ИИ вече надхвърля и най-смелите очаквания.

Важно е да се отбележи, че Ашенбренер не е член на каквато и да е секта или алармист, който проповядва края на света. Той, подобно на Илън Мъск, е солидарен с онези, които призовават за по-голяма „ситуационна“ осведоменост за потенциала на ИИ и за правителствена намеса за ограничаване на властта на ИИ компаниите.

Въпреки че в доклада не се посочват имена, той очевидно се отнася за OpenAI, където Ашенбренер е отговарял за мерките за безопасност по отношение на разработването на AGI. Ученият бе уволнен през април тази година, очевидно заради критиките си към ръководството, което според него „пренебрегвало безопасността в името на парите“. Представители на OpenAI на свой ред заявиха, че Ашенбренер е уволнен заради изтичане на важна информация за готовността на компанията да внедри AGI.

В своя защита бившият служител заяви, че информацията, която е споделил, е била „абсолютно нормална“, тъй като се е базирала на публично достъпни данни. Той подозира, че компанията просто е търсила начин да се отърве от него. Интересно е, че ръководителите на отдела, в който е работил Ашенбренер, също са подали оставка.

Друг бивш служител на OpenAI, Даниел Кокотайло, също споделя мнението на Ашенбренер и казва, че OpenAI разработва все по-мощни системи за изкуствен интелект с цел в крайна сметка да надмине човешкия интелект във всеки аспект. По негово мнение AGI ще бъде или най-доброто, или най-лошото събитие в човешката история, а доверието в ръководството на OpenAI постепенно намалява главно поради безотговорността и пренебрегването на безопасността.

„Надпреварата за AGI вече е започнала. До края на десетилетието ще имаме свръхинтелигентност в истинския смисъл на думата. Ако имаме късмет, ще бъдем в тотална надпревара с другите държави, а ако не, може да избухне световна война“, се казва в доклада.

И без това новата Световна война чука на вратата.

Какво искат корпорациите?

За да вникнем по-добре в настоящата ситуация, нека си припомним, че генеративният ИИ заема важно място в технологичната среда. Видяхме, че изкуственият интелект направи компании като Microsoft най-ценните в света с пазарна капитализация от над 3 трилиона долара. Пазарните анализатори отдават този бърз растеж на факта, че компанията много бързо е възприела технологичната иновация.

Дори NVIDIA е на път да внедри изкуствен интелект в своите устройства, след като наскоро изпревари Apple и стана втората най-ценна компания в света поради огромното търсене на графични процесори за разработки в областта на изкуствения интелект, твърдят експертите.

Microsoft и OpenAI изглежда са сред водещите технологични компании, които инвестират изключително много в изкуствен интелект. Партньорството им обаче предизвика полемика, тъй като вътрешни лица посочват, че Microsoft се е превърнала в „прославения ИТ отдел за обещаващи стартъпи“.

Милиардерът и основател на SapceX Илън Мъск казва, че OpenAI изглежда „на практика се е превърнала в дъщерно дружество на Microsoft със затворен изходен код“.

За никого не е тайна, че партньорството между компаниите е сложно, а неотдавнашните спорове около OpenAI не го подобряват. Както беше споменато по-горе, няколко високопоставени служители напуснаха OpenAI след стартирането на GPT-4. И макар причините за тяхното напускане да остават в най-добрия случай неясни, Ян Лейке, бившият ръководител на екипа на Ашенбренер, заяви, че е загрижен за развитието на изкуствения интелект в компанията.

Всичко това означава, че е изключително трудно да се предвиди каква ще бъде траекторията на изкуствения интелект през следващите няколко години. Въпреки това главният изпълнителен директор на NVIDIA Дженсън Хуанг посочва, че „може би сме на прага на следващата вълна на изкуствения интелект“. Той също така твърди, че роботиката е следващата голяма индустрия, доминирана от самоуправляващи се автомобили и хуманоидни роботи.

За щастие, докладът на Aschenbrenner дава известна представа за бъдещето. Неговите прогнози обаче са доста тревожни, а в някои от тях дори е трудно да се повярва.

Докладът на Ашенбренер, най-същественото

Ето какви са основните изводи от доклада в пет глави и 165 страници:

• Изкуственият интелект напредва с бързи крачки и до 2027 г. ще имаме нещо, което повече прилича на колега, отколкото на чатбот. Към този момент невронните мрежи ще могат да вършат работата на един изследовател/инженер в областта на изкуствения интелект.
• Напредъкът на ИИ няма да спре на човешко ниво и бързо ще преминем от AGI към тотално свръхчовешки ИИ системи. Този свръхинтелект вероятно ще се появи още през 2030 г.
• Нито един екип от професионалисти не може да се справи със свръхчовешкия ИИ. В момента в света има само няколкостотин души, които разбират какво ни очаква и колко безумни могат да станат предстоящите събития.
• Необходимите стъпки, които трябва да бъдат предприети: незабавно и радикално засилване на сигурността на лабораториите за ИИ; изграждане на изчислителни клъстери за AGI в САЩ; готовност на ИИ лабораториите да си сътрудничат с военните.

Какво все пак ще се случи през 2027 година?

AGI към 2027 г. изглежда поразително правдоподобно. Не е нужно да вярвате в научната фантастика, а просто в правите линии на графиката на растежа на възможностите на ИИ“, пише бившият служител на OpenAI.

И така, според доклада на Ашенбреннер развитието на ИИ напредва с главоломни темпове и ако тази тенденция се запази, до 2027 г. изкуственият интелект ще бъде поразително подобен на човешкия. Думите му имат смисъл, защото само за четири години – от GPT-2 до GPT-4 – ИИ се превърна от дете в предучилищна възраст в умен гимназист.

„Ако погледнете тенденциите в ефективността на изчислителните технологии и алгоритмите, спокойно може да се каже, че до 2027 г. ни очаква още една качествена промяна от „гимназист къ студент“, пише Ашенбренер.

Нещо повече, според бившия служител на OpenAI напредъкът на ИИ няма да спре на човешко ниво, тъй като в близко бъдеще стотици милиони ИИ ще могат да автоматизират изследванията във всички възможни области, намалявайки едно стандартно десетилетие на алгоритмичен напредък до една година. Това означава, че преходът от човешко ниво към напълно свръхчовешки ИИ системи ще се случи много бързо, а силата – и опасността – на свръхинтелигентността ще бъде огромна.

„Тъй като приходите от изкуствения интелект растат бързо, до края на десетилетието ще бъдат инвестирани трилиони долари в графични процесори, центрове за данни и изграждане на мощно електрозахранване в резултат на „изключително технократското ускорение“, се казва в доклада.

Трудно е да наречем тези думи пресилени, тъй като GPT-4 (който в най-добрия случай е описан като леко плашещ) вече превъзхожда професионалните анализатори и усъвършенстваните модели на изкуствен интелект в прогнозирането на бъдещите тенденции на приходите без достъп до качествени данни. Съществуват обаче сериозни опасения относно доставките на електроенергия, което кара OpenAI да вижда ядрения синтез като вероятна алтернатива в обозримо бъдеще.

В доклада се посочва също, че все повече корпорации ще се присъединят към борбата за AGI и ще инвестират трилиони долари в разработването на подобни интелигентни системи. Всичко това се случва на фона на съобщенията, че Microsoft и OpenAI инвестират повече от 100 млрд. долара в проект, наречен Stargate, за да прекъснат прекомерната си зависимост от графичните процесори NVIDIA.

Ашенбреннер е убеден, че след като човечеството се сдобие с AGI, то няма да спре и ще продължи да създава още по-мощни алгоритми, които не само ще могат да се сравняват с хората, но и ще надминат многократно техните възможности. Този преход вероятно ще се случи след 2029 г. (нима само след 5 години), тъй като ИИ ще може да автоматизира и ускори своите изследвания и разработки. И тъй като все повече държави и институции по света се подготвят за приемането на AGI и появата на свръхчовешки ИИ, секторът ще получи повече корпоративно и държавно финансиране.

„Преди да се усетим, ще имаме в ръцете си свръхинтелигентност – системи с изкуствен интелект, много по-интелигентни от човешките, способни на нови, креативни и сложни поведения, които дори не можем да разберем. Може би дори една съвсем малка цивилизация от десетки такива системи ще има ИИ мощ, която изобщо не можем да си представим. Тяхната мощ наистина ще бъде огромна. Изключително сложните научни и технологични проблеми, над които хората биха се мъчили с десетилетия, ще им се струват очевидни. Ще бъдем като ученици от гимназията, които са се зациклили на нютоновата физика, докато другите вече изучават квантова механика“, предупреждава авторът на доклада.

И накрая, тези свръхразуми ще могат сами да обучават още по-усъвършенстван изкуствен интелект.

„Те лесно ще могат да пишат милиони редове сложен код, да съхраняват цялата база от кодове в контекст и няма да прекарват десетилетия (или повече) в проверка и препроверка на всеки ред код за грешки и оптимизации. Те ще бъдат напълно компетентни във всички аспекти на работата си“, заявява бившият служител на OpenAI.

Вече сте се досетили, нали? Всичко това означава, че целият научен и технологичен напредък, постигнат от човечеството през ХХ век, ще бъде надминат само за едно десетилетие. Това, от своя страна, ще осигури решително и смазващо военно превъзходство на страната, лидер в надпреварата с оръжията на изкуствения интелект.

Използването на свръхинтелигентността срещу съществуващите вече оръжия ще прилича на сблъсък между съвременните военни сили и кавалеристите от XIX век.

„Времето непосредствено след появата на свръхинтелигентността ще бъде един от най-нестабилните, напрегнати, опасни и необуздани периоди в човешката история“, заключава бившият служител на OpenAI.

Интелектуалният взрив и неговите последици

В края на доклада тревогата на Ашербренър става все по-очевидна, тъй като водещите национални лаборатории за изкуствен интелект третират сигурността като второстепенна задача. Сега те по същество предават ключовите тайни на AGI на сребърен поднос, докато надеждният контрол на системите с изкуствен интелект, които са много по-умни от нас, е нерешен технически проблем.

Всъщност ситуацията, която бившият служител на OpenAI описва в доклада си, може да се сравни със създаването на атомната бомба, тъй като надпреварата за създаване на AGI ще постави на карта оцеляването на съвременната цивилизация. В крайна сметка никой не знае дали ще успеем да избегнем катастрофата и самоунищожението по своя път.