Те изграждат AGI и едновременно с това купуват бункери. Силициевата долина се страхува от собственото си творение

AGI идва през 2026 г. Или през 2035 г. Или никога. Зависи от това кого питате – и колко инвестиции е привлякъл.

„Със сигурност ще построим бункер, преди да пуснем AGI“

– това е фраза, приписвана на един от лидерите на Силициевата долина, макар че не е ясно кого точно е имал предвид под „ние“.

Фразата добре улавя парадокса на времето: много от тези, които активно тласкат изкуствения интелект към нови граници, същевременно се страхуват от това, в което може да се превърне тази технология.

Кога ще се появи AGI – изкуствен интелект с общо предназначение, сравним с човешкия интелект по отношение на широтата на уменията? Оптимистите ни уверяват, че това ще стане съвсем скоро. Главният изпълнителен директор на OpenAI Сам Алтман заяви през декември 2024 г., че това ще се случи „по-скоро, отколкото повечето хора си мислят“. Съоснователят на DeepMind сър Демис Хасабис определя хоризонта като пет до десет години. Основателят на Anthropic Дарио Амодей предпочита да говори за „мощен ИИ“ и допуска това още през 2026 г. Скептиците възразяват, че „летвата непрекъснато се мести“: според професора от Университета в Саутхемптън Дейм Уенди Хол всичко зависи от това кого питате.

Технологията е впечатляваща, но все още е много далеч от човешкия интелект. Бабак Ходжат, главен технически директор на Cognizant, е съгласен: първо се нуждаем от няколко фундаментални пробива. И не бива да очакваме „мигновено“ раждане на AGI – това не е въпрос на един ден, а на дълъг път, по който се движат десетки компании с различни версии на подходите.

Част от ентусиазма се подхранва от идеята за следващата стъпка – ASI, свръхинтелигентност, превъзхождаща човека. Още през 1958 г. унгарско-американският математик Джон фон Нойман прави първата формулировка на „сингулярността“ – точката, след която темпото и естеството на компютърното развитие се изплъзват от човешкото разбиране. В книгата от 2024 г, Genesis Ерик Шмидт, Крейг Мънди и покойният Хенри Кисинджър разсъждават за свръхмощна технология, която взема решения и управлява толкова ефективно, че хората постепенно й предават контрола. Според тяхната логика въпросът не е „дали“, а „кога“.

Поддръжниците рисуват завладяваща картина. Предполага се, че AGI ще помогне да се намерят лекарства за смъртоносните болести, да се преодолее климатичната криза и да се открият практически неизчерпаеми източници на чиста енергия. Илън Мъск говори за възможна ера на „универсален висок доход“, когато AI ще стане толкова достъпен, че всеки ще има „собствен R2-D2 и C-3PO“. В неговата визия всеки ще има достъп до по-добра медицина, жилища, транспорт и устойчиво изобилие.

Но тази мечта има и обратна страна. Може ли една подобна система да бъде предпазена от злоупотреба от страна на терористи или от самостоятелно заключение, че най-големият проблем на планетата сме ние самите? Тим Бърнърс-Лий, създателят на World Wide Web, предупреждава: ако една машина е по-интелигентна от човека, тя трябва да може да бъде овладяна и при необходимост „изключена“.

Държавите се опитват да изградят защитни бариери. В САЩ през 2023 г. излезе изпълнителна заповед, изискваща от някои компании да споделят с властите резултатите от тестовете за сигурност, въпреки че някои разпоредби впоследствие бяха смекчени като „обезкуражаващи иновациите“. В Обединеното кралство преди две години се появи управляван от правителството Институт за безопасност на изкуствения интелект, който проучва рисковете, свързани с усъвършенстваните модели.

На този фон свръхбогатите обсъждат „застраховки срещу апокалипсиса“ – от домове на края на света до частни убежища, въпреки че човешкият фактор и тук преобръща всичко с главата надолу.

Има и такива, които смятат, че целият дебат е фалшив. Професорът от Кеймбридж Нийл Лоурънс нарича самата идея за AGI толкова нелепа, колкото и „изкуственото универсално транспортно средство“. Транспортът, от който се нуждаете, винаги е специфичен за конкретния контекст: летите до Кения със самолет, карате кола до университета, ходите пеша до столовата. Няма и няма да има един автомобил за всички случаи – защо от AI да се очаква обратното? Според него говоренето за AGI отклонява вниманието от истинската промяна, която вече се случва: за първи път обикновените хора могат да говорят с машината и да получат от нея това, което наистина имат предвид. Това вече е изключително голямо постижение и вече променя живота, с който сме свикнали, което означава, че усилията трябва да се насочат към това технологиите да работят в полза на потребителите.

Настоящите системи са обучени на гигантски масиви от данни и са отлични в разпознаването на модели – от ракови маркери в сканиранията до вероятната следваща дума в изречението. Но те не „чувстват нищо“, независимо колко убедително звучат техните отговори. Според Бабак Ходжат има „умни“ начини да се накарат големите езикови модели да създадат впечатление за памет и учене, но тези трикове са далеч от човешкото ниво. Изпълнителният директор на IV.AI Винс Линч предупреждава: гръмките твърдения за AGI са чудесен маркетинг. Ако създадете „най-умното нещо на света“, към вас ще потекат реки от пари. На практика пътят не се измерва с две години – за него са необходими огромна изчислителна мощ, много човешка креативност и безкрайни усилия, изпълнени с неизбецжните за човека грешки.

И все пак в някои аспекти машините вече ни изпреварват по широтата на приложение. Генеративният изкуствен интелект може да премине от средновековната история към сложни уравнения за миг. Дори разработчиците невинаги разбират защо даден модел реагира по начина, по който го прави, а някои компании показват признаци на самоусъвършенстване на своите системи.

Биологията все още изпреварва: човешкият мозък има около 86 милиарда неврона и около 600 трилиона синапса – несравнимо повече, отколкото в изкуствените архитектури. Мозъкът не се нуждае от паузи между взаимодействията, той непрекъснато възстановява картината на света. Ако на човек му кажат, че е открит живот на екзопланета, той веднага ще го вгради в своята картина на реалността. Езиковият модел „знае“ това само доколкото вие продължавате да му повтаряте този факт. На езиковите модели им липсва метапознание – способността да осъзнават собствените си знания. Хората я притежават и тя често се описва като съзнание. Това е фундаментален елемент на интелигентността, който все още не е възпроизведен в лабораторни условия.

Да напомним, че AGI означава изкуствен общ интелект (Artificial General Intelligence) – теоретичен тип изкуствен интелект, който би притежавал човекоподобни когнитивни способности и може да разбира, учи и прилага интелекта в широк спектър от задачи, а не само в една конкретна област. Това включва способността за учене от опит, решаване на проблеми, разсъждаване и разбиране на езика, както и притежание на общ смисъл и способност за адаптиране към нови ситуации.

Ключовите характеристики на AGI включват следното:

• Общо разсъждение и учене: AGI може да използва знания, научени в една област, и да ги прилага в друга, което му позволява да се адаптира към нови и непознати ситуации.
• Общ смисъл: Има обширни познания за света, включително факти, връзки и социални норми, които му помагат да разсъждава и взема решения.
• Самообучение: AGI може да се самообучава и да решава проблеми, за които не е бил специално програмиран, което е ключова разлика спрямо настоящите системи с ограничен изкуствен интелект

Гръмките прогнози и притеснения сякаш прикриват една проста истина: ИИ вече променя ежедневието и бизнес процесите днес, а говоренето за „истински“ AGI е удобно за тези, които събират инвестиции или формират нови програми. Въпросът дали и кога ще настъпи точката на сингулярност е отворен. Но от качеството на инструментите, които създаваме сега, от тяхната безопасност, прозрачност и полезност за хората зависи много повече, отколкото от споровете за силози и дати.