Силният изкуствен интелект като фантазия. Теоремата на Теслер

През 1841 г. Чарлз Маккей публикува сборник с исторически есета, озаглавен „Най-често срещаните заблуди и безумства на тълпите“. Сборникът е претърпял десетки преиздания и се издава и до днес.

Нищо не се е променило: както преди мъжете са си пускали модни бради и са инвестирали в пирамиди, така правят и сега. Може би вярата в силния изкуствен интелект (AGI) също е една от „често срещаните заблуди и безумия“, тъй като хората питат LLM за житейски съвети, водят сърдечни разговори, даряват ги с човешки черти и изпитват парализиращ страх от Сингулярността.

За съжаление AGI и ASI (Superintelligence – Свръхинтелектът) от ясни научни концепции се превърнаха в маркетингови лозунги, които се експлоатират по възможно най-добрия начин. Вече е почти невъзможно да се даде определение за тях. И това въпреки факта, че терминът „AGI“ е посочен във финансовия договор между Microsoft и OpenAI и от изпълнението му зависи финансиране в размер на милиони долари. Тоест теоретично адвокатите на тези компании могат да се изправят в съда по финансов спор на тема какво точно е силният ИИ, независимо дали той вече е създаден или не.

Терминологиите

Силният изкуствен интелект в медиите се нарича с различни термини, сред които:

• AGI,
• универсален ИИ,
• генеративен ИИ,
• GenI,
• ИИ на човешко ниво,
• общ ИИ.

Според класическото определение силният ИИ предполага, че:

„изкуствената система може да придобие способността да мисли и да се реализира като индивид (по-конкретно да разбира собствените си мисли), макар и да не е задължително мисловният ѝ процес да е подобен на човешкия“.

Някои твърдят, че този момент вече е настъпил.

Но индустрията на изкуствения интелект не говори за самосъзнание. Индустрията се интересува само от ИИ, изпълняващ реални индустриални задачи: програмиране, писане на текстове и др. Дори и механично, без никакво самосъзнание, това няма значение, главното е да се печелят пари, да се пускат нови продукти, функции, платени абонаменти. Нищо няма значение освен парите, за какво съзнание може да се говори?

Ситуацията се утежнява от факта, че никой не знае какво е съзнанието (и самосъзнанието). Можем ли да се доверим на система, която твърди, че го има? Можем ли да се доверим на човек, който твърди, че го има? Въпросите са много, а отговорите липсват.

След като не можем да проверим факта на самосъзнанието при човека, как можем да проверим този факт при машината? Не можем.

Оттук и объркването с термина AGI: всъщност не можем със сигурност да кажем кога в реалността се е появил силен ИИ и кога машината е развила самосъзнание. Невъзможно е да го докажем.

Учените дори не могат да постигнат съгласие по въпроса какво е „моделът на света“, който присъства в човешкото съзнание, но за който се предполага, че отсъства в ИИ.

Така или иначе, създаването на силен ИИ е свързано със самостоятелно изучаване на света и по-нататъшно обучение въз основа на самостоятелно събрани данни:

В същото време Сам Алтман сравнява новия чатбот със супер оръжие от „Междузвездни войни“ и казва, че той ще „спаси много животи“. Това са познати техники, които вече са използвани от маркетолозите, за да провокират инвеститорите в миналото:

Магията на неразбираемото + антропоморфизъм = илюзия за разсъждение

Всъщност технологиите за машинно обучение съществуват и наистина работят. Само че те често изглеждат като магия за хората, защото LLM е като черна кутия с недетерминирани резултати.

Благодарение на антропоморфизма хората съзират човешки качества във всичко, което ги заобикаля: в облаците, дърветата, животните, дори в LLM. Те си мислят, че статистическият генератор на текст има собствени мнения и мисли, че уж ги „аргументира“ или „одобрява“. Според изследователите моделите показват само една илюзия за аргументация. В действителност тези „разсъждения“ нямат нищо общо с мисловната дейност.

Въпреки това някои хора се побъркват, прекарвайки часове в „разговори“ с чатбота. Други го молят за съвет, търсят съчувствие и подкрепа, дори се молят и говорят за Бог.

Ако желаете, много е лесно да видите признаци на съзнание там, където го няма.

Обучението по ИИ е нископлатена работа

Хиляди нископлатени служители работят извънредно, за да обучават модела Google Gemini да се държи по човешки и да изглежда „умен“ за обикновените потребители, които не разбират нищо от технологии. Тази измама е много важна за търговския успех и популярността на продукта. Приблизително същото е и с другите LLM. С обучението на ИИ се занимават специализирани изпълнители като Hitachi GlobalLogic, Accenture и Appen.

Подобна работа може да се сравни с Mechanical Turk, където на потребителите се плащат по няколко лева за решаване на прости задачи и участие в анкети. Или с маркирането на данни за първоначалното обучение на моделите, за което се наемат работници в страни от третия свят. Но Hitachi GlobalLogic заплаща малко повече: от 16 долара (базова ставка) до 21 долара на час (увеличена ставка за „свръхвисокоплатените“).

Ръководствата на служителите за обучение на генеративен ИИ наскоро станаха публично достъпни.

В ранните дни на търсачките разработчиците поставиха задачата да обработват „заявки за търсене на естествен език“, така че да е възможно да се общува с търсачката на обикновен (български) английски език, т.е. да се говори с нея като с човек. Предполагаше се, че подобна комуникация ще бъде по-удобна за обикновения потребител.

Сега тази задача е решена – и потребителите са доволни.

Независимо от качеството на търсенето на информацията и надеждността на източниците, много хора се наслаждават на процеса на „разговор“ с LLM. Някои хора дори не проверяват данните в първичните източници, а информацията в линковете често противоречи на текста, генериран от статистическия модел. Например повечето оценители на изкуствения интелект на GlobalLogic не се доверяват и не използват LLM, защото знаят как се генерират тези текстове.

Но ИИ не е магия, а огромна пирамида от човешки труд: първо за създаването на съдържание, а след това за обучението на модела. Някои от „оценителите“ (оценяващите ИИ) са висококвалифицирани в своите области, но по-голямата част от тях са нископлатен неквалифициран труд.

ИИ-ефектът и теоремата на Теслер. Безкрайната фантазия

По дефиниция един силен ИИ трябва да има самосъзнание и да може да изпълнява всяка интелектуална задача толкова добре, колкото и човека. На свой ред Свръхинтелигентността е интелигентност, която е далеч над човешката, отвъд нашето разбиране.

Нито един от тях обаче все още не съществува. И не знаем как ще изглеждат, как да определим появата на AGI, по какви признаци. В края на краищата, когато слабият ИИ започне успешно да решава различните човешки задачи, определението за самия ИИ се променя.

Ако нещо от задачите на ИИ се приложи на практика, започваме да го наричаме с всекидневни термини (разпознаване на реч, OCR, безпилотен автомобил, автоматичен превод на текст, кредитен скоринг, игра на шах и т.н.), но вече не изкуствен интелект. Това е известният ИИ ефект или теоремата на Теслер.

Докато технологията не съществува – тя е ИИ, а щом бъде реализирана – вече не е ИИ.

Теоремата на Теслер (1970 г.):

ИИ е всичко онова, което все още не е направено.

С други думи, „ИИ“ като термин в масовото съзнание винаги е бъдещето, някаква фантазия и нещо магическо. Докато постигаме следващата цел, ние постоянно вдигаме летвата.

Това дава възможност на маркетолозите и бизнесмените постоянно да „привличат“ инвеститорите с грандиозни планове. Този „морков“ винаги виси пред лицата им като стимул да тичат напред.

Сам Алтман обеща силен изкуствен интелект през 2025 г. Илън Мъск заяви, че „xAI ще достигне AGI с Grok 5“, като обучението ще започне в края на септември, и за да го докаже, цитира резултатите на многоагентната система Bergman, базирана на Grok 4, в бенчмарка ARC-AGI с пъзели от цветни клетки:

Но системата на Бергман е специално усъвършенствана за решаване на точно такива загадки за този критерий. Всъщност абсолютното мнозинство от лидерите във всички бенчмаркове на AGI са специално оптимизирани за решаване на задачи в конкретни бенчмаркове. А тези задачи обикновено имат слаба връзка с реалния живот и бързо остаряват. И така, къде е разговорът за самосъзнанието тук?

По-късно Сам Алтман принципно заяви, че „AGI не е супер полезен термин“ за описание на технологията. С други думи, около технологията се вдига толкова много шум, че значението на термините се е размило.

AGI и AI вече не са технологии, а маркетингови лозунги. След разочарованието от рекламирания модел GPT-5 има подозрение, че „глупавият“ ИИ ще бъде с нас още дълго време.

Сингулярността

Все пак надмощието на маркетолозите не отменя научния и технологичния прогрес. Той продължава, независимо от всичко. И технологичната сингулярност наистина е възможна, ако свръхинтелигентността започне да се развива. За щастие инвеститорите поне засега наливат милиарди в изграждането на центрове за данни за ИИ.

Центровете за данни от следващо поколение, които се изграждат в момента, ще бъдат полезни за Свръхинтелекта в бъдеще, точно както огромните инвестиции в оптични влакна за международни телефонни разговори през 90-те години се оказаха полезни за високоскоростния интернет през 2000-те години.

Нека икономиката на изкуствения интелект засега не върви и сегашните компании могат да се разорят, самият хардуер и центровете за данни няма да бъдат загубени.

Какви са прогнозите за времето на свръхинтелигентността и изключителността? Мненията значително се различават в зависимост от това кого питате. Активистите от организацията SingularityNET виждат Сингулярността в рамките на следващото десетилетие и дори са издали специален криптотокен във връзка с това събитие. Какво е Свръхинтелектът без собствен токен?

Други цитират изчисления, според които силният изкуствен интелект изобщо е математически невъзможен.

Как ще се промени човешкото общуване, когато всеки има в ухото си слушалка с всезнаещ подсказвач, който направлява действията му? Могат ли такива същества да се нарекат хора в обичайния смисъл на думата? Може би сегашните сапиенси са само биологичен буутлоудър за напредналата ИИ-раса на бъдещето от хора-компютри или просто компютри.

Вероятно скоро ИИ асистентите на заден план ще станат толкова обичайни, колкото видеокомуникацията и другите фантастични неща, които преди се виждаха само в „Стар Трек“:

Реалността се променя много бързо. Но поне до епохата на мозъчните импланти винаги е възможно да се говори без електронни сигнали например в банята.

Много хора имат нужда да вярват в нещо (религия, знамения, хороскопи, справедлив свят, вяра в научно-техническия прогрес), защото вярата е важна за психологическата защита и адаптацията към заобикалящия ги хаос.

---

Тъй като определението за AGI и свръхинтелигентност непрекъснато се променя и се изтласква в бъдещето, лесно е да се разочароваме от реалността на ИИ. Това напомня на класическия цитат от киберпънка, че бъдещето вече е тук, просто все още не е равномерно разпределено. Това, което е бъдеще за един, вече е реалност за друг. И изведнъж може да се окаже, че някакъв LLM модел вече има самосъзнание, просто засега никой не го знае и не вярва?