Изкуственият интелект срещу естествената глупост. Кой ще победи?

2023 г. спокойно може да се нарече годината на изкуствения интелект. Това съчетание от думи все още е на върха на модата, а ChatGPT, Bard и другите подобни по-скоро генерират заглавия и новини, отколкото да предлагат интересни и действително полезни случаи на употреба, които биха могли по някакъв начин да подобрят някои аспекти на нашия живот.

За щастие, изкуственият интелект все още не е завладял света. Изглежда, че надвисналата заплаха се е оттеглила донякъде, поне засега. Това, което е наистина обезпокоително е фактът, че хората всъщност не разбират много добре изкуствения интелект. Независимо дали просто задаваме глупави въпроси или търсим начин да се облекчим малко на работното място, рискуваме да заменим собственото си критично мислене с алтернатива, която все още не е адаптирана към него.

Какво всъщност е (и какво не е) изкуственият интелект

Проблемът е в това, че изкуственият интелект все още не е много интелигентен. Във всеки случай засега той просто успешно ни заблуждава, че е умен. Разковничето се крие в името ChatGPT (частта „GPT“ също е важна, тя означава Generative Pre-trained Transformer). Независимо дали става дума за Bard, Bing или нещо друго подобно, това са големи езикови модели, които по принцип са специализирани в създаването на текст, подобен на човешкия. На най-общо ниво това означава, че те са изключително добри в статистическото моделиране на следващата вероятна дума (или символ), която се появява в дадено изречение. Поради големия обем данни, които трябва да се усвоят, това статистическо моделиране е добро не само за писане на изречения – неговото използване става много по-креативно и полезно.

Това, което тези модели определено не са, въпреки впечатляващите им на някои места отговори, е изкуствен интелект с общо предназначение (въпреки че крайната цел е именно изкуствен интелект с общо предназначение). Всъщност, когато изкуственият интелект изплюе сонет или генерира работещ код, не се прилага анализ и критично мислене. Фактът, че големите езикови модели очевидно са много добри в широк спектър от задачи, бе открит по чиста случайност по времето на GPT-2. Използвайки днешните много по-големи набори от данни, моделите се справят още по-добре с получаването на точни отговори въз основа на по-широк набор от входни данни.

За да разберем защо това е така, нека да разгледаме какво прави големият езиков модел, когато го помолим да изброи планетите от Слънчевата система. Той не се рови в паметта си, за да формулира отговор, и няма готов отговор в базата данни, който да търси и намери. По-скоро той приема въведените от вас данни и създава статистически вероятен низ от текст въз основа на данните, с които е обучен и трeниран. С други думи, колкото по-често моделът среща думите Марс, Земя и Сатурн в изречения за планети по време на обучението, толкова по-вероятно е да генерира тези думи, когато се сблъска с подобна дискусия в бъдеще. Това е имитация на истинско знание, но не е видът учене, който вие и аз използваме. Освен това, ако данните за обучение се състоят предимно от статии преди 2006 г., вашият голям езиков модел може погрешно да настоява, че и Плутон е планета.

Ситуацията донякъде се усложнява от Bard и Bing, които имат достъп до данните от интернет. Но принципът остава същият: големите езикови модели са предназначени предимно за създаване на четливи текстови данни, които да удовлетворяват хората. Ако отговорът е и верен, това е бонус. Той може да е стимулиран от обучението с подсилване, но тук липсва етапът, в който изкуственият интелект „мисли“ за правилния отговор на вашия въпрос. Оттук произтичат всички тези често срещани грешки и невъзможността да се отговори на някои прости въпроси като например „Колко е часът?“.

Математиката е друг чудесен пример, който помага да се разбере този аспект. Големите езикови модели не правят изчисления като традиционните компютри, а и нито един изчислителен процесор не гарантира правилния отговор. Нито пък работи по същия начин, по който работи нашият мозък. Вместо това големите езикови модели извършват математически операции по същия начин, по който генерират текст, като извеждат статистически най-вероятния следващ символ, но това не е същото като изчисляване на отговора. Интересно откритие обаче е, че колкото повече данни предоставяте на един голям езиков модел, толкова по-добре той моделира математическите изчисления (наред с други неща). Ето защо GPT-3 и 4 са несъразмерно по-успешни от GPT-2 в простата аритметика с двуцифрени и трицифрени числа и постигат много по-високи резултати в различни тестове. Това няма нищо общо с факта, че те са по-добри от гледна точка на традиционната обработка на данни. Всичко това се дължи на факта, че те са били обучени на много повече данни.

Същото важи и за писането на есета, генерирането на сорс код и всички други привидно невероятни нови функции на големите езикови модели. Това е симулация на усилия и мисъл, като резултатите се основават на текстови вероятности. Ето защо често ще виждате повтарящи се стилове и примери, както и фактологични грешки. Въпреки това тази способност за учене „в контекст“ прави големите езикови модели невероятно мощни и приспособими за широк спектър от приложения.

Ако обаче имате нужда от способен и надежден изкуствен интелект за математически, физични или други научни експерименти, ще трябва да го обучите по съвсем различен начин от един голям езиков модел. Тези, които виждат по-широката картина, вече знаят, че OpenAI предлага различни модели, като DALL.E за създаване на изображения и Whisper за преобразуване на аудио в текст. Така че, въпреки че ChatGPT4 и евентуално 5 несъмнено ще продължат да подобряват точността и обхвата на функциите, в основата си те все още са езикови модели.

Хайде да спрем да задаваме глупави въпроси на изкуствения интелект

Но да се върнем на заглавието. Наистина трябва да разберем по-добре силните страни и подводните камъни, преди да поставяме задачи на изкуствения интелект.

Надяваме се, че на всички е ясно, че би било глупаво да искаме от ИИ да напише курсова работа по естествени науки. Малко вероятно е той да разбере правилно уравненията, въпреки че така или иначе ще ви даде формула в отговор. И накрая, много безотговорно е да се приемат финансови съвети от ИИ. Но дори привидно по-тривиалните въпроси могат да предизвикат трудности. Въпреки че може да е забавно да дразните ИИ с разсъждения по спорни теми или умишлено да го водите към грешен отговор – използването на неговите отговори сякаш са някакво реално мнение, говори за крайно невежество.

Ако попитате чатбота за неговите предпочитания или го помолите да сравни нещо, той няма как да разчита на собствените си мисли, на огромното хранилище от човешки знания или дори на колективното мнение, скрито в набора от данни, за да отговори. Вместо това той ще моделира статистически това, което счита, че е най-добрият текстов отговор, който може да предостави на вашето запитване. Само че това е много по-различно от действителното обмисляне на отговора. Ето защо тези модели насилствено филтрират запитванията и отговорите, които не са предвидени. Дори и да успеете умишлено да предизвикате такъв отговор, той трябва да бъде напълно игнориран.

Накратко, не бива да бъркаме човекоподобната реакция с човешкото мислене. Това не омаловажава впечатляващите ефекти на симулацията на изкуствен интелект и многото нови примери за употреба, за които той е действително полезен. Но в крайна сметка има много по-вълнуващи и екзистенциални теми за размисъл, които са много по-подходящи за един по-добър изкуствен интелект, който не е натъпкан с данни за нашите предпочитания по отношение на дизайнерските марки и брандове. Нека да не преотстъпваме критичното си мислене на една подобрена версия на терминатора Т9.