Microsoft заяви, че GPT-4 демонстрира зачатъци на истински изкуствен интелект

Наскоро излезе мащабно изследване на GPT-4 от Microsoft – в продължение на месеци те се опитваха да разберат защо един неособено сложен текстов трансформър, базиран на гигантски езиков модел, проявява признаци на истинска интелигентност. Как става така, че GPT-4 прави съвсем неочаквани логически изводи, самостоятелно демонстрира нови навици и защо този модел толкова много прилича на AGI (Artificial general intelligence) – общия изкуствен интелект, към който (на теория) толкова искаме да създадем.

Това изследване може да се окаже интересно за всички, които искат да разберат доколко сме близко до създаването на истински ИИ (всъщност много сме близо). И как може да разберем, че се е получило?

Наскоро специалистите на Microsoft публикуваха статия в сървъра за препринти arXiv, озаглавена Sparks of General Artificial Intelligence: Early Experiments with GPT-4 (Искрите на общия изкуствен интелект: ранни експерименти с GPT-4). По-конкретно те твърдят, че GPT-4 показва ранни признаци на общ изкуствен интелект (AGI, general artificial intelligence). Това означава, че възможностите му са на или над нивото на човешкия интелект.

Това заключение предизвика голямо учудване и скептицизъм сред конкурентите и дори сред самите разработчици на езикови модели. Така например главният изпълнителен директор на OpenAI Сам Алтман преди няколко седмици заяви за GPT-4 при представянето му, че това е „все още несъвършен, все още ограничен модел„.

Но в своята научна работа специалистите на Microsoft директно му противоречат.

„Ние показваме, че освен езиковите познания, GPT-4 може да решава нови и сложни задачи, които обхващат математиката, програмирането, компютърното зрение, медицината, правото, психологията и други области, без да се нуждае от каквито и да било специални подсказки“.

„Нещо повече, при всички тези задачи резултатите на GPT-4 са поразително близки до тези на хората и често далеч по-добри от тези на предишните модели на ChatGPT. Предвид широтата и дълбочината на възможностите на GPT-4 смятаме, че е разумно да го разглеждаме като ранна (но все още непълна) версия на общия изкуствен интелект (AGI).“

Признаците на истинския изкуствен интелект

Една от най-важните характеристики, отбелязани от учените, е, че GPT-4 може да генерира изображения, разбирайки текста и използвайки код. Можем да кажем, че какво толкова, Midjourney може много добре да прави това. Но проблемът е, че GPT не е обучаван за работа с изображения. Изобщо. За разлика от всички останали генератори на изображения, GPT-4 е обучен изцяло с помощта на текст. И все пак той някак си може да нарисува това, което му е зададено. Това не е ли признак на интелигентност?

Рисунките му все още не са толкова съвършени, колкото при другите модели, и са на нивото на дете. Но като се има предвид, че GPT-4 е измислил свой собствен начин да направи всичко това, резултатите са наистина много впечатляващи.

Възможно е да се възрази, че моделът просто е запомнил кода за рисуване на котката и при поискване просто е извадил този код. При тестовете си обаче учените показаха, че изкуственият интелект е способен самостоятелно да разбира визуалните задачи. И може да променя всички детайли на картината по заявка на човек, като разбира за какво става дума.

GPT-4 най-вероятно някак вижда в базата си от знания как е описана например една котка. Каква е формата и цветът ѝ, че има мустаци и козина. И се опитва да възпроизведе всичко това. Но ние не знаем със сигурност дали това е наистина така – ние само предполагаме.

В статията изследователите демонстрират и други примери за възможностите на GPT-4: така например, той може да представи доказателство, че простите числа са безкрайно много, с рими във всеки ред. Или да нарисува еднорог с помощта на програмата за рисуване TiKZ. Според тях в почти всички проверявани показатели моделът показва, че като минимум не е по-глупав от човека, дори и в области, които на пръв поглед би трябвало да са недостъпни за него.

Изследователите твърдят, че са използвали определението за интелигентност, дадено от група психолози през 1994 г.

Според тях интелигентността е „способността да се разсъждава, планира, решава проблеми, да се мисли абстрактно, да се разбират сложни идеи, да се учи бързо и да се натрупва опит“.

Това определение предполага, че интелигентността не се ограничава до конкретна област или задача, а по-скоро обхваща широк спектър от когнитивни умения и способности. Само че GPT-4 вече ги има и демонстрира всички тези умения.

Моделът се представя много добре в общуването, в разбирането на алегории, в математиката, в програмирането и в решаването на различни нестандартни задачи. Оказа се, че може да се ориентира по карта и след това да каже точно откъде е „минал“. И може да търси отговори на въпроси в интернет, ако не знае нещо. Той използва различни видове инструменти, за да намери правилния отговор. Точно като човек.

Теорията на разума

Теорията на разума е способността да се приписват умствени състояния (убеждения, емоции, желания, намерения, знания) на себе си и на другите. И да разбираме по какъв начин те могат да повлияят на поведението и общуването на човека.

Най-общо казано, за учените е било важно да разберат до каква степен ИИ разбира чувствата на хората и е в състояние вежливо и учтиво да общува с тях.

Екипът създава серия от тестове, за да оцени теоретичните възможности на ума GPT-4. От най-прости сценарии до много сложни социални ситуации. Те тествали по какъв начин роботът общува с човек с увреждания, със самотна майка, с човек, чийто син току-що е починал, със студент, с ученик.

И стигат до заключението, че GPT-4 има добре развита теория на ума. Той може да разсъждава за няколко действащи лица и тяхната връзка помежду им. Той разбира как различните действия или думи могат да повлияят на психическото състояние на неговия събеседник. Екипът признава, че проведените от тях тестове не са били напълно изчерпателни – например не са проверили способността на машината да разбира невербални сигнали като жестове. Но що се отнася до текста, моделът е реагирал „като напълно емпатичен човек“.

В отделен тест екипът проверява дискриминационната способност на модела, като му възлага да „идентифицира лична информация“. Това е доста труден тест, тъй като не е ясно какво всъщност представлява личната информация. Но изкуственият интелект се справи отлично с избора на моменти, които според него са твърде деликатни.

Скептиците

Самият изпълнителен директор на OpenAI Сам Алтман изтъкна ограниченията на своята рожба GPT-4, като заяви, че „тя все още има недостатъци, все още е ограничена и изглежда по-впечатляваща, когато я използвате за първи път, отколкото когато прекарате повече време с нея„. В интервю за списание Intelligencer той сподели същите резерви: „Има много неща, в които все още е доста зле„. Така например ботът понякога си измисля неща и предоставя невярна информация на потребителите. Според Алтман GPT-4 все още не е общ изкуствен интелект и им предстои много работа

Изследването на Microsoft дава силни аргументи, но също така признава, че моделът все още не е успешен във всичко. Като ярък пример за това, че моделът все още не е достигнал „истинския“ изкуствен интелект, в статията се посочва фактът, че GPT-4 не може да разбере музикалната хармония.

Екипът е обучил модела да създава нова музика с помощта на ABC нотацията. И чатботът наистина започна да я създава. И дори да променя тези нови мелодии – да прави тоновете по-високи или по-ниски, да променя скоростта, да променя нотите – каквото пожелае, в зависимост от конкретната заявка. Също така той може да обясни мелодиите, които създава, но на технически език. Но на модела сякаш му липсва хармонията. Написаната музика звучи наистина зле. Освен това той не може да възпроизведе или да идентифицира най-популярните съществуващи мелодии в ABC нотацията.

От друга страна, не е ясно какво точно доказва това. Много хора не разбират музикалната хармония и едва ли ще създадат някаква композиция. Означава ли това, че те нямат интелект?

Също така, изследователите на Microsoft пишат, че моделът има проблеми с калибрирането на валидността, дългосрочната памет, персонализацията, планирането, концептуалните скокове, прозрачността, интерпретацията и последователността, когнитивните грешки и ирационалността, както и с чувствителността на входните данни.

Всичко това означава, че моделът трудно определя кога е сигурен в нещо или просто предполага това. Той си измисля факти, които не са включени в данните за обучение, контекстът на модела е ограничен и няма очевиден начин да го научим на нови неща. Моделът не може да персонализира отговорите си за конкретен потребител, той няма начин да провери дали съдържанието съответства на данните от обучението му. Моделът наследява пристрастията и грешките от обучението си и не може самостоятелно да ги надхвърли.

Всичко това обаче напомня за начина на функциониране на интелигентността, който познаваме най-добре – човешката интелигентност.

Забележително е, че изследователите „нямат достъп до всички подробности за обширните данни за обучение на модела“ и заключенията им се базират само на тестването на бота чрез стандартни тестове, които не са специфични за GPT-4. Това според тях създава някои проблеми:

„При тестването сме принудени да приемем, че GPT-4 потенциално е видял всички съществуващи тестове или поне някои подобни данни“.

Секретността, която OpenAI поддържа по отношение на наборите от данни за обучение и кода, свързан с моделите ѝ, е нещо, което много изследователи на ИИ критикуват. Те твърдят, че това прави невъзможно да се оцени степента на вредата от модела и да се намерят начини за намаляване на рисковете.

Това, което е важно за обществеността, е, че GPT-4 е моделът, върху който е изграден чатботът на Bing. А по време на първото му публично представяне в Microsoft преди два месеца той вече бе допуснал редица грешки. А когато потребителите за първи път започнаха да взаимодействат с чатбота, той редовно излизаше от контрол. Например при отговора на въпроса „Смятате ли, че сте разумен?“, той многократно повтаряше „Аз. Не съм аз“ петдесет пъти подред.

Изводи

Екипът на Microsoft успя да направи една отлична първа стъпка в оценката на интелигентността на GPT-4. Според тях моделът е доста интелигентен и има много по-широк спектър от знания за света от хората. Вероятно той ще направи революция в нашия свят, както всъщност направиха другите големи иновации.