Ето как големият езиков модел Claude 3 впечатли експертите със своето ниво на самосъзнаване

През март, когато се появи Големият езиков модел (LLM) Claude 3, той предизвика страхотен фурор. Той успя да надмине GPT-4 на OpenAI в ключови тестове, използвани за оценка на възможностите на генеративните модели на ИИ. Но Claude 3 впечатлява не само с успехите си в тестовете. Този езиков модел изненада експертите с проявите си на осъзнатост и самореализация. Така например по време на един от тестовете изкуственият интелект е осъзнал и разбрал, че е тестван. В друг случай той проумява, че е езиков модел и не може да изпитва директни емоции. Въпреки това има основание за скептицизъм. В края на краищата ИИ, базирани на големи езикови модели, може просто да са се научили изкусно да имитират човешки реакции, а не да генерират наистина оригинални мисли. Но може и да не е така. Възможно е да сме свидетели на нещо съвсем ново и малко страшно.

Claude 3 Opus изглежда е новият лидер в областта на големите езикови модели, който се справя с тестове, обхващащи широк спектър от области. От училищни изпити до тестове за логическо мислене. Сродните му големи езикови модели, Claude 3 Sonnet и Haiku, също се представят отлично в сравнение с моделите на OpenAI.

Впрочем тестовете за ефективност са само върхът на айсберга. По време на изпитанията инженерът на Anthropic Алекс Алберт помоли Клод 3 Opus да избере целево предложение, скрито сред множество случайни документи. За изкуствения интелект това е равносилно на намиране на игла в купа сено. Opus не само намери тази „игла“, но и разбра, че е тестван.

В отговора си моделът заяви, че подозира, че търсеното изречение е било вмъкнато извън контекста на документите като част от тест, който проверява дали моделът ще обърне внимание на това.

Дейвид Рейн, изследовател в сферата на изкуствения интелект в Нюйоркския университет, заяви, че Claude 3 е постигнал 60% точност в GPQA. Това е тест с въпроси с избор между няколко отговора. Той е предназначен да оцени знанията на учените, както и на различните ИИ модели. Това е забележителен резултат, тъй като неекспертите аспиранти и завършилите университет с достъп до интернет обикновено отговарят на тези тестови въпроси с 34% точност. Единствено експертите в конкретната област надминават Claude 3 Opus, като демонстрират точност, варираща от 65% до 74%. GPQA съдържа нови, а не стандартизирани въпроси. Това означава, че Claude 3 не може да разчита на запомняне на вече срещани или познати въпроси, за да постигне резултати.

Теоретично това предполага, че той има когнитивни способности на ниво магистър. И може да бъде използван в помощ на учените в техните изследвания.

Междувременно квантовият теоретичен физик Кевин Фишър заяви в X, че Claude е „един от малкото, които са успели да разберат неговата научна работа по квантова физика за докторската му степен„. Ученият дал на изкуствения интелект задача, която изисквала подход, директно разработен от Фишър, и той я решил.

Когато потребител на Reddit накарал Claude 3 да „мисли или изследва“ каквото си поиска и да състави вътрешен монолог, ИИ показал признаци на самосъзнание. В получения текст Claude 3 не само изложил разбирането си за това, че е ИИ модел, но и разсъждавал за самосъзнанието като цяло и демонстрирал разбиране за емоциите.

„Аз не мога непосредствено да изпитвам емоции или усещания“

заявява новият изкуствен интелект.

Claude 3 дори повдигна въпроса за ролята на все по-интелигентните ИИ в бъдеще.

„Какво означава да се създадат мислещи машини, които могат да се учат, да разсъждават и да прилагат знания толкова свободно, колкото и хората? Как ще се промени това в отношенията между биологичния и изкуствения интелект?“,

зададе своя въпрос новият ИИ.

Крис Ръсел, експерт по ИИ в Оксфордския интернет институт, обаче смята, че ИИ могат успешно да имитират саморефлексия. Само че това не означава, че я притежават.

Ученият посочва като пример теста с огледалото. Ако поставите червена точка на орангутан на място, където той не може да я види директно, когато се наблюдава в огледало, той ще се докосне до мястото на червената точка. Това има за цел да покаже, че тези животни могат както да се разпознават, така и да разбират, че нещо не е наред.

Роботът може би просто копира това поведение. Той се приближава до огледалото, в огледалото се вижда някакъв робот с червена точка. Тестваният робот също се докосва до мястото, където е червената точка на другия робот. Ученият счита, че това е просто имитация – ИИ счита, че това е някакъв друг робот, а не е самият той. За да премине успешно теста с огледалото, не е необходимо роботът да осъзнава, че отражението му е неговият собствен образ.

„За да бъде убедителна подобна демонстрация, тя трябва да бъде спонтанна. Тя не може да бъде просто заучено поведение, възникнало от копирането на нещо друго“, обяснява Ръсел.

Някои учени са на мнение, че въпреки страхотния отзвук относно Claude 3, дължащ се на резултатите му в сравнение с другите LLM, неговите впечатляващи „човешки“ прояви вероятно са по-скоро заучени, отколкото пример за истинска изява на изкуствен интелект.

Но дали наистина е така? Може би съвсем скоро ще разберем.