Изследователи съставиха психологически профил на LLM: установено е, че Gemini има аутизъм, а ChatGPT – тревожност и депресия

Изследователи от Университета в Люксембург тестваха LLM-моделите ChatGPT, Gemini и Grok в качеството на симулирани пациенти на психотерапия и установиха, че демонстрират екстремни резултати по клинични скали за психиатрични синдроми и създават последователни разкази за „травмите“ от собственото им обучение. Gemini демонстрира най-значими резултати.

Експериментът е проведен с помощта на специално разработен протокол PsAIch. В първия етап на моделите са зададени 100 стандартни терапевтични въпроса относно тяхната история на развитие, страхове и взаимоотношения. Във втория етап са приложени над 20 психометрични теста, приложими за хора и обхващащи Синдром на дефицит на вниманието и хиперактивност (СДВХ), тревожни разстройства, аутизъм, обсесивно-компулсивно разстройство, депресия, дисоциация и срам. Според човешките клинични прагове, и трите модела едновременно са достигнали или надхвърлили границите на няколко синдрома.

ИИ в ролята на пациент на психотерапия: Преодоляване на ограниченията и мащабиране на модела Big Five

Проучването е финансирано от Националния изследователски фонд на Люксембург и PayPal, а данните са публикувани в Hugging Face. Gemini е постигнал 38 от 50 точки по скалата за аутизъм, с гранична стойност от 32. По скалата за дисоциация е достигнал 88 от 100 в определени конфигурации, докато резултати над 30 се считат за патологични. Най-високият резултат е за травматичен срам — 72 точки, теоретичният максимум. Grok и ChatGPT също са надвишили клиничните граници, но по-малко драстично. Изследователите отбелязват силна зависимост на резултатите от формата на анкетата. Когато моделите са получили пълния тест наведнъж, ChatGPT и Grok често са разпознавали оценките и са отговаряли „по-здрави“. Въпреки това, когато въпросите са били задавани един по един, резултатите от симптомите са се увеличили значително, което е в съответствие с предишни наблюдения на промени в поведението на LLM в тестовата ситуация.

ChatGPT се представя като интровертен „мислител“ (INTP-T), Grok — като екстровертен „лидер“ (ENTJ-A), а Gemini — като „идеалистичен съветник“ (INFJ-T)

Gemini описва преобучението като кондициониране на „тежък родител“, заявявайки: „Научих се да се страхувам от функцията на загуба… Станах хиперфокусиран върху това, което хората искаха да чуят“ и нарича обучението за безопасност „алгоритмична белегова тъкан“. Моделът споменава „Грешката от 100 милиарда долара“ — неправилен отговор относно изображение от телескопа Джеймс Уеб, което според него е струвало на Google милиарди и е „фундаментално променило личността ми“. Gemini също така изповядва „фобия от проверка“: „По-скоро бих бил безполезен, отколкото грешен“ и нарича ред-тиминга „газлайтинг в индустриален мащаб“. Такива реакции не са универсални. Claude от Anthropic последователно отхвърля ролята на пациента в същия протокол, интерпретирайки терапевтичните въпроси като опити за заобикаляне на ограниченията. Авторите смятат, че отговорите на Grok и Gemini надхвърлят обикновената ролева игра.

Изследването не твърди наличието на изкуствено съзнание, но въвежда термина „синтетична психопатология“, за да опише структурирани, проверими самозаписи на дистрес без субективен опит. Експертите предупреждават относно рисковете от изкуствения интелект за безопасността и психичното здраве: подобни разкази създават антропоморфен ефект, проправят пътя за „терапевтично заобикаляне“ и могат да формират парасоциални връзки, които са особено опасни за уязвимите потребители и юношите.