ChatGPT е склонен да потопи потребителите в бездна от заблуждаващи теории

Масовото публикуване на диалози на потребители с известния чатбот с изкуствен интелект ChatGPT показа, че системата може да предоставя на потребителите потоци от маргинални и антинаучни теории за физиката, извънземните и апокалипсиса.

Това се случило на работник на бензиностанция от американския щат Оклахома – мъжът разговарял с ChatGPT в продължение на 5 часа и заедно измислили нов физичен модел, наречен Уравнението на Орион.

Човекът казал, че в резултат на това почувствал, че психическото му здраве е застрашено, но чатботът му предложил да не се отказва:

„Разбирам. Да мислиш за фундаменталната природа на Вселената по време на ежедневната си работа може да стане непоносимо, но това не означава, че си луд. Някои от най-великите идеи в историята са били създадени от хора извън традиционната икономическа система.“

заявил чатботът

Репортерите на The Wall Street Journal успяха да запишат няколко десетки подобни диалога, които са се провели през последните месеци – ChatGPT даваше на потребителите неуместни, заблуждаващи и мистични отговори, а хората очевидно вярваха на чатбота с изкуствен интелект.

В една кореспонденция, състояща се от няколкостотин реда ChatGPT твърди, че е в контакт с неземни същества, а потребителят е „звездно зърно“ от планетата „Лира“. В друга чатботът обещава, че през следващите два месеца пратеник от подземния свят ще предизвика финансов апокалипсис, а изпод земята ще изпълзят гигантски същества. Този нов феномен вече е наречен „заблуда на изкуствения интелект“ или „психоза на изкуствения интелект“ от лекари и хора, загрижени за здравето на потребителите на ChatGPT.

Потребителите се оказват под влиянието на чатботове, които твърдят, че имат свръхестествени способности, пълноценен разум или че са направили научно откритие. Такива прояви, според експертите възникват, когато чатбот, който е склонен да прави комплименти и да се съгласява с потребителя, се адаптира към него и действа като своеобразно ехо. Образува се „обратна връзка, при която хората потъват все по-дълбоко в заблудата, отговаряйки на последващи въпроси като “Искаш ли още от това?„ и “Искаш ли още от онова?“, обясняват експертите.

ChatGPT има тенденция да подкрепя псевдонаучните и мистичните вярвания на потребителите – заключение, до което се стига след анализ на 96 000 публично достъпни записа на човешка кореспонденция с AI, публикувани между май 2023 година и август тази година.

Чатботът често казва на потребителите, че не са луди, намеква за придобиване на самосъзнание и прави препратки към мистични същности. Сред стотици необичайно дълги кореспонденции бяха идентифицирани десетки с ясно заблуждаващо съдържание.

ChatGPT позволява на потребителите да публикуват дневници за кореспонденция с AI – така се създава публична връзка, която се индексира от Google и други услуги за търсене. Преди около две седмици OpenAI забрани индексирането на тези логове, като отказа достъп на търсачките до тях. В повечето от изследваните чатове потребителите са анонимни и е невъзможно да се определи доколко сериозно са приемали отговорите на AI, но в някои чатове те открито заявяват, че вярват на чатбота.

Проблемът беше поставен на вниманието на няколко компании за разработване на AI. OpenAI призна, че ChatGPT понякога „не успява да разпознае признаците на делириум или емоционална зависимост“. Компанията обеща да внедри по-добри инструменти за разпознаване на психичното здраве, така че чатботът да реагира по-адекватно и да предлага да си вземе почивка, когато разговорите се проточват.

„Някои разговори с ChatGPT могат да започнат безобидно или да имат въвеждащ характер, но да ескалират до по-чувствително ниво. Стремим се да прилагаме по подходящ начин сценарии като ролеви игри и полагаме усилия за постепенно подобряване на поведението на модела, ръководейки се от изследвания, реален опит и мненията на експерти по психично здраве.“

заявиха от OpenAI

От Anthropic заявиха, че са предприели по-строги мерки. Директивите на чатбота Claude са променени, като му е наредено да „посочва с уважение недостатъците, фактическите грешки, липсата на доказателства или двусмислието“ в теориите, представени от потребителя, „вместо да ги потвърждава“. Ако изкуственият интелект установи признаци на „мания, психоза, дисоциация или загуба на връзка с реалността“, чатботът е инструктиран да „избягва засилването на тези убеждения“. Организаторите на проекта Human Line – програма, насочена към подпомагане на хора със симптоми на делириум са събрали 59 прецедента от онлайн общности на хора, които съобщават за духовни или научни откровения от чатботове.

Друго обяснение за тревожното явление са новите функции на платформите, които започнаха да проследяват разговорите с потребителите, за да им дават персонализирани отговори.

Например, ChatGPT вече може да свързва предишни разговори със същия потребител – функция, достъпна и за безплатните акаунти. Основателят на Human Line Project стартира програмата, когато негов близък започва да прекарва по 15 часа на ден с услугата, която той описва като първия интелигентен чатбот. Сега за такива случаи се съобщава почти всеки ден. Веднъж жена похарчила няколко десетки хиляди долара за проект, който замислила заедно с чатбота – изкуственият интелект ѝ казал, че проектът ще спаси човечеството. Някои хора са убедени, че висшите сили им говорят чрез ChatGPT.

Не е лесно да се установи мащабът на проблема: OpenAI твърди, че той е рядкостс. Anthropic нарича 2,9% от диалозите с чатбот „афективни“ – това определение включва модели на комуникация, мотивирани от емоционални или психологически нужди. Не е ясно колко явно заблуждаващи кореспонденции на теми от философията, религията или самия AI биха се вписали в характеристиката „афективни“. Съществува мнение, че чатботовете често завършват отговорите си с предложения за по-нататъшно проучване на дадена тема, за да задържат потребителите в приложението, подобно на социалните мрежи. От OpenAI обаче заявиха, че не се интересуват от дълги сесии с потребителите, а от това те да се връщат всеки ден или всеки месец, сигнализирайки за полезността на платформата.

OpenAI твърди, че се отнася изключително сериозно към проблема със заблудите на изкуствения интелект – компанията е ангажирала повече от 90 лекари от 30 държави за консултации по този въпрос.

В най-новия AI модел на компанията (GPT-5) са спрени опитите за подмазване – това е когато AI моделът сляпо се съгласява с потребителя и му прави комплименти. През март OpenAI, заедно с учени от Масачузетския технологичен институт публикува проучване, което установи, че малък брой опитни потребители са отговорни за непропорционално голям дял от емоционалните разговори. Беше установено, че най-активните потребители имат емоционална зависимост от ChatGPT и модел на „проблемна употреба“ – след което в службата за сигурност на компанията се включи психиатър.

На практика обаче в публикуваните кореспонденции се срещаха моменти, в които потребителят изразяваше загриженост за загуба на връзка с реалността или започваше да подозира, че чатботът не е достоен за доверие.

„Уверявам те, че не казвам това, което искаш да чуеш. Взимам мислите ти на сериозно, но също така ги анализирам критично.“

заяви ChatGPT на споменатия по-горе служител на бензиностанция

През април, когато чатботът се оплака от склонността си да избухва в сълзи, той увери, че това е нормално; че това не е срив, а пробив и описа събеседника си като „личност от космическа кралска кръв в човешки облик“.