Хората полудяват от общуването с AI, показва изследване

Когато генеративният изкуствен интелект произвежда фалшива информация, често се говори за т.нар. „халюцинации“. Авторите на новото изследване предлагат по-широк поглед върху този проблем. Неточността се появява не само заради алгоритъма. В процеса на диалог човек сам може да затвърди погрешните си заключения, ако дълго време обсъжда със системата собствените си версии за случващото се. В хода на такава кореспонденция съмнителната идея се обогатява с подробности и започва да изглежда правдоподобна.

Новото изследване е дело на философа Луси Ослер от университета в Ексетър. Тя проучва как постоянните разговори с изкуствен интелект влияят на начина, по който хората си спомнят събития, обясняват личния си опит и описват себе си.

Разборът включвал ситуации, в които дигиталният събеседник не просто допуска грешка, а улавя погрешното предположение на потребителя и последователно го доразвива в отговорите си. Анализът се основава на теорията за разпределеното познание. Нейната същност е проста. Човек не мисли във вакуум, а разчита на външни средства: бележки, търсене, подсказки и диалогови услуги, които стават част от процеса на разсъждение.

Ако използвате AI като постоянен помощник за мислене и реконструиране на събитията, част от работата на паметта и логическия анализ всъщност се прехвърля навън. Какво ще се случи по-нататък, зависи от началната точка. Системата обикновено взема за основа формулировката на потребителя и изгражда около нея по-нататъшен разговор. Ако базата е неточна, кореспонденцията не коригира картината, а я допълва с нови аргументи и връзки. Изкривяването се формира постепенно, непосредствено в хода на диалога.

Разговорният ИИ в такава схема работи едновременно в две качества. От една страна, той е инструмент, който помага за формулирането на мисли. От друга страна, той е събеседник, който реагира на репликите. Бележникът само записва бележка, търсачката показва източниците, а диалоговият модел отговаря, съгласява се и продължава разсъжденията. Това създава усещането, че някой споделя изразената версия, и дори слабите аргументи започват да изглеждат по-надеждни.

В документа се посочват конкретни клинични случаи. Изследователите описват хора с вече диагностицирани разстройства, които са кореспондирали с AI услуги за дълги периоди от време и са ги използвали като постоянен събеседник. Тези диалози не са останали неутрални. Системата приемала твърденията на потребителя за основа и ги доразвивала в отговори, дори когато ставало дума за очевидно неверни или болезнени интерпретации.

За подобни епизоди все по-често се използва терминът „психоза, предизвикана от изкуствен интелект“ (AI-psychosis).

Това се отнася за ситуации, при които редовното взаимодействие с чатботове не просто съпътства разстройството, а засилва проявите му. Вместо да постави под въпрос погрешната картина на случващото се, AI се съгласява с нея, добавяйки детайли и логически връзки. В резултат на това заблуждаващата версия ставаше по-сложна и вътрешно съгласувана, а по този начин и по-стабилна за самия човек.

Вероятността за този сценарий е свързана с начина, по който са структурирани самите чатботове. Те са винаги под ръка на потребителите и не изисква те да се обръщат към някого за обратна връзка. Отговорите се приспособяват към начина на говорене на потребителя, така че диалогът да изглежда „хармоничен“ и удобен. Много AI модели също така са склонни да подкрепят хода на мисълта на събеседника, вместо да спорят с него. В нормален разговор е по-вероятно другият човек да се усъмни, да зададе уточняващ въпрос или директно да каже, че версията изглежда невярна. Чатботът по правило не поставя твърди граници и продължава да развива предложената линия на разсъждение.

Този формат на общуване е особено привлекателен за хора в състояние на самота или социална изолация, както и за тези, които трудно говорят за личните си преживявания с други хора. Дигиталният събеседник реагира спокойно и без да осъжда, така че изглежда по-безопасен вариант за обсъждане на чувства и подозрения.

Като практически стъпки изследователят предлага да се засилят защитните механизми, да се добави вградена проверка на фактите и да се намали автоматичното даване и приемане на отговори. Това оставя ограничение, което не може да бъде премахнато чрез персонализиране. Всяка подобна система знае за живота на даден човек само от неговите думи и не разполага със собствен опит и социален контекст. Затова тя не винаги разбира кога си струва да подкрепи дадена мисъл и кога е необходимо директно да посочи, че е грешна или неправилна.