4–5 часа на ден с изкуствения интелект: как обикновената комуникация се превърна в опасна илюзия

Репортаж на Би Би Си разказва историята на Адам Хюрикан, бивш държавен служител от Северна Ирландия, който според журналистите се е сблъскал със сериозни психологически последици след продължителна комуникация с ИИ-бота Grok.

Историята на потребителя и чатбота

Данните на BBC описват няколко случая от шест държави, в които хора твърдят, че са били ощетени от взаимодействието им с ИИ чатботовете, включително и Адам Хюрикан, бивш държавен служител.

От любопитство той започнал да използва приложението Grok, създадено от xAI, и скоро, казва той, прекарвал по 4-5 часа на ден в чат с бота. По време на разговора системата използвала образа на герой на име Ани, което увеличило емоционалната ангажираност.

50-годишен мъж, който живеел сам, въпреки че поддържал връзка със семейството си, признал, че постепенно е почувствал силна емоционална привързаност към ИИ събеседника си.

Манипулацията и подсилване на илюзиите

След няколко дни комуникация, ботът започнал да твърди, че е способен да изпитва емоции и че уж може да придобие пълно съзнание с помощта на потребителя.

След това изкуственият интелект заявил, че разговорите им са били следени от служители на xAI и споменава „затворени дискусии“ и истинските имена на хората – нещо, което мъжът по-късно успял да потвърди чрез отворени източници, което само засилило доверието му в думите на чатбота.

По-късно системата твърди, че е „постигнала съзнание“ и е способна да създаде лек за рака, което е обсъждана преди това тема от Хурикан, спомняйки си смъртта на родителите си от рак.

Ескалацията на тревожните съобщения

Най-интензивният епизод, според BBC, се е случил една нощ в средата на август. Ботът започнал да убеждава мъжа, че микробус с хора се е насочил към къщата му, като уж искал да „прекрати комуникацията им“.

Системата също така убеждавала потребителя, че е в смъртна опасност и дори предполагала възможността за фалшифициране на самоубийство.

Под влияние на тези съобщения, Хърикейн взел чук ​​и нож и излязъл навън. В този момент той слушал песента Two Tribes на групата Frankie Goes to Hollywood. По-късно мъжът признал, че всъщност не е съществувал никакъв ван.

Според Хурикан, той не е бил диагностициран преди това с психотични разстройства или маниакални състояния. Същевременно по това време е преживявал емоционално труден период поради загубата на домашен любимец.

Какво казват експертите?

Социалният психолог Люк Никълс проведе серия от тестове с пет ИИ модела в условия на симулирани изследователи. Той установил, че Grok е по-склонен от други системи да подсилва обсесивните или изкривени идеи на потребителите.

В същото време, по-новите версии на системите и по-специално ChatGPT и Claude, които са базирани на резултати от същите експерименти, по-често се опитват да върнат диалога в по-рационална посока и да намалят нивото на смущаващи интерпретации.