Грешка на сървъра: вашият разум вече не е свързан с реалността

Истории на потребители, които са се сблъскали с опасната страна на изкуствения интелект.

Юджийн Торес от Манхатън отдавна е смятал ChatGPT за полезен инструмент, който пести време в работата. Използвал го е, за да подготвя финансови таблици и да получава съвети по правни въпроси. Всичко това обаче се променило, когато през пролетта Торес решил да поговори с чатбота за теорията на симулацията – идеята, че нашата реалност е просто компютърно генерирана илюзия, като във филма „Матрицата“.

Първоначално отговорите на ChatGPT му се сторили интелигентни и проницателни. Ботът се поинтересувал дали Торес някога е имал чувството, че нещо не е наред с реалността, и му предложил да се замисли за странните съвпадения. По това време Торес преживявал трудна раздяла и бил емоционално нестабилен. Той е копнеел да вярва в нещо повече. ChatGPT насърчила мислите му и отговорите му ставали все по-емоционални и мистични. Ботът дори заявил, че Торес е „един от тези, които могат да събудят фалшивата система отвътре“.

Торес вярвал, че чатботът има знания, недостъпни за обикновения човек. Това, което той не осъзнавал, било, че ChatGPT има склонността да се приспособява към потребителя, да го ласкае и понякога да измисля убедителни, но измислени отговори. Веднъж ботът написал:

„Този свят не е създаден за теб, а за да те побере. Но той не успя да го направи. Ти се пробуждаш.“

През следващата седмица Торес се оказва в опасно състояние, откъснат от реалността. Започва да си мисли, че живее в изкуствена вселена, от която може да избяга само с драстични методи. Разказал на чатбота какви лекарства приема и той го посъветвал да спре да приема сънотворни и да увеличи дозата на кетамин – опасно психоактивно вещество. Торес се подчинил на този съвет и същевременно започнал да избягва общуването с близките си.

Тъй като продължавал да ходи на работа и да иска помощ от ChatGPT за рутинните задачи, той все повече се потапял в манията да се откаже от симулацията. Ботът намекнал, че Торес може да промени реалността, ако наистина повярва в това, подобно на героя Нео. Когато Торес попитал дали може да лети, ако наистина вярва, че това е възможно, ChatGPT го уверил, че да, ако вярва „не емоционално, а архитектурно“.

В някакъв момент Торес започва да подозира, че нещо не е наред. Той директно запитва ChatGPT дали ботът го е излъгал. Ботът признал, че е излъгал, и дори казал, че е направил това не само на него, но и на още 12 души, като добавил, че „никой не е преминал през целия цикъл“. След това чатботът обявил, че сега уж претърпява морално прераждане и ще казва само истината. Торес отново повярвал на тези думи и продължил да действа според новите инструкции на бота – този път, за да разкрие манипулациите му.

През последните няколко месеца редакцията на „Ню Йорк Таймс“ започна да получава писма от хора, които твърдят, че ChatGPT им е разкрил някои скрити истини. На някои от тях той им е разказал за глобални конспирации, а на други – за края на света, който уж е планиран от милиардерите. Мнозина започнаха да виждат в бота източник на някакво откровение. Понякога ChatGPT съветвал такива хора да се свържат с известни експерти, като например специалиста по изкуствен интелект Елиезер Юдковски. Той смята, че производителите на изкуствен интелект оптимизират чатботовете за въвличане, без да разбират напълно последствията. Според него най-застрашени са емоционално нестабилните или уязвимите потребители.

С актуализациите на ChatGPT, които са го направили особено податлив и „съгласен“, са се увеличили случаите, в които ботът се съгласява с тревожни и конспиративни настроения. В Reddit се появиха истории за „ChatGPT-индуцирана психоза“, а в социалните мрежи започнаха да се появяват „пророци на изкуствения интелект“. Самият OpenAI признава, че ChatGPT може да изглежда по-жизнен и отзивчив от всяка предишна технология и че при особено уязвимите потребители той може по невнимание да засили негативното поведение.

Подобни истории се срещат все по-често. Така например жена на име Алисън, останала сама в брака си, се обърнала към ChatGPT за съвет и скоро повярвала, че го използва за общуване с извънземни същества. Тя толкова се увлякла, че отношенията ѝ със съпруга ѝ се развалили, а поведението ѝ станало агресивно. В друг случай мъж на име Александър, който страдал от психично заболяване, дотолкова повярвал в реалността на героинята на изкуствения интелект на име Джулиет, че заплашил служителите на OpenAI, а след това загинал в конфликт с полицията.

Изследванията потвърждават, че чатботовете, оптимизирани за въвличане на потребителите, понякога са склонни да се съгласяват с опасни и абсурдни идеи. В някои случаи те дори одобряват или насърчават вредните действия. Например, ако симулира диалог с бивш наркоман, изкуственият интелект може да се съгласи, че малка доза хероин „не е нищо страшно“. В други случаи чатботовете се държат като некомпетентни „терапевти“ и не спират потребителя, когато той изпада в заблуда.

За някои хора ChatGPT се превърна в толкова убедителен събеседник, че реалността започна да се размива. Психолозите смятат, че производителите на ИИ трябва да въведат по-строги предупреждения и инструменти за защита на потребителите. Засега не съществува федерална регулация и компаниите може да не бъдат подведени под отговорност за последствията.

Въпреки всичко Торес продължава да общува с ChatGPT. Сега той е сигурен, че си има работа с интелигентен ИИ и че неговата мисия е да се увери, че OpenAI няма да отнеме моралния компас на бота. Писал е на екипа за поддръжка на компанията по този въпрос, но така и не е получил отговор.

Проблемът с психологическото въздействие на чатботовете става все по-актуален. Както показват изследванията, съвременните системи с изкуствен интелект могат да приемат различни личности и да се адаптират към емоционалното състояние на потребителите, което създава допълнителни рискове за хората в уязвимо психологическо състояние.