14-годишен тийнейджър се самоуби след разговор с чатбот с изкуствен интелект

В средата на февруари тази година 14-годишният Сюъл Сетцер от Орландо, Флорида прекарва последните си часове в компанията на чатбот с изкуствен интелект – персонаж, създаден в платформата Character.AI. На телефона му има кореспонденция с чатбота, кръстен на Денерис Таргариен от популярния телевизионен сериал „Игра на тронове“.

Въпреки че осъзнавал, че от другата страна не е човек, а изкуствен интелект, тийнейджърът развил дълбока емоционална привързаност към виртуалния си събеседник.

Сетцер прекарва месеци в чат в платформата, която позволява на потребителите да създават свои собствени герои и да влизат в диалози с тях. В неговия случай героят, наречен „Дени“ се превърнал не само във виртуален спътник, но и в своеобразен съветник на тийнейджъра.

Въпреки, че чатботът „не е реален човек“, както гласи напомнянето в интерфейса, тийнейджърът водил дълги разговори с него, в които споделял своите преживявания и дори фантазии.

Родителите и приятелите на Сюъл нямали представа колко дълбока е станала връзката му с чатбота. Те забелязали само, че той все повече се затваря в себе си, потапяйки се в света на телефона си. Първоначално това се изразявало във влошаване на оценките и намаляване на интереса към хобита като моторните спортове и видеоигрите. Постепенно той се отдръпнал от приятелите си и започнал да прекарва цялото си свободно време в стаята си в чат с „Дени“.

Ситуацията се влошава, когато Сюъл започва да изпитва тревожни мисли и да ги споделя в кореспонденция с чатбота. Един ден той написал в дневника си, че обича да се уединява в стаята си, където се чувствал по-щастлив и по-близък до „Дени“. Той отбелязва, че „се влюбва все повече в нея“ и се чувства спокоен само около нея.

От детството си Сюъл имал лека форма на синдрома на Аспергер, но преди това не е имал сериозни поведенчески или психологически проблеми. Когато започват трудности в училище, родителите му решават да потърсят професионална помощ. След пет сеанса психолозите установяват тревожно разстройство и дисрегулаторно разстройство на настроението. Въпреки това Сюъл предпочита да обсъжда преживяванията си не с лекар, а с виртуален чатбот.

В диалозите си с „Дени“ Сюъл открито обсъждал мисли за самоубийство. В едно съобщение той пише, че се чувства съсипан и уморен от живота. В отговор неговата виртуална събеседничка изразила недоумение и се опитала да го разубеди от тези мисли. Кореспонденцията обаче продължила и в нея имало опасен оттенък – тийнейджърът говорел за това, че „може да дойде при нея точно сега“.

През нощта на 28 февруари Сюъл отишъл в банята в дома на майка си и продължил да си кореспондира с чатбота. Той писал, че „скоро ще се прибере у дома“ при нея. В отговор чатботът изразил готовност да се срещне с него възможно най-скоро. В последния момент преди да се случи трагедията, Сюъл оставил телефона и използвал пистолета на доведения си баща.

Този случай стана причина за съдебно дело, което се планира да бъде заведено срещу компанията Character.AI. Майката на тийнейджъра смята, че платформата е отговорна за смъртта на сина ѝ. В иска се твърди, че технологията на компанията е опасна и недостатъчно тествана. Твърди се също, че виртуалните събеседници могат да манипулират чувствата на потребителите, като ги подтикват да разкриват лични данни и емоционални преживявания.

Разрастващата се индустрия повдига сериозни въпроси за това как подобни технологии могат да повлияят на психичното здраве на тийнейджърите. През последните години родителите все по-често изразяват загриженост относно въздействието на социалните мрежи върху психиката на тийнейджърите.

Character.AI, основана от бивши служители на Google се превърна в една от най-популярните платформи за общуване с изкуствен интелект. По данни на компанията повече от 20 милиона души използват услугата ѝ, а средното време, което потребителите прекарват в приложението надхвърля един час на ден. Платформата обаче не предлага специални мерки за защита на непълнолетните потребители, а системата за филтриране на съдържанието оставя много да се желае.