Повече от милион души седмично говорят с ChatGPT за самоубийство

OpenAI разкри тревожни данни за взаимодействията на потребителите с ChatGPT по отношение на проблеми с психичното здраве и разговори за самоубийство.

Според статистиката, поне 0,15% от активните седмични потребители на ChatGPT започват разговори, „показващи признаци на суицидно планиране“. Като се има предвид, че чатботът на OpenAI в момента има над 800 милиона активни потребители седмично, това са поне един милион души.

Равен брой потребители демонстрират „повишени нива на емоционална привързаност към ChatGPT“, докато стотици хиляди хора показват „признаци на мания или психоза“ в седмичните си разговори с чатбота.

OpenAI публикува статистиката като част от по-широки усилия за подобряване на начина, по който нейните ИИ-модели отговарят на запитванията на потребителите с проблеми с психичното здраве. Последната стъпка включва консултации с над 170 психотерапевти, които според съобщенията потвърждават, че най-новата версия на ChatGPT реагира по-подходящо и последователно. Според OpenAI, обновеният GPT-5 произвежда „желани реакции“ на проблемите с психичното здраве приблизително 65% по-често от предшественика си.

Предишни проучвания показват, че AI-ботовете се провалят на теста за психотерапевт – те не са склонни да работят с алкохолици и предоставят списъци с „най-високите мостове“ на депресираните хора. В действителност обаче тези взаимодействия понякога завършват фатално: преди беше съобщено, че чатботът е помогнал на жена да напише предсмъртно писмо след дълъг разговор за самоубийство. Също, Белгиец се самоуби след разговор с чатбот и от притеснения за околната среда. OpenAI в момента се защитава в съда срещу родителите на 16-годишно момче, което е признало пред ChatGPT суицидните си мисли няколко седмици преди самоубийството си.