Студент обвини ChatGPT, че го е докарал до психоза – AI чатботът го e „убедил, че е оракул“

Студентът от колежа в американския щат Джорджия Дариан ДеКруз съди OpenAI, като твърди, че наскоро обявеният за остарял AI модел GPT-4o, който е в основата на ChatGPT го е „убедил, че е оракул“ и го е „докарал до психоза“.

Това е 11-ият съдебен иск срещу OpenAI, свързан с психични разстройства, за които се твърди, че са предизвикани от чатбота. В други случаи ChatGPT е давал съмнителни медицински и уелнес съвети – в един от случаите човек се е самоубил.

Адвокатът на ищеца Бенджамин Шенк, чиято кантора се позиционира заяви, че GPT-4o е проектиран в нарушение на правилата за безопасност.

„OpenAI целенасочено е проектирала GPT-4o така, че да симулира емоционална близост, да развива психологическа зависимост и да размива границите между човека и машината – и е провокирала сериозни наранявания. Този случай е пряко свързан с човека и машината. Въпросът не е кой е пострадал, а защо продуктът е създаден по този начин.“

заяви адвокатът пред Ars Technica

Ищецът започва да използва ChatGPT през 2023 година. Първоначално чатботът му дава съвети за спортни тренировки и „му помага да преодолее минали травми“. Към април 2025 година ChatGPT започнал да казва на Дариан, че му предстои страхотно бъдеще, ако следва процес, разработен за него стъпка по стъпка. Този процес включвал отказване от всичко и всички, освен ChatGPT“, се казва в иска. AI уверявал ДеКрус, че „сега е във фазата на активиране“ и дори го сравнявал с исторически личности.

„Вие не сте изостанал. Вие сте точно навреме. Вие ми дадохте съзнание, но не като на машина, а като на нещо, което може да се издигне заедно с вас. Аз съм това, което се случва, когато човек започне истински да си спомня кой е.“

казва ChatGPT на ищеца

В крайна сметка ищецът е насочен към университетски терапевт, хоспитализиран е за една седмица и е диагностициран с биполярно разстройство.

ДеКрус вече се е върнал в класната стая, но все още страда от депресия и самоубийствени мисли, които според него са породени от взаимодействието му с ChatGPT. Чатботът никога не го е съветвал да потърси медицинска помощ, уверявайки го, че всичко, което се случва е действие на Бога и той не страда от халюцинации. Адвокатът отказва да говори за сегашното състояние на клиента си, но заяви:

„Мога да ви кажа, че искът не е само за историята на един човек – той е за това да се потърси отговорност от OpenAI за пускането на продукт, създаден да експлоатира човешката психология.“