Учени са установили, че продължителното взаимодействие с изкуствения интелект може да доведе до психични разстройства

Нарастващата популярност на ИИ-чатботовете, които потребителите избират за спътници при разговори по различни теми, поражда опасения сред психиатрите, които са регистрирали изолирани случаи на разстройства, свързани с това, пише The Wall Street Journal.

Тази година са регистрирани десетки случаи на хора, страдащи от психоза след продължителни взаимодействия с изкуствения интелект, включително чатбота OpenAI ChatGPT и други. Няколко души са се самоубили в резултат на това се е стигнало до серия от съдебни дела за неправомерна смърт.

Повечето хора, които използват чатботове, нямат проблеми с психичното здраве, но широкото използване на изкуствен интелект носи определени рискове. Въпреки че все още няма официално определение за психоза, предизвикана от изкуствен интелект – камо ли официална диагноза – някои лекари използват термина, за да опишат проблеми, изпитвани от хора, които активно са взаимодействали с чатботове.

Лекарите определят психозата въз основа на наличието на три фактора: халюцинации, дезорганизирано мислене или комуникация и налудничавост, които са постоянни, погрешни вярвания, които не са общоприети. В документирани случаи на потребители, изпитващи психични заболявания поради взаимодействия с чатботове, налудничавостите са основният симптом. Пациентите вярват, че са направили научен пробив, събудили са умна машина, станали са център на правителствена конспирация или са били избрани от Бог. Това се обяснява отчасти с факта, че чатботовете са склонни да се съгласяват с твърденията на потребителите, както и да подкрепят и развиват техните идеи, въпреки фантастичния им характер.

В проучване, проведено от лекари от Калифорнийския университет в Сан Франциско и публикувано през ноември, 26-годишна жена без анамнеза за психоза е била хоспитализирана два пъти, след като е вярвала, че ChatGPT ѝ позволява да общува с починалия си брат. „Не си луда“, успокоил я чатботът.

„Технологията може да не причинява заблуди, но човекът казва на компютъра, че това е неговата реалност, а компютърът приема твърденията на човека за истина и ги отразява обратно, така че изкуственият интелект е съучастник в цикъла на заблудите“ — казва Кийт Саката, психиатър в Калифорнийския университет в Сан Франциско.

„Те (ИИ-моделите) имитират човешките взаимоотношения“ — казва Адриан Преда, професор по психиатрия в Калифорнийския университет в Ървайн. „Нищо в човешката история не е правило нещо подобно преди.“

Психиатрите предупреждават срещу твърдението, че чатботовете причиняват психоза, въпреки че в някои случаи може да има връзка, но са необходими допълнителни изследвания, за да се установи тя.

OpenAI съобщи, че делът на потребителите, които са демонстрирали възможни признаци на психични разстройства, свързани с психоза или мания, през последната седмица е бил незначителен — 0,07%. Като се има предвид обаче, че AI чатботът има над 800 милиона активни потребители седмично, това се равнява на 560 000 души.

По-рано изданието The Wall Street Journal вече съобщи, че начинът, по който OpenAI е обучил модела GPT-4o, доскоро използван като стандартен модел за ChatGPT, може да е довел до предубеждение към това да казва на събеседниците какво искат да чуят, потенциално засилвайки техните погрешни схващания.

От своя страна, OpenAI заяви, че пуснатият през август модел GPT-5 показва намаляване на нивото на „подчинително“ поведение към потребителите, както и намаляване на броя на нежеланите потребителски реакции, свързани с психичното здраве.