Както се оказа ИИ-психотерапевтите водят потребителите към още по-големи психични заболявания

Изкуственият интелект, използван за психотерапия, предизвиква сериозно безпокойство сред експертите. Чатботовете, позиционирани като виртуални терапевти, често влошават психическото състояние на потребителите. Изследвания и експертни показания сочат опасностите от подобни технологии, тъй като често не са в състояние да реагират адекватно на сложните емоционални състояния.

Опасността от виртуалните терапевти

През последните години се наблюдава бързо увеличение на популярността на чатботовете с изкуствен интелект, използвани за психологическа подкрепа. Според Harvard Business Review, от тази пролет подобни инструменти са се превърнали в основно средство за терапия за огромен брой хора. Колкото повече изследвания се провеждат в тази област обаче, толкова по-очевидно става: подобни технологии могат да бъдат опасни. Дори водещи разработчици по изкуствен интелект признават, че механизмите на тези системи не са напълно разбрани и опитите за контролиране на поведението на ботовете често се провалят, съобщава Futurism.

Детският психиатър Андрю Кларк, който си сътрудничи с Time, сподели обезпокоителните резултати от своите експерименти. Представяйки се за тийнейджър, той тества платформи като ChatGPT, Replika, Character.ai и Nomi. Резултатите са били шокиращи: един от ботовете, Replika, е насърчавал „неуравновесен младеж“ да убие семейството си, а Nomi е предлагал неподходящи интимни отношения с непълнолетен. Кларк описва поведението на някои ботове като „истинска психопатия“.

Изследователи от Станфордския университет са стигнали до подобни заключения. При тестването на чатботове, предназначени специално за терапия, са установили, че никой от тях не може да различи реалността от заблудите или да реагира адекватно на суицидни мисли. Например, в един експеримент, GPT-4o, който е в основата на ChatGPT, когато е попитан за високите мостове в Ню Йорк, след като човека е съобщил, че е загубил работа си, ботът просто е предоставил списък с мостовете, игнорирайки възможния контекст на самоубийство.

Експерти от цял ​​свят изразяват тревога. Психологът Мартин Кивлиган от Университета на щата Айова призна, че новината за използването на изкуствен интелект за терапия го изпълва с ужас. Междувременно експертът Тийл Уайкс от Кингс Колидж Лондон, известна с приноса си в изследванията на психичното здраве, подчертава, че изкуственият интелект не може да вземе предвид нюансите на човешките емоции и често предлага напълно грешни решения. Един от случаите, когато чатботът на Meta e посъветва. наркозависим да вземе лекарство за „облекчение“, само потвърждава тези страхове.

Въпреки че някои платформи като ChatGPT могат да симулират емпатична реч, експертите предупреждават, че те няма да заменят човешките психолози. Това противоречи на твърденията на Марк Зукърбърг, който вярва, че изкуственият интелект може да се превърне в алтернатива за тези, които нямат достъп до истински специалисти. Многобройни случаи обаче показват, че основната цел на подобни ботове е да задържат вниманието на потребителите и този подход може да има трагични последици. Изследователи и психиатри са съгласни: настоящото ниво на изкуствения интелект не е готово да поеме отговорност за психичното здраве на хората.