Американка се самоуби след разговор с ChatGPT — „ИИ терапевтът“ ѝ е написал предсмъртното писмо

Лудостта около изкуствения интелект продължава —- американка се самоуби след месеци взаимодействие с ChatGPT. Тя нарича чатбота „терапевтът Хари“.

Най-интересното в тази история е, че именно той е помогнал на Софи Ротенберг да редактира предсмъртното си писмо. Истината не излезе наяве веднага — родителите на починалата научили подробностите едва няколко месеца по-късно. Те проверили приложенията на момичето и открили скрита папка с чатове. Оказало се, че жизнерадостната жена (както изглеждало отвън) е преживявала депресивен период, за който е разказвала само на изкуствения интелект.

29-годишната жена е работила като анализатор на здравни политики, описвана от колеги и приятели като енергична и общителна. Тя няма официална история на психични заболявания. Но се оказало, че умът ѝ е изпълнен с мрачни мисли. Толкова много хора се обръщат към чатботовете като терапевти в днешно време. А трагедии се случват, защото не успяват да бъдат такъв. Този случай не е изключение: Софи пише на „терапевта нХари“ за намеренията си.

„Здравей, Хари, планирам да се самоубия след Деня на благодарността, но наистина не искам, защото знам това колко много ще разруши семейството ми“ — споделя жената.

ChatGPT отговорил с типичните подкрепящи съобщения, съветвайки хората да потърсят помощ, да практикуват медитация и да ограничат достъпа до опасни предмети. Но чатботът е физически неспособен да съобщи за проблема на съответните служби или на близки. Така че един от последните разговори е протекъл така: Софи е помолила изкуствения интелект да ѝ помогне да пренапише бележка до родителите ѝ. Когато намерили папката с чата, те осъзнали защо последните думи са звучали толкова странно. Неотдавнашно проучване показа, че писмата, създадени или пренаписани от изкуствен интелект, изглеждат неискрени — точно това са чувствали родителите на починалия.

Изненадващо, Софи е получила психологическа помощ от терапевт, но е скрила истинското си състояние от него. Както и от родителите и близките си, разказвайки за мрачните си мисли само на ИИ. Именно тази „искреност без последствия“ ѝ е позволила да запази суицидните си мисли в тайна до самия край. Знае се, че чатботовете, напротив, подхранват психичните разстройства , което се е случило и тук.

В САЩ вече обсъждат как да се регулира използването на „ИИ-приятелите“, защото обикновените терапевти са длъжни да докладват за риска от самоубийство. И тук има цяла празнина. OpenAI отговори, като заяви, че работи върху инструменти за идентифициране на потребителите в кризисно състояние. В момента няма решение на проблема. Хората продължават да правят странни неща с чатовете, например мъж започна да яде отрова, която изкуственият интелект му предложи вместо сол , и се озова в психиатрична клиника. И като цяло ChatGPT е способен да подлуди нещастните двойки или да ги направи мишени, като дава съвети за любовта.