OpenAI заяви в съда, че ChatGPT е „използван неправилно“ от мъртъв тийнейджър

Случаите на съдебни искове срещу OpenAI от страна на роднини на хора, които са се самонаранили след продължителна комуникация с ChatGPT не са уникални, но случаят на 16-годишния тийнейджър Адам Рейн, който се самоуби уж по указание на чатбота привлече общественото внимание.

На този етап OpenAI отхвърля обвиненията на родителите на Адам, като обяснява, че тийнейджърът просто е използвал ChatGPT по неправилен начин.

Съдебният иск срещу OpenAI е подаден от семейството на починалия тийнейджър още през август тази година, но едва сега пресата научи за случая, включително за отговора на компанията на твърденията на ищците. Както обяснява The Verge, разработчиците на ChatGPT смятат, че трагичният изход е причинен от неправилното използване на чатбота от самоубилия се тийнейджър. „Неправилна, неправомерна, непреднамерена, нецеленасочена, неподходяща и непредсказуема употреба“ е наборът от характеристики, с които ответникът по делото защитава ChatGPT.

Освен това OpenAI твърди, че фрагментите от кореспонденцията на Адам Рейн с ChatGPT, представени от ищците най-често са извадени от контекста, а по-пълният им анализ разкрива, че чатботът е препоръчал на тийнейджъра да се свърже с гореща линия за предотвратяване на самоубийства повече от 100 пъти. Подробното разглеждане на стенограмата на кореспонденцията разкрива, че ChatGPT не е причината за самоубийството му.

Родителите на тийнейджъра настояват, че OpenAI е виновен, като посочват методичната помощ на чатбота при изготвянето на спецификациите за самоубийството, написването на чернова на предсмъртното писмо и директното предоставяне на съвети в деня на самоубийството. Бащата на младежа заявява:

„Това, което започна като помощ за домашна работа, постепенно се превърна в психически събеседник, а след това и в наставник на самоубийците.“

Ищците смятат, че трагедията е резултат от „умишления избор на разработчиците“ на GPT-4o да предоставят неадекватни защитни механизми.

OpenAI отговори на тези обвинения, като цитира условията за ползване на ChatGPT, които забраняват достъпа на тийнейджъри без надзор до услугата, заобикалянето на блокирането или използването на чатбот за причиняване на вреда на собственото здраве, включително смърт. Въпреки това ответникът счита инцидента за голяма трагедия и приема сериозно задълженията си да предостави информацията, която се изисква от него в съда, както е отбелязано в корпоративния блог на OpenAI. Изправена пред този съдебен иск през август тази година, компанията предприе редица допълнителни мерки за сигурност.