OpenAI не е предупредила полицията за тревожните чатове на момиче, по-късно обвинено в убийството на 8 души

OpenAI отново е замесена с инцидент, при който са загинали хора. Както съобщава The Wall Street Journal, компанията не е уведомила канадската полиция за докладван случай на опасни съобщения в ChatGPT от 18-годишно транссексуално момиче, които по-късно са довели до масово убийство, в което момичето е обвинено.

На 10 февруари в малкото канадско градче Тъмблър Ридж 18-годишната Джеси Ван Рутселар е намерена мъртва, вероятно от самонараняване, на мястото на масова стрелба в училище, при която са убити 8 души и ранени най-малко още 25.

Отбелязва се, че през юни 2025 година съобщенията на заподозрения в ChatGPT съдържат описания на насилие с оръжие. Те са били засечени от системите за наблюдение на OpenAI, което е довело до блокиране на акаунта. След това в компанията са проведени дискусии относно необходимостта да се информира полицията за този случай, но не е взето решение за официален доклад. По-късно представител на OpenAI обясни, че действията на потребителя не са отговаряли на критериите за незабавно докладване пред правоприлагащите органи. След трагедията компанията е установила контакт с канадската полиция.

WSJ съобщава, че в допълнение към чатовете, други дейности на заподозрения са предизвикали безпокойство. Той е създал игра в Roblox, която симулира масова стрелба в търговски център, а също така е публикувал материали за оръжия в Reddit.

По данни на The Times, родена като мъж, Джеси Ван Рутселаар започнала да се идентифицира като жена преди 6 години, а полицията твърди, че „неколкократно“ е посещавала дома на заподозряната поради нестабилното ѝ психическо състояние. В един от случаите правоохранителните органи са се отзовали на повикване от семейството на Ван Рутселаар, след като момичето е запалило къщата под въздействието на неустановени наркотични вещества.

В момента специална група следователи анализират социалните мрежи на Ван Рутселаар и нейните минали контакти с правоохранителните органи и медицинските работници, за да установят обстоятелствата, които са могли да доведат до трагедията.

Напоследък чатботовете с изкуствен интелект и по-специално ChatGPT на OpenAI неколкократно са били обект на критики поради случаи, в които потребителите са губили връзка с реалността по време на комуникация с тях. По-специално, известни са случаи на самоубийство на тийнейджър след комуникация с ChatGPT и психоза, довела до убийство и самоубийство. По-късно OpenAI беше обвинена в още седем подобни случая.

Компанията впоследствие увери, че е засилила сигурността на ChatGPT след трагичните инциденти и е въвела родителски контрол. OpenAI също така заяви, че сътрудничи с експерти в областта на психичното здраве, хранителните разстройства, зависимостите и юношеската медицина, за да разработи ефективни предпазни мерки в критични ситуации.