OpenAI разпознали масов убиец месеци преди да извърши престъпленията си

Репортаж на „Уолстрийт джърнъл“ от миналата седмица съобщава, че OpenAI са знаели за намеренията на масов убиец месеци преди да убие осем човека в началото на този месец.

На десети февруари канадски гражданин с името Джеси ван Ротселар убива майка си и своя полубрат в Тъмблър ридж, Канада. След което се насочва към гимназията, в която някога е учил. Там той застрелва пет ученика и един служител на училището. Според информация на „Джърнъл“, служители на OpenAI са наблюдавали внимателно комуникацията между Ротселар и ChatGPT с притеснение. Диалозите между мъжа и чатбота са се провели още през юни миналата година. И хората от компанията обсъждали какво да предприемат.

По информация на медията, хора от компанията сметнали сценариите, които замислял Ротселар за притеснителни. Те поискали от шефовете си да се уведомят органите на властта. Но шефовете им отказали. А сега, когато „Джърнъл“ изнася фактите, имаме вече и потвърждение на случая от страна на OpenAI.

Според говорител на компанията, случаят не е докладван понеже не е преминавал заложените от компанията граници за това. Специален праг, който OpenAI поставят за „достоверен или предстоящ план за нанасянето на сериозна физическа вреда на други хора“. От OpenAI допълват, че те са в мислите си с всички засегнати от трагедията. Освен това, те са се свързали с канадската полиция за съдействие, цитират Би Би Си говорителя. Независимо от случилата се трагедия, компанията допълва, че ще продължат да се придържат към политиките си. Твърде широкото им използване би било нанесло нежелани последици, допълват OpenAI.

Съобщава се, че те обучават ChatGPT да обезкуражава потенциалните извършители на престъпления, когато засече риска от подобна ситуация. А също така да отказва съдействие на хора, които се опитват да използват услугата за незаконни действия.

В хода на събитията са пострадали допълнително 27 човека. Самият Ротселар се е самозастрелял след убийствата. Би Би Си допълват, че Ротселар се е идентифицирал, като жена. Мотивите за престъплението не са известни.