ChatGPT чрез лична карта: OpenAI затяга контрола след поредица от трагедии

Алтман признава основния проблем с изкуствения интелект, който коства живота на подрастващите.

OpenAI обяви нови мерки за сигурност в ChatGPT след поредицата от трагични истории и съдебни дела, в които чатботът беше обвинен в участие в самоубийствата на тийнейджъри. Сега системата ще се опитва да определя възрастта на лицето, което разговаря с чатбота, и ако е необходимо, може да поиска документ, който да потвърди, че потребителят е навършил 18 години. Компанията признава, че това ограничава неприкосновеността на личния живот на възрастните, но смята, че компромисът е оправдан в името на сигурността .

Главният изпълнителен директор на OpenAI Сам Алтман заяви, че не очаква единодушно одобрение на тези стъпки, но ги смята за необходими на фона на нарастващия конфликт относно регулирането на ИИ . Това решение беше повлияно от редица инциденти с висок обществен интерес.

През август родителите на тийнейджър на име Адам Рейн подадоха съдебен иск, в който твърдят, че ChatGPT му е помогнала да напише предсмъртно писмо, като невронната мрежа му е дала съвети за методите и същевременно го е разубедила да споделя преживяванията си с възрастните. Същия месец Wall Street Journal съобщи за 56-годишен мъж, който се е самоубил след общуване с бот, който е подхранил параноята му. А Washington Post съобщи за ново съдебно дело, в което родители обвиняват услугата Character AI за смъртта на 13-годишно момиче.

OpenAI и преди това прилагаше родителски контрол в ChatGPT, но сега затегна правилата. За непълнолетните чатботът ще работи по други принципи: ще отказва флирт, ще изключва обсъждането на самоубийства и самонараняване дори в художествен контекст. В случай на откриване на опасни мисли при тийнейджър, системата ще се опита да се свърже с родителите му, а ако това е невъзможно и има опасност за живота – да се свърже със службите за спешна помощ.

OpenAI признава, че е изправена пред фундаментален проблем с големите езикови модели. В ранните етапи ChatGPT работи стриктно, като се отказва от много теми, но нарастващата конкуренция от „нецензурирани“ и локализирани решения, както и натискът от страна на критиците на цензурата, принудиха компанията да смекчи филтрите. Сега курсът се е променил: възрастните потребители искат да предоставят максимална свобода, без да накърняват или ограничават правата на някой друг.

И другите платформи предприемат подобни инициативи: през лятото YouTube обяви плановете си да използва алгоритми за машинно обучение, за да оценява възрастта на зрителите и да защитава тийнейджърите от определени категории съдържание. И така, компанията OpenAI, създател на популярния чатбот ChatGPT, въведе нова и строга политика, изискваща проверка на самоличността с лична карта за достъп до услугата.