Скандал в xAI: Съдебен иск срещу компанията на Мъск заради генерирани от Grok неправомерни изображения на непълнолетни

Трима тийнейджъри от американския щат Тенеси съдят компанията xAI на Илън Мъск, като твърдят, че чатботът Grok е генерирал техни деликатни изображения, когато са били непълнолетни. Мъск и другите ръководители на компанията са обвинени, че са били наясно с възможността за генериране на изображения от такъв характер още миналата година, когато Grok е въвел режима Spicy.

Двама от ищците сега са непълнолетни, а третият е бил такъв по време на събитията, описани в иска. Една от жертвите, чието истинско име не се разкрива, казва, че през декември миналата година е разбрала за създадени от изкуствен интелект изображения, в които са участвали тя и поне 18 други непълнолетни – материалите са били публикувани в Discord.

„Най-малко пет файла, едно видео и четири [статични] изображения изобразяват истинското ѝ лице и тяло в позната среда, но са били трансформирани в пози с деликатен характер“,

се посочва в иска.

Едно лице е арестувано по подозрение в извършването на тези действия – твърди се, че е използвало генерираните от изкуствения интелект изображения на жертвата „като средство за размяна в групови чатове в Telegram със стотици други потребители – файловете с нейните интимни изображения са били разменени за чувствителни материали, включващи други непълнолетни лица“. В изявлението се казва, че извършителят е създал изображения на жертвата и на други двама ищци, използвайки Grok. Компанията xAI „не е проверила разработените от нея функции за сигурност“, се казва в иска, а Grok „има архитектурни недостатъци“.

Скандалът с чатбота Grok избухна през януари тази година, когато беше установено, че той генерира интимни изображения с участието на реални хора. Впоследствие компанията заяви, че проблемът е решен, но изкуственият интелект продължава да създава такива изображения. Тогава администрацията на социалната мрежа X, в която също работи чатбот, заяви, че „всеки, който използва Grok или го насърчава да създава незаконни материали, ще понесе същите последствия, както ако качи незаконно съдържание“. Ищците търсят обезщетение като жертви на „незаконните изображения“ на Grok, както и забрана на xAI да създава и разпространява чувствителни материали, генерирани от изкуствен интелект, в които участват непълнолетни лица.