ФБР: Инженер използва AI, за да създава детска порнография

Министерството на правосъдието на САЩ арестува софтуерен инженер по обвинения в създаване и разпространение на хиляди генерирани от изкуствен интелект материали със сексуално насилие над деца (CSAM).

Доколкото е известно, това е първият подобен случай. Правителството на САЩ се стреми да създаде правен прецедент, който пак ще направи експлоатационните материали незаконни, дори ако деца не са участвали в тяхното създаване.

„Генерираните от AI материали със сексуално малтретиране на деца продължават да бъдат CSAM“ — пише заместник-главният прокурор Лиза Монако в прес-съобщение.

Според обвинителния акт, програмистът Стивън Андерег, 42-годишен от Холмен, Уисконсин, е използвал генератора на илюстрации по текстови заявки Stable Diffusion, вероятно във версия 1.5. С него той е създал повече от 13 000 снимки на деца, „като стотици или хиляди от тях изобразяват голи или оскъдно облечени непълнолетни„.

Властите казаха, че обвиняемият е използвал „изключително специфични и изрични сигнали, за да създаде изображения на CSAM, включително и негативни заявки“.

Според Министерството на правосъдието на САЩ, Андерег е общувал онлайн с 15-годишно момче и му е описвал как използва модела с изкуствен интелект, за да създаде откровени снимки.

Отделът твърди, че през октомври 2023 г. ответникът е изпращал на непълнолетни чрез лични съобщения в Instagram няколко ИИ-изображения на „тийнейджъри, които похотливо показват гениталиите си“.

Социалната мрежа препрати тази информация до Националния център за изчезнали и експлоатирани деца (NCMEC), който предупреди правоохранителните органи.

Известно е, че Андерег твърди, че е „обсъждал желанието си да прави секс с момчета в предпубертетна възраст“ в лични съобщения с други потребители на Instagram. Той също така е казал на един от събеседниците си, че има „тон“ CSAM-изображения, създадени от изкуствен интелект в неговия Telegram.

Андерег е изправен пред между 5 и 70 години затвор. Той може да бъде признат за виновен по четири обвинения за производство, разпространение и притежаване на неприлични визуални изображения на непълнолетни, участващи в явно сексуално поведение и предаване на неприлични материали на непълнолетни под 16-годишна възраст.

Андерег в момента е във федерален арест в очакване на изслушване, насрочено за днес 22 май 2024 г.

„Министерството на правосъдието ще преследва агресивно тези, които произвеждат и разпространяват CSAM-материали, независимо как са създадени“ — каза Монако.

Нека ви напомним, че наскоро Google актуализира политиката си относно неподходящото съдържание, забранявайки популяризирането на реклами на сайтове и приложения с дийпфейк порно.