Генерираните от AI снимки на сексуално малтретиране на деца в публичното пространство достигнаха критична точка

Според данните на фонда Internet Watch Foundation (IWF), изображенията на сексуално малтретиране на деца, създадени с помощта на изкуствен интелект, са станали все по-често срещани в интернет, съобщава The Guardian.

Според оценките на фонда, количеството такова съдържание, което напоследък се разпространява в интернет, е достигнало критична точка. По-специално през последните шест месеца е открито повече съдържание, отколкото през 2023 г. като цяло.

От фондацията казаха, че почти цялото намерено съдържание е било в публичните раздели на интернет, а не в даркнет, който може да бъде достъпен само от специализирани браузъри.

Генералният директор на IWF Дерек Рей-Хил казва, че нивото на сложност на откритите изображения предполага, че AI ги е създал въз основа на снимки и видеоклипове на реални деца, които са били малтретирани.

„Последните месеци показаха, че този проблем не изчезва и всъщност само се влошава“ — казва той.

Един от анализаторите на IWF твърди, че ситуацията със забраненото създадено от AI съдържание е достигнала критична точка, в която правоприлагащите органи и властите не могат да разберат дали снимката изобразява дете, което наистина се нуждае от помощ.

В допълнение към генерираните от AI снимки на истински оцелели от малтретиране, IWF открива и дийпфейк порно видеоклипове, където порнографията е манипулирана, за да наподобява насилие над деца.

В минали доклади IWF съобщава, че AI е използвал изображения на знаменитости, „подмладявайки“ ги до детството им, за да ги използва в сценарии за сексуално насилие. В някои случаи AI е използван за „събличане“ на деца от снимки, на които са облечени.

Повече от половината забранено съдържание, открито от IWF през последните шест месеца, е на руски и американски сървъри, както и на японски и холандски сървъри.

Осем от десет доклада за забранени снимки, открити в световната мрежа, идват от обикновени граждани, които са ги намерили на публичните сайтове, включително и на форуми или галерии за изкуствен интелект.