UNICEF призовава за криминализиране на ИИ-съдържанието със сексуален характер с деца

Международната организация UNICEF публикува изявление, в което изразява загриженост относно нарастващия брой генерирани от изкуствен интелект сексуални изображения на непълнолетни. Организацията смята, че създаването, съхранението и разпространението на такова съдържание трябва да бъде криминализирано. 

В публикацията си UNICEF цитира резултатите от втората фаза на изследователския проект „Disrupting Harm Phase 2“, в който участват деца от 11 държави. 

Според изявлението, 1,2 милиона непълнолетни са съобщили, че през последната година техни изображения са били използвани за създаване на съдържание със сексуален характер. UNICEF подчертава, че в някои страни тази цифра достига 1 на 25.

В някои юрисдикции приблизително две трети от анкетираните заявяват, че са запознати с подобни практики и се страхуват да не станат жертви. Организацията смята, че използването на изкуствен интелект нормализира подобни практики, подхранва търсенето на такова съдържание и създава пречки за съдебното преследване на създателите. 

„Трябва да заявим ясно: сексуалните изображения на деца, създадени или обработени с помощта на инструменти за изкуствен интелект, представляват материали със сексуално насилие над деца“ — подчертава UNICEF. 

В тази връзка организацията призова държавите да разширят определението за такъв материал (CSAM), да интегрират инструменти за защита директно в ИИ-решенията и да задължат доставчиците на услуги да предотвратяват разпространението на такова съдържание. 

Призивът на UNICEF идва на фона на разследванията около дейността на X в различни страни, след оплаквания, че аудиторията му използва чатбота Grok за манипулиране на изображения, включително на непълнолетни.