Facebook може би пропуска да докладва много случаи на детска порнография

Основна отговорност на социалните мрежи и публичните портали е да наблюдават съдържанието на техните платформи за материали, които могат да съдържат сексуално насилие над деца – известно още като CSAM. Ако такова съдържание бъде открито, социалните мрежи са задължени законово в много региони по света да докладват за него. Така например в САЩ всички случаи на подобно съдържание трябва да бъдат докладвани на Националния център за изчезнали и експлоатирани деца (NCMEC). Много компании разполагат с модератори на съдържание, които преглеждат съдържанието, маркирано като потенциален CSAM, като определят дали едно съдържание трябва да бъде докладвано до Националния център или не.

Въпреки това обаче, социалната мрежа Facebook има политика, която може в някои случаи да означава, че компанията ще пропусне да докладва сексуално насилие над деца, според нов доклад на The New York Times. Това става ясно от вътрешни инструкции на Facebook за обучение на модераторите на социалната мрежа, които биват съветвани, когато разглеждат дадено съдържание, но не могат да определят възрастта на лицата, които са изобразени на него, да ги разглеждат от презумпцията на възрастни. Интересното е, че има уточнение, че това правило важи не само по принцип, но и в ситуациите, когато има CSAM съдържание.

Политиката е създадена като основен ориентир за действие за модераторите на съдържание в социалната мрежа, като повече за нея научаваме от интервюирани модератори, които са работили за подизпълнителя Accenture, които се обсъждат в статия в California Law Review.

Интервюираните модератори също така описват, че в социалната мрежа има и възможност за прилагане на „ескалиране“, което може да бъде приложено, когато между тях няма единодушие относно характера на дадено съдържание, или когато самият модератор не може да вземе решение. Най-често практиката е била прилагана, когато модераторите не са в състояние лесно да определят дали в дадено CSAM съдържание, изобразените на него лица са непълнолетни или възрастни. В такива ситуации модераторите са инструктирани да приемат по подразбиране, че става въпрос за възрастни, което потенциално означава, че е възможно много хипотетични случаи на съдържание със сексуално насилие над непълнолетни да са били пропуснати и да са останали недокладвани.

Социалната мрежа официално потвърди тази политика, като обясни, че мотивите зад нея всъщност са, че тя произтича от опасения за поверителността на хората, които публикуват сексуални изображения на възрастни. „Сексуалното насилие над деца в интернет е отвратително“, казва Антигона Дейвис, ръководител на отдела за безопасност на Meta. Тя подчертава още, че компанията използва многопластов, строг процес за преглед на съдържанието, който предполага преглеждане на много повече съдържание, отколкото при всяка друга компания. Тя каза, че последствията от погрешно маркиране на сексуално насилие над деца могат да бъдат „променящи живота“ на потребителите.