TikTok обучава модераторите на съдържание като им показва снимки на сексуално насилие над деца според бивши служители

Модераторите на съдържание в социалните мрежи често са натоварени с много нелеки задачи и понякога изпадат в немилост. Именно те са хората, които се грижат собственоръчно за това съдържанието, което виждаме в приложенията и сайтовете, които използваме всеки ден, да спазва приетите културни норми на благоприличие, да отговаря на обществените етика и морал и да не ни сблъсква пряко с ужасяващото, насилственото и нехуманното. И макар и повечето големи социални мрежи в днешно време да разполагат със сложни и непрекъснато подобряващи се алгоритми, които автоматично засичат съдържанието, което е в разрез с етиката и правилата, още докато потребителите се опитват да го качат, или много скоро, след като е било публикувано, тези алгоритми не са съвършени, просто защото всичко онова, което някой от нас може да създаде и да реши да качи в интернет не почива на някаква алгоритмична логика. И именно там, където преценките за дадено съдържание не могат да бъдат ясни, протоколни, категорични и еднозначни, се отваря пространството, в което трябва да се намесят модераторите.

За да се справят със своите задачи, модераторите на съдържание биват обучавани от социалните мрежи с примерно съдържание, което е в разрез с правилата и политиките. Ежедневно модераторите се сблъскват с ужасяващо съдържание, което трябва да редактират или премахват, а в някои случаи се сблъскват с ужасяващото още докато се обучават как да вършат работата си. И именно такъв е случаят на някои модератори на китайската социална мрежа TikTok. Социалната мрежа е използвала в своето ръководство за модератори снимки, на които се вижда нецензурирано сексуално насилие над деца, става ясно от думите на бивши служители на платформата.

Такъв е случаят на бившия TikTok модератор Насър, който е работил за аутсорсинг компанията Teleperformance, която е била наета от TikTok като подизпълнител за модериране на съдържанието в социалната мрежа. Неговите преживявания са разказани в поредица от материали на Форбс, като от медията скриват фамилното му име от съображения за сигурност. Той е работил по специален проект, свързан с обучаването на алгоритми с изкуствен интелект, които са били предназначени за автоматично навременно откриване на съдържание, което съдържа сексуално насилие над деца. Само няколко дни, след като е започнала работата му по проекта, на него и на колегите му са били показани изображения и видеоклипове на деца, които участват в сексуални действия – всичките примерни материали са автентично съдържание, което потребители на TikTok са качили в платформата. Това, което е подействало най-смущаващо на Насър, е, че лицата на децата не са били пикселизирани и не са били взети никакви мерки, за да бъде прикрита тяхната самоличност.

„Имам дъщеря и не мисля, че това, което се случва, е правилно – просто група непознати да гледат подобно нещо. Не мисля, че такова съдържание трябва да се използва за обучение.“, коментира Насър.

Уитни Търнър, която също е работила по проекта за обучаване на изкуствен интелект за TikTok и е част от екипа на Teleperformance в Ел Пасо, напуска компанията през 2021-та година, след като е работила повече от година в аутсорсинг агенцията. Тя също разказва пред Форбс, че си спомня, че са ѝ показвали снимки на сексуално насилие над деца като част от нейното обучение. Уитни е получила достъп до споделена електронна таблица, която е била постоянно обновявана с примерно реално съдържание, което нарушава правилата и разпоредбите на социалната мрежа, като в таблицата е попадала на стотици снимки на голи или сексуално малтретирани деца. Други бивши модератори на социалната мрежа казват, че таблицата е била широкодостъпна за голям кръг от служители. Уитни разказва, че е била толкова ужасена от небрежното боравене с подобен род материали, че е съобщила за това на ФБР и е имала впоследствие среща с агент на Бюрото през юни. От ФБР не са отговорили на множеството ѝ запитвания относно това дали ще бъде образувано разследване по случая.

„Родителите на тези деца не знаят, че имаме запазени в базите си данни тези снимки, тези видеоклипове, тези травми, тези престъпления. Ако те знаеха за това, съм почти сигурна, че щяха да атакуват TikTok.“, допълва Уитни. „Докато преглеждах това съдържание си мислех – Това е нечий син. Това е нечия дъщеря.“.

Глобалният директор на компанията Teleperformace по въпросите за общественото доверие и безопасността Акаш Пугалия казва пред Форбс, че компанията не използва видеоклипове, които показват директно сексуално насилие над деца, нито го показва като част от обучителните програми на модераторите. Той е отказал да отговори на въпросите на медиите за това колко служители на компанията са имали достъп до въпросното съдържание, колко често е показвано то и дали действително лицата на участващите деца се виждат нецензурирано в снимките и видеоклиповете.

TikTok не е единствената социална мрежа, която се бори интензивно и инвестира в борбата със сексуалното насилие над деца. Най-големите социални мрежи в света отдавна използват технологии като машинно обучение и човешки модератори, за да идентифицират и премахват това съдържание, преди то да бъде видяно от широк кръг от потребители и да стане масово разпространено. Въпреки това обаче, тези сведения и изказвания от бивши модератори на платформата поставят много въпроси относно това доколко етично китайската социална мрежа третира съдържанието със сексуално насилие на деца, след като то е било изтрито от платформата, тъй като повторното показване на дадено съдържание с детско насилие прави децата, които участват в него, жертви отново и отново, а освен това и нарушава тяхната поверителност и може да доведе до идентифицирането на самоличността им и изнасяне на тази чувствителна информация за тях в обществото. Ненапоследно място се повдига и етичният проблем около това, че тези деца и техните родители не са уведомени, че социалната мрежа съхранява това съдържание в базите си данни и го показва.

Представителят на социалната мрежа TikTok Джейми Фаваца заяви пред Форбс, че „материалите за обучение на платформата се контролират строго и достъпа до тях се осъществява само от тесен набор от упълномощени служители“, но призна, че компанията работи с трети страни, които може да имат свои собствени процеси, етични правила и политики, които могат да се различават от тези на TikTok.

От разказите на бившите модератори на социалната мрежа става ясно, че освен в Teleperformance, сексуално насилие над деца е било показвано за обучителни цели в поне още две аутсорсинг агенции – DRR и Lark. Компаниите на този етап не са отговорили на отправените към тях запитвания за коментар по случая от Форбс и други технологични медии.

Изображенията и видеоклиповете, на които е изобразено сексуално насилие над деца, са незаконни в САЩ и на повечето други места по света, като има специални законови разпоредби как трябва да се подхожда към такъв тип съдържание. Когато такъв материал бъде публикуван в социалните мрежи, той трябва да бъде свален незабавно, а след което докладван и изпратен на местните регулаторни органи, които се занимават с киберпрестъпления и със сексуалните престъпления и тормоза над малолетни, които от своя страна да проверят файловете и да направят собствено разследване от кого са заснети, за да бъде идентифицирана самоличността на автора, който от своя страна ще бъде разследван за сексуално престъпление или съучастие в такова. Що се отнася до законовите задължения на компаниите, в чиито платформи е било публикувано такова съдържание, те имат ангажимента да намалят до минимум броя на служителите, които са имали достъп до него, а при поискване от страна на органите на реда компаниите трябва да изтрият окончателно това съдържание.

Някои от най-добрите експерти по правна и онлайн безопасност казват, че използването на реални, нецензурирани кадри, които изобразяват сексуално насилие над непълнолетни, дори и за обучителни цели, със сигурност противоречи на законовите изисквания и разпоредби и може да премине границата на благоразумното, особено когато става въпрос за случаи с деца.

„Компаниите трябва да имат строги и прозрачни вътрешни правила и разпоредби за това как следва да се съхранява, разглежда и споделя съдържание, което съдържа кадри със сексуално насилие над непълнолетни лица.“, казва Йота Сурас, водещ американски експерт в областта.

От Форбс са се обърнали със запитване и към Teleperformance, като представител на компанията е заявил, че дружеството следва действащите закони и разпоредби и не извършва злоупотреби по отношение на начините, по които третира съдържанието, изобразяващо сексуално насилие. Допълнително, от компанията изрично заявяват, че не използват реално съдържание, което е премахнато от платформата, за обучението на модератори, нито разпространяват материали, на база на които да може да бъде идентифицирана нечия самоличност.

Дейвид Владек, ръководител в Правния център за поверителност и технологии в Джорджтаун добавя, че въпреки, че е възможно компаниите да обучават своите служители как да разпознават забранено и незаконно съдържание чрез нагледни примери, те нямат право да използват реално, извлечено от платформата съдържание, още повече такова, от което да може да бъде разпозната нечия самоличност, независимо дали става въпрос за възрастни или малолетни.

Интернет пазители

Компанията Teleperformance е глобален лидер в аутсорсинг сектор и съществува от края на 70-те години на миналия век. Дружеството отбеляза рекорден ръст през миналата година, достигайки приходи от 8 милиарда щатски долара. Към момента фирмата може да се похвали с около 1000 корпоративни клиенти от почти всички възможни сектори – от здравеопазването до хотелиерството, през търговията на дребно и сектора на телекомуникациите. Едва отскоро компанията добави и работата със социални мрежи към своето портфолио.

Teleperformance стартира своя отдел за предоставяне на корпоративни аутсорсинг услуги за социалните мрежи като модериране на съдържание и поддръжка на клиентски платформи през 2019 г., като към края на годината фирмата е успяла да привлече TikTok като клиент. В последния си годишен доклад Teleperformance отделя специално внимание на работата си с TikTok, като ръководството на компанията казва, че се гордее, че работи с една от най-бързоразвиващите се платформи в интернет, като рекламира себе си като среда, в която се формират „интернет пазители“.

Разкази като настоящия повдигат значителни въпроси и относно това доколко компании като Teleperformance се грижат за служителите си, които работят дейности, които оказват силно психично натоварване и излагат благополучието на служителите в риск – каквато дейност е модерирането на съдържание със сексуално насилие. От компанията казват, че се грижат за персоналното благополучие на всеки един свой служител. Доколко обаче нещата стоят по този начин, предстои да разберем.