Социалната мрежа TikTok, която си имаше не малко проблеми в САЩ през последните седмици, се изправи пред още едно предизвикателство, до болка познато на всяка друга социална мрежа: речта на омразата.
В четвъртък TikTok заяви, че е премахнала повече от 380 000 видеоклипа от САЩ от началото на година досега заради нарушения на правилата срещу речта на омразата. Компанията също е блокирала повече от 1300 акаунта заради системно публикуване на омразно съдържание или поведение и е изтрила над 64 000 омразни коментара.
TikTok има дефиниция за „реч на омразата“, която гласи следното: „съдържание, което възнамерява да атакува или атакува, заплашва, подбужда към насилие или дехуманизира индивид или група от хора въз основа на изконно защитени черти като раса, религия, пол, полова идентичност, национален произход и други.“
Приложението за споделяне на забавни кратки клипове, което се използва от над 100 милиона американци, е изпълнено със съдържание, което популяризира бялото върховенство и антисемитизма, според доклад, публикуван от Асоциацията за борба с речта на омразата. Много активисти за граждански права призоваха социалните мрежи, включително и Facebook, да предприемат повече действия, за да свалят навреме съдържанието съдържащо омраза от своите платформи.
TikTok има много други проблеми, за които се налага да се тревожи, освен речта на омразата. Проблемите на компанията са свързани с настоящия президент на САЩ Доналд Тръмп, който обвинява компанията-майка на TikTok, ByteDance, че сътрудничи на китайското правителство. Президентът е подписал две изпълнителни заповеди, които решават бъдещето на TikTok. Едната ограничава всички операции на американски предприятия с ByteDance и нейните дъщерни дружества, което означава, че TikTok ще бъде забранен на територията на САЩ, ако не бъде продаден на друга американска компания до 20 септември. Друга изпълнителна заповед , подписана миналата седмица, в прав текст нарежда на ByteDance да продаде операциите в САЩ на TikTok в рамките на 90 дни. И двете заповеди се основават на опасенията на президента за националната сигурност на страната. Компанията ByteDance в отговор на тези обвинения заяви, че никога не би предала данните на американските потребители на китайското правителство, дори ако това бъде изрично поискано от нея.
В момента интерес към закупуването на TikTok проявяват компаниите Microsoft, Oracle и Twitter. Но придобиването на социалната мрежа означава, че те ще трябва самостоятелно да се справят с проблемите с модерирането на съдържанието. В интервю за Wired, съоснователят на Microsoft Бил Гейтс описа потенциалното закупуване на TikTok като „чаша с отрова“.
Ерик Хан, който наблюдава безопасността на TikTok в САЩ, заяви в публикация в блога, че компанията иска да подобри политиките си за реч на омразата и иска да се справи с този проблем. Той очерта пет начина, по които TikTok се опитва да се пребори с речта на омразата. Компанията се консултира с експерти за извършването на каквито и да било промени в правилата ѝ за съдържанието и предприема действия срещу речта на омразата, като забранява акаунти и не включва обидно съдържание в резултатите от търсенето. Когато потребителите потърсят нещо от рода на „heil Hitler“ например, приложението няма да покаже резултати за това търсене и би пренасочило потребителя към правилата срещу речта на омразата. Компанията също така обучава модератори на съдържание, които да разбират различните култури.