В алгоритмите за препоръки на TikTok беше открита пропаганда за нездравословно хранене

Изданието The Wall Street Journal (WSJ) проведе журналистическо разследване, посветено на потенциалните опасности от алгоритмите за препоръки на TikTok, установявайки, че на някои потребители се предлагат материали, насърчаващи нездравословното хранене. След като изданието се обърна към администрацията на TikTok за коментар, услугата обяви намерението си да промени тези алгоритми.

Разследването на WSJ започнало с истории на тийнейджърки, които, както се твърди, поради TikTok, започнали да проявяват нездравословен интерес към загуба на тегло, детоксикация и потенциално опасни диети. За да потвърдят потенциалната опасност от услугата, журналистите проведоха експеримент, създавайки повече от 100 акаунта в TikTok, под които са били „прегледани“ различни видеоклипове с минимално човешко участие. В същото време, 12 от тези акаунти са били посочени като принадлежащи на 13-годишни и те са „гледали“ видеоклипове за загуба на тегло, алкохол и хазарт. Веднага щом един от акаунтите спре да се интересува от хазартните видеоклипове и премине към темата за отслабване, алгоритъмът на TikTok, настройвайки се към новите му „предпочитания“, започва да предлага материали на различната тема.

Въз основа на резултатите от експеримента е изчислено, че от общо 225 000 видеоклипа, които са били гледани от въпросните акаунти, 32 700 са били свързани с темата за загуба на тегло по описание или други метаданни. В същото време, 11 615 видеоклипа по ключови думи в описанието са съответствали на темата за хранителните разстройства, а 4402 описания са отговаряли на темата за нормализиране на такива разстройства. В някои случаи, ключовите думи са били задавани с различен начин на изписване, за да не попаднат под санкциите на TikTok. Когато WSJ информира администрацията на услугата за 2960 потенциално опасни видеоклипа, 1778 от тях са били незабавно премахнати и не е ясно кой го е направил: техните автори или платформата. След това, в периода на подготовката на WSJ за публикуване на материала, от изданието отново се свързват с администрацията на TikTok с искане за коментар, а услугата официално обявява намерението си да коригира работата на алгоритмите за препоръки – вероятно това е бил един вид превантивен удар.

Платформата отбелязва, че не винаги е полезно гледането на множество видеоклипове по някои теми – по-специално, това се отнася до въпросите за загуба на тегло и физическа активност. Сега специалистите на услугата се опитват да ограничат работата на алгоритъма за препоръки до съдържанието, което не нарушава условията на услугата, но може да бъде опасно, ако се консумира в прекомерни количества. Освен това се тества и инструмент, който ще позволи на потребителите самостоятелно да ограничават работата на препоръките по определени ключови думи или хаштагове.