Facebook: Превзет от спам и измами – накъде се движи най-голямата социална мрежа?

През 2018 г. Марк Зукърбърг организира редица вечери с професори и академици, за да обсъдят как Facebook може по-добре да предпази своите платформи от дезинформация, насилствено съдържание и реч на омразата. Тогава социалната мрежа обяви мащабни инвестиции и наемането на хиляди модератори.

Няколко години по-късно обаче, Facebook е обхванат от спам, генериран от изкуствен интелект, и различни измами. Ботове доминират взаимодействията, а порнографията и неконсенсусните изображения са лесни за намиране. Реклами за наркотици, откраднати кредитни карти и хакнати акаунти също са често срещани, както съобщава 404 Media.

Meta все още публикува актуализации за усилията си да поддържа безопасността на платформите си, но експерти, които преди имаха достъп до вътрешните процеси на компанията, вече не знаят какво се случва. Изследователи откриват цели общности, посветени на порнография, гротескни AI изображения, спам и измами, които оперират безнаказано.

Meta отговаря непоследователно на въпроси относно тези проблеми и отказва интервюта. Професори, които преди са консултирали компанията, нямат контакт с нея от години. Модераторите на съдържание също не са в добра позиция. Републиканците и крайнодесните в САЩ виждат това като заслужена разплата за „либералните“ онлайн гиганти от Калифорния, които според тях са ограничили свободата на словото.

Това се случва на фона на действията на Илон Мъск, собственик на X/Twitter, който буквално каза на рекламодателите „да вървят на майната си“ заради решението им да не рекламират до расистко и ксенофобско съдържание. Сега твърди, че 65% от големите компании са се върнали.

Този момент е критичен не само за X/Twitter, но и за конкурентите му. За да се възприемат платформите на Meta като по-сигурна алтернатива за рекламодателите, Зукърбърг трябва да прескочи ниската летва – да не подкрепя открито нацистите и да не праща рекламодателите на майната им.

„Вярвам, че сме в период на експериментиране, когато платформите са готови да видят с колко малко модерация могат да се справят“, коментира професор Сара Т. Робъртс от UCLA, автор на книга за модерацията на съдържание.

Meta рядко обсъжда публично своята модерация на съдържание. Компанията отказа да отговори на поредица от въпроси за тази статия, включително за отношенията си с академичните среди и философията си към модерацията. Въпреки това, Meta заяви, че днес има повече човешки модератори на съдържание отколкото през 2018 г.

Прехвърлянето на тези дейности към аутсорсинг компании обаче позволява екипите да се разширяват или свиват бързо – което не е устойчив начин за развитие на платформа, коментира Робъртс. Според нея модерацията е скъпа дейност без директна финансова изгода.

По-големият въпрос е дали Meta вярва, че Facebook има бъдеще. По действията им изглежда, че не. Робъртс сравнява Facebook с деиндустриализиран град: „Няма много финансова изгода от подкрепата на Facebook с нови неща, но той няма просто да изчезне. Ще се запълва с крипто измами, фишинг, хакерство и романтични измами. Лошата модерация ще подклажда още повече ‘боклучиво’ съдържание, което хората не харесват, и ще става все по-зле и по-зле.“