Изследване на онлайн групи на омразата показва защо те са устойчиви на забрани

Социалните мрежи се борят на да намерят оптималните начини за справяне със заплахи и насилие, и присъствието на групи на омразата в техните платформи. Ново проучване предполага, че опитите последните да се ограничат, се сблъскват със сериозен проблем: мрежите образувани от членовете на групата на омразата, са изключително устойчиви и мигрират от едни в други мрежи от групи, профили и страници в социалните мрежи, като запазват и дори разширяват аудиторията и последователите си.

Проучването предлага някои методи за това как може да се ограничи въздействието на тези групи, но много от тях изискват намесата на човешки работници, а не на алгоритми, както социалните мрежи предпочитат.

Намиране на „трибуните на омразата“

Работата на изследователи от университета Джордж Вашингтон в Маями, се фокусира върху мрежи от расистки групи, около ККК (Ку Клукс Клан) в САЩ. За целта, изследователите проследиха присъствието на расистки групи в две основни социални мрежи – Facebook и руската социална мрежа VKontakte. Изследователите създадоха автоматизирана система, която да идентифицира групите според това, което ги свързва. Тя също проследява и участието на групите в други социални мрежи като Instagram, но не е интегрирана за тях.

Екипът проследява ежедневните промени в динамиката на трупите за продължителен период през 2018г. Те идентифицират повече от 768 групи, образувани от членовете на бялото движение за надмощие. Идентифицирани бяха и други групи, но те разпространяваха порнография или продажба на незаконни стоки, така че бяха игнорирани в това проучване.

Идентифицираните по този начин групи, варират значително по размер. Авторите казват, че това води до мисълта, че тези тълпи са се самоорганизирали, тъй като би било трудно да се разработи такава структура от брой на членовете във всяка една.

Обществата също са географски разнообразни. Докато във Vkontakte те са предимно от Русия и Източна Европа, мрежите във Facebook се простират в САЩ и Западна Европа, но също известна част от тях е в Южна Африка и Филипините. Бяха направени някои причудливи изводи: Неонацистките групи с членове от Обединеното кралство, Канада, САЩ, Австралия и Нова Зеландия, съдържат материали за английски футбол, Brexit, изображения на „скинхед (skinhead)“, като същевременно са почитатели на жанровете на черната музика.

Периодът, който авторите проследяват, включва някои основни събития, които променят белите върховнически мрежи. Най-известното от тях е забраната на ККК във Facebook. Това доведе до миграцията на големи американски ККК групи във VKontakte. Нещата се усложняват, когато Украйна реши да забрани Vkontakte на територията на цялата страна.

В този момент някои от началните групи във Facebook, тайно се върнаха към платформата, но положиха известни усилия. Надявайки се да избегнат алгоритмите на Facebook, преформираните ККК групи често криеха своята идентичност, използвайки символи на кирилица в имената и комуникацията си.

Друго забележително събитие, което преформира мрежите беше стрелбата в училището в Каркленд, след като бе установено, че стрелецът има интерес към ККК и неговите символи. След стрелбата много от малките групи от привърженици на ККК започнаха да образуват връзки с по-големи и по-утвърдени групи на омразата.

Този адаптивен еволюционен ход помага на децентрализирания идеологически организъм на ККК да се защити, като събира преди това несвързани с идеите на групировката привърженици, твърдят авторите. Също така отбелязват, че подобна реконструкция се случи и сред привържениците на ISIS, след като нейният лидер беше ранен в бой.

Възможни планове?

Като се има предвид поведението, наблюдаването тук и в предишното проучване на групите на ISI, авторите на проучването съставят модел на формирането на връзки между групите на омразата. Те го използваха за да проучат ефектът от няколко различни тактики и стратегии за справяне или поне намаляване на трайно свързаните мрежи, формирани онлайн.

Резултатът е поредица от предложения, за всяка социална мрежа, която реши да се заеме сериозно със справянето с групите на омразата, които използват нейното пространство.

Като за начало, те твърдят, че първото нещо, което трябва да се направи, е да се съсредоточим върху забраняване и навременно предотвратяване на формирането на малките групи на омразата, още докато те се създават.

Това е по-лесно, тъй като те са много повече от големите, и именно тези малки тълпи помагат за осигуряването на устойчивостта на големия гръбнак на ККК обществата. Във връзка с това, платформата трябва да блокира на случаен принцип някои от членовете на тези групи.

Това едновременно намалява устойчивостта им, тъй като общият брой на блокираните акаунти ще бъде сравнително малък, и се разпределя на случаен принцип, което намалява вероятността от възможни противообществени реакции от членовете в реалния свят.

Последното им предложение е платформите да насърчават социалните групи, които активно се противопоставят на групите на омразата. Съществената причина хората да формират тези тълпи на омразата, е че техните мнения не са добри дошли и толерирани в обществото, а групите в социалните мрежи им позволяват да изразяват своите мнения без страх от санкциониране или обществена стигма.

Чрез повишаване на броя и известността на групите, които се противопоставят на обществата на омразата, платформата може да намали комфорта и достъпността на групите за бяло надмощие.