Instagram призна за грешка в своите алгоритми и системи за автоматично модериране на съдържанието, поради която расистки коментари и емотикони не са били премахнати.
Това се случва, след като поток от расистки злоупотреби бе насочен към футболистите на националния отбор на Англия Букайо Сака, Маркус Рашфорд и Джейдън Санчо след финала на Евро 2020 при мъжете.
Изпълнителният директор на социалната мрежа Адам Мосери каза, че съдържанието е погрешно идентифицирано като такова, което не е в разрез с правилата на платформата, като след обстоен преглед от човешки модератори, голяма част от публикациите, които са съдържали расистки обиди и нападки, са били премахнати.
„Разполагаме с технология, с която опитваме да приоритизираме докладите, но по погрешка нашите системи са маркирали някои от докладваните публикации като нормални, а те определено не са такива“, каза той пред BBC News.
„Оттогава въпросът е разгледан и нещата са коригирани – доклади за публикации от този тип вече ще бъдат обработвани по коректен начин“.
В понеделник от BBC News съобщиха, че са подали доклад срещу коментар, съдържащ няколко емотикони на орангутан в Instagram страницата на Sakaл След минути от редакцията на медията са получили известие, в което казва, че системата на платформата е установила, че „този коментар вероятно не противоречи на нашите правила“.
В четвъртък самият Сака също отговори на коментарите:
„Към платформите за социални медии… Не искам нито едно дете или възрастен да получава омразните и обидните съобщения, които аз, Маркус и Джейдън получихме тази седмица“, пише в публикацията си той.
„Веднага усетих омразата, която ще излъчваше към мен, и това е тъжна реалност, а вашите мощни платформи не правят достатъчно, за да спрат тези публикации“, допълва още.
След коментарите на Мосери, в сряда вечерта бяха докладвани още няколко расистки коментара и емотикони, но не бе получено уведомление за резултатите от прегледа. Бързо превъртане в акаунта на Сака разкрива още много расистки коментари, които предстои да бъдат докладвани и премахнати.
„Абсолютно не е добре да изпращате расистки емоджи или всякакъв вид реч на омразата в Instagram“, добави г-н Мосери в поредица от туитове. „Емотиконите като расистки коментари са трудни за разпознаване, не по-малко трудни са и думите, тъй като много от тях зависят силно от контекста, който невинаги алгоритмите успяват да уловят. Тези проблеми сега ни показаха, че нашата работа по подобряване на системите и автоматизираните функции за резюмиране на съдържанието никога няма да свърши.“
През април Футболен клуб Ливърпул разкритикува платформата, след като на някои от играчите му бяха изпратени расистки маймунски емотикони.
Преди това Instagram се е консултирала с групи за борба с дискриминацията и тормоза, за да подготви списък с обидни термини, фрази и емотикони.
Расистките злоупотреби с играчи от Англия са „непростими“, казва мениджърът на Англия Гарет Саутгейт
Потребителите могат също да филтрират конкретни думи или емотикони в своите акаунти, като променят инструмента за скрити думи в настройките.
Но Имран Ахмед, главен изпълнителен директор на Центъра за противодействие на омразата (CCDH), заяви, че „не е за вярване“, че расистките злоупотреби продължават да заобикалят филтрите на Instagram.
„От 105 акаунта, които идентифицирахме като злоупотребявали с расата на футболистите на Англия, 88 все още са активни и съдържанието от тях се разпространява“, каза той и добави, че това е „далеч от обещаното решение на социалната мрежа.
„От неспособността си да идентифицира маймунските емоджита като расистки, до категоричния ѝ отказ да блокира акаунтите на расистите, Instagram – и неговата компания майка Facebook – не успяха да действат така, както подобава на тяхната позиция“, каза той.
„Чухме достатъчно разговори. Време е правителството на Обединеното кралство да последва ръководството на Германия при приемането на закони и да наложи сериозни финансови санкции на фирми, които дават мегафон на расизма и екстремизма.“
Това не е първият път, когато алгоритмите на социални мрежи и други технологични гиганти, които се гордеят със своите автоматизирани системи и влагат сериозни усилия и ресурси в тяхното развитие, дават грешки при работата си, които са свързани с щекотливи теми като расизма, публичния паритет и зачитането на човешките права. Припомняме, че през пролетта на миналата година, когато пандемията от коронавируса тепърва започваше да се разразява на територията на САЩ, вече бившият президент на страната Доналд Тръмп използваше расистки коментари, за да защити своята политическа платформа и политика по отношение на справянето с пандемията, като нееднократно нарече COVID-19 „китайския вирус“ или „вирусът, който разпространиха китайците“. Тогава неговите последователи започнаха да разпространяват активно публикации, в които подкрепят расистката му позиция, в социални мрежи като Instagram, Twitter, Facebook и други, като алгоритмите на всички тези гиганти, които са лидери в разработването на AI системи за модерация, пропуснаха расистките коментари срещу Китай и китайското население, като това доведе до усъмняване в безпристрастността на самите социални мрежи и на дизайнерите на алгоритмите за модериране. В крайна сметка, тогава се повтори същата ситуация, като трябваше човешки модератори ръчно да коригират проблема и да започнат да премахват масово крайни и екстремистки коментари, много от които индиректно призоваваха към насилие и атаки.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
