Специалистите на YouTube търсят насилие в клиповете, а ИИ наблюдава и се учи

Всеки ден стотици хора в САЩ, а навярно и в други държави включват своите компютри и започват да гледат YouTube. Те не правят това за удоволствие, точно обратното. Хората може и да не харесват тази работа, но трябва да гледат клиповете и да търсят ненавистни изрази в субтитрите и думите, които да отбележат като „оскърбителни“ или „деликатни“. Всичко това се прави за да не се допусне рекламата на някой голям работодател в подобен клип, след което да бъде обвинен в поддръжка на расизма и т.н. Това е сериозно и с този проблем се сблъскаха Walmart, PepsiCo и Verizon.

YouTube и Google неотдавна се оказаха в центъра на скандал, заради действията на маркетолога Ерик Файнбърг (Eric Feinberg), който си постави за цел да изкорени злото в интернет, а именно – разпространяването на клипове и сайтове на най различни онлайн общности, съдържащи ключовите думи „Избийте евреите“ и някои други. Файнбърг започна да публикува линкове и скрийншотове на подобни сайтове, както и на клипове от YouTube, чрез които се правят сериозни пари от публикуването на реклами до видеа с расистки титри и изрази. Благодарение на активиста, този проблем излезе на ниво национални медии и се появиха множество примери на реклами в непосредствена близост до псувни, клевети, расистки изявления и други подобни.

YouTube се принуди да засили проверките на материалите до които има реклами. Google обеща в своя официален блог, че ще назначи нови модератори, които ще следят за подобни прояви.

Google сдържа обещанието си и нае голям брой временни работници (темпъри) чрез ZeroChaos и други агенции за временен персонал. Те работят отдалечено в домовете си, гледат клиповете в YouTube и отбелязват и класифицират материалите.

Естествено, дори и хиляда „темпъри“ няма как да изгледат всички видеоклипове, понеже според последната статистика, в YouTube се качват по 400 часа видео в минута или около 600 000 в денонощие. Ако предположим, че за оценката на един материал трябва да се изгледат 10% от неговата дължина, то тоталната модерация ще изисква 7500 служителя, работещи на смени по 8 часа – (600 000/10)/8=7500). На подобен персонал трябва да се плаща по $1 милион дневно.

Логично, Google гледа на белтъчния персонал като на временно решение преди интегрирането на нормална силициева система с ИИ, която качествено ще класифицира клиповете. Всъщност, в момента „темпърите“ обучават невронната мрежа чрез своята работа. Новият ИИ наблюдава тези примери и се учи кои от тях са „оскърбителни“ и кои – „деликатни“

Ерик Файнбърг бе казал, че след дългогодишни изследвания е „съставил база данни от хиляди думи и фрази, които са свързани с тази гнусна активност“. Така например, една от тези думи е сръбската дума „ханва“, която корелира с активността на джихадистите. Файнбърг счита, че на Google ще му трябва много време, за да състави подобно база и е най-добре да я купи от него.

Но Google реши да поеме по свой път. Мениджърът по продажбите на интернет гиганта Филип Шиндлер (Philipp Schindler) каза в интервю за Bloomberg, че „Проблемът не може да бъде решен от хората и не трябва да бъде решаван от хора“.

Самите временни служители много добре знаят, че тренират ИИ, но много от тях считат, че изкуственият интелект не може да се справи с тази задача, понеже класифицирането на тези материали е твърде тънка работа. Необходими са човешки очи и човешки мозък, за да се определи, кое точно е оскърбително.

Но Google не мисли така и въведе нови правила в работата на модераторите. Сега приоритетите са променени и фокусът е поставен върху точността. YouTube модераторите използват най-различни методи за икономия на времето: бързо сканират титрите, превъртат видеото на части от по 10 секунди, използват таймери, отчитащи времето на работа и други подобни. Но работата изобщо не е лесна, понеже не може даден клип просто да бъде спрян, а трябва да бъде класифициран по категории: „Неподходящ език“ (подкатегории: ругатни, разпалване на омраза), „Жестокост“ (тероризъм, война и конфликти, смърт, трагедия и други), „Наркотици“, „Секс/разголване“ (подкатегории: оскърбление, голота и други). Модераторът трябва да указва и „друг деликатен материал“, ако е показано провокативно сексуално видео или „сензационен шокиращ материал“. Някои клипове не се вписват в тези категории и модераторите се затрудняват. Особено трудно е, когато хората говорят на чужд език (Google активно набира модератори, владеещи чужди езици).

Google редовно използва и тестови видеа с предварително ясни отговори, за да тества работата на модераторите.

Самите модератори споделят, че вече са се нагледали на всичко: самоубийства и такива жестокости, че им трябват няколко часа за да дойдат на себе си.

След началото на програмата за класифициране и съставяне рейтинга на клиповете през 2004 година, за тежкия труд на хората агенцията ABE плащаше на модераторите $20 на час. Ако нервите са здрави, може да се работи и допълнително. След това ABE закупи WorkForceLogic, която през 2012 година погълна ZeroChaos.

Сега работните условия на YouTube модераторите се влошиха: заплащането бе понижено до унизителните $15 на час, а максималната работна седмица бе ограничена до 29 часа. Тези хора нямат платен отпуск и могат да изгубят работата си всеки момент. И най-печалното е, че със всеки изминал ден те приближават момента на своето уволнение, понеже самите те тренират машината да върши тяхната работа.