Защо лицевото разпознаване винаги има расистки предразсъдъци?

18
715

Когато Amazon обяви въвеждането на едногодишна забрана за използване на инструментите ѝ за лицево разпознаване от служителите на реда и полицията, компанията призова правителствата по света да приемат по-строги регулации в областта на технологиите, особено за тези, които се използват в правоприлагането. На фона на действията на един от най-големите инвеститори в областта на лицевото разпознаване и биометрично идентифициране, Дебора Раджи, изследовател от чернокож произход, публикува влиятелно проучване, посочващо расовите и половите пристрастия на системата за разпознаване Rekogservation на Amazon, която се използва от много компании и правителства по света.

В официалното си изявление за въвеждането на едногодишната забрана за използване на технологията, Amazon никъде не споменава работата на Раджи, която установява, че Rekogservation е идентифицирала в 19% от случаите неправилно женски лица като мъжки.

„Amazon въвежда този мораториум, но не се позовава на нашата работа или на работата на ACLU, изглежда просто им е много неприятно да признаят ролята на нашето изследване за това решение. Преди да разгласим откритията си, от компанията нямаха никакви съмнения за работата на технологията им за лицево разпознаване“, коментира обстоятелствата самата Дебора Раджи.

Само два дни по-късно, друг сериозен инвеститор и производител на технологии в областта, IBM, обяви решението си да напусне пазара на технологии за лицево разпознаване. Изпълнителният директор на компанията Арвинд Кришна написа в писмо до Конгреса, че компанията е против тези технологии за момента, тъй като са използвани от служителите на реда за расово профилиране и масово наблюдение, като активисти за обществените права и борбата с дискриминацията алармират за това от години.

Започва да се очертава следната картина: компаниите най-накрая следват съветите и препоръките на експертите, които предупреждаваха за опасностите от пристрастия при използването на технологии за лицево разпознаване, особено когато те участват в масово наблюдение или мониторинг на големи групи от хора.

Но те също не отдават необходимото внимание и не признават значението на работата на експерти от цветнокожи общности, които всъщност първи са започнали да откриват и да говорят за този наболяващ проблем в технология свят. Например решението на IBM за оттегляне от сектора не се появи просто така от нищото – в техните системи за лицево разпознаване са открити редица проблеми от изследователите Джой Буоламвини и Темнит Гебру, в изследователски доклад от 2018 г., озаглавен „Сенки на пола“.

Изследователската публикация изиграва основна роля в националната конференция за лицево разпознаване, която имаше пряко отношение върху използването на технологията и вземането ѝ предвид от федералните законодатели и местните правоприлагащи служители. Amazon е добре запозната с работата на изследователите – компанията направи призива си до световните правителства дни след като споменатите по-горе изследователи публикуваха своите открития пред широката общественост.

„Когато направим крачка напред, почти никога не се споменават имената ни. Много е обезкуражаващо да виждате проблемите, да ги изследвате, да информирате за тях, но да не бъдете подкрепени по никакъв начин, а работата ви да има значение единствено за решенията, които компаниите вземат“ каза Раджи.

Лицевото сканиране и разпознаване посредством изкуствен интелект и машинно обучение винаги е било технология, която е будела много съмнения относно поверителността и надеждността ѝ, когато бива прилагана за чернокожи граждани. Популярният технологичен портал CNET е провел интервюта с чернокожи защитници на поверителността и изследователи, които казват, че често са се чувствали игнорирани или нечути, когато са вземали участие в обсъждания по въпроси за поверителността.

Цитирането на академичните работи, когато се вземат важни решения е важно, но признаването на общественото застъпничество е от решаващо значение за привличане на бъдещи изследователи и финансирането им в този сложен обществен въпрос за приложението на технологиите. Освен това, чуването на гласовете на експертите, които ранно алармират за открити от тях проблеми помага да разработчиците и компаниите да избегнат допускането на грешки в технологичните им разработки, които могат да имат тежки последици върху много хора.

„Това, което хората не осъзнават, е че непризнаването на труда на експертите, ни лишава от колективния интерес и желание в тази област“, казва Мутале Нконде, изпълнителен директор на Al For The People, организация с нестопанска цел, с дейност по обучаване на чернокожи граждани в сферата на изкуствения интелект и социалната справедливост. „Тези технологии се използват за решаване на въпроси като това дали на даден човек да му бъде разрешен или отхвърлен банков кредит. С проблемите си, системите за лицево разпознаване укрепват теорията, че единствените хора, които могат да движат света са богати, бели мъже.“

Технологиите за наблюдение се превръщат в основен обществен въпрос сега благодарение на стотиците протести срещу полицейската бруталност и призиви за обезсилване на полицията след смъртта на Джордж Флойд, причинена от полицейски служител в края на май. Множеството инструменти за надзор и масово наблюдение, които полицията използва, сега са насочени срещу протестиращите, но от години биват използвани срещу маргинализирани общности и малцинствени групи.

Промяната би могла да означава, че големите реформи в полицията на САЩ, като Закона за правосъдието, въведени от Демократичния парламент, трябва да включват ограничения на масовото наблюдение, като забрана за използване на технологии и системи за лицево разпознаване от полицейските органи без издадена съдебна заповед. Това политическо предложение идва благодарение на ефектите и значението на работата на изследователи като Буоламвини, Раджи и Гебру и от опасенията, повдигани от общностите, които са най-засегнати от расовите предразсъдъци на тези системи.

Групи като Mijente, които се борят за гражданските права, отдавна призовават Amazon да прекрати партньорството и съвместната си работа с агенцията за имиграция и митническо правоприлагане на САЩ, повдигайки опасения как тяхната технология се използва за проследяване и арестуване на имигранти.

„В исторически план маргинализираните общности са били най-проучвани и са нанесени твърде много вреди срещу тях именно заради подобни форми на масово наблюдение“, казва Крис Гилеард, преподавател по английски език в Macomb Community College, който изучава институционалната технологична политика за поверителност. „Не е изненадващо, че експертите, които са най-гласни, най-активни и говорят най-отрано са представители на дискриминираните общности.“

Расовите пристрастия и масовото наблюдение

Цветнокожите общности, особено тези в районите на САЩ с по-ниски доходи, често служат като „опитни мишки“ на технологии за масово разпознаване и наблюдение. И по-голямата част от тези технологии и оборудването за тях се финансират именно от данъкоплатците в тези райони и се монтират от полицията, при това в определени квартали.

„Опитът ми показва, че винаги досега системите за масово наблюдение, използвани от органите на реда, най-често допускат грешки, които имат значително последици, сред чернокожите граждани.“

В Детройт през 2016 г. полицията внедрява Project Green Light, публично-частна технологична система, благодарение на която служителите на полицията имат достъп до заснемане в реално време от камери от бизнес парковете в града. Камерите вече са на повече от 500 места из града, който има 80% чернокожо население.

Разпознаването на лица сега се предлага като лукс за жилищните сгради, но в Ню Йорк вече активно се инсталират подобни системи в сградите, в които се отдават апартаменти под наем. Така в Бруклин наемателите Фабиан Роджърс и Тране Моран отстраниха инсталираните системи за лицево разпознаване от своя жилищен комплекс, поради опасения за поверителността.

„Ние сме последните хора, с които разговарят, когато се обсъждат въпросите за поверителността и предразсъдъците при тези системи, но първите хора, върху които изпробват тези програми“, коментира Тране Моран, бруклински активист срещу лицевото разпознаване и масовото внедряване на системи за лицево разпознаване от органите на реда.

Двамата с Фабиан са имали личен опит с технологиите са обществено наблюдение в своите домове и са сред първите в страната, които показаха на компаниите, органите на реда и обществеността, че имат пълното право да откажат да бъдат следени и наблюдавани. Когато кампанията им срещу масовото наблюдение за първи път стартира, Моран очакваше притесненията им и въпросите, които повдигат около безпристрастността и безопасността на лицевото разпознаване да бъдат игнорирани.

Победата в битката срещу масовото следене и лицевото разпознаване в жилищната им сграда беше един от първите пъти, когато общественият натиск срещу подобни инструменти промени политиките и общинските решения за подобни действия, като очевидно този път в решаването на тези въпроси бяха включени и самите засегнати.

„Доста революционно е една общност от наематели да се събере и да каже: „Това не принадлежи на нашето жизнено пространство!“, каза Гилеард. „Не мисля, че някога това действие ще бъде оценено и ще получи признанието, което заслужава.“

Доскоро системата за лицево разпознаване и наблюдение на Amazon имаше над 1000 полицейски партньорства, като системата Amazon Ring например започва с пилотна програма в квартал в Лос Анджелис, където повечето от половината от жителите са от малцинствени групи.

Откакто това стана нашумял обществен факт, вратите на видеонаблюдението и многото партньорствата на технологичния гигант са изправени пред сериозни обществени критики и надзор от страна да депутатите на САЩ, но първите критици на тези системи са не кои и да е, а отново Гилеард и Нконде, но много от техните действия по това време отново са били игнорирани.

Нконде си припомня посещение преди две години в дома на негов приятел, който има звънец на врата Amazon Ring и камера за наблюдение, насочена към посетителите, намиращи се пред входната врата. По онова време е имало криминално разследване в квартала и полицията е поискала видео кадри от собствените камери на жителите в района. Тогава се е наложило Нконде да даде показания. По-интересното е, че той е бил със своя син, който също е бил заснет от Amazon Ring и е и присъствал в предадените на органите на реда записи. Именно тогава започват и опасенията на Нконде, но неговите приятели не разбират за какво точно се притеснява…

„Приятелите ми не разбраха защо е толкова голям проблем, че снимката на детето ми ще попадне в тази база данни, само защото е присъствало на тези кадри. Имах наистина сериозен проблем с това да им обясня защо смятам това за нередно“, казва Нконде.

Инерция за промяна

Въпреки че са първите, които разпознават и говорят за проблемите с масовите наблюдения и расистките пристрастия на алгоритмите, стоящи зад системите, които обслужват тези технологии, защитниците на неприкосновеността на личния живот на чернокожите заявиха, че не се чувстват чути, когато повдигат тези проблеми.

Притесненията около наблюдението и личната неприкосновеност са по-нашумели от всякога с призиви за реформи в полицията, но самите активисти дълго време се чувстват нечути, когато повдигат обществени дискусии за тези проблеми, като казват, че аргументите по време на обществените дебати по темата не са съгласувани.

„Чернокожите групи имат прекалено много опит с проблеми, от които сме лично засегнати и говорим за тези проблеми, но те няма как да бъдат чути и достигат до широката общественост, само когато някой извън нашата расова група им придаде гласност и подсили изказванията ни и ги разпространи в мейнстрийма по начин, по който те могат да бъдат приети, без да бъдат игнорирани. Когато заглушите гласа на чернокожите и афроамериканците, които имат най-критично значимо мнение относно рисковете около неприкосновеността им при използването на технологии пряко върху тях, вие напълно поругавате смисъла на обществените дискусии.“

Едногодишният отказ на Amazon да предлага системите си на правоприлагащите органи и полицията съвсем спокойно може да ви се стори като навременен, но всъщност може да се окаже, че това е само ограничен ход. В САЩ дори беше внесено предложение за закон, който въвежда ограничения за използването на технологии и системи за разпознаването на лица само за федерални разследвания, ограничавайки обсега им и запазването на неуязвимостта на милиони имигранти в САЩ, които в момента попадат под зоркото им наблюдение.

2.2 5 гласа
Оценете статията
Абонирай се
Извести ме за
guest
18 Коментара
стари
нови оценка
Отзиви
Всички коментари