Система за лицево разпознаване в Детройт отново дискриминира цветнокожо момиче

12
1059

Общественото недоволство срещу системите за разпознаване на лица се засили тази седмица в САЩ, след като родителите на чернокожа тийнейджърка съобщиха, че обмислят да заведат съдебни искове срещу компания, притежаваща пързалка с ролкови кънки в Детройт, обвинявайки я, че е отказала достъп на тяхната дъщеря въз основа на расово профилиране. Достъпът до пързалката е бил отказан на тийнейджърката Ламя Робинсън миналата събота, тъй като системата за лицево разпознаване на входа на комплекса ѝ е отказала достъп, след което ѝ е било казано, че това се случва, защото е участвала в публично сбиване. По-късно става ясно, че всъщност софтуерът за лицево разпознаване на входа на пързалката погрешно е идентифицирал Робинсън като друго момиче.

„За мен това е расово профилиране“, каза майката на момичето, Джулсия Робинсън. „Просто системите решават, че всяко младо момиче от чернокож произход с очила отговаря на определен насилнически профил, което е неправилно“, гласи нейният коментар.

Членовете на семейство Робинсън заявиха пред местната телевизия WJBK, че са благодарни, че охраната на пързалката и управителите на обекта все пак са постъпили сговорчиво, като са успели да установят грешката в софтуера за лицево разпознаване и не са извикали полиция, но бащата на Ламя казва, че използването на въпросната система за лицево разпознаване все още излага на риск достъпа до увеселителния комплекс за много други американски тийнейджърки, които могат да се почувстват като обект на расово профилиране и несправедливи обвинения.

„Бях толкова объркана, защото никога досега не съм била там. Когато не ме допуснаха, защото съм била участвала в предишно сбиване, бях като: Това не съм аз. Кой е това?“, коментира Ламя пред местната телевизия.

В изявление на представителят на компанията Riverside Arena, която поддържа пързалката, се казва, че грешката е станала, защото софтуерът за лицево разпознаване е установил 97% съвпадение между снимките на предишна тийнейджърка, която е участвала в сбиване на територията на комплекса, и снимките на Ламя. Представителят на компанията публично се извини на семейството на Робинсън, казвайки, че грешката не е продукт на техни расови пристрастия или други лични съображения на охраната на комплекса в този ден, а е била базирана единствено на резултатите от системата за лицево разпознаване.

Проучванията в действителност показват, че почти всички известни на пазара в момента системи за лицево разпознаване допускат по-висок процент на грешки при разпознаването на лицата на хора от цветнокож произход, като често не откриват разликите между две отделни лица. През месец май Amazon спря да предлага своята система за лицево разпознаване, която беше насочена към правоприлагащите органи и служи, като за неопределено време удължи своя предишно приет мораториум за прекратяване на предлагането на системата, на фона на обществения протест срещу грешките на системата.

Грешката в пързалката на Riverside Arena е последният случай, в който системи за лицево разпознаване погрешно идентифицират човек от чернокож произход, като грешката отново е струвала личен дискомфорт, унижение и е довела до усещане за расови предразсъдъци в обществото. Последните призиви за действия по ограничаване на използването на системи за лицево разпознаване за вземането на ключови решения, които демонстрират евристични предразсъдъци по отношение на расата на чернокожите и други цветнокожи общности, призовават редица търговци, общински органи и правоприлагащи органи да спрат да използват подобни недоказани и недостатъчно добре обучени и изпитани системи с алгоритми.

В интервю за популярния технологичен портал ZDNet, директор на асоциацията „Борба за бъдещето“ Кейтлийн Сийли Джордж заяви, че ситуацията, в която е изпаднала Ламя, илюстрира много добре „точно защо смятаме, че системите за разпознаване на лица трябва да бъдат забранени публично на някои места и за някои цели.“

Законодателството, което забранява използването на системи за разпознаване на лица в САЩ, вече е прието в някои щати и градове, като през тази година броя на приелите го административни центрове се очаква да се увеличи значително, а някои съдебни дела, касаещи ситуации, подобни на тази на Ламя, които предстои да бъдат разгледани и отразени в обществеността, навярно ще имат своята тежест върху вземането на ключовото решение за бъдещето на системите с лицево разпознаване в някои региони.

Припомняме, че през последните месеци редица съдилища в САЩ бяха разкритикувани, че използват системи с лицево разпознаване за идентифициране на вероятността за виновност на подсъдими субекти по дела, които само заради чернокожия си произход, са получавали по-висока оценка за вероятна виновност от системите с лицево разпознаване, което беше емпирично доказано и се дължи отново на значително по-висок коефициент на грешка при лицевото разпознаване на чернокожи и азиатци. Полицейските органи в щати като Флорида и Мичиган също спряха експлоатацията на поръчани системи за лицево разпознаване, след като беше установено расово пристрастие и сред тях, а гражданите на много административни области в Америка, в момента протестират срещу плановете за внедряване на камери и охранителни системи с лицево разпознаване в техните жилищни сгради – като в много от случаите активистите не попадат в расовите групи, които са дискминирани от недобре конструираните AI системи. Президентът на САЩ Джо Байдън също даде индикация, в началото на своята администрация по-рано тази година, че смята, че системите за лицево разпознаване имат бъдеще, но на този етап прилагането им трябва да става предпазливо. 

1 8 гласа
Оценете статията
Абонирай се
Извести ме за
guest
12 Коментара
стари
нови оценка
Отзиви
Всички коментари