Технология за разпознаване на лица сметна политици за престъпници

Активисти демонстрираха на Amazon защо не са прави.

Спомняте ли си Rekognition, AI системата на Google за визуално разпознаване? Около нея се разшумя наскоро, когато стана ясно, че Amazon я продават на полицейските управления в Щатите. През май, правозащитни организации излязоха с открито писно, с което призоваваха Amazon да спре да я продава на силовите агенции, тъй като тя може съвсем успешно да се използва като инструмент за преследване и тормоз и доближава държавата до тоталитарно състояние. Технологията съвсем не е безгрешна и това допълнително може да доведе до немислими последици. Доказаха го от Американския съюз за граждански права (American Civil Liberties Union, ACLU).

Организацията съпоставила две бази данни – едната с 25 000 снимки от ареста на престъпници и друга съдържаща 535 снимки на американския Конгрес. Те били вкарани в системата на Rekognition, която посочила 28 от законотворците като престъпници. „Грешните засичания са непропорционално спрямо другите, снимки на хора с различен цвят от белия кожа, в това число шест члена на „Конгресната черна коалиция“, сред които и легендата в борбата за човешки права и член на републиканската партия Джон Луис“, обясняват ACLU, които призовават американските конгресмени да се присъединят към коалицията за налагане на мораториум над използването на технологията от органите на реда. Освен това, добавят те, 40% от тези грешни засичания са именно на хора с различен цвят на кожата, докато в самия Конгрес те съставляват едва 20% от всички представители.