Полицията в Ню Джърси е подложена на обстрел, след като погрешно обвини и арестува заподозрян, единствено на базата на информация от дефектен софтуер за разпознаване на лица, който оттогава е забранен за използване в щата.
Nijeer Parks е бил изненадан да научи през януари 2019 г., че полицията в град Уубридж е издала заповед за арестуването му за поредица от престъпления, включително няколко кражби и тежки нападения. Парк казва пред NJ Advance Media, че никога през живота си не е бил в този град, но когато отива в полицейското управление, униформените го арестуват незабавно.
По-късно той научава, че полицията го е идентифицирала като заподозрян, използвайки спорния софтуер за разпознаване на лица Clearview Al – разкривайки как прекомерното разчитане на дефектни полицейски алгоритми може ефективно да обвини невинни хора в тежки престъпления.
Тъй като има изключително много проблеми с точността на софтуера и начина, по който той се сдобива с изображения за своето обучение (от социалните мрежи, използвайки снимки на нищо неподозиращи хора), NJ Advance Media съобщават, че държавният прокурор на Ню Джърси Гурбир Гревал е наредил на ченгетата да спрат да използват технологията през януари 2020 г. – почти цяла година, след като Парк е арестуван.
Разполагайки единствено с информацията и съвпаденията, подадени от софтуера за лицево разпознаване, полицията започва да разпитва Парк в стаи без камера, задържа го в ареста в продължение на десет дни и започва едногодишна правна битка с него, която стопява всичките му спестявания, тъй като услугите по адвокатска защита никак не са евтини. В крайна сметка, съдът постановява, че прокурорите не могат да задържат повече Парк и да го обвиняват, докато не се снабдят с реални, осезаеми доказателства срещу него, с каквито не разполагат.
Сега Паркс заведе дело за граждански права срещу полицейския директор и кмета на Уубридж, както и прокуратурата на окръг Мидълсекс и окръжния затвор.
„Грешното идентифициране се основава единствено на информация от софтуера за разпознаване на лица, която в момента е незаконен и винаги се е знаело, че е дефектен“, заяви адвокатът му Даниел Секстън пред NJ Advance Media. „Нито едно фактическо доказателство не може да подкрепи обвиненията срещу моя клиент. Няма пръстови отпечатъци, следи от кръв или ДНК.“
Въпреки че технологията е забранена в Ню Джърси, надяваме се всички правни органи по света да предотвратят появата на подобни ужасни случаи – цялото изпитание разкрива какво се случва, когато дефектните алгоритми са оставени да отговарят за живота на хората, особено когато са разработени от компании, които не познават понятието „поверителност“, използвайки незаконно данни и снимки на потребители от социалните мрежи, и незачитащи нищо друго, освен собствената си печалба.