Скандал с AI в полицията: разпознаването на лица обвинено в расово пристрастие

Изкуственият интелект отново поставя под въпрос границата между ефективността и справедливостта. Полицията в английското графство Есекс временно прекрати използването на системи за разпознаване на лица в реално време, след като независим анализ установи потенциално пристрастие в алгоритмите. Решението идва въпреки факта, че технологията показва висока точност и реални резултати в борбата с престъпността.

Какво показва изследването

Системата Live Facial Recognition (LFR) е била тествана в реални условия с участието на близо 200 доброволци от изследователи на Кеймбриджкия университет. Данните показват, че алгоритъмът е с 27% по-вероятно да разпознае правилно чернокожи лица в сравнение с други етнически групи и с 31% по-ефективен спрямо бели хора. Освен това технологията идентифицира мъже с 14% по-често от жени.

Тези резултати не означават непременно грешки, а по-скоро различна ефективност при различните групи. Именно това поражда въпроси за равнопоставеността при използването на подобни системи в реални полицейски операции.

Висока ефективност и реални резултати

Въпреки притесненията, технологията демонстрира впечатляваща ефективност. Между август 2024 г. и февруари 2025 г. са сканирани около 1.3 милиона лица, което води до 123 полицейски намеси и 48 ареста. Регистриран е само един случай на погрешна намеса, което подчертава колко рядко системата допуска грешки.

От властите подчертават, че изображенията на хора, които не съвпадат със списъците за наблюдение, се изтриват автоматично и незабавно. Използването на технологията също е ограничено във времето и се прилага само при конкретни операции.

Корекция на алгоритмите и бъдещи планове

След резултатите полицията в Есекс спря временно системата и започна работа с разработчиците за подобрение на алгоритмите. Второ изследване вече показва, че проблемът с пристрастията е бил коригиран, а от институцията заявяват, че са готови да възобновят използването ѝ.

В същото време Великобритания продължава да разширява внедряването на подобни технологии. До края на 2025 г. 13 полицейски служби вече използват LFR, а броят на мобилните системи се очаква да нарасне значително. Правителството инвестира и 115 милиона паунда в нов център за изкуствен интелект – Police.AI, който ще подпомага внедряването на нови технологии в сигурността.

Технологията между сигурността и доверието

Случаят показва колко сложен е балансът между ефективността на изкуствения интелект и общественото доверие. От една страна, системите за разпознаване на лица доказват, че могат да бъдат мощен инструмент за полицията. От друга – дори малки отклонения в начина, по който работят, могат да породят сериозни въпроси за справедливостта.

В този контекст дебатът вече не е дали тези технологии трябва да се използват, а как да се гарантира, че го правят по начин, който е еднакво справедлив за всички.