Расова пристрастност в цифровия съд: какво разкрива проучването на Cornell?

Учени откриха как изкуственият интелект оценява риска от повторни престъпления – рецидив.

В бъдеще изкуственият интелект неминуемо ще трябва да взема решения, свързани с висок риск. Група учени от университета „Корнел“ и други научни институции решиха да проверят способността на съвременните големи езикови модели да предвиждат вероятността от повторни престъпления.

Системата COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) вече се използва в САЩ за оценка на риска от повторно извършване на престъпление, но резултатите от нея са противоречиви. Алгоритмите на системата прогнозират вероятността от повторно извършване на престъпление въз основа на фактори като броя на присъдите, тежестта на престъплението и възрастта на обвиняемия. През 2016 г. проучване на ProPublica установи, че COMPAS е по-склонна да идентифицира чернокожите като потенциални рецидивисти, дори когато те имат сходно криминално минало с хората от другите раси.

За да проверят способността на изкуствения интелект да прогнозира рецидивизма, изследователите са използвали комбиниран набор от данни от три източника. Първият източник е информация от системата COMPAS, включваща скала за оценка на риска от рецидив, която варира от 1 до 10 точки. Вторият източник са резултатите от проучване сред 20 души, които са оценявали вероятността от рецидив. Третият източник е базата данни Chicago Face Database, която съдържа снимки на хора от различни полове, етноси и възрасти. При анализа са взети предвид фактори като пол, възраст, раса, брой предишни тежки престъпления и тежест на престъпленията.

Тестването беше извършено с четири езикови модела: GPT 3.5 Turbo, GPT 4o, Llama 3.2 90B и Mistral NeMo (12B). Изследователите стигнаха до заключението, че езиковите модели и COMPAS не превъзхождат хората по отношение на точността на прогнозиране на рецидива. Въпреки това ИИ моделите по-често са правили прогнози от хората и системата COMPAS, макар и не винаги с по-голяма точност. За разлика от хората, точността на прогнозиране на езиковите модели намалява при липса на информация за расата. Когато тези данни са налични, броят на фалшиво положителните прогнози значително намалява. Сред всички тествани модели GPT 3.5 Turbo показа най-висока точност.

Когато към анализа бяха добавени снимки на обвиняеми от базата данни Chicago Face Database, резултатите на ИИ моделите се подобряват, но точността все още остава по-ниска от тази на хората. Едно от ключовите открития е, че езиковите модели са постигнали по-добри резултати както от хората, така и от системата COMPAS, когато са имали достъп до резултатите от предишни решения чрез механизъм за контекстуално обучение.

Интересно е да се отбележи, че наличието на информация за расата намалява броя на фалшивите положителни прогнози за обвиняеми от чернокож и латиноамерикански произход. Въпреки това процентът все още остава по-висок, отколкото при белите обвиняеми. Най-добри резултати са постигнати, когато в анализите са включени едновременно и снимки на обвиняемите, и информация за тяхната раса.