ИИ вече синтезира доказателства: Готова ли е съдебната система за това?

Новата реалност на правосъдието вече е пред нас.

Шерифът Макс Дорси от окръг Честър, Южна Каролина, разследва голяма конспирация и решава да използва необичаен инструмент – разузнавателната система TimePilot. Програмата е създадена от компанията Tranquility AI, която излезе от стелт режима през февруари, и вече се използва в поне дузина правоприлагащи органи в цялата страна. Дорси обяснява, че съвременните разследвания включват огромни количества данни, които хората физически не са в състояние да обработят. Един-единствен смартфон често съдържа терабайти информация и е почти невъзможно ръчно да се проучи подобно количество информация. TimePilot се грижи за сортирането и анализирането, като помага за бързото намиране на ключовите елементи на даден случай.

Шерифът споделя, че не се доверява на заключенията на софтуера без проверка и винаги сверява резултатите с оригиналните доказателства. Но самата възможност за извличане на обобщение или разкриването на важни връзки за секунди прави системата незаменима за един малък екип от следователи. Според Дорси особено полезно е, че запитването може да бъде формулирано с обща фраза, а отговорът идва под формата на готово резюме, фокусирано върху съответните детайли.

Tranquility позиционира TimePilot като инструмент, който ускорява работата, но не замества хората. В уеб сайта на компанията се посочва ангажимента за етично използване на ИИ и ангажимента за човешки надзор. В неотдавнашен блог се отбелязва, че подобни системи не трябва да изместват преценката, а само да я подпомагат, като данните се използват стриктно по предназначение и са възможно най-анонимизирани. Компанията си партнира и с големия дистрибутор на ИТ решения Carahsoft, което може да разшири многократно обхвата на продукта. Някои правоприлагащи органи са получили безплатен достъп чрез програми за безвъзмездно финансиране.

Други играчи – Allometric и Truleo – предлагат подобни услуги на пазара. Първият от тях твърди, че неговата система AirJustice вече е помогнала за постановяването на осъдителна присъда и се използва не само в прокуратурите, но и в кантората на назначените адвокати. Втората предлага „виртуален криминален анализатор“ и твърди, че само за няколко месеца стотици отдели са се регистрирали за услугата. Абонаментът струва 200 долара на потребител на месец.

Но юристите и организациите за защита на правата на човека предупреждават: използването на изкуствен интелект в наказателното производство крие сериозни рискове. Основната заплаха е, че алгоритмите могат да пропуснат контекста или да не успеят да идентифицират оправдателната информация, а претоварените следователи и прокурори ще разчитат на удобни обобщения, вместо да проучват внимателно доказателствата. Опасността се засилва от факта, че разработчиците не разкриват подробности за обучението на моделите под претекст за запазване на търговската тайна, въпреки че в сектора на правосъдието това повдига въпроси относно отговорността и допустимостта на подобни черни кутии.

Адвокатите напомнят: обобщаването на страниците с протоколи или на часовете видео всъщност е монтаж и ако подобни съкращения изкривяват картината, това се превръща в нарушение на гражданските права. Други юристи изразяват подобно мнение: изкуственият интелект не е обучен да бъде прокурор, той само подбира елементите, които отговарят на дадено искане. Това, което е пропуснато в картината, може да се окаже решаващо за невинността на обвиняемия.

Изследователите от академичните среди също са скептични по отношение на технологията. Професор по наказателно право от Университета на Южна Каролина смята, че спестеното време на практика не е толкова голямо, тъй като все още е необходимо повторно да се проверява всяко заключение. В същото време съществува и перспективата за нов сегмент, който ще има бързо търговско развитие. Други експерти напомнят за така наречения „проблем на структурния пропуск“, когато даден софтуерен продукт създава гладко повествование, но в него може да липсват важни детайли.

Въпреки критиките, първите потребители подчертават практическите ползи от TimePilot. Прокурор от окръг Касия, щата Айдахо, отбелязва, че софтуерът открива необходимите материали за секунди сред хиляди снимки и часове видеоматериали. Полицията в Чоктау, Оклахома, смята, че системата ще бъде полезна при решаването на „висящи дела“, като им позволява бързо да си съставят картината на минали събития. Демонстрационните версии на уеб сайта Tranquility показват как TimePilot анализира доказателства от случая с Бостънския маратон и убийството на Габи Петито, като прави собствени аналитични заключения. Компанията също така декларира, че използването на продукта съкращава преговорите за признаване на вина от един месец на три дни и спестява стотици хиляди долари.

Остава открит въпросът как съдилищата ще се отнесат към резултатите от подобни системи и дали съдебните заседатели и съдиите изобщо ще разберат, че в делото е използван изкуствен интелект. За правозащитниците едно нещо остава ключово: когато става въпрос за лишаване от свобода или заплаха за живота, скритите алгоритми не трябва да заместват процесуалните гаранции. И докато компаниите обещават прозрачност и контрол, адвокатите напомнят за основния конституционен принцип, че никой не може да бъде лишен от свобода без надлежен процес.

И така, налице е съвършено нова ситуация – използването на ИИ за синтезиране на доказателства от правоприлагащите органи, което радикално променя процеса. Остава да разберем каква е готовността на правосъдието и съдебната система да се справят с етиката на ИИ в правото и новите видове доказателства с ИИ.