Генерираните от изкуствен интелект юридически документи провалят съдебната система

Честно казано, кой не е очаквал това да се случи? Правни експерти твърдят, че ще става все по-зле.

Големите езикови модели вече се използват за измами в училище и за разпространение на дезинформация в новинарските репортажи. Сега те навлизат и в съдилищата, подхранвайки фалшивите искове, с които съдиите се сблъскват на фона на голямата натовареност, което поражда нови рискове за правната система, която и без това е натоварена.

В неотдавнашен доклад на Ars Technica се описва подробно решение на апелативния съд в Джорджия, което подчертава нарастващия риск за правната система на САЩ: генерирани от изкуствен интелект халюцинации, които се промъкват в съдебните дела и дори влияят на съдебните решения. В бракоразводен спор адвокатът на съпруга е представил проект на заповед, изпъстрен с цитати на несъществуващи дела – вероятно измислени от генеративни ИИ инструменти като ChatGPT. Първоначално съдът е подписал документа и впоследствие е постановил решение в полза на съпруга.

Едва след като съпругата обжалва, изфабрикуваните цитати излизат наяве. Апелативният състав, ръководен от съдия Джеф Уоткинс, отмени заповедта, като отбеляза, че фалшивите случаи са подкопали възможността на съда да преразгледа решението. Уоткинс не спести думите си, като нарече цитатите възможни халюцинации на генеративния изкуствен интелект. Съдът глоби адвоката на съпруга с 2500 долара.

Това може да звучи като еднократен случай, но през февруари при подобни обстоятелства друг адвокат беше глобен с 15 000 долара. Правни експерти предупреждават, че това вероятно е знак за предстоящи промени. Генеративните ИИ инструменти са известни с това, че са склонни да изфабрикуват информация с убедителна увереност – поведение, обозначено като „халюцинация“. Тъй като ИИ става все по-достъпен както за претоварените адвокати, така и за самопредставилите се страни по делата, експертите твърдят, че съдиите все по-често ще се сблъскват с документи, пълни с фалшиви дела, призрачни прецеденти и изкривени правни разсъждения, прикрити по такъв начин, че да изглеждат легитимни.

Проблемът се усложнява от правната система, която вече е претоварена. В много юрисдикции съдиите рутинно подпечатват заповедите, изготвени от адвокатите. Използването на изкуствен интелект обаче вдига залозите.

„Мога да си представя подобен сценарий във всеки един случай, когато съдията по делото има много работа“, казва Джон Браунинг, бивш апелативен съдия от Тексас и учен в областта на правото, който е написал множество статии за етиката на изкуствения интелект в правото.

Браунинг заяви пред Ars Technica, че според него е „плашещо вероятно“ този вид грешки да станат по-чести. Той и други експерти предупреждават, че съдилищата, особено на по-ниските нива, са зле подготвени да се справят с този наплив от глупости, предизвикани от ИИ.