„ChatGPT лъже? За първи път го чувам!“ – Адвокатите повтарят едно и също оправдание пред съда

Адвокатите са измислили цял асортимент от „оправдания“ за фалшивите цитати от изкуствения интелект в своите документи. Досега нито едно от тях не е помогнало да се измъкнат.

В Калифорния апелативният съд е издал показателно решение срещу адвокат, който е подал документи с фалшиви цитати, създадени с помощта на ChatGPT, Claude, Gemini и Grok. Съдът установи, че почти всички цитати в жалбата му са измислени, и му наложи глоба от 10 000 долара, което е рекорден размер за подобни случаи. В мотивите на решението се подчертава, че тази присъда трябва да бъде предупреждение за адвокатите: те самите носят отговорност за използването на генеративен ИИ и възможността за използване на „халюциниращи“ системи не може да бъде пренебрегвана.

Адвокатът обясни, че не е знаел за склонността на невронните мрежи да си измислят източници и не е проверявал ръчно материалите. Той се призна за виновен, като добави, че вече е преминал обучение, за да изключи подобни грешки в бъдеще. Съдиите обаче отбелязаха, че изкуственият интелект е повсеместно разпространен в юридическата професия и когато се използва небрежно, фалшивата съдебна практика и неверните цитати заливат съдебната система в цялата страна.

Изданието 404 Media прекара месеци в проучване на съдебни документи и откри десетки подобни истории. За анализа е използвана базата данни на изследователя Деймиън Шарлотен, в която вече са събрани повече от 410 дела по целия свят, включително 269 в САЩ. Обикновено в подобни бази данни се записват самите санкции, но журналистите се съсредоточиха върху оправдателните присъди на адвокатите. За целта им се наложило да издирят тежки федерални и щатски архиви, да закупят копия на документите и да потърсят обяснения в „отговорите на съдебните искания“.

Оправданията, които дават адвокатите, са разнообразни. Някои обвиняват кратките срокове и претовареността с дела, други се позовават на болести или семейни трагедии. Има и такива, които прехвърлят вината върху асистентите и хората на свободна практика. Има и по-екзотични аргументи – от „експерименти с изкуствен интелект“ до препратки към системни сривове, прекъсвания на интернет или заразяване със зловреден софтуер.

Общото между всички тези истории е, че адвокатите все по-често се оказват в ситуация, в която едновременно са подложени на натиск да работят по-бързо, да поемат повече дела и да отговорят на очакванията на клиентите, които изискват незабавни резултати.

Нищо от това обаче не ги оправдава по никакъв начин. Всеки професионален юрист трябва априори да внимава да проверява фактите и да се увери, че формулировките са точни. Сега много адвокати често са по-небрежни от клиентите си, като поверяват важни документи на машина, като дори не си правят труда да проверят два пъти.

Нещо повече, генеративните AI услуги постепенно се превръщат не просто в помощен инструмент, а в ежедневна част от юридическата рутина. Те вече са вградени в познатите бази данни и справочни системи, предлагат се като готови решения от различните стартъпи и се приемат за даденост. Но колкото по-естествена изглежда употребата им, толкова по-голям е рискът грешките на невронните мрежи да се промъкнат незабелязано в процеса, да подкопаят доверието в самата професия и да поставят под въпрос качеството на юридическата работа.

В допълнение към ChatGPT, Claude и Gemini, адвокатите споменават Grok, Perplexity и дори вградените възможности на Westlaw и LexisNexis. На пазара има десетки стартъпи, които предлагат автоматизирани асистенти за адвокати. Но статистиката на Дамиен Шарлотен показва: именно използването на общи системи без проверка най-често води до катастрофални последици – от санкции до застрашаващи кариерата последици.

През изминалата седмица изследователят е регистрирал още единадесет нови случая. Ситуацията се променя толкова бързо, че дори опитните юристи нямат време да следят новите скандали. Американската съдебна практика вече се формира в среда, в която използването на генеративен изкуствен интелект вече не е изключение, а всяка непредпазлива стъпка се превръща в риск за репутацията и лиценза.