Obie strony w sądzie używały AI. Sędzia odwołała proces i wyrzuciła wszystkich prawników

Po wykryciu fikcyjnych cytatów prawnych wygenerowanych przez narzędzia AI proces został wstrzymany, wszyscy pełnomocnicy usunięci ze sprawy, a część z nich otrzymała zakaz występowania przed sądem przez dwa lata oraz obowiązek odbycia kursu dokształcającego z zakresu AI.

AI po obu stronach sali sądowej

Jak podaje serwis Futirism, sprawa dotyczyła sporu o honorarium adwokackie pomiędzy prawnikiem Tomem Withersem III a władzami miasta Aberdeen w stanie Missisipi. Withers nie reprezentował się sam – w jego imieniu działali zewnętrzni pełnomocnicy. W trakcie postępowania sąd odkrył, że pisma procesowe składane zarówno przez stronę powodową, jak i pozwaną zawierały nieistniejące orzeczenia oraz błędne cytowania wygenerowane przez systemy sztucznej inteligencji.

Sędzia senior Sharion Aycock z Sądu Okręgowego Północnego Dystryktu Missisipi określiła sytuację jako wyjątkową, podkreślając, że po raz kolejny sąd musi zajmować się halucynacjami AI w dokumentach procesowych. W swoim postanowieniu wskazała, że prawnicy obu stron dopuścili się podobnych naruszeń.

Prawnicy przyznali się do korzystania z generatywnej AI

Podczas rozprawy przedstawiciele obu stron przyznali, że wykorzystywali narzędzia generatywnej sztucznej inteligencji. Kathryn Williams używała narzędzia AI do prowadzenia badań prawnych, natomiast Kathleen Wilson – do przygotowania projektu pisma procesowego. Problem polegał na tym, że żadna z nich nie zweryfikowała wygenerowanych przez system cytowań przed złożeniem dokumentów do sądu.

Wilson twierdziła, że nie wiedziała, iż AI może halucynować źródła i że w ogóle nie znała tego pojęcia. Sędzia Aycock uznała to wyjaśnienie za „niewystarczające i niewiarygodne”. Sąd ustalił również, że pozostali dwaj prawnicy pełniący funkcję lokalnych pełnomocników nie sprawdzili składanych pism przed ich wysłaniem. Zdaniem sędzi obowiązek weryfikacji treści złożonych dokumentów spoczywa na prawnikach i nie może zostać przeniesiony na narzędzia technologiczne ani współpracowników.

Proces odwołany, zakazy i grzywny

Konsekwencje okazały się dotkliwe. Sędzia usunęła wszystkich czterech prawników ze sprawy, co zmusiło strony do znalezienia nowych pełnomocników. W efekcie zaplanowany proces został odwołany i wstrzymany do czasu dalszych decyzji proceduralnych.

Dwie prawniczki bezpośrednio odpowiedzialne za wykorzystanie AI – Wilson i Williams – otrzymały zakaz występowania przed Sądem Okręgowym Północnego Dystryktu Missisipi przez dwa lata oraz obowiązek odbycia kursu dokształcającego dotyczącego halucynacji AI. Nałożono na nie również grzywny w wysokości odpowiednio 2500 i 3500 dolarów. Dwaj pozostali pełnomocnicy zostali ukarani grzywnami po 1000 dolarów. Postanowienie ma zostać przekazane także do organizacji dyscyplinarnych nadzorujących wykonywanie zawodu adwokata.

Coraz mniej pobłażliwości dla błędów AI

Sprawa wpisuje się w rosnącą liczbę przypadków, w których sądy w Stanach Zjednoczonych karzą prawników za bezrefleksyjne korzystanie z generatywnej AI. Choć sądy nie zakazują używania takich narzędzi, konsekwentnie podkreślają, że odpowiedzialność za poprawność dokumentów pozostaje po stronie człowieka.

Decyzja sędzi Aycock należy do najbardziej surowych reakcji na wykorzystanie AI w praktyce prawniczej i pokazuje, że tłumaczenie się niewiedzą na temat „halucynacji” modeli językowych przestaje być dla amerykańskich sądów przekonującym argumentem.