ChatGPT wymyślił paragraf, którego nie ma. Adwokat go zacytował w sądzie.
ChatGPT spokojnie zacytował "Wyrok Sądu Najwyższego z dnia 14 marca 2019 r., sygn. akt IV CSK 123/19". Taki wyrok nie istnieje.
Co się stało
Adwokat z dużej kancelarii w Warszawie (nazwisko zostaje u nas) używał ChatGPT do “przyśpieszenia research’u”. Zapytał o precedens. ChatGPT go podał. Z sygnaturą. Z datą. Z cytatem uzasadnienia.
Problem: Wyrok nie istnieje. Sąd Najwyższy w dniu 14 marca 2019 roku nie wydał takiego wyroku. Sygnatura IV CSK 123/19 należy do zupełnie innej sprawy - dotyczącej sporu o nieruchomość.
Adwokat nie sprawdził. Wniósł pismo do sądu. Sąd sprawdził.
Co z tego wynika
- Hallucination w prawie = klęska zawodowa. To nie “niedokładność”. To fałszerstwo dokumentu dla sądu.
- Adwokat dostał reprymendę, klient stracił pół roku, sprawa cofnięta do pierwszej instancji.
- ChatGPT nadal spokojnie odpowiada na podobne pytania w ten sam sposób. OpenAI wie o problemie od 2023 roku. Nic z tym nie robi.
“A ja wam mówiłem”
W 2023 roku dwóch adwokatów w USA dostało sankcje za zacytowanie zmyślonych wyroków ChatGPT (sprawa Avianca Airlines). Minęły trzy lata. Ten sam błąd. Ten sam model. Ten sam cwaniak z marketingu mówi, że “GPT-4 halucynuje mniej”.
Morał dla boomerów
Sztuczna inteligencja nie jest adwokatem. Ani lekarzem. Ani księgowym. Jest bardzo pewnym siebie stażystą, który przeczytał internet i nic nie zrozumiał. Weryfikuj wszystko. Zwłaszcza cytaty.