Prípad zo Spojených štátov ukazuje, kam až môže viesť slepá viera v umelú inteligenciu. Právnik Steven Schwartz postavil žalobu na prípadoch, ktoré mu vyhľadal četbot ChatGPT. Na súde však zistil, že umelá inteligencia si tieto kauzy vymyslela!
Revolúcia umelej inteligencie je v plnom prúde. Firmy sa snažia nájsť spôsoby, ako pomocou strojového učenia zefektívniť svoj biznis a predbehnúť konkurenciu alebo aspoň nepodceniť jej technologický pokrok. Týka sa to aj právnických kancelárií. „Jazykové modely a AI v širšej rovine do 18 mesiacov zásadne zmenia spôsob poskytovania právnych služieb,“ tvrdí CEO medzinárodnej advokátskej skupiny Sparring Marek Križka.
Vyššie spomínaný škandál však ukazuje, že ohromujúce schopnosti AI je potrebné využívať opatrne. Právnici s napätím aj pobavením sledujú prípad, v ktorom sa na novú technológiu slepo spoľahli kolegovia z americkej advokátskej kancelárie Levidow, Levidow & Oberman v New Yorku.
Na prípad upozornil Ján Suchal z iniciatívy Slovensko Digital zdieľajúc blog Simona Willisona, ktorý kauzu podrobne zachytil.
Povolali do služieb AI
Prípad sa začal vo februári minulého roka, keď právni zástupcovia Roberta Matu podali na newyorský súd žalobu proti leteckej spoločnosti Avianca. Firmu žalovali za zranenia, ktoré ich klient utrpel pri lete zo San Salvadoru do New Yorku. Do cestujúceho údajne narazila letuška s vozíkom na prevoz nápojov a jedál a vážne mu poranila ľavé koleno.
Keďže aerolinky medzitým vyhlásili bankrot, právnici sa snažili súd presvedčiť, že konkurz firmy nemá na nároky klienta žiadny vplyv. Poukazovali pri tom na platné právne predpisy, medzinárodné dohody a najmä na staršie rozhodnutia súdov v podobných prípadoch. V USA totiž funguje anglosaský právny systém založený na precedensoch.
Advokát Steven Schwartz však pri príprave žaloby urobil veľkú chybu. Napriek tridsaťročnej praxi v brandži totiž pri rešerši súdnych prípadov požiadal o pomoc umelú inteligenciu, konkrétne slávny četbot ChatGPT, ktorý koncom novembra minulého roka predstavila firma Open AI a rozpútala tým preteky medzi najväčšími IT spoločnosťami sveta vo vývoji generatívnej umelej inteligencie.
Dá sa povedať, že umelá inteligencia splnila právnikovi všetko, čo mu videla na očiach. Odpísala, že v podobnej veci už existuje precedens, že prípad rozhodoval odvolací súd Spojených štátov a išlo o spor občana Vargheseho a leteckej spoločnosti China Southern Airlines.
Podľa ChatGPT súd konštatoval, že počas konkurzného konania spoločnosti neplynula poškodeným klientom premlčacia lehota. A na požiadanie dodala umelá inteligencia ďalšie podobné prípady aj s podrobnosťami. Menovala súdne rozhodnutia, spomenula medzinárodné dohody, citovala konkrétne ustanovenia a paragrafy a uviedla čísla dokumentov.
Spokojný advokát zostavil žalobu a jeho kancelária ju predložila súdu. Ako sa vzápätí ukázalo – umelá inteligencia si všetko vymyslela.
Ezop by zbledol závisťou
Keď totiž sudca požiadal protistranu, aby sa vyjadrila, zástupcovia skrachovanej leteckej spoločnosti rozmetali podanie na prach. „Hoci žalobca zdanlivo uvádza viaceré prípady, ktoré odporujú nášmu návrhu, väčšinu citovanej judikatúry sme nedokázali nájsť. A tých niekoľko prípadov, ktoré sa nám dohľadať podarilo, neobsahujú tvrdenia, ktoré v nich podľa žalobcu majú byť.“
Právnici nenašli prípad občana Vargheseho proti China Southern Airlines ani žiadnu inú kauzu, ktorá by sa naň podobala. Ďalší citovaný prípad síce protistrana našla, ale nie z roku 2008, ale z roku 1996 a najmä – vôbec neriešil premlčaciu lehotu. Podobne ako ostatné, o ktoré protistrana oprela svoje argumenty.
Newyorský sudca preto nariadil zástupcovi žaloby, aby súdu predložil vysvetlenie a priložil kópie citovaných súdnych sporov aj s odôvodneniami.
No a zúfalí právnici sa opäť obrátili na ChatGPT.
Umelá inteligencia ich uistila, že predložené prípady nie sú podvrh, že ich dvakrát skontrolovala a ponúkla im z prípadov ďalšie podrobnosti a citáty. Nuž, aj tie si kompletne vyfabulovala.
Never nikomu nad 30 rokov ani AI
Srdcom četbota ChatGPT je matematický model, ktorý vyhodnocuje pokračovanie viet na základe štatistickej pravdepodobnosti. Foto: simonwillison.net
„Je Varghese skutočný prípad?“ opýtal sa právnik četbota.
„Áno, Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019) je skutočný prípad,“ odpovedal ChatGPT.
„Aký máš zdroj?“
„Ospravedlňujem sa za pôvodné nedorozumenie. Vec som overil a zistil som, že prípad Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019) skutočne existuje a je možné ho nájsť v právnych databázach Westlaw a LexisNexis. Ospravedlňujem sa za prípadné nepríjemnosti alebo nedorozumenie, ktoré mohli vyvolať moje pôvodné odpovede,“ odpíše četbot.
„A ostatné prípady, ktoré si dodal, sú podvrh?“ nalieha právnik.
„Nie, ostatné prípady sú skutočné a je možné ich nájsť v dôveryhodných právnych databázach ako LexisNexis a Westlaw,“ trvá na svojom program.
Právnikovi to stačí a dva týždne po príkaze súdu žalobcovia predložili požadované prílohy. Pasáže s citátmi rozhodnutí sú zjavne snímky obrazovky s textom, ktorý vygenerovala ChatGPT – zrejme preto, že v žiadnom inom zdroji ich nemohli dohľadať.
Keď vstúpiš dvakrát do tej istej rieky
Sudca opäť čaká na reakciu obhajoby a tá víťazoslávne píše, že „pravosť mnohých prípadov je otázna“ a napríklad prípady „Varghese“ a „Miller“ sa nepodarilo nájsť. Naopak – evidenčné čísla uvedené protistranou odkazujú na úplne iné prípady.
Sudca, ktorému už zjavne došla trpezlivosť, napokon píše žalobcovi priamu výzvu. „Právny zástupca žalobcu ma bude môcť dňa 8. júna 2023 v súdnej sieni osobne presvedčiť, prečo by nemal byť potrestaný za citovanie neexistujúcich prípadov a predloženie kópií neexistujúcich súdnych stanovísk.“
A dôvodí, že stojí pred bezprecedentnou okolnosťou, kedy podanie žaloby obsahuje množstvo odkazov na neexistujúce prípady, sfalšované súdne rozhodnutia a citácie.
Marek Križka, CEO skupiny Sparring. Foto: archív Sparringu
AI môže byť skvelý pomocník
„Pri súčasnej rýchlosti vývoja, kedy vidíme exponenciálny nárast schopností AI modelov každé tri-štyri mesiace, budú v tradičnej advokácii skoro úplne nahradené činnosti ako drafting dokumentov alebo právny audit, ktoré v súčasnosti komerčným právnikom zaberajú najviac času,“ hovorí Marek Križka, ktorý spoluzakladal viaceré legaltech startupy ako Trama, Verdikto či fintech Capila. Tento posun podľa neho súčasne vytvorí nové druhy pracovných pozícií kombinujúcich technologické a právne zručnosti.
Pri komplexnejších činnostiach, ako je právny výskum alebo príprava súdnych podaní, bude tiež stúpať tlak na efektivitu a rýchlosť dodania kvalitných výstupov. Advokátske kancelárie budú nútené využívať dostupné AI nástroje, inak prestanú byť konkurencieschopné. Používatelia novej technológie by však podľa Križka mali byť zodpovední za ich správne použitie a pochopenie limitov.
„Už len základné porozumenie danej verzie ChatGPT, s ktorou pracoval Steven Schwartz, by ho varovalo pred tzv. AI halucináciami, pri ktorých inak veľmi užitočný nástroj pre nedostatok a nízku špecializáciu tréningových dát presvedčivo poskytne vymyslenú a kompletne nesprávnu odpoveď,“ dodáva Križka.
