Umělá inteligence místo právních precedensů vymyslela fikce. Advokát na to tvrdě doplatil

V soudním světě se objevil varovný případ kolem umělé inteligence a právního výzkumu. Jeden advokát v Austrálii byl zbaven práva působit jako vedoucí právnické praxe poté, co přiznal, že využil AI generátor pro vytváření citací ve svých dokumentech – aniž by ověřil, zda skutečně existují. Citace, které předkládal soudu, se ukázaly být fiktivní.

K incidentu došlo během soudního řízení, kdy soudkyně zjistila, že řada odkazů, které advokát předložil, nelze dohledat ani v právních databázích. Při dotazu přiznal, že citace vytvořil nástroj pro právní výzkum poháněný umělou inteligencí, a neučinil žádnou kontrolu jejich pravdivosti. To znamená, že algoritmus vyrobil „právní precedenty“, které ve skutečnosti nikdy neexistovaly.

Soud reagoval rychle: rozhodl, že advokát nesplnil svou profesní povinnost vůči soudu a v rámci disciplinárního postupu mu bylo odebráno oprávnění spravovat vlastní právnickou kancelář. Nyní smí působit pouze jako zaměstnaný právník pod dohledem někoho jiného.

Tato kauza není ojedinělá. V jiných jurisdikcích již soudy varují, že advokáti, kteří ve svých podáních používají AI-vygenerované citace, riskují pohrdání soudem nebo dokonce trestní odpovědnost. V Londýně například vysoce postavený soud vydal varování, že umělé citace, které byly prezentovány jako skutečné, mohou znamenat porušení povinnosti vůči soudu – v extrémních případech se to může kvalifikovat jako zásah do spravedlnosti.

Pro právní profesi to znamená okamžitý přehodnocení používání AI nástrojů. Modely generativní AI nejsou omylné pomocníky – často „halucinují“, tedy vymýšlejí údaje či zdroje, které nevycházejí ze skutečných dat. Studie ukazují, že v právní oblasti dochází k takovým chybám častěji, než by se mohlo zdát. Advokáti proto musí používat AI pouze jako pomocný nástroj, ale ověřovat každý výsledek rukou – zvláště pokud jde o klíčové citace nebo precedentní rozhodnutí. Etika, odpovědnost vůči soudu a povinnost pravdivosti zůstávají základními kameny právní profese, bez ohledu na to, jak pokročilou technologii máme k dispozici.

Zdroj foto: www.pexels.com