Jak právně přežít umělou inteligenci aneb Ještě se nevěšet! (aktualizováno 20.5. počítačově generovanými encyklopedickými smlouvami a levnými spory – už můžete)
(později přibyly prostřední citace Dreyfuse, Chomského, Robertse a Watumulla, nové od Gary Marcuse k nové verzi ChatGPT-4 [s většími právními výzvami], University of Minnesota a téměř vše za citacemi, vč. kataklyzmatické katarze Berman/Varela/Luhmann, i s ukřižováním, zmrtvýchvstáním a existenciálním znebezestoupením, či vyvrácením mýtu o věčném návratu)
Jak jsme v minulém blogu viděli (a nedávné veřejné zpřístupnění neuronové sítě ChatGPT všem alespoň v hrubých rysech demonstrovalo), podle jednoho z „kapitánů českého právního průmyslu“, nejen, že spodní třetinu právních činností lehce přebere počítačový software (přičemž vrchní zůstane lidem), ale „uprostřed se navíc udělá vakuum“, a dané aktivity se buď zjednoduší pro počítače, přebere je administrativní pracovníci anebo zcela vymizí. A i když se obecně a povrchně říká, že přetrvá lidský faktor, systematický výklad a oborová specializace (případně reorientace do méně atraktivního odvětví), ve skutečnosti se odštěpí kognitivní činnosti, nevyžadující jazykové porozumění, podél linie již alespoň století načrtávané moderními hermeneutickými a analytickými filosofy (podle kterých, ve zkratce, není porozumění jazyku „textuálně analytické“, ale kontextuální, historicky a kulturně podmíněné, a vycházející ze společenské praxe). Tak jen několik poznámek pro relevantní adresáty, kteří by je měli být schopni rozšifrovat i bez vysvětlení, pro zběžnou orientaci a bez hlubší snahy někoho přesvědčovat...
21. století
Neuronové sítě nejdou na úroveň vnitřních „kódovacích programovacích jazyků“ (metoda, struktura, zásady, principy, ústřední koncepty, „paradigma“, systém...) a vnějšího sociálního kontextu (které se prolínají), ale operují jen v rovině algoritmů a lingvistiky (přičemž povrchní předpovídání následností slov a abstrahování z nich nemá s porozuměním jazyku mnoho společného). Proto vzroste význam filosofie, teorie, interpretace, hermeneutiky (filosofičtí docenti doporučují), multidisciplinarity apod., jelikož pořád nutnou komplexní a systematickou znalost práva získají neuronové sítě z právních komentářů, které všechny smlsnou za pár minut, a "human touch", jako podávání rukou či záchrana klienta v šest ráno před přepadovou policejní jednotkou v jeho ložnici (navíc při pracovní snídani s asistentkou v době, kdy se v emočně-vztahově-psychopatické bažině rodinného práva, ve kterém se navíc nejvýrazněji uplatní lidský faktor, již vůbec žádný právník s pudem sebezáchovy nechce plácat), je jen doplňkovým rozměrem pořád z podstaty knihomolské profese. A ta se, právě naopak, vzhledem ke zmnožení právních ohledů (viz např. citace ÚS níže), může stát ještě knihomolštější a dokonce, světe div se, i intelektuální.
20. století
Trochu filosofičtěji – možnost převzetí právního myšlení neuronovými sítěmi a budoucími pokročilejšími systémy umělé inteligence je jen aktualizací otázky správnosti „analyticko-logicistického“ redukcionismu v právu, který poznatky právní sociologie, antropologie, hermeneutiky či analytické filosofie o tom, že právo je sociální skutečností, vyjadřující ducha doby a existující dokonce ještě před suverénní mocí (a tedy nejen zákonnou podobou, ale i samotnou povahou jejího příkazu, benthamovsky vynucovaném bolestí), již dávněji vyvrátily. Právo tedy není jen logickým textem, jehož význam a smysl by mohly počítače čistě analyticky „rozbalit“ či převést na textové algoritmy, i když jeho systematický výklad (jen z textu zákonů), případně s vnější dogmatickou pomocí, do veliké míry zvládnou (ovšem i to, vzhledem ke komplexnosti a subtilnosti systému, bez garance). Tedy chytřejší část právníků může poděkovat Heideggerovi, pozdnímu Husserlovi, ještě pozdnějšímu Wittgensteinovi, již zcela zpožděnému Gadamerovi a nové, anti-redukcionistické analytické filosofii formující se od 70tých a 80tých let (možná i tím, že si je přečte), a kognitivní vědce a filosofy, pro které je lidské myšlení jen počítačovým programem, navzdory analogiím, nebrat nijak vážně...
Kognitivní omezení umělé inteligence (především v její dnešní podobě neuronových sítí) a, na druhé straně, mnohem širší horizonty právního myšlení (v oblíbeném stylu „a maiori ad minus“ demonstrované na příkladu procesního práva s formalističtější pověstí), než je známo často i mezi právníky, nejlépe vyjádřili moudré hlavy, bez nutnosti dalšího komentáře:
John Searle:
“Minds cannot be equivalent to programs because programs are defined purely formally or syntactically and minds have mental contents. The easiest way to see the force of the refutation is to see that a system, say oneself, could learn to manipulate the formal symbols for understanding a natural language without actually understanding that language. I might have a program that enables me to answer questions in Chinese simply by matching incoming symbols with the appropriate processing and output symbols, but nonetheless I still would not thereby understand Chinese.“
(počítačový překlad)
Hubert Dreyfus, americký filosof, se Searlem dlouhá léta ústřední filosofický kritik umělé inteligence (počítačového modelu mysle), vycházejíc z fenomenologické tradice Husserla a Heideggera:
“(…) in real life as opposed to the toy ‘micro-worlds’ constructed by AI researchers, such standard AI tasks as problem solving and language understanding presuppose unpredictably relevant and nearly endless knowledge of the world (consider just the general problem of understanding ambiguous sentences in context); but no human being’s knowledge of the world could ever be made explicit, or even completely formalized in a set of representations and rules. Rather, human knowledge and understanding inhere non-discursively in our biology, our bodily embedding in our environment, our interests and our cultural surround – of which digital computers have at best distant analogues.“
“(...) [umělou inteligencí] human cognition was understood in terms of explicit rules (or “essences”) applied to disembodied data. (...) On Dreyfus’s account, humans only use explicit rules in special situations, e.g. when frst learning a task or when a tool stops functioning properly. But for the most part human beings simply know what to do in a situation and how to behave appropriately, without relying on any explicit rules or data.”
(Blackwell Companion to Philosophy a Routledge Handbook Of Phenomenology and Phenomenological Philosophy – počítačový překlad)
Noam Chomsky, Ian Roberts a Jeffrey Watumull, lingvističtí kritici současné umělé inteligence:
“However useful these programs [ChatGPT atd.] may be in some narrow domains (they can be helpful in computer programming, for example, or in suggesting rhymes for light verse), we know from the science of linguistics and the philosophy of knowledge that they differ profoundly from how humans reason and use language. These differences place significant limitations on what these programs can do, encoding them with ineradicable defects. (...) Indeed, such programs are stuck in a prehuman or nonhuman phase of cognitive evolution. Their deepest flaw is the absence of the most critical capacity of any intelligence: to say not only what is the case, what was the case and what will be the case — that’s description and prediction — but also what is not the case and what could and could not be the case. Those are the ingredients of explanation, the mark of true intelligence.“
(počítačový překlad)
Gary Marcus, profesor psychologie a neurověd na New York University a jeden z popředních A.I.-skeptiků (ale ne kritiků):
“Because such systems [současný výzkum A.I., orientován na neuronové sítě, jako ChatGPT] contain literally no mechanisms for checking the truth of what they say...”
“Making systems that do not understand what they're telling us is not going to work out the way we are hoping it will.”
(podle výzkumu Google) “They can deal with small bits of text, but the larger the text is, the more trouble they get in. (…) [zatímco] Making models bigger is not necessarily helping in the comprehension of larger pieces of text.”
(k nové verzi ChatGPT 4 [s novými právními výzvami] a dalšímu vývoji umělých neuronových síti obecně) “Adding more data was not going to change anything in terms of truthfulness, reliability etc. (…) It's not going to change the fact that they can't reason about physics, they can't reason about psychology in people, it's not going to change the fact that they hallucinate (…) We actually have a really serious, I will call it an orchestration problem. So even if we can get more of the parts to work, there is something the humans do that's amazing, which is orchestrating all of the pieces in our heads to usually get done with what needs to be done. (…) The large language models don't really do this at all. They have one mechanism that they're throwing after every problem, which is basically a mechanism about finding matching text and run with that. But that's not enough for the real world of cognition when you move outside of this domain, for reliability and so forth. (…) This is the problem that needs to be solved, it’s the problem of integration, of putting all of the pieces together (…) it's not really solving the problem of having a general intelligence that can take on some new problem and find a reliable solution to that.”
(počítačový překlad)
Výzkum úspěšnosti ChatGPT ve vysokoškolských zkouškách z amerického práva University of Minnesota Law School:
“However, it struggled to identify relevant issues and often only superficially applied rules to facts as compared to real law students.“
“One of the biggest problems with ChatGPT’s essays was that they failed to go into sufficient detail when applying legal rules to the facts contained within exam hypotheticals. In many cases (but not always), ChatGPT accurately stated the relevant legal rule and (where applicable) cited the correct case but failed to reason as to how the case applied to the hypothetical facts in the exam.“
(Shrnutí ústředních nedostatků) “But it was bad at spotting issues and didn't provide deep reasoning or analysis.“
(počítačový překlad)
Ústavní soudce Jaromír Jirsa k občanskému soudnímu řízení:
„Ústavní soud zřetelně a konzistentně vyjadřuje své přesvědčení, že procesní předpis by měl vždy sloužit jen jako účelný nástroj k nalezení hmotného práva, nikoliv k tomu, aby se z něj samotného stal smysl celého řízení před soudem. Preferuje také jednoznačně přirozenoprávní (materiální) přístup k procesu před jeho formalistickým pojetím, v němž má účastník pocit, že soud vede řízení sám pro sebe, a nikoliv pro něj. (…) Takzvaný přepjatý formalismus, tedy interpretace procesního předpisu, jež je v extrémním rozporu s principy spravedlnosti, pak zakládá "porušení základního práva a svobody" a může vést až Ústavní soud ke kasaci rozhodnutí soudů obecných (viz např. nález ze dne 13. listopadu 2012, sp. zn. I. ÚS 563/11, nebo nález ze dne 2.3.2000, sp. zn. III. ÚS 269/99). Projevem nepřípustného formalismu jsou mj. Ústavním soudem dlouhodobě kritizované tendence postupovat v řízení podle předem daných "algoritmů", tabulek či vzorů. Soud je povinen v každé věci ad hoc brát v úvahu její konkrétní a specifické okolnosti; proto není například přípustné, aby "vyměřoval" výživné podle podpůrných tabulek, automaticky určoval výši odčinění imateriální újmy na zdraví podle Metodiky Nejvyššího soudu apod.“
Ústavní soud v nálezu ze dne 9.2.2012 (sp. zn. III. ÚS 468/11) k § 6 a 107a OSŘ, podle ústavního soudce ale zobecnitelné pro celé občanské soudní řízení:
„Obecný soud není absolutně vázán doslovným zněním zákona, nýbrž se od něj smí a musí odchýlit, pokud to vyžaduje účel zákona, historie jeho vzniku, systematická souvislost nebo některý z principů, jež mají svůj základ v ústavně konformním právním řádu jako významovém celku - povinnost soudů nalézat právo neznamená pouze vyhledávat přímé a výslovné pokyny v zákonném textu, ale též zjišťovat a formulovat, co je konkrétním právem i tam, kde jde o interpretaci abstraktních norem a ústavních zásad. Při výkladu a aplikaci právních předpisů nelze pomíjet jejich účel a smysl, který není možné hledat jen ve slovech a větách toho kterého předpisu, v němž je třeba vždy nalézat i principy uznávané demokratickými právními státy.“
Hermeneutická povaha práva by ale neměla překvapovat ani filosofy, jelikož samotný Gadamer prosazoval za obecní nástroj interpretativních společenských věd právě právní hermeneutiku, kterou pro bohatou tradici a aplikační charakter považoval dokonce i za částečný model své obecní filosofické hermeneutiky. I pozdější Wittgensteinův postřeh o otevřené povaze pravidel, schopných tak nové případy integrovat i v průběhu „hry“, se ne náhodou ilustroval nejlépe na vývoji právních pravidel v průběhu interakce rozličných soudních interpretací (současně demonstrujíc i slučitelnost holistického přístupu s individualismem a svobodou). A jelikož se tak jde vzájemně inspirovat z obou stran, na závěr již jen doufat, že nakonec neuronové sítě nenahradí ani velikou část, převážně mediálně vystupujících, provinčních, archaických a maloměstských filosofických pedagogů a jejich nadrilované syntaktické sekvence (pokud se tak, aniž by si to kdokoliv, s výjimkou autora, všiml, již nestalo) a místo toho je nakopne k podobně hermeneutickým vzepětím, jako budoucí právníky.
Tedy alespoň ty, kteří již, i když neheideggerovským slovníkem, vědí, že to, že nejen v ústavním právu se „jsoucno jeví ve světlině bytí“, jehož smyslem (předmětem porozumění) je tak „způsob zjevování“ ve větším celku a v konkrétním světě, není žádným fenomenologickým duchovnem, ale jen prostou, neredukcionistickou relační logikou moderní doby, na které si ale vylámou zuby i vzdáleně budoucí a ještě zasíťovanější tchajwanské megamikročipy. Pokud si tedy vůbec budou mít na čem, jelikož i když se debata o umělé inteligenci zaměřuje na gnoseologickou stránku, ani z ontologické nemá právo povahu dané „věci o sobě“, kterou by šlo nalézt, ale interpretativní a argumentační otevřené komunikace, ve které se, v kontextu jednotlivých případů, utváří…
18. století (duchovní osvícení)
A historické potvrzení uvedeného jde, mimochodem, najít i v moderním anglosaském vývoji přirozeného práva ve druhé polovině 18. století. Již v jeho pojetí u Blackstona se totiž nejednalo v první řade o morální koncept, ale především „dogmatický“ (podobně jako i pozdější Dworkinova kritika právního pozitivismu prostřednictvím principů, které nemusí s morálkou nijak souviset), plnící účel organizace chaotické právní masy na základě, ideálně neměnných, obecných principů, později začleněných i do pozitivního práva (u nás obecními ustanoveními, ústavním právem, judikaturou vyšších soudů, zenovým jazykem Ústavního soudu právním řádem „prosvětlujícími“ principy práva Evropské unie nebo i neformálně prostřednictvím právního myšlení). A jelikož se tak nejednalo o „populární“, ale expertní snahu, následná Benthamova a Austinova pozitivistická redukce práva na příkaz suveréna a jeho analýza v utilitárních pojmech byla reakcí právě na Blackstonovo přirozené právo (což je jen archaičtější označení pro racionální právo), proti kterému, s pozitivním právem podobně, jako i pozdější francouzští revolucionáři proti aristokratické soudcovské moci, vystoupili i s úmyslem podkopat expertní moc právníků.
Což jen opět demonstruje místo, kde leží těžiště právnického myšlení i v opozici k umělé inteligenci – ne v jednotlivé právní empirii, ale v jejím, z veliké části skrytém, „kódovacím programovacím jazyku“, který zase nestojí v opozici k sociálnímu kontextu, jelikož představuje snad nehmatatelnější vtělení ducha doby a společenského kréda, jaký jde vůbec v celé kultuře najít. Ten totiž prostřednictvím racionálních obecných principů konstituuje koherenci práva, zakládající samotné jeho funkční bytí jako systému, a je již jedno, jestli logickou, vytvářenou v kontinentální akademické disputaci, anebo historickou, abstrahovanou při precedenčním soudním rozhodování.
A to je i důvodem, proč plní role vzdělaných právníků i celospolečenský účel a umělá inteligence by proměnila právo v neprávo, nemluvě o tom, že pokaždé, když pozitivistická redukce zcela odebrala právo z jejich expertních rukou, ztratilo svůj smysl a ani neskončilo v rukou lidu, ale Hitlera, Husáka či tvůrců legislativní smrště. Nakonec, i samotný apoštol pozitivismu, neo-kantovec Kelsen, dobře věděl, že bez obdoby uspořádávajících apriorních forem právního vnímání, a tedy jistého vědečtějšího „transcendentálního“ rozměru, se i jeho pozitivistické právo mění v bezmezný, nesrozumitelný a nefunkční decisionistický chaos. A jelikož je, kupříkladu, i obecnější spravedlnost vtělena v, spíš politických, výkladových principech, zásadách a účelech, obsah práva je podmíněn jeho apriorní formou a právě chladně metodologický, smysluplně umělou inteligencí nepostižitelný, právně-teoretičtější jazyk tak buduje i teplo společenského příbytku (a tím plní i méně populární, i když tu skutečnou funkci práva – tvorbu legitimních normativních očekávání, tj. především konstrukci budoucnosti, které stabilnější pilíře, jdoucí za syntax jednotlivého ustanovení, svědčí mnohem víc již z povahy věci).
13. století (kataklyzmatická katarze)
Protože, když máme skončit na začátku, jak ukazuje Harold Berman (v možná nejlepší právně-historické knize Law and Revolution, jejíž nepřeložení do češtiny je největším hříchem), právo, a na něm založený moderní Západ, se v plném smyslu zformovalo v 11.-13. století sekularizací a osamostatněním se formou Varelova autonomního systému, samoreprodukujícího se ne na základě legislativní právní empirie (produkcí struktur), ale právě za její syntaxí skryté odborné sebereflexe (intencionálním vědomím – Varela později založil neurofenomenologii) nově vzniklým, nezávislým právnickým stavem (dokonce již i na akademické úrovni – hádanka: kdy a z jakých fakult vznikly první univerzity?), budujícím jeden z prvních Luhmannových (konstantně smysl-konstituujících) autopoietických subsystémů funkcionálně diferencované moderní společnosti, které se obecně stávají komplexními, a tedy plnohodnotně utvářejí, až začleněním pozorování druhého řádu (reflexe reflexí)…
Jeremy Bentham (tradiční kritik lidské inteligence/abstrakce a svojí redukcionistickou technikou “paraphrasis“ předchůdce moderní právní analýzy): “(...) [William Blackstone] taught jurisprudence to speak the language of the scholar and the gentleman; put a polish upon that rugged science, cleansed her from the dust and cobwebs of the office and, if he has not enriched her with that precision which is drawn only from the sterling treasury of the sciences, has decked her out to advantage from the toilet of classical erudition, enlivened her with metaphors and allusions and sent her abroad in some measure to instruct.“
(počítačový překlad)
30 až 33 n. l. (ukřižování a zmrtvýchvstání)
Právní logikou, raději se posaďte, totiž není ani materielní (či dokonce objektivně nahlédnutelná) spravedlnost (přičemž, jak již víme, formalizovaným systémem je jen zčásti), ale umělou inteligencí neuchopitelná hermeneutická interpretace (odvozeně proveditelná i ve světle převládajících či diskurzivně dovoditelných společenských představ o spravedlnosti, pokud ty nejsou pozitivně zakódovány přímo v právu), stojící na, tvrzení obecně předcházejícím, konkrétním a kontextuálním porozumění...
Gary Marcus (refrén): “Making systems that do not understand what they're telling us is not going to work out the way we are hoping it will.”
(počítačový překlad)
6 až 4 př. n. l. (existenciální znebezestoupení)
A nejen z uvedené primární funkce a hermeneutické logiky práva pak, mimochodem, vyplývá, že jeho obecnou strukturou, na rozdíl od právních předpisů, není statická a umělou inteligencí lehce formalizovatelná hierarchie normativních pravidel, ale organická komunikativní časovost normativních očekávání (i druhého řádu, vůči soudnímu rozhodování o primárních) vytvářených v době, raději si připravte kapesník, kdy se tradiční komunikační pojítka, společný jazyk, obecnější kritéria hodnocení, sdílené vnímání reality, organická sounáležitost a spolu s na nich stojící společenskou normativitou i základní předpoklady spolupráce, a dokonce spolunažívání či jen prostého předcházení psychologicky destruktivní anomii, již (navzdory všemu spíš naštěstí) nenávratně rozpadly, aniž by si to ale i mnoho vzdělanějších osob všimnulo...
7. století př. n. l. („Huja, huja, hujajá!“)
Gustáv Husák (radikální kritik lidské inteligence a první oživlá umělá inteligence):
„Prežili sme obdobia, keď sa veľmi ťažko pracovalo a keď statoční vydržali. Nech odpadne, čo je kolísavé, nech odpadne, čo je oportunistické, ale nech v tej strane [profesi] zostane, čo je pevné, čo je charakterné, čo chce za tento národ zápasiť.“
2. tisíciletí př. n. l. (vyvrácení mýtu o věčném návratu antitezí proti předpokladu ceteris paribus...)
The Economist (příznivec přirozené inteligence volného trhu, ještě i před příchodem první regulace Starým zákonem):
“In an AI-heavy world lawyers will multiply. “In the 1970s you could do a multi-million-dollar deal on 15 pages because retyping was a pain in the ass,” says Preston Byrne of Brown Rudnick, a law firm. “AI will allow us to cover the 1,000 most likely edge cases in the first draft and then the parties will argue over it for weeks.” A rule of thumb in America is that there is no point suing for damages unless you hope for $250,000 or more in compensation, since you need to spend that much getting to court. Now the costs of litigation could fall to close to zero...”
(počítačový překlad)
(…i když možná ani ne)
Jak jsme v minulém blogu viděli (a nedávné veřejné zpřístupnění neuronové sítě ChatGPT všem alespoň v hrubých rysech demonstrovalo), podle jednoho z „kapitánů českého právního průmyslu“, nejen, že spodní třetinu právních činností lehce přebere počítačový software (přičemž vrchní zůstane lidem), ale „uprostřed se navíc udělá vakuum“, a dané aktivity se buď zjednoduší pro počítače, přebere je administrativní pracovníci anebo zcela vymizí. A i když se obecně a povrchně říká, že přetrvá lidský faktor, systematický výklad a oborová specializace (případně reorientace do méně atraktivního odvětví), ve skutečnosti se odštěpí kognitivní činnosti, nevyžadující jazykové porozumění, podél linie již alespoň století načrtávané moderními hermeneutickými a analytickými filosofy (podle kterých, ve zkratce, není porozumění jazyku „textuálně analytické“, ale kontextuální, historicky a kulturně podmíněné, a vycházející ze společenské praxe). Tak jen několik poznámek pro relevantní adresáty, kteří by je měli být schopni rozšifrovat i bez vysvětlení, pro zběžnou orientaci a bez hlubší snahy někoho přesvědčovat...
21. století
Neuronové sítě nejdou na úroveň vnitřních „kódovacích programovacích jazyků“ (metoda, struktura, zásady, principy, ústřední koncepty, „paradigma“, systém...) a vnějšího sociálního kontextu (které se prolínají), ale operují jen v rovině algoritmů a lingvistiky (přičemž povrchní předpovídání následností slov a abstrahování z nich nemá s porozuměním jazyku mnoho společného). Proto vzroste význam filosofie, teorie, interpretace, hermeneutiky (filosofičtí docenti doporučují), multidisciplinarity apod., jelikož pořád nutnou komplexní a systematickou znalost práva získají neuronové sítě z právních komentářů, které všechny smlsnou za pár minut, a "human touch", jako podávání rukou či záchrana klienta v šest ráno před přepadovou policejní jednotkou v jeho ložnici (navíc při pracovní snídani s asistentkou v době, kdy se v emočně-vztahově-psychopatické bažině rodinného práva, ve kterém se navíc nejvýrazněji uplatní lidský faktor, již vůbec žádný právník s pudem sebezáchovy nechce plácat), je jen doplňkovým rozměrem pořád z podstaty knihomolské profese. A ta se, právě naopak, vzhledem ke zmnožení právních ohledů (viz např. citace ÚS níže), může stát ještě knihomolštější a dokonce, světe div se, i intelektuální.
20. století
Trochu filosofičtěji – možnost převzetí právního myšlení neuronovými sítěmi a budoucími pokročilejšími systémy umělé inteligence je jen aktualizací otázky správnosti „analyticko-logicistického“ redukcionismu v právu, který poznatky právní sociologie, antropologie, hermeneutiky či analytické filosofie o tom, že právo je sociální skutečností, vyjadřující ducha doby a existující dokonce ještě před suverénní mocí (a tedy nejen zákonnou podobou, ale i samotnou povahou jejího příkazu, benthamovsky vynucovaném bolestí), již dávněji vyvrátily. Právo tedy není jen logickým textem, jehož význam a smysl by mohly počítače čistě analyticky „rozbalit“ či převést na textové algoritmy, i když jeho systematický výklad (jen z textu zákonů), případně s vnější dogmatickou pomocí, do veliké míry zvládnou (ovšem i to, vzhledem ke komplexnosti a subtilnosti systému, bez garance). Tedy chytřejší část právníků může poděkovat Heideggerovi, pozdnímu Husserlovi, ještě pozdnějšímu Wittgensteinovi, již zcela zpožděnému Gadamerovi a nové, anti-redukcionistické analytické filosofii formující se od 70tých a 80tých let (možná i tím, že si je přečte), a kognitivní vědce a filosofy, pro které je lidské myšlení jen počítačovým programem, navzdory analogiím, nebrat nijak vážně...
Kognitivní omezení umělé inteligence (především v její dnešní podobě neuronových sítí) a, na druhé straně, mnohem širší horizonty právního myšlení (v oblíbeném stylu „a maiori ad minus“ demonstrované na příkladu procesního práva s formalističtější pověstí), než je známo často i mezi právníky, nejlépe vyjádřili moudré hlavy, bez nutnosti dalšího komentáře:
John Searle:
“Minds cannot be equivalent to programs because programs are defined purely formally or syntactically and minds have mental contents. The easiest way to see the force of the refutation is to see that a system, say oneself, could learn to manipulate the formal symbols for understanding a natural language without actually understanding that language. I might have a program that enables me to answer questions in Chinese simply by matching incoming symbols with the appropriate processing and output symbols, but nonetheless I still would not thereby understand Chinese.“
(počítačový překlad)
Hubert Dreyfus, americký filosof, se Searlem dlouhá léta ústřední filosofický kritik umělé inteligence (počítačového modelu mysle), vycházejíc z fenomenologické tradice Husserla a Heideggera:
“(…) in real life as opposed to the toy ‘micro-worlds’ constructed by AI researchers, such standard AI tasks as problem solving and language understanding presuppose unpredictably relevant and nearly endless knowledge of the world (consider just the general problem of understanding ambiguous sentences in context); but no human being’s knowledge of the world could ever be made explicit, or even completely formalized in a set of representations and rules. Rather, human knowledge and understanding inhere non-discursively in our biology, our bodily embedding in our environment, our interests and our cultural surround – of which digital computers have at best distant analogues.“
“(...) [umělou inteligencí] human cognition was understood in terms of explicit rules (or “essences”) applied to disembodied data. (...) On Dreyfus’s account, humans only use explicit rules in special situations, e.g. when frst learning a task or when a tool stops functioning properly. But for the most part human beings simply know what to do in a situation and how to behave appropriately, without relying on any explicit rules or data.”
(Blackwell Companion to Philosophy a Routledge Handbook Of Phenomenology and Phenomenological Philosophy – počítačový překlad)
Noam Chomsky, Ian Roberts a Jeffrey Watumull, lingvističtí kritici současné umělé inteligence:
“However useful these programs [ChatGPT atd.] may be in some narrow domains (they can be helpful in computer programming, for example, or in suggesting rhymes for light verse), we know from the science of linguistics and the philosophy of knowledge that they differ profoundly from how humans reason and use language. These differences place significant limitations on what these programs can do, encoding them with ineradicable defects. (...) Indeed, such programs are stuck in a prehuman or nonhuman phase of cognitive evolution. Their deepest flaw is the absence of the most critical capacity of any intelligence: to say not only what is the case, what was the case and what will be the case — that’s description and prediction — but also what is not the case and what could and could not be the case. Those are the ingredients of explanation, the mark of true intelligence.“
(počítačový překlad)
Gary Marcus, profesor psychologie a neurověd na New York University a jeden z popředních A.I.-skeptiků (ale ne kritiků):
“Because such systems [současný výzkum A.I., orientován na neuronové sítě, jako ChatGPT] contain literally no mechanisms for checking the truth of what they say...”
“Making systems that do not understand what they're telling us is not going to work out the way we are hoping it will.”
(podle výzkumu Google) “They can deal with small bits of text, but the larger the text is, the more trouble they get in. (…) [zatímco] Making models bigger is not necessarily helping in the comprehension of larger pieces of text.”
(k nové verzi ChatGPT 4 [s novými právními výzvami] a dalšímu vývoji umělých neuronových síti obecně) “Adding more data was not going to change anything in terms of truthfulness, reliability etc. (…) It's not going to change the fact that they can't reason about physics, they can't reason about psychology in people, it's not going to change the fact that they hallucinate (…) We actually have a really serious, I will call it an orchestration problem. So even if we can get more of the parts to work, there is something the humans do that's amazing, which is orchestrating all of the pieces in our heads to usually get done with what needs to be done. (…) The large language models don't really do this at all. They have one mechanism that they're throwing after every problem, which is basically a mechanism about finding matching text and run with that. But that's not enough for the real world of cognition when you move outside of this domain, for reliability and so forth. (…) This is the problem that needs to be solved, it’s the problem of integration, of putting all of the pieces together (…) it's not really solving the problem of having a general intelligence that can take on some new problem and find a reliable solution to that.”
(počítačový překlad)
Výzkum úspěšnosti ChatGPT ve vysokoškolských zkouškách z amerického práva University of Minnesota Law School:
“However, it struggled to identify relevant issues and often only superficially applied rules to facts as compared to real law students.“
“One of the biggest problems with ChatGPT’s essays was that they failed to go into sufficient detail when applying legal rules to the facts contained within exam hypotheticals. In many cases (but not always), ChatGPT accurately stated the relevant legal rule and (where applicable) cited the correct case but failed to reason as to how the case applied to the hypothetical facts in the exam.“
(Shrnutí ústředních nedostatků) “But it was bad at spotting issues and didn't provide deep reasoning or analysis.“
(počítačový překlad)
Ústavní soudce Jaromír Jirsa k občanskému soudnímu řízení:
„Ústavní soud zřetelně a konzistentně vyjadřuje své přesvědčení, že procesní předpis by měl vždy sloužit jen jako účelný nástroj k nalezení hmotného práva, nikoliv k tomu, aby se z něj samotného stal smysl celého řízení před soudem. Preferuje také jednoznačně přirozenoprávní (materiální) přístup k procesu před jeho formalistickým pojetím, v němž má účastník pocit, že soud vede řízení sám pro sebe, a nikoliv pro něj. (…) Takzvaný přepjatý formalismus, tedy interpretace procesního předpisu, jež je v extrémním rozporu s principy spravedlnosti, pak zakládá "porušení základního práva a svobody" a může vést až Ústavní soud ke kasaci rozhodnutí soudů obecných (viz např. nález ze dne 13. listopadu 2012, sp. zn. I. ÚS 563/11, nebo nález ze dne 2.3.2000, sp. zn. III. ÚS 269/99). Projevem nepřípustného formalismu jsou mj. Ústavním soudem dlouhodobě kritizované tendence postupovat v řízení podle předem daných "algoritmů", tabulek či vzorů. Soud je povinen v každé věci ad hoc brát v úvahu její konkrétní a specifické okolnosti; proto není například přípustné, aby "vyměřoval" výživné podle podpůrných tabulek, automaticky určoval výši odčinění imateriální újmy na zdraví podle Metodiky Nejvyššího soudu apod.“
Ústavní soud v nálezu ze dne 9.2.2012 (sp. zn. III. ÚS 468/11) k § 6 a 107a OSŘ, podle ústavního soudce ale zobecnitelné pro celé občanské soudní řízení:
„Obecný soud není absolutně vázán doslovným zněním zákona, nýbrž se od něj smí a musí odchýlit, pokud to vyžaduje účel zákona, historie jeho vzniku, systematická souvislost nebo některý z principů, jež mají svůj základ v ústavně konformním právním řádu jako významovém celku - povinnost soudů nalézat právo neznamená pouze vyhledávat přímé a výslovné pokyny v zákonném textu, ale též zjišťovat a formulovat, co je konkrétním právem i tam, kde jde o interpretaci abstraktních norem a ústavních zásad. Při výkladu a aplikaci právních předpisů nelze pomíjet jejich účel a smysl, který není možné hledat jen ve slovech a větách toho kterého předpisu, v němž je třeba vždy nalézat i principy uznávané demokratickými právními státy.“
Hermeneutická povaha práva by ale neměla překvapovat ani filosofy, jelikož samotný Gadamer prosazoval za obecní nástroj interpretativních společenských věd právě právní hermeneutiku, kterou pro bohatou tradici a aplikační charakter považoval dokonce i za částečný model své obecní filosofické hermeneutiky. I pozdější Wittgensteinův postřeh o otevřené povaze pravidel, schopných tak nové případy integrovat i v průběhu „hry“, se ne náhodou ilustroval nejlépe na vývoji právních pravidel v průběhu interakce rozličných soudních interpretací (současně demonstrujíc i slučitelnost holistického přístupu s individualismem a svobodou). A jelikož se tak jde vzájemně inspirovat z obou stran, na závěr již jen doufat, že nakonec neuronové sítě nenahradí ani velikou část, převážně mediálně vystupujících, provinčních, archaických a maloměstských filosofických pedagogů a jejich nadrilované syntaktické sekvence (pokud se tak, aniž by si to kdokoliv, s výjimkou autora, všiml, již nestalo) a místo toho je nakopne k podobně hermeneutickým vzepětím, jako budoucí právníky.
Tedy alespoň ty, kteří již, i když neheideggerovským slovníkem, vědí, že to, že nejen v ústavním právu se „jsoucno jeví ve světlině bytí“, jehož smyslem (předmětem porozumění) je tak „způsob zjevování“ ve větším celku a v konkrétním světě, není žádným fenomenologickým duchovnem, ale jen prostou, neredukcionistickou relační logikou moderní doby, na které si ale vylámou zuby i vzdáleně budoucí a ještě zasíťovanější tchajwanské megamikročipy. Pokud si tedy vůbec budou mít na čem, jelikož i když se debata o umělé inteligenci zaměřuje na gnoseologickou stránku, ani z ontologické nemá právo povahu dané „věci o sobě“, kterou by šlo nalézt, ale interpretativní a argumentační otevřené komunikace, ve které se, v kontextu jednotlivých případů, utváří…
18. století (duchovní osvícení)
A historické potvrzení uvedeného jde, mimochodem, najít i v moderním anglosaském vývoji přirozeného práva ve druhé polovině 18. století. Již v jeho pojetí u Blackstona se totiž nejednalo v první řade o morální koncept, ale především „dogmatický“ (podobně jako i pozdější Dworkinova kritika právního pozitivismu prostřednictvím principů, které nemusí s morálkou nijak souviset), plnící účel organizace chaotické právní masy na základě, ideálně neměnných, obecných principů, později začleněných i do pozitivního práva (u nás obecními ustanoveními, ústavním právem, judikaturou vyšších soudů, zenovým jazykem Ústavního soudu právním řádem „prosvětlujícími“ principy práva Evropské unie nebo i neformálně prostřednictvím právního myšlení). A jelikož se tak nejednalo o „populární“, ale expertní snahu, následná Benthamova a Austinova pozitivistická redukce práva na příkaz suveréna a jeho analýza v utilitárních pojmech byla reakcí právě na Blackstonovo přirozené právo (což je jen archaičtější označení pro racionální právo), proti kterému, s pozitivním právem podobně, jako i pozdější francouzští revolucionáři proti aristokratické soudcovské moci, vystoupili i s úmyslem podkopat expertní moc právníků.
Což jen opět demonstruje místo, kde leží těžiště právnického myšlení i v opozici k umělé inteligenci – ne v jednotlivé právní empirii, ale v jejím, z veliké části skrytém, „kódovacím programovacím jazyku“, který zase nestojí v opozici k sociálnímu kontextu, jelikož představuje snad nehmatatelnější vtělení ducha doby a společenského kréda, jaký jde vůbec v celé kultuře najít. Ten totiž prostřednictvím racionálních obecných principů konstituuje koherenci práva, zakládající samotné jeho funkční bytí jako systému, a je již jedno, jestli logickou, vytvářenou v kontinentální akademické disputaci, anebo historickou, abstrahovanou při precedenčním soudním rozhodování.
A to je i důvodem, proč plní role vzdělaných právníků i celospolečenský účel a umělá inteligence by proměnila právo v neprávo, nemluvě o tom, že pokaždé, když pozitivistická redukce zcela odebrala právo z jejich expertních rukou, ztratilo svůj smysl a ani neskončilo v rukou lidu, ale Hitlera, Husáka či tvůrců legislativní smrště. Nakonec, i samotný apoštol pozitivismu, neo-kantovec Kelsen, dobře věděl, že bez obdoby uspořádávajících apriorních forem právního vnímání, a tedy jistého vědečtějšího „transcendentálního“ rozměru, se i jeho pozitivistické právo mění v bezmezný, nesrozumitelný a nefunkční decisionistický chaos. A jelikož je, kupříkladu, i obecnější spravedlnost vtělena v, spíš politických, výkladových principech, zásadách a účelech, obsah práva je podmíněn jeho apriorní formou a právě chladně metodologický, smysluplně umělou inteligencí nepostižitelný, právně-teoretičtější jazyk tak buduje i teplo společenského příbytku (a tím plní i méně populární, i když tu skutečnou funkci práva – tvorbu legitimních normativních očekávání, tj. především konstrukci budoucnosti, které stabilnější pilíře, jdoucí za syntax jednotlivého ustanovení, svědčí mnohem víc již z povahy věci).
13. století (kataklyzmatická katarze)
Protože, když máme skončit na začátku, jak ukazuje Harold Berman (v možná nejlepší právně-historické knize Law and Revolution, jejíž nepřeložení do češtiny je největším hříchem), právo, a na něm založený moderní Západ, se v plném smyslu zformovalo v 11.-13. století sekularizací a osamostatněním se formou Varelova autonomního systému, samoreprodukujícího se ne na základě legislativní právní empirie (produkcí struktur), ale právě za její syntaxí skryté odborné sebereflexe (intencionálním vědomím – Varela později založil neurofenomenologii) nově vzniklým, nezávislým právnickým stavem (dokonce již i na akademické úrovni – hádanka: kdy a z jakých fakult vznikly první univerzity?), budujícím jeden z prvních Luhmannových (konstantně smysl-konstituujících) autopoietických subsystémů funkcionálně diferencované moderní společnosti, které se obecně stávají komplexními, a tedy plnohodnotně utvářejí, až začleněním pozorování druhého řádu (reflexe reflexí)…
Jeremy Bentham (tradiční kritik lidské inteligence/abstrakce a svojí redukcionistickou technikou “paraphrasis“ předchůdce moderní právní analýzy): “(...) [William Blackstone] taught jurisprudence to speak the language of the scholar and the gentleman; put a polish upon that rugged science, cleansed her from the dust and cobwebs of the office and, if he has not enriched her with that precision which is drawn only from the sterling treasury of the sciences, has decked her out to advantage from the toilet of classical erudition, enlivened her with metaphors and allusions and sent her abroad in some measure to instruct.“
(počítačový překlad)
30 až 33 n. l. (ukřižování a zmrtvýchvstání)
Právní logikou, raději se posaďte, totiž není ani materielní (či dokonce objektivně nahlédnutelná) spravedlnost (přičemž, jak již víme, formalizovaným systémem je jen zčásti), ale umělou inteligencí neuchopitelná hermeneutická interpretace (odvozeně proveditelná i ve světle převládajících či diskurzivně dovoditelných společenských představ o spravedlnosti, pokud ty nejsou pozitivně zakódovány přímo v právu), stojící na, tvrzení obecně předcházejícím, konkrétním a kontextuálním porozumění...
Gary Marcus (refrén): “Making systems that do not understand what they're telling us is not going to work out the way we are hoping it will.”
(počítačový překlad)
6 až 4 př. n. l. (existenciální znebezestoupení)
A nejen z uvedené primární funkce a hermeneutické logiky práva pak, mimochodem, vyplývá, že jeho obecnou strukturou, na rozdíl od právních předpisů, není statická a umělou inteligencí lehce formalizovatelná hierarchie normativních pravidel, ale organická komunikativní časovost normativních očekávání (i druhého řádu, vůči soudnímu rozhodování o primárních) vytvářených v době, raději si připravte kapesník, kdy se tradiční komunikační pojítka, společný jazyk, obecnější kritéria hodnocení, sdílené vnímání reality, organická sounáležitost a spolu s na nich stojící společenskou normativitou i základní předpoklady spolupráce, a dokonce spolunažívání či jen prostého předcházení psychologicky destruktivní anomii, již (navzdory všemu spíš naštěstí) nenávratně rozpadly, aniž by si to ale i mnoho vzdělanějších osob všimnulo...
7. století př. n. l. („Huja, huja, hujajá!“)
Gustáv Husák (radikální kritik lidské inteligence a první oživlá umělá inteligence):
„Prežili sme obdobia, keď sa veľmi ťažko pracovalo a keď statoční vydržali. Nech odpadne, čo je kolísavé, nech odpadne, čo je oportunistické, ale nech v tej strane [profesi] zostane, čo je pevné, čo je charakterné, čo chce za tento národ zápasiť.“
2. tisíciletí př. n. l. (vyvrácení mýtu o věčném návratu antitezí proti předpokladu ceteris paribus...)
The Economist (příznivec přirozené inteligence volného trhu, ještě i před příchodem první regulace Starým zákonem):
“In an AI-heavy world lawyers will multiply. “In the 1970s you could do a multi-million-dollar deal on 15 pages because retyping was a pain in the ass,” says Preston Byrne of Brown Rudnick, a law firm. “AI will allow us to cover the 1,000 most likely edge cases in the first draft and then the parties will argue over it for weeks.” A rule of thumb in America is that there is no point suing for damages unless you hope for $250,000 or more in compensation, since you need to spend that much getting to court. Now the costs of litigation could fall to close to zero...”
(počítačový překlad)
(…i když možná ani ne)
Uprchlíci z Ukrajiny se Česku vyplácejí. Ale stát je neumí využít a opozice je nechce
Opisoval Macron od ODS? Také žádá méně regulace. Chce na to ale jít úplně jinak
Transgenderové šílenství
Babiš kope propast ve společnosti, budí nenávist k vládě. Reformu důchodů nemá
