Strach z umělé inteligence, přesněji řečeno z pokročilé umělé inteligence se začíná šířit světem. Významní odborníci na strojové učení varují, že vývoj jde kupředu příliš rychle. Navrhují proto, aby velké laboratoře dobrovolně pozastavily práci na stále silnějších modelech umělé inteligence. Dokud se nevyjasní pravidla. Ale proč vlastně? A z jakého důvodu?

Ani mimoevropské kultury zatím neměly obavy z přebírání produktů vědy, která je nejvlastnějším plodem evropské kultury a nyní se světem evropských, ale i mimoevropských kultur, začíná šířit obava, co všechno by se mohlo stát, kdyby se pokročilá umělá inteligence příliš rozšířila.

Je potřeba definovat a zajistit sladění

Právě na tuto větu reaguje otevřený dopis odborníků: Ten čas „omezit rychlost růstu“ nastal právě teď. Podle signatářů výše uvedeného varování by měly laboratoře přestat – alespoň dočasně – vyvíjet modely té nepokročilejší umělé inteligence (řečeno slovy autora tohoto článku) a dát prostor, aby došlo k ustanovení jasných pravidel pro vývoj. Upozorňují na to, že dopady překotného vývoje by mohly být nepříjemné pro lidi z celého světa, ať už kvůli rapidním změnám na pracovním trhu nebo existenciálním hrozbám na úrovni státních zřízení.

„Výzkum a vývoj umělé inteligence by se měl znovu zaměřit na to, aby dnešní výkonné a nejmodernější systémy byly přesnější, bezpečnější, interpretovatelnější, transparentnější, robustnější, sladěné se zadanými úkoly, důvěryhodnější a loajálnější,“ zdůrazňuje otevřený dopis koncept tzv. sladění (alignment). To v oboru strojového učení označuje schopnost „vetknout“ systému hodnoty odpovídající záměru tvůrců.

A právě zde nastávají neřešitelné problémy. Například čínští soudruzi už vyjádřili obavu, že by pokročilá umělá inteligence mohla čínským žákům a studentům zprostředkovat obraz světa, který překračuje meze marxisticko-leninského pohledu na svět. Což je ale z jejich hlediska nepřípustné. Kdyby to nebylo tak hloupé, bylo by to směšné. Čínská „pokročilá“ umělá inteligence by tedy musela značně zhloupnout, aby odpovídala hodnotovému systému čínských tvůrců. Marxisticko-leninský pohled na svět by odpovídal na otázky, které byly aktuální v minulém století.

Jak by na něco podobného mohla přistoupit otevřená západní kultura? Náš strach před pokročilou umělou inteligencí je přirozený. Cosi tu drhne. Ale co to jenom je? Bojíme se, že nám umělá inteligence vezme něco, na čem nám až dosud až přespříliš záleželo a bez čeho si svůj budoucí život nedokážeme představit. Obáváme se, že řada velmi atraktivních povolání může být zcela nahrazena činností pokročilé umělé inteligence. Jedná se například o práci redaktorů, fotografů a podobných profesí. Ale něčemu takovému se dá docela snadno předejít. Například ustanovením, že za jakoukoli redakční práci je vždy odpovědný jen a jen člověk, nikoli robot. V takovém případě se pokročilá umělá inteligence stává vynikajícím pomocníkem, ale nemůže práci člověka nikdy nahradit. Právě tento přístup zvolila redakce Seznamu, když vydala svůj etický kodex, který se týká pokročilé umělé inteligence.

Co ale jiná povolání, která jsou jejich vykonavatelům tak drahá (a nemusí to být ani redaktoři a jejich fotografové), jsou nahraditelná pokročilou umělou inteligencí? Nikoli tou, ke které jsme se dopracovali již dnes, ale třeba ještě mnohem pokročilejší? Tisíce generací učili jejich rodiče, že smyslem života je práce, manuální, nebo intelektuální. A teď nám do továren a kanceláří vtrhne pokročilá umělá inteligence a kam se poděl náš smysl života?

Ale položme si důležitou otázku: „Je možné i mezi lidmi vytvořit něco, co tolik obdivujeme v případě umělé inteligence?“ Není třeba nic obdivovat. I lidé, jestliže se umí otevřít jeden druhému, mohou zdaleka překonat vše, co dovede jakákoli umělá inteligence.

„Nazvěme to kolektivním vědomím, týmovou synergií, kolektivní inteligencí nebo skupinovou myslí – vzrůstající počet lidí prostřednictvím své vlastní zkušenosti objevuje, že celek je skutečně víc než souhrn jeho částí; že když se jednotlivci spojí dohromady se společně sdíleným záměrem v napomáhajícím prostředí, může vstoupit do bytí něco tajemného, se schopností a inteligencí, která do ní zahrnuté jednotlivce daleko přesahuje. V těchto skupinových zkušenostech mají lidé přístup k druhu poznání, který je větší než to, co spolu normálně navzájem prožívají,“ říká spisovatelka a vědkyně Carol Frenier.

„Zakoušíte přítomnost posvátného a uvědomujete si, že všichni ostatní ve skupině to vnímají také. Je to pocit otevřenosti a uvědomování si čehosi většího, než jste vy sami. Vaše schopnost komunikovat se zdá rozsáhlejší. To, co přitom lidi ohromuje je to, kolik tvořivosti se v takových setkáních vynořuje. Máte pocit, že celá skupina společně tvoří a vy zcela přesně nevíte jak,“ píše Craig Hamilton ve své knize „Dejme se dohromady“.

Doktor M. Scott Peck, který se takovými skupinami celý život zabývá je nazývá skutečné společenství. Je to životní cesta, která nevyžaduje žádné zvláštní nadání, jako některé jiné cesty. Jen pokoru a dobrou vůli. Kromě toho, způsobu, jak vytvářet skutečné společenství je možné se učit. Individuální možnosti a schopnosti členů takové skupiny nijak neusurpuje ani neuchvacuje, ale díky možnostem všech ostatních členů kolektivu ještě násobí. Uveďme alespoň několik příkladů:

„Ve skupině jsem zažila druh vědomí, které bylo téměř singularitou; podobalo se to opuštění osobnosti a spojení se dohromady s ostatními, kdy neexistoval žádný pocit konfliktu. Nikdo nebyl v opozici a všichni si pouze navzájem pomáhali. Stalo se zjevným, že vzájemně nereagujeme na své individuální osobnosti, ale že reagujeme na něco mnohem hlubšího, mnohem reálnějšího, co nám bylo společné, na něco, co námi bylo sdíleno – na stejnost, skutečně. Byl to obrovský pocit naslouchání a uvědomování si, který byl mnohem větší a mnohem rozsáhlejší než cokoliv, co jsem kdy prožila. A s touto zkušeností přišlo vědomí, že v prostoru existuje jen jedno tělo.“
Jan Metcalfe, Londýn

„Když někdo jiný promluvil, cítila jsem, jako bych mluvila já. A když jsem mluvila, bylo to téměř bez ega, jako bych to ve skutečnosti nebyla já. Bylo to jakoby něco většího než já, mluvilo skrze mě. Atmosféru v pokoji jsme pociťovali jako bychom byli v řece, jako kdyby se vzduch stal hustější. A v tomto prostoru jsme začali tvořit. Začali jsme říkat věci, o nichž jsme nikdy dřív neuvažovali a začali jsme se nechávat ovlivňovat způsoby a uvažovat způsoby, jimiž jsme nikdy dřív nepřemýšleli. A když někdo promluvil, bylo to téměř, jako by bylo něco osvětleno, jako by něco bylo odhaleno, co otvíralo něco dalšího, co má být odhaleno.“

Beth Jandernoa, Essen, M.

„Toho večera se ve druhém kole konverzace odehrála pozoruhodná věc. Byl to téměř nepopsatelný pocit – jako by v pokoji byla jiná bytost ... Mám tušení, že bychom to mohli nazvat kolektivem, ale to není ten pravý popis. Bylo to téměř fyzickým způsobem hmatatelné. Mohl jsem cítit jeho energii a mohl jsem pociťovat své odevzdání se tomu – druh lásky vůči tomu. Lidé to vnímali a nahlas o tom mluvili. Jeden člověk tuto ´bytost´ popisoval jako klíh. Řekl ´Je to to, co nás spojuje dohromady – je to větší celek, o němž jsme vždy věděli, že je tady, ale nikdy jsme ho skutečně neocenili.“

Emmet Miller, M.D. Nevada City, CA

O podobné zkušenosti vypovídají již některé staré alchymistické texty, jak o tom svědčí například citát slavného švýcarského psychiatra a psychoterapeuta Carla Gustava Junga z díla proslulého alchymisty a lékaře Paracelsa:
„Abychom však popsali původ vnitřního člověka nebo těla, píše Paracelsus, pamatujme si tedy, že všechna vnitřní těla jsou jedním tělem a jednou jedinou věcí ve všech lidech, ale rozdělenou. A když se setkají, jsou jen jedním světlem, jen jedním rozumem …“

Jak už jsme psali výše, přistoupit na tuto možnost je ale pro většinu z nás krok mimořádně obtížný, o tom nemusíme vůbec pochybovat. Už proto, že ke skutečnému společenství se pouze dějinným samopohybem nedopracujeme. Něco takového vyžaduje uvědomělou snahou překonávat vzájemné bariéry, a to je něco, co nám zatím příliš dobře nejde.

Z tohoto hlediska můžeme předpovídat, že čeká-li nás doba lidské vědy, bude to především doba vědy o člověku a o lidstvu. Poznávající člověk si konečně všimne, že člověk jako „předmět poznání“ je klíčem k celé přírodní vědě, říká Pierre Teilhard de Chardin.

A dále píše: Hmotně se naše tělo zdá být tak bezvýznamné, tak nahodilé, přechodné a křehké – proč se jím zabývat? Psychologicky je naše duše tak jemná a složitá – jak ji dát dohromady se světem zákonů a vzorců? Jenže čím více se ve svých teoriích snažíme člověku vyhnout, tím více se kruhy, které kolem něho opisujeme, stahují – jako by nás vtahoval vír.

A my bychom mohli dodat, že také díky pokročilé umělé inteligenci se snad lidský rod konečně bude moci trochu více věnovat poznávání a sebepoznávání, protože něco podobného je přece otevřené každému člověku.

A není snad pokročilá umělá inteligence snahou o napodobení člověka? Zcela jistě ano. Proto nás tolik zneklidňuje. Nastavuje nám zrcadlo a poukazuje k možnostem, které sice máme, ale které jsme dosud nevyužili. A jestliže zůstaneme na tomto stupni psychického rozvoje, ani nevyužijeme, a to nás mimořádně zneklidňuje.