Uplynulo jen několik měsíců od zpřístupnění prvních verzí generativní umělé inteligence určených pro širokou veřejnost, a ve sdělovacích prostředcích se začínají množit nejrůznější varování samotných vývojářů, kteří se podíleli na jejím vzniku.

Někteří z nich navrhují pozastavení výroby dalších verzí, byť dost možná i v rámci konkurenčního boje, někteří odcházejí do společností, pro něž pracovali, a zpytují svědomí, že přispěli svou hrstkou do mlýna, jenž umlel nebezpečné monstrum. Pochmurně, ale přece se tomu musím smát.

Je to jako léta v potu tváře pracovat na chemické zbrani, nehledět napravo nalevo, po jejím úspěšném vyrobení ji předat veřejnosti k volnému použití a za chvíli se začít chytat ta hlavu, co jsem to udělal. Vysvětluji si to naprostým fachidiotstvím řady technicky „vzdělaných“ – lépe řečeno školených – osob. Vůbec jim zpravidla nedochází souvislosti jejich počínání, natožpak složité předivo vztahů v lidmi obydleném a do značné míry i ovládaném světě. Mají své hračky, baví je hrát si s nimi a zlepšovat je, a když za to někdo i platí, proč v tom nepokračovat – nač se ptát po důsledcích nebo po smyslu, že?

S touto trapnou slepotou se ovšem běžně setkávám i u odborníků z oblasti přírodních věd, kteří se jinak chlubí zvučnými tituly. Často si myslí, že jsou jedinými pravými vědci, na rozdíl od „humáčů“, a proto rozumí světu. Ani je nenapadne, že vše, co dělají, o čemkoli jakkoli přemýšlejí a o čemkoli jakkoli vypovídají, včetně jejich výzkumu, jejich „čisté vědy“, je drtivou měrou určováno kulturou, do níž jsou zapuštěni, a z ní vycházejícími pojmovými rámci, významy, příběhy, zažitými a historicky podmíněnými vzorci chování a jednání. Že nic jako „čistá věda“ nebylo, není a nebude.

Novináři se na dopady umělé inteligence doptávají převážně humanitně negramotných vývojářů a podle toho to taky vypadá. A tak na jedné straně je nám lakována narůžovo a její obrovská rizika jsou ignorantsky snižována, na druhé straně jsou její dopady apokalypticky přeháněny. Vždy je však představována jako nějaká přírodní nutnost, něco, co vzniklo skoro samo od sebe, za co vlastně nikdo nemůže, a jako něco, co rozhodně nelze zastavit, ovlivnit, omezit.

Přitom je patrné, že uplatnění UI bude jako vše ostatní podstatně ovlivňováno technickými, energetickými a enviromentálními mezemi. Povídačkám o tom, že co je digitální, šetří zdroje a potažmo přírodu, totiž můžou věřit prosťáčci, kteří si to nechali nabulíkovat od technokratů, ale nemůže to napadnout nikoho, kdo se někdy zajímal o nároky na infrastrukturu digitálního světa. Zároveň může, a dokonce by mělo a skoro určitě bude podléhat politickým, právním a jiným „měkkým“ omezením, jako je to s jadernými, chemickými a biologickými zbraněmi nebo s klonováním lidí a dalšími četnými podobnými vymoženostmi vědecko-technického pokroku.

Ani to ale nebude stačit. Největší radost z UI totiž musejí mít expanzivní diktatury, jako je Rusko a Čína. Jejich propagandistická a cenzorní oddělení zajisté řvou blahem. To, co se dříve dělalo ručně, a proto byl rozsah omezen s ohledem na lidské a peněžní zdroje a kvalita byla s ohledem na lidské kompetence jazykové i jiné kolísavá, je nyní možno prakticky zadarmo namnožit donekonečna, a to ve vypilované podobě. Uměle inteligentní trolí farmy na klíč a pro každou cílovou zemi a skupinu budou samozřejmostí, stejně jako v podstatě neohraničené možnosti falšování elektronických obsahů. A v případě čínského digitálního leninismu bude aplikací UI nepřeberně a ty se budou propisovat přímo do života digitálně řízených poddaných rudého císaře.

Předstupněm a dobrým příkladem jsou sociální sítě, jejichž záporné stránky daleko převyšují jejich přínosy. Je dobře popsáno a čím dál lépe prozkoumáno, jak zesilují společenské, politické a osobnostní patologie. Kromě toho, že nabourávají duševní zdraví uživatelů a posilují bezděčné rozvratné trendy ve společnosti, jsou rovněž hlavním nástrojem politického boje a hybridních vlivových operací založených na dezinformačních kampaních. Soudím, že to s UI dopadne stejně – zajisté se pozitiva najdou, leč důsledky využití UI nepřátelskými aktéry bude daleko významnější.

O dopadech UI by proto měli do sdělovacích prostředků mluvit daleko více jiní: filozofové, sociologové, antropologové, právníci, umělci. Vývojáři a odborníci na UI by s nimi měli spolupracovat jako technická podpora, která může tak leda upozornit na to, co UI umí a co neumí, co bude umět a co nebude umět, případně za jakých podmínek. I když možná by bylo kolikrát lepší, aby zalezli do kouta a styděli se za to, že pro lidstvo zcela zbytečně vytvořili další z existenčních hrozeb, jako kdyby jich bylo málo.