Některé z nejpronikavějších myslí dneška, od Elona Muska až po Stephena Hawkinga, vidí v nástupu člověkem vytvořené superinteligence nejen velkou příležitost pro lidstvo, ale i velké nebezpečí pro jeho další přežití. Už proto je důležitým počinem, že nakladatelství Prostor vydalo v češtině knihu Superinteligence švédského filozofa a futurologa, působícího na Oxfordské univerzitě, Nicka Bostroma, která vyšla v anglickém originálu v roce 2014. Od vydání neznámějších knih Raye Kurzweila na téma umělé inteligence vzbudila na Západě největší ohlas.

Superinteligence je dnes nevšední čtení už proto, že ve věku, v němž je Západ v sevření nejrůznějších úzkostí jen proto, že si nedokáže politicky poradit s výzvami globalizace, a hněv i bezmoc mas se obracejí proti politikům, staví nás Bostrom před horizont, za nímž je potenciálně v sázce osud celého lidského druhu. Klade otázky, zda umělá inteligence překoná v dohledné budoucnosti tu lidskou a, pokud ano, jaké to bude mít důsledky.

Budeme schopni umělou inteligenci, která si bude vědoma sebe sama, ještě kontrolovat? Bude naším spojencem? Nebo nás nebude už potřebovat, a může nás tudíž chtít zničit? Vznikne nový „živočišný“ druh, který bude kombinací člověka a jím vyvinuté umělé inteligence?

Žádná z těchto otázek nepatří do oblasti science-fiction, upozorňuje Bostrom. Nabízí proto nejprve zajímavý historický přehled různých kroků, které vedly ke vzniku zárodků umělé inteligence, jakož i přehled toho, kde se vývoj umělé inteligence nachází dnes. I kdyby už v dalších pasážích knihy nenabídl Bostrom úvahy o tom, kam může vést další kvalitativní skok ve vývoji umělé inteligence, jednalo by o zajímavou knihu, kterou stojí zato číst.

Bostrom se zabývá jednotlivými druhy umělé inteligence—od počítačů až po nové formy, které by mohly kombinovat stroje s biologickou matérií. Nabízí i zajímavý přehled názorů odborníků na to, jakým směrem se bude vývoj umělé inteligence ubírat. V centru jeho pozornosti stojí otázka, zda může umělá inteligence—buď ve formě stroje nebo v kombinaci s biologickými formami rozumu—napodobit fungování lidského mozku. Dokud umělá inteligence nebude schopná emulovat lidský mozek v jeho komplexnosti, bude z podstaty věci omezená.

Lidský mozek má podle něj určité schopnosti, které postrádají ostatní formy nám známého biologického života. Na planetě Zemi to lidem dává dominantní postavení, které jim umožňuje mít převahu nad ostatními formami života, včetně těch vysoce inteligentních, jako jsou lidoopi.

Bostrom ale varuje, že podobně jako přežití lidoopů nyní kvůli v podstatě jen malé genetické výhodě, kterou nad nimi mají lidé, závisí na vůli lidí, může se stát, že pokud vytvoříme superinteligenci, která bude podobným způsobem nadřazena nám, stane se naše vlastní přežití závislé na ní.

Naší výhodou je, že to, zda učiníme krok k vyšší formě inteligence, než je ta naše, závisí na nás. To, že lidstvo dojde k bodu, kdy bude schopno uvést superinteligenci v život, je dle něj nevyhnutelné. Otázka zní, jak tuto „denotaci“ superinteligence provést tak, aby nás v krátkém čase nezahubila.

Bostrom nabízí různé scénáře možného vývoje. Upozorňuje přitom, že vývoj superinteligence je projekt natolik komplexní, že se jen těžko uskuteční náhodou v nějaké malé laboratoři. Bude zapotřebí rozsáhlé mezinárodní spolupráce a financování, což je do určité míry také záruka, že celý proces bude pod kontrolou.
Nedá se ale úplně vyloučit ani možnost, že se tak stane „náhodou“, kdy nějaký algoritmus spustí proces, v němž si superinteligence bude schopná nejen uvědomit sebe sama, ale také se dál sama zdokonalovat. Příchod této Singularity, jak tento okamžik nazval už Kurzweil, nemusíme mít tedy nutně pod kontrolou, stejně jako vše, co se bude dít potom.

Bostrom se proto logicky zabývá různými možnými aspekty fungování superinteligence, které mohou určit, jakým způsobem se bude vyvíjet její vztah k člověku. Klade si otázku, jakou bude mít superinteligence „motivaci“ pro svá rozhodnutí. V centru lidského chování stojí morální dilemata. Bude možné trvalé morální sebeomezení naprogramovat nějakým způsobem do umělé inteligence, která se bude schopna sama vylepšovat?

Jelikož si Bostrom není odpovědí na tuto otázku úplně jistý, nabízí několik možností, jak by se lidstvo mohlo proti ztrátě kontroly nad umělou superinteligencí bránit. I zde ale naráží na dilemata, protože inteligence převyšující tu lidskou může být schopná takové naprogramované kontroly či mechanismy k jejímu sebezničení odhalit a obejít.

Jisté je, že podle něj stojíme na prahu nového věku, možná vzdáleného jen pár desítek let. Jeví se jako nanejvýš užitečné poměřovat naše současné politické problémy tímto kontextem.