Pozor, na obzoru je Superinteligence

22. 04. 2017 | 15:46
Přečteno 3282 krát
Některé z nejpronikavějších myslí dneška, od Elona Muska až po Stephena Hawkinga, vidí v nástupu člověkem vytvořené superinteligence nejen velkou příležitost pro lidstvo, ale i velké nebezpečí pro jeho další přežití. Už proto je důležitým počinem, že nakladatelství Prostor vydalo v češtině knihu Superinteligence švédského filozofa a futurologa, působícího na Oxfordské univerzitě, Nicka Bostroma, která vyšla v anglickém originálu v roce 2014. Od vydání neznámějších knih Raye Kurzweila na téma umělé inteligence vzbudila na Západě největší ohlas.

Superinteligence je dnes nevšední čtení už proto, že ve věku, v němž je Západ v sevření nejrůznějších úzkostí jen proto, že si nedokáže politicky poradit s výzvami globalizace, a hněv i bezmoc mas se obracejí proti politikům, staví nás Bostrom před horizont, za nímž je potenciálně v sázce osud celého lidského druhu. Klade otázky, zda umělá inteligence překoná v dohledné budoucnosti tu lidskou a, pokud ano, jaké to bude mít důsledky.

Budeme schopni umělou inteligenci, která si bude vědoma sebe sama, ještě kontrolovat? Bude naším spojencem? Nebo nás nebude už potřebovat, a může nás tudíž chtít zničit? Vznikne nový „živočišný“ druh, který bude kombinací člověka a jím vyvinuté umělé inteligence?

Žádná z těchto otázek nepatří do oblasti science-fiction, upozorňuje Bostrom. Nabízí proto nejprve zajímavý historický přehled různých kroků, které vedly ke vzniku zárodků umělé inteligence, jakož i přehled toho, kde se vývoj umělé inteligence nachází dnes. I kdyby už v dalších pasážích knihy nenabídl Bostrom úvahy o tom, kam může vést další kvalitativní skok ve vývoji umělé inteligence, jednalo by o zajímavou knihu, kterou stojí zato číst.

Bostrom se zabývá jednotlivými druhy umělé inteligence—od počítačů až po nové formy, které by mohly kombinovat stroje s biologickou matérií. Nabízí i zajímavý přehled názorů odborníků na to, jakým směrem se bude vývoj umělé inteligence ubírat. V centru jeho pozornosti stojí otázka, zda může umělá inteligence—buď ve formě stroje nebo v kombinaci s biologickými formami rozumu—napodobit fungování lidského mozku. Dokud umělá inteligence nebude schopná emulovat lidský mozek v jeho komplexnosti, bude z podstaty věci omezená.

Lidský mozek má podle něj určité schopnosti, které postrádají ostatní formy nám známého biologického života. Na planetě Zemi to lidem dává dominantní postavení, které jim umožňuje mít převahu nad ostatními formami života, včetně těch vysoce inteligentních, jako jsou lidoopi.

Bostrom ale varuje, že podobně jako přežití lidoopů nyní kvůli v podstatě jen malé genetické výhodě, kterou nad nimi mají lidé, závisí na vůli lidí, může se stát, že pokud vytvoříme superinteligenci, která bude podobným způsobem nadřazena nám, stane se naše vlastní přežití závislé na ní.

Naší výhodou je, že to, zda učiníme krok k vyšší formě inteligence, než je ta naše, závisí na nás. To, že lidstvo dojde k bodu, kdy bude schopno uvést superinteligenci v život, je dle něj nevyhnutelné. Otázka zní, jak tuto „denotaci“ superinteligence provést tak, aby nás v krátkém čase nezahubila.

Bostrom nabízí různé scénáře možného vývoje. Upozorňuje přitom, že vývoj superinteligence je projekt natolik komplexní, že se jen těžko uskuteční náhodou v nějaké malé laboratoři. Bude zapotřebí rozsáhlé mezinárodní spolupráce a financování, což je do určité míry také záruka, že celý proces bude pod kontrolou.
Nedá se ale úplně vyloučit ani možnost, že se tak stane „náhodou“, kdy nějaký algoritmus spustí proces, v němž si superinteligence bude schopná nejen uvědomit sebe sama, ale také se dál sama zdokonalovat. Příchod této Singularity, jak tento okamžik nazval už Kurzweil, nemusíme mít tedy nutně pod kontrolou, stejně jako vše, co se bude dít potom.

Bostrom se proto logicky zabývá různými možnými aspekty fungování superinteligence, které mohou určit, jakým způsobem se bude vyvíjet její vztah k člověku. Klade si otázku, jakou bude mít superinteligence „motivaci“ pro svá rozhodnutí. V centru lidského chování stojí morální dilemata. Bude možné trvalé morální sebeomezení naprogramovat nějakým způsobem do umělé inteligence, která se bude schopna sama vylepšovat?

Jelikož si Bostrom není odpovědí na tuto otázku úplně jistý, nabízí několik možností, jak by se lidstvo mohlo proti ztrátě kontroly nad umělou superinteligencí bránit. I zde ale naráží na dilemata, protože inteligence převyšující tu lidskou může být schopná takové naprogramované kontroly či mechanismy k jejímu sebezničení odhalit a obejít.

Jisté je, že podle něj stojíme na prahu nového věku, možná vzdáleného jen pár desítek let. Jeví se jako nanejvýš užitečné poměřovat naše současné politické problémy tímto kontextem.


Komentáře

Aktuálně.cz má zájem poskytovat prostor jen korektně a slušně vedené debatě. Tím, že zde publikujete svůj příspěvek, se zároveň zavazujete dodržovat Kodex diskutujících. V opačném případě se vystavujete riziku, že příspěvek administrátor odstraní z diskuse na Aktuálně.cz. Při opakovaném porušení kodexu Vám administrátor může zablokovat možnost přispívat do diskusí na Aktuálně.cz. Přejeme Vám zajímavou a inspirativní výměnu názorů. Redakce Aktuálně.cz.

Blogeři abecedně

A Arnoštová Lenka Teska B Balabán Miloš · Bartoš Ivan · Bartošová Ela · Bečková Kateřina · Bělobrádek Pavel · Benda Jan · Beránek Jan · Berwid-Buquoy Jan · Bielinová Petra · Bízková Rut · Bobek Miroslav · Boučková Tereza · Bursík Martin C Cimburek Ludvík Č Černý Jan · Čipera Erik · Čtenářův blog D David Jiří · Dienstbier Jiří · Dolejš Jiří · Drobek Aleš · Duka Dominik · Duong Nguyen Thi Thuy · Dvořáková Vladimíra F Fajt Jiří · Farský Jan · Fendrych Martin · Feri Dominik · Fiala Petr G Gazdík Petr · Gregor Kamil H Hamáček Jan · Hamplová Jana · Hasenkopf Pavel · Havel Petr · Havlík Petr · Heger Leoš · Heller Šimon · Herman Daniel · Hilšer Marek · Hlaváček Petr · Hnízdil Jan · Hokeš Tomáš · Hokovský Radko · Holmerová Iva · Holomek Karel · Honzák Radkin · Horký Petr · Horváth Drahomír Radek · Hořejš Nikola · Hořejší Václav · Hovorka Jiří · Hradilková Jana · Hubinger Václav · Hudeček Tomáš · Hůle Daniel · Hülle Tomáš · Hvížďala Karel CH Chromý Heřman J Janeček Karel · Jarolímek Martin · Jourová Věra · Just Jiří · Just Vladimír K Kania Ondřej · Keményová Zuzana · Klan Petr · Klíma Vít · Klimeš David · Kněžourková Tereza · Komárek Michal · Kopecký Pavel · Kostkan Tomáš · Kostlán František · Košák Pavel · Kotišová Miluš · Koudelka Zdeněk · Krafl Martin · Králíková Eva · Krása Václav · Kraus Ivan · Krištof Roman · Křeček Stanislav · Kubita Jan · Kubr Milan · Kučera Vladimír · Kuchař Jaroslav · Kuras Benjamin · Kutílek Petr · Kužílek Oldřich · Kyselý Ondřej L Lalák Adam · Laně Tomáš · Líbal Vladimír · Linhart Zbyněk · Lipold Jan · Lomová Olga · Ludvík Miloslav M Mahdalová Eva · Marksová-Tominová Michaela · Marvanová Hana · Mašát Martin · Metelka Ladislav · Mihovičová Jana · Michálek Libor · Miller Robert · Minařík Petr · Müller Zdeněk · Münich Daniel N Navrátil Vojtěch · Němec Václav · Novák Martin O Oláh Michal P Palik Michal · Paroubek Jiří · Payne Jan · Pecák Radek · Pehe Jiří · Pelda Zdeněk · Penc Stanislav · Petrák Milán · Peychl Ivan · Pikora Vladimír · Pixová Michaela · Poc Pavel · Pohled zblízka · Pokorný Zdeněk · Pražskej blog · Procházka Adam · Prouza Tomáš · Přibyl Stanislav R Rabas Přemysl · Rath David · Redakce Aktuálně.cz  · Ripka Štěpán · Robejšek Petr · Rychlík Jan Ř Řízek Tomáš S Sedláček Tomáš · Sedlák Martin · Shanaáh Šádí · Schwarzenberg Karel · Skořepa Michal · Skuhrovec Jiří · Sláma Bohumil · Slimáková Margit · Sobotka Bohuslav · Sokačová Linda · Sportbar · Staněk Pavel · Stanoev Martin · Stehlíková Džamila · Stejskal Libor · Stránský Martin Jan · Svoboda Cyril · Svoboda Jiří · Svoboda Pavel · Syková Eva Š Šilerová Jana · Šimáček Martin · Šimková Karolína · Škop Michal · Šlechtová Karla · Šmíd Milan · Šoltés Michal · Špok Dalibor · Štádler Petr · Šteffl Ondřej · Štěch Milan · Štern Ivan · Štern Jan · Šumbera Filip · Švejnar Jan T Tejc Jeroným · Tejkalová N. Alice · Tolasz Radim · Tomášek Pavel · Tomčiak Boris · Tomský Alexander · Tošovský Michal · Tožička Tomáš · Turek Jan U Uhl Petr · Urban Jan V Vaculík Jan · Vácha Marek · Vendlová Veronika · Vhrsti · Vileta Petr · Vlach Robert · Vlk Miloslav · Vodrážka Mirek W Wagenknecht Lukáš · Wheeler Adrian · Wichterle Kamil · Wollner Marek Z Zahradil Jan · Zahumenský David · Zaorálek Lubomír · Závodský Ondřej · Zděnek Michal · Zelený Milan · Zlatuška Jiří · Znoj Milan Ž Žák Miroslav · Žák Václav Ostatní Dlouhodobě neaktivní blogy