Robocop ve službách státu? Jak budou stroje rozhodovat o našich osudech

16. 09. 2020 | 10:01
Přečteno 2507 krát
Umělá inteligence je všude kolem nás. Jaké zprávy čteme na sociálních sítích, kterou trasou se vydáme, anebo jaké zboží nám je nabízeno. O tom všem rozhoduje. Byť o ní vědomě často zavadíme pouze ve sci-fi filmech, anebo odborných časopisech, ovlivňuje (a hlavně bude formovat) naše životy čím dál tím víc.

Je mnoho rozumných důvodů, proč se o téma zajímat. Postupující robotizace například připraví o práci celou řadu lidí v mnoha odvětvích.

Stejně jako výhody, umělá inteligence přináší i rizika. Při nesprávném využití může narušovat naše soukromí, ba dokonce neuváženě rozhodovat o lidských životech. Evropská komise se i proto snaží o vykolíkování jejího prostoru. Pojďme se tedy podívat na příklady z Česka, Evropy i ze světa, které dají tématu potřebný kontext.

Jednou z nejznámějších forem umělé inteligence je systém na rozpoznávání obličejů, které v Česku zatím funguje na letišti Václava Havla. Diskuse ohledně zavedení stejné technologie se strhla i poté, co policie začala zvažovat její aplikaci do míst se zvýšenou koncentrací lidí, jako je například metro či turistická místa. V jejím využití je bezesporu nejdál Spojené království, které ji používá během hromadných akcí. Stejně tak Německo ji během zasedání G20 v Hamburku mělo možnost testovat na dobrovolnících. Ve Francii zase probíhalo toto rozpoznávání během karnevalu v Nice. Systém porovnává dostupné obličeje hledaných osob se snímky. Legislativa ve dvou posledně jmenovaných zemích však zatím nedovoluje efektivní využívání tohoto nástroje.

Ve srovnání se zemí, které využívá rozpoznávání obličejů zdaleka nejvíce (Čína), jde Evropa opačnou cestou. Cílem není rychlý rozvoj technologie i za cenu toho, že se nám vymkne z rukou. V Evropě klademe důraz na dodržování lidských práv, otevřenost a kontrolu technologií odbornou veřejností. Přesný opak můžeme pozorovat právě v politikách Pekingu, který stroje zneužívá k perzekuci lidí za jiné názory či odlišné náboženské vyznání. Evropa jednoduše nebude ani nechce následovat standardy pro umělou inteligenci, které se Čína snaží psát. Zneužívání technologií je však vidět i jinde. Azerbajdžán a Bahrain skrze sociální sítě identifikují odpůrce režimu, politické oponenty, či příslušníky komunity LGBT, které následně perzekuují. Pokud nebudou existovat jasné hranice, pak budou firmy moci volně prodávat nové produkty autoritářským režimům tak, jak to nyní dělají například někteří izraelští vývojáři.

Když si tedy uvědomíme, jak lehce je možné umělou inteligenci zneužít, pak je třeba zamyslet se nad řadou témat a odpovědět si na několik otázek. Zaprvé, budeme využívat rozpoznávání tváří ve veřejném prostoru? Jak definujeme veřejný prostor? Zadruhé, systém může být velmi snadno zneužit proti sledování určité skupiny či etnika. Jak zabránit tomu, aby se tak stalo? Zatřetí, musíme zvyšovat povědomí o umělé inteligenci. Lidé musí vědět a dohlížet na důsledky, které s sebou přináší použití těchto systémů – ve fyzickém světě i v on-line prostředí. Začtvrté, musíme čelit diskriminaci, kterou s sebou nesou algoritmy. Nemůže se stát, že někomu jsou znepřístupňovány nabídky na služby či produkty pouze proto, že je jiné národnosti či barvy pleti. To je pravděpodobně i důvod, proč se dle nedávného průzkumu přední evropské spotřebitelské organizace BEUC dvě třetiny lidí vyslovily proti využívání umělé inteligence pro automatické rozhodování. Konečně, umělá inteligence musí splňovat několik základních parametrů: musí být etická, zaměřená na člověka a nesmí diskriminovat.

Jako Piráti nebráníme umělé inteligenci ve vývoji – právě naopak. Zároveň ale hájíme práva každého z nás. Nemůžeme si dovolit, abychom za cenu chycení pár zločinců omezili svobodu, odstavili kontrolní mechanismy a zasahovali do lidských práv, které jsou základním stavebním kamenem evropské civilizace. Jsme to my, kdo musí bránit svobodu v dobách temna, kdy jsou technologie zneužívány na mnoha frontách. Namísto zvýšení efektivity jsou často využívány ke zotročování. V Evropském parlamentu ale každý den pracuji a bojuji za to, aby tomu tak nebylo. Aby nám technologie skutečně dávaly svobody, aby nás nevrhaly zpět do minulosti plné strachu. Existuje cesta, přestože nebude snadná. Pojďme se po ní společně vydat.

Blogeři abecedně

A Aktuálně.cz Blog · Atapana Mnislav Zelený B Baar Vladimír · Babka Michael · Balabán Miloš · Bartoníček Radek · Bartošová Ela · Bavlšíková Adéla · Bečková Kateřina · Bednář Vojtěch · Bělobrádek Pavel · Beránek Jan · Bernard Josef · Berwid-Buquoy Jan · Bielinová Petra · Bína Jiří · Bízková Rut · Blaha Stanislav · Blažek Kamil · Bobek Miroslav · Boehmová Tereza · Brenna Yngvar · Bureš Radim · Bůžek Lukáš · Byčkov Semjon C Cerman Ivo Č Černoušek Štěpán · Česko Chytré · Čipera Erik · Čtenářův blog D David Jiří · Davis Magdalena · Dienstbier Jiří · Dlabajová Martina · Dolejš Jiří · Dostál Ondřej · Dudák Vladislav · Duka Dominik · Duong Nguyen Thi Thuy · Dvořák Jan · Dvořák Petr · Dvořáková Vladimíra E Elfmark František F Fafejtová Klára · Fajt Jiří · Fendrych Martin · Fiala Petr · Fibigerová Markéta · Fischer Pavel G Gálik Stanislav · Gargulák Karel · Geislerová Ester · Girsa Václav · Glanc Tomáš · Gregorová Markéta · Groman Martin H Hájek Jan · Hála Martin · Halík Tomáš · Hamáček Jan · Hampl Václav · Hamplová Jana · Hapala Jiří · Hasenkopf Pavel · Hastík František · Havel Petr · Heller Šimon · Herman Daniel · Heroldová Martina · Hilšer Marek · Hladík Petr · Hlaváček Petr · Hlubučková Andrea · Hnízdil Jan · Hokovský Radko · Holásková Kamila · Holmerová Iva · Honzák Radkin · Horáková Adéla · Horký Petr · Hořejš Nikola · Hořejší Václav · Hrabálek Alexandr · Hradilková Jana · Hrstka Filip · Hřib Zdeněk · Hubinger Václav · Hülle Tomáš · Hušek Radek · Hvížďala Karel CH Charanzová Dita · Chlup Radek · Chromý Heřman · Chýla Jiří · Chytil Ondřej J Janda Jakub · Janeček Karel · Janeček Vít · Janečková Tereza · Janyška Petr · Jelínková Michaela Mlíčková · Jourová Věra · Just Jiří · Just Vladimír K Kania Ondřej · Karfík Filip · Karlický Josef · Klan Petr · Klepárník  Vít · Klíma Pavel · Klíma Vít · Klimeš David · Kňapová Kateřina · Kocián Antonín · Kohoutová Růžena · Kolaja Marcel · Kolářová Marie · Kolínská Petra · Kolovratník Martin · Kopeček Lubomír · Kostlán František · Kotišová Miluš · Koudelka Zdeněk · Koutská Petra Schwarz · Kozák Kryštof · Krafl Martin · Krása Václav · Kraus Ivan · Kroupová Johana · Křeček Stanislav · Kubr Milan · Kučera Josef · Kučera Vladimír · Kučerová Karolína · Kuchař Jakub · Kuchař Jaroslav · Kukal Petr · Kupka Martin · Kuras Benjamin · Kutílek Petr · Kužílek Oldřich · Kyselý Ondřej L Laně Tomáš · Linhart Zbyněk · Lipavský Jan · Lipold Jan · Lomová Olga M Máca Roman · Mahdalová Eva · Máchalová Jana · Maláčová Jana · Málková Ivana · Marvanová Hana · Mašát Martin · Měska Jiří · Metelka Ladislav · Michálek Libor · Miller Robert · Minařík Petr · Mittner Jiří · Moore Markéta · Mrkvička Jan · Müller Zdeněk · Münich Daniel N Nacher Patrik · Nachtigallová Mariana Novotná · Návrat Petr · Navrátil Marek · Němec Václav · Nerušil Josef · Niedermayer Luděk · Nosková Věra · Nouzová Pavlína · Nováčková Jana · Novák Aleš · Novotný Martin · Novotný Vít · Nožička Josef O Obluk Karel · Oláh Michal · Ouhel Tomáš · Oujezdská Marie · Outlý Jan P Pačes Václav · Palik Michal · Paroubek Jiří · Pavel Petr · Pavelka Zdenko · Payne Jan · Payne Petr Pazdera · Pehe Jiří · Peksa Mikuláš · Pelda Zdeněk · Petrák Milán · Petříček Tomáš · Petříčková Iva · Pfeffer Vladimír · Pfeiler Tomáš · Pilip Ivan · Pitek Daniel · Pixová Michaela · Plaček Jan · Podzimek Jan · Pohled zblízka · Polách Kamil · Potměšilová Hana · Pražskej blog · Prouza Tomáš R Rabas Přemysl · Rajmon David · Rakušan Vít · Ráž Roman · Redakce Aktuálně.cz  · Reiner Martin · Richterová Olga · Robejšek Petr · Rydzyk Pavel · Rychlík Jan Ř Řebíková Barbora · Říha Miloš · Řízek Tomáš S Sedlák Martin · Seitlová Jitka · Schneider Ondřej · Schwarzenberg Karel · Sirový Michal · Skalíková Lucie · Skořepa Michal · Skuhrovec Jiří · Sládek Jan · Sláma Bohumil · Slavíček Jan · Slimáková Margit · Smoljak David · Sobíšek Pavel · Sokačová Linda · Soukal Josef · Soukup Ondřej · Sportbar · Staněk Antonín · Stanoev Martin · Stehlík Michal · Stehlíková Džamila · Stránský Martin Jan · Strmiska Jan · Stulík David · Svárovský Martin · Svoboda Cyril · Svoboda Jiří · Svoboda Pavel · Sýkora Filip · Syrovátka Jonáš Š Šebek Tomáš · Šefrnová Tereza · Šimáček Martin · Šimková Karolína · Šindelář Pavel · Šípová Adéla · Šlechtová Karla · Šmíd Milan · Šoltés Michal · Špalková Veronika Krátká · Špinka Filip · Špok Dalibor · Šteffl Ondřej · Štěpán Martin · Štern Ivan · Štern Jan · Štětka Václav · Štrobl Daniel T Táborský Adam · Tejkalová N. Alice · Telička Pavel · Těšínská Tereza · Titěrová Kristýna · Tolasz Radim · Tománek Jan · Tomčiak Boris · Tomek Prokop · Tomský Alexander · Trantina Pavel · Tůma Petr · Turek Jan U Uhl Petr · Urban Jan V Vacková Pavla · Václav Petr · Vaculík Jan · Vácha Marek · Valdrová Jana · Vančurová Martina · Vavruška Dalibor · Věchet Martin Geronimo · Vendlová Veronika · Vhrsti · Vích Tomáš · Vlach Robert · Vodrážka Mirek · Vojtěch Adam · Vojtková Michaela Trtíková · Výborný Marek · Vyskočil František W Walek Czeslaw · Wichterle Kamil · Wirthová Jitka · Witassek Libor Z Zádrapa Lukáš · Zaorálek Lubomír · Závodský Ondřej · Zelený Milan · Zeman Václav · Zima Tomáš · Zlatuška Jiří Ž Žák Miroslav · Žák Václav · Žantovský Michael Ostatní Dlouhodobě neaktivní blogy