Robocop ve službách státu? Jak budou stroje rozhodovat o našich osudech

16. 09. 2020 | 10:01
Přečteno 1373 krát
Umělá inteligence je všude kolem nás. Jaké zprávy čteme na sociálních sítích, kterou trasou se vydáme, anebo jaké zboží nám je nabízeno. O tom všem rozhoduje. Byť o ní vědomě často zavadíme pouze ve sci-fi filmech, anebo odborných časopisech, ovlivňuje (a hlavně bude formovat) naše životy čím dál tím víc.

Je mnoho rozumných důvodů, proč se o téma zajímat. Postupující robotizace například připraví o práci celou řadu lidí v mnoha odvětvích.

Stejně jako výhody, umělá inteligence přináší i rizika. Při nesprávném využití může narušovat naše soukromí, ba dokonce neuváženě rozhodovat o lidských životech. Evropská komise se i proto snaží o vykolíkování jejího prostoru. Pojďme se tedy podívat na příklady z Česka, Evropy i ze světa, které dají tématu potřebný kontext.

Jednou z nejznámějších forem umělé inteligence je systém na rozpoznávání obličejů, které v Česku zatím funguje na letišti Václava Havla. Diskuse ohledně zavedení stejné technologie se strhla i poté, co policie začala zvažovat její aplikaci do míst se zvýšenou koncentrací lidí, jako je například metro či turistická místa. V jejím využití je bezesporu nejdál Spojené království, které ji používá během hromadných akcí. Stejně tak Německo ji během zasedání G20 v Hamburku mělo možnost testovat na dobrovolnících. Ve Francii zase probíhalo toto rozpoznávání během karnevalu v Nice. Systém porovnává dostupné obličeje hledaných osob se snímky. Legislativa ve dvou posledně jmenovaných zemích však zatím nedovoluje efektivní využívání tohoto nástroje.

Ve srovnání se zemí, které využívá rozpoznávání obličejů zdaleka nejvíce (Čína), jde Evropa opačnou cestou. Cílem není rychlý rozvoj technologie i za cenu toho, že se nám vymkne z rukou. V Evropě klademe důraz na dodržování lidských práv, otevřenost a kontrolu technologií odbornou veřejností. Přesný opak můžeme pozorovat právě v politikách Pekingu, který stroje zneužívá k perzekuci lidí za jiné názory či odlišné náboženské vyznání. Evropa jednoduše nebude ani nechce následovat standardy pro umělou inteligenci, které se Čína snaží psát. Zneužívání technologií je však vidět i jinde. Azerbajdžán a Bahrain skrze sociální sítě identifikují odpůrce režimu, politické oponenty, či příslušníky komunity LGBT, které následně perzekuují. Pokud nebudou existovat jasné hranice, pak budou firmy moci volně prodávat nové produkty autoritářským režimům tak, jak to nyní dělají například někteří izraelští vývojáři.

Když si tedy uvědomíme, jak lehce je možné umělou inteligenci zneužít, pak je třeba zamyslet se nad řadou témat a odpovědět si na několik otázek. Zaprvé, budeme využívat rozpoznávání tváří ve veřejném prostoru? Jak definujeme veřejný prostor? Zadruhé, systém může být velmi snadno zneužit proti sledování určité skupiny či etnika. Jak zabránit tomu, aby se tak stalo? Zatřetí, musíme zvyšovat povědomí o umělé inteligenci. Lidé musí vědět a dohlížet na důsledky, které s sebou přináší použití těchto systémů – ve fyzickém světě i v on-line prostředí. Začtvrté, musíme čelit diskriminaci, kterou s sebou nesou algoritmy. Nemůže se stát, že někomu jsou znepřístupňovány nabídky na služby či produkty pouze proto, že je jiné národnosti či barvy pleti. To je pravděpodobně i důvod, proč se dle nedávného průzkumu přední evropské spotřebitelské organizace BEUC dvě třetiny lidí vyslovily proti využívání umělé inteligence pro automatické rozhodování. Konečně, umělá inteligence musí splňovat několik základních parametrů: musí být etická, zaměřená na člověka a nesmí diskriminovat.

Jako Piráti nebráníme umělé inteligenci ve vývoji – právě naopak. Zároveň ale hájíme práva každého z nás. Nemůžeme si dovolit, abychom za cenu chycení pár zločinců omezili svobodu, odstavili kontrolní mechanismy a zasahovali do lidských práv, které jsou základním stavebním kamenem evropské civilizace. Jsme to my, kdo musí bránit svobodu v dobách temna, kdy jsou technologie zneužívány na mnoha frontách. Namísto zvýšení efektivity jsou často využívány ke zotročování. V Evropském parlamentu ale každý den pracuji a bojuji za to, aby tomu tak nebylo. Aby nám technologie skutečně dávaly svobody, aby nás nevrhaly zpět do minulosti plné strachu. Existuje cesta, přestože nebude snadná. Pojďme se po ní společně vydat.

Blogeři abecedně

A Atapana Mnislav Zelený B Babka Michael · Balabán Miloš · Bartošová Ela · Bavlšíková Adéla · Bečková Kateřina · Bělobrádek Pavel · Beránek Jan · Berwid-Buquoy Jan · Bielinová Petra · Bína Jiří · Bízková Rut · Blaha Stanislav · Blažek Kamil · Bobek Miroslav · Boehmová Tereza · Brenna Yngvar · Bureš Radim · Bůžek Lukáš · Byčkov Semjon C Cerman Ivo Č Černoušek Štěpán · Česko Chytré · Čipera Erik · Čtenářův blog D David Jiří · Davis Magdalena · Dienstbier Jiří · Dlabajová Martina · Dolejš Jiří · Dostál Ondřej · Dudák Vladislav · Duka Dominik · Duong Nguyen Thi Thuy · Dvořáková Vladimíra F Fafejtová Klára · Fajt Jiří · Fendrych Martin · Fiala Petr · Fischer Pavel G Gálik Stanislav · Gargulák Karel · Geislerová Ester · Girsa Václav · Glanc Tomáš · Gregorová Markéta · Groman Martin H Halík Tomáš · Hamáček Jan · Hampl Václav · Hamplová Jana · Hapala Jiří · Hasenkopf Pavel · Hastík František · Havel Petr · Heller Šimon · Herman Daniel · Hilšer Marek · Hlaváček Petr · Hlubučková Andrea · Hnízdil Jan · Hokovský Radko · Honzák Radkin · Horký Petr · Hořejš Nikola · Hořejší Václav · Hradilková Jana · Hrstka Filip · Hřib Zdeněk · Hubinger Václav · Hülle Tomáš · Hušek Radek · Hvížďala Karel CH Charanzová Dita · Chlup Radek · Chromý Heřman · Chýla Jiří · Chytil Ondřej J Janda Jakub · Janeček Karel · Janeček Vít · Janečková Tereza · Janyška Petr · Jelínková Michaela Mlíčková · Jourová Věra · Just Jiří · Just Vladimír K Kania Ondřej · Klan Petr · Klepárník  Vít · Klíma Vít · Klimeš David · Kňapová Kateřina · Kohoutová Růžena · Kolaja Marcel · Kolínská Petra · Kolovratník Martin · Kopeček Lubomír · Kostlán František · Kotišová Miluš · Koudelka Zdeněk · Koutská Petra Schwarz · Kozák Kryštof · Krafl Martin · Krása Václav · Kraus Ivan · Kroupová Johana · Křeček Stanislav · Kubr Milan · Kučera Josef · Kučera Vladimír · Kuchař Jakub · Kuchař Jaroslav · Kukal Petr · Kupka Martin · Kuras Benjamin · Kutílek Petr · Kužílek Oldřich · Kyselý Ondřej L Laně Tomáš · Linhart Zbyněk · Lipavský Jan · Lipold Jan · Lomová Olga M Máca Roman · Mahdalová Eva · Maláčová Jana · Málková Ivana · Marvanová Hana · Mašát Martin · Metelka Ladislav · Michálek Libor · Miller Robert · Minařík Petr · Mrkvička Jan · Müller Zdeněk · Münich Daniel N Nacher Patrik · Nachtigallová Mariana Novotná · Návrat Petr · Navrátil Marek · Němec Václav · Niedermayer Luděk · Nouzová Pavlína · Nováčková Jana · Novotný Martin · Novotný Vít O Obluk Karel · Oláh Michal · Ouhel Tomáš · Outlý Jan P Pačes Václav · Palik Michal · Paroubek Jiří · Pavel Petr · Pavelka Zdenko · Payne Jan · Payne Petr Pazdera · Pehe Jiří · Pelda Zdeněk · Petrák Milán · Petříček Tomáš · Pfeiler Tomáš · Pilip Ivan · Pitek Daniel · Pixová Michaela · Plaček Jan · Podzimek Jan · Pohled zblízka · Potměšilová Hana · Pražskej blog · Prouza Tomáš R Rabas Přemysl · Rajmon David · Rakušan Vít · Ráž Roman · Redakce Aktuálně.cz  · Reiner Martin · Richterová Olga · Robejšek Petr · Rychlík Jan Ř Řebíková Barbora · Říha Miloš · Řízek Tomáš S Sedlák Martin · Seitlová Jitka · Schneider Ondřej · Schwarzenberg Karel · Skořepa Michal · Skuhrovec Jiří · Sládek Jan · Sláma Bohumil · Slavíček Jan · Slimáková Margit · Sobíšek Pavel · Sokačová Linda · Soukal Josef · Soukup Ondřej · Sportbar · Staněk Antonín · Stanoev Martin · Stehlík Michal · Stehlíková Džamila · Stránský Martin Jan · Strmiska Jan · Stulík David · Svárovský Martin · Svoboda Cyril · Svoboda Jiří · Svoboda Pavel · Sýkora Filip · Syrovátka Jonáš Š Šebek Tomáš · Šefrnová Tereza · Šimáček Martin · Šimková Karolína · Šlechtová Karla · Šmíd Milan · Šoltés Michal · Špinka Filip · Špok Dalibor · Šteffl Ondřej · Štern Ivan · Štern Jan · Štrobl Daniel T Telička Pavel · Titěrová Kristýna · Tolasz Radim · Tománek Jan · Tomčiak Boris · Tomek Prokop · Tomský Alexander · Trantina Pavel · Turek Jan U Uhl Petr · Urban Jan V Václav Petr · Vaculík Jan · Vácha Marek · Valdrová Jana · Vavruška Dalibor · Věchet Martin Geronimo · Vendlová Veronika · Vhrsti · Vích Tomáš · Vlach Robert · Vodrážka Mirek · Vojtěch Adam · Vojtková Michaela Trtíková · Výborný Marek · Vyskočil František W Walek Czeslaw · Wichterle Kamil · Witassek Libor Z Zádrapa Lukáš · Zaorálek Lubomír · Závodský Ondřej · Zelený Milan · Zeman Václav · Zima Tomáš · Zlatuška Jiří Ž Žák Miroslav · Žák Václav · Žantovský Michael Ostatní Dlouhodobě neaktivní blogy