Regulací ke svobodě aneb jehně na Facebooku
Ve všech sporech o svobodu projevu na Facebooku je nutné si nejdříve ujasnit, zda chceme svobodu jen pro sebe, resp. pro naši bublinu, anebo pro všechny. I zde totiž platí definice Benjamina Franklina: „Demokracie je, když dva vlci a jedno jehně hlasují, co bude k večeři. Svoboda je, když dobře ozbrojené jehně odmítá hlasovat.“
Náměstí nebo klec
Běžní uživatelé chápou Facebook jako veřejný prostor, který je zdarma k dispozici pro sdílení fotografií, zážitků a názorů, předávání zpráv a výměnu názorů. Chápou přítomnost reklamy, dokonce si všímají, že je přizpůsobena jejich nejnovějšímu hledání na internetu. Prostor věnovaný zprávám, upoutávkám a pozvánkám vnímají jako určitý druh zpravodajství. Pro řadu z nich se dokonce stává jediným zpravodajským kanálem. Nepřemýšlí, podle jakého klíče se k nim dostávají právě tyto zprávy. Nejvíce je zajímá, zda si budou moct i nadále neomezeně umisťovat příspěvky a psát do komentářů, co sami uznají za vhodné.
Uživatelé začali považovat svůj facebookový účet za soukromý prostor, kde si mohou psát a sdílet, co uznají za vhodné. Facebook zajásal. Jeho cílem již dávno není vytváření a podpora komunitního života, ale zvyšování zisku a růst hodnoty akcí. K tomu potřebuje přítomnost co největšího počtu uživatelů v co nejdelším čase. Jako světlo neodolatelně přitahující můry, působí správně zvolený obsah na emoce uživatelů a nedovoluje jim opustit prostor. Vytváří proto algoritmy, podle kterých přiřazuje uživatelům obsah, a to nikoliv jen reklamní sdělení, jak se snaží Facebook navenek prezentovat. Christopher Wylie, datový analytik pracující v minulosti pro nechvalně známou společnost Cambridge Analytica popsal v knize Mindf*ck, co všechno se mu podařilo zjistit z facebookových údajů. V kombinaci s dalšími databázemi získal osobnostní profily jednotlivých uživatelů, na které za využití špičkových poznatků nejnovějších psychologických výzkumů mířily cílené manipulativní a dezinformační zprávy.
Algoritmy
Pokud se bohulibé poznatky dostanou do nesprávných rukou, lze je použít jako nebezpečnou zbraň. Takto to původně začalo. Wylie využívá příkladu s infekční nemocí, podotýkám, že v originále byla kniha vydána před vypuknutím pandemie covid-19. Pokud chcete ochránit obyvatelstvo před ohrožením, musíte posílit imunitu těch, kteří jsou nejnáchylnější k nákaze, nejčastěji starých lidí, případně dětí, pak všech, kdo by kvůli kontaktu s velkým množstvím lidí mohli být přenašeči, jako jsou učitelé nebo zdravotní personál. Podobně, pokud chcete posílit odolnost obyvatelstva proti projevům extrémismu, identifikujete lidi, kteří kvůli svým vlastnostem nejčastěji podléhají štvavým zprávám. Musíte určit vlastnosti zapřičiňující snadné ovlivnění extremismem. K těmto lidem pak vysíláte protinarativy s cílem posílit jejich odolnost vůči extrémismu. Přesně stejný postup v nesprávných rukou lze naopak využít k posílení extrémismu ve společnosti.
Dark patterns jsou manipulativní prvky na webu, nastavené v zájmu provozovatele, nutící uživatele dělat věci, které nechce. Algoritmy přiřazují uživatele do skupiny, která sdílí podobné názory, ovlivňuje jeho emoce a mění jeho pohled na svět. Ačkoliv si uživatel myslí, jak je v tomto prostředí svobodný, netuší, že se jedná o výběr pečlivě sestavený jemu přímo na míru s cílem udržet, co nejdéle jeho pozornost za pomoci nabuzených emocí.
Uživatel se ocitá v informační bublině. Algoritmy mu přiřazují zprávy, na které bude vzrušeně reagovat. Nahlodávají jeho odolnost, a uživatel postupně nabývá dojmu, že celý svět se vychyluje z rovnováhy a že ztrácí nad věcmi kontrolu. Dříve se přece nic takového nedělo. Reaguje pobouřeně, protože algoritmy zafungovaly na jeho emoce. Stačí si vzpomenout na všechny ty výkřiky, svět se úplně zbláznil. Varování před civilizačním krachem, rozkladem Západu, Evropa páchá sebevraždu, přirovnání k pádu Římské říše.
Profilování
Řízené ovlivňování míří k cílovým skupinám, jejich osobnostní charakteristiky jsou vytaženy z kombinace dostupných osobních údajů. Wylie nejdříve prováděl datové analýzy pro SCL Group na zakázce, jejíž cílem bylo ovlivnit volby v jedné africké zemi. V zemi s neexistující ochranou osobních údajů nebylo problémem získat data od mobilních operátorů a zjistit z nich, co občané sledují na internetu, jejich zvyky, záliby a preference. Na ně pak zacílila informační kampaň se sdělením, které je ovlivnilo ve prospěch volby kandidáta, který si manipulaci voleb objednal u SCL. O aktivity SCL se začal zajímat Steve Bannon. Pochopil, co je možné získat z osobních dat a jak je využít k ovládnutí veřejného mínění. Byla založena Cambridge Analytica jako dceřiná společnost SCL, jejímž cílem bylo naklonit veřejné mínění na stranu, kterou si Bannon vybral.
Wylie se zaměřil na Facebook. Všiml, jak špatně chrání osobní údaje. V USA sice není možné se tak lehce dostat ke konkrétním osobním údajům, ale je možné získat data podle volebních obvodů, což zahrnuje počty od několika stovek po maximálně 3 tisíce osob. Lze tak získat data o některých typech nemocí (astma, diabetes), držitelích zbraní, zločinnosti, rybářských lístcích. Tato data Wylie propojil se spotřebitelskými daty, a daty ze státních institucí, včetně dat od leteckých společností, charitativních organizací, mediálních společností, z registrů motorových vozidel, o placení hypoték. Takto získaná data pak zkombinoval s facebookovými daty. Získal sestavu osobních údajů pro konkrétní osoby, včetně místa bydliště a fotky domu. Několika lidem dokonce zavolal a zjistil, že vše odpovídá výsledkům v jeho zpracování.
Ovlivňování veřejného mínění
Naše uvažování podléhá tzv. kognitivnímu zkreslení. Ačkoliv jsou mnozí přesvědčeni o nezávislosti svého úsudku, často ani netuší, jak moc je jejich uvažování ovlivnitelné zvenčí. Kognitivní zkreslení jsou chyby v úsudcích způsobené mentálními zkratkami. Samotné mentální zkratky jsou v mnoha případech užitečné, pomáhají totiž při běžném řešení problémů. Bez řádného tréninku a dostatečných poznatků podléhá naše mysl v důsledku těchto zkratek chybnému úsudku a je snadno ovlivnitelná personalizovanými zprávami. Jistému zkreslení podléhá prakticky každý. Existují ale typy osobností, které lze ovlivnit účinnější než jiné.
Nejsnadnějšími cíli internetových kampaní jsou neurotičtí a narcističtí jedinci, protože jsou méně psychologicky odolní vůči stresujícím narativům. Neurotici jsou úzkostlivější a impulzívnější, spoléhají více na vlastní intuici. Dezinformace u nich vzbuzují paranoidní představy. U narcistů míří zprávy na jejich závist a pocit vlastní důležitosti.
Wylie věnuje jednu kapitolu temné trojici lidských vlastností, tj. narcismus, machiavelismus a psychopatie. Prostřednictvím profilování byli identifikováni jedinci s těmito vlastnosti a ti pak byli zásobeni reklamami, narativy a texty vzbuzujícími v nich bouřlivé reakce. Tito pak dále šířili dezinformace a věnovali se trollování na internetu, protože právě jejich osobnostní dispozice je poháněly k těmto aktivitám a dezinformace se rychleji a účinněji šířily internetovým prostorem.
Ovlivňování prostřednictvím sociálních sítí je tím účinnější, čím více se daří cílovou skupiny pobouřit a vyvolat u ní hněv. Naštvaný člověk vytěsnění racionalitu a je schopen činit rozhodnutí, která jsou v jeho neprospěch a která by nikdy neučinil, pokud by zachoval chladnou hlavu. Konkrétní průběh ilustruje Wylie na hlasování o Brexitu. Probrexitová strana si uvědomovala, že nestačí jen hlasy pravicových voličů. Vůdci kampaně proto zacílili na migranty z bývalých britských kolonií. Přesvědčovali je, že Evropská unie podporuje bílé migranty a Británie kvůli tomu zradila lidi ze svých bývalých kolonií. Ti totiž musí procházet složitou migrační procedurou, na rozdíl od obyvatel zemí EU. Tito migranti neměli žádný vztah k zemím EU, ale naopak si vzpomněli na obtíže, které museli překonávat při získávání práce v Británii. Hlasovali proto společně s tvrdými odpůrci migrace pro brexit.
Strana Remain zdůrazňovala, že brexit poškodí ekonomiku. Probrexitovým vůdcům se však podařilo vyvolat hněv a argumentace zhoršením ekonomiky nezabírala, protože ekonomika se stala pojmem, který se běžného obyvatele netýká. Ekonomiku si spojili s elitami, ekonomika, to je záležitost elit, ne nás obyčejných lidí. Rozhodli se potrestat elity bez ohledu na následky.
Jak se bránit
Cambridge Analytica ovlivnila volby v USA ve prospěch Donalda Trumpa. Následné vyšetřování prokázalo, že Facebook neohlídal data uživatelů a byl potrestán rekordní pokutou 5 miliard dolarů. Wylie mimo jiné zmiňuje působení Cambridge Analytica také v České republice, a to v souvislosti s operacemi vysokých manažerů společnosti Lukoil.
Sociální sítě otvírají prostor, kde je možné získat obrovské množství informací o uživatelích. Následně pak za použití velmi sofistikovaných metod působit na jejich názory a rozhodování a manipulovat s nimi ve prospěch vlastních zájmů. Demokratické vlády podporující svobodu projevu si plně neuvědomují možnosti zneužití. Ochrana svobody slova je nutná, paradoxně ji však nezajistí neregulovaný prostor. Tam zvítězí právo silnějšího. V daném případě ten, kdo je dostatečně bohatý, aby zaplatil vychýlení veřejného mínění ve svůj prospěch.
Ochrana hospodářské soutěže a zákaz nekalých obchodních praktik patří k osvědčeným standardům tržní ekonomiky. Nikdo se nepodivuje nad tím, že jsou sankcionovány některé nekalé praktiky a jsou kladeny zákonné požadavky na ochranu hospodářské soutěže. To samé ale platí pro prostředí sociálních sítí. Svobodný prostor není takový, kde si každý může dělat co chce. Od doby Benjamina Franklina se nic nezměnilo. Svoboda bude existovat jen tehdy, když bude jehně dobře ozbrojené. O nezbytnosti regulačních předpisů ve stavebnictví, medicíně, jaderné energetice, letectví a dalších oborech nikdo nepochybuje.
V této souvislosti jen několik poznámek na závěr. Zajímalo by mě, zda vystupování proti GDPR a za neregulovaný Facebook ze strany některých našich politiků bylo pouze výsledkem jejich nevědomosti a populismu. Je dobré si také připomenout útoky na tzv. zbytečné studijní obory, jako je psychologie, sociologie, kulturní antropologie a posměšky, čímže se jejich absolventi budou živit. Vězte tedy, že projekty na ovládání internetového prostoru vycházejí právě ze špičkových poznatků těchto oborů.
Nelze ani zapomenout, že jistý hněv, anebo přinejmenším znechucení a ztráta vizí vychází i neradostné životní reality, ve které se řada lidí ocitla, a často zase ani ne tolik svojí vinou. Rizikem tak může současná míra předlužení, která bere dlužníkům perspektivu a ovlivňuje jejich postoj ke společnosti. Podobně jako ve Spojených státech dlouhotrvající problémy s úpadkem perspektivy střední třídy. Emoce těchto lidí lze ovládnout velmi snadno.
Náměstí nebo klec
Běžní uživatelé chápou Facebook jako veřejný prostor, který je zdarma k dispozici pro sdílení fotografií, zážitků a názorů, předávání zpráv a výměnu názorů. Chápou přítomnost reklamy, dokonce si všímají, že je přizpůsobena jejich nejnovějšímu hledání na internetu. Prostor věnovaný zprávám, upoutávkám a pozvánkám vnímají jako určitý druh zpravodajství. Pro řadu z nich se dokonce stává jediným zpravodajským kanálem. Nepřemýšlí, podle jakého klíče se k nim dostávají právě tyto zprávy. Nejvíce je zajímá, zda si budou moct i nadále neomezeně umisťovat příspěvky a psát do komentářů, co sami uznají za vhodné.
Uživatelé začali považovat svůj facebookový účet za soukromý prostor, kde si mohou psát a sdílet, co uznají za vhodné. Facebook zajásal. Jeho cílem již dávno není vytváření a podpora komunitního života, ale zvyšování zisku a růst hodnoty akcí. K tomu potřebuje přítomnost co největšího počtu uživatelů v co nejdelším čase. Jako světlo neodolatelně přitahující můry, působí správně zvolený obsah na emoce uživatelů a nedovoluje jim opustit prostor. Vytváří proto algoritmy, podle kterých přiřazuje uživatelům obsah, a to nikoliv jen reklamní sdělení, jak se snaží Facebook navenek prezentovat. Christopher Wylie, datový analytik pracující v minulosti pro nechvalně známou společnost Cambridge Analytica popsal v knize Mindf*ck, co všechno se mu podařilo zjistit z facebookových údajů. V kombinaci s dalšími databázemi získal osobnostní profily jednotlivých uživatelů, na které za využití špičkových poznatků nejnovějších psychologických výzkumů mířily cílené manipulativní a dezinformační zprávy.
Algoritmy
Pokud se bohulibé poznatky dostanou do nesprávných rukou, lze je použít jako nebezpečnou zbraň. Takto to původně začalo. Wylie využívá příkladu s infekční nemocí, podotýkám, že v originále byla kniha vydána před vypuknutím pandemie covid-19. Pokud chcete ochránit obyvatelstvo před ohrožením, musíte posílit imunitu těch, kteří jsou nejnáchylnější k nákaze, nejčastěji starých lidí, případně dětí, pak všech, kdo by kvůli kontaktu s velkým množstvím lidí mohli být přenašeči, jako jsou učitelé nebo zdravotní personál. Podobně, pokud chcete posílit odolnost obyvatelstva proti projevům extrémismu, identifikujete lidi, kteří kvůli svým vlastnostem nejčastěji podléhají štvavým zprávám. Musíte určit vlastnosti zapřičiňující snadné ovlivnění extremismem. K těmto lidem pak vysíláte protinarativy s cílem posílit jejich odolnost vůči extrémismu. Přesně stejný postup v nesprávných rukou lze naopak využít k posílení extrémismu ve společnosti.
Dark patterns jsou manipulativní prvky na webu, nastavené v zájmu provozovatele, nutící uživatele dělat věci, které nechce. Algoritmy přiřazují uživatele do skupiny, která sdílí podobné názory, ovlivňuje jeho emoce a mění jeho pohled na svět. Ačkoliv si uživatel myslí, jak je v tomto prostředí svobodný, netuší, že se jedná o výběr pečlivě sestavený jemu přímo na míru s cílem udržet, co nejdéle jeho pozornost za pomoci nabuzených emocí.
Uživatel se ocitá v informační bublině. Algoritmy mu přiřazují zprávy, na které bude vzrušeně reagovat. Nahlodávají jeho odolnost, a uživatel postupně nabývá dojmu, že celý svět se vychyluje z rovnováhy a že ztrácí nad věcmi kontrolu. Dříve se přece nic takového nedělo. Reaguje pobouřeně, protože algoritmy zafungovaly na jeho emoce. Stačí si vzpomenout na všechny ty výkřiky, svět se úplně zbláznil. Varování před civilizačním krachem, rozkladem Západu, Evropa páchá sebevraždu, přirovnání k pádu Římské říše.
Profilování
Řízené ovlivňování míří k cílovým skupinám, jejich osobnostní charakteristiky jsou vytaženy z kombinace dostupných osobních údajů. Wylie nejdříve prováděl datové analýzy pro SCL Group na zakázce, jejíž cílem bylo ovlivnit volby v jedné africké zemi. V zemi s neexistující ochranou osobních údajů nebylo problémem získat data od mobilních operátorů a zjistit z nich, co občané sledují na internetu, jejich zvyky, záliby a preference. Na ně pak zacílila informační kampaň se sdělením, které je ovlivnilo ve prospěch volby kandidáta, který si manipulaci voleb objednal u SCL. O aktivity SCL se začal zajímat Steve Bannon. Pochopil, co je možné získat z osobních dat a jak je využít k ovládnutí veřejného mínění. Byla založena Cambridge Analytica jako dceřiná společnost SCL, jejímž cílem bylo naklonit veřejné mínění na stranu, kterou si Bannon vybral.
Wylie se zaměřil na Facebook. Všiml, jak špatně chrání osobní údaje. V USA sice není možné se tak lehce dostat ke konkrétním osobním údajům, ale je možné získat data podle volebních obvodů, což zahrnuje počty od několika stovek po maximálně 3 tisíce osob. Lze tak získat data o některých typech nemocí (astma, diabetes), držitelích zbraní, zločinnosti, rybářských lístcích. Tato data Wylie propojil se spotřebitelskými daty, a daty ze státních institucí, včetně dat od leteckých společností, charitativních organizací, mediálních společností, z registrů motorových vozidel, o placení hypoték. Takto získaná data pak zkombinoval s facebookovými daty. Získal sestavu osobních údajů pro konkrétní osoby, včetně místa bydliště a fotky domu. Několika lidem dokonce zavolal a zjistil, že vše odpovídá výsledkům v jeho zpracování.
Ovlivňování veřejného mínění
Naše uvažování podléhá tzv. kognitivnímu zkreslení. Ačkoliv jsou mnozí přesvědčeni o nezávislosti svého úsudku, často ani netuší, jak moc je jejich uvažování ovlivnitelné zvenčí. Kognitivní zkreslení jsou chyby v úsudcích způsobené mentálními zkratkami. Samotné mentální zkratky jsou v mnoha případech užitečné, pomáhají totiž při běžném řešení problémů. Bez řádného tréninku a dostatečných poznatků podléhá naše mysl v důsledku těchto zkratek chybnému úsudku a je snadno ovlivnitelná personalizovanými zprávami. Jistému zkreslení podléhá prakticky každý. Existují ale typy osobností, které lze ovlivnit účinnější než jiné.
Nejsnadnějšími cíli internetových kampaní jsou neurotičtí a narcističtí jedinci, protože jsou méně psychologicky odolní vůči stresujícím narativům. Neurotici jsou úzkostlivější a impulzívnější, spoléhají více na vlastní intuici. Dezinformace u nich vzbuzují paranoidní představy. U narcistů míří zprávy na jejich závist a pocit vlastní důležitosti.
Wylie věnuje jednu kapitolu temné trojici lidských vlastností, tj. narcismus, machiavelismus a psychopatie. Prostřednictvím profilování byli identifikováni jedinci s těmito vlastnosti a ti pak byli zásobeni reklamami, narativy a texty vzbuzujícími v nich bouřlivé reakce. Tito pak dále šířili dezinformace a věnovali se trollování na internetu, protože právě jejich osobnostní dispozice je poháněly k těmto aktivitám a dezinformace se rychleji a účinněji šířily internetovým prostorem.
Ovlivňování prostřednictvím sociálních sítí je tím účinnější, čím více se daří cílovou skupiny pobouřit a vyvolat u ní hněv. Naštvaný člověk vytěsnění racionalitu a je schopen činit rozhodnutí, která jsou v jeho neprospěch a která by nikdy neučinil, pokud by zachoval chladnou hlavu. Konkrétní průběh ilustruje Wylie na hlasování o Brexitu. Probrexitová strana si uvědomovala, že nestačí jen hlasy pravicových voličů. Vůdci kampaně proto zacílili na migranty z bývalých britských kolonií. Přesvědčovali je, že Evropská unie podporuje bílé migranty a Británie kvůli tomu zradila lidi ze svých bývalých kolonií. Ti totiž musí procházet složitou migrační procedurou, na rozdíl od obyvatel zemí EU. Tito migranti neměli žádný vztah k zemím EU, ale naopak si vzpomněli na obtíže, které museli překonávat při získávání práce v Británii. Hlasovali proto společně s tvrdými odpůrci migrace pro brexit.
Strana Remain zdůrazňovala, že brexit poškodí ekonomiku. Probrexitovým vůdcům se však podařilo vyvolat hněv a argumentace zhoršením ekonomiky nezabírala, protože ekonomika se stala pojmem, který se běžného obyvatele netýká. Ekonomiku si spojili s elitami, ekonomika, to je záležitost elit, ne nás obyčejných lidí. Rozhodli se potrestat elity bez ohledu na následky.
Jak se bránit
Cambridge Analytica ovlivnila volby v USA ve prospěch Donalda Trumpa. Následné vyšetřování prokázalo, že Facebook neohlídal data uživatelů a byl potrestán rekordní pokutou 5 miliard dolarů. Wylie mimo jiné zmiňuje působení Cambridge Analytica také v České republice, a to v souvislosti s operacemi vysokých manažerů společnosti Lukoil.
Sociální sítě otvírají prostor, kde je možné získat obrovské množství informací o uživatelích. Následně pak za použití velmi sofistikovaných metod působit na jejich názory a rozhodování a manipulovat s nimi ve prospěch vlastních zájmů. Demokratické vlády podporující svobodu projevu si plně neuvědomují možnosti zneužití. Ochrana svobody slova je nutná, paradoxně ji však nezajistí neregulovaný prostor. Tam zvítězí právo silnějšího. V daném případě ten, kdo je dostatečně bohatý, aby zaplatil vychýlení veřejného mínění ve svůj prospěch.
Ochrana hospodářské soutěže a zákaz nekalých obchodních praktik patří k osvědčeným standardům tržní ekonomiky. Nikdo se nepodivuje nad tím, že jsou sankcionovány některé nekalé praktiky a jsou kladeny zákonné požadavky na ochranu hospodářské soutěže. To samé ale platí pro prostředí sociálních sítí. Svobodný prostor není takový, kde si každý může dělat co chce. Od doby Benjamina Franklina se nic nezměnilo. Svoboda bude existovat jen tehdy, když bude jehně dobře ozbrojené. O nezbytnosti regulačních předpisů ve stavebnictví, medicíně, jaderné energetice, letectví a dalších oborech nikdo nepochybuje.
V této souvislosti jen několik poznámek na závěr. Zajímalo by mě, zda vystupování proti GDPR a za neregulovaný Facebook ze strany některých našich politiků bylo pouze výsledkem jejich nevědomosti a populismu. Je dobré si také připomenout útoky na tzv. zbytečné studijní obory, jako je psychologie, sociologie, kulturní antropologie a posměšky, čímže se jejich absolventi budou živit. Vězte tedy, že projekty na ovládání internetového prostoru vycházejí právě ze špičkových poznatků těchto oborů.
Nelze ani zapomenout, že jistý hněv, anebo přinejmenším znechucení a ztráta vizí vychází i neradostné životní reality, ve které se řada lidí ocitla, a často zase ani ne tolik svojí vinou. Rizikem tak může současná míra předlužení, která bere dlužníkům perspektivu a ovlivňuje jejich postoj ke společnosti. Podobně jako ve Spojených státech dlouhotrvající problémy s úpadkem perspektivy střední třídy. Emoce těchto lidí lze ovládnout velmi snadno.