Esej: Diktatura digitariátu

Čínský plán na datový monitoring veškerého lidského bytí je hudbou budoucnosti. Její tóny slyšíme i my.

Winston Smith to měl lehké. Protagonistovi Orwellova románu 1984 se nelíbilo, že ho Velký bratr sleduje kamerou umístěnou v televizní obrazovce; ale věděl, na čem je. Stačilo, aby se dostal z dosahu obrazovky; rázem si mohl vydechnout, byť jen na chvíli, potají a raději ne moc nahlas. Nebyla to žádná velká sláva - ale co bychom za to dnes dali.

Orwell napsal svůj román 36 let před dobou, do níž jej zasadil. Mezitím citace z něho začaly tvořit svého druhu klišé. Vždycky když liberálně smýšlející autor narazí na autoritu, přidá ke svému odsudku adjektivum „orwellovský“ a jeho argument je rázem jaksi cennější, prodchnutý obavou o osud člověčenstva a tak.

A pak přišel Si Ťin-pching.

O dalších šestatřicet let později, v roce 2020, chce čínská vláda v plném rozsahu rozjet program, jehož duchovním otcem je současný prezident. Světlo světa spatřil -program, ne prezident Si - v roce 2014, kdy jej vydala čínská exekutiva pod nicneříkajícím názvem Nástin plánu pro vybudování systému společenského kreditu. Člověk sotva dočte samotný název, aniž by usnul, ale náplň plánu je jedinečná: Pojďme vymyslet ratingový systém na kvalitu člověka - každého jednotlivce z 1,3 miliardy Číňanů plus (velko)sesterský program na podobné hodnocení všech firem, které v zemi působí, tedy včetně firem západních.

Peklo.com

Ten nápad hodlá využít obrovského moře digitálních dat dostupných o každém člověku díky jeho aktivitám provozovaným online (každý dnešní Číňan, který je trochu k světu, po sobě zanechává čitelnou stopu, protože všechno platí mobilním telefonem).

K tomu přičtěme aktivity, jejichž podstata sice zůstává analogová a offline, ale do elektronického světa se dostává pomocí neustálých hodnocení všeho všemi. Bydlíte-li v nájmu, váš pan domácí vás po internetu hodnotí, stejně jako vy hodnotíte jeho. De facto tak podáváte hlášení jeden o druhém. To všechno se spojí v jedno hodnocení, jež vám přiřkne jedno číslo – a jeho výše bude určovat, jestli a za jakých podmínek dostanete půjčku, jestli musíte platit kauci na byt, a dokonce jestli smíte cestovat letadlem a vlakem.

Čtěte esej: Tichá hrůza datokracie

Dnes, o čtyři roky později, sice systém ještě nefunguje naplno, ale protože Si Ťin-pching nežertuje, vesele se rozjíždí. Vláda udělila licence osmi soukromým firmám, které jí mají od roku 2020 poskytovat sebraná data (později datum začátku jejich platnosti zase odložila). Dosavadní představa funguje tak, že vláda pak ona data zpracuje vlastním algoritmem. Účast v systému má být tou dobou pro všechny Číňany povinná. Prozatím však se nejméně dvě velké firmy aktivně tvorbě systému věnují, a ačkoli zdaleka nemají pod palcem všechny aspekty existence všech Číňanů, výsledky stojí za to.

Tencent a Alibaba

Jednou takovou firmou je China Rapid Finance, jež vyvinula systém osobních zpráv WeChat. Spojila síly s poskytovatelem všemožných internetových služeb Tencent; jen WeChat má 850 milionů uživatelů, píše britská publicistka Rachel Botsmanová v knize Komu můžete věřit? (Kniha vyšla loni; lze předpokládat, že od té doby počet uživatelů ještě stoupl.)

Když máte v rukou obrovské množství dat od Tencentu a spojíte je s ještě větším množstvím webových rozhovorů (ačkoli není zcela jasné, jestli je firmy sbírají i s jejich veškerým obsahem, nebo jen jako metadata, tedy informace o tom, kdo s kým kdy mluvil), je zjevné, že máte v ruce potenciálně velmi silný nástroj, jímž lze jednání lidí nejen sledovat, nýbrž i ovlivňovat. Každý má slabé místo, na které lze zatlačit, což v Pekingu velmi dobře vědí.

„Máme tolik zákonů, že není nikoho, kdo by nemohl být oběšen“ řekl kdysi údajně Napoleon. Si Ťin-pching, muž neméně ctižádostivý, to má podložené syrovými daty, jakkoli zřejmě nechce nutně hned oběsit všechny své poddané. Jediné, co scházelo, byl převodní mechanismus, jenž by dokázal uplést dostatečně pevný provaz a na jeho konci oprátku. Takový mechanismus však již dnes existuje. Algoritmy, principiálně podobné těm, jež za Google určují, jakou reklamu uvidíte při příští návštěvě internetu, již v Číně začínají rozhodovat o způsobu existence jednotlivých lidí. Průkopníkem tohoto způsobu vlády je projekt zvaný nevinně Sesame Credit, dílo pojišťovny Ant Financial Services Group, jinak divize gigantického internetového obchodníka Alibaby.

Alibaba posiluje pozici: do internetového prodejce Lazada investuje 41 miliard

Nominálně vzato není nic divného na tom, že pojišťovna nabízí cosi jako věrnostní program. Když nebudete bourat, napřesrok si auto pojistíte levněji. Až sem žádná dystopie. Největším hitem Ant Financialu však je platební systém AliPay, jejž využívají stovky milionů lidí. Ti za sebou nechávají zmíněnou elektronickou stopu. Sesame Credit se však spřáhl s online taxislužbou Didi Chuxing (firmou tak mocnou, že z čínského trhu předloni dokázala vyštípat Uber) a s Baihe, největší tamní internetovou seznamkou. Ant Financial tak může mít detailní přehled o stovkách milionů lidí.

Pět kritérií pro život

Logická otázka zní: Když je k dispozici tolik dat, jejichž konečným úkolem má být vytvoření číselného vyjádření kvality člověka, podle jakého klíče to Sesame Credit dělá? Firma algoritmus neodtajnila, ale zveřejnila alespoň pět základních kritérií, podle nichž rozhoduje. Držte si klobouky.

Prvním z nich jsou účty. Platíte včas elektřinu a telefon? Oukej. Máte škraloup = máte problém. Druhým, podobným kritériem je schopnost dodržovat smlouvy - ať už se jedná o soukromý úvěr, nebo o pohledávky z podnikání. Třetím faktorem jsou osobní charakteristiky; uvedete špatné telefonní číslo a je zle.

U čtvrtého kritéria začíná jít do tuhého. Je jím „chování a preference“. Vaše nákupy, volba navštívených internetových stránek, místa, v nichž se pohybujete, a podobné věci se tak stávají předmětem měření kvality vaší povahy. „Kdo například hraje videohry deset hodin denně, bude považován za líného člověka“cituje americký časopis Wired Li Jing-juna, technologického šéfa Sesame Credit, „kdo často kupuje plenky, bude považován za rodiče, tedy za člověka, u něhož je pravděpodobné, že bude mít silný smysl pro odpovědnost“ Kdo chodí do homosexuálních barů, nejspíš bude homosexuál a tak dále. To už na Zápaďana začíná být trochu silná káva.

Přečtěte si také o aktivitách kontroverzní společnosti Cambridge Analytica:

Cambridge Analytica působila ve volební kampani i v Česku

Trump i brexit. Úspěšnou kampaň vedla umělá inteligence

Trumpova tajná zbraň. Ví o vás i to, co možná sami ani netušíte

Konečně pátou kategorií jsou mezilidské vztahy. Pokud se budete na sociálních sítích stýkat s lidmi, o nichž si Sesame Credit myslí, že jsou prima, vaše skóre bude narůstat, a naopak. A jak se pozná, kdo je prima člověk? Inu, podle definice společnosti Sesame Credit je to ten, kdo „šíří pozitivní energii“. Aby bylo úplně jasno, například chvála čínské vlády nebo stavu tamní ekonomiky šíří pozitivní energii, zatímco kritika šíří energii negativní. Už začíná být docela zřejmé, kam to celé směřuje.

Sesame Credit hodnotí lidi na škále 350 až 950 bodů (bodování nejspíš vymýšlel příbuzný člověka, co navrhl bodování v tenisu). Když dosáhnete 600, můžete si vzít výhodnou půjčku ve výši pět tisíc juanů, něco přes 550 dolarů - pouze na nákupy přes Alibabu, pochopitelně. Jste na 650 bodech? Dostanete z půjčovny auto, aniž byste museli platit kauci. S kreditem ve výši 666 bodů si můžete dopřát půjčku 50 tisíc juanů (od Ant Financialu, jak jinak). V hotelech a na letištích vás odbaví rychleji než plebs s nižším číslem.

Sedm stovek vám zaručí, že na cestu do Singapuru nebudete potřebovat doporučující dopis od zaměstnavatele. A 750 bodů je poukazem na zrychlené podání žádosti o vízum do schengenské zóny Evropské unie. A k tomu - čím vyšší je vaše skóre, tím výš se objevuje váš profil na seznamce Baihe a tím více příležitostí k ehm… seznámení dostanete.

Ďábelský vynález

Lze předpokládat, že zatímco někomu může plánovaná účinnost popisovaného systému imponovat, leckterému liberálněji smýšlejícímu čtenáři teď vstávají vlasy na hlavě. Ale to není všechno. Je jasné, že výše vašeho skóre je určující pro míru svobody a prosperity, již vám úřad vybavený algoritmem přiřkne. Kdosi v Ant Financialu vymyslel skvělý fígl navíc: Výše vašeho skóre nezáleží jen na vás - ovlivňuje ji i výše skóre lidí, s nimiž se znáte (pokud o tom algoritmus ví - a spolehněte se, že to ví). To je skutečně ďábelsky zařízeno.

Když jste se ve skutečném roce 1984 rozhodli, že už máte Husáka plné zuby, dali jste si o dva myslivce navíc a zakřičeli jste na náměstí něco hanlivého o komunistické vládě. Většinou si toho nikdo nevšiml, pokud ano, buď se uchechtl, nebo vás udal, případně obojí. I když jste měli smůlu a skončili jste u výslechu, nejspíš se to odbylo pokutou či vyhrožováním.

Museli jste být opravdu činným, či alespoň potenciálně nebezpečným disidentem, abyste se stali pravidelným terčem pozornosti StB - a až v tu chvíli to začalo pálit i vaši rodinu.

Přečtěte si komentář k „moderování“ diskuzí na sociální síti:

Facebook a logika zákazu myšlení

Když si dnes pustíte ústa na špacír na sociálních sítích RenRen či Weibo, čínských ekvivalentech facebooku a twitteru, neexistuje možnost, že by si toho algoritmus nevšiml. Vy tak víte, že za onu chvíli úlevy zaplatíte nejen vy, nýbrž také vaše dcera na studiích, vaši kolegové v práci a ta příjemná letuška, ze které jste minulý týden, dokud jste ještě směl létat, vydyndal telefonní číslo. Stojí vám to za to?

Tady už to začíná být opravdu divoké. Je zjevné, že čínský model je pro ambiciózní vládce mimořádně atraktivní - koneckonců dílčí prvky sledovacího systému už fungují i na Západě. Registry dlužníků jsou jedním z nich, stejně jako online recenze nebo všudypřítomnost reklamních aktivit Facebooku a Googlu - od elektronické evidence tržeb až po špiclování ve jménu boje proti teroru. Každý z nich sleduje účel, s nímž by málokdo v zásadě nesouhlasil. Že se člověku má vyplatit poctivé splácení dluhů, je nabíledni; recenze ovlivňují naše rozhodnutí, kam se jdeme najíst a kde se ubytujeme; reklama má lépe propojit prodávající s kupujícími; EET zlepšuje výběr daní; profízlování společnosti dokáže zabránit jistému procentu teroristických útoků.

Kreditní poradci a spol.

Každý z uvedených prvků je také svým způsobem sporný. Francouzský ministr pro digitalizaci Mounir Mahjoubi nedávno slíbil voličům, že „státní správa nebude využívat žádného algoritmu, jehož fungování neumí vysvětlit“. To je zjevný výraz skepse. Číňané jí nejspíš vykazují v menší míře. Podle Botsmanové se již dnes na 100 tisíc Číňanů na internetu chlubí vysokým skóre; hodnocení se tak stává symbolem společenského postavení.

Tak či tak, koncentrace prvků surveillance society, sledovací společnosti, v rukou ambiciózních politických vůdců vytváří docela nový typ organizace. Co od něho můžeme čekat?

Šéf Avastu Steckler: Ohrožují nás vlády

Zaprvé jsou tu dílčí reakce. Jak se výše kreditního skóre stane žádoucím, či dokonce nezbytným předpokladem růstu individuální životní úrovně, nevyhnutelně to přinese tlak na jeho umělé vylepšování. Lze tak počítat s tím, že v Číně vznikne - oficiálně, či nikoli - profese „kreditního poradce“, jenž bude vědět, jak algoritmus klamat, či alespoň snadno živit, tvrdí oxfordský profesor informační etiky Luciano Floridi. Napíšete kamarádovi: Ať žije moudrý vůdce Si Ťin-pching - a můžete si vyhodit z kopýtka, například.

Zadruhé je tu možný rozpor mezi krátkodobým a dlouhodobým výsledkem sledování „kvality člověka“. Pokud systém nevzbudí nějak mimořádně silnou nevoli (a zatím se zdá, že tomu tak není), je představitelné, že se Pekingu velmi rychle podaří prosadit razantní racionalizaci veškerého dění v zemi. Algoritmus však „povládne“ podle pravidel roku 2020; pokud jej někdo velmi moudrý nebude schopen pravidelně aktualizovat, zastará - tím spíš, že jedním z jeho zamýšlených účelů je zamezit politické diskusi. Vláda algoritmu by tak postupně osifikovala v jakousi vnější kostru celé společnosti. Ta udržuje status quo; chrání jej před rozkladem, ale také brání rozvoji.

Si Ťin-pching by nebyl prvním čínským vládcem, který by se takové osudové chyby dopustil. „Máme všechno“nechal vzkázat císař Čchien-lung britskému králi Jiřímu III. v půli 18. století, když v obavě před dopady volného trhu odmítl nabídku Londýna na intenzivnější vzájemný obchod a veškerý zahraniční obchod zredukoval na zhruba deset procent. Trvalo 250 let, než se z toho jeho země vzpamatovala.

Prezident Si dnes volný trh propaguje, ale souboj myšlenek, o který nakonec jde, podle všeho nevítá o mnoho vřeleji než jeho císařský předchůdce. Pro miliony Winstonů Smithů po celém světě to však je slabá útěcha.

Přečtěte si další eseje Daniela Deyla:

Stručná historie ducha

Inteligence a opium

Svatý grál na dosah