Novákoviny

Komunistická Čína zavádí systém kontroly obyvatel, který překonává nejdivočejší sny spisovatelů antiutopických románů: počítačové systémy mají automaticky hodnotit "kvalitu" jednoho každého obyvatele a podle výsledků ho odměňovat nebo trestat.

O významu, jaký Čína tzv. systému společenského kreditu přikládá, svědčí i vyjádření samotného prezidenta státu a generálního tajemníka komunistické strany Si Ťin-pchinga: "Umožní důvěryhodným lidem cestovat kamkoliv na světě. Na druhou stranu ti, kteří nejsou hodni důvěry, nebudou moci učinit jediný krok."

Ve skutečnosti jdou záměry projektu ještě mnohem dál, než jen ke kontrole pohybu obyvatel. Systém má v podstatě zaujmout roli, kterou zatím měl jen Bůh v mysli věřících: dohlédne všude, bude hodnotit každý čin a podle svého uvážení odměňovat nebo trestat. Na rozdíl od Boha bude mít hmatatelnou podobu počítačových systémů a sítí, ale stejně jako Bůh bude nezbadatelný a nekontrolovatelný.

Systém všechno vidí
Samotný princip takového systému není nový a uplatňuje se v mnoha aplikacích. Lze ho přirovnat k funkcím internetových vyhledávačů, které se snaží, aby výsledky hledání co nejvíc odpovídaly zadání uživatele. Program proto (velmi zjednodušeně řečeno) neustále prohledává celý obsah internetu a hodnotí ho podle zadaných parametrů, které jsou průběžně optimalizovány, přičemž významnou roli v procesu mají prvky umělé inteligence.

Obsah, který lépe odpovídá zadání, dostane vyšší hodnocení, obsah s nižší relevancí se umístí hůře, v extrémních případech je z výsledků vyhledávání úplně vyloučen. Stačí si do takového systémů místo webových zdrojů dosadit lidi - a dostanete to, čemu Čína říká systém společenského kreditu.

Ve skutečnosti ani podchytávání lidí počítačovými systémy není nic nového. Navzdory okázalé snaze o ochranu osobních dat s nimi běžně pracují pojišťovny, banky, PR agentury, korporace, sociální sítě, státní správa, kriminalisté - o tajných službách ani nemluvě. Svým způsobem je primitivní verzí takového systému i bodové hodnocení řidičí v České republice. Rozdíl oproti Číně je v účelu (i když, kdo ví...) a především v rozměrech: nejlidnatější stát světa má momentálně 1,4 miliardy obyvatel.

Dát dohromady tak obrovskou databázi není jen tak, ale ve věku internetu a sociálních sítí nejde o nic nemožného - nikoliv náhodou se na budování systému sociálního kreditu podílí Alibaba, největší čínská skupina podnikající v informačních technologiích a další tamní společnosti. Komentátoři většinou konstatují, že podíl soukromých subjektů na systému je nejasný, ovšem není to jediná kontroverzní čínská aktivita, kde dost dobře nejde oddělit firmy od státu: podezření, že jejich produkty shromažďují a kamsi odesílají data nečelí jen Huawei, ale i někteří tamní výrobci dronů a další elektroniky.

Do systému společenského kreditu proudí především informace z daňových úřadů, policejních zdrojů, sledují se aktivity na internetu, pohyby na účtech, data z mobilních sítí a bankomatů, nověji byla zapojena síť pouličních kamer vybavených programy pro rozpoznávání obličejů. Tyto kamery přitom jsou prakticky všudypřítomné (uvádí se, že nyní jich v zemi funguje okolo 170 milionů) a někde musí být povinně (například v kostelech a mešitách), přičemž účinnost je překvapivě vysoká: údajně stačí přejít na červenou a obratem následuje zpráva do mobilu o pokutě. Není tak problém kohokoliv, kdykoliv a kamkoliv krok za krokem sledovat, i když u sebe nemá mobil ani jiné zařízení prozrazující jeho identitu a polohu.

Stejně jako internetové vyhledávače, i systém společenského kreditu "indexuje" každého občana podle zadaných kritérií. Jde především o loajalitu k režimu, komerční spolehlivost, sociální integritu a bezúhonnost. Konkrétně to znamená, že systém navyšuje body za včasné placení daní a úvěrů, žádné přestupky (včetně dopravních), žádné protistátní projevy.

Na rozdíl od vyhledávačů tady ale je i záporné hodnocení. Minusové body dostanete nejen za skutečné delikty, ale třeba i za facebookové statusy, které nejsou v souladu s linií komunistické strany a dokonce třeba i jen za to, že máte na sociálních sítích mezi přáteli osoby s nízkým hodnocením. Body dolů mohou být také za nevhodné chování na veřejnosti, špatnou pracovní kázeň, chybné přecházení ulice nebo venčení psa bez vodítka.

Důležitý je praktický dopad hodnocení. Osoby s vysokým kreditem nejenže mohou cestovat bez omezení, mají také přednost při nákupu letenek a jízdenek vyšších tříd a snáze získají půjčky. To je ovšem jen první fáze, později se mohu dočkat lepších pozic ve výběrových řízeních, rychlejšího kariérního postupu a řady dalších výhod. Některé zdroje dokonce tvrdí, že na tom budou lépe na čínských internetových seznamkách, takže jim komunistická strana pomůže k většímu výběru kvalitních nevěst...

Naproti tomu lidé s nízkým kreditem už teď mají problémy s cestováním - podle čínských zdrojů roku 2018 na základě špatného hodnocení nesmělo zemi opustit okolo stovky osob. V roční zkušební lhůtě se ocitlo 23 milionů "nekvalitních" Číňanů, kteří si po tuto dobu nemohou koupit jízdenky na vlak a letenky. U toho to ale jistě neskončí, protože systém je teprve v pilotní fázi, plně funkční má být až koncem příštího roku a i pak se má dál rozvíjet. Kam zajde ve využití tak účinného nástroje země, která je smutně proslulá popravami a rozebíráním vězňů na orgány, se lze jen dohadovat.

Na prahu dystopie
Čínský systém společenského kreditu je stejně snadné odsoudit, jako ocenit - záleží jen na postoji hodnotícího k lidským právům a totalitním státům. Ve skutečnosti je ale problém složitější; zasvěcenější pozorovatelé poukazují na to, že praktická realizace dystopického dohledu nad každým krokem občana prostřednictvím IT může mít nečekané a možná i katastrofální dopady nejen pro jednotlivé Číňany, ale i pro celý politický systém země, nebo dokonce mnoha dalších zemí.

Především je třeba si uvědomit, že Čína je nejen nejlidnatější zemí planety, ale že její populace je velmi různorodá národnostně, nábožensky i kulturně. Současně tu probíhá obrovská migrace mezi venkovem a městy, jsou problémy s kriminalitou, v některých oblastech dochází k atentátům a dalším projevům terorismu. Kombinace technologické vyspělosti země s všemocností vládnoucí strany tváří v tvář těmto problémům logicky vedla k pokušení po takovém systému sáhnout.

Sami vládní představitelé přiznávají, že systém společenského kreditu má sloužit především k získání kontroly nad obtížně zvladatelným superstátem. Současně tvrdí, že omezí kriminalitu, zvýší osobní bezpečnost, zlepší ekonomickou kázeň a umožní vládním orgánům zemi lépe a racionálněji řídit.

Naproti tomu kritikové poukazují na bezprecedentní průlom do soukromí o jakém se nesnilo ani nejhorším totalitním režimům minulosti. Stejně snadno se vynořuje podezření na zneužitelnost systému - tím spíš že chybí jakákoliv kontrolní zpětná vazba. Z hlediska občana je systém naprosto neprůhledný, protože zná sice proklamované cíle, nezná ale konkrétní postupy hodnocení a nemá možnost odvolání. Pocítí pouze dopad neviditelné trestající ruky.

Další nebezpečí jsou subtilnější a paradoxně se mohou obrátit proti samotné vládnoucí straně. Kritikové upozorňují, že prakticky všechny státy, které zavedly totální dohled nad občany, ekonomicky i morálně zkrachovaly. Všudypřítomná kontrola vedla k pasivitě, preferování průměrnosti, úniku do soukromí a nakonec k černému trhu, korupci, chudobě a všeobecnému zaostávání.

I v tomto případě se dá očekávat, že občané povedou dvojí život a udělají všechno aby unikli očím Velkého Bratra, jak lidsky tak ekonomicky. Ani elektronický dozor nemůže být úplně všude, zatímco lidská vynalézavost nezná hranic. Navíc je tu velká pravděpodobnost, že lidé, které systém vrhne na dno společnosti, nebudou mít jiné východisko, než se proti němu aktivně postavit, což povede k výbuchům násilí a teroru.

Jsou tu i technické hrozby. Projekt společenského kreditu mnozí experti hodnotí jako megalomanský a obtížně zvladatelný. Stejně jako každá jiná počítačová síť se nemůže ubránit chybám, poruchám a útokům stoprocentně - vzhledem k velikosti k nim může být ještě náchylnější. Protože ale zasahuje všude, každé větší zhroucení by mohlo zemi přinést kolaps.

Systém společenského kreditu přitom není jen otázka Číny, protože ta se netají se záměrem poskytovat v tomto ohledu "bratrskou pomoc" spřáteleným režimům. Agentura Reuters uvedla zprávu, že čínská telekomunikační společnost ZTE zavádí obdobný systém ve Venezuele ovládané totalitním vůdcem Nicolasem Madurem. Zde se má v duchu latinskoamerických tradic jmenovat karta vlasti (carnet de la patria) - a jistě bude zajímavé sledovat, jestli jí to pomůže vypořádat se s latinskoamerickým temperamentem. O čínské zkušenosti se živě zajímal už Madurův předchůdce Hugo Chavez, který kvůli tomu dokonce roku 2008 během návštěvy Číny zavítal do sídla ZTE.

Systém společenského kreditu jde rozšiřovat i na země, které takovou družbu nepěstují. Mohou k tomu - kromě jiných zdrojů - sloužit jak mobilní zařízení a další elektronika čínských firem, tak i čínské internetové obchody. V tomto případě samozřejmě nepůjde o přecházení na červenou nebo venčení psů, ale o čínské vojenské, obchodní a technologické zájmy.

Především je ale systém společenského kreditu dosud asi nejambicióznejším projektem sociálního inženýrství, který ho díky použitým technologiím posouvá na zcela novou úroveň. Už jen to, že je něco takového možné bude lákat k napodobení všechny další manipulátory napříč politickým spektrem mnoha zemí - tím spíš, že na jeho údajné výhody (například boj s kriminalitou a terorismem), mnoho občanů bude slyšet. Jenže zatím všechny velké projekty sociálního inženýrství skončily velkými katastrofami, takže nejde vyloučit, že nová úroveň ovládání společnosti přinese i novou úroveň sociálních a ekonomických pohrom.

Na druhou stranu ale pro systém společenského kreditu platí to, co pro všechny nové myšlenky: pokud je něco možné a nabízí to nějaké výhody, nejde zabránit, aby se toho lidé dříve nebo později chopili. Stejně tak tedy nelze úplně vyloučit, že se možná stáváme svědky vzniku nového typu společnosti: mraveniště bezprávných jedinců řízeného počítačovými sítěmi.

Jan A. Novák
Vyšlo v časopise Ekonom

You have no rights to post comments