Čína může využít TikTok, pokud se rozhodne napadnout Tchaj-wan, varuje expert

Problém s čínskou sociální sítí opět ukázal na zásadní slabinu západní společnosti: žijeme v době, kdy data a informace představují novou ropu. My s nimi ale stále nakládáme lehkovážně a pouze reagujeme regulacemi na technický pokrok. Měli bychom spíš hledat možnosti, jak přenést dobře ověřené principy z mnohaletého fungování veřejnoprávních médií, se kterými máme v Evropě bohaté zkušenosti, do správy algoritmů platforem, které na našem území získají významný podíl. Jak stvořit „veřejnoprávní algoritmus“, který by reflektoval etiku a hodnoty naší společnosti, říká Josef Holý, odborník na umělou inteligenci a spoluautor podcastu Kanárci v síti.

Bezpečnostní riziko nepředstavuje pouze aplikace v mobilu, ale také samotná sociální síť TikTok. Jakým způsobem předává informace o našem chování čínské vládě?

Sociální síť TikTok je vytvořená a provozovaná čínskou firmou ByteDance, která mimo jiné provozuje také lokální čínský klon TikToku s názvem „Doujin“. Hlavní náplní činnosti ByteDance je tvorba a provoz infrastruktury (výpočetních a datových center a softwarových platforem) pro doporučování obsahu na základě dat o chování jednotlivých uživatelů. Doporučování personalizovaného obsahu je již řadu let poskytováno službami, jako jsou Google, Youtube, Facebook nebo Instagram. Toto doporučování je řízeno algoritmy (počítačovými programy), které se snaží předpovídat chování svých uživatelů. Konkrétně se snaží odpovědět na otázky: „Co daného uživatele zaujme? Co ho přiměje zůstat v naší aplikaci co nejdéle a také se co nejčastěji vracet?“

Dále čtěte

Kupte si naši novou tašku! Bez Babiše a Okamury bude nejlíp

Po obrovském úspěchu triček s nápisem „Bez Babiše a Okamury bude nejlíp“ jsme se rozhodli přijít s novinkou: s červenou…

Tyto služby mezi sebou doslova zápasí o naši pozornost, což také znamená, že se snaží pomocí všemožných triků zajistit, aby se nám ve vhodných dávkách a intervalech v mozku vylučoval dopamin, což je látka, která funguje jako taková hormonální odměna pro náš mozek, pokud se nám děje něco hezkého nebo obecně zajímavého či důležitého –⁠ od jídla, sexu přes zajímavý online obsah až po komentáře a lajky ostatních uživatelů. Právě kvůli cílení na dopaminová centra v našem mozku mluvíme o závislosti na sociálních sítích. A panuje vcelku shoda, že doporučovací algoritmy ByteDance, které pohánějí TikTok, jsou nyní v této oblasti nejpokročilejší. A proto se také vedou legitimní diskuse, zda je správné, aby čínská firma, na kterou má nepochybně vliv tamní totalitní režim, provozovala platformu na takto masivní sběr dat a na základě nich následně manipulovala chování uživatelů, zejména náctiletých, v západních zemích.

Jak moc je pro nás rizikové, že teenageři vyrůstají na TikToku? Může je skrze tuto platformu Čína ovlivňovat?

Vycházejme ze dvou tezí: za prvé, 21. století je století informační, takže „informace jsou nová ropa“ a pomocí informačních platforem (sociálních sítí) lze ovlivňovat vnímání reality celé společnosti. Za druhé, Čína je pro nás (tedy pro „demokratický Západ“) systémový rival, který se bude dále snažit prosazovat alternativní, nedemokratické modely společenského uspořádání. Potom je zjevné, že je značné dlouhodobé riziko nechat čínskou společnost, na kterou (dle čínských zákonů) může mít čínská totalitní vláda přímý vliv, sbírat behaviorální data zejména naší nastupující generace a potažmo ovlivňovat jejich vnímání různých fenoménů, od geopolitiky až po kulturu.

Řada příslušníků současné mladé tiktokové generace bude za 20–⁠30 let v exekutivních pozicích jak v soukromé, tak politické sféře, a pokud necháme TikTok nyní dále sbírat jejich behaviorální data a přes algoritmy působit na jejich vnímání reality a psychiku, tak lze v budoucnu očekávat jednak větší náklonnost k čínskému vidění světa, jednak bude existovat riziko zneužití jejich behaviorálních profilů k jejich ovlivnění. TikTok bude vědět řadu informací o jejich psychice (důvěřivost, extrovertnost apod.), sexuální orientaci, hodnotových preferencích apod.

Zkusme si také představit, že se Čína rozhodne nějakým způsobem eskalovat situaci okolo Tchaj-wanu (např. jej vojensky napadnout). V takovém případě lze očekávat, že dojde k okamžitému zneužití algoritmů TikToku, aby potlačoval určitý typ informací (např. informace o pro-demokratických Tchajwancích), a naopak preferoval informace, které vyhovují čínskému režimu.

Můžeme nějak omezit vliv TikToku coby sociální sítě? Třeba tím, že by vznikla nějaká „evropská“ verze?

To je výborná otázka, kterou lze rozšířit i na západní sociální sítě provozované soukromými korporacemi. V obou případech –⁠ tedy jak u západních soukromých sítí, tak u čínského TikToku –⁠ je problém v tom, že došlo k privatizaci veřejného prostoru a komunikační infrastruktury, kterou již dnes lze označit za kritickou (podobně jako například telekomunikační nebo energetické sítě). Přesto ale máme jako společnost velice omezené nástroje regulace.

Dále čtěte

Co je to sharp power? Přečtěte si o tom, jakým způsobem chce Rusko rozložit naši společnost

Sharp power je poměrně nový pojem, který má přispět k lepšímu pochopení některých aktivit autoritářských režimů, typicky Ruska a Číny.

Diskuse se vede převážně o pravidlech pro odstraňování určitých typů závadného obsahu, místo toho, abychom se soustředili na skutečný problém: informace jsou na sítích analyzovány, filtrovány a distribuovány algoritmy, nad kterými máme jako společnost téměř nulovou kontrolu, protože mechanismy jejich fungování jsou předmětem obchodního tajemství jednotlivých firem. Jejich algoritmy jsou proto netransparentní a nemůžeme vědět, na jakém základě jsou činěna vnitrofiremní rozhodnutí o změnách algoritmu. Tento problém se samozřejmě ještě znásobuje v případě TikToku, na který může mít vliv čínská totalitní vláda.

Evropská unie se snaží jít správným směrem, vydala Digital Markets Act a Digital Services Act, které budou alespoň nutit platformy k větší transparentnosti jejich fungování, což je rozhodně dobrý první krok. Ale dle mého názoru bychom jako společnost měli mít ambicióznější cíle, abychom se přesunuli z reaktivního módu (kdy zpravidla pozdě reagujeme na technologické platformy) do módu proaktivního a tím tak alespoň částečně srovnali krok. Mohli bychom například vést diskusi nad „veřejnoprávním algoritmem“, což nutně neznamená snahu o vytvoření vlastní sítě, ale spíše hledání odpovědi na otázku, jak přinést dobře ověřené principy z mnohaletého fungování veřejnoprávních médií, se kterými máme v Evropě bohaté zkušenosti, do správy algoritmů platforem, které na území určitého státu získají signifikantní podíl. Měli bychom hledat odpovědi na otázky typu „Jak v algoritmech reflektovat hodnoty dané společnosti?“, „Jak v nich implementovat její etické normy, vědecké poznání a novinářskou etiku?“.