Národní úřad pro kybernetickou a informační bezpečnost vydal přede dvěma týdny varování před instalací a používáním čínské aplikace TikTok na zařízeních s přístupem k systémům spadajícím do kritické informační infrastruktury a dalším významným informačním systémům. Bezpečnostní hrozbu vyhodnotil jako vysokou. Zvážit používání aplikace i to, co skrze ni lidé sdílí, doporučuje úřad i široké veřejnosti. Riziko ale nepředstavuje jen aplikace, nýbrž i sociální síť sama o sobě, a to hned v několika rovinách. Ta je v některých zemích regulována nebo zcela zakázána. Letos v březnu dostal TikTok ultimátum i v USA. Algoritmy TikToku jsou extrémně návykové a servírují dětem cíleně škodlivý obsah. Na TikToku je přitom dle odhadů odborníků až 1,4 milionu dětí mladších 13 let.

Problém s čínskou sociální sítí opět ukázal na zásadní slabinu západní společnosti: „Žijeme v době, kdy data a informace představují novou ropu,“ říká Josef Holý, odborník na umělou inteligenci a spoluautor podcastu Kanárci v síti. Sociální síť Tik Tok je vytvořená a provozovaná čínskou firmou ByteDance, která mimo jiné provozuje také lokální čínský klon TikToku s názvem „Doujin“. Hlavní náplní činnosti ByteDance je tvorba a provoz infrastruktury (výpočetních a datových center a softwarových platforem) pro doporučování obsahu na základě dat o chování jednotlivých uživatelů. Problém je v tom, že firma skladuje veškerá data v Číně a zároveň podléhá čínským zákonům, které jí ukládají povinnost předávat veškeré shromážděné informace čínské vládě nebo přímo tyto informace na pokyn vlády aktivně shromažďovat.

Současný americký prezident Joe Biden proto požaduje, aby se TikTok zcela oddělil od svého čínského vlastníka ByteDance. Pokud se tak nestane, může být aplikace v USA úplně zakázána. To v praxi znamená, že by si ji od data zákazu už nemohli nainstalovat noví uživatelé. Ředitel TikToku Shou Zi Chew vystoupil 25. března před americkým kongresovým výborem pro energetiku a obchod, své oponenty ale nepřesvědčil. Nabízí se tak buď možnost, že TikTok koupí jiná firma, která prokazatelně nemá vazby na čínský režim, anebo úplný zákaz. Je ovšem otázkou, zda se najde firma, která do takového obchodu půjde, a také zda Čína prodej vůbec povolí. Takže je pravděpodobnější spíš zákaz jako v Indii a na Tchaj-wanu.

TikTok jako časovaná bomba

TikTok je díky systému krátkých vertikálních videí, doporučovaných na základě preferencí každého uživatele, velmi populární u dětí a mládeže. Vede u nich na celé čáře a mladí na něm tráví ohromné množství času, v USA přes dvě hodiny denně. Doporučování personalizovaného obsahu umí pochopitelně už řadu let i Google, YouTube, Facebook nebo Instagram. Toto doporučování je řízeno algoritmy, které se snaží předpovídat chování svých uživatelů. Konkrétně se snaží odpovědět na otázky: Co daného uživatele zaujme? Co ho přiměje zůstat v naší aplikaci co nejdéle a také se co nejčastěji vracet?

„Tyto služby mezi sebou doslova zápasí o naši pozornost, což také znamená, že se snaží pomocí všemožných triků zajistit, aby se nám ve vhodných dávkách a intervalech v mozku vylučoval dopamin, což je látka, která funguje jako taková hormonální odměna pro náš mozek, pokud se nám děje něco hezkého, nebo obecně zajímavého či důležitého – od jídla, sexu, přes zajímavý online obsah až po komentáře a lajky ostatních uživatelů,“ vysvětluje Josef Holý. „Právě kvůli cílení na dopaminová centra v našem mozku mluvíme o závislosti na sociálních sítích. A panuje vcelku shoda, že doporučovací algoritmy ByteDance, které pohánějí TikTok, jsou nyní v této oblasti nejpokročilejší. A proto se také vedou legitimní diskuse, zda je správné, aby čínská firma, na kterou má nepochybně vliv tamní totalitní režim, provozovala platformu na takto masivní sběr dat a na základě nich následně manipulovala chování uživatelů, zejména -náctiletých, v západních zemích.“

Sebepoškozování a poruchy příjmu potravy u dětí

Algoritmus TikToku bývá dle briského listu The Guardian nazýván „Crack kokain (vysoce návyková droga) mezi sociálními médii“. Kromě zajímavých tutorialů a videí z přírody totiž útočí na zranitelná místa dětí a mladých lidí a servíruje jim videa normalizující sebepoškozování, poruchy příjmu potravy a rasistický či extrémně misogynní obsah. Ten se dětem začne zobrazovat téměř okamžitě poté, co si založí účet. Dítě, které má sklon k sebepoškozování nebo k potížím s jídlem, je tak brzy doslova zaplaveno krátkými videi, která jeho sklony prohlubují a rychle mohou vést k závažným psychickým potížím. Dle odhadů odborníků má přístup na TikTok až 1,4 milionu dětí mladších 13 let.

Starším dětem a mladým lidem, které zajímá seberozvoj, zase algoritmy zobrazují obsah nebezpečných influencerů, jako je například Andrew Tate, který nedávno strávil pár měsíců v rumunském vězení. Ten ve svých videích učí mladé muže nenávidět ženy a zneužívat mladé dívky k vlastnímu obohacení tím, že jsou nuceny natáčet pornografii.

TikTok jako možný nástroj subverze

„Polická situace se opět polarizuje, svět se nám před očima opět dělí na dva bloky,“ říká sinolog Martin Hála. Na jedné straně stojí Západ v čele s USA, na druhé Rusko a Čína. Pokud by mělo v budoucnu dojít ke střetu, představují pro nás současné čínské technologie ohromné riziko. „Řada příslušníků současné mladé tiktokové generace bude za 20-30 v exekutivních pozicích jak v soukromé, tak politické sféře, a pokud necháme TikTok nyní dále sbírat jejich behaviorální data a přes algorimy působit na jejich vnímání reality a psychiku, tak lze v budoucnu očekávat jednak větší náklonost k čínskému vidění světa, jednak bude existovat riziko zneužití jejich behaviorálních profilů k jejich ovlivnění. TikTok bude vědět řadu informací o jejich psychice (důvěřivost, extrovertnost, apod.), sexuální orientaci, hodnotových preferencích, apod.,“ vysvětluje Josef Holý.

V USA tedy dostal TikTok ultimátum a uvidíme, jakým způsobem zareaguje Evropská unie. Aktuální spojenectví Ruska a Číny je rozhodně pádným důvodem k zamyšlení.