ROZHOVOR / Na nástrahy internetového prostředí, ale i rostoucí radikalizaci mladých lidí upozorňují bezpečnostní experti, učitelé i pracovníci s mládeží. Proč selhává prevence, digitální a mediální vzdělávání i péče o duševní zdraví mladé generace? A proč by hlavní odpovědnost neměli nést děti a rodiče, ale technologické platformy, jejichž algoritmy vydělávají na pozornosti, emocích a polarizaci společnosti? Nejen na tyto otázky se deník FORUM zeptal bývalého místopředsedu vlády pro digitalizaci, poslance za Piráty Ivana Bartoše.

Jak vnímáte úvahy o plošném zákazu sociálních sítí dětem?

Snahy některých vlád plošně zakázat sociální sítě dětem do 15 nebo 16 let jsou populistickým gestem, které selže v praxi a mladé generaci spíše uškodí. Zákaz sociálních sítí dětem nepomůže, protože za prvé vytvoří digitální underground, děti technické restrikce (VPN, falešný věk) snadno obejdou. Místo legálních platforem se přesunou do neregulovaných a pro ně mnohem nebezpečnějších koutů internetu (darknet, šifrovaná fóra), kde stát ani rodiče nebudou mít žádnou kontrolu.

Za druhé, rezignuje na digitální vzdělávání. Zakázat sítě je jako zakázat dětem chodit na ulici, protože tam jezdí auta. Místo toho, abychom je naučili bezpečně přecházet silnici (rozvíjeli digitální a mediální gramotnost), je zavřeme doma. Jakmile v 16 letech na sítě vstoupí, budou vůči algoritmickým pastem naprosto bezbranné.

A za třetí, odsouvá skutečného viníka ze světla reflektorů. Zákaz přenáší vinu na děti a rodiče. Říká: „Vy jste selhali, vy to nezvládáte.“ Tím ale dáváme alibi Big Tech korporacím, které ty sítě záměrně designují jako digitální herny, aby vyvolávaly závislost. Nesmíme trestat děti za to, že technologičtí giganti staví toxické algoritmy. Musíme změnit pravidla pro ty giganty.

Tvrdíte, že zákaz sociálních sítí pro děti neřeší podstatu problému. Začněme ale od začátku a zkuste nejdřív vysvětlit, co tedy podle vás podstatu problému představuje?

Podstatou problému není samotná existence sociálních sítí nebo to, že na nich děti tráví čas, ale byznys model založený na tzv. ekonomice pozornosti (attention economy). Algoritmy platforem jsou navrženy s jediným cílem: udržet uživatele u obrazovky co nejdéle, protože více času znamená více zobrazené reklamy a to znamená vyšší zisky.

Systémy doporučování obsahu zjistily, že lidskou pozornost nejlépe poutají negativní emoce jako strach, hněv, rozhořčení nebo senzacechtivost. Podstatou problému je tedy systémové upřednostňování toxického obsahu algoritmy za účelem zisku, nikoliv to, že by mladiství byli apriori neschopní se v online světě pohybovat. Plošný zákaz pro děti proto řeší až symptom (závislost, psychické problémy), ale zcela ignoruje příčinu.

A co se s tím dá dělat? Jak velkou odpovědnost za šíření radikálního obsahu by měly nést samotné technologické platformy?

Samozřejmě, že tu největší. Tyto korporace na toxickém rozdmýchávání emocí, hněvu a polarizace vydělávají miliardy dolarů. Kdo jiný by za to měl odpovídat?

To je jako kdyby automobilka vyrobila auto, které má záměrně vadné brzdy a když pak auto vyletí ze silnice, hájila by se slovy: „My auto neřídili, to řidič šlápl na plyn.“ Jenže oni ten stroj takhle schválně zkonstruovali.

Sociální sítě nejsou neutrální kanál, kterým proudí informace, ač se tím platformy zaklínají. Jsou to prostě naprogramované stroje na závislost. Big Tech moc dobře ví, že čím víc je obsah pobuřující, tím déle u něj dítě zůstane, a z každé té vteřiny navíc jim tečou obrovské peníze. Řešení proto nespočívá v zakazování přístupu uživatelům, ale v přenastavení pravidel pro tyto technologické giganty. Piráti prosazují, aby platformy nesly plnou systémovou odpovědnost za to, jak jejich algoritmy obsah distribuují.

Platformy by neměly být právně odpovědné za každý jednotlivý příspěvek, který uživatel nahraje – to by vedlo k preventivní cenzuře a strachu cokoli publikovat. Musí však nést odpovědnost za to, jaký typ příspěvků jejich algoritmy aktivně zesilují a tlačí lidem do popředí.

Roli zde musí sehrát i stát a školy: úkolem státu není suplovat roli digitálního cenzora. Musíme ale masivně investovat do moderního školství a digitální i mediální gramotnosti. Musíme děti naučit, jak algoritmy fungují, jak rozpoznat manipulaci a jak si chránit duševní zdraví. Rodiče pak potřebují dostat do rukou srozumitelné, netoxické technologické nástroje pro správu digitálního času svých dětí, nikoli represi ze strany státu.

Znamená to i vynucování úprav algoritmů sociálních sítí? Ty nakonec jsou dnes nastavené způsobem, který radikalizaci a polarizaci společnosti přímo podporuje.

Ano, jednoznačně. Nejde o to diktovat soukromým firmám, jaký přesný zdrojový kód mají psát, ale jaká systémová práva musí dát uživatelům. Prosazujeme tři klíčové principy: Za prvé, možnost vypnout personalizaci. Uživatel, nebo rodič musí mít možnost jedním kliknutím vypnout doporučovací algoritmus založený na sledování jeho chování. Sítě by pak fungovaly na čistě chronologickém principu – vidíte prostě to, co lidé, které sami sledujete, skutečně přidali.

Za druhé zákaz behaviorální reklamy cílené na děti. Algoritmy nesmí cílit na nezletilé, sbírat o nich citlivá data a zneužívat je za účelem doručení personalizované reklamy. A za třetí interoperabilita a alternativa. Uživatelé by měli mít možnost zvolit si alternativní, komunitní doporučovací algoritmy, které nesledují komerční zisk, ale např. informační pestrost a kvalitu.

Evropská unie už přijala řadu předpisů zaměřených na digitální prostředí. V čem jsou podle vás nedostatečné? A je vůbec možné účinně regulovat algoritmy společností, které působí globálně?

Evropský akt o digitálních službách (DSA) a akt o digitálních trzích (DMA), které jsme jako Piráti pomáhali formovat a podpořili je, jsou kroky správným směrem. DSA poprvé zavádí povinnost nezávislého auditu algoritmů pro ty největší hráče.

Nedostatečné jsou však stále v rychlosti vymáhání. Byrokratické procesy a prověřování porušení pravidel trvají měsíce až roky, přičemž digitální svět se mění v řádu dnů. Big Tech firmy navíc stále úspěšně tají klíčová data o fungování svých systémů před nezávislými výzkumníky. Co se týče globální regulace, ta je možná a reálně funguje díky tzv. Brussels Effectu. Evropská unie představuje pro technologické firmy tak obrovský a bohatý trh, že se mu zkrátka musí přizpůsobit. Pokud EU vynutí bezpečnější design aplikací pro evropské uživatele, firmy tyto standardy z ekonomických a technických důvodů často aplikují globálně, protože vyvíjet dvě úplně odlišné verze jedné sítě se jim nevyplatí.

Pojďme se na to podívat i optikou těch, kdo z podobných regulací mají strach. Kdo by vlastně měl rozhodovat o tom, co je ještě legitimní názor a co už je radikalizující nebo škodlivý obsah na internetu? Nemůže se stát, že pod záminkou ochrany dětí začneme potlačovat i nepohodlné nebo menšinové názory?

Toto riziko je zcela reálné a jako Piráti před ním konzistentně varujeme. Právě proto striktně odmítáme, aby stát, vládní úředníci nebo samotné korporace určovaly, co je ještě „legitimní názor“.

Pro nás platí základní princip: co je legální offline, musí být legální i online. O tom, co je protiprávní (např. dětská pornografie, podněcování k násilí, schvalování genocidy), musí rozhodovat výhradně nezávislé soudy, nikoli automatizované filtry soukromých společností. Snaha chránit děti nesmí nikdy vést k zavedení plošných filtrů nahraného obsahu (tzv. upload filtrů). Ty totiž nedokážou rozpoznat ironii, satiru, kontext ani politický disent a v praxi prokazatelně vedou k mazání nepohodlných, menšinových či opozičních názorů.

Jak vnímáte průzkum České rady dětí a mládeže, z nějž vyplynulo, že 91 % mladých se setkalo s radikálním obsahem na sociálních sítích,  17 % zná někoho, kdo se přes sociální sítě začal radikalizovat, každý pátý mladý člověk schvaluje násilí, ponižování nebo vyhrožování jako prostředek k prosazení svého politického názoru a téměř polovina připouští možnost omezení svobody určité skupiny lidí ve jménu ochrany společnosti? 

Tato čísla jsou naprosto alarmující, ale bohužel mě vůbec nepřekvapují. Jsou totiž přímým důkazem toho, o čem celou dobu mluvím. Když 91 % mladých lidí potvrdí, že na ně vyskakuje radikální obsah, je to jasný výsledek práce algoritmů Big Tech firem, které tento obsah záměrně servírují lidem až pod nos, protože šok, hněv a polarizace generují největší zisky.

Ten průzkum navíc odkrývá obrovské nebezpečí, které s sebou nese právě to volání po plošných zákazech a omezování svobod – když polovině mladých lidí nevadí omezení svobody určité skupiny lidí „ve jménu ochrany“, je to prostě problém. Ukazuje to totiž, že se „správným zarámováním“ je hrozně jednoduché ať jako společnost sklouzneme k autoritářským myšlenkám – a lidi tomu ještě zatleskají. Pokud začneme digitální svět řešit plošnými zákazy ze strany státu, ukazujeme mladé generaci, že represe a omezování práv je normální řešení.

Dokázal byste na druhou stranu coby nejen bývalý místopředseda vlády pro digitalizaci, ale především představitel strany, která de facto na idee svobodného internetu vyrostla, uklidnit kritiky, kteří se obávají, že jakýkoli tlak na moderaci obsahu je ve skutečnosti formou privatizované cenzury?

Tyto obavy naprosto sdílím a beru je velmi vážně. Jako Piráti jsme vyrostli na obraně svobody slova a internetu před zásahy korporací a státu. Naše řešení ale jde přesně opačným směrem než privatizovaná cenzura, a to ze tří důvodů: Regulujeme distribuci, nikoli obsah, náš tlak nesměřuje k tomu, aby platformy více mazaly, ale aby méně uměle zesilovaly šokující a toxický obsah na úkor běžného. Pokud někdo napíše legální, byť radikální názor, má plné právo ho na internetu publikovat. Nemá ale automatické právo na to, aby ho algoritmus TikToku nebo Facebooku kvůli zisku zdarma doručil milionu dětí do jejich telefonů.

Druhým důvodem je právo na nápravu – Due Process, právě díky pirátskému tlaku v europarlamentu zavádí legislativa DSA povinnost pro platformy nabídnout uživateli jasné a rychlé odvolací řízení. Pokud vám síť smaže legální příspěvek nebo zablokuje účet, musí to lidsky zdůvodnit a vy se můžete okamžitě domáhat nápravy. Platformy už nemohou svévolně a beztrestně „stínat hlavy“ nepohodlným účtům.

A poslední, třetí důvod je decentralizace jako cíl, dlouhodobým pirátským řešením je podpora decentralizovaných a open-source sociálních sítí, kde žádný osamělý miliardář ani jedna digitální korporace nevlastní vypínač od veřejné debaty. Chceme moc vrátit zpět do rukou uživatelů.