ROZHOVOR / Sociální sítě se staly přirozenou součástí života mladé generace, zároveň ale představují prostředí, ve kterém se stále častěji šíří radikální obsah, dezinformace i výzvy k násilí. Podle výzkumu České rady dětí a mládeže (ČRDM) se s radikalizujícím obsahem setkalo 91 procent mladých lidí a každý šestý zná někoho, kdo se prostřednictvím sociálních sítí začal skutečně radikalizovat. Jak vážný problém Česko řeší, jakou roli v něm hrají algoritmy sociálních sítí, proč jsou děti a dospívající zranitelní a jak mohou zasáhnout rodiče, školy i stát? Nejen o tom deník FORUM 24 hovořil s Bohumilem Kartousem, vysokoškolským pedagogem, publicistou a spoluautorem inovativních vzdělávacích projektů.

Podle výzkumu ČRDM se 91 % mladých lidí setkalo s radikálním či radikalizujícím obsahem na sociálních sítích. 17 % mladých zná někoho, kdo se přes sociální sítě začal reálně radikalizovat. Můžete vysvětlit, jak vážný problém tu vlastně řešíme?

Znamená to zhruba tolik, že zatímco v době před érou sociálních sítí byla radikalita doménou obskurních, vesměs ideologických kruhů, v současnosti je kvůli rozptylu sítí takřka nemožné se jim vyhnout. To samozřejmě neznamená, že dotek radikality, ať už má jakoukoliv podobu, vzbudí v každém mladém člověku chuť být radikální. Sociální sítě ale představují ještě jedno riziko: jejich past je otevřená pro každého, kdo je dlouhodobě frustrován či deprivován.

Představte si zanedbaného čtrnáctiletého kluka, o kterého se rodiče nestarají, nemá vybudovanou dostatečnou citovou vazbu, z toho důvodu se chová „divně“, vrstevníci se s ním nekamarádí, navíc je jednoduchým terčem šikany, je tedy sám, cítí se oprávněně ublíženě, a protože se k němu takto vztahuje celý jeho svět, zákonitě viní celý svět ze zla, které musí prožívat. Pocit křivdy v něm roste mnoho let a setká se s hormonální vzpourou a potřebou emancipace. Už roky se snaží substituovat si pocit osamění v prostředí her, čímž se dostane na servery Discordu, sociální sítě, která slouží hlavně gamerům (hráčům digitálních her).

V komunitě jsou také profily, které kromě her sdílejí své misogynní postoje k ženám, xenofobní názory, despekt k demokratickým autoritám, výzvy k radikálním řešením. Našemu čtrnáctiletému klukovi to vzhledem k jeho osobní zkušenosti začne dávat smysl, vždyť v tom světě žije a trpí. Rozhodne se tedy jednat a „zlu“ se pomstít.

S pomocí chatbota a dalších zdrojů začne postupně shromažďovat materiály potřebné k výrobě výbušnin, sestrojí si doma amatérskou, ale funkční bombu a jednoho dne ji odpálí o velké přestávce na zahradě školy, aby se za všechno pomstil. Myslíte, že je to sci-fi? Ne, není. Až na poslední část toho příběhu jde o nedávnou skutečnost v Česku. Kluka se naštěstí podařilo zachytit a zastavit ještě před tím, než svůj záměr dokonal. Ve škole ani doma ale nikdo nic netušil.

Jaké další podoby může radikalizace mít? 

Ne každý zradikalizovaný člověk nutně musí chtít dokonat pomstu na světu, v němž mu není dobře. Jeho negativní vztah se může transformovat v sice subtilnější, ale stále velmi nebezpečný vztah k nejbližšímu okolí.

Vezměte si třeba hodně propíranou komunitu tzv. incelů, tedy mladých kluků, kteří žijí v nedobrovolném celibátu (involuntary celibate, incel). Jde o nemalou část mladé mužské populace, která z různých důvodů, jako jsou neurodivergence, digitální substituce nebo rodinného zanedbání, nemá rozvinutou dovednost navazování sociálních vztahů, není schopna navázat intimní vztah. Všichni jsou na sociálních sítích, jejichž algoritmus velmi rychle rozpozná jejich slabiny, a proto jim velmi rychle nabídne obsah, který sledují jim podobní lidé.

Tento obsah je většinou velmi prostý a reaguje na jejich vnitřní nespokojenost: nějaký pseudo alfa, jako je Andrew Tate, případně Filip Turek jako takový Tate z Temu, se chlubí tím, kolik má peněz, aut a žen, přičemž vše je pro něj spotřební materiál. Zejména ženami pohrdá, cítí se nad ně nadřazený. Říká se tomu toxická maskulinita.

Na tento model se následně začnou nabalovat další společensko-politické postoje a hle, máme tu voliče Motoristů, případně jiné populistické sebranky, která vytěžuje frustraci a deprivaci části společnosti. V době sociálních sítí to jde velmi rychle, protože dostupnost radikálních obsahů je instantní, a navíc dochází k pocitu legitimity, který umocňuje zdánlivá mnohost členů takové komunity. Jak vidíte, funguje to “skvěle”, v současnosti z nich máme poskládanou vládu. Čímž nepřímo říkám, že problém s radikalizací se zdaleka netýká jen mladých lidí. Sociální sítě prokazatelně radikalizují část společnosti napříč věkovým spektrem. 

Znamená to také, že se radikální obsah stal běžnou součástí online prostředí? 

Ano. A znovu opakuju, netýká se to jen mladých lidí. Stačí se podívat, jakým způsobem probíhají diskuse na Facebooku. V různých tématech. Pod radikalitou si většinou představujeme nějaké krajní politické názory vpravo nebo vlevo, ale současný vliv sociálních sítí samotný termín radikalita významně proměňuje. Za radikální můžeme například směle považovat celý souhrn vědu popírajících přesvědčení, stimulovaných hojně šířenými konspiracemi, ať už se to týká očkování, klimatických změn nebo třeba historických událostí.

To, co bychom mohli na individuální úrovni označovat za pouhou nevzdělanost nebo hloupost, se v prostředí sociálních sítí stává masovým trendem s potenciálními politickými dopady. Podívejme se na současný stav politiky: na Slovensku mají vládního zmocněnce, který popírá, že by proběhla pandemie covidu. V Česku máme zmocněnce a ministry, kteří popírají vědecké poznatky o původu klimatických změn. V obou zemích žije nemálo lidí pod vlivem historie “sovětského” typu, podle níž Prahu osvobodila jedině Rudá armáda a “přátelská návštěva” vojsk Varšavské smlouvy byla “obranou našich zájmů”.

To, co by bez sociálních sítí bylo považováno za projev obskurní pomatenosti, je v jejich prostředí povyšováno na legitimní postoj, jemuž se současný populismus ochotně podřizuje. Podívejme se na tu tragikomickou dynamiku okolo setkání v Brně, kde se odehrál akt smíření za účasti sudetských Němců a přeživších svědků holokaustu. Vládní populisté šli ve své podlézavosti dezinformační kampani tak daleko, že přijali ostudné usnesení, jímž vyjádřili nesouhlas s účastí sudetských Němců.

Tedy abych byl přesný, nejprve se vlastními informačními kanály mocně podíleli na šíření historických bludů i lží o záměrech sudetských Němců a následně projevili sněmovní “hrdinství”, údajně na obranu národních zájmů. Podobnou radikalizací tuposti je současná populistická politika prosáklá. Absence elementární odpovědnosti umožňuje lidem, jako je Babiš, Okamura, Macinka a dalším zneužívat strachu a nevzdělanosti té části společnosti, kterou následně vytěží ve svůj vlastní politický prospěch.

Ale abych se vrátil k mladým a k tomu, co formuje jejich postoje ke světu. Nedávno jsem narazil na jednoho “motoristu”, který s legračním pohledem kamery do vlastních nosních dírek sděloval svým followers, že by si přál Evropu “bílou a čistou”. Krystalická nacistická rétorika ve formátu krátkého videa, šířená za pomocí legie falešných účtů. Radikalizační obsah par excellence. Posunování hranic toho, co je přijatelné, rozevírání Overtonova okna legitimní politické diskuse. Pro společenskovědně a občansky povrchně vzdělaného člověka pravděpodobně “názor” a “svoboda projevu”. A předmět úvahy, “jestli on vlastně nemá pravdu”. Šílené. 

Jakou roli v šíření podobného obsahu hrají algoritmy sociálních sítí a jak vypadá typická cesta mladého člověka k radikálním postojům?

Jak jsem už několikrát naznačil výše, hrají zcela zásadní roli v tom, jak rychle dokážou člověka “diagnostikovat”, poskytnout mu obsah preferovaný lidmi s podobnými sklony a slabostmi, seznámit ho se stejně orientovanou komunitou a v důsledku toho také radikalizovat. Současné poznatky o fungování sociálních sítí ukazují, že radikalizace, díky novým formátům audiovizuálních obsahů, často vypromptovaných prostřednictvím AI, probíhá mnohem rychleji než v minulosti.

Příkladem byl tweet Elona Muska v předvolební kampani, kde prostřednictvím AI vyobrazil Kamalu Harris, Trumpovu demokratickou protikandidátku, jako komunistku v uniformě. Tenhle vpravdě šmejdský způsob posouvání postojů lidí, kteří jsou při povrchnosti vnímání politiky náchylní na emočně stimulující zkratky, je krajně nebezpečný.

Když už jsme u Muska, poměrně dobře se na něm ilustruje to, jak algoritmy sociálních sítí dokážou vnutit bludy obrovské části populace jen proto, že je publikuje někdo s velkým dosahem. Musk má stovky milionů followers a i když publikuje to, čemu se v angličtině říká “crap”, má mnohem větší dosah a konečnou stopu, než jeho oponenti.

Věra Jourová, někdejší evropská komisařka, vedla s Muskem otevřenou debatu o regulaci digitálního prostoru. Na dnes už Muskově sociální síti X (dříve Twitter). Její tweety se dostaly ke 30 milionům uživatelů. Muskovy k miliardě. Na jejich relevanci přitom nezáleží. Je tu ještě jeden problém se sociálními sítěmi, a to je manipulovatelnost dosahu. Můžete si nakoupit interakce neautentických účtů, jako to dělá třeba Rajchl na Facebooku, nebo jak to pravděpodobně probíhá pod náckovskými příspěvky toho mladého motoristy na Instagramu, a mít tak mnohem větší dosah, než by vaše bláboly měly organicky.

Když totiž začne velké množství falešných účtů interagovat pod nějakým příspěvkem na sociální síti, její algoritmus to vyhodnotí jako obsah atraktivní pro ostatní a tím pádem se dostane i ke skutečným lidem. 

Tu cestu už jsem popsal v první odpovědi. Je velmi rychlá a při dlouhodobém působení je velmi těžké, aby se takový člověk svého přesvědčení jednoduše vzdal. Podílel jsem se na natáčení Velkého vlasteneckého výletu a měl možnost strávit několik intenzivních dní s protagonisty filmu, lidmi, kteří zastávají dezinformační – a v některých ohledech nepochybně radikální – postoje k ruské agresi a ruské okupaci. Sledoval jsem, jak se kroutí pod tlakem kognitivní disonance, tedy v okamžicích, kdy se setkali s realitou, která byla v hlubokém rozporu s jejich přesvědčením.

A také jsem viděl, jaké copingové strategie nastupují, aby se nemuseli svého přesvědčení vzdát. Bylo by to pro ně totiž příliš bolestivé a mimo jiné by přišli o komunitu, se kterou své bludy sdílejí. Tedy o pocit alespoň nějaké sounáležitosti, kterou v životě postrádají. Protože sounáležitost je z pro lidské potřeby více než předmět, na kterém se odehrává.

Existují nějaké varovné signály, podle kterých mohou rodiče nebo učitelé poznat, že dítě začíná podléhat radikalizaci? Ptám se na to i proto, že na semináři v Poslanecké sněmovně PČR zaznělo, že radikalizace se v online prostředí stává nihilistickou, obtížně rozpoznatelnou a zachytitelnou a předcházet hrozbám je proto stále složitější.

Ano, existují, ale problém je, že rodiče dětí ohrožených radikalizací je většinou buď nevnímají, protože o dítě nejeví potřebný zájem, nebo k nim sami přispívají svými postoji a tím pádem nebudou zrcadlo vlastních dětí považovat za nic varovného či nežádoucího. Byl jsem v poslední době svědkem dvou akcí s radikálním podtextem, jedna se odehrála na Staroměstském náměstí a oslavovala Sovětský svaz a Rusko, druhé pak v Brně, kde podobná vrstva společnosti protestovala proti neexistující hrozbě sudetských Němců. Na obou těchto akcích jsem viděl děti, které si tam vzali jejich rodiče a prarodiče.

Ten nihilismus, o kterém byla řeč na konferenci, zaslouží určitý kontext. Jak jsem se snažil ukázat na příkladu čtrnáctiletého kluka, který si doma připravoval ingredience na vytvoření výbušniny, to není jedinec, který by se asocioval s nějakou radikálně politickou ideologií. To je prostě nešťastné dítě, jemuž se svět jeví jako strašné místo k životu a tohle je zvrácená forma protestu proti jeho subjektivně vnímané skutečnosti.

Mnoho mladých lidí vyrůstá v prostředí, ve kterém postrádají vztahy postavené na určitých hodnotách, na hodnotách bezpodmínečného přijetí, souvztažnosti, respektu k druhým a k jejich potřebám, nebo třeba “jen” vyrůstají v prostředí krajní nedůvěry, podezřívavosti a nevraživosti. To, společně s toxickým prostředím sociálních sítí a dalších digitálních platforem, je funkční inkubátor nihilistické radikality.     

Ve výsledcích průzkumu mne překvapilo i to, že každý pátý mladý člověk schvaluje radikální způsoby prosazování politických názorů, včetně ponižování, vyhrožování či násilí. Co se proti podobným tendencím dá dělat?

To je skutečně delikátní otázka, zvlášť v Česku. Existuje tu totiž zvýšená míra předpojatosti k regulacím, což je výtečně zneužitelné k vytváření manipulací o “omezování svobod”, “cenzuře” a “komunismu”. Tyto manipulace se snaží vzbudit podezření, že regulace toxicity sociálních sítí, případně ochrana před jejím destruktivním dopadem je v rozporu s demokratickými právy a svobodami. Částečně jde o užitečnou idiocii, částečně o zcela vědomé chování dezinformačně populistických, vesměs nedemokratických a prokremelských aktérů.

To platí zejména v obecné rovině, nicméně i u takových opatření, která se týkají dětí a mladistvých se najde řada zjevně upřímně přesvědčených lidí, kteří si myslí, že nám stačí víra ve vzdělávání a odpovědnost provozovatelů platforem, ačkoliv ani jedno se dodnes nenaplňuje, přičemž problém roste a ohrožuje demokracii a prostřednictvím mladých lidí také její budoucí odolnost a perspektivu.

Tihle dobří lidé vyjadřují svou předsudečnou skepsi vůči politickým krokům v Austrálii a Dánsku, jakkoliv o dynamice a intenzitě společenské a pokročilé diskuse v těchto vyspělých zemí nemají ani páru a neuvědomují si, že k regulacím typu age control (omezení přístupu na velké sociální sítě věkem) dospěli po zvažování mnoha dalších možností v době, kdy v Česku ještě žádná pořádná diskuse na toto téma neprobíhala. Ostatně neprobíhá dodnes. Tahle úsměvná provinční bohorovnost je pro mě frustrující. 

Ale je tu ještě jedna opozice, která se dívá na restrikce typu omezení věku jako na “trestání oběti” místo viníka. Narážím na rozhovor, který pro FORUM 24 poskytl poslanec Pirátské strany  a její bývalý předseda Ivan Bartoš, jenž se také účastnil naší společné konference ve sněmovně. Bartoš se domnívá, stejně jako řada dalších pirátských politiků, že je třeba se zaměřit na platformy a přimět je ke změně fungování algoritmů (vypínání personalizovaných dat) a dalším poněkud subtilnějším úpravám. O to se původně snažila EU v rámci zákona o digitálních službách. Dopadlo to tak, že vypnout personalizaci feedu můžete, ale zaplatíte za používání sítě. Na to má sociální síť samozřejmě právo, neboť je to její služba a kdo nesouhlasí s podmínkami, nechť platí. 

Bartoš přitom říká jednu pozoruhodnou věc. Přirovnává situaci k tomu, že kdyby automobilka vyrobila auto s vadnými brzdami, a to pak kvůli závadě havarovalo, nemohl by se výrobce vymlouvat na to, že na vině je řidič. Mně se ta metafora velmi líbí. Sociální sítě mají skutečně “vadné brzdy”, a sice zcela záměrně: vedou ke kompulzivitě, ždímají čas dětí i dospělých emočním vytěžováním, umožňují rozsáhlé manipulace s dopadem na celé společnosti. Jestliže tu máme takto vadný vehikl, vůbec by neměl být v provozu, natož abychom v něm nechali jezdit dospívající a děti.

Takový vehikl má být pochopitelně z bezpečnostních důvodů odstaven čili regulován a jeho výrobce donucen k úpravám, které zajistí bezpečnost. Abyste tomu rozuměl, já Bartošovi rozumím a věcně s ním souhlasím, ale ze zkušeností s jednáním s lidmi z digitálního businessu je zjevné, že se v ničem neliší od toho tabákového nebo fosilního. Piráti mu ochotně sedají na lopatu. Jediné, na co slyší, je regulace a její nekompromisní vymáhání. Jinak bude tenhle business využívat každé takové názorové neshody a bude ve svých kampaních mohutně zpochybňovat, relativizovat a varovat. Jako tabákový i fosilní průmysl.

Ale abychom to celé neomezili na regulace. Samozřejmě je žádoucí se zaměřit na vzdělávání i v oblasti občanské a informační gramotnosti a snažit se o prevenci sociálně patologických projevů v podobě radikálních postojů. Běžte se prosím zeptat do škol a na ministerstvo, co pro to chtějí dělat. Na zhruba 20 % progresivních škol vám něco smysluplného řeknou, zbytek bude čekat na povel, nebo dokonce aktivně odporovat “dalším nesmyslům shora”.

Na ministerstvu má ministr z Agrofertu náměstky ze strany průjmové diety a motorek. Tomu říkám triumvirát do boje s algoritmy. Jistě chápete tu nadsázku, se kterou se snažím říct, že na vzdělávací systém jako celek se spolehnout nelze a že současné politické vedení tomu nasazuje korunu. Budeme rádi, když za nás problém vyřeší EU a my s ostudou jako jedni z posledních na to řešení přistoupíme. Mimochodem, inženýr Babiš pořádá 9. 6. na toto téma, tedy bezpečí dětí a dospívajících v digitálním prostoru, kulatý stůl na úřadu vlády. Jdu se tam podívat, bude to nepochybně zábavné. Tak nějak smutně.

Zatím si tedy musíme pomoci sami. Měl jsem workshop v jedné mezinárodní firmě sídlící v Praze. Ukazoval jsem přítomným rodičům vše, co současná evidence dokládá o negativním působení sociálních sítí. A mluvil jsem o tom, že největší díl odpovědnosti i největší vliv máme my, rodiče. Problém je, že velké procento rodičů, kteří také vychovávají děti, tohle buď z lenosti neřeší, nebo jsou v takové situaci, že na to prostě nemají čas ani sílu. Víte, co bych udělal? Dal bych dětem ze sociálně slabých rodičů kroužky zdarma. Zkusím to panu inženýrovi na kulatém stole navrhnout.

Pojďme tuto otázku přenést do běžné každodennosti těch z nás, kdo máme děti. Jak bychom vlastně měli s dětmi o sociálních sítích mluvit? A kde my rodiče nejčastěji chybujeme?

Otevřeně a upřímně. Nebýt pokrytci a začít u sebe. Jste s dětmi doma a jste na mobilu? Říká se tomu phubbing, upřednostnění telefonu před přítomnou blízkou osobou. To je první zákon digitálně vyspělého rodiče, že když je dítě přítomné, je s ním, ne na mobilu. Jsou samozřejmě situace, kdy rodič na mobilu nebo na laptopu být musí, protože řeší něco důležitého. V tom případě prostě řekněte, co děláte a proč je to důležité. “Musím napsat kolegům z práce e-mail s obsahem zítřejší schůzky”, “píšu babičce, jestli už je zdravá”, “hledám hotel na naši společnou dovolenou”.

Možná vám to připadá zbytečné či trapné, ale není. Představte si, že jste dítě nebo teenager a vůbec netušíte, proč je váš rodič zrovna na mobilu, když jste tu s ním. Třeba si myslí, že jste na sítích, nebo se něčím bavíte.

Odsuňte užívání sociálních sítí co nejdéle to jde. Pokud už je vrstevnický tlak příliš velký, je tu elin.ai, průvodce obsahem sítě. Už na prvním stupni je vesměs běžné, že děti mají smartphone a skupinu na WhatsApp. Bavte se o tom, s čím vším se může vaše dítě setkat, protože děti občas sdílí obsahy, ke kterým se dostaly na internetu, včetně porna, násilí, rasismu a xenofobie. Mluvte o tom, že se to může stát a že je třeba, aby vás o tom uvědomili.

Bavte se s nimi o tom, že internet neuznává morální hranice, jaké známe z fyzického světa a že krutost a agresivita v digitálním prostředí nabývají úplně jiných rozměrů, než v našich fyzických životech a že to má na naše prožívání skutečnosti vliv. Vaše děti – jak ostatně vyplývá z dat České rady dětí a mládeže – na radikální obsah narazí a nebude to ojedinělé. Je nutné je na to připravit a je dobré jim vysvětlit, proč se šíří a proč se šíří tak úspěšně. 

Nastavujme dětem limity na pobyt na sociálních sítích a vysvětlujme, proč je to důležité, s ohledem na ochranu jejich zdraví a psychické stability, jejich identity a sebepojímání. Upozorňujme je na to, že obrazy ze sociálních sítí nejsou reálným světem, ale performancemi virtuálních profilů, jejichž cílem je buď vytvořit co nejlepší dojem, nebo vás zachytit přes vaše emoce.

Upozorňujme je na to, že digitální svět je vzdálený skutečnosti tím, že využívá mnoho způsobů manipulace, od nastageovaných scén po filtry a další editační triky. Mladší syn mi říkal, že hláška “nejsi v editu” znamená to, co by starší generace pojmenovala “vrátit se nohama na zem”. Ptejme se vašich dětí, jak vnímají svět kolem sebe, diskutujme s nimi, s respektem k tomu, že jejich komunikace a prožívání světa se liší od toho, co jsme zažili jako děti my. Nemusíme se vším souhlasit, ale snažme se pochopit, v jakém světě se pohybují! Zároveň se snažme dávat jim podněty k tomu prožívat jejich život jinde a jinak, nejlépe IRL, tedy v reálném světě.

Jak jsou na tom české školy? Jsou připravené děti učit bezpečnému pohybu v digitálním prostoru? Co podle vás chybí ve výuce mediální a informační gramotnosti?

Některé ano, je jich kvalifikovaným odhadem 20 %. Zbytek ne. Je to na samostatný rozhovor vysvětlit, proč to tak je a proč nemá smysl spoléhat na nějaký pokrok ve smysluplném časovém horizontu. Rád ho poskytnu, včetně návodu pro vzdělávací systém, jak problém asymetrie a nedostatečné adaptace řešit. Zdarma a bez ohledu na to, že MŠMT ovládá triumvirát Agrofert, strana průjmové diety a motorky. 

Upozorňujete, že Česko stále nepřijalo zákon o digitální ekonomice. Jaké konkrétní důsledky to má?

Nejvíce v nedostatečných pravomocích naší národní autority, tedy Českého telekomunikačního úřadu a v tom, že Česko nemůže na národní úrovni řešit všechny excesy, kterých se provozovatelé platforem dopouští. DSA nakonec projde, ale je otázka, jakým způsobem se bude snažit současná vláda, kterou reprezentují i takové kremelské služky, jako je poslankyně Sedláčková, právní implementaci do českého řádu vykostit. Soudružka je zpravodajkou zákona. Držme si pěsti.