S rychlým rozvojem umělé inteligence se především na sociálních sítích začaly šířit takzvané deepfakes, tedy zdánlivě reálné, umělou inteligencí vytvořené obrazy, zvuky nebo videa, které se nezakládají na pravdě. V některých případech lze tuto technologii snadno rozeznat, v některých už je ale tak pokročilá, že to nedokáže ani odborník.

Podle nedávného průzkumu CEDMO Trends většina lidí neví, co je to deepfake. U otázky zjišťující znalost deepfaků zvolilo jednu správnou odpověď ze čtyř nabízených pouze 41 procent respondentů, uvedli autoři průzkumu v tiskové zprávě. Více než polovina jich uvedla, že neví, a zbývající desetina označila špatnou odpověď. Současně 35 procent lidí uvedlo, že se s deepfake obsahem v posledních měsících setkala.

Terčem se může stát kdokoliv, vyrobit falešné video nebo obrázek totiž dokáže s pomocí programu nebo aplikace každý. Na které deepfaky mohli lidé v poslední době na sociálních sítích narazit?

Babišova omluva

Expremiér Andrej Babiš (ANO) nedávno v e-mailu požadoval od svých spolupracovníků citlivé informace na ministra zahraničí Jana Lipavského (Piráti). „Udělejte mi teze, podklady na tohoto zm*da. Napište mi příběh Izrael, jak se vykašlal na naše lidi, jak byl v Doha, jezdí všude, dělá kampaň, korespondenční volba,“ rozkázal. Mailové vlákno obsahuje životopis, odkazy na mediální články či zmínky o Lipavského dceři a údajné manželce. „Má děti? Jazyky?“ dotazoval se například Babiš. E-mail ale zaslal na špatnou adresu, a tak se dostal na veřejnost. Na sociálních sítích velmi krátce nato kolovala Babišova údajná omluva. Na první pohled mohla vypadat reálně, šlo ale o podvrh.

Finanční rady a investice

Šéf hnutí ANO často vystupuje i v dalších falešných videích, která jsou většinou zaměřena na lákání lidí k investici. Sám Babiš už dříve kvůli jednomu videu varoval, že jde o podvod. Tento týden se ale šířilo další, ve kterém údajně Babiš propagoval investiční projekt. „Spustil jsem vlastní investiční projekt pro vydělávání peněz. Byl vytvořen nejlepšími odborníky z Česka. Je důležité zmínit, že všichni investoři získají možnost vydělávat kolem 170 000 Kč,“ tvrdí falešný Babiš.

Podvodná videa o investicích jsou v poslední době velmi častá. Kromě těch s Babišem vznikla také s šéfem ČEZ Danielem Benešem nebo prezidentem Petrem Pavlem. „Já, Petr Pavel, oficiálně oznamuji spuštění nové platformy. Můžete vydělávat kdekoliv a kdykoliv, dokonce i v době spánku,“ znělo například v jednom z nich.

Dále čtěte

Většina lidí neví, co je deepfake, ukazuje průzkum. Nejvíc tápou starší ročníky

Téměř tři pětiny respondentů poslední vlny průzkumu CEDMO Trends nevěděly, co je to deepfake, tedy zdánlivě reálný, umělou…

Dezoláti v Karviné

V lednu se objevilo video, ve kterém má ministr vnitra Vít Rakušan (STAN) říkat, že „vydrbe s dezoláty“. Video se objevilo před jeho debatou s občany Karviné. „Právě odcházím ze sněmovny, abych vydrbal s dezolátama v Karviné. Přijďte se ptát, co vás zajímá, já vám odpovím na něco jiného a vaše komentáře pak zcenzuruju,“ zní z úst Rakušana na videu.

Šlo o deepfake, jak upozornil sám ministr ve videu na sociální síti. „Bylo by to legrační, kdyby problematika zneužívání AI nebyla ve skutečnosti tak nebezpečná,“ řekl.

Premiér Fiala vydělává na důchod

Deník FORUM 24 také nedávno upozornil na video, které falšuje výroky premiéra Petra Fialy (ODS). V tomto případě šlo jednoduše poznat, že jde o podvrh. Výpověď premiéra se zasekávala a hlas nebyl emočně modulován.

Obsah byl také zcela nevěrohodný. Fiala měl říkat, jak chce okrádat národ, aby si vydělal na důchod.  I tak ale video řada lidí v komentářích brala vážně.

Útok na Taylor Swiftovou

Jedním z nejrozšířenějších deepfaků v zahraničí v poslední době byly falešné pornografické snímky zpěvačky Taylor Swiftové. Šířily se především na sociální síti X, původně ale zřejmě pocházely z Telegramu. Jeden z nejvirálnějších příspěvků zobrazujících americkou zpěvačku měl více než 45 milionů zobrazení.

Na síti X se obsah s Taylor Swiftovou šířil takovou rychlostí, že jej moderátoři nestíhali mazat. Nakonec jim s tím pomohli fanoušci zpěvačky. Ti nahlašovali účty, které falešné snímky a videa zveřejňovaly. Platforma dokonce musela na nějakou dobu zablokovat vyhledávání jména Taylor Swiftová.