Make-up jako nástroj boje s totalitní umělou inteligencí

Facebook/Ekaterina Nenasheva

Aktivisté v Moskvě vyzývají lidi, aby chránili své soukromí tím, že si pomalují tváře různými odvážnými vzory. To by mělo zmást technologii rozpoznávání obličejů, ve které našla zalíbení ruská policie.

V Moskvě se rozsáhlá monitorovací síť rozšiřuje od roku 2017. Zatímco policisté tvrdí, že jim tato technologie pomáhá chytat hledané zločince, kritici s tím nesouhlasí. Otázku vzbuzuje, k čemu budou data skutečně použita (záleží na tom, koho si úřady definují jako „zločince“ a navíc tu náhle bude k dispozici mnoho osobních údajů, které by se mohly hodit jako „zboží“ k prodeji dalším subjektům).

Na sociální síti Telegram vznikla kampaň nazvaná „Sleduj“ (Follow), která doporučuje, aby si lidé pomalovali tváře jasnými a asymetrickými vzory a výraznými černými znaky, čímž rozpoznávání obličeje zmatou. Kampaň Sleduj říká, že primárním cílem je působit jako viditelný symbol nespokojenosti se zavedeným městským systémem rozpoznávání obličejů, který postrádá transparentnost a byl zaveden bez účasti veřejnosti.

„Nechceme se dostat do čoček kamer CCTV bez našeho souhlasu.“ Nechceme, aby nové technologie vedly k úplné kontrole. … Abychom se na několik minut chránili před pozorováním a rozpoznáváním obličeje, používáme make-up jako symbol neposlušnosti,“ napsala na svou facebookovou stránku umělkyně a aktivistka Jekatěrina Nenaševa.

Bdělá moskevská policie už, jak ukazuje video z 9. února, stačila účastníky protestu v Moskvě zadržet.

Není to poprvé, kdy se občané zapojili do podobné aktivity. Už v roce 2017 navrhl zaměstnanec ruské společnosti Yandex, která provozuje vyhledávací portál téhož jména, model make-upu, který blokoval algoritmy rozpoznávání obličeje. Projekt nakonec ukončil z obavy, že by jeho návrhy mohl někdo využít k páchání trestných činů. O rok později jedna novinářka používala takovou masku celý týden.

Moskva má jednu z největších světových kamerových sítí, využívá více než 170 tisíc kamer po celém městě. Od září bude technologie rozpoznávání obličeje zavedena v moskevském metru.

Řeší se to všude ve světě

Problémem lidského soukromí a možnosti zneužití technologií se zabývají různé země. Někde o tom lze svobodně diskutovat, někde ne. Minulý rok otázku řešil americký Kongres.

Problémem výhod a rizik nasazení této technologie policií se v této souvislosti zabýval na stránkách Nationalinterest.org Amitai Etzioni, profesor mezinárodního práva na The George Washington University a bývalý poradce Bílého domu v době úřadování prezidenta Jamese Cartera. (Psali jsme ZDE.) Podle něj existují dobré důvody, aby Kongres rozeznávání obličejů nezakázal, ale spíše zajistil, aby se využívalo správně. Technologie by mohla pomoci v boji se zločinem, kde zatím skóre není moc dobré.

Míra nevyřešených trestných činů je ve Spojených státech velmi vysoká: podle údajů FBI bylo v roce 2017 vyřešeno pouze 45,6 procenta násilných trestných činů a 17,6 procenta dalších trestných činů. Vzhledem k vysoké míře nevyřešených zločinů, hrozbě terorismu a vlně obchodování s lidmi a s ohledem na to, že rozeznávání využívá informace dobrovolně sdílené veřejností, není tu podle autora důvod k zákazu. Navíc tato metoda je mnohem méně invazivní, než jsou testy DNA nebo dokonce běžný screening prováděný na letištích. Podle Etzioniho by bylo dobré se této technologie nezříkat, protože k tomu nejsou důvody.

Čína, kde nějaká demokratická diskuze nehrozí, podle některých odhadů využívá už 200 milionů bezpečnostních kamer s touto technologií, rozesetých po celé zemi. (Psali jsme ZDE.) Další stovky milionů pak mají přibýt v příštích letech. Čínský systém je považován za vysoce efektivní. V roce 2018 se policii například podařilo zadržet hledaného muže, jehož kamery identifikovaly mezi 60 tisíci návštěvníky koncertu místního populárního zpěváka.

Kritici čínského systému hovoří o nebezpečí „digitálního autoritářství“. Jako příklad uvádějí dohled nad muslimskými Ujgury v provincii Sin-ťiang na západě Číny. Úřady si tam kamerovou technologií udržují přehled o každodenní aktivitě jednotlivých občanů a mohou tak pozorovat veškeré jednání, které považují za podezřelé. Čínská firma Huawei svůj monitorovací systém včetně rozeznávání obličejů nabízí v zahraničí v rámci balíčku nazvaném Safe City (bezpečné město). Podle deníku Financial Times tuto technologii koupilo už přes 200 měst po celém světě, většinou v Asii a v Africe. Společnost se však například v Ugandě musela bránit obvinění, že pomáhá místní politické reprezentaci špehovat názorové oponenty.

(Zdroj themoscowtimes.com.)

Líbí se vám tento článek? Prosíme, podpořte nezávislou žurnalistiku

Smyslem Svobodného fóra a deníku FORUM 24 je přispívat ke kontrole politické i ekonomické moci a bránit svobodné prostředí v České republice.

Abychom pro Vás mohli nadále pracovat, potřebujeme nutně Vaši pomoc. Jsme vděčni za každý, i malý finanční příspěvek. Váš finanční dar můžete zaslat na tento sbírkový účet: 4095439339/0800

Prosíme, informujte nás o Vašich finančních darech na mailu [email protected]

Revue Forum Banner