Pirátský poslanec Evropského parlamentu Marcel Kolaja FOTO: Evropská unie / se souhlasem
FOTO: Evropská unie / se souhlasem
Europoslanci ve středu odsouhlasili Akt o umělé inteligenci, který stanovuje pravidla pro její využívání, určuje výjimky pro výzkum a je založen zejména na principu omezení systémů, které představují rizika pro bezpečnost. Právě respekt využívání umělé inteligence k základním právům občanů je prioritou europoslance Marcela Kolaji, který návrh podpořil. Europoslanci z ODS hlasovali naopak proti. Na rozdíl od levicové koalice v Evropském parlamentu se totiž na umělou inteligenci nedívají a priori jako na hrozbu, vysvětlila europoslankyně Veronika Vrecionová.
Europoslanci z frakce Zelených a Evropské lidové strany Akt o umělé inteligenci podpořili. Dlouhodobě se tomuto tématu věnuje europoslanec Marcel Kolaja (Piráti), jehož hlavní prioritou je respekt využívání umělé inteligence k základním právům občanů. „Mezi základní práva patří i právo na soukromí. To programy umělé inteligence, které dokážou například rozpoznávat obličeje na veřejnosti a přiřazovat je ke konkrétním osobám, mohou narušovat,“ okomentoval pro deník FORUM 24 europoslanec.
Regulace umělé inteligence vychází zejména z míry rizika, které by AI mohla představovat. Akt tedy systémy umělé inteligence s nepřijatelnou úrovní rizika pro bezpečnost osob zakazuje. Jde o takové systémy, „které mohou představovat jasnou hrozbu pro bezpečnost, živobytí nebo základní lidská práva, tedy například o systémy sociálního skóre, jako známe z Číny, již zmíněné programy na identifikaci lidí podle obličejů na veřejnosti a podobně,“ vysvětlil Kolaja. Regulace tedy omezí prediktivní policejní systémy, systémy rozpoznávání emocí v oblasti práva, ochrany hranic, na pracovišti nebo ve školách. Zároveň se dotkne nástrojů, které na sociálních sítích a na záznamech z veřejných kamer sbírají biometrická data pro vytváření databází pro zmíněné rozpoznávání obličejů.
„Pokud jde přímo o biometrické kamery, rozhodně nesouhlasím s tím, aby měly vlády možnost špehovat své občany. Podívejme se do Číny nebo Ruska, tamní režimy programy zneužívají ke sledování politických oponentů, aktivistů nebo novinářů,“ řekl Kolaja a vysvětlil, že na základě schválených pravidel budou smět členské země Evropské unie nástroj využívat jen zpětně a po schválení soudem, což považuje za dobrý kompromis, kterého dosáhli ve vyjednávání v Evropském parlamentu. Zdůraznil, že je potřeba zabránit zneužití například k politickým cílům. „Když se podíváme například do Polska, kde tamní vláda neměla problém nelegálně pořídit za peníze daňových poplatníků spyware Pegasus, který byl pak zneužit ke šmírování opozice, novinářů a státních zástupců, děsím se, co by taková vláda dělala s technologií rozpoznávání obličejů na veřejnosti,“ podotkl.
Zakázány budou i systémy, které třídí lidi na základě pohlaví, rasy, etnického původu, náboženství nebo politické orientace. Kolaja vysvětlil, že je potřeba umělou inteligenci regulovat, aby se předešlo diskriminaci. Systémy AI se totiž učí na datových sadách, podle kterých pak hodnotí jednotlivé situace. To podle něj může v praxi vést třeba k tomu, že systém vyhodnotí ženskou kandidátku na manažerskou pracovní pozici jako méně vhodnou než stejně dobrého mužského kandidáta jen proto, že v datové sadě bylo více úspěšných manažerů než manažerek. A to je jen jeden z mnoha příkladů, podobně tomu může být i u diskriminace podle barvy pleti, místa bydliště a podobně.
Taková diskriminace se může projevit například při výběru uchazečů do nové práce. Kolaja řekl, že některé soukromé firmy se již o využití umělé inteligence při náboru pokoušely a právě na tento problém narazily. „Proto od toho zase upustily. Je i v zájmu firem, aby v rámci výběrových řízení nepřicházely o schopné kandidáty kvůli předsudkům systému. Je to proto jen další z důvodů, proč potřebujeme dobře nastavená pravidla pro umělou inteligenci,“ zdůraznil Kolaja.
Akt o umělé inteligenci podle něj naopak přinese firmám jistotu jasných pravidel pro její využívání. „Akt o umělé inteligenci sjednotí pravidla a firmy budou vědět, na čem jsou. Když budou mít jasná pravidla, nemusí se obávat nečekaných změn v regulacích ze stran jednotlivých členských zemí,“ dodal s tím, že hovořil například se zástupci Scio.cz, kteří sami umělou inteligenci, takzvaný e-proctoring, využívají a právě legislativní nejistota pro ně byla problém.
Běžného uživatele evropská pravidla prakticky neovlivní. „Akt o umělé inteligenci stanovuje pravidla pro provozovatele systémů, jako je povinnost registrovat do databáze, ve které mimo jiné uvedou, odkud čerpají data, ze kterých se program učí,“ uvedl Kolaja s tím, že, jako prakticky u každé legislativy, poskytovatelé systémů se novým pravidlům přizpůsobí. Pravidla podle něj pravděpodobně také nastaví standard pro zbytek světa podobně, jako tomu bylo v případě GDPR. „Již nyní slyšíme ze strany třetích zemí, že zvažují podobná pravidla. Takže Evropa rozhodně není výjimkou, je ovšem první,“ zdůraznil.
Dnes je mnohdy takřka nemožné některé společnosti kontaktovat. Akt o umělé inteligenci tedy požaduje registraci do databáze, ve které bude mimo jiné uveden kontakt na provozovatele. Ten musí mít sídlo či pobočku na území Evropské unie. Každý jej tak bude moct kontaktovat s případnými problémy.
Návrh obsahuje výjimku pro svobodný a Open Source software. „Díky ní nebudou pravidla brzdit vývoj projektů Open Source,“ uvedl europoslanec, podle kterého je ovšem velkou brzdou pro práci dobrovolníků, kteří na svobodném a otevřeném softwaru ve svém volném čase pracují, že se tato výjimka nevztahuje i na takzvané generativní neboli foundation model systémy.
ODS v umělé inteligenci nevidí a priori hrozbu
Čeští konzervativní europoslanci z ECR Akt nepodpořili. „Na rozdíl od levicové koalice v Evropském parlamentu se nedíváme na umělou inteligenci a priori negativně jako na hrozbu, kterou je potřeba razantně omezit a svázat regulací. Snažíme se v ní vidět především velký potenciál pro naše firmy, občany a veřejnou správu,“ vysvětlila pro deník FORUM 24 Veronika Vrecionová (ODS), která nově stojí ve vedení europoslaneckého klubu ODS, což převzala po Janu Zahradilovi (ODS).
Spojené státy americké mají v této oblasti před Evropskou unii velký technologický náskok, a pokud to s regulací přeženeme, bude se podle europoslankyně dále zvyšovat. „Nemusíme mít dostupné nejlepší technologie a ztratíme i šanci je vyvinout a uspět globálně, šikovní experti, firmy a startupy raději půjdou za oceán,“ uvedla.
Podle Vrecionové bychom se také neměli vzdávat, samozřejmě při dodržení veškerých demokratických právních záruk, širšího využití technologií založených na umělé inteligenci v oblasti vnitřní bezpečnosti. „I v tomto smyslu je rozumnější přístup členských států, dojednaný za českého předsednictví v Radě EU,“ dodala.
