Donald Trump FOTO: Bílý dům / se souhlasem
FOTO: Bílý dům / se souhlasem
Bílý dům pod vedením Donalda Trumpa chystá zásadní obrat ve svém přístupu k technologiím. Podle informací z blízkosti americké administrativy by mohl prezident podepsat přelomový exekutivní příkaz, který zavádí přísný dohled nad vývojem nejmodernějších modelů umělé inteligence (AI). Stát chce mít možnost nahlédnout „pod pokličku“ digitálních mozků dřív, než budou vypuštěny do světa.
Dlouhou dobu zastávala Trumpova administrativa k regulaci AI spíše zdrženlivý postoj a sázela na volný trh. Situace se však dramaticky změnila poté, co společnost Anthropic představila svůj model Mythos, který podle odborníků dokáže vyhledávat a zneužívat kybernetické slabiny bezprecedentní rychlostí. Obavy z „katastrofálních škod“ a supervýkonných kyberútoků donutily Washington jednat.
AI karanténa?
Jádrem nového nařízení má být dobrovolná dohoda mezi vládou a technologickými giganty, jako jsou OpenAI či Anthropic. Firmy by měly své nejpokročilejší modely, označované jako „frontier models“, sdílet s federálními úřady k prověření ještě před jejich veřejným vydáním.
Hlavním bodem sporů je zatím čas. Zatímco aktuální návrh počítá s tím, že by stát mohl model testovat až 90 dní, technologické firmy lobbují za mnohem kratší lhůtu, ideálně kolem 14 dnů. Administrativa se snaží najít balanc mezi národní bezpečností a zachováním tempa inovací, ve kterém USA soupeří se zbytkem světa.
Do hry vstupuje NSA i ministerstvo financí
Opatření nemá být jen formální. Na prověřování se má podílet široká koalice agentur, včetně ministerstva financí, Národního institutu standardů a technologií (NIST) a obávané NSA (Národní bezpečnostní agentury). Právě NSA by měla mít v konzultaci s dalšími úřady konečné slovo v tom, co bude považováno za „kriticky pokročilý model“ podléhající dohledu.
Pentagon dostane podle návrhu nůž na krk – na zabezpečení svých klíčových telekomunikačních a informačních systémů před hrozbami plynoucími z AI má mít pouhých 30 dní. Souběžně s tím má pod taktovkou ministerstva financí vzniknout takzvaný „clearinghouse“.
Půjde o dobrovolné partnerství mezi výrobci umělé inteligence a provozovateli kritické infrastruktury, jako jsou komunitní banky, venkovské nemocnice či poskytovatelé energií, jehož cílem je společně vyhledávat a v reálném čase opravovat bezpečnostní trhliny v dosud nevydaných modelech. Aby však státní aparát s technologickými giganty vůbec udržel krok, počítá exekutivní příkaz i s masivním náborem talentů do vládního programu U.S. Tech Force.
Tento sbor elitních inženýrů má za úkol nejen modernizovat často zastaralé vládní systémy, ale také zajistit, aby federální úřady disponovaly dostatečnou expertízou pro prověřování těch nejvýkonnějších algoritmů dříve, než se stanou hrozbou.
Strach z Mythosu
Právě model Mythos od společnosti Anthropic, který je momentálně přístupný jen úzkému okruhu prověřených partnerů, posloužil jako varovný signál. Schopnost umělé inteligence generovat sofistikované útoky na kritickou infrastrukturu, jako jsou nemocnice, banky či rozvodné sítě, se stala pro Bílý dům prioritou číslo jedna.
Ačkoliv je spolupráce zatím plánována jako dobrovolná, očekává se, že největší hráči na trhu se jí podřídí, aby předešli tvrdším zákonným regulacím v budoucnu. Donald Trump se tak paradoxně stává tím, kdo začíná stavět mantinely technologii, která byla donedávna považována za neregulovatelný „divoký západ“.
