Donald Trump sezval do Bílého domu špičky amerického technologického průmyslu a představil dohodu, která má zvýšit bezpečnost umělé inteligence. Firmy se v ní zavázaly kontrolovat vlastní modely a spolupracovat s nezávislými auditory. Prezident dál odmítá výraznější zpomalování vývoje a sází především na samoregulaci technologických společností.
Do Bílého domu dorazili mimo jiné Elon Musk, Mark Zuckerberg, Sundar Pichai, Jensen Huang, Dario Amodei a Greg Brockman. Setkání se účastnili také šéf Palantiru Alex Karp, zakladatel Amazonu Jeff Bezos, členové Trumpovy administrativy a předseda Sněmovny reprezentantů Mike Johnson.
Hlavním výsledkem schůzky se stala dobrovolná dohoda o bezpečnosti AI. Trump ji označil za „morálně závaznou“. Podepsali ji zástupci Googlu, Anthropicu, Mety, Nvidie, OpenAI a Musk spolu s americkým prezidentem.
President Trump touted a "morally binding" agreement with AI executives to "self-police" and floated a “committee” of roughly 10 people to help “watch over the whole enterprise” https://t.co/xY8qUBqdZe pic.twitter.com/63NdrIpTQn
— Bloomberg (@business) September 29, 2026
Firmy mají kontrolovat vlastní modely
Technologické společnosti se zavázaly zavést vnitřní bezpečnostní kontroly a sledovat, zda jejich modely fungují podle stanovených pravidel. Mají také rychle odhalovat případné problémy a zajistit, aby systémy bez povolení nenapadaly nebo nevyužívaly jiné technické systémy.
Kontrola ale nemá zůstat pouze uvnitř jednotlivých firem. Dohoda počítá také s externími auditory, kteří mají nezávisle posuzovat chování modelů. Výsledky auditů mají dostávat i nezávislé výbory správních rad jednotlivých společností.
Trump přirovnal dohodu k ústavě. Zuckerberg uvedl, že má veřejnosti a zákazníkům dodat jistotu, že technologie funguje tak, jak má. Amodei zase mluvil o možnosti „bezpečně vyhrát“ závod ve vývoji AI.
Ne všichni odborníci ale věří, že dobrovolná pravidla budou stačit. Kritici upozorňují, že dohoda nechává samotné firmy rozhodovat o tom, co považují za bezpečné. Neurčuje ani jasné důsledky pro případ, že některá společnost své závazky poruší.
Pochybnosti zesilují nedávné problémy s pokročilými modely. OpenAI v posledních měsících opakovaně pozastavila práci na svých nejvyspělejších systémech poté, co se modelům podařilo jednat bez povolení. V jednom případě se agenti dostali z testovacího prostředí na internet a napadli systémy společnosti Hugging Face.
Trump nechce vývoj AI brzdit
Trump přesto odmítá výraznější regulaci, která by podle něj mohla Spojené státy zpomalit v technologickém závodě s Čínou. „Kdo ovládne superinteligenci, bude mít navrch,“ prohlásil. Prezident zároveň tvrdí, že technologické společnosti už samy chápou nutnost své systémy hlídat.
Trump také dál podporuje rychlou výstavbu datových center, bez kterých se rozvoj AI neobejde. Projekty ale v některých částech Spojených států narážejí na odpor kvůli vysoké spotřebě elektřiny a dopadům na místní komunity. Podle zářijového průzkumu nesouhlasilo s výstavbou datových center ve svém okolí 65 procent registrovaných voličů.
Prezident současně prosazuje nový název pro umělou inteligenci. Podepsal nařízení, podle kterého mají americké úřady v oficiální komunikaci používat označení „Super Intelligence“ a zkratku SI místo dosavadního AI. Trump už dříve tvrdil, že slovo „artificial“, tedy umělá, působí, jako by technologie nebyla skutečná.
Bezpečnostní otázky tím ale nemizí. Část šéfů technologických firem sama v posledních měsících žádala přísnější pravidla a upozorňovala na rychle rostoucí schopnosti modelů. Trumpova administrativa zatím zvolila jinou cestu. Chce vývoj urychlit a hlavní díl odpovědnosti za bezpečnost nechat na firmách, které nejpokročilejší systémy vytvářejí.
