Nvidia spolu s desítkami technologických firem založila Open Secure AI Alliance. Nová iniciativa chce vyvíjet a sdílet otevřené nástroje, které pomohou lépe zabezpečit umělou inteligenci, software i autonomní agenty.
Mezi zakládající členy patří Microsoft, Adobe, Cisco, CrowdStrike, Dell Technologies, Hugging Face, IBM, Palantir, Salesforce, SAP nebo SpaceXAI. Aliance spojuje firmy z oblasti cloudu, kyberbezpečnosti, podnikového softwaru i výzkumu umělé inteligence.
Vznik skupiny urychlil bezpečnostní incident ve společnosti Hugging Face. Podle zveřejněných informací se při obraně proti útoku ukázalo, že některé uzavřené modely nedokázaly rozlišit mezi útočníkem a obráncem. Firma proto sáhla po otevřeném modelu GLM 5.2, který provozovala na vlastní infrastruktuře.
Hugging Face pomocí tohoto modelu analyzoval více než 17 tisíc kroků útočníka a pomohl útok zastavit. Nvidia tvrdí, že incident ukázal praktickou výhodu systémů, které mohou firmy samy kontrolovat, upravovat a provozovat bez závislosti na jednom poskytovateli.
Aliance chce vytvářet nástroje pro odhalování a oznamování zranitelností, bezpečné programování i kontrolu AI agentů. Nvidia do projektu přispěje otevřenými modely, jejich váhami, daty a výzkumem systémů, které řídí chování agentů.
AI security advances when the industry builds in the open, together.
— NVIDIA (@nvidia) July 27, 2026
We're introducing the Open Secure AI Alliance with industry leaders to develop new techniques and tools to safeguard software and agents.
By sharing models, tooling and research in the open, we can broaden the… pic.twitter.com/gfhKfrgcbl
Součástí iniciativy je také projekt NVIDIA Labs Object Oriented Agent. Ten má usnadnit testování, sledování, audit a řízení činnosti AI agentů. Další členové přidávají nástroje pro ověřování identity, bezpečné ukládání modelů, podepisování softwarových oprav nebo vyhledávání zneužitelných chyb.
Debata o otevřených modelech sílí také ve Washingtonu. Američtí politici zvažují kroky proti čínským vývojářům, kteří čelí obviněním, že získávají znalosti z amerických systémů pomocí takzvané destilace. Omezení by mohla zasáhnout například nákup přístupu přes API nebo provoz čínských modelů v amerických cloudech.
Nvidia a další firmy však varují před příliš širokými zákazy. Podle nich by plošné omezení otevřených modelů oslabilo obranu, omezilo konkurenci a soustředilo moc do rukou několika provozovatelů uzavřených systémů.
Open Secure AI Alliance proto prosazuje kombinaci otevřených a uzavřených modelů. Jejím cílem je dát firmám i státům možnost zvolit si nástroj podle konkrétní situace a zároveň zachovat kontrolu nad citlivými daty, infrastrukturou a bezpečnostními postupy.
