Anthropic zpřístupní svůj nový model Mythos Preview jen úzkému okruhu velkých technologických a bezpečnostních firem. Důvod je prostý. Model umí hledat slabiny v softwaru tak rychle a v takovém rozsahu, že by se po veřejném vypuštění mohl stát silnou zbraní pro hackery i špionážní služby.
Firma sází na omezené nasazení místo širokého spuštění. K modelu se dostanou vybrané společnosti, které ho mají využít výhradně pro obranu. Cílem je hledat chyby ve vlastním softwaru, testovat odolnost produktů a opravovat slabá místa dřív, než se k nim dostanou útočníci. Mezi zapojenými podniky jsou velká jména z technologií, financí i kyberbezpečnosti. Patří mezi ně Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, Nvidia, Palo Alto Networks i Linux Foundation.
Anthropic tím reaguje na stále hlasitější obavy, že umělá inteligence mění poměr sil mezi útokem a obranou. Pokud model zvládne samostatně vyhledávat slabiny, ověřovat je a rovnou připravovat funkční exploit, může být práce útočníků rychlejší, levnější a mnohem agresivnější než dosud. Právě proto firma nechce udělat z Mythosu běžně dostupný produkt. „Necítili jsme se dobře s tím, že bychom ho uvolnili obecně,“ zaznělo z Anthropicu. „K odpovídajícím pojistkám vede ještě dlouhá cesta.“
Model, který posouvá hranici
Mythos Preview má podle firmy schopnosti zkušeného bezpečnostního výzkumníka. Nejde jen o hledání chyb. Model dokáže navrhovat i způsob jejich zneužití. Anthropic tvrdí, že v posledních týdnech našel tisíce dříve neznámých zranitelností, a to tempem, které výrazně překonává lidské výzkumníky. V interních testech měl narazit na chyby v každém velkém operačním systému i ve významných webových prohlížečích. V 83,1 procenta případů pak na první pokus znovu vytvořil zranitelnost a připravil důkaz, že ji lze zneužít.
Silně znějí i konkrétní příklady. Model měl najít několik slabin v linuxovém jádru a samostatně je propojit tak, aby útočník získal plnou kontrolu nad strojem. V jiném testu objevil 27 let starou chybu v OpenBSD, která by umožnila na dálku shodit jakýkoli systém, který ji používá. To už není jen další chytrý nástroj pro vývojáře. To je technologie, která může zásadně změnit tempo celého kybernetického souboje.
Firma proto spouští iniciativu Project Glasswing. Do ní zatím vstoupilo jedenáct velkých organizací, které mají model využívat při obranné práci. Anthropic jim nabídne až 100 milionů dolarů v kreditech na používání a další peníze pošle i open source bezpečnostním projektům. Smysl je jasný. Posílit obranu dřív, než se podobně výkonné modely rozšíří i mimo kontrolované prostředí.
Čas na přípravu se krátí
Anthropic zároveň upozorňuje, že nejde o problém jediné firmy. Podobně silné modely podle ní mohou dorazit během šesti až osmnácti měsíců i od dalších hráčů. Právě proto začala o Mythosu mluvit nahlas. „Bezpečnostní odvětví musí pochopit, že tyto schopnosti mohou přijít velmi brzy,“ zaznělo od vedení projektu. Šéf firmy Dario Amodei k tomu dodal, že silnější modely přijdou od Anthropicu i od konkurence, a svět tak potřebuje plán, jak na ně reagovat.
Firma už kvůli tomu informovala část americké vlády a nabízí podporu při testování i vyhodnocování rizik. Současně zdůrazňuje, že veřejné nasazení nepřijde dřív, než budou hotové ochranné mechanismy. Směr je ale zřejmý už teď. Umělá inteligence se rychle mění v nástroj, který může jedním tahem pomoci obráncům i útočníkům. Kdo bude připravený lépe, získá náskok. A právě o ten se teď v kyberbezpečnosti hraje.
