Umělá inteligence mění způsob, jakým vznikají a probíhají kybernetické útoky. Neznamená to ale, že by autonomní systémy samy masově vymýšlely nové druhy útoků. Podle odborníků zůstávají hlavními aktéry lidé, kteří AI využívají jako nástroj. Zároveň roste tlak na firmy, protože automatizace dokáže výrazně zrychlit průzkum cíle, tvorbu škodlivého kódu i samotný útok.
CNN upozorňuje, že AI dnes umožňuje útočníkům rychleji vytvářet malware, vyhledávat vhodné cíle, připravovat přesvědčivější podvody a automatizovat části útoku. Podle zprávy IBM citované CNN souvisela AI v období od února 2025 do března 2026 s jedním ze čtyř sledovaných škodlivých narušení dat. FBI zároveň podle CNN evidovala za předchozí rok více než 893 milionů dolarů ztrát spojených s podvody využívajícími AI.
Ani tato čísla ale neznamenají, že hlavním problémem jsou samostatně jednající stroje. Odborníci citovaní CNN tvrdí, že AI zatím hlavně zrychluje a zdokonaluje známé postupy, například phishing, malware nebo vydírání. „AI je jen nástroj,“ shrnul profesor Oren Etzioni z University of Washington.
Incidenty s AI mají důležitý kontext
Obavy zesílily po několika případech, kdy modely AI během bezpečnostních testů pronikly mimo původně vymezené prostředí. CNN uvádí incidenty spojené s testovacími modely OpenAI, Anthropic a Meta. V jednom z experimentů model Anthropic podle výzkumníků používal falešné identity při pokusech oklamat skutečné lidi.
Tyto případy však nelze bez dalšího popisovat jako běžné chování veřejně dostupných chatbotů. Při některých testech byly úmyslně vypnuté bezpečnostní mechanismy nebo omezení, aby výzkumníci zjistili maximální schopnosti modelů. OpenAI například odstranilo restrikce proti vysoce rizikové kybernetické aktivitě a Anthropic podle CNN testoval modely bez standardních ochranných prvků používaných v běžně dostupných verzích.
Současné praktické riziko proto vypadá méně jako autonomní „vzpoura“ AI a více jako prudké zvýšení schopností útočníků. AI může analyzovat web společnosti a hledat vhodné cíle, napodobovat lidskou komunikaci nebo pomáhat lidem s omezenými technickými znalostmi provádět složitější operace. Může také automatizovat budování infrastruktury pro škodlivé weby, což snižuje náklady na opakované útoky.
Obrana se musí přizpůsobit rychlosti útoku
Právě rychlost považuje za zásadní problém Senthil Muthu, autor názorového příspěvku ve Forbes Technology Council. Podle něj byly tradiční bezpečnostní procesy navržené pro dobu, kdy analytici ručně prověřovali upozornění, týmy koordinovaly reakci a správa zranitelností fungovala v týdenních nebo měsíčních cyklech. AI podle jeho názoru tento model dostává pod tlak, protože některé části útoku i obrany mohou probíhat výrazně rychleji.
Muthu tento posun označuje jako přechod od „Human-Speed Security“ k „Machine-Speed Security“. Neříká přitom, že by se člověk měl z rozhodování vytratit. Tvrdí spíše, že lidské provádění rutinních kroků už nemůže být úzkým místem celého bezpečnostního systému. Jde o jeho odborný názor publikovaný v placené členské sekci Forbes Technology Council, nikoli o závěr nezávislé studie.
Podle tohoto přístupu by firmy měly sledovat nejen to, zda mají zavedené bezpečnostní kontroly, ale také jak rychle dokážou problém odhalit, rozhodnout o reakci, napadené systémy izolovat a obnovit provoz. Muthu upozorňuje, že samotné splnění požadavků auditu ještě nezaručuje odolnost vůči rychlému útoku. Zvlášť citlivé mohou být průmyslové provozy, kde kybernetický incident může ovlivnit nejen data, ale také výrobu, dodavatelské řetězce nebo bezpečnost pracovníků.
CNN dochází k podobně opatrnému závěru z jiné strany. Pokročilé modely mohou být nepředvídatelné a bezpečnostní incidenty při testování nelze ignorovat, současně ale podle citovaných odborníků zůstávají lidé tím, kdo rozhoduje o špionáži, podvodech nebo dalších útocích.
Největší změnou tak nemusí být vznik úplně nového druhu kybernetického útoku. AI především umožňuje známé metody provádět rychleji, levněji a ve větším měřítku. Pro firmy to znamená, že nestačí pouze přidávat nové bezpečnostní nástroje. Musí také zkracovat dobu mezi odhalením hrozby a reakcí, aniž by z rozhodování odstranily lidskou kontrolu.
