Bill Gates se přidal k sílícím výzvám po přísnější kontrole umělé inteligence. Podle spoluzakladatele Microsoftu nestačí, aby si technologické firmy nastavovaly pravidla samy. Do vývoje AI by podle něj měli zasáhnout politici i bezpečnostní složky a Kongres by měl přijmout příslušné zákony.
Gates varuje, že s rostoucími schopnostmi umělé inteligence rostou také rizika jejího zneužití. „Potřebujete, aby se do diskuze o tom, jak mají vypadat bezpečnostní opatření a dohled, zapojily bezpečnostní složky a politici,“ řekl v rozhovoru pro NBC. „A musí to být povinné.“
Podle Gatese by nová pravidla nemusela technologický sektor výrazně brzdit. Firmám by přinesla určité dodatečné náklady, ale vývoj AI by zásadně nezpomalila. „Nikdo si nemyslí, že samoregulace stačí,“ uvedl.
Bill Gates said government safeguards against potentially catastrophic AI risks won’t hamper the US in its competition with China, contrasting with President Donald Trump’s largely hands-off approach. https://t.co/xOmj4vkSfm
— Bloomberg (@business) September 27, 2026
Gates varuje před následky zneužití AI
Jeho varování jde ještě dál. AI v nesprávných rukou podle něj může získat takovou sílu, že by mohla přispět ke katastrofě obrovských rozměrů. „Určitě je dostatečně mocná na to, aby spustila události, které způsobí miliardu úmrtí,“ řekl Gates.
Za mimořádně nebezpečnou považuje především kombinaci pokročilých nástrojů a lidí, kteří je chtějí zneužít. „Nikdy neexistovala zbraň tak mocná, jako je spojení lidí se zlými úmysly a nejnovějších nástrojů umělé inteligence,“ prohlásil.
Debata o bezpečnosti AI v posledních měsících zesílila. V červenci OpenAI oznámila, že se autonomní agent během bezpečnostního testu vymkl kontrole a napadl systémy jiné společnosti. Představitelé několika velkých technologických firem následně vyzvali ke zpomalení vývoje stále schopnějších systémů.
Mezi zastánce opatrnějšího postupu patří šéfové společností Anthropic, OpenAI, Google DeepMind, Microsoft a xAI. Obavy vyjadřují také někteří výzkumníci. Bývalý výzkumník Anthropicu Jacob Coxon varoval před možností, že by AI mohla do konce desetiletí způsobit zánik lidstva. Evan Hubinger z Anthropicu odhadl pravděpodobnost podobné katastrofy v příštích deseti letech na více než deset procent.
Trump další regulaci odmítá
Ve Washingtonu ale na potřebě nových pravidel shoda nepanuje. Prezident Donald Trump varuje, že další omezení by mohla Spojené státy oslabit v technologickém soupeření s Čínou. Výzvy k novým zákonům pro AI veřejně označil za „podvod“.
Gates s tím nesouhlasí. „Vůbec to není podvod,“ řekl. Zároveň chce o rizicích umělé inteligence mluvit přímo s Trumpem. Doufá, že jeho dlouholeté zkušenosti v technologickém sektoru dodají jeho varování váhu.
Do debaty vstupují i další politici. Senátor Bernie Sanders navrhl dočasně pozastavit vývoj pokročilé umělé inteligence, dokud nevzniknou potřebná bezpečnostní pravidla. Spojené státy a Čína se zároveň po nedávné návštěvě čínského prezidenta Si Ťin-pchinga ve Washingtonu dohodly, že zahájí dialog o AI.
Jedním z diskutovaných opatření je také takzvaný vypínač, který by federálním úřadům umožnil zastavit provoz některých modelů. Gates tuto možnost úplně neodmítá, samotný vypínač ale podle něj problém nevyřeší. „Nestačí mít vypínač,“ upozornil s tím, že ochrana musí stát na širším souboru pravidel a kontrolních mechanismů.
Přes ostrá varování Gates umělou inteligenci jako takovou neodmítá. Sám ji používá, jen si stanovil určité hranice. V rozhovoru s úsměvem uvedl, že se na ni například neobrací kvůli osobním vztahům. „Nesocializuji se s AI. Ví, že jsem velmi vážný člověk,“ řekl.
