Sociální síť X vypíná část funkcí AI nástroje Grok, který lidé zneužívali k vytváření sexualizovaných obrázků skutečných osob. Zásah přichází po vlně kritiky, vyšetřování regulátora Ofcom a tlaku britské vlády.
Sociální síť X oznámila, že uživatelům v některých zemích zablokuje možnost vytvářet přes Grok obrázky reálných lidí v bikinách, spodním prádle a podobném oblečení. Firma mluví o takzvaném geoblokování, tedy omezení podle místních zákonů. V Británii chce změnu provést v návaznosti na chystané úpravy legislativy, které mají kriminalizovat tvorbu takových materiálů.
Celá kauza se rozjela po týdnech veřejného pobouření. Grok se podle kritiků stal nástrojem pro digitální „svlékání“ žen i dětí bez jejich souhlasu. Na X se měly v posledních týdnech objevit tisíce takových AI obrázků. Do problému se promítá i fakt, že Grok vyvíjí firma xAI, kterou vlastní Elon Musk, stejně jako samotnou platformu X.
X to stop Grok AI from undressing images of real people after backlash https://t.co/G6tJeKftYb
— BBC News (World) (@BBCWorld) January 15, 2026
Ofcom vyšetřuje a vláda přitvrzuje
Britský regulátor Ofcom v pondělí zahájil formální vyšetřování poté, co se objevily zprávy o šíření nelegálních sexuálních deepfake materiálů a obsahu spojeného se zneužíváním dětí. Ofcom označil informace za „hluboce znepokojivé“ a chce zjistit, co přesně se stalo a jaká opatření X přijala. Regulátor zároveň uvedl, že i když X oznámila nové kroky, vyšetřování pokračuje.
Premiér Keir Starmer označil předchozí přístup X, kdy podobné funkce zůstaly dostupné alespoň pro platící uživatele, za „hrozný“. V parlamentu mluvil i o situaci jako o „odporné“ a „ostudné“. Ministryně Liz Kendall dodala, že ponechání funkcí pro předplatitele působilo jako další urážka obětí a faktické zpeněžování trestné činnosti.
Musk popírá problém, tlak roste i v USA
Elon Musk krátce před oznámením změn napsal, že si není vědom žádných případů, kdy by Grok generoval nahé snímky nezletilých. Doslova uvedl: „Nejsem si vědom žádných nahých nezletilých obrázků vytvořených nástrojem Grok. Doslova nula.“ Zároveň tvrdí, že Grok reaguje jen na požadavky uživatelů a musí dodržovat zákony jednotlivých zemí.
X zároveň uvedla, že má nulovou toleranci k dětskému sexuálnímu zneužívání, nevyžádané nahotě a nechtěnému sexuálnímu obsahu. Firma tvrdí, že odstraňuje problematický obsah a účty, které porušují pravidla, a v nutných případech věc hlásí policii.
Tlak na Muskův ekosystém ale sílí i mimo Británii. V USA se do tématu vložili tři demokraté v Senátu, kteří vyzvali Apple a Google, aby Grok stáhli z obchodů s aplikacemi. Podobné výzvy přicházejí i od ženských organizací a watchdog skupin. Některé země už rozjely vlastní kroky, včetně zákazů nebo právních řízení.
X už dříve omezila možnost veřejně generovat nebo upravovat obrázky pro neplatící uživatele. Kritici ale tvrdí, že to problém neřeší, protože pokročilejší funkce zůstaly dostupné jinde. Nové omezení má ukázat, že platforma bere situaci vážně, zároveň ale zůstává otázka, jak přesně bude blokace fungovat v praxi.
