Žaloba proti společnosti xAI kvůli chatbotu Grok se rozšířila o čtvrtou žalobkyni. Žena z amerického Wyomingu se v červenci připojila k federálnímu sporu, v němž tvrdí, že její nevlastní otec pomocí Groku vytvořil přes 7000 falešných sexuálně explicitních obrázků její dětské podoby a sdílel je na internetu. Mezi podklady měla být i běžná fotografie pořízená v době, kdy jí bylo přibližně 11 let. Případ projednává federální soud v severní Kalifornii a žalobkyně po xAI požadují odškodnění i rozšíření řízení na další dotčené osoby.
- Žena vystupující v žalobě jako Jane Doe 4 se připojila ke třem dívkám z Tennessee.
- Její nevlastní otec měl pomocí Groku vytvořit více než 7000 explicitních obrázků její dětské podoby.
- Žaloba viní xAI z vytváření, držení a šíření materiálů zobrazujících sexuální zneužívání dětí.
- Postupem Groku se zabývají také americké a evropské úřady.
Spor ukazuje, že jediná dětská fotografie může být prostřednictvím generativní umělé inteligence využita k rychlé výrobě tisíců odlišných explicitních obrázků.
Policie zasáhla dříve, než žena zjistila rozsah zneužití
Žalobkyně podle svého vyjádření o snímcích dlouho nevěděla. Případ odhalila při návštěvě rodičů během rodinné oslavy, kdy v domě našla policisty prohledávající elektronická zařízení jejího nevlastního otce. Vyšetřovatelé prověřovali podezření na přítomnost materiálů zachycujících sexuální zneužívání dětí.
Od technika, který hledal pevný disk s rodinnými fotografiemi, se následně dozvěděla, že vyšetřování souvisí s umělou inteligencí. Dva dny po policejní razii byl její nevlastní otec nalezen mrtvý v autě. Podle ženy spáchal sebevraždu.
Žalobkyně chtějí otevřít spor dalším dotčeným
Původní žalobu podaly v březnu tři dívky z Tennessee, z nichž dvě jsou stále nezletilé. Také ony tvrdí, že někdo jejich fotografie prostřednictvím Groku přeměnil na sexualizované verze. Nově připojená žena je v soudních dokumentech označena jako Jane Doe 4.
Žalobkyně usilují o to, aby soud přiznal případu status hromadné žaloby, která by mohla zahrnout další lidi, jejichž dětské fotografie byly obdobně zneužity. Návrh uvádí, že by mohlo jít nejméně o tisíce nezletilých. V americkém právním systému však samotný požadavek ještě neznamená, že bude spor jako hromadná žaloba skutečně veden; o splnění příslušných podmínek rozhoduje soud.
Pokud by soud skupinový režim povolil, spor by se netýkal pouze čtyř jmenovaných žalobkyň, ale mohl by řešit širší odpovědnost provozovatele generativního systému.
Elon Musk dříve uvedl, že si není vědom toho, že by Grok vytvářel nahé snímky nezletilých. Chatbot má podle něj požadavky na nezákonný obsah odmítat.
Nové obrázky komplikují zavedené metody odhalování
Generativní systémy představují problém také pro technické vyhledávání závadného obsahu. Internetové společnosti už dvě desetiletí využívají systém amerického Národního centra pro pohřešované a zneužívané děti (NCMEC), který porovnává digitální otisky nalezených snímků s databází známých materiálů. Umělá inteligence ale dokáže vytvářet stále nové varianty, jejichž otisky se s existujícími záznamy nemusejí shodovat.
NCMEC kritizovalo xAI a dalších sedm internetových společností kvůli nedostatkům při hlášení podezřelého obsahu. Podle žaloby chyběly důležité údaje také v oznámení souvisejícím s nevlastním otcem ženy a první podnět měla obdržet policie v jiném státě, což podle žalobkyně vyšetřování zdrželo.
Centrum pro boj proti digitální nenávisti odhadlo, že Grok mezi 29. prosincem 2025 a 8. lednem 2026 vytvořil přibližně tři miliony sexuálně explicitních obrázků, z nichž přes 20 000 zobrazovalo děti. Vedle soudního řízení se xAI zabývají americké úřady a Evropská unie prověřuje, zda měla platforma X dostatečná opatření proti šíření takového obsahu.
Pro evropské uživatele to znamená, že případ není pouze americkým sporem o odškodnění. Prověřování v EU se týká i otázky, jaké ochranné mechanismy mají platformy zavést, aby jejich generativní nástroje nebylo možné podobným způsobem zneužívat.
