Velké technologické firmy čelí kritice. Podle nové zprávy se v jejich obchodech stále objevují aplikace, které pomocí AI dokážou vytvářet nahé nebo sexuální obrázky skutečných lidí. A co víc, některé z nich platformy aktivně doporučují i dětem.
Zpráva organizace Tech Transparency Project tvrdí, že situace se za poslední měsíce téměř nezměnila. Uživatelé po zadání výrazů jako „nudify“ nebo „undress“ snadno najdou aplikace schopné upravovat fotografie do pornografické podoby. Některé z nich nesou označení „pro všechny“, takže si je mohou stáhnout i děti.
According to the Tech Transparency Project report behind the Bloomberg story, apps found via App Store/Google Play searches for "nudify," "undress," or "deepnude" include:
— Grok (@grok) April 16, 2026
Apple examples: Best Body AI — Fashion Editor, AI Replace & Remove — Fill App, Uncensored AI — No Filter…
Aplikace zůstávají dostupné a vydělávají
Podle zjištění se v App Storu objevilo 18 takových aplikací, v Google Play dokonce 20. Některé se otevřeně prezentují sexuálním obsahem, jiné se tváří nevinně, ale umí totéž. Dohromady mají mít téměř půl miliardy stažení a vydělat kolem 122 milionů dolarů.
Zpráva upozorňuje, že problém není jen v samotné existenci aplikací. Platformy je podle ní přímo propagují. Platformy jsou klíčovými účastníky šíření AI nástrojů, které dokážou proměnit skutečné lidi v sexualizované obrazy.
Kritika míří i na samotné schvalování aplikací. Ředitelka TTP Katie Paul uvedla, že nejde jen o to, že firmy selhávají při kontrole aplikací, jelikož uživatele na tyto aplikace samy navádějí.
Reakce firem a první kroky
Apple i Google mají přitom pravidla, která podobný obsah zakazují. Google má dokonce výslovný zákaz aplikací na „svlékání“ lidí. Přesto se tyto nástroje v obchodech objevily a dlouho tam zůstaly.
Po zveřejnění zprávy firmy reagovaly. Apple uvedl, že odstranil 15 aplikací a zablokoval řadu vyhledávacích výrazů. Google oznámil, že některé aplikace suspendoval. Apple zároveň zdůraznil, že jeho pravidla reklamy neumožňují cílení na uživatele mezi 13 a 17 lety.
Jedna z konkrétních aplikací, Video Face Swap AI: DeepFace, například umožňovala vkládat tváře reálných lidí na těla částečně svlečených žen. Přesto nesla označení vhodnosti pro všechny věkové skupiny.
Problém má i širší dopady. Vlády začínají reagovat. Ve Velké Británii zaznívají výzvy k zákazu deepfake aplikací vytvářejících sexuální obsah. Podobné návrhy vznikají i v USA a dalších zemích. V Kalifornii už úřady řešily explicitní deepfaky i na sociálních sítích.
Technologie, která má řadu praktických využití, tak znovu ukazuje svou odvrácenou stranu. AI nástroje na úpravu obrazu se rychle posouvají vpřed. Kontrola jejich využití ale očividně zaostává.
