Apple a Google čelí tlaku kvůli aplikacím pro nahé deepfaky

Co požaduje San Francisco po Apple a Google

Podle serveru MacRumors poslal úřad městského právního zástupce Apple a Googlu formální dopisy s žádostí o odstranění třinácti takzvaných „face-swap“ aplikací z App Store a Google Play. Osm z nich je dostupných v Apple App Store, pět v Google Play. Aplikace umožňují nahradit obličej na fotografii nebo vytvořit nekonsentuální nahý snímek konkrétní osoby pomocí umělé inteligence.

Právníci města tvrdí, že Apple a Google těmto aplikacím fakticky umožňovaly prodej takového obsahu, protože si z plateb uvnitř aplikací brali podíl. Server MacTech doplňuje, že za dopisem stojí městský právní zástupce David Chiu, jehož úřad už dříve podnikl právní kroky proti šestnácti populárním deepfake webům. Podle stejného zdroje mohly Apple a Google na poplatcích z podobných aplikací v minulosti vydělat značné částky, přesný odhad ale server neuvádí jako ověřené číslo, jde spíš o odhad bez konkrétních podkladů.

Jak na to reagují App Store a Google Play

Google podle dostupných informací už prošetřil a odstranil všech pět jmenovaných aplikací a v minulosti kvůli podobnému porušení pravidel smazal stovky dalších. Apple se k poslednímu dopisu oficiálně nevyjádřil, ale problém rozhodně není nový.

Ještě v dubnu 2026 upozornila organizace Tech Transparency Project, že vyhledávací našeptávač App Store a sponzorované reklamy směrovaly uživatele přímo k „nudify“ aplikacím. Podle zjištění, na které upozornil 9to5Mac, tvořily aplikace schopné zobrazit ženu nahou nebo částečně svlečenou téměř 40 procent výsledků na dotazy jako „nudify“, „undress“ nebo „deepnude“. Jedním z konkrétních příkladů byla reklama na aplikaci FaceSwap Video, která se u vyhledávání „deepfake“ propagovala tak, že napojila obličej oblečené ženy na nahé tělo.

Apple tehdy odstranil patnáct aplikací identifikovaných v reportu a šesti vývojářům dal čtrnáctidenní lhůtu na nápravu. Firma zároveň uvedla, že řadu problematických vyhledávacích termínů blokovala už dřív, a slíbila zlepšit moderaci pomocí AI a strojového učení. V červnu 2026 pak Apple zpřísnil samotný text pravidel App Store týkající se odpovědnosti vývojářů za pornografický obsah. Nový dopis od San Francisca ukazuje, že problém tím zdaleka nezmizel.

Evropská odpověď: AI Act zakazuje nudifikaci od prosince

Zatímco americký případ řeší konkrétní aplikace u konkrétních firem, Evropská unie mezitím prosadila plošné legislativní řešení. Evropský parlament v rámci revize AI Act (takzvaný AI Omnibus) schválil zákaz AI systémů, které vytvářejí nebo upravují nekonsentuální intimní snímky. Podle tiskové zprávy Evropského parlamentu se zákaz vztahuje i na AI systémy generující materiály sexuálního zneužívání dětí a začne platit od 2. prosince 2026 společně s povinným označováním obsahu vytvořeného umělou inteligencí.

Server TechPolicy.Press ale upozorňuje, že samotné vymáhání zůstává nejisté. V době schválení mělo určený orgán dozoru nad AI Act jen osm členských států. Odpovědnost se navíc dělí mezi poskytovatele systému, tedy firmu, která ho vytvořila, a nasazovatele, tedy toho, kdo ho používá: poskytovatel odpovídá, pokud je generování zakázaného obsahu záměrem systému nebo předvídatelným důsledkem bez dostatečných technických pojistek, nasazovatel jen tehdy, když bezpečnostní opatření aktivně obchází.

Americký dopis a evropská legislativa spolu přímo nesouvisí: jde o dvě nezávislé linie, americkou městskou žalobu na jedné straně a evropský zákon na straně druhé. Pro Česko jako člena EU ale bude mít ten druhý přímý dopad, protože zákaz „nudifier“ aplikací bude platit i na českém trhu bez ohledu na to, jak dopadne spor v San Franciscu.

Co to znamená pro uživatele

Americký dopis se týká jen amerických výpisů v App Store a Google Play, takže sám o sobě nezpůsobí okamžité stažení aplikací z evropského trhu. Praktický dopad pro Česko zatím spočívá spíš v tom, co přijde od prosince: aplikace vytvářející nekonsentuální intimní snímky mají být v EU podle nového znění AI Act nelegální, přesná podoba vymáhání v jednotlivých členských státech včetně Česka ale ještě není jasná.

Pro Apple i Google zůstává skutečnou výzvou moderace: našeptávač, reklamy i samotné schvalování aplikací opakovaně propustily nástroje, které pravidla obou obchodů porušují. Dokud se to nezmění systémově, dá se čekat, že podobné případy budou přibývat, ať už je řeší americký právní zástupce, nebo evropský regulátor.

S tématem zneužití fotek umělou inteligencí souvisí i nedávný případ Mety, jejíž AI funkce zpracovávaly fotky uživatelů Instagramu, dokud je uživatelé sami nevypnuli.