Apple v pátek 16. října upravil pravidla pro schvalování aplikací. Vývojáři musí nově aktivně bránit intimním snímkům bez souhlasu, včetně těch vytvořených umělou inteligencí. Samostatné pravidlo nově výslovně míří i na aplikace, které se při kontrole tváří nevinně a škodlivou funkci odhalí až po schválení. Změny platí i pro český App Store.
Co se v pravidlech změnilo
Apple na webu pro vývojáře zveřejnil novou verzi App Review Guidelines, tedy pravidel, podle kterých jeho tým rozhoduje, co se do App Storu dostane. Oznámení vyšlo v pátek 16. října amerického času, v Česku v noci na sobotu. Firma k němu přidala samostatnou zprávu, ve které vysvětluje, jak pravidla posiluje proti intimním snímkům bez souhlasu a proti aplikacím typu „bait-and-switch“, které se po schválení promění v něco jiného.
Samotná pornografie v App Storu zakázaná byla už dávno. Apple to v oznámení pro vývojáře výslovně připomíná a jako příklad uvádí aplikace na takzvané „svlékání“ (nudify), které ze snímků skutečných lidí vytvářejí sexuálně explicitní obrázky bez jejich souhlasu. Nové je hlavně to, kdo nese odpovědnost a co hrozí, když selže.
Tři nejdůležitější změny:
- Pravidlo 1.2 (obsah od uživatelů): mezi rizika nově výslovně patří intimní snímky bez souhlasu a mezi dotčené aplikace i aplikace na tvorbu obsahu pomocí AI. Podle Applu musí vývojáři takový obsah „proaktivně předcházet“ a odstraňovat. Platí to i pro snímky vytvořené pomocí AI nástrojů.
- Nové pravidlo 2.5.19 (skryté funkce): aplikace nesmí obsahovat skryté, pozastavené ani nezdokumentované funkce. Pokus schovat je v kódu aplikace, například zamlžováním kódu (obfuskací), je důvodem k vyřazení z App Storu a zrušení vývojářského účtu.
- Sekce 5 (právní požadavky): aplikace, které napomáhají obchodu s lidmi nebo zneužívání dětí, Apple nejen odstraní z App Storu, ale nově jim zablokuje i alternativní distribuci mimo něj. Informovat v takových případech úřady slibovala pravidla už dřív.
Menší úpravy se týkají kreativních podkladů na stránce aplikace (nové pravidlo 2.3.14) a odkazů na nákupy mimo App Store.
Proč AI mění pravidla hry
Pravidlo 1.2 už dřív požadovalo, aby aplikace s obsahem od uživatelů uměly závadný materiál filtrovat, nabízely možnost ho nahlásit, rychle reagovaly a dovolily blokovat zneužívající uživatele. Jenže generativní AI posunula hranici. Obsah už nemusí nikdo nahrát, stačí ho nechat vygenerovat z jedné běžné fotky. Proto Apple do stejného pravidla výslovně zařadil i aplikace, které obsah samy tvoří.
Plné znění pravidel App Review teď říká, že pokud vývojáři nezavedou vhodné pojistky nebo po upozornění nenapraví zjištěné porušení, může to Apple považovat za porušení kodexu chování vývojářů (Developer Code of Conduct). Postup při porušení zůstává odstupňovaný: Apple vývojáře vyzve k odstranění obsahu a k plánu nápravy. Aplikace pak může z obchodu zmizet, dokud zlepšení neprokáže. Při závažném nebo opakovaném porušení hrozí okamžité vyřazení aplikace i vývojáře z Apple Developer Programu.
Filtrování závadného obsahu a reakci na nahlášení pravidla vyžadovala i dřív. Nově ale výslovně jmenují intimní snímky bez souhlasu včetně AI generovaných. Vývojáři mají takovým snímkům předcházet, ne jen je dodatečně mazat.
Trik „bait-and-switch“: nevinná aplikace, která se po schválení změní
Druhá velká změna míří na podvodnou taktiku, kterou Apple sám pojmenovává bait-and-switch. Aplikace projde kontrolou jako neškodný nástroj (třeba editor fotek) a škodlivou funkci odhalí až po schválení. Apple ve zprávě uvádí právě „nudification“ jako příklad schopnosti, kterou takové aplikace skrývají.
Zákaz skrytých funkcí nebyl úplně nový, dosud spadal pod obecnější pravidlo 2.3.1. Server 9to5Mac upozorňuje, že samostatné pravidlo 2.5.19 nově výslovně jmenuje zamlžování kódu a zdůrazňuje hrozbu zrušení vývojářského účtu. Podle Applu za takovými případy stojí škodliví aktéři, někdy i organizované podvodné skupiny, které schovávají obsah aktivní až po schválení.
Že nejde jen o deepfaky, ukazuje červencové šetření 9to5Mac. To odhalilo desítky aplikací, které se tvářily jako jednoduché hry a utility, ale z brazilských IP adres otevíraly skryté sázkové platformy. Mnohé byly dostupné i dětem. Server AppleInsider připomíná, že podobný trik v minulosti využily podvodné a škodlivé aplikace a v jednom případě i ruské banky.
Proč Apple jedná právě teď
Tlak se stupňoval celý rok. Podle 9to5Mac našel Tech Transparency Project v lednu v App Storu desítky AI aplikací na „svlékání“. V dubnu stejná organizace zveřejnila, že k nim uživatele směrovaly i návrhy vyhledávání a reklamy přímo v App Storu. V červenci pak úředníci San Franciska nařídili Applu odstranit osm aplikací schopných vytvářet intimní snímky bez souhlasu. Podrobnosti o tlaku na Apple i Google jsme popsali v červencovém článku o aplikacích pro nahé deepfaky.
Souběžně běžela kauza chatbota Grok od firmy xAI, kterého uživatelé zneužívali k tvorbě sexualizovaných snímků žen i nezletilých. Už v lednu američtí senátoři tlačili na Apple a Google, aby X a Grok stáhly. Podle MacRumors Apple letos xAI pohrozil odstraněním Groku z App Storu, pokud bude dál umožňovat nahé deepfaky. Firma zavedla pojistky a Apple pak schválil upravenou verzi aplikace. MacRumors odhaduje, že nové pravidlo 1.2 může mířit mimo jiné na aplikace jako Grok. Apple sám žádnou konkrétní aplikaci nejmenuje.
Apple ve své zprávě přidává i čísla: loni podle něj nepustil k zákazníkům přes 150 tisíc aplikací s bezpečnostními problémy. Kvůli podvodům a zneužívání navíc zrušil přes 193 tisíc vývojářských účtů. „Neváháme odstraňovat aplikace a rušit účty vývojářů, kteří za nimi stojí, když tato pravidla poruší,“ uvádí firma.
Co to znamená pro Česko
Pravidla App Review platí pro všechny obchody App Store, tedy i pro ten český. Oficiální česká verze Pokynů ke kontrole aplikací ale k pondělí 19. října nese datum poslední aktualizace 8. června 2026 a říjnové změny zatím neobsahuje. Apple slibuje překlady do jednoho měsíce od zveřejnění.
Pravidla Applu se potkávají s českým i evropským právem. Od letošního roku zná český trestní zákoník nový trestný čin zneužití identity k výrobě pornografie (§ 191a). Podle důvodové zprávy, kterou cituje Seznam Zprávy, míří hlavně na takzvanou deepfake pornografii. V základní podobě za něj hrozí až dva roky vězení, zákaz činnosti nebo propadnutí věci, v závažnějších případech podle Seznam Zpráv až pět let. Na úrovni EU se vyjednavači Evropského parlamentu a Rady v květnu předběžně dohodli na zákazu AI „nudifierů“ v rámci AI Actu. Firmy mají podle dohody čas do 2. prosince 2026, aby své systémy uvedly do souladu.
Z pohledu běžného uživatele iPhonu je dopad nepřímý, ale důležitý. Méně aplikací, které z fotky spolužačky nebo kolegyně umí vyrobit falešný intimní snímek, znamená menší riziko pro každého, kdo má fotky na sociálních sítích. Pro rodiče je podstatné hlavně pravidlo 2.5.19. Aplikace, která se v App Storu tváří jako nevinný editor, by po schválení neměla nenápadně změnit účel. Ochranu dětí doplňují nástroje rodičovské kontroly v iOS 27.
Jak nahlásit problémovou aplikaci
Pokud na takovou aplikaci narazíte, Apple nabízí dvě cesty:
- Aplikace, kterou jste si stáhli: na webu pro hlášení problémů se přihlaste účtem Apple, klikněte na „Chci…“, vyberte požadovanou volbu a postupujte podle pokynů. Postup popisuje česká podpora Applu.
- Hlášení nezákonného obsahu: podle evropského nařízení o digitálních službách (DSA) provozuje Apple portál pro hlášení nezákonného obsahu v App Storu. Formulář vyžaduje adresu URL obsahu. V App Storu na iPhonu ji získáte na stránce aplikace klepnutím na tlačítko Sdílet a pak na Kopírovat odkaz, jak uvádí návod k vyhledání adresy URL.
Pokud se obětí deepfaku stanete vy nebo někdo blízký, nahlášení aplikace je jen první krok. Výroba i šíření pornografického deepfaku bez souhlasu zobrazené osoby může být v Česku trestným činem podle § 191a a lze je oznámit policii.
Co zatím není jasné
Apple v říjnovém oznámení nejmenoval žádné konkrétní aplikace, které kvůli novým pravidlům z App Storu zmizely nebo zmizí. Nejasné zůstává i to, jak přesně bude u AI aplikací posuzovat „vhodné pojistky“. Pravidla nestanovují technický standard, jen povinnost předcházet a odstraňovat. Rozhodující tedy bude, jak důsledně tým App Review nová pravidla vymáhá v praxi.
Závěr
Apple reaguje na rok kauz kolem AI aplikací na „svlékání“ a podvodných aplikací, které se po schválení promění. Pornografii zakazoval dávno. Nově ale výslovně požaduje, aby vývojáři intimním snímkům bez souhlasu včetně AI generovaných předcházeli a mazali je. Za skryté funkce hrozí zrušením vývojářského účtu. Pro české uživatele se pravidla ve výsledku sbíhají s novým trestním zákoníkem i s chystaným evropským zákazem.
