Meta v Instagramu spustila AI nástroj, který uměl generovat obrázky z veřejných fotek kohokoli, a to bez upozornění a ve výchozím zapnutém stavu. Po vlně kritiky funkci během tří dnů stáhla. Vysvětlujeme, co se stalo, a hlavně jak si zkontrolovat a natrvalo vypnout dva přepínače, které o použití vašich fotek rozhodují.
Úvod
V aplikaci Meta AI, na webu meta.ai a v Instagramu se 7. července objevil Muse Image, první vlastní model Mety pro generování obrázků. Nahrazuje dosavadní závislost na externích nástrojích jako Midjourney nebo modelech Black Forest Labs a přišel s desítkami nových AI efektů pro Instagram Stories. Součástí launche byla ale i funkce, která umožňovala pracovat s veřejnými fotkami cizích lidí bez jejich vědomí. Během tří dnů vyvolala takovou kritiku, že ji Meta stáhla. Kdo má na Instagramu veřejný profil, by si měl i po stažení funkce zkontrolovat nastavení popsané níže.
Co Meta AI Muse dělala s veřejnými fotkami
Klíčovým problémem nebyl samotný Muse Image, ale možnost v promptu @-zmínit libovolný veřejný Instagram účet. Meta AI pak jako podklad pro nový obrázek použila veřejně viditelné fotky nebo reels dané osoby, včetně její podobizny. Nešlo tedy jen o fotky, které si uživatel nahrál sám. Kdokoli mohl takto pracovat s fotkami cizího člověka, pokud měl jeho profil nastavený jako veřejný. Server MacRumors popsal, že do systému byly automaticky zapojené všechny veřejné profily, aniž by o tom majitelé účtů dostali jakékoli oznámení.
Meta u nástroje nasadila neviditelný vodoznak Content Seal, který má identifikovat AI původ obrázku, a filtry proti zjevně škodlivému obsahu. Kritici ale namítali, že vodoznak dokáže původ obrázku jen dodatečně označit, samotnému vytvoření problematického obsahu ale nijak nezabrání.
Proč šlo o problém: zapnuto automaticky, bez upozornění
Sporná nebyla ani tak existence funkce jako způsob, jakým byla nastavená. Šlo o takzvaný opt-out systém: místo aby si uživatelé zapojení do AI generování sami aktivně zvolili, museli ho naopak sami vypnout, pokud o něj nestáli. Kdo o nastavení nevěděl, byl v něm automaticky zahrnutý.
Podle serveru 9to5Mac, který na problém upozornil s odkazem na zjištění magazínu Wired, kritika rychle nabrala na síle. Přidaly se i talentové agentury a odbory: podle TechCrunch na Metu tlačily agentura CAA a odborová organizace SAG-AFTRA, které zastupují herce a další tvůrce obávající se zneužití vlastní podoby. Zajímavé je, že akcie Mety v den launche Muse Image přesto vzrostly zhruba o tři procenta. Investoři tak zřejmě ocenili především nový konkurenceschopný AI model, ne spornou funkci kolem něj.
Jak vypnout dva klíčové přepínače v Instagramu
Ochranu proti použití vlastních fotek najdete v nastavení Instagramu. Postup je stejný bez ohledu na to, jestli chcete přepínače teprve zkontrolovat, nebo jste o nich dosud nevěděli.
- Otevřete svůj profil a klikněte na ikonu menu (tři vodorovné čáry) vpravo nahoře.
- Najděte sekci „Sharing and Reuse“ (podle serveru Macworld se v některých verzích aplikace objevuje i pod názvem „Sharing and Reposting“).
- Uvnitř najdete volbu „Allow people to create with and reuse your content“, tedy doslova „Umožnit lidem tvořit s vaším obsahem a znovu ho používat“.
- Zde jsou dva samostatné přepínače, jeden pro Posts (příspěvky) a druhý pro Reels. Oba jsou ve výchozím stavu zapnuté a je potřeba je vypnout každý zvlášť.
Přesné české znění těchto položek nebylo možné ověřit přímo v lokalizované verzi appky, zdroje popisují jen anglické rozhraní. Až přepínače v aplikaci uvidíte, pravděpodobně narazíte na obdobně formulovaný, ale ne nutně identický český text.
Meta funkci po třech dnech stáhla, ale nastavení nechte vypnuté
Meta možnost @-zmiňování cizích veřejných účtů 10. července zcela odstranila, tři dny po spuštění. Podle 9to5Mac reagovala na zpětnou vazbu uživatelů oznámením v aktualizaci původního blogového příspěvku o launchi. Ve vyjádření, které cituje TechCrunch, Meta uvedla: „Naším záměrem bylo poskytnout užitečný kreativní nástroj a dát lidem kontrolu nad tím, zda může být jejich veřejný obsah takto použit. Slyšeli jsme zpětnou vazbu, že tato funkce minula cíl, a proto už není dostupná.“ Samotný Muse Image, tedy textové generování obrázků a editace vlastních fotek, dál funguje beze změny.
I po stažení funkce ale existují dva dobré důvody nechat oba přepínače vypnuté. Zaprvé, vypnutí platí jen do budoucna: obrázky, které už někdo případně vytvořil z vašich fotek, se stažením funkce nesmažou a zůstávají v systému dál, i když účet dodatečně přepnete na soukromý. Zadruhé, není potvrzené, že Meta vypnuté přepínače uživatelům po stažení funkce sama zase nezapne, nebo že se podobný nástroj v budoucnu nevrátí, ostatně u příbuzného Muse Video už podobný návrat avizovala. Nejjistější je proto přepínače zkontrolovat a nechat je vypnuté natrvalo.
Platí to i v Evropě? GDPR a otazníky kolem biometrických dat
Muse Image se zaváděl postupně a ne všude stejně. Do Instagram Stories mířil zpočátku jen v USA, do WhatsAppu jen ve vybraných zemích. Není tak jisté, že sporná funkce s @-zmiňováním běžela v plném rozsahu i v Česku nebo jinde v EU. Nastavení v appce je ale globální, takže doporučení zkontrolovat a vypnout oba přepínače platí bez ohledu na to, kde se konkrétně nacházíte.
Evropský server Trending Topics EU upozorňuje, že práce s fotkami reálných lidí bez jejich aktivního souhlasu by mohla přitáhnout pozornost regulátorů z pohledu GDPR a ochrany biometrických dat. Meta zatím žádné GDPR specifické úpravy launche nepotvrdila a žádný ze zdrojů nedokládá konkrétní zásah evropského úřadu, jde spíše o očekávání novinářů než o potvrzený fakt. Připomenout lze i to, že Meta v roce 2021 kvůli právnímu a regulatornímu tlaku ukončila vlastní systém rozpoznávání obličejů, což ukazuje, jak citlivé téma biometrie pro firmu dlouhodobě je.
Závěr
Meta nabídla nástroj, který dokázal pracovat s veřejnými fotkami kohokoli bez upozornění, a po kritice ho stáhla rychleji, než je u podobných produktů zvykem. Stažení funkce ale neznamená, že je téma vyřízené: existující AI obrázky zůstávají a nastavení se může v appce znovu objevit. Nejlepší ochranou zůstává zkontrolovat v Instagramu sekci „Sharing and Reuse“ a oba přepínače pro příspěvky i reels natrvalo vypnout.
