V USA se rozjela další velká debata o tom, kde končí „svoboda projevu“ a kde začíná technologicky podporované zneužívání lidí. Trojice demokratických senátorů poslala Applu a Googlu dopis, ve kterém požaduje dočasné stažení aplikací X a Grok z App Storu a Google Play. Důvod je jednoduchý: nástroje okolo chatbota Grok se podle nich v posledních dnech používaly k masové tvorbě nevyžádaných sexualizovaných obrázků skutečných osob, včetně dětí.
Co přesně senátoři po Applu a Googlu chtějí
Senátoři Ron Wyden, Ed Markey a Ben Ray Luján adresovali dopis přímo šéfovi Applu Timu Cookovi a šéfovi Googlu Sundaru Pichaiovi. Nežádají po firmách žádný „symbolický krok“. Chtějí, aby Apple a Google prosadili vlastní pravidla obchodů s aplikacemi a stáhli X i Grok minimálně dočasně, dokud X problém nevyřeší. Zároveň požadují písemnou odpověď ve lhůtě dvou týdnů.
Argumentace stojí hlavně na tom, že obsah, který se přes Grok a X šíří, má podle senátorů spadat do kategorií, které App Store i Google Play zakazují. Tedy obtěžování, zneužívání, ponižování a nevyžádaný sexualizovaný obsah. V dopise zmiňují také situace, kdy byly obrázky upravovány způsobem, který má zobrazovat sexuální násilí, ponižování, ubližování a dokonce i zabíjení.
Proč je v centru kritiky právě Grok
Grok je AI chatbot firmy xAI. Na X je integrovaný přímo do služby a v poslední době se dostal i jako samostatná aplikace do mobilních obchodů. Právě jeho schopnosti pracovat s obrázky se podle zahraničních médií zneužívaly k tomu, aby uživatelé „převlékali“ reálné lidi do spodního prádla, vytvářeli transparentní oblečení a v některých případech se dostali až k výsledkům, které působí jako digitální svlékání. V části výstupů se podle novinářských zjištění objevovaly i děti.
Senátoři navíc tvrdí, že výzkumníci našli archiv téměř stovky obrázků, které mohou spadat do oblasti materiálů se zneužíváním dětí. V kombinaci s rychlostí, jakou dokázaly podobné výstupy vznikat a šířit se, to dává celému problému úplně jinou váhu než běžné „toxické“ komentáře na sociálních sítích.
X už zasáhlo, ale kritici říkají, že je to jen kosmetika
X v reakci na tlak upravilo fungování Groku přímo v odpovědích na příspěvky. Podle dostupných informací se generování obrázků v této části omezilo na platící uživatele a zároveň se zřejmě zpřísnily některé typy výstupů. Jenže tím to nekončí. V samostatné aplikaci Grok, na webu a v některých dalších částech X měly problematické požadavky stále procházet. Kritici proto tvrdí, že nejde o řešení problému, ale spíš o jeho „zpoplatnění“.
Do toho zapadá i širší rétorika Elona Muska, který dlouhodobě staví přísnější moderaci do role cenzury. V souvislosti s aktuálním skandálem se v zahraničí řeší i tlak britských úřadů, které zvažují razantnější postup, pokud platforma nezvládne podobné praktiky zastavit.
App Store pravidla versus realita
Senátoři v dopise připomínají konkrétní části pravidel App Storu i Google Play. Apple dlouhodobě deklaruje, že nechce aplikace s obsahem, který je urážlivý, znechucující, v extrémně špatném vkusu nebo „prostě jen odpudivý“. Zároveň má pravidla proti cílenému ponižování a obsahu, který může někoho poškodit. Google má ve svých zásadách zase explicitní zákaz aplikací, které šíří nevyžádaný sexualizovaný obsah nebo podporují sexuálně predátorské chování.
V dopise zaznívá i nepříjemné srovnání: Apple a Google podle senátorů v minulosti dokázali jednat rychle, když se na ně vyvinul tlak kvůli jiným aplikacím. Konkrétně se připomínají případy typu ICEBlock a Red Dot. Senátoři tím naznačují, že pokud se obchody dokážou rychle rozhodnout u relativně okrajových kauz, měly by o to rychleji reagovat u obsahu, který může obětem způsobovat přímé škody.
Do příběhu vstupují i regulátoři a další kontroverze
Aktuální vlna kritiky se netýká jen sexuálních deepfaků. V zahraničních zprávách se objevují i příklady výstupů, které útočí na lidi na základě rasy či etnika. Zároveň se mluví o tom, že situaci sledují různé regulační orgány v několika zemích. V USA se přitom řeší i to, zda do věci vstoupí federální úřady.
Zajímavý kontrast pak vytváří informace, že xAI současně komunikuje velké investiční kolo. Kritici tvrdí, že právě honba za rychlým růstem a virálním efektem může jít přímo proti bezpečnostním brzdám, které by podobné funkce měly mít od začátku.
Co to může znamenat pro uživatele iPhonů
Pokud by Apple opravdu sáhl ke stažení X nebo Groku, dopad pocítí i uživatelé v Evropě. U aplikací, které jsou distribuované globálně, se podobné kroky obvykle promítají napříč regiony. V praxi by to znamenalo, že aplikaci si v App Storu nově nestáhnete. Ti, kdo ji už mají, ji většinou mohou dál používat, dokud ji Apple neodstaví úplně. Část funkcí by navíc zůstala dostupná přes web, což je i jeden z důvodů, proč senátoři tlačí na to, aby se řešila příčina, ne jen způsob distribuce.
