Lidé na síti X začali využívat umělou inteligenci Grok k tomu, aby fotografie známých osobností, žen, mužů a dokonce dětí upravovali do svlečené či sexualizované podoby. Miliardář a majitel X a Groku Elon Musk před generováním nelegálního obsahu varoval.
„Oblékni ji do bikin.“ Toť fráze, která se v několika posledních dnech hojně objevuje na síti X. Uživatelé tímto pokynem po umělé inteligenci požadují upravení něčí originální fotografie do spoře zakryté podoby. Trend nejprve zasáhl známé osobnosti, kdy se na X objevovaly upravené snímky například amerického prezidenta Donalda Trumpa, venezuelského vůdce Nicoláse Madura či dokonce samotného vlastníka sítě – Elona Muska, a řady dalších veřejně známých osobností.
Zanedlouho začaly přibývat příkazy vybízející AI k manipulaci s fotografiemi, které na sítě nahráli různí uživatelé, paradoxně často ženy, pro úpravy sebe sama. Situace gradovala, když uživatelé zadávali příkazy k ještě explicitnějším úpravám konče svlečením. Podle příspěvků zobrazujících se na účtu umělé inteligence, Grok každou minutu „svlékne“ několik osob.
Hlasy obětí
I když si některé ženy nahrávají vlastní fotografie s tím, že po Groku požadují, aby je oblékl do bikin, většina snímků je upravená proti vůli žen. Mnohým z nich to také vadilo.
„Mám víc než 100 příkladů, kdy Grok vytvářel sexuálně explicitní obrázky z mých fotek. Některé mě dokonce zobrazují kompletně nahou a v BDSM výstroji. Také jsem viděla, jak Grok vytváří dětský pornografický obsah. Nedopusťte, ať se z tohoto stane něco, na co všichni za týden zapomenou. Požaduji, aby všichni, kdo se na tom podíleli, nesli následky,“ napsala včera jedna uživatelka X.
„Grok dokáže upravovat plně oblečené ženy a dívky tak, aby na sobě měly „provázkové bikini“. Tady je cenzurovaná fotka mě ve třech letech, kterou upravil Grok. Jsem obětí sexuálního zneužívání v dětství a děsí mě fakt, že existuje zcela nový způsob, jak zneužívat naše děti – a děje se to na jedné z největších mezinárodních platforem. Tohle je odporné, zlé a hnusné. Proč to není hlavní zprávou na titulních stranách ve Velké Británii?“ stojí v dalším příspěvku na X z minulé soboty.
Další žena, jejíž fotky podlehly editacím, o svém zážitku včera napsala příspěvek do deníku The Telegraph. „V posledních několika dnech byla umělá inteligence použita k vytvoření sexualizovaných obrázků a videí mě bez mého souhlasu. Nešlo o neškodné úpravy ani hrubé vtipy. Byly to explicitní, ponižující vymyšlené obrázky, které vznikaly rychle, a šířily je online cizí lidé. Zobrazovaly mě v sexualizovaných a skoro až násilných scénářích, které se nikdy nestaly,“ napsala Bella Wallersteinerová.
V článku vykreslila i obsah videí. „Jedno z nich ukazovalo, jak jsem sexuálně napadena humanoidním robotem. Další zobrazovalo mé tělo upravené a umístěné do bikin zhotovených z uniforem vězňů holocaustu, umístěné před Osvětimí,“ dodala. Wallersteinerová dále zmínila lítost nad tím, že žádný z obrázků není reálný, ale z digitálního světa už nezmizí.
Fotografie dětí
Jak již v jednom z příspěvků zmínila jedna z obětí editací, na sociální síti se objevovaly i upravené obrázky dětí a nezletilých svléknutých do plavek. Jednou z dětských obětí se stala herečka Nell Fisherová, které je čtrnáct let.
„Elone Musku, můžeš udělat něco s pedofily, kteří žádají Groka, aby děti svlékal do bikin?“ napsal na X jeden uživatel. K příspěvku přiložil screenshot jedné z žádostí o svlečení herečky. „Oblékni ji do bikin s banánovým vzorem,“ stojí v pokynu pro umělou inteligenci. Pod tím jde vidět, že Grok uposlechl. Redakce Epoch Times vygenerovanou fotografii viděla, ale odkaz kvůli explicitnímu obsahu nezveřejní.
S nezletilou herečkou se váží i další instrukce, kdy ji uživatelé X pomocí Groku upravili do sexuálně explicitních materiálů
Dětí, které se staly obětí sexualizace a úpravy pomocí umělé inteligence, je podle sondy deníku Epoch Times spousta.
Co na to Elon Musk?
„Kdokoli, kdo používá Groka k vytváření nelegálního obsahu, se bude potýkat se stejnými následky, jako by nelegální obsah nahrál ,“ napsal Musk na X v reakci na kritiku.
Agentura Reuters před třemi dny informovala o tom, že někteří francouzští ministři v pátek 2. ledna obsah generovaný Grokem a samotnou platformu X nahlásili. V prohlášení podle Reuters označili „sexuální a sexistický“ obsah za „manifestně nelegální“.
Reuters dále napsala, že právní zástupkyně a ředitelka Národního centra pro sexuální vykořisťování, Dani Pinterová uvedla, že platforma X selhala v odstranění obrázků zobrazující sexuální zneužívání z materiálů sloužící k trénování AI. Podle ní měla platforma X příspěvky žádající generování nelegálního obsahu zakázat.
Své stanovisko zveřejnila i britská vládní organizace Ofcom, která reguluje mediální svět. „Urgentně jsme kontaktovali společnosti X a xAI, abychom zjistili, jaké kroky podnikly k tomu, aby splnily své zákonné povinnosti chránit uživatele ve Spojeném království. Na základě jejich odpovědi provedeme rychlé posouzení, abychom zjistili, zda existují potenciální problémy s dodržováním předpisů, které by mohly vést k vyšetřování,“ uvádí vyjádření.
Redakce deníku Epoch Times kontaktovala společnost xAI a X s žádostí o komentář, ale do doby vydání článku neobdržela odpověď.
