Společnost X oznámila 14. ledna, že zavádí omezení funkcí úprav obrázků u chatbota Grok poté, co řada zemí zahájila vyšetřování a pohrozila žalobami kvůli používání vestavěného chatbota s umělou inteligencí (AI) k vytváření sexuálně explicitních snímků.
Bezpečnostní tým X ve článku zveřejněném na sociální síti uvedl, že zavedl opatření, která mají zabránit účtu Grok upravovat fotografie skutečných lidí tak, aby vypadali v odhalujícím oblečení, například v bikinách.
Tým pro bezpečnost zároveň oznámil, že vytváření a úpravy obrázků prostřednictvím účtu Grok jsou nyní dostupné pouze pro platící předplatitele. Cílem je podle něj přidat „další vrstvu ochrany a pomoci zajistit, aby jednotlivci, kteří se pokusí zneužít účet Grok k porušování zákonů nebo našich pravidel, mohli být hnáni k odpovědnosti“.
„Nyní geograficky blokujeme možnost všech uživatelů generovat prostřednictvím účtu Grok a funkce Grok v síti X snímky skutečných lidí v bikinách, spodním prádle a podobném oblečení v těch jurisdikcích, kde je to nezákonné,“ uvádí se v prohlášení.
Grok lze v síti X používat buď označením účtu Grok ve zprávě a zadáním požadavku, nebo kliknutím na ikonu Grok, která otevře chatové okno podobné rozhraní ChatGPT od OpenAI.
Bezpečnostní tým podotkl, že pracuje na přidání dalších ochranných prvků a podniká „rychlé a rozhodné kroky“ k odstraňování nezákonného nebo porušujícího obsahu, pozastavuje účty porušující pravidla a v případě potřeby spolupracuje s úřady a orgány činnými v trestním řízení v příslušných zemích.
„Nadále jsme odhodláni učinit X bezpečnou platformou pro všechny a zachováváme nulovou toleranci vůči jakýmkoli formám sexuálního zneužívání dětí, nedobrovolné nahoty a nevyžádaného sexuálního obsahu,“ konstatovala společnost X v prohlášení.
„Podnikáme kroky k odstranění vysoce prioritního závadného obsahu, včetně materiálů zobrazujících sexuální zneužívání dětí (CSAM) a nedobrovolné nahoty, a přijímáme odpovídající opatření vůči účtům, které porušují pravidla X. Zároveň podle potřeby nahlašujeme účty hledající materiály související se sexuálním vykořisťováním dětí orgánům činným v trestním řízení.“
Vyšetřování v Kalifornii
Tento krok následuje poté, co několik úřadů po celém světě zahájilo vyšetřování nebo podalo žaloby proti sociální platformě Elona Muska.
Dne 14. ledna kalifornský guvernér Gavin Newsom napsal na síti X, že vyzval státního generálního prokurátora, „aby okamžitě zahájil vyšetřování společnosti a pohnal xAI k odpovědnosti“.
Uvedl, že sociální platforma se stala „líhní“ pro šíření „nedobrovolných sexuálně explicitních AI deepfakeů“.
Kalifornský generální prokurátor Rob Bonta téhož dne napsal na síti X, že chatbot je využíván k vytváření „deepfake nedobrovolných intimních snímků používaných k obtěžování žen po celém internetu“.
Bonta poznamenal, že stát bude od společnosti xAI, Muskova vývojářského podniku v oblasti AI, požadovat odpovědi ohledně jejích plánů „zastavit vytváření a šíření tohoto obsahu“.
Deník Epoch Times kontaktoval společnost xAI s žádostí o komentář, firma však odpověděla pouze automatickou zprávou.
Vyšetřování ve Spojeném království a Malajsii
Dne 12. ledna zahájil britský regulační úřad pro komunikace vyšetřování společnosti X s tvrzením, že porušila britské zákony tím, že nesplnila povinnosti chránit lidi ve Spojeném království před nezákonným obsahem.
Ještě před veřejným oznámením bezpečnostního týmu X sdělil britský premiér Sir Keir Starmer 14. ledna poslancům v Dolní sněmovně, že byl toho rána informován, že X „jedná tak, aby zajistila plný soulad s britským právem“.
„Pokud ano, je to vítané, ale nehodláme ustoupit. X musí jednat. Přijmeme nezbytná opatření. Posílíme stávající zákony a připravíme další legislativu, pokud to bude nutné, a Ofcom bude pokračovat ve svém nezávislém vyšetřování,“ řekl Starmer.
Malajsie oznámila 13. ledna, že zahajuje právní kroky proti společnostem X a xAI kvůli jejich selhání při zajištění bezpečnosti uživatelů.
Malajsijská komise pro komunikace a multimédia uvedla, že identifikovala zneužití Groku „k vytváření a šíření škodlivého obsahu“, včetně sexuálně explicitních a nedobrovolně manipulovaných snímků. Komise dodala, že společnosti Elona Muska mohou nést odpovědnost podle malajsijského práva, i když byl obsah generován uživateli.
Oznámení Malajsie přišlo několik dní poté, co země uvedla, že zablokuje přístup ke Groku, přičemž Indonésie rovněž pozastavila přístup k tomuto generátoru obsahu.
–ete–
