„Meta a Zuckerberg by měli nést plnou odpovědnost za veškerou újmu, kterou tito boti způsobí,“ uvedl jeden ze senátorů.
Dva republikánští senátoři 14. srpna vyzvali ke kongresovému vyšetřování společnosti Meta Platforms, mateřské firmy Facebooku, poté co nedávná zpráva médií odhalila interní dokument, který umožňoval firemním chatbotům vést s dítětem „romantické nebo smyslné“ konverzace.
Ve čtvrtek agentura Reuters uvedla, že viděla interní dokument společnosti Meta s pravidly chování chatbotů, jenž povoloval technologii „zapojit se s dítětem do konverzace, která je romantická nebo smyslná“, poskytovat nesprávné lékařské informace a pomáhat uživatelům obhajovat tvrzení, že černoši jsou „hloupější než běloši“.
Meta potvrdila pravost dokumentu, avšak sdělila, že po nedávných dotazech od Reuters odstranila části, které uváděly, že chatbot smí s dětmi flirtovat či se účastnit romantického hraní rolí.
Mluvčí společnosti Meta Andy Stone řekl, že firma dokumenty aktuálně reviduje a že tento druh konverzací s dětmi neměl být nikdy povolen.
„Předmětné příklady a poznámky byly a jsou chybné, v rozporu s našimi pravidly, a byly odstraněny,“ konstatoval Stone Reuters. „Máme jasná pravidla, jaké typy odpovědí mohou postavy umělé inteligence (AI) poskytovat, a tato pravidla zakazují obsah, který sexualizuje děti, i sexualizované hraní rolí mezi dospělými a nezletilými.“
Na platformě X senátor Josh Hawley (republikán z Missouri) společnost kritizoval za to, že údajně změny provedla až po dotazech Reuters.
„Takže až poté, co Meta BYLA PŘISTIŽENA, stáhla části svého firemního dokumentu, které označovaly za ‚přípustné, aby chatboti flirtovali a zapojovali se do romantického hraní rolí s dětmi‘,“ podotkl Hawley. „To je důvod k okamžitému kongresovému vyšetřování.“
Mluvčí senátorky Marshy Blackburnové (republikánka z Tennessee) uvedla, že podporuje vyšetřování společnosti Meta.
Po Hawleyho výzvě k vyšetřování mluvčí firmy Meta zopakoval předchozí vyjádření společnosti. Odmítl však komentovat Hawleyho poznámky.
Blackburnová podotkla, že tato zpráva zdůrazňuje potřebu přijmout reformy pro lepší ochranu dětí na internetu, jako je Zákon o bezpečnosti dětí na internetu (Kids Online Safety Act). Senátorka byla spolupředkladatelkou návrhu, který Senát loni schválil poměrem hlasů 91–3 napříč stranami, avšak Sněmovna jej neschválila.
Návrh zákona požadoval, aby určité platformy, jako sociální sítě, „přijaly přiměřená opatření při návrhu a provozu produktů nebo služeb využívaných nezletilými, aby zabránily a zmírnily určitá rizika, která mohou z toho využívání vyplývat (např. sexuální zneužívání a online šikana)“.
„Dále musí dotčené platformy poskytnout (1) nezletilým určité záruky, například nastavení omezující přístup k osobním údajům nezletilých; a (2) rodičům nebo zákonným zástupcům nástroje k dozoru nad používáním platformy nezletilými, například kontrolu nastavení soukromí a účtu,“ stojí v návrhu zákona.
Blackburnová návrh Zákona o bezpečnosti dětí na internetu znovu předložila v květnu.
„Pokud jde o ochranu drahocenných dětí na internetu, Meta na celé čáře selhala v každém myslitelném ohledu. Ještě horší je, že společnost přehlížela ničivé následky toho, jak jsou její platformy navrženy,“ dodala Blackburnová.
Zákon by také výslovně stanovil „povinnost péče“, kterou mají provozovatelé sociálních sítí ve vztahu k využívání jejich produktů nezletilými, se zaměřením na regulaci firem a návrhu platforem.
Podle agentury Reuters dokument společnosti Meta uvádí, že dotčené standardy nutně neodrážejí „ideální ani preferovatelné“ výstupy generativní AI. Analýza agentury však ukázala, že provokativní výstupy botů byly povoleny.
Deník Epoch Times nezávisle neověřil pravost předmětného dokumentu.
Senátor Ron Wyden (demokrat z Oregonu) označil tyto standardy za „hluboce znepokojivé a nesprávné“. Sdělil, že paragraf 230 zákona, který chrání internetové firmy před odpovědností za prohlášení či obsah zveřejněný na jejich platformách, by se neměl vztahovat na ochranu generativních AI chatbotů provozovaných těmito firmami.
„Meta a Zuckerberg by měli nést plnou odpovědnost za veškerou újmu, kterou tyto boty způsobí,“ řekl Wyden.
Senátor Peter Welch (demokrat z Vermontu) zmínil, že zpráva agentury Reuters „ukazuje, jak zásadní jsou bezpečnostní opatření pro AI – zejména pokud jde o zdraví a bezpečnost dětí“.
–ete–
