Co se stalo, když jsme vytvořili účet na Snapchatu pro třináctiletou dívku

Zatímco Snapchat čelí záplavě občanskoprávních žalob – ze strany rodičů, kteří přišli o své děti, školských obvodů i generálních prokurátorů jednotlivých států – kvůli údajným škodám způsobeným mladým uživatelům, provozovatel této sociální sítě v posledních letech zavedl funkce, které mají chránit před nebezpečími, jako je nelegální prodej drog a sexuální vykořisťování.

Několik nedávných studií, které financovaly organizace na ochranu dětí a které vznikly až po zavedení těchto funkcí, však nabízí představu o tom, čemu jsou mladí lidé v aplikaci vystavováni.

Jedna ze studií organizace Heat Initiative zjistila, že Snapchat během 12 hodin doporučil dvěma účtům s virtuálními identitami třináctiletých celkem 739 „nebezpečných“ videí. Z toho 257 souviselo s drogami a alkoholem a 244 mělo sexuální obsah. Aplikace jim také doporučila 419 neznámých lidí jako přátele, mezi nimi nejméně šest tvůrců sexuálního obsahu a tři osoby nabízející drogy.

K dalšímu problematickému obsahu patřilo násilí, trestná činnost, poruchy příjmu potravy, sebepoškozování a sebevraždy.

V jiné studii výzkumníci oslovili 1 106 uživatelů ve věku od 10 do 17 let a zjistili, že 56 procent z nich se během předchozího roku setkalo s „nebezpečným obsahem“ nebo zprávami. Aplikace sice vyžaduje, aby uživatelům bylo alespoň 13 let, účet si však může založit kdokoli a uvést nepravdivý věk.

Třetí studie, zveřejněná koncem minulého měsíce, hodnotila bezpečnostní prvky aplikace a zjistila, že osm z 11 nefungovalo.

Podle zastánců bezpečnosti dětí je to závažné, protože aplikaci používá více než polovina amerických dospívajících a podle Snapchatu také přibližně 90 procent lidí ve věku od 13 do 24 let na celém světě. Snapchat je známý zprávami, které po určité době zmizí, filtry s rozšířenou realitou a sdílením aktuální polohy.

Společnost Snap Inc. v otevřeném dopise adresovaném organizacím Heat Initiative a Parents Together Action zpochybnila metodiku studie a varovala před tím, co označila za „sisyfovský koloběh“ obav z technologií.

„Varujeme před vyvozováním dalekosáhlých závěrů ze zprávy, která vychází z několika účtů vytvořených ‚výzkumníky‘, nikoli ze skutečné zkušenosti nového uživatele, a která se zdá být koncipována tak, aby vytvářela znepokojivé titulky, namísto objektivního posouzení bezpečnosti dospívajících na internetu,“ napsala společnost. Dodala, že výzkum odvozuje svá obecná tvrzení z „omezeného a nereprezentativního vzorku“ a současně přehlíží rozsáhlá ochranná opatření.

Společnost Snap zejména naznačila, že účty s virtuálními identitami vytvořené výzkumníky mohly ovlivnit výsledky, protože výzkumníci použili již dříve používané telefony a vyhledávali citlivá témata. Z „omezeného šetření“, které sice mohlo odhalit problémy v krajních případech, poté vyvodili obecné závěry, jež však mají jen málo společného s běžnou zkušeností dospívajících uživatelů aplikace.

Výzkum Epoch Times však přinesl vlastní výsledky.

Nevyžádaný sexuální obsah

S čím se může dospívající dívka setkat, když si založí nový účet na Snapchatu?

Abychom to zjistili, vytvořili jsme vlastní virtuální identitu třináctileté dívky na „čistém“ chytrém telefonu s operačním systémem Android – na zcela novém zařízení bez kontaktů či jiných dříve uložených údajů.

Jedinými údaji, které jsme zadali, byly pohlaví – ženské – a smyšlené datum narození. Přesto začal účet téměř okamžitě dostávat zdánlivě nevyžádaný proud obsahu zachycujícího názorně napodobované sexuální akty a sexuální násilí či idealizujícího incest, sexuální vztahy mezi lidmi s výrazným věkovým rozdílem a pedofilii. Takový obsah se na účtu nepřetržitě objevoval déle než týden.

V mnoha videích se objevovaly zřejmě velmi mladé dívky, které pózovaly před kamerou, přičemž jejich výrazy v obličeji navozovaly dojem, že těsně mimo záběr napodobují sexuální akty. Některá videa obsahovala texty propagující incest nebo sex se staršími muži. Jiná zdánlivě naznačovala situaci předcházející znásilnění, kdy maskovaní muži chytali ženy za kotníky.

Objevovala se také žertovná videa. Některá začínala detailním záběrem na tvář dívky zkřivenou hrůzou nebo na ruce malého dítěte zabořené v rozkroku dospělého. Teprve po oddálení kamery se ukázalo méně zlověstné vysvětlení.

Proč tedy algoritmus Snapchatu nabízel tento druh obsahu účtu vedenému na třináctiletou dívku?

Veškerý takový obsah pravidla komunity společnosti Snap zakazují. Ještě přísnější pravidla platí pro veřejné kanály, jako je funkce Spotlight – vertikální proud krátkých videí, který má konkurovat službám TikTok, YouTube Shorts a Instagram Reels.

Společnost Snap zejména naznačila, že účty s virtuálními identitami vytvořené výzkumníky zkreslily výsledky tím, že výzkumníci použili telefony s vymazanými daty a vyhledávali citlivá témata, načež z „omezeného šetření“ vyvodili obecné závěry.

Společnost Snap po zhlédnutí více než 50 snímků obrazovky – tedy poměrně skromného vzorku – s obsahem, na který ji upozornil deník Epoch Times, uznala, že videa porušují její pravidla komunity. Neodpověděla však na otázky, proč a jak mohl algoritmus třináctileté uživatelce sestavit právě takový proud obsahu.

Společnost nám sdělila, že po prošetření obsah porušující pravidla odstraňuje a získané poznatky využívá ke zdokonalování svých „systémů doporučování“.

Zástupci společnosti se během rozhovorů opakovaně ptali, zda jsme použili „vymazaný“ telefon, v němž byla dříve uložena jiná data, nebo telefon skutečně „čistý“. Uvedli rovněž, že „signály“ vysílané telefonem či pocházející z „jiných míst“ může ovlivňovat mnoho dalších faktorů. Blíže je však nevysvětlili ani neuvedli žádné příklady.

V experimentu Epoch Times byl telefon zcela nový, nebyl připojen k účtu mobilního operátora a kromě nového účtu Gmail, vytvořeného výhradně za účelem založení účtu na Snapchatu, neobsahoval žádná další data.

Podle zveřejněných pravidel společnosti by se takový obsah ve veřejném kanálu, jako je Spotlight, vůbec neměl objevovat – natož v takovém množství a intenzitě, jaké jsme zaznamenali při našem experimentu.

„Veřejný obsah předem kontrolujeme, než jej lze doporučit širokému publiku, a aktivně vyhledáváme a postihujeme veřejné účty, které by se mohly snažit nabízet dospívajícím nevhodný obsah,“ uvedla společnost v příspěvku z 10. června, v němž oznámila zdokonalené bezpečnostní prvky pro mladé uživatele.

„Myslím, že lidé netuší, jak vážná je situace“

Rodiče, včetně těch, kteří přišli o děti v důsledku neúmyslné otravy fentanylem, jež podle nich souvisela se Snapchatem, tvrdí, že platforma se měla začít zodpovídat za bezpečnost mladých uživatelů už dávno.

„Věnuji se tomu od roku 2021 a celou dobu se potýkám se šablonovitými odpověďmi Snapchatu na tuto krizi. Žádná z nich přitom nemá skutečný význam.“

Jaime Puerta, rodič a občanský aktivista

„Snažím se držet svůj hněv na uzdě,“ řekl Epoch Times rodič a občanský aktivista Jaime Puerta, když dostal otázku ohledně nových bezpečnostních prvků společnosti Snap.

„Věnuji se tomu od roku 2021 a celou dobu se potýkám se šablonovitými odpověďmi Snapchatu na tuto krizi. Žádná z nich přitom nemá skutečný význam,“ uvedl Puerta, který vede vzdělávací a občanskou organizaci Victims of Illicit Drugs.

Nečinnost společnosti podle Puerty „znamená smrt dalších tisíců a tisíců dětí“.

„O tomto problému vědí nejméně od roku 2017,“ řekl.

V dubnu 2020, kdy pandemie covidu-19 i celonárodní epidemie fentanylu začínaly dosahovat vrcholu, našel Puerta svého šestnáctiletého syna Daniela v jeho pokoji v bezvědomí.

Na Danielově prádelníku objevil zbývající polovinu modré tablety, která vypadala přesně jako farmaceuticky vyráběný oxykodon. Později však zjistil, že šlo o nelegálně vyrobený fentanyl upravený tak, aby vypadal jako opioidní lék na předpis.

„Myslím, že lidé netuší, jak vážná je situace,“ řekl Sam Chapman, významný zastánce legislativních změn. Společně s Puertou patří k více než 60 rodinám, které u Vrchního soudu v Los Angeles žalují společnost Snap kvůli zavinění smrti a odpovědnosti za škodu způsobenou výrobkem.

Chapman uvedl, že jeho syn Sammy zemřel v roce 2021 na otravu fentanylem poté, co si koupil padělanou tabletu od dealera, který ho oslovil na Snapchatu a smrtelnou dávku mu následně doručil „jako pizzu“. Bylo mu 16 let.

Rodič a občanský aktivista Sam Chapman uvedl, že opatření společnosti Snap nestačí na dospívající, kteří vyrůstají s digitálními technologiemi. Bezpečnostní prvky navíc často buď od samého začátku nefungují, rodiče jim dostatečně nerozumějí, nebo je vůbec nepoužívají.

„Všechno, co Snap udělal, je jen reklamní tah. […] Žádné z těch opatření ve skutečnosti nefunguje,“ sdělil Chapman Epoch Times.

Tvrdí například, že nové omezení společnosti pro přidávání přátel – podle nějž musí mít uživatel daného člověka buď v kontaktech v telefonu, nebo s ním mít společné přátele – dealerům a dalším predátorům v přístupu k dětem příliš nebrání.

„Řekněme, že se chci dostat mezi žáky ve škole svého syna. Jsem zločinec, že? Kvůli novému pravidlu se nemohu spojit se všemi těmi dětmi,“ vysvětlil Chapman.

„Jakmile se však spojím s jedním z nich, mohu se přes něj dostat ke všem ostatním, protože jsem prošel bránou, kterou Snapchat vytvořil. Zločince tedy zdrželi o jedno stisknutí klávesy. Nic víc.“

„Takhle se můžete dostat ke každému patnáctiletému dítěti na světě.“

Jakmile se uživatelé propojí, mohou prostřednictvím živé mapy vidět přesnou polohu toho druhého. Chapman tuto funkci označuje za „nejnebezpečnější ze všech“.

Nedávné „opravy“ se podle něj nedokážou čelit dospívajícím, kteří vyrůstají s digitálními technologiemi. Bezpečnostní opatření navíc často buď od samého začátku nefungují, rodiče jim dostatečně nerozumějí, nebo je vůbec nepoužívají.

„Kdokoli si spustí Snapchat a založí si účet, může uvést libovolně nízký věk a všechen ten odpad mu začnou posílat hned první den,“ řekl Chapman.

Příklad společnosti Tylenol

Společnost Snap uvádí, že v boji proti fentanylové krizi zvolila několikavrstvý přístup. Patří k němu potlačování souvisejících výsledků vyhledávání, osvětové kampaně, investice do nástrojů pro orgány činné v trestním řízení a využívání umělé inteligence, která odstraní 90 procent obsahu spojeného s nelegálními drogami ještě předtím, než jej uživatelé vůbec nahlásí.

Paul DelPonte, výkonný ředitel Národní rady pro prevenci kriminality, tvrdí, že samotným přidáváním bezpečnostních prvků nelze rizika odstranit. Přirovnává to k namontování airbagu do vadného automobilu.

„Platformy musejí od základu přepracovat a nově navrhnout nebezpečné prvky svých algoritmů i další funkce,“ řekl Epoch Times.

Maskot rady, pes McGruff bojující proti kriminalitě, působí podle DelPonteho na všech sociálních sítích – s jedinou výjimkou, kterou je Snapchat.

„Na Snapchat vůbec nevstupujeme, protože je příliš nebezpečný,“ řekl. „Tato platforma navíc není vhodná pro veřejnou osvětu.“

Rada odhaduje, že fentanyl figuruje v 70 procentech úmrtí dospívajících souvisejících s drogami ve Spojených státech a že osm z deseti smrtelně nebezpečných padělaných tablet se prodá prostřednictvím sociálních sítí. Snapchat přitom patří mezi nejčastěji zmiňované platformy.

DelPonte uvedl, že odhad 80 procent vychází z údajů za rok 2025 pocházejících z různých zpráv federální vlády a také z rozhovorů s lidmi, kteří se podíleli na jejich sestavování.

Podle amerického Centra pro kontrolu a prevenci nemocí klesá od roku 2024 počet úmrtí na předávkování drogami ve všech věkových skupinách. Mezi lidmi ve věku od 15 do 24 let poklesl o 37 procent.

DelPonte tento vývoj nepřičítá žádným novým bezpečnostním prvkům, nýbrž řadě vnějších faktorů, mimo jiné rozsáhlé distribuci naloxonu, zásahům federálních úřadů a válkám mezi drogovými kartely.

Z údajů Centra pro kontrolu a prevenci nemocí lze podle něj odvodit, že počet úmrtí dospívajících na předávkování, která nějak souvisejí se sociálními sítěmi – a zejména se Snapchatem – se může pohybovat „v desítkách tisíc, což je naprosto ohromující“.

DelPonte uvedl, že jde stále o jednoznačnou otázku odpovědnosti za škodu způsobenou výrobkem. Podle něj by se k ní mělo přistupovat se stejnou naléhavostí a se stejným požadavkem na vyvození odpovědnosti jako k historickým krizím, jež vedly k reformám – například k případu otráveného Tylenolu z 80. let.

Při této události „lidé záhadně umírali. […] Společnost Johnson & Johnson okamžitě nařídila celostátní stažení výrobku z trhu a zastavila výrobu, dokud nezjistila, co se děje. V tu chvíli dokonce ani nevěděla, zda je to její vina,“ řekl.

Celkem sedm lidí zemřelo po požití Tylenolu z lahviček, do nichž neznámý pachatel vložil kyanid draselný.

„Znáte ty ochranné uzávěry a fólie, jimiž jsou dnes opatřeny všechny výrobky určené ke konzumaci? Tak vznikly. Společnost převzala odpovědnost,“ řekl DelPonte. „V případě sociálních sítí však jejich provozovatelé vynakládají obrovské částky na lobbování a soudní spory, aby se jakékoli odpovědnosti vyhnuli.“

„Navržen jinak“

Ve své reakci na zprávu organizace Heat Initiative z 29. června společnost Snap připustila, že většina příkladů „nebezpečného obsahu“ porušuje její pravidla komunity. Zdůraznila však, že „riziko“ není totéž co „újma“ – ne všechny případy vystavení takovému obsahu vyžadují stejnou reakci.

„Pokud se takto široké kategorie obsahu sloučí do jediného titulku, výsledkem je spíše zmatek než jasnější obraz,“ uvedla společnost Snap. „Možná je to navrženo tak, aby to upoutalo pozornost, rodičům, tvůrcům politik ani samotným platformám to však nepomáhá pochopit relativní závažnost jednotlivých rizik, způsoby, jimiž jsou jim uživatelé vystavováni, ani to, která opatření s největší pravděpodobností omezí možné škody.“

Snap tvrdí, že jeho aplikace byla „navržena jinak“ – po spuštění se otevře přímo fotoaparát, nikoli kanál s příspěvky. Společnost uvádí, že tento i další klíčové bezpečnostní prvky představují „významná rozhodnutí při navrhování aplikace“, která Snapchat odlišují od konkurence.

Kanály Stories a Spotlight jsou však vzdáleny pouhé jedno kliknutí.

Důkazní břemeno by podle zastánce bezpečnosti na sociálních sítích Marca Berkmana mělo nést Snap, který má prokázat, že je jeho produkt bezpečný – nikoli výzkumníci, kteří mají dokazovat opak.

Aby si všechny hlavní aplikace udržely konkurenceschopnost na nelítostném trhu, začlenily některou z verzí těchto kanálů s krátkými videi na výšku. Někteří odborníci tvrdí, že právě tento formát může být mimořádně návykový a škodlivý pro mozek dospívajících.

„Prostřednictvím Spotlightu se snaží přejít k modelu kanálu TikToku,“ uvedl Marc Berkman, generální ředitel neziskové organizace Organization for Social Media Safety.

Berkman je přesvědčen, že „Snap skutečně napomáhá vzniku závažných a bezprostředních škod, ale také opakovaného poškozování způsobeného snahou maximalizovat zapojení uživatelů“.

Reakce společnosti na nedávné výzkumy podle Berkmana neodpovídá na nejdůležitější otázky: „Proudí k dětem před pubertou a dospívajícím nebezpečný obsah? Ano. Brání tomu společnost? Ne.“

Výzkumy podle něj ukazují, že počet dětí poškozených takovým obsahem a kontakty, na které upozorňují zprávy organizace Heat Initiative – například kyberšikanou, sextingem či násilím – se napříč sociálními sítěmi pohybuje v milionech.

„Existují jednoznačné důkazy, že je to velmi nebezpečné,“ uvedl Berkman.

Důkazní břemeno by podle něj mělo ležet na společnosti Snap, která má prokázat, že je její produkt bezpečný – nikoli na výzkumnících, kteří mají dokazovat opak.

Situaci podle Berkmana dále zhoršuje skutečnost, že američtí dospívající tráví podle některých odhadů na sociálních sítích v průměru pět hodin denně.

„Pokud se objeví něco špatného a jde o ojedinělý případ, budiž. Něco špatného, čemu je však člověk vystaven pět hodin denně každý den v roce, se stává katastrofou. To si nikdo nepřipouští,“ řekl.

Veřejné mínění

Rodiče, kteří připisují úmrtí svého dítěte škodlivému působení sociálních sítí, popisují Snapchat jako znepokojivou kombinaci návykovosti a nebezpečí v reálném světě.

„Jde o zprávy, které po určité době zmizí. O skutečnost, že k našim dětem mají přístup cizí lidé. O návykové algoritmické funkce – to všechno je špatné a děsivé,“ uvedla Amy Nevilleová, žalobkyně ve vzorovém soudním sporu proti společnosti Snap kvůli zavinění smrti.

„Učí vaše dítě, aby se na jejich platformu vracelo každý den, protože je odměňují. Prostřednictvím herních prvků jim poskytují příval dopaminu, který je nutí vracet se pro další a další,“ řekla Nevilleová, jejíž syn Alexander zemřel v roce 2020 ve věku 14 let na otravu fentanylem.

„Pokud budou lidé nadále přistupovat na mimosoudní vyrovnání a Snapchat se před soud nedostane, nezjistíme, jaký postoj veřejnost ve skutečnosti zastává.“

Amy Nevilleová, zakladatelka Nadace Alexandera Nevillea

Nevilleová věří, že si lidé tento problém postupně začínají uvědomovat a že rozhodující úlohu sehraje veřejné mínění, které budou utvářet nové výzkumy a soudní procesy.

„Rodiče byli velmi tvrdě odsuzováni: ‚Měli jste mu telefon vzít. Samozřejmě že vaše dítě zemřelo, když jste mu dovolili příliš mnoho.‘ Slyšela jsem už všechno. Jakmile však padl rozsudek, postoj lidí se změnil,“ uvedla.

V březnu porota v Los Angeles nařídila společnostem Meta a Google zaplatit šest milionů dolarů (přibližně 124 milionů korun) v prvním vzorovém soudním procesu týkajícím se závislosti na sociálních sítích.

Po vynesení rozsudku se podle Nevilleové „lidé začali stavět na naši obranu“.

Připouští, že mezi mnoha občanskoprávními žalobami, které nyní postupně procházejí soudy, mají žaloby proti společnosti Snap kvůli zavinění smrti „nejmenší naději na úspěch“. Důvodem je přetrvávající stigma spojené s užíváním drog.

Doufá však, že se prosadí jiný pohled – nejen na znepokojivou skutečnost, že děti dnes chodí nakupovat drogy na internet, ale také na záměrně vytvořené prostředí, v němž tak činí.

Společnost Snap dosud vyřešila několik ostře sledovaných případů mimosoudním vyrovnáním namísto toho, aby je nechala dojít až k soudnímu řízení. Naposledy tak učinila v procesu týkajícím se závislosti na sociálních sítích u Vrchního soudu v Los Angeles.

„Pokud budou lidé nadále přistupovat na mimosoudní vyrovnání a Snapchat se před soud nedostane, nezjistíme, jaký postoj veřejnost ve skutečnosti zastává. Ze všeho nejvíce chci, aby lidé věděli, že je tento problém skutečný a že s ním můžeme něco dělat,“ uvedla Nevilleová.

„Existují způsoby, jak si od těchto společností vzít moc zpět.“

–ete–