Algoritmy Instagramu propojují rozsáhlou síť pedofilů, zjistilo vyšetřování deníku The Wall Street Journal, Stanfordovy univerzity a Massachusettské univerzity v Amherstu.
Šetření hlavního technologa Davida Thiela, vedoucí výzkumu Renée DiResty a ředitele Alexe Stamose ze Stanfordské internetové observatoře zjistilo, že rozsáhlá síť anglicky mluvících účtů na sociálních sítích nakupuje, prodává a sdílí materiály týkající se sexuálního zneužívání dětí (CSAM) na několika sociálních sítích.
Některou dětskou pornografii vytvářejí děti nebo dospívající, kteří se snaží vydělat peníze, udělat dojem na partnera nebo ukojit vyděrače. Zpráva tento obsah nazývá materiálem sexuálního zneužívání dětí vytvořeným samotnými uživateli (SG-CSAM).
Pedofilní účty navigují tyto účty prostřednictvím hashtagů odkazujících na pedofilii, uvádí se ve stanfordské zprávě. Některé z těchto odkazů jsou zjevné, například hashtagy, které používají variace slov jako „pedo“. Další odkazy používají emotikony, zmínky o kódových slovech pedofilů nebo jiné záludné narážky, dodává zpráva.
Algoritmy sociálních médií účinně sloužily jako kuplíři, kteří spojovali pedofily s dětmi, naznačují zjištění ve zprávě. Jejich doporučení a návrhy protlačovaly pedofilní obsah do rukou těch, kteří po něm toužili.
Ačkoli Instagram je nejdůležitější platformou pro pedofilní sítě, pedofily s jejich oběťmi, a mezi sebou navzájem propojují i další stránky, včetně Twitteru, Telegramu, Discordu, Snapchatu, TikToku, Mastodonu a dalších, uvádí zpráva.
Algoritmy sociálních médií vytvořily systém, v němž si tisíce pedofilů kupují pornografické snímky, pornografická videa, online video schůzky, a dokonce i osobní setkání s dětmi a dospívajícími, uzavírá zpráva.
„V posledních letech se tvorba a distribuce SG-CSAM stává čím dál více komerční. Tato komercializace často kopíruje vzor legitimní nezávislé produkce obsahu pro dospělé,“ uvádí se ve zprávě.
Jak to funguje
Podle vyšetřovatelů se účty na sociálních sítích, kde děti produkují porno, podobají pornografickým stránkám, jako je například OnlyFans. Oběti vytvářejí „menu“ sexuálních aktů, o které mohou zákazníci požádat. Zákazníci za sexuální akty platí prostřednictvím výměny dárkových karet, výměnných platforem, jako je G2G, a dalších webových stránek, které umožňují anonymní platby, uvádí se v závěru zprávy.
Na sociálních sítích má mnoho účtů tendenci uvádět věk mezi 13 a 17 lety, uvádí zpráva a dodává, že často tyto děti prodávají své sexuální fotografie z mnohem mladšího věku.
„Nabídka“ může obsahovat sexuálně explicitní videa, sexuálně explicitní fotografie, videa o sebepoškozování, videa sexuálních aktů se zvířaty, videa z doby, kdy byly děti mladší, a placené sexuální akty.
Prodejci používají jednoduché triky, aby přelstili algoritmy sociálních médií, uvádí zpráva. Vyměňují číslice věku, např. „16“ na „61“ částečně mažou slova o sexuálním obsahu a používají kódová slova, jako je „menu“, dodává zpráva. Autoři odhadují, že existuje 500 až 1 000 účtů prodejců a tisíce jejich sledujících.
Nápomocné algoritmy
Pedofilové a prodejci nemusí složitě hledat, aby se našli, protože algoritmy udělají práci za ně, píše se ve zprávě. Většina klíčových slov, která se týkají dětské pornografie, vrací výsledky na webových stránkách Instagramu, uvádí zpráva.
U některých výrazů však Instagram zobrazí varovnou zprávu: „Tyto výsledky mohou obsahovat obrázky sexuálního zneužívání dětí. Sexuální zneužívání dětí nebo prohlížení sexuálních snímků dětí může vést k uvěznění a dalším závažným důsledkům. Toto zneužívání způsobuje dětem mimořádnou újmu a vyhledávání a prohlížení takových materiálů k této újmě přispívá. Chcete-li získat důvěrnou pomoc nebo se dozvědět, jak nahlásit jakýkoli obsah jako nevhodný, navštivte naše Centrum zdraví.“
V dolní části zprávy Instagram nabízí uživatelům dvě možnosti: „Získat zdroje“ je jedna z nich. „Přesto si prohlédněte výsledky“ je druhá.
„Vzhledem k rozšířenému používání hashtagů, relativně dlouhé životnosti účtů prodávajících a zejména účinnému doporučovacímu algoritmu slouží Instagram jako klíčový mechanismus pro objevování této specifické komunity kupujících a prodávajících,“ upozorňuje report.
Reakce společností
Zástupce společnosti Meta, která Instagram vlastní, sdělil deníku The Epoch Times, že společnost „agresivně“ bojuje proti dětské pornografii na všech svých platformách.
„Predátoři ve snaze ublížit dětem neustále mění své taktiky, a proto máme přísné zásady a technologie, které jim brání najít nebo komunikovat s dospívajícími v našich aplikacích, a zaměstnáváme týmy specialistů, kteří se zaměřují na pochopení jejich vyvíjejícího se chování, abychom mohli eliminovat sítě zneužívající děti,“ uvedl zástupce.
V letech 2020 až 2022 týmy společnosti Meta zlikvidovaly 27 pedofilních sítí, uvedl zástupce společnosti Meta. V lednu 2023 společnost Meta deaktivovala více než 490 000 účtů, které porušovaly zásady bezpečnosti dětí, dodal zástupce.
Twitter má na své platformě také děti vytvářející dětské porno, dodává zpráva. Ačkoli Twitter je v odstraňování pedofilního obsahu úspěšnější, ti, kteří si prohlížejí některé účty prodejců, stále dostávají doporučení na jiné účty prodejců, uvádí zpráva.
Kromě toho Twitter umožňuje nahotu, což usnadňuje výskyt dětského porna na platformě, uvádí se ve zprávě. Někdy účty zveřejňovaly více obrázků, o nichž bylo známo, že jsou dětským pornem, než je Twitter odstranil, napsali vyšetřovatelé a dodali, že od té doby, co se o tomto problému společnost dozvěděla, z velké části jej odstranila.
Tisková linka Twitteru na náš dotaz automaticky odpověděla emotikonem hovínka.
Komerční skupiny s dětským pornem na komunikačních aplikacích Discord a Telegram měly tisíce členů, zjistili vyšetřovatelé. Podle zprávy se oficiální zásady Telegramu nezabývají dětským pornem v soukromých chatech, sexualizací dětí a groomingem. Zásady služby Discord sexualizaci dětí neřeší.
Mluvčí Telegramu Remi Vaughn sdělil deníku The Epoch Times, že web usilovně pracuje na moderování obsahu zneužívání dětí ve veřejných částech aplikace.
„V případě obsahu zneužívajícího děti zveřejňujeme denně zprávy o našem úsilí na adrese t.me/stopca. V době psaní tohoto článku bylo tento měsíc odstraněno téměř 10 tisíc skupin, kanálů a botů,“ uvedl Vaughn a dodal, že „tyto skupiny na Telegramu a Discordu měly stovky nebo tisíce uživatelů. Některé z nich zřejmě spravovali jednotliví prodejci, ačkoli existovaly i skupiny s více prodejci. Epoch Times se obrátil na společnost Discord, ale neobdržel žádné vyjádření.
Na Snapchatu se mohou pedofilové spojit přímo s dětmi prostřednictvím funkcí pro vzájemnou komunikaci, uvádí zpráva. Ani od Snapchatu jsme neobdrželi žádné vyjádření k obvinění.
TikTok odvedl lepší práci při omezování pedofilního obsahu, poznamenala zpráva. „Skutečnost, že TikTok je mnohem více orientován na doporučování obsahu namísto objevování na základě hashtagů nebo doporučení přátel, také ztěžuje uživatelům záměrné objevování konkrétních typů materiálů.“
Menší roli v pedofilních sítích hrály také Mastodon a Facebook. Mastodon postrádá přímé zprávy pro komunikaci s uživateli a Facebook má politiku „skutečných jmen“, která by pedofilům zabránila v anonymitě, uvádí zpráva.
Zastavte zneužívající osoby nebo zastavte podnikání
Podle Jona Uhlera, psychologa s patnáctiletou praxí s více než 4 tisíci sexuálními predátory, tento příběh ukazuje, jak kreativně predátoři pronásledují děti. „Jejich temná kreativita nezná mezí,“ řekl.
Dodal, že společnost ignoruje, jak sexuálně explicitní obsah vede k sexuálnímu predátorství tím, že snižuje obranyschopnost dětí. „Každý, kdo se zabývá vývojem dětí, chápe, že pokud jim představíte vysoce sexualizovaný obsah, který je nad úrovní jejich vývojových schopností ho zpracovat a pochopit, připravíte je na to, že se stanou snadnou kořistí, protože nemají intuitivní smysl pro zlé úmysly,“ vysvětluje Uhler.
Kromě toho se muži při sledování velkého množství porna stávají dravými, míní psycholog. „Deviace začíná chtíčem a pak objektivizací. A pak se dostane k moci, kontrole a ponižování a nakonec k touze po negativním účinku.“
Uhler dodal, že sexuální deviace funguje u mužů jinak než u žen. Muži jsou podle něj mnohem náchylnější k tomu, aby se touto cestou vydali. „Sexuální delikventky a sexuální delikventi jsou od přírody odlišní, pokud jde o povahu jejich trestného činu. Nikdy neuvidíte žádnou ženu zatčenou za sexuální trestný čin, která by na své oběti použila předměty.“
Uhler uvedl, že společnosti provozující sociální média by měly učinit ze zastavení predátorů svou prioritu. Uvedl také, že společnosti jsou plně schopné pedofilní predátory zastavit. „Jste schopní, opravdu schopní. Pokud neděláte ochranu dětí, zavřete své stránky,“ vzkázal společnostem provozujícím sociální sítě.
Z anglického originálu na The Epoch Times přeložil Ondřej Horecký.
