Míra používání umělé inteligence mezi dětmi a teenagery je vysoká a nese s sebou hrozby. Experti upozorňují, že děti mohou AI využívat nejen k učení nebo zábavě, ale i k podvádění ve škole či k tvorbě generované pornografie. S tím souvisí rostoucí zneužití, přičemž mnohé děti nevědí, jak se chránit a komu se svěřit.
„Z dat z loňského roku víme, že 70 procent dětí aktivně používá nějaký nástroj umělé inteligence, dominantní je ChatGPT,“ řekl Kamil Kopecký, vedoucí projektu E-bezpečí, na konferenci Děti, jejich intimita online a AI. Některé děti využívají AI například ke vzdělávání či inspiraci, ale i k podvádění při školních testech, uvedl Kopecký.
V poslední době však podle Kopeckého narůstá množství osobních údajů, které děti s AI sdílí. „Je tady trend chatbotů, které simulují přátele, kamarády. Máme nástroje, jako je Replika, Character AI a podobně. A ukazuje se nám, že přes 30 % českých dětí má s podobnou aplikací kontakt,“ řekl Kopecký. S virtuálním kamarádem často údajně sdílí i vysoce citlivé informace – jaké mají lásky, své pocity nebo údaje o své rodině.
Generovaná pornografie a vydírání
Podle Kopeckého jde ale stále jen o menší problém, mnohem vážnější je fenomén generované pornografie. „Z loňských dat víme, že přibližně šest procent českých dětí si pomocí AI vytvořilo svlečenou fotografii svého spolužáka či spolužačky,“ uvedl Kopecký. V poslední době se přitom oběťmi stávají nejen dívky, ale i chlapci. A tím to nekončí – až 70 procent dětí, které čelily šíření generovaných nahých fotografií, zároveň zažilo i vydírání.
Podobně to vnímá i vrchní komisař David Kovář, který působí v týmu zaměřeném na sexuální zneužívání dětí v kyberprostoru. Jako nejpalčivější problém vidí právě svlékací aplikace. „Dítěti trvá 15 sekund najít webové rozhraní, kde zdarma vytvoří takovou fotografii,“ řekl. Děti tak nevědomky vytvoří digitální stopu s nahotou a neuvědomují si rizika.
Vedoucí linky STOPonline.cz Kateřina Vokrouhlíková by se přikláněla pro nějakou formu věkové regulace a ověřování. „Podle mě se třeba devadesát procent dětí ve druhé, třetí třídě setkalo s pornografií, aniž by ji třeba vyhledávaly, třeba na ně vyskočila v reklamách či hrách. Přičemž jejich první reakce je šok, později se ale snaží materiál samy vyhledávat,“ podělila se se svými zkušenostmi z přednášení na školách Vokrouhlíková.
S tím souhlasil i Kovář, protože jeho praxe jsou kyberprostor a sociální sítě plné pornografie, což podle něj poté děti napodobují. „Opravdu máme z České republiky případy, kdy děti vyrábí pornografii v šesti, sedmi či osmi letech,“ dodal. Podle Kováře se k tomu váže selhání systému vzdělání i osvěty rodičů. Na policii totiž rodiče často přicházejí pozdě, řekl Kovář.
Pustit dokument V síti údajně nestačí, důležitá je důvěra
„Přes 70 % dětí do patnácti let používá sociální sítě a absolutně nerespektují minimálně věkový limit,“ řekl Kopecký. Ten je v České republice patnáct let, ale není nijak vymahatelný. O hranici často údajně nevědí ani rodiče, sítě totiž uvádějí limit třinácti let, ale nezabývají se tím, že si každý stát volil vlastní limit. Jako řešení ověřování věku navrhl Kopecký digitální certifikát, který by dětí získaly obdržením občanského průkazu a mohly se tak na sítích prokázat.
Podle Kováře jako prevence nestačí pouze pustit například dokument V síti nebo podobné materiály, ale diskutovat s dítětem a pokusit se kamarádsky diskutovat. „Dost často, když se u výslechů dětských obětí bavíme, co byl základní problém, tak, že se bojí rodičů, bojí se to sdělit,“ dodal Kovář.
Děti si také často myslí, že vydírání zaplacením částky skončí, pravda je však opakem, dítě je vydíráno dál, protože pachatel našel někoho, kdo je ochoten platit. „To ty děti nemají naučeno, nemají základ, že zkrátka neplatit vyděrači. Prevence je super, ale je jí málo,“ dodal Kopecký. Proto by podle něj pomohlo dát bezpečnostní základ jako povinnou část školního kurikula.
„Prevenci o bezpečnosti v kyberprostoru si přehazují mezi sebou rodiče a školy, a to je problém,“ řekl Kovář. Odborníci se zároveň shodli, že by se s informováním mělo začít brzy. „Já bych s prevencí začala klidně už v předškolním věku, v mateřských školkách,“ řekla Kovářová.
Nový rozměr sociálních sítí
Kromě již zmíněných nebezpečí umělé inteligence a sociálních sítí zmínil zakladatel startupu Elin.ai Jan Romportl i generaci videí, která podporují závislost. Sociální sítě AI využívají algoritmy, které lidem doporučují podobný obsah, aby na nich strávili co nejvíce času. „Generativní AI bude mít možnost nejenom vkládat obsah, který vytvořili lidé, rovnou bude generovat hyper personalizovaný, super stimulující obsah. Aby se skutečně nedokázali odtrhnout,“ řekl Romportl.
V současnosti s tím experimentuje například čínská firma ByteDance, která stojí za TikTokem. „Takže jsme zhruba rok, dva, možná i míň od momentu, kdy lidi budou projíždět do brain fogu (mozková mlha, pozn. red.), a většinu videí ani nevytvářeli lidí, ale bude v tu chvíli generovaná jako superstimulus,“ řekl Romportl.
Podle Romportla převažují oblasti, v nichž bude umělá inteligence škodit, nad těmi, kde může pomoci. Ale nástroje, které by měly být užitečné, po technologické stránce využívají podobné principy. „Takže je to jako se vším, co udělal člověk. První tu možnost, jak to bude ničit, a potom to sami budeme používat k tomu, abychom si pomohli,“ dodal Romportl.
