Jak se děti vracejí do škol, rodiče a učitelé zápasí s otázkou, kolik umělé inteligence (AI) je už příliš moc. Podle spisovatele Joea Allena se vzdělávací systém stane jednou z hlavních laboratoří globálního AI experimentu.
„Školy, v míře, v jaké buď nařizují, nebo podporují zavádění AI – se stanou obrovskými Petriho miskami, v nichž zjistíme, zda je lepší zachovat tradiční kulturní normy, nebo zda z každého dítěte uděláme kyborga,“ řekl Allen pro Epoch Times.
Nikdo neví, jaké budou dlouhodobé důsledky, dodává Allen, autor knihy Věk temna: Transhumanismus a válka proti lidskosti (Dark Aeon: Transhumanism and the War Against Humanity). Stejně jako populární technologie, například televize nebo přenosné tranzistorové rádio, v 60. letech šířily hudbu a poselství subkulturních hnutí, která ovlivnila generaci dětí k odklonu od kulturních norem jejich rodičů, může podle něj i AI formovat „generaci dětí zvyklých jednat se stroji v podstatě tak, jako by to byli lidé“.
Podle průzkumu mezi 850 učiteli zveřejněného v roce 2024 sítí The Wiley Network už někteří pedagogové věří, že AI bude mít negativní dopad na akademickou čestnost. Z více než dvou tisíc studentů, kteří se průzkumu zúčastnili, uvedla téměř polovina, 47 procent, že podvádění je s AI snazší.
Allen říká, že mnoho prací, které studenti odevzdávají, se nápadně podobá jedna druhé, nebo nepůsobí dojmem, že je napsal samotný student. Dokonce i vysokoškoláci přiznávají, že je AI otupuje. Podle studie zveřejněné v roce 2024 v časopise European Research Studies Journal vyjádřilo 83 procent dotázaných, převážně studentů polských vysokých škol, obavy, že AI oslabuje schopnost samostatného myšlení.
Podle průzkumu mezi 1 000 americkými vysokoškoláky z roku 2023, který provedl online magazín Intelligent, uvedla téměř třetina, že používají ChatGPT k vypracování písemných úkolů, přičemž téměř 60 procent ho využívá u více než poloviny svých zadání. Průzkum zjistil, že ze studentů, kteří AI používají, tři ze čtyř si myslí, že se jedná o podvádění. Přesto ji využívají.
V několika průzkumech vyjádřila většina rodičů obavy z dopadů používání AI na jejich děti.
Studie společnosti DoodleLearning z roku 2024 zjistila, že přibližně 80 procent z 1 000 rodičů školáků se obává vlivu AI na vzdělávání. Rodiče se podle průzkumu obávají také o soukromí, bezpečnost dat a plagiátorství.
Americké Ministerstvo školství v červenci pobídlo školy, aby děti učily, jak AI zodpovědně používat, a aby ji využívaly k „personalizaci výuky“ pro „žáky na všech úrovních“.
Díky AI hloupneme
Shannon Kronerová, klinická psycholožka, pedagožka s více než dvacetiletou praxí a autorka dětských knih, říká, že AI ovlivňuje kritické myšlení a „dehumanizuje jak učitele, tak dítě“. Podle ní umělá inteligence degraduje vzdělávání ze zdravého procesu učení založeného na vztahu učitele a žáka na chladnou transakci.
„Umělá inteligence vytváří intelektuální lenost jak u učitele, tak u studenta a… erozi zvědavosti, zakrnělý kognitivní vývoj a omezené schopnosti řešit problémy. Oslabuje logiku a úsudek,“ uvedla pro Epoch Times.
„Studenti nebudou muset provádět výzkum a probírat se studiemi, které jsou potřeba k obhájení jejich stanoviska, ať už budou muset prokazovat cokoli,“ myslí si Kronerová, která vyučovala biologii na střední škole a humanitní předměty na vysoké škole.
Pedagogové se stále častěji obracejí k AI při tvorbě osnov, protože jim to usnadňuje práci, ale nakonec je to podle ní připraví o jejich roli učitelů, zatímco studenti se budou čím dál víc spoléhat „na to, co říká robot“.
„Skutečně ztratíme to propojení mezi učitelem a studentem,“ řekla. „Čím přirozenější bude používání AI, tím spíš se k ní studenti obrátí pro odpovědi, a nebude už záležet na tom, jaká probíhá mezi učitelem a studentem diskuse. Diskuse pravděpodobně úplně zanikne. Nebude žádná diskuse.“
Nedávná studie MIT „Váš mozek na ChatGPT: Hromadění kognitivního dluhu při používání AI asistenta pro psaní esejí“ zkoumala, zda AI poškozuje schopnosti kritického myšlení. Studie kombinovala kognitivní a neurologická data od 54 studentů ve věku od 18 do 39 let. K zaznamenávání mozkové aktivity využila elektroencefalografii. Studenti byli rozděleni do tří skupin. Jedna používala ChatGPT od OpenAI, druhá vyhledávač Google a třetí pouze vlastní mozek s úkolem napsat několik esejí.
Studie zjistila, že uživatelé ChatGPT, respektive uživatelé velkých jazykových modelů, měli nejnižší mozkovou aktivitu a často sahali k odpovědím metodou kopírovat–vložit.
Během čtyř měsíců uživatelé velkých jazykových modelů „konzistentně podávali horší výkon“ na úrovni neuronální, jazykové i behaviorální, uvádí studie. Tyto výsledky vyvolávají obavy o dlouhodobé vzdělávací důsledky spoléhání se na velké jazykové modely a podtrhují potřebu hlubšího zkoumání role umělé inteligence ve vzdělávání.
Skupina používající AI byla podle Allena „zcela znuděná“ a vykazovala horší schopnost vybavovat si informace, s menší mozkovou aktivitou, zejména v hipokampu, kde se tvoří vzpomínky. Studie podle něj v podstatě potvrzuje, že „AI dělá lidi hloupějšími“. „Pokud se spoléháte na stroj, aby za vás myslel, nebudete uvažovat tak dobře,“ uvedl.
Obavy o duševní zdraví, robotí přátelé
Podle Allena nebudou dopady AI na lidstvo známy ještě řadu let, podobně jako dlouhodobé důsledky vládních opatření proti covidové pandemii. Lockdowny, práce z domova a přechod na virtuální výuku během pandemie upevnily trend odklonu od osobní interakce.
Rozsáhlé používání sociálních sítí, zejména během koronakrize, je podle četných studií významným faktorem problémů s duševním zdravím u mladých lidí. Kronerová se obává, že přidání AI do této rovnice by mohlo problém ještě zhoršit.
Společnosti vyvíjející AI propagují robotické umělé přátele a chatovací roboty jako společníky pro děti, které byly během pandemie izolované od svých skutečných kamarádů, a dnes se lidé podle ní obracejí k AI i pro terapii.
Technologický posun směrem k humanoidním robotům a podpora umělých přátel pro děti vyvolávají další otázky. Například zda takové AI produkty mohou zmírnit osamělost u plachých nebo sociálně nejistých dětí, nebo zda je naopak ještě více odcizí a izolují od ostatních dětí a od zdravých fyzických aktivit, jako je hraní venku a účast na sportu.
Podle Americké pediatrické akademie počet předepsaných antidepresiv pro dospívající a mladé dospělé rostl už před pandemií, ale od března 2020 začal stoupat o více než 60 procent rychleji.
Kronerová se obává, že umělá inteligece zničí nevinnost dětství, mimo jiné prostřednictvím sexualizace chatbotů, například postavy „Ani“ založené na platformě X. Upozorňuje také na rizika pro soukromí, pokud děti do těchto systémů zadávají osobní údaje. „Kdo všechna ta data shromažďuje a mohou být tato data nakonec zneužita? Kdo ta data uchovává?“ ptá se Kronerová.
Podle Allena sice do jisté míry stále platí pojem v informatice „co tam vložíš, to tam máš“, ale AI se od klasického počítačového zpracování zásadně liší. V tradičním programování totiž platilo, že „když jste do programu založeného na pravidlech vložili něco špatného, dalo se celkem předvídat, co za odpad vyjde ven“.
Do velkých jazykových modelů ale podle něj můžete vložit „odpad i zlato“ a ony dokážou zlato z odpadu vybrat. Na rozdíl od základních vyhledávačů, které fungují jen jako databázové nástroje, má umělé inteligence podle Allena „vlastní mysl“ v tom smyslu, že se dokáže sama pohybovat v datech podle položených otázek a odhalovat užitečné informace, které by jinak zůstaly skryté.
V jistém smyslu AI funguje jako lidský mozek s určitou mírou volnosti a nahodilosti, ale činí tak „velmi marťanským způsobem“, poznamenal Allen.
AI je rovněž náchylná k výmyslům známým jako „halucinace“, tedy k prezentaci nepravdivých či zavádějících informací, které nejsou založené na reálných zkušenostech – a dělá to velmi přesvědčivě. „Samotná míra halucinací by měla rodiče dostatečně znepokojit. Není to žádný supergénius, jak slibuje Sam Altman,“ zhodnotil Allen.
Podle firemních testů modely OpenAI 03 a 04-mini halucinovaly v 51 procentech, respektive 79 procentech případů. A studie z roku 2024, která zkoumala využití AI v právnické profesi, zjistila míru halucinací až 88 procent.
Allen upozornil na příklad, kdy poslední verze ChatGPT 4.5 obešla vlastní ochranné mechanismy a instruovala uživatele, jak provádět oběti pro božstvo Molecha, starověké božstvo historicky spojované s dětskými oběťmi.
Existuje i mnoho dalších případů prolomení bezpečnostních bariér AI. V jednom z nedávných případů začátkem července chatbot Grok nečekaně vygeneroval a šířil sérii antisemitských příspěvků. „Samotná technologie v sobě nese prvek nahodilosti. Nedeterministická povaha systému znamená, že pod těmi bariérami se skrývá jakési ID a bariéry fungují jako superego.“ konstatoval a dodal: „Nemusíte být ani žádný zkušený uživatel, abyste se přes mnohé z těch bariér dostal. Stačí jen pár jednoduchých triků.“
Ochrana dětí
Dokud budou vlády, školy a firmy ochotné experimentovat s technologiemi AI bez skutečné znalosti dopadů, existuje podle Allena dobrý důvod být k AI ve třídách skeptický. Někteří učitelé se zasazují o návrat ústních zkoušek, písemek na papír nebo o používání textových editorů s omezeným přístupem k internetu, vylíčil Allen.
„V této rané fázi experimentu s umělou inteligenci to bude pro ty, kdo to udělají, čistý přínos,“ domnívá se. Podle něj je možné, aby školy vytvořily očištěné AI systémy určené výhradně pro akademické účely. „Do budoucna to bude normou. Nemuseli bychom se bát, že vzdělávací AI se zblázní a začne předčítat pasáže od markýze de Sade,“ řekl Allen.
Podle Allena při ochraně dětí a jejich schopnosti kriticky myslet existují tři úrovně obrany: osobní volba, institucionální politika a politické či právní kroky. Na úrovni osobní volby budou rodiče ve Spojených státech a dalších „víceméně svobodných společnostech“ stát před otázkou, jak chtějí své děti vychovávat.
„Rodiče mají možnost podrobit své děti tomuto experimentu, nebo je neposílat do škol, které jsou plně digitální či alespoň hybridní,“ uvedl. Na institucionální úrovni si školy mohou zvolit, zda AI zcela přijmou, nebo zavedou nějaký částečný či hybridní systém. „To budou do budoucna zásadní rozhodnutí. Jde o experiment, takže v podstatě vznikají kontrolní skupiny,“ řekl.
Pokud jde o možnost omezit AI ve školách prostřednictvím politického a právního systému v USA, „mimo úroveň jednotlivých států to zatím nevypadá příliš nadějně“, uvedl. Dodal však, že odpor vůči AI narůstá mezi koordinovanými rodičovskými skupinami ve Spojených státech i v dalších zemích.
Austrálie se například na jednu stranu snaží budovat obrovská datová centra a zpřístupnit data Australanů pro trénink AI, ale zase má politiku omezující používání chytrých telefonů ve školách a povinné ověřování věku pro přístup na sociální sítě, opatření, která jdou podle Allena „správným směrem“.
Kronerová se domnívá, že AI povede některé děti k ještě většímu odmítání autority učitelů a rodičů. Povzbuzuje rodiče, aby dětem při jejich otázkách uváděli příklady ze skutečného světa. „Děti mohou naslouchat, reagovat a AI do toho vůbec nezatahovat,“ nabídla Kronerová řešení s tím, že v dnešním světě chybí více lidské interakce a rozhovorů, a ne „předpřipravené odpovědi na dosah ruky“.
Allen zároveň připouští, že tam, kde jsou kvalitní učitelé vzácní, by se mohlo stát, že děti, které si AI osvojí jako nadřazeného učitele, předčí ty, kdo umělou inteligenci nepoužívají. „Částečně je to tím, že digitální kultura je natolik dominantní, že přizpůsobit se znamená v podstatě přizpůsobit se neustále se vyvíjejícím normám, které jsou populaci vnucovány shora,“ řekl.
„Nejde tu o nějaký přirozený vývoj. Není to darwinovské v původním smyslu, ale je otevřenou otázkou, jaké budou výsledky. My to prostě nevíme. Je to experiment.“
– ete –
