Komentář
Michael Kleinman, vedoucí pracovník Future of Life Institute – skupiny, která již desítky let upozorňuje na rizika umělé inteligence (AI) – nedávno vydal jasné varování, že politici postupují při regulaci AI příliš pomalu, zatímco nebezpečné systémy už škodí rodinám.
Jeho varování je oprávněné, avšak politický spor o to, kdo má AI regulovat, zastiňuje hlubší problém.
Zatímco zákonodárci se přou o kompetence, školy zavádějí nástroje AI pro desítky milionů dětí, často bez bezpečnostních standardů, bez transparentnosti a bez skutečného porozumění dospělých tomu, co tyto systémy vlastně jsou. Říjnová zpráva zveřejněná americkým Centrem pro demokracii a technologie uvedla, že ve školním roce 2024–2025 používalo AI 85 procent učitelů a 86 procent studentů a že to poškozuje schopnost studentů vytvářet smysluplné vztahy s učiteli.
Přesto se v učebnách od mateřských škol po střední školy objevují programy propagované jako „gramotnost v AI“. Federální iniciativy vybízejí školy k zavádění „AI výzev“ a AI tutorů. A mnoho školních obvodů, které se nechtějí ocitnout pozadu, přijímá jakékoli nástroje, jež se jim nabídnou.
Tento tlak předpokládá, že dospělí rozumějí AI natolik dobře, aby ji mohli dětem učit. Avšak většina rodičů, učitelů a dokonce i tvůrců strategií stále přebírá hluboce mylné představy o tom, co AI je, jak funguje a jaká rizika představuje. Tyto mylné představy nejsou povrchní – jsou to strukturální slepá místa, která utvářejí celonárodní debatu.
Než se Amerika posune dál při zavádění AI do školních tříd, musí těmto mylným představám čelit upřímně. Nejde o všechny existující omyly, ale o ty nejrozšířenější, které již tiše ovlivňují tvorbu strategií, vzdělávání i chápání tématu mezi veřejností:
Mylná představa č. 1: „AI je jen nástroj“
Mnoho lidí si představuje AI podobně jako auto nebo kalkulačku: užitečný, předvídatelný stroj, který dělá to, co mu řekneme. Avšak konstruktér auta přesně ví, jak se bude volant chovat. Kalkulačka neumí vytvářet nové nápady, napodobovat lidské emoce ani s naprostým přesvědčením produkovat nepravdivé informace.
AI je zásadně odlišná. Učí se vzorce z obrovského množství dat. Dokáže generovat nápady, argumenty, eseje a emocionální jazyk bez jakéhokoli lidského porozumění.
Srovnání s dřívějšími vynálezy není přesné. Konstruktér auta v roce 1900 rozuměl základní podobě a limitům toho, co vytváří. Dnešní vývojáři AI otevřeně přiznávají, že plně nechápou, jak modely dospívají k některým výstupům, a nedokážou předvídat všechny způsoby selhání. To není „jen nástroj“. AI je systém s nově se objevujícím chováním.
Mylná představa č. 2: „AI je neutrální“
AI je trénována na obrovském množství textů vytvořených lidmi a naplněných lidskými předsudky. Když se dítě zeptá systému AI na historii, morálku či dokonce na to, jak zvládnout sociální konflikt, odpověď je formována vzorci v datech, nikoli objektivní pravdou.
Tato iluze neutrality je nebezpečná. Děti často považují sebevědomý jazyk za známku přesnosti. Když je systém zaujatý, chybný či neúplný, nemají jak to poznat. A dospělí, kteří je vedou, to obvykle nevědí také.
Mylná představa č. 3: „AI je plně kontrolovatelná svými tvůrci“
Mnozí předpokládají, že když lidé AI vytvořili, musejí ji mít plně pod kontrolou. Ale systémy AI nefungují prostřednictvím ručně psaného kódu v tradičním smyslu. Jejich chování vzniká z tréninku, nikoli z explicitních instrukcí.
Vývojáři mohou chování ovlivňovat, avšak ne s takovou spolehlivostí, jakou lidé očekávají od softwaru napsaného člověkem. Zábrany mohou snižovat škody, ale ne je eliminovat. Dokonce i společnosti, které tyto modely vytvářejí, běžně popisují své výstupy jako „nepředvídatelné“.
Pokud tomu dospělí nerozumějí, nemohou děti odpovědně učit, jak se na tyto systémy spoléhat, ani je regulovat.
Mylná představa č. 4: „Odborníci vědí, kam AI směřuje“
To může být nejzávažnější mylná představa ze všech.
Ve většině oborů se odborníci neshodnou jen v určitém vymezeném pásmu. V AI však přední výzkumníci zastávají extrémně rozdílné názory. Někteří říkají, že AI pomůže léčit nemoci. Jiní – například držitel Nobelovy ceny Geoffrey Hinton, přezdívaný „kmotr AI“ – varují před existenčními riziky. Když respektovaní vědci odhadují i jen 10 až 30procentní pravděpodobnost katastrofických následků, neznamená to, že katastrofa je jistá, ale že trajektorie vývoje je neznámá.
Nikdy bychom nepostavili fyzický most, pokud bychom očekávali pravděpodobnost selhání 10 až 30 procent. Jak tedy můžeme zavádět technologii se stejnou potenciální mírou „katastrofy“ do už tak přetíženého systému základního a středního školství?
Mylná představa č. 5: „Děti potřebují AI brzy, aby zůstaly konkurenceschopné“
Tento argument se objevuje všude, ale není podložen důkazy.
Děti nepotřebují AI, aby se naučily myslet; potřebují opak. Potřebují pomalé uvažování, paměť, představivost, lidské chování a lidské tváře jako vzory, stejně jako zkušenost učení skrze překonávání výzev. Pokud se začnou spoléhat na AI příliš brzy, přenechají jí k budování právě ty kognitivní základy, které má vzdělávání budovat samostatně.
AI se může stát součástí budoucí ekonomiky. Avšak raná závislost není gramotnost.
Na těchto mylných představách záleží, protože ovlivňují rozhodnutí, která se činí už dnes. Miliony dětí denně používají nástroje poháněné AI. Školám se říká, že „připravenost na budoucnost“ je nevyhnutelná. A učitelé, kteří jsou už nyní přetížení, jsou tlačeni k zavádění systémů, jimž sotva rozumějí.
Mezitím se zákonodárci přou o to, zda státy vůbec mají mít právo AI regulovat. Ale ani regulace nestačí. Pilot může řídit letadlo, aniž by každý cestující musel rozumět aerodynamice. AI je jiná. Interaguje s myšlením dětí, s formováním identity, se smyslem pro pravdu a se schopností rozlišovat realitu. Formuje nejen to, co děti vědí, ale zásadně i to, jak přemýšlejí.
To znamená, že dospělí potřebují vlastní gramotnost v oblasti AI, než ji mohou předat další generaci. Dospělí musejí vědět, že gramotnost v AI nespočívá v tom, „umět používat chatbot“.
Skutečná gramotnost v AI znamená porozumět:
- Co AI je a co není
- Kde selhává
- Proč selhává
- Jak ovlivňuje myšlení
- Kdo ji ovládá
- Co její tvůrci přiznávají, že nevědí
Dokud učitelé, rodiče a tvůrci strategií nepochopí tyto základy, je AI ve školách experimentem, nikoli vzděláváním. Děti by se neměly stát pokusnými subjekty v celonárodním závodě o to, „nezaostat“. Zaslouží si víc než jen dospělé, kteří předstírají porozumění technologii, o níž se stále vedou spory i mezi odborníky.
Než posuneme AI hlouběji do školních tříd, musíme se zastavit a napravit mylné představy, které formují naše rozhodnutí. A teprve když dospělí skutečně pochopí, co AI je, co není a čím by se mohla stát, můžeme bezpečně rozhodnout, jak velké místo tato technologie má mít v životech dětí, za jejichž ochranu odpovídáme.
Redakčně upraveno.
Názory vyjádřené v tomto článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
–ete–
