Odborníci varují, že při téměř nepřetržitém vystavení výstupům umělé inteligence jsou rizika skutečná a důkazy se již začínají objevovat.
Nekončící záplava obsahu generovaného umělou inteligencí (AI) mění internet i rychlost, jakou lidé pracují s informacemi.
Od souhrnů zpráv přes příspěvky na sociálních sítích až po akademický výzkum je obrovské množství materiálů vytvořených s pomocí strojů spojováno s nárůstem takzvaného „kognitivního outsourcingu“ – jevu, při němž lidé přenechávají kritické myšlení a ověřování informací automatizovaným systémům.
Analýza z roku 2025 zaměřená na vliv nástrojů AI na kognitivní outsourcing ukázala „významnou negativní korelaci“ mezi častým používáním nástrojů AI a schopností kriticky myslet napříč věkovými skupinami i vzděláním respondentů. Výzkumníci ze Swiss Business School (SBS) zjistili, že mladší věkové skupiny vykazovaly vyšší míru závislosti na modelech AI a nižší výsledky v oblasti kritického myšlení.
Možná ještě znepokojivější je květnová studie společností Pangram a YouGov, která zjistila, že pouze 55 procent účastníků, všichni z generace Z (ve věku 18 až 28 let), dokázalo rozpoznat falešný nebo zavádějící obsah vytvořený umělou inteligencí. U starších věkových skupin je toto číslo ještě nižší.
„Příspěvky a komentáře generované umělou inteligencí mohou zkreslovat veřejné vnímání, zvláště když je objem obsahu zaměňován za důvěryhodnost,“ říká pro Epoch Times Javi Pérez, editor vzdělávacích webů pro spotřebitele využívajících AI.
„Pokud uživatel vidí desítky podobných příspěvků o produktu, trendu, politickém tvrzení, zdravotním problému nebo finančním tématu, může nabýt dojmu, že panuje široká shoda.“
„Sebevědomá stejnost“
Pérez uvádí, že spotřebitelé by si měli dávat pozor, protože obsah generovaný AI zvyšuje objem toho, co označuje jako „sebevědomou stejnost“ na internetu.
„Mnoho článků a příspěvků dnes opakuje podobnou strukturu, podobné rady a podobné formulace. U běžných čtenářů to může vytvářet dojem, že kolem určitého tématu existuje větší shoda nebo jistota, než jaká ve skutečnosti je, protože stejné myšlenky vidí opakovaně v mnoha zdrojích,“ vysvětluje.
„Rizikem je, že lidé přestanou vědět, který obsah byl skutečně ověřen. V oblastech, jako jsou finance, zdravotnictví, právo, vzdělávání nebo zpravodajství, potřebují čtenáři vědět, zda byla tvrzení porovnána s primárními zdroji, zda byla nedávno aktualizována a zda je upravil někdo, kdo za ně nese odpovědnost.“
Konzultant pro strategie v oblasti AI Armand Cucciniello III popisuje pro Epoch Times, že obsah generovaný umělou inteligencí mění nejen způsob, jakým informace konzumujeme, ale také rychlost, s jakou je zpracováváme a důvěřujeme jim.
„Přecházíme od soustředěného čtení k rychlému skenování uhlazených souhrnů, komentářů, krátkých videí a obsahu vytvářeného s pomocí AI, který je navržen pro rychlost a zapojení publika.“
Cucciniello, který působil v oblasti „americké národní bezpečnosti“, podotýká, že jednou z jeho největších obav je skutečnost, že systémy AI „mohou neúmyslně zesilovat obrovské množství nepřesného nebo záměrně manipulovaného obsahu jednoduše prostřednictvím opakování a rozsahu“.
Podle jeho názoru vysoký objem obsahu generovaného AI vytváří skutečný tlak na důvěru veřejnosti.
„Když čtenáři narazí na téměř totožné formulace nebo interpretace napříč více zdroji, je přirozené, že začnou pochybovat, zda byly informace získány nezávislým zpravodajským pokrytím, nebo zda byly pouze převzaty a znovu zabaleny.“
Carl Stroud, expert na public relations v marketingové agentuře Smoking Gun Agency, uvádí, že také pozoruje negativní dopady obsahu generovaného AI na veřejnost.
„Základní potřeba publika se nezměnila: lidé chtějí věřit tomu, co čtou,“ konstatuje pro Epoch Times. „Změnilo se však to, o kolik obtížnější je dnes takový úsudek učinit.“
„Obsah generovaný AI, agregovaný obsah a nekvalitní informační balast učinily informační prostředí hlučnějším, plošším a matoucím, takže se publikum nyní snaží rozpoznat, zda čte původní zpravodajství, recyklovaný obsah, nebo něco, co vůbec nemělo být zveřejněno.“
Kromě sociálních sítí a akademického prostředí zasáhly dezinformace vytvářené pomocí AI jen málokteré odvětví tak silně jako zpravodajství. Stroud, který strávil dvě desetiletí v britských médiích jako editor a novinář, pozoruje, jak nepřetržitá produkce obsahu generovaného AI vyvolává únavu u čtenářů hledajících přesné informace.
„Únava je nebezpečná, protože když se lidé cítí zahlceni, buď ztratí zájem, nebo je snazší je uvést v omyl,“ upozorňuje.
Ztráta kontaktu s realitou
Ashutosh Khulbe, zakladatel společnosti RawPickAI, testuje nástroje umělé inteligence profesionálně – každý týden zkouší přibližně tři až čtyři nové.
„To, čeho si ve své části internetu všímám nejvíc, je, že dnes všechno zní stejně. Až děsivě stejně,“ sdílí pro Epoch Times. „Odhadl bych, že 70 až 80 procent článků o ‚nejlepších nástrojích AI‘ je v tuto chvíli vytvořeno umělou inteligencí.
„Vzniká tak zvláštní zpětná smyčka, kdy AI píše recenze na základě toho, co už dříve napsala jiná AI, čtenáři předpokládají, že existuje shoda, a skutečné zkušenosti s používáním těchto nástrojů jsou vytlačeny do pozadí.“
Sám testoval jeden nástroj pro psaní textů, který měl na internetu stovky pozitivních recenzí, přestože jeho bezplatná verze byla prakticky nepoužitelná.
„Nešlo dokončit ani jeden odstavec, aniž byste nenarazili na limit,“ zmiňuje. „Ale zkuste takovou informaci najít ve vyhledávání Googlu.“
Khulbeho obzvlášť znepokojuje způsob, jakým zkreslování informací ovlivňuje veřejnost.
„Obsah generovaný AI je neustále vychylován směrem k pozitivním hodnocením, protože je trénován na marketingových stránkách a partnerských recenzích. Nikdo netrénuje modely na zkušenostech typu: ‚Zkoušel jsem to dva týdny a stálo to za nic.‘ Negativní signály tak z internetu jednoduše mizí.“
„Obsah generovaný umělou inteligencí je neustále vychylován směrem k pozitivním hodnocením, protože je trénován na marketingových stránkách a partnerských recenzích. … Negativní signály tak z internetu jednoduše mizí.“
– Ashutosh Khulbe, zakladatel společnosti RawPickAI
Důsledky rozmachu obsahu generovaného umělou inteligencí lze nyní pozorovat i v jevu, který někteří označují jako „AI psychózu“, tedy odtržení od reality. Ačkoli nejde o klinickou diagnózu, tento termín se stal populárním souhrnným označením pro situace, kdy umělá inteligence posiluje neobvyklé, rigidní nebo dokonce bludné vnímání něčeho v reálném světě.
Podle doktora Ragyho Girgise, profesora klinické psychiatrie na Kolumbijské univerzitě a v Newyorském státním psychiatrickém institutu, mohou mít lidé s duševními poruchami vyšší predispozici k rozvoji „AI psychózy“, avšak tento jev se neomezuje pouze na tuto skupinu.
„Fenomén AI psychózy je z kvantitativního hlediska nový a může být velmi nebezpečný, ale kvalitativně je velmi podobný tomu, co se děje už desítky let od nástupu internetu,“ řekl Girgis během rozhovoru pro Národní akademii medicíny v březnu.
Nerealistická očekávání
Přestože propadání internetovým „králičím norám“ na nejrůznější témata není novým jevem, podle Girgise tento problém umělá inteligence a velké jazykové modely výrazně zesilují. Schopnost moderních modelů AI věrně napodobovat lidskou inteligenci usnadňuje lidem přijímat jejich obsah za vlastní.
Důkazy o tom se objevují téměř ve všech oblastech každodenního života, někdy v podobě nerealistických očekávání.
„Jednou z největších změn, které v důsledku přesycení obsahem generovaným AI pozoruji, je nárůst takzvaných ‚syntetických očekávání‘, zejména v kosmetickém průmyslu,“ popisuje pro Epoch Times Justin Killingsworth, zakladatel společnosti The Color Bar.
„Jako člověk, který spolupracuje se salony a kosmetickými značkami zaměřenými na koncové zákazníky, stále častěji vidím klienty, kteří přinášejí inspirační fotografie vytvořené umělou inteligencí, jež neodpovídají tomu, čeho lze u skutečného člověka realisticky dosáhnout.
„Stylisté jsou stále častěji nuceni fungovat nejen jako umělci, ale také jako pedagogové a prostředníci emocí, kteří klientům pomáhají pochopit, co je realisticky dosažitelné, a zároveň chrání jejich sebevědomí a důvěru.“
Analýza laboratoře Microsoft AI for Good Lab z loňského roku ukázala, že lidé dokázali správně rozpoznat obrázek vytvořený umělou inteligencí v 62 procentech případů.
Cucciniello poznamenává, že nebezpečí spočívá v tom, že se lidé stávají „vysoce efektivními při rychlé konzumaci informací, zatímco tráví méně času zápasem s nejednoznačností, nuancemi nebo konkurenčními pohledy“.
Pérez s tím souhlasí.
„Z dlouhodobého hlediska hrozí, že se lidé stanou buď příliš důvěřivými, nebo naopak příliš cynickými,“ míní.
„Někteří uvěří všemu, co působí profesionálně a uhlazeně. Jiní budou předpokládat, že vše na internetu je uměle vytvořené, a přestanou důvěřovat i legitimním informacím. Oba výsledky oslabují schopnost kritického myšlení.“
Dokážete rozpoznat, které fotografie jsou skutečné a které vytvořila umělá inteligence? Vyzkoušejte si náš kvíz níže.
Kvíz: Skutečná fotografie, nebo AI?
–ete–
