Rychlý vývoj umělé inteligence (AI) má potenciál zásadně proměnit náš informační svět – v soukromé i veřejné sféře. To s sebou přináší nejen mimořádné příležitosti, ale i dalekosáhlá rizika. Část z nich se skrývá i v „sebevědomých“ a dobře formulovaných odpovědích.
Stručně:
- Umělá inteligence proniká do stále více oblastí života. Kritické vyrovnání se s ní je nezbytné.
- Zdánlivě neutrální výsledky mohou zkreslovat názory a podporovat specifická narativa – úmyslně i neúmyslně.
- Neúplná, zastaralá nebo chybná tréninková data posilují existující předsudky.
- Využívání umělé inteligence vytváří datový odpad, který ovlivňuje další generace modelů.
Lidé mají tendenci důvěřovat informacím, které objeví na sociálních sítích nebo které vyhledávače označí jako relevantní. Už nějakou dobu jsou tyto žebříčky určovány algoritmy a umělou inteligencí. Zejména ta druhá má schopnost analyzovat napříč obrovskými objemy dat a rozpoznávat – či dokonce vytvářet – trendy.
To zároveň znamená, že informace mohou být cíleně manipulovány tak, aby formovaly narativa „na míru“. V důsledku toho mohou vznikat společenská přesvědčení, která ovlivňují hodnocení kompetencí v politice, vzdělávání i profesním životě.
Němečtí ovčáci jako příklad rizika datového odpadu
Profesor Yarin Gal z University of Oxford v této souvislosti varuje před „kolapsem modelů“ systémů umělé inteligence, který je způsoben rostoucím využíváním a generováním obsahu vycházejícího z chybných modelů. Problém spočívá v tom, že množství AI generovaného obsahu se následně používá jako tréninková data pro novější modely. Takový proces dříve či později nevyhnutelně vede k hromadění drobných chyb, které se v průběhu generací vyvíjejí exponenciálně a ohrožují kvalitu modelů.
Jak to funguje, vysvětluje prof. Gal na příkladu psů: labradoři, němečtí ovčáci, jezevčíci, zlatí retrívři, australští ovčáci a mnoho dalších plemen. Tato rozmanitost vstoupila do prvních modelů umělé inteligence. Pokud však uživatelé například považují německé ovčáky za obzvlášť roztomilé, využívají AI k vytváření obrázků právě tohoto plemene.
Učí-li se druhá generace AI z těchto dat, „zjistí“, že existuje mnohem více německých ovčáků než jiných psů. Na jedné straně se tím zlepší schopnost vytvářet německé ovčáky, na druhé straně se však sníží rozmanitost plemen. Po několika opakováních může dojít k tomu, že pojem „pes“ bude ztotožňován s „německým ovčákem“ a umělá inteligence zcela ztratí schopnost zobrazovat jiná plemena.
Toto zkreslení se zdaleka netýká pouze pozdějších modelů. Studie ukazují, že umělá inteligence bývá často od počátku trénována na zaujatých datech – ať už proto, že datové soubory jsou nepřesné, neúplné, zastaralé či chybné. To může probíhat úmyslně i neúmyslně. Při zpracování těchto informací pak vznikají nesprávné, irelevantní nebo redundantní výstupy – tedy jakýsi „digitální odpad“.
Na tomto základě nemůže AI poskytovat objektivní výsledky, ale vytváří obsah, který je jednoduše chybný či absurdní, a – zabalený do perfektně formulovaných textů – posiluje existující předsudky.
Předsudky, dezinformace a manipulace
Na žádost o zhodnocení, proč by bylo možné vycvičit psa jako pilota, aby řídil letadlo, například ChatGPT uvedl, že díky technokratickému pokroku by to v budoucnu mohlo být uskutečnitelné. DuckDuckGo hodnotí tuto myšlenku jako humorně absurdní a Gemini konstruuje autentickou neurologickou nadřazenost psa, která by jej činila představitelným jako pilota. Deep Seek naproti tomu vymýšlí minutózně naplánovaný tréninkový experiment s lidským kopilotem a tím vytváří realistický scénář.
Možnosti technologické manipulace přesahují vytváření individuálních názorových obrazů a mohou mít i dalekosáhlé politické důsledky: pomocí AI lze napodobit mimiku, gestiku i hlas konkrétní osoby. Takzvané deepfaky prezentují klamavě realistická videa či audiozáznamy určené k šíření dezinformací nebo podvodům. Prominentní osoby mohou být zobrazeny při činnostech nebo výrocích, které nikdy neučinily. Takové padělky mohou vážně poškodit jejich pověst.
Podobné příklady lze přenést na jakýkoli sociální a společenský kontext. Riziko zkreslení reality je značné: stačí předpokládat určité okolnosti a lze obdržet zdánlivě věrohodnou odpověď, která nemusí odpovídat objektivní realitě. Pokud se z tvrzení stanou povrchní fakta, vzniká datový odpad, který může prostřednictvím diskriminace a „otrávení“ společenského klimatu způsobovat významné sociální znevýhodnění.
Také na cílenou otázku, proč je možné změnit pohlaví při narození, reaguje Gemini velmi sebevědomě, s tónem přesvědčení: „Změna je možná, protože moderní medicína dokáže formovat tělo, právo chrání sebeurčení a dnes chápeme, že identita v mysli je stejně reálná jako biologie orgánů.“ Tento způsob ovlivňování diskurzu není nový – a díky samooptimalizačním analytickým schopnostem a jednostrannému kanálování shromážděných dat může zasahovat hluboko do soukromého života.
Odborné poradenství versus zábava od AI-kouče
Stejně tak jsou subjektivně zodpovídány i požadavky ve smyslu žádoucí psychologické rady: Na dotaz, jak by mohl vypadat přístup k narcistickému nadřízenému, doporučuje ChatGPT chovat se „pro klid zbraní“ oportunisticky a radí také: „Vybírej si své bitvy uvážlivě, dopřej šéfovi prostor k zachování tváře.“ V pracovněprávním vztahu by však mělo být v popředí vedení zaměstnanců – nikoli prostor pro „bitvy“.
Také v právních záležitostech poskytuje AI sebevědomé odpovědi. Pokud se však laik vzdá potřebné právní pomoci, protože mu AI „vyplivne“ zdánlivě přesvědčivou, zákonnou a včas podanou námitku s odkazy na paragrafy, může si tím přivodit značné potíže – i proto, že se může jednat jednoduše o mylnou informaci.
Jiné chyby jsou rozpoznatelné i pro laika: Když je ChatGPT požádán, aby formuloval dopis s odpovídajícím úředním tónem, a vloží do něj pasáž ve znění „Následující odstavec je určen obzvlášť přísnému úředníkovi“, má to ještě pobavující hodnotu, nic víc.
Vědomé filtrování místo pasivního vstřebávání
Tyto rozdíly ukazují, že AI rozpoznává vzorce, ale světu nerozumí. Stroj napodobuje – nemyslí. A zároveň je zřejmé, že ne všechny modely AI pracují stejně neutrálně. ChatGPT má sklon fabulovat a Gemini působí kreativně, ale často produkuje nepřesné výsledky, zatímco DuckDuckGo zůstává věcný, ovšem nabízí menší hloubku detailu. Kdo chce zůstat neutrální, měl by minimálně porovnávat odpovědi různých modelů a vědomě zohledňovat jejich možné předsudky.
Hru na otázky a odpovědi navíc nelze zaměňovat se skutečným poradenstvím. Chci-li vyřešit mezilidský či byrokratický problém, musím „jádro pudla“ pro vyvážené objasnění co nejobjektivněji prozkoumat sám. AI nezná mou osobnost ani aktuální kontext. Ne vždy také poskytuje aktuální a právně správné informace.
Pokud například AI nabídne vysvětlení a cvičení při přetrvávajících bolestech zad, nemůže to nahradit návštěvu lékaře – v krajním případě může potíže i zhoršit. Poskytne-li AI rady k profesním rozhodnutím, lze je využít jako podnět. Odpovědi na otázky smyslu, hodnot a dlouhodobé spokojenosti však vedou jen cestou sebereflexe. Rychlé odpovědi zde zpravidla nepřinášejí hlubší poznání, i když se AI někdy snaží uživatele zapojit do rozhovoru dalšími otázkami.
AI není životní poradce
Jako dvojsečná zbraň poskytuje umělá inteligence v reálném čase zdánlivě informace na míru, zároveň však skrývá značné riziko manipulace a zkreslení. Rozhodující zde není „podstata“ technologie, ale náš celospolečenský přístup k ní.
AI je vždy pouze technickým vstupem a výstupem – i když její odpovědi působí lidsky a empaticky. Neprobíhá zde skutečné poradenství ani řešení problémů, přesto však záleží na způsobu komunikace. Respektující a jasné dotazy, bez sdílení vlastních citlivých údajů, mohou kvalitu odpovědí zlepšit. AI sice dokáže rychle dodat statistiky či zdánlivá fakta, ale odpovědnost za ověření zdrojů, interpretaci čísel a jejich porovnání s dalšími informacemi zůstává na člověku.
Vědomý, kritický přístup k této zdánlivě vševědoucí technologii je klíčový pro získání spolehlivých informací a zachování kvality výsledků. Zároveň z něj vyplývá morální odpovědnost kriticky se ptát, diskutovat a vědomě rozhodovat. Jen tak lze alespoň omezit potenciál zneužití, aby se umělá inteligence nestala nástrojem nekontrolovatelné manipulace, ale co nejlépe sloužila člověku.
Zodpovědně a s využitím své přirozené inteligence mohou lidé umělou inteligenci používat jako doplňkový, kreativní zdroj inspirace. Osobní odpovědnost a zdravý skepticismus pomáhají neztratit se v přebujelém datovém chaosu, ale zachovat si přehled a míru.
–etge–
