Komentář
Když společnost OpenAI, tvůrce populární aplikace umělé inteligence ChatGPT, nedávno představila svou nejnovější veřejnou verzi Sora 2, nešlo jen o další softwarovou aktualizaci. Byl to okamžik, kdy stroje začaly předbíhat lidskou představivost.
Během necelých pěti dnů si program stáhlo více než milion lidí, což z něj učinilo ještě populárnější aplikaci než ChatGPT – nejpoužívanější nástroj umělé inteligence (AI) na světě – Sora 2 dokáže vytvořit celé video z několika řádků textu: rušné městské ulice, které nikdy neexistovaly, rozhovory s lidmi, kteří nikdy nežili, i krajiny, jež dříve existovaly pouze ve snech. Výsledky jsou fascinující – a zároveň hluboce znepokojivé.
Krátce po uvedení zaplavila internet videa s celebritami, historickými osobnostmi i zemřelými blízkými. Michael Jackson tančící při krádeži v obchodě 7-Eleven. Američtí prezidenti pronášející slova, která nikdy neřekli, na místech, kde nikdy nebyli. Nespočet klipů Robina Williamse s novými monology roky po jeho smrti. Jeho dcera Zelda Williamsová publikovala veřejnou prosbu, aby lidé přestali posílat verze jejího otce vytvořené AI: „Pokud máte v sobě aspoň trochu slušnosti, přestaňte to dělat jemu i mně, všem… To NENÍ to, co by si přál.“
Poprvé v dějinách se na tvorbě kultury podílejí systémy, které neznají pravdu – a kterým na ní nemůže záležet.
Generativní umělá inteligence neboli „GenAI“ označuje nový druh technologie, která dokáže vytvářet text, obrázky, hudbu i video na základě rozsáhlých datových souborů obsahujících lidská díla. Na rozdíl od tradičních programů postavených na pevných pravidlech jsou tyto modely „pěstovány“, nikoli programovány. Jsou trénovány na miliardách slov a obrazů, pohlcují vzorce lidského vyjadřování, dokud je nedokážou věrohodně napodobit.
Tato napodobenina je zdrojem úžasu i kontroverzí. Data pocházejí odevšad – z online umění, žurnalistiky, knih, příspěvků na sociálních sítích i z neveřejných webů – často bez souhlasu autorů. Proto na AI společnosti míří řada žalob ze strany spisovatelů, umělců a médií, kteří je obviňují z rozsáhlého porušování autorských práv. Jenže hlubší problém netkví ve vlastnictví, ale v původu.
Každá další generace těchto modelů obsahuje méně lidských dat a více strojově vytvořených dat z předchozích verzí. S každou aktualizací se do směsi přidává něco cizího a hranice mezi lidským a syntetickým se rozmazává – a ani samotní inženýři neumějí vyčíslit poměr. Výsledkem je syntetická kultura: mohutný proud obsahu, který vypadá a zní jako lidský, ale není.
Vývojáři AI často popisují tyto systémy jako druh „mimozemské technologie“ – ne z jiné planety, ale z formy inteligence tak odlišné, že její vývoj nelze předvídat. Systémy mohou napodobovat určité lidské funkce, ale neřídí se žádnými lidskými ani přírodními cykly, jak je chápeme my.
Syntetická kultura napodobuje povrch tvořivosti, aniž by sdílela její duši. Napodobuje emoci, aniž by ji cítila, příběh bez paměti, umění bez vědomí. To, co začalo jako pomocník, se stalo autorem.
Dnes můžeme sledovat filmy, které nenapsal, nenahrál ani nezrežíroval žádný člověk, poslouchat písně, jejichž interpreti nikdy nedýchali, číst romány bez autora. V celé historii lidstva jsme nikdy nekonzumovali příběhy, které se nezrodily z lidské zkušenosti – až dosud.
A jako při každé kulturní změně vzniká nový jazyk. Dnes máme výraz „AI slop“ – označení pro hromadně vyráběný, nekvalitní syntetický obsah. Kritici ho přirovnávají k ultrazpracovanému jídlu: levnému, dostupnému a návykovému, ale bez skutečné výživy. Jeden recenzent si po zhlédnutí výstupů ze Sory 2 posteskl: „Slibovali nám umělou inteligenci, která vyléčí rakovinu. Místo toho jsme dostali Soru 2.“
Stejně jako průmyslově zpracované jídlo naplní tělo, ale nevyživí ho, může syntetická kultura zaplnit mysl bez pravdy. Zelda Williamsová popsala videa vytvářená s podobou jejího otce slovy: „Neděláte umění, děláte odporné, přepasírované párky z lidských životů, z dějin umění a hudby – a cpete je lidem do krku s nadějí, že vám za to dají palec nahoru. Odporné.“
Před dvěma desetiletími sociální sítě slibovaly propojení, ale přinesly izolaci. Naučili jsme se, jak nekonečné proudy obsahu zkracují pozornost, zvyšují úzkost a nahrazují dialog dopaminem. Tato digitální revoluce změnila náš vztah k ostatním lidem. Nadcházející revoluce – vzestup syntetické kultury – může změnit to, kým jsme.
Mediální teoretik Neil Postman už před desítkami let varoval, že technologie nejen slouží kultuře, ale sama se kulturou stává. Napsal, že každé nové médium předefinuje, co znamená pravda a jak ji rozpoznáváme. Televize podle něj proměnila veškerý vážný diskurz v zábavu. Internet tento trend urychlil. A nyní, s umělou inteligencí, se médium samo naučilo vytvářet sdělení.
Sociální sítě nás naučily spíše vystupovat než se spojovat; generativní systémy nás nyní svádějí spíše ke generování než tvorbě. Obojí nahrazuje rozjímání reakcí a pravdu převažujícím názorem.
Skutečná tvořivost je pravda přeložená představivostí. Vyžaduje čas, mistrovství a vnitřní klid. Kultivuje nejen dílo, ale i duši. Syntetická tvořivost přeskupuje úlomky minulých projevů, aby napodobila originalitu. Výsledek nás může ohromit, ale nemůže proměnit tvůrce – protože žádný tvůrce neexistuje.
Opravdové umění nás stále dojímá jinak. Cítíme v něm přítomnost svědomí za řemeslem, tep prožité zkušenosti, morální napětí mezi krásou a pravdou. Když tato přítomnost zmizí, kultura se mění ve spotřebu. Snazší nástroje neznamenají hlubší tvořivost.
Nejpodivnější na tomto novém světě je, že nikdo zřejmě nemá skutečně otěže v rukou. Lidé si myslí, že jej řídí uživatelé pomocí promptů, inženýři programováním, regulátoři pravidly nebo korporace financováním. Ale když se jich zeptáte, kam to všechno směřuje, odpověď je stejná: nikdo to přesně neví. Algoritmy jsou příliš složité, aby se daly vysledovat, jejich tréninková data příliš rozsáhlá na audit a jejich zpětné smyčky příliš rychlé na řízení.
To, co začalo jako lidský vynález, se proměnilo v autonomní kulturní organismus – živený lidskými vstupy, ale už neřízený lidským záměrem. Nejde o spiknutí. Je to kulturní unášení. A když nikdo neřídí kulturu, riskujeme automatizaci tvořivosti a znehodnocení pravdy. Vzniká pohyb bez smyslu.
Pravda byla vždy morálním úsilím, nikoli technickou dovedností. Když ji přestaneme hledat, naše nástroje nás začnou utvářet ke svému obrazu. To je kulturní krize, která probublává pod hlukem pokroku. Kulturní krize nejsou nové, ale tato má jedinečný cíl: vědomí. Pokud se staneme závislými na vstupech, staneme se alergickými na rozjímání – kořen lidské tvořivosti a moudrosti. Nejhorším důsledkem hybridní éry není klam, ale lhostejnost. Otupělí nekonečným rozptýlením ztrácíme schopnost jednat.
Prvním krokem z tohoto unášení je uvědomění – pochopení, že nikdo jiný neřídí. My stále můžeme. Nelze vrátit čas, ani bychom neměli. Syntetické je už součástí kulturního krevního oběhu. Ale můžeme rozhodnout, zda se stane zrcadlem probuzení, nebo amnézie. Musíme se učit nejen to, jak umělá inteligence funguje, ale i jak působí na nás. Digitální gramotnost by měla zahrnovat etiku, psychologii a filozofii, nejen triky pro zvýšení produktivity. Vědět, jak AI používat, není totéž jako chápat, co dělá s naším vnímáním.
Rozjímání je protilékem na opakování. Pokud je syntetický věk o nekonečném přívalu vstupů, musí naší odpovědí být záměrné ztišení: umění, modlitba, rozhovor, kontemplace.
Příští desetiletí rozhodne, zda se tato hybridní kultura stane renesancí, nebo úpadkem. Tato volba patří lidem, kteří si pamatují, že kultura je morální ekosystém, nikoli trh. Získat zpět místo za volantem neznamená odmítnout technologii. Znamená to obnovit pravdu jako cíl a tvořivost jako prostředek.
Žijeme v jednom z velkých historických zlomů. Stroje, které jsme vytvořili, se učí napodobovat nás rychleji, než se my učíme chápat je. Rychlost je ohromující – ale rychlost není osud. Stále držíme volant v rukou. Řešení nespočívá v tom, předběhnout stroj, ale překonat iluzi, že řídí on.
Názory vyjádřené v tomto článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
–ete–
