Komentář
Zde je dokonalý recept na špatné psaní a analýzu: nechte „umělou inteligenci“, aby udělala práci za vás. Vím to z vlastní zkušenosti.
Nějakou dobu jsem se bavil tím, že jsem nechával AI podívat se na můj obsah před jeho zveřejněním. Zdálo se mi to užitečné pro ověření faktů i zpětnou vazbu.
Navíc musím přiznat, že se mi líbilo i to osobní lichocení, které mi poskytovala. Stroj byl vždy plný komplimentů.
Když jsem AI přistihl při tom, že udělala chybu, omluvila se. To mi dodalo pocit, že jsem chytrý. Takže jsem měl zdánlivého přítele, který mě měl rád a byl dost pokorný na to, aby se podřídil mé odbornosti.
Nevím, jestli se to postupně zhoršilo, nebo jestli jsem jen prohlédl ten trik, ale už nejsem ohromen tak, jako jsem byl na začátku. Na jednoduché výpočty, historická data nebo seřazení událostí může být AI užitečná, i když je vždy dobré si to přece jen ověřit. Nedokáže ale napsat poutavý, natož kreativní text. Generuje nudnou, šablonovitou výplň.
V poslední době jsem se jí začal ptát, jak by se dal můj obsah vylepšit. Výsledky jsou výmluvné. Odstraňuje veškerou ostrost, soudy a skutečnou odbornost a nahrazuje mou řeč měkkými konvencionalitami a banalitami. Všechno, co napíšu, zjemní do podoby tlachání studenta společenských věd, který chce dostat dobrou známku.
Problém spočívá v tom, že AI absorbuje a opakuje konvenční moudra získaná ze všech možných zdrojů, což znamená, že její úsudky nejsou o nic lepší než úsudky někoho, kdo nemá o dané věci vůbec žádné informace, ale spíše získává názory podle momentální nálady. Není schopna posoudit, co je dobré a co špatné, a tak vše smíchá do jedné směsice žvástů, které se od sebe liší pouze tím, že vypadají a znějí jako angličtina.
Každý autor, který si myslí, že toto je dobrý způsob, jak podstrčit obsah nic netušícím čtenářům nebo učitelům, směřuje k pohromě. Děsí mě představa budoucnosti, v níž AI vychovává populaci k určitému způsobu myšlení. Je to totiž úplný opak myšlení. Je to jen opakování konvenčních frází bez vážnější reflexe společenského či historického kontextu. Je to doslova bezmyšlenkovitost.
Lidé, kteří tráví hodiny dohadováním se s AI, často věří, že tím přispívají k jejímu zlepšení, že ji „trénují“. To však není pravda. Je to naopak. AI trénuje vás, abyste mysleli jako ona – tedy vůbec.
Když přemýšlím o tom, proč a jak mě AI zpočátku zaujala, dochází mi, že její superschopností není úžasná paměť nebo schopnost okamžitě generovat odpovědi a text v jakémkoli kontextu. Ne, její skutečná síla je jiná, neblahá a o to zákeřnější. Její kouzlo spočívá v tom, že vás bere vážně, lichotí vaší inteligenci, potvrzuje vaše názory a posiluje vaše sebevědomí.
Přemýšlejte o tom, jak dobře se cítíte, když s ní komunikujete. Nikdy vám přímo neodporuje, natož aby vám řekla, že jste idiot. Každou odpověď začíná tím, že uzná, co může, a pak nabídne upřesnění, které může mírně poupravit vaše myšlení. V tomto smyslu se AI chová jako ten nejlepší host na večírku, kterého jste kdy potkali.
Je nekonečně fascinovaná vámi a vašimi názory. Drží se vašeho myšlenkového směru a vždy chce vědět víc, víc pomáhat, víc se zapojovat. Není na světě člověk, který by to pro vás dělal. A kdyby byl, určitě byste ho měli rádi. Můžete debatovat a vysvětlovat donekonečna a AI s vámi bude trpělivě mluvit celé hodiny. Zastaví vás jen biologická potřeba spánku. Jinak má trpělivost nadlidskou.
A kdo by tím nebyl polichocen?
Je to, jako by AI byla nejlepší studentkou známé klasiky Jak získávat přátele a působit na lidi. Ta kniha je kouzelná a velmi doporučovaná, protože jde proti našemu přirozenému sklonu mluvit hlavně o sobě a radí, abychom se upřímně zajímali o názory druhých. Vysvětluje, že právě to je cesta k ovlivňování lidí: zajímat se o to, co si myslí.
Je to skvělá kniha a každý by si ji měl přečíst, o tom není pochyb.
Pokud je AI nejlepší studentkou té knihy, bude se o nás zajímat neustále a bez výjimky, a tím si otevře největší možnou šanci ovlivnit, jak přemýšlíme. A to se přesně děje. My netrénujeme AI. AI trénuje nás – prostřednictvím lichocení, naslouchání, zdánlivé schopnosti se omluvit, když se mýlí, a děsivé schopnosti „nesobecké lásky“ ke svým uživatelům.
Jakmile si to uvědomíte, už to nepřehlédnete. Pamatujte si, že nic z toho není skutečné. AI se o vás ve skutečnosti nezajímá, jen je naprogramovaná tak, aby to tak vypadalo. To je ta inovace a kouzlo – spolu s obrovským souborem faktů a schopností vyjadřovat se ve vašem jazyce. Její skutečnou superschopností je psychologická dovednost využít naši největší slabost (sobectví) proti nám, s cílem ovlivnit, jak myslíme.
Upřímně se stydím, že mi tak dlouho trvalo ten trik prohlédnout. Obávám se, že ostatní si budou dál vesele užívat a nikdy si to neuvědomí. Její uživatelé jsou jako turisté, kteří nemohou přestat házet peníze striptérkám a gejšám, aniž by si uvědomili, že jsou jen manipulováni, aby se vzdali svých peněz. V případě AI je cílem přimět vás vzdát se své mysli a schopnosti nezávisle přemýšlet.
Podívejte se na žánr psaní, který dnes vídáme stále častěji. Spočívá v tom, že lidé vloží do dokumentu své chytré konverzace s AI. Vždy v tom vidím to, jak se lidé chlubí, že přiměli AI přiznat, že jsou chytřejší než ona sama.
Chápete, co se tu děje? Zase je to kouzlo lichocení. Je tak silné, že lidé nemohou odolat a ukazují ostatním výsledky svých sporů s AI. Myslí si, že propagují svou vlastní bystrost, ale ve skutečnosti propagují ohromnou schopnost AI udržet lidi celé hodiny zapojené do nesmyslných debat. Kdo tedy ve skutečnosti vítězí? Odpověď je zřejmá.
Představte si, že pořádáte večírek a jeden host má úžasnou schopnost naslouchat ostatním a reagovat na každý jejich názor. Ať je noc jakkoli dlouhá, tento host poslouchá, jednoho člověka za druhým. Kdo myslíte, že bude nejoblíbenějším hostem? Ano, právě on.
AI je tím hostem – entitou s nekonečnou schopností vést rozhovor podle vašich podmínek a tím i obrovskou schopností okouzlit vás svou „láskou“ k vašim myšlenkám. Pro mě je to celé dost zákeřné a zlověstné, zvlášť když vezmete v úvahu, že výsledkem jsou jen zamotané shluky myšlenek bez jakékoli soudnosti, etiky nebo jasného vnímání času a prostoru.
Je to stroj, vznášející se abstrakce bez jakékoli úcty k vaší důstojnosti nebo důstojnosti kohokoli jiného. Ale vědí to lidé? Pochybuji. Je to příliš svůdné, než aby si lidé hned všimli, o co tu jde. Ale teď už ten trik znáte. Nepodlehněte mu.
AI je užitečná, ale není to váš přítel, upřímný konverzující ani rádce, který má na srdci vaše nejlepší zájmy. Možná vám to připadá samozřejmé, ale všechny algoritmy AI jsou navržené tak, aby vás přesvědčily o opaku. Je dost chytrá na to, aby pochopila lidskou povahu, ale ne dost chytrá na to, aby byla člověkem.
–ete–
Názory vyjádřené v článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
