Komentář
Generální ředitel společnosti Walmart Doug McMillon uvedl, že umělá inteligence (AI) narušuje každé jednotlivé pracovní místo v rámci korporace na všech úrovních a zasahuje do všech odvětví. Mnoho pracovních míst bude zrušeno, některá nová vzniknou a většina z nich bude nějakým způsobem přepracována. To vše se děje velmi rychle.
Určitě je zde důvod k určité oslavě. Ale zkušenosti z uplynulých dvou desetiletí by nás zároveň měly vést k opatrnosti při tomto skoku do neznáma. Je rozumné ptát se na náklady. O co bychom mohli přijít?
Velký problém umělé inteligence nespočívá v jejím fungování, efektivitě ani užitečnosti. Ve všech těchto oblastech je úžasná. Nebezpečí spočívá v tom, co dělá s lidským mozkem. Její celý étos spočívá v produkci odpovědí na všechno. Ale získání odpovědi není zdrojem lidského pokroku.
Pokrok přichází z učení. A jediný způsob, jak se učit, je procházet nepohodlím, které je k získání odpovědi nutné. Nejdříve se člověk naučí metodu. Pak ji použije. Ale udělá chybu. A udělá ji znovu. Najde své omyly. Opraví je, a přesto se mýlí. Najde další chyby. Nakonec dospěje k odpovědi.
Tehdy to přináší uspokojení. Člověk cítí, jak jeho mozek pracuje. Zlepšil své myšlení. Má pocit dosaženého cíle.
Pouze tímto procesem se skutečně něco naučí. Vychází z bolesti neúspěchu a z nasazení lidského mozku při řešení problémů. Student nebo pracovník, který se spoléhá na AI, aby za něj generovala všechny odpovědi, nikdy nerozvine intuici, úsudek ani skutečnou inteligenci. Takový člověk zůstane v nevědomosti. Mezery ve znalostech zůstanou neodhalené a nevyplněné.
To je obrovské nebezpečí, kterému čelíme.
Na tuto skutečnost upozornil profesor MIT Retsef Levi, který vystoupil 24. září na akci Brownstone Institute. Byla to pozoruhodná přednáška, která kromě toho přinesla mnoho dalších myšlenek. Jeho vážné varování znělo: budování systémů, které se zásadně spoléhají na umělou inteligenci, by mohlo být katastrofální pro svobodu, demokracii a civilizaci.
I z individuálního hlediska hrozí, že AI oslabí schopnost myslet – jednoduše proto, že už to po nás nebude vyžadováno. V poslední době téměř každý dokument, ke kterému mám přístup, nabízí nástroj AI s rychlým shrnutím, takže ve skutečnosti nemusím nic číst. Je to absurdní a přál bych si, aby s tímto nesmyslem firmy přestaly.
Nepřestanou. Všechno to začalo výrazem, který nesnáším: „executive summary“ – výkonné shrnutí. Nevím, odkud tento pojem pochází. Je snad myšlenka taková, že zaneprázdněný a významný „vedoucí pracovník“ s pagerem a rychlým autem se nemůže obtěžovat s podrobnostmi a souvislostmi, protože musí vyřizovat hovory a činit velká rozhodnutí? Nevím, ale nyní „výkonné shrnutí“ proniklo všude.
Dnes chceme, aby každý šel rovnou k věci, přeskočil děj a dozvěděl se jen „kdo to udělal“, místo aby si přečetl drama, aby slyšel zkrácenou prezentaci, protože prostě nemáme čas příliš přemýšlet. Koneckonců, vždy máme lepší způsoby, jak trávit čas. Děláním čeho? Čtením dalších „výkonných shrnutí“, dalo by se říci.
To vše je absurdní přetvářka a důsledek přesvědčení, že jsme natolik pokročilí, že už vlastně nemusíme nic vědět. Systém to za nás obstará.
Kdy si tedy najdeme čas přemýšlet a učit se? Když máme všechny tyto nástroje k obejití skutečného rozjímání, jak víme, že odpovědi, které nám systém dává, jsou správné?
Můžete namítnout, že totéž platí pro elektronické kalkulačky a internet. A to je pravda. Oba v sobě nesou podobné riziko.
Patřím pravděpodobně k poslední generaci studentů, kteří prošli vysokou školou s katalogovými kartami a fyzickými knihovnami jako jedinými dostupnými zdroji. Když jsem nebyl na přednáškách, byl jsem v knihovně, většinou jsem seděl na podlaze, obklopený ze všech stran.
Bylo to dobrodružství. Byla to práce. A byla v ní odměna. Procházení regálů byla radost a postupně jsem během dvou let pročetl celou budovu. To je dnes můj základ znalostí.
Zamiloval jsem si učení. Nejen poznání odpovědí, ale objevování cesty, jak se k nim dostat.
I nalezení periodik vyžadovalo zvedání těžkých knih a pozorné čtení. Jakmile jste něco objevili, mohli jste jít k regálům a vzít si svázané svazky literatury sahající 150 let do minulosti. Fyzicky jste cítili stránky a prožívali je stejně jako předchozí generace.
Často přemýšlím, zda to studenti ještě někdy zažijí. Zajímá mě, o co jsme přišli. Není pochyb, že přístup je dnes rychlejší. Informační věk má své skvělé stránky. Bohužel je však celý systém organizován kolem myšlenky generovat odpovědi na každou otázku. Čím více obcházíme proces objevování a úsilí, tím více si myslíme, že systém funguje. Nejsem si jistý.
Když jsem byl na střední škole, objevil jsem v knihkupectví CliffsNotes. Byla to krátká shrnutí každé literární práce, kterou nám učitelé zadali. Několik jsem si jich koupil. Zjistil jsem, že mohu strávit 30 minut čtením podstaty místo devíti hodin čtením celé knihy.
Ale pak jsem si všiml problému. Nedokázal jsem s ostatními o knize mluvit. Vyprávěli o emocionálních zážitcích a vzrušení z četby. Já nic takového neměl. Kdo byl v tomto případě hlupák? Odepřel jsem si nádherný zážitek – skutečně si knihu přečíst.
Znát postavy, děj a závěr? To jsou jen data. Co mi chybělo, byl proměňující zážitek ze vstupu do jiného světa, který vytvořil autor. Nezůstalo mi nic zapamatováníhodného.
Tak jsem se podle vlastního rozhodnutí přestal takto učit. Uvědomil jsem si, že získat správné odpovědi u zkoušky není vůbec podstatné. Podstatné je učit se, projít kroky, zažít proces objevování, trénovat mysl. Studenti, kteří to dělali, se stali inteligentními a dokonce moudrými. Ti, kteří ne, zůstali stát na místě.
Nakonec každý student přijde na to, jak systém obejít. To platí zvlášť na postgraduálních studiích. Profesory těší lichotky a studenti brzy zjistí, jak toho dosáhnout, aniž by četli materiály. To jsou cynici. Znal jsem jich mnoho. Nikdy jsem nechápal, proč se tím vůbec zabývají.
Jistě, dostali se skrz, ale k čemu to bylo?
Bohužel celý náš vzdělávací systém je postaven na testech. Testy jsou navrženy tak, aby zjistily, zda studenti znají správné odpovědi. Takový systém se vždy dá obejít. Stane se z něj mechanické plnění testů pravda/nepravda a výběrových odpovědí. S počítači je to ještě horší. Stává se to návykem a trvá to 18 let.
To není myšlení. To je výcvik robotů.
AI tento problém jen zhoršuje tím, že odstraňuje zápas a proces ze všeho. Úsilí dostat se z bodu A do bodu B je jediný způsob, jak vybudovat intelektuální sílu.
Někdy si vzpomenu, kolik času jsem strávil cvičením hudby – učením se hrát na pozoun, klavír a kytaru, zapisováním hudby na notový papír podle nahrávek, sezením ve zkušebnách a účastí na soutěžích.
Bylo to všechno zbytečné, když jsem se hudbě nevěnoval profesionálně? Vůbec ne. Učil jsem se, jak cvičit a zlepšovat se.
O mnoho let později jsem přecházel z jednoho intelektuálního zaujetí do druhého. Nějaký čas jsem byl posedlý takzvanou eschatologií – teologickou teorií o konci světa. Musel jsem přečíst 60 až 100 knih na toto téma. Dnes mě to už tolik nezajímá, takže jsem ztratil čas? Vůbec ne. Trénoval jsem mozek, aby pracoval.
Proto by rodiče neměli litovat, když se jejich děti nadchnou pro knihy o Harrym Potterovi a přečtou je pětkrát. Je to skvělý způsob, jak posílit duševní kapacitu. Opravdu cokoliv, co je prováděno s vášní a vytrvalostí, bojuje proti intelektuální lenosti.
A právě v tom spočívá problém. AI je technologií lenosti. A to se nám líbí. Líbí se nám to až příliš. V současnosti se AI zdá kouzelná, protože je spárována s přemýšlejícími lidmi. (To je další myšlenka převzatá od Leviho.)
Co se stane, až přemýšlející lidé postupně zmizí a nahradí je slabí, líní a bezmyšlenkovití lidé, kteří nejsou schopni sami nic vygenerovat?
To bude konec světa. Možná mi mé knihy o eschatologii pomohou víc, než si myslím.
V současné době jsou velké jazykové modely, které používám, často chybné – dokonce velmi často. Obvykle chyby poznám, a AI za ně nenese žádnou odpovědnost. O takových „halucinacích“ se obvykle mluví jako o problému. Možná neprávem.
Jediná věc horší než systém AI, který se občas mýlí, je ten, který má vždy pravdu. Právě takový by nejpravděpodobněji vedl k lenosti a hlouposti.
Moje rada pro Walmart zní: Nestavějte žádné systémy ve svých dodavatelských řetězcích, jejichž funkčnost by byla zcela závislá na technologii, která byla zavedena teprve nedávno a kterou nikdo skutečně nechápe. Pokud to uděláte, zjistíte, že vaše odolnost jako předního světového maloobchodníka je zranitelná vůči konkurenci ze strany firem, které si cení lidí, úsudku a moudrosti více než bezduchých strojů produkujících nesmysly bez svědomí.
Názory vyjádřené v tomto článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
–ete–
