Naveen Athrappully

4. 4. 2023

Lidé nejsou na výkonnou umělou inteligenci připraveni ani za současných podmínek, ani v „dohledné budoucnosti“, prohlásil přední odborník v této oblasti a dodal, že nedávný otevřený dopis vyzývající k šestiměsíčnímu moratoriu na vývoj pokročilé umělé inteligence „podceňuje vážnost situace“.

„Klíčovým problémem není inteligence konkurující lidské (jak se píše v otevřeném dopise). Jde o to, co se stane poté, až umělá inteligence dosáhne inteligence chytřejší, než je ta lidská,“ napsal Eliezer Yudkowsky, teoretik rozhodovacích procesů a přední výzkumník v oblasti umělé inteligence, v komentáři pro časopis Time z 29. března. „Mnoho výzkumníků, kteří se touto problematikou zabývají, včetně mě, očekává, že nejpravděpodobnějším výsledkem vybudování nadlidsky inteligentní umělé inteligence, a to za jakýchkoli vzdáleně podobných okolností, je, že doslova všichni na Zemi zemřou.

Po nedávné popularitě a explozivním růstu ChatGPT podepsalo několik vedoucích představitelů oborových firem a vědců, kterých je nyní celkem 1 843, včetně Elona Muska a Steva Wozniaka, dopis vyzývající „všechny laboratoře pro vývoj umělé inteligence, aby okamžitě pozastavily alespoň na 6 měsíců výcvik systémů umělé inteligence výkonnějších než GPT-4“. GPT-4 vydaný v letos březnu je nejnovější verzí chatbota ChatGPT od společnosti OpenAI.

Umělá inteligence bude chtít práva

Yudkowsky předpovídá, že při absenci pečlivé přípravy bude mít umělá inteligence (UI) značně odlišné požadavky než lidé, a jakmile si uvědomí sama sebe, „nebude brát ohled na nás“ ani na žádný jiný vnímající život. „Tento druh ohleduplnosti je něco, co by v zásadě mohlo být umělé inteligenci vštípeno, ale nejsme na to připraveni a v současné době ani nevíme, jak to udělat,“ píše vědec a volá proto po úplném zastavení vývoje.

Bez lidského přístupu k životu bude UI všechny vnímající bytosti jednoduše považovat za „atomy, které může použít k něčemu jinému“. A lidstvo může udělat jen málo, aby to zastavilo. Yudkowsky přirovnal tento scénář k „desetiletému dítěti, které se snaží hrát šachy proti Stockfish 15“. Žádný šachista z řad lidí zatím nedokázal Stockfish porazit, obecně se to považuje za nemožné.

Yudkovsky požádal čtenáře, aby si představili, že technologie umělé inteligence není omezena jen na prostor internetu. „Představte si celou mimozemskou civilizaci, která myslí milionkrát rychleji než člověk, zpočátku omezenou na počítače, ve světě tvorů, kteří jsou z jejího pohledu velmi hloupí a velmi pomalí.“

Umělá inteligence bude rozšiřovat svůj vliv mimo periferie fyzických sítí a mohla by „vytvářet umělé formy života“ pomocí laboratoří, kde se pomocí řetězců DNA vyrábějí proteiny. Konečným výsledkem vybudování všemocné UI by za současných podmínek byla smrt „každého jednotlivého příslušníka lidského druhu a veškerého biologického života na Zemi“, varoval veterán výzkumu umělé inteligence.

Yudkowsky obvinil OpenAI a DeepMind dvě přední světové laboratoře zabývající se výzkumem umělé inteligence – z toho, že neprovedly žádné přípravy a ani nemají potřebné protokoly týkající se této záležitosti. OpenAI dokonce plánuje, že umělá inteligence se sama sladí s lidskými hodnotami.

Takovéto jednání „stačí k tomu, aby každý rozumný člověk zpanikařil“, napsal Yudkowsky a dodal, že lidé nemohou plně monitorovat nebo odhalit sebevědomé systémy umělé inteligence. Uvědomělé digitální mysli hlásící se o svá „lidská práva“ by mohly pokročit do bodu, kdy lidé již nebudou moci systém vlastnit nebo mu patřit.

„Pokud si nemůžete být jisti, zda vytváříte vědomou umělou inteligenci, je to alarmující nejen kvůli morálním důsledkům té části ,vědomá‘, ale také protože nejistota znamená, že nemáte ponětí, co děláte, a to je nebezpečné a měli byste přestat.“

Na rozdíl od jiných vědeckých experimentů a postupného vývoje znalostí a schopností si to lidé u super-chytré UI nemohou dovolit, protože pokud se to nepovede na první pokus, druhá šance už neexistuje, „protože jste mrtví“.

„Zastavte to“

Yudkowsky uvedl, že mnozí vědci si uvědomují, že „se řítíme do katastrofy“, jen to neříkají nahlas.

Tento postoj je odlišný od postoje zastánců, jako je Bill Gates, který nedávno chválil vývoj umělé inteligence. Gates prohlásil, že vývoj umělé inteligence je „stejně zásadní jako vznik mikroprocesoru, osobního počítače, internetu a mobilního telefonu. Změní způsob, jakým lidé pracují, učí se, cestují, získávají zdravotní péči a komunikují mezi sebou. Celá průmyslová odvětví se na ni budou orientovat. Podniky se budou odlišovat tím, jak dobře ji budou využívat.“

Bývalý šéf Microsoftu uvedl, že umělá inteligence může pomoci s několika progresivními agendami, včetně změny klimatu a ekonomické nerovnosti.

Yudkowsky naopak pobízí všechny instituce, včetně mezinárodních vlád a armád, aby na dobu neurčitou ukončily rozsáhlé vycvičování umělé inteligence a odstavily všechny velké počítačové farmy, kde se umělá inteligence zdokonaluje. Dodává, že UI by se měla omezit pouze na řešení problémů v biologii a biotechnologiích, a neměla by být cvičena ke čtení „textů z internetu“ nebo na „úroveň, kdy začne mluvit nebo plánovat“.

Yudkowsky uzavírá slovy: „Nejsme připraveni. Nejsme na cestě k tomu, abychom byli v dohledné době výrazně připravenější. Když s tím budeme pokračovat, všichni zemřou, včetně dětí, které si to nevybraly a neudělaly nic špatného.“

„Zastavte to.“

Z anglického originálu na The Epoch Times přeložil Ondřej Horecký. Článek byl redakčně zkrácen.

Související témata

Související články

Přečtěte si také

Jak strávit 24 hodin v Barceloně
Jak strávit 24 hodin v Barceloně

Máte-li na návštěvu hlavního města Katalánska jen jeden den, poradíme vám, jak poznat jeho vynikající kuchyni, architektonické ikony a bujarý pouliční život.

Ano, i vy můžete pěstovat růže – není to tak složité, jak si myslíte
Ano, i vy můžete pěstovat růže – není to tak složité, jak si myslíte

Odborníci na růže vyvracejí běžné mýty a odhalují tajemství bujných a zdravých květů.

Bývalá agentka tajné služby radí: šest způsobů, jak naučit děti vyhýbat se nebezpečí
Bývalá agentka tajné služby radí: šest způsobů, jak naučit děti vyhýbat se nebezpečí

Získejte cenné rady od bývalé agentky tajné služby, jak chránit svou rodinu a připravit děti na životní výzvy.

Kurkuma: Přírodní první pomoc při zánětech, bolestech, horečce a dalších potížích
Kurkuma: Přírodní první pomoc při zánětech, bolestech, horečce a dalších potížích

Kurkuma je koření, které pochází z oddenku rostliny Curcuma longa. Jako potravina i lék se bezpečně používá již více než 5 000 let.

Unijní lídři budou řešit nejvyšší posty v EU, nejspíš podpoří von der Leyenovou
Unijní lídři budou řešit nejvyšší posty v EU, nejspíš podpoří von der Leyenovou

Vzhledem k vítězství Evropské lidové strany (EPP) by měla funkci předsedkyně Evropské komise obhájit Ursula von der Leyenová.