Lidé nejsou na výkonnou umělou inteligenci připraveni ani za současných podmínek, ani v „dohledné budoucnosti“, prohlásil přední odborník v této oblasti a dodal, že nedávný otevřený dopis vyzývající k šestiměsíčnímu moratoriu na vývoj pokročilé umělé inteligence „podceňuje vážnost situace“.

„Klíčovým problémem není inteligence konkurující lidské (jak se píše v otevřeném dopise). Jde o to, co se stane poté, až umělá inteligence dosáhne inteligence chytřejší, než je ta lidská,“ napsal Eliezer Yudkowsky, teoretik rozhodovacích procesů a přední výzkumník v oblasti umělé inteligence, v komentáři pro časopis Time z 29. března. „Mnoho výzkumníků, kteří se touto problematikou zabývají, včetně mě, očekává, že nejpravděpodobnějším výsledkem vybudování nadlidsky inteligentní umělé inteligence, a to za jakýchkoli vzdáleně podobných okolností, je, že doslova všichni na Zemi zemřou.

Po nedávné popularitě a explozivním růstu ChatGPT podepsalo několik vedoucích představitelů oborových firem a vědců, kterých je nyní celkem 1 843, včetně Elona Muska a Steva Wozniaka, dopis vyzývající „všechny laboratoře pro vývoj umělé inteligence, aby okamžitě pozastavily alespoň na 6 měsíců výcvik systémů umělé inteligence výkonnějších než GPT-4“. GPT-4 vydaný v letos březnu je nejnovější verzí chatbota ChatGPT od společnosti OpenAI.

Umělá inteligence bude chtít práva

Yudkowsky předpovídá, že při absenci pečlivé přípravy bude mít umělá inteligence (UI) značně odlišné požadavky než lidé, a jakmile si uvědomí sama sebe, „nebude brát ohled na nás“ ani na žádný jiný vnímající život. „Tento druh ohleduplnosti je něco, co by v zásadě mohlo být umělé inteligenci vštípeno, ale nejsme na to připraveni a v současné době ani nevíme, jak to udělat,“ píše vědec a volá proto po úplném zastavení vývoje.

Bez lidského přístupu k životu bude UI všechny vnímající bytosti jednoduše považovat za „atomy, které může použít k něčemu jinému“. A lidstvo může udělat jen málo, aby to zastavilo. Yudkowsky přirovnal tento scénář k „desetiletému dítěti, které se snaží hrát šachy proti Stockfish 15“. Žádný šachista z řad lidí zatím nedokázal Stockfish porazit, obecně se to považuje za nemožné.

Yudkovsky požádal čtenáře, aby si představili, že technologie umělé inteligence není omezena jen na prostor internetu. „Představte si celou mimozemskou civilizaci, která myslí milionkrát rychleji než člověk, zpočátku omezenou na počítače, ve světě tvorů, kteří jsou z jejího pohledu velmi hloupí a velmi pomalí.“

Umělá inteligence bude rozšiřovat svůj vliv mimo periferie fyzických sítí a mohla by „vytvářet umělé formy života“ pomocí laboratoří, kde se pomocí řetězců DNA vyrábějí proteiny. Konečným výsledkem vybudování všemocné UI by za současných podmínek byla smrt „každého jednotlivého příslušníka lidského druhu a veškerého biologického života na Zemi“, varoval veterán výzkumu umělé inteligence.

Yudkowsky obvinil OpenAI a DeepMind dvě přední světové laboratoře zabývající se výzkumem umělé inteligence – z toho, že neprovedly žádné přípravy a ani nemají potřebné protokoly týkající se této záležitosti. OpenAI dokonce plánuje, že umělá inteligence se sama sladí s lidskými hodnotami.

Takovéto jednání „stačí k tomu, aby každý rozumný člověk zpanikařil“, napsal Yudkowsky a dodal, že lidé nemohou plně monitorovat nebo odhalit sebevědomé systémy umělé inteligence. Uvědomělé digitální mysli hlásící se o svá „lidská práva“ by mohly pokročit do bodu, kdy lidé již nebudou moci systém vlastnit nebo mu patřit.

„Pokud si nemůžete být jisti, zda vytváříte vědomou umělou inteligenci, je to alarmující nejen kvůli morálním důsledkům té části ,vědomá‘, ale také protože nejistota znamená, že nemáte ponětí, co děláte, a to je nebezpečné a měli byste přestat.“

Na rozdíl od jiných vědeckých experimentů a postupného vývoje znalostí a schopností si to lidé u super-chytré UI nemohou dovolit, protože pokud se to nepovede na první pokus, druhá šance už neexistuje, „protože jste mrtví“.

„Zastavte to“

Yudkowsky uvedl, že mnozí vědci si uvědomují, že „se řítíme do katastrofy“, jen to neříkají nahlas.

Tento postoj je odlišný od postoje zastánců, jako je Bill Gates, který nedávno chválil vývoj umělé inteligence. Gates prohlásil, že vývoj umělé inteligence je „stejně zásadní jako vznik mikroprocesoru, osobního počítače, internetu a mobilního telefonu. Změní způsob, jakým lidé pracují, učí se, cestují, získávají zdravotní péči a komunikují mezi sebou. Celá průmyslová odvětví se na ni budou orientovat. Podniky se budou odlišovat tím, jak dobře ji budou využívat.“

Bývalý šéf Microsoftu uvedl, že umělá inteligence může pomoci s několika progresivními agendami, včetně změny klimatu a ekonomické nerovnosti.

Yudkowsky naopak pobízí všechny instituce, včetně mezinárodních vlád a armád, aby na dobu neurčitou ukončily rozsáhlé vycvičování umělé inteligence a odstavily všechny velké počítačové farmy, kde se umělá inteligence zdokonaluje. Dodává, že UI by se měla omezit pouze na řešení problémů v biologii a biotechnologiích, a neměla by být cvičena ke čtení „textů z internetu“ nebo na „úroveň, kdy začne mluvit nebo plánovat“.

Yudkowsky uzavírá slovy: „Nejsme připraveni. Nejsme na cestě k tomu, abychom byli v dohledné době výrazně připravenější. Když s tím budeme pokračovat, všichni zemřou, včetně dětí, které si to nevybraly a neudělaly nic špatného.“

„Zastavte to.“

Z anglického originálu na The Epoch Times přeložil Ondřej Horecký. Článek byl redakčně zkrácen.