Průkopník v oblasti umělé inteligence bije na poplach před nebezpečím, které přináší technologie, jejíž základy položil.
Geoffrey Hinton, britský počítačový vědec, který je nazýván „kmotrem umělé inteligence“, nedávno opustil svou pozici viceprezidenta a inženýra ve společnosti Google, aby se mohl připojit k desítkám dalších odborníků varujících před hrozbami a riziky umělé inteligence.
„Je těžké si představit, jak zabráníte lidem se zlými úmysly, aby ji nevyužívali ke špatným věcem,“ řekl 75letý Hinton v rozhovoru pro The New York Times.
Po březnovém spuštění nejnovější verze chatbota GPT společnosti OpenAI podepsali odborníci na umělou inteligenci otevřený dopis, který sepsala nezisková organizace Future of Life Institute a v němž varovala, že tato technologie představuje „hluboká rizika pro společnost a lidstvo“.
Stejně jako signatáři dopisu, Hinton uvedl, že považuje nedávný pokrok v oblasti umělé inteligence za „děsivý“ a obává se, co by mohl znamenat pro budoucnost – zejména nyní, když společnost Microsoft začlenila tuto technologii do svého vyhledávače Bing.
Hinton poznamenal, že vzhledem k tomu, že Google nyní spěchá udělat totéž, závod mezi velkými technologickými společnostmi o vývoj výkonnější umělé inteligence by se mohl snadno vymknout kontrole.
Jedním z konkrétních aspektů technologie umělé inteligence, který počítačového vědce znepokojuje, je její schopnost vytvářet falešné obrázky, fotografie a texty do té míry, že běžný člověk „už nebude schopen poznat, co je pravda“.
Varoval také, že v budoucnu by umělá inteligence mohla potenciálně nahradit lidi na pracovištích a být použita k vytvoření plně autonomních zbraní.
„Myšlenka, že by tato věc mohla být skutečně chytřejší než lidé – pár lidí tomu věřilo. Ale většina lidí si myslela, že to je mimo. I já jsem si myslel, že je to hodně mimo. Myslel jsem si, že tak za 30 až 50 let nebo ještě déle. To už si samozřejmě nemyslím,“ řekl Hinton.
Hintonův odchod
Hinton je známý především díky své roli při vývoji hlubokého učení, což je forma strojového učení, která trénuje počítače, aby zpracovávaly data podobně jako lidský mozek.
Tato práce byla nedílnou součástí vývoje umělé inteligence, ale při zpětném pohledu Hinton řekl, že své role v tomto procesu lituje.
„Utěšuji se normální výmluvou: kdybych to neudělal já, udělal by to někdo jiný,“ řekl.
Hinton minulý měsíc oznámil Googlu, že po více než deseti letech ze společnosti odchází.
Dne 1. května upřesnil, že důvodem jeho odchodu byla výhradně snaha izolovat společnost od jeho výroků a nemít nic společného s přístupem Googlu k umělé inteligenci.
„Odešel jsem, abych mohl mluvit o nebezpečích umělé inteligence, aniž bych bral v úvahu, jaký to má dopad na Google,“ napsal na Twitteru. „Google se zachoval velmi zodpovědně.“
V prohlášení poskytnutém deníku The New York Times uvedl Jeff Dean, senior viceprezident společnosti Google pro výzkum a umělou inteligenci: „Jsme i nadále odhodláni přistupovat k umělé inteligenci zodpovědně. Neustále se učíme, abychom porozuměli vznikajícím rizikům, a zároveň odvážně inovovali.“
„Digitální Bůh“
Navzdory ujišťování společnosti Google se jiní k jejím metodám vyjadřují kriticky.
V nedávném rozhovoru pro Fox News generální ředitel společnosti Tesla Elon Musk – který je rovněž spoluzakladatelem OpenAI (ale před lety projekt opustil) – uvedl, že má pocit, že Larry Page, spoluzakladatel společnosti Google, nebere rizika umělé inteligence vážně.
„Opravdu se zdálo, že chce digitální superinteligenci, v podstatě digitálního Boha, co nejdříve,“ řekl Musk s odkazem na diskuze, které s Pagem na toto téma vedl.
„V průběhu let učinil mnoho veřejných prohlášení, že naprostým cílem společnosti Google je to, čemu se říká AGI, umělá obecná inteligence nebo umělá super-inteligence,“ poznamenal Musk. „Souhlasím s ním, že je v tom velký potenciál pro dobro, ale také pro zlo.“
Musk, který podepsal zmíněný dopis Future of Life Institute, otevřeně vyjádřil své obavy z umělé inteligence a zastává názor, že představuje vážné riziko pro lidskou civilizaci.
„Umělá inteligence je možná nebezpečnější než, řekněme, špatně zvládnutá konstrukce letadel nebo údržba výroby či špatná výroba automobilů v tom smyslu, že má potenciál – za jakkoli malou můžeme tuto pravděpodobnost považovat, není triviální – má potenciál civilizační destrukce,“ řekl pro Fox News.
Musk také vyjádřil obavu, že umělá inteligence je cvičena k politické korektnosti, což je podle něj jen forma podvádění a „říkání nepravdivých věcí“.
Navzdory těmto obavám – nebo možná právě kvůli nim – vyjádřil miliardář také zájem o vývoj vlastní „pravdu hledající“ umělé inteligence. „Chceme být pro-lidští. Udělat budoucnost dobrou pro lidi. Protože my jsme lidé,“ dodal Musk.
Překlad a redakční úprava původní zprávy americké redakce: Juraj Skovajsa
