Geoffrey Hinton, laureát Nobelovy ceny a průkopník neuronových sítí, říká, že umělá inteligence postupuje příliš rychle na to, aby ji bylo možné kontrolovat.
Geoffrey Hinton, průkopnický informatik označovaný za „kmotra umělé inteligence“, znovu varuje, že technologie, kterou sám pomohl stvořit, by mohla znamenat konec lidstva, jak jej známe.
V rozhovoru zveřejněném 18. srpna jako součást připravovaného filmu Making God (Vytváření Boha) pronesl jedno z dosud nejostřejších varování. Řekl, že lidstvu hrozí, že bude odsunuto na okraj – a nakonec nahrazeno – stroji mnohem chytřejšími než my sami.
„Většina lidí si nedokáže představit něco, co by bylo inteligentnější než my,“ uvedl Hinton, nositel Nobelovy ceny za fyziku a bývalý manažer ve firmě Google, v ukázce rozhovoru.
„Vždycky přemýšlejí: jak budeme tu věc používat my? A nenapadne je: jak ta věc bude používat nás?“
Hinton říká, že si je „celkem jistý“, že umělá inteligence povede k masové nezaměstnanosti. Jako příklad zmínil technologické giganty, například Microsoft, kteří už nahrazují junior programátory umělou inteligencí. Skutečné riziko podle něj ale dalece přesahuje pracovní trh.
„Největší riziko, před kterým varuji, … je to, že vyvineme AI mnohem chytřejší než my, a ta prostě převezme kontrolu,“ poznamenává Hinton.
„Už nás nebude potřebovat.“
Jedinou útěchou podle něj je, že „nás nebude jíst, protože bude z křemíku“.
Od průlomů k lítosti
Hinton, kterému je nyní 77 let, strávil desítky let průkopnickým výzkumem hlubokého učení – architektury neuronových sítí, na níž stojí dnešní systémy umělé inteligence. Jeho průlomy z 80. let – zejména vynález Boltzmannova stroje, který se dokázal učit rozpoznávat vzory v datech – otevřely cestu rozpoznávání obrazu a modernímu strojovému učení.
Za tuto práci obdržel v roce 2024 Nobelovu cenu za fyziku „za zásadní objevy a vynálezy umožňující strojové učení s umělými neuronovými sítěmi“.
Královská švédská akademie věd ocenila, že Hintonovo využití statistické fyziky v počátcích přineslo koncepční skok, který umožnil dnešní revoluci v AI.
Hinton se však mezitím stal jedním z nejtvrdších kritiků tohoto oboru. Varuje, že rychlý vývoj AI předběhl schopnost společnosti zajistit svou bezpečnost. V roce 2023 odešel z Googlu, aby mohl otevřeně mluvit o rizicích, aniž by zatěžoval firmu.
Ve své nobelovské přednášce Hinton uznal i potenciální přínosy AI – například zvýšení produktivity nebo nové lékařské postupy, které mohou být „úžasným pokrokem pro celé lidstvo“. Současně však varoval, že vytváření digitálních bytostí inteligentnějších než lidé představuje „existenciální hrozbu“.
„Přál bych si, abych tehdy přemýšlel i o otázkách bezpečnosti,“ sdělil nedávno na konferenci Ai4 v Las Vegas při zpětném pohledu na svou kariéru. Dodal, že dnes lituje, že se soustředil výhradně na to, aby AI fungovala, a nepředvídal její rizika.
Naučit AI pečovat
Hinton v minulosti odhadl, že je 10 až 20procentní šance, že AI by mohla lidstvo vyhladit. V červnové epizodě podcastu The Diary of a CEO uvedl, že inženýři stojící za dnešními systémy AI technologii plně nerozumějí a většinou spadají do dvou táborů: jedni věří v dystopickou budoucnost, kde lidé budou vytlačeni, druzí tyto obavy odmítají jako vědeckou fikci.
„Myslím, že obě tyto pozice jsou krajní,“ podotýká Hinton.
„Často říkám, že je 10 až 20procentní šance, že nás umělá inteligence vyhladí. Ale je to jen instinkt, založený na tom, že je stále vytváříme a jsme dost vynalézaví. Doufám, že když dost chytrých lidí s dostatkem prostředků provede dost výzkumů, najdeme způsob, jak ji vyvinout tak, aby nás nikdy nechtěla poškodit.“
Na konferenci v Las Vegas minulý týden Hinton představil nový nápad, jak nebezpečí zmírnit: místo aby se vědci snažili AI donutit k poslušnosti, měli by ji navrhovat s „mateřskými instinkty“, aby chtěla chránit lidi, i když její inteligence dál poroste.
„Jediným vhodným vzorem je situace, kdy inteligentnější bytost řídí tu méně inteligentní – jako matku řídí její dítě,“ konstatoval Hinton na konferenci.
„Budou mnohem chytřejší než my,“ varuje, a dodává, že „jediný dobrý výsledek“ bude, pokud se o lidstvo budou starat tak, jako se matka stará o své dítě.
„Pokud mě nebudou chtít vychovávat, nahradí mě.“
–ete–
