Komentář
Minulý týden se stalo něco, kolem čeho většina lidí jen projela prstem po obrazovce.
Během íránské odvetné akce za vojenský zásah USA byla zasažena dvě datová centra společnosti Amazon ve Spojených arabských emirátech. Další zařízení v Bahrajnu bylo podle zpráv poškozeno poté, co poblíž přistál dron. Dřívější údery, které odvetu vyvolaly, měly podle informací využívat systémy zaměřování s podporou umělé inteligence.
Byl to krátký okamžik v mediálním cyklu, rychle překrytý dalším politickým příběhem. Jeho důsledky je však těžké přehlížet.
Umělá inteligence nyní vstoupila do aktivního geopolitického konfliktu.
Infrastruktura, která pohání digitální svět – tytéž systémy, jež ukládají rodinné fotografie, řídí podniky a odpovídají na otázky v našich telefonech – se stala strategickou válečnou infrastrukturou. Algoritmy nenápadně vetkané do civilních technologií nyní pomáhají rozhodovat o tom, kam dopadnou zbraně.
Lidstvo překročilo práh a většina z nás to přešla bez povšimnutí.
Z historie však víme, že velké technologické zvraty se zřídkakdy oznamují jediným dramatickým okamžikem. Nejprve se objevují jako signály v drobných zprávách, ve sporech o politiku, v nevysvětlených odchodech lidí zevnitř systému.
Další signál se objevil téměř ve stejnou dobu.
Americká federální vláda nedávno odstranila ze svých sítí systémy umělé inteligence vyvinuté společností Anthropic. Krátce poté vstoupila do hry společnost OpenAI se svou vlastní obrannou dohodou.
Veřejnost nezná celý příběh, který za touto změnou stojí. Nevíme přesně, jaké požadavky padly za zavřenými dveřmi, jaké etické mantinely byly zpochybňovány ani proč byla jedna z předních světových společností v oblasti umělé inteligence náhle vytlačena z federálních systémů.
Samotná tato epizoda je však dalším signálem.
A ještě jeden signál se tiše objevuje uvnitř samotného odvětví umělé inteligence: odchody výzkumníků zabývajících se bezpečností.
V posledních několika letech opustila řada vysoce postavených výzkumníků, jejichž úkolem bylo zkoumat rizika a bezpečnost pokročilých systémů umělé inteligence, své pozice v předních společnostech a výzkumných laboratořích. Mnohé z těchto odchodů proběhly bez jakéhokoli veřejného vysvětlení.
Tito výzkumníci jen zřídka popisují interní debaty, jichž byli svědky. Jen málokdo z nich je v pozici, aby to mohl udělat.
Ale právě takové signály mají svůj význam. Když se lidé, kteří mají k mocné technologii nejblíže, začnou tiše stahovat, často to znamená, že si všimli napětí, o kterém veřejnost zatím nemá ponětí.
Dějiny už takové chvíle zažily.
Na počátku čtyřicátých let si vědci pracující na projektu, který se později stal známým jako projekt Manhattan, uvědomili, že vytvářejí něco bezprecedentního. Někteří z nich vyjádřili obavy z toho, co by tato technologie mohla znamenat, jakmile opustí laboratoř. Tyto debaty však probíhaly převážně za zavřenými dveřmi. Veřejnost pochopila, co je v sázce, až poté, co již byla daná technologie použita.
Umělá inteligence se může vyvíjet podle podobného vzorce. Signály vidíme už nyní – výzkumníci odcházejí, vlády se přou o etické mantinely a systémy umělé inteligence se objevují uvnitř skutečného geopolitického konfliktu.
Veřejná debata o umělé inteligenci je však stále ovlivňována řadou domněnek, které ztěžují rozpoznání těchto signálů.
Mylná představa č. 1: Umělá inteligence je „jen nástroj“
Tato analogie je uklidňující. Představujeme si umělou inteligenci podobně jako kalkulačku nebo textový editor – stroje, které vykonávají úkoly efektivně, zatímco zůstávají pevně pod lidskou kontrolou.
Nástroje se mohou ve válce stát strategickými prostředky. Negenerují však vlastní výstupy způsoby, které jejich tvůrci někdy obtížně vysvětlují, ani nevyžadují neustálé vyjednávání o etických hranicích svého chování.
Moderní systémy umělé inteligence nejsou v tradičním smyslu programovány řádek po řádku. Jsou trénovány na obrovských souborech dat a učí se rozpoznávat vzorce uvnitř těchto dat. Jejich chování vzniká ze statistických vztahů, nikoli z explicitních instrukcí. Výzkumníci v oblasti umělé inteligence tyto systémy popisují jako „vypěstované“, nikoli postavené. A právě to je činí zásadně odlišnými od nástrojů, které jsme zvyklí ovládat.
Mylná představa č. 2: Umělá inteligence je neutrální
Systémy umělé inteligence jsou trénovány na informacích vytvořených lidmi. Tyto informace odrážejí lidské předsudky, historické konflikty i nerovnoměrné zastoupení.
Když systém umělé inteligence vytvoří odpověď, syntetizuje vzorce, které z tohoto materiálu vstřebal.
Umělá inteligence si osvojila plynulý jazyk, který může vytvářet iluzi objektivity. Sebejistý jazyk však není totéž co pravda.
Nedávné spory mezi vládami a společnostmi vyvíjejícími umělou inteligenci to ukazují velmi jasně. Debaty o limitech dohledu či autonomních zbraních nejsou jen technickými otázkami. Jsou to otázky morální. Ochranné mantinely existují právě proto, že tyto systémy samy o sobě neutrální nejsou.
Mylná představa č. 3: Lidé mají umělou inteligenci plně pod kontrolou
Tradiční software se chová podle výslovných instrukcí napsaných programátory. Moderní systémy umělé inteligence fungují jinak. Jejich výstupy jsou pravděpodobnostní a vznikají prostřednictvím vrstev naučených vztahů uvnitř modelu.
Vývojáři dnes používají systémy umělé inteligence k vytváření dalších systémů umělé inteligence a k řízení jiných systémů umělé inteligence. Používají AI k psaní kódu, který by dříve psali sami, a děje se to tak rychle, že nedokážou sledovat ani plně pochopit každý řádek kódu generovaného systémy, které nikdy nespí.
Kontrola v takovém prostředí není přepínač. Připomíná spíše pohyblivou hranici, jakou ještě nikdo neviděl, a jazyk potřebný k jejímu vůbec prvnímu pojmenování je teprve v plenkách.
Mylná představa č. 4: Odborníci vědí, kam to směřuje
Ve většině vědeckých oborů se odborníci neshodují jen v poměrně úzkém rozmezí názorů. V oblasti umělé inteligence je však rozpětí názorů neobvykle široké.
Někteří výzkumníci věří, že AI způsobí revoluci v medicíně a vědeckém poznání. Jiní varují, že technologie může přinést vážné společenské otřesy, pokud její vývoj předběhne lidskou moudrost.
Mezi těmi, kdo takové obavy vyslovují, je i Geoffrey Hinton, nositel Nobelovy ceny a jedna z klíčových osobností moderního výzkumu umělé inteligence.
Tak široké rozpětí názorů samo o sobě nedokazuje, že se blíží katastrofa. Ukazuje však, že ani lidé, kteří tyto systémy budují, se plně neshodují na tom, kam tyto systémy vedou.
Umělá inteligence se rychle začleňuje do systémů, které formují moderní život – komunikaci, obchod, národní bezpečnost i vládnutí.
Signály vidíme ve všech těchto oblastech. Je zřejmé, že AI formuje naši budoucnost, ať se nám to líbí, nebo ne. Otázkou je, zda tyto signály rozpoznáme včas, abychom pochopili, co se odehrává, nebo zda budeme čekat, tak jak to společnosti často dělají, až bude kvůli následkům nemožné tyto signály ignorovat.
Názory vyjádřené v tomto článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
–ete–
