Analytický komentář
Předjímání katastrofických důsledků používání umělé inteligence (AI) se opakovaně objevovalo ve vědeckofantastických filmech, jako jsou Terminátor a jeho Skynet realizující totální válku proti lidstvu nebo Matrix a jeho využívání lidí, coby zdroje energie pro pohánění strojů. Dnes je vzestup AI reálné téma, které se diskutuje již na úrovni OSN.
Podle závěrů mezinárodních jednání ze září 2024 by měla být AI podrobena celosvětové kontrole.
„Zejména imperativ globálního řízení, je nezvratný. Suroviny [pro vytvoření] umělé inteligence, od kritických minerálů až po tréninková data, pocházejí z celého světa,“ uvádí zpráva OSN nazvaná Řízení AI pro lidstvo.
„Umělá inteligence pro všeobecné použití, nasazená v mezinárodním měřítku, vytváří rozmanité aplikace na celém světě. Na zrychlující se vývoj AI je soustřeďována síla a bohatství v celosvětovém měřítku, přičemž to má geopolitické a geoekonomické důsledky,“ uvádí zpráva OSN.
Jak se však v realitě ukazuje, není zatím celosvětová spolupráce možná, protože ne všichni chtějí následovat společná pravidla a budou chtít AI využít ve vlastní prospěch nebo pro své vlastní cíle.
Na summitu v Soulu podepsalo tento měsíc 60 zemí včetně USA plán omezující vojenské využití AI. Čína se nepřipojila, což vyvolává obavy z technologického pokroku v rukou Komunistické strany Číny, která bude AI zřejmě chtít využít pro své mocenské a územní plány.
Podle Bradleyho Thayera, vedoucího pracovníka Centra pro bezpečnostní politiku, by vývoj zbraní umělé inteligence mohl být srovnatelný s revolucí, kterou přinesly jaderné zbraně.
Komunistická strana Číny již aktivně vyvíjí zbraně s umělou inteligencí. Bývalý předseda sboru náčelníků štábů amerického Pentagonu generál Mark Milley nedávno prohlásil, že spojení umělé inteligence s bojovými roboty naprosto změní charakter války.
„Dnes se nacházíme v … pravděpodobně největší změně v dějinách vojenství,“ řekl Milley během diskuse s Defense One 31. března. „Z vojenského hlediska se nacházíme v klíčovém okamžiku dějin. Nacházíme se v okamžiku, který se rovná zásadní změně samotného charakteru války.“
Takové revoluce podle generála probíhaly od vynálezu třmene přes zavedení střelné zbraně až po nasazení mechanizovaného boje a nyní po masové nasazení robotiky a umělé inteligence.
Podle zprávy OSN vývoj, zavádění a používání AI technologie „nelze ponechat pouze na libovůli trhů“ a budou se muset zapojit i „vlády jednotlivých států a regionální organizace“.
Použití AI by se dle spojených národů mělo řídit „mezinárodním právem, zejména mezinárodním právem v oblasti lidských práv“.
Zpráva dále uvádí, že představa o tom, že „jeden stát nebo skupina států“ budou moci „ovládat“ nebo „rozhodovat“ o využití AI, se „bude zmenšovat“, protože AI ovlivní mnoho dalších a všichni, kdo budou AI zasaženi, by měli být přizváni k diskusi o jejím využití a směřování.
„Spravedlnost vyžaduje, aby více hlasů hrálo významnou roli v rozhodování o tom, jak řídit technologie které nás ovlivňují,“ dodává zpráva OSN. „Režimy správy AI musí také pokrývat celý svět, aby byly účinné – účinné při odvracení ‚závodů ve zbrojení v oblasti AI‘“.
OSN také volá po vytvoření nezávislé mezinárodní vědecké komise pro umělou inteligenci a Úřadu OSN pro umělou inteligenci. Tyto orgány by měly informovat o „schopnostech, příležitostech a rizicích souvisejících s umělou inteligencí“.
Jak konkrétně zabezpečit, aby se z umělé inteligence nestala fatální hrozba, prozatím není úplně jasné.
Problémy se podle zprávy objevují již dnes v oblasti sledování pomocí AI, či dezinformací generovaných AI. Podle panelu odborníků svolaných OSN se nové škody způsobené AI výrazně zvýší a budou závažnější nebo rozšířenější v příštích 18 letech.
Samozřejmě, vedle rizik nabízí podle vědců využití AI v řadě oblastí užitek, např. pro „udržitelný rozvoj“ lidstva.
Před důsledky umělé inteligence v kulturní sféře již kromě výše zmíněných filmů varovali v roce 2004 také tvůrci filmu Já robot nebo nového Mission: Impossible Odplata či hororového pokračování ságy Vetřelec: Romulus.
