Vývoj a použití umělé inteligence se stále více rozšiřuje. Nová generace zbraní s umělou inteligencí, včetně robotů pro vojenské účely, vyvolává u odborníků obavy. Tvrdí, že umělá inteligence je prosta etických omezení a že by mohla lidstvo přivést do morálního dilematu.
V současné době zažíváme pravděpodobně největší změnu v dějinách vojenství.
V loňském roce to uvedl předseda sboru náčelníků štábů USA generál Mark Milley pro americkou vojenskou a bezpečnostní strategickou platformu Defence One. „Z vojenského hlediska se nacházíme v klíčovém historickém okamžiku. Prožíváme zásadní změnu v povaze války,“ cituje Milleyho americká edice Epoch Times.
Po poslední revoluci v tzv. mechanizovaném válčení se nyní v masovém měřítku využívá robotika a umělá inteligence. Lidé jsou vyřazováni z vojenského rozhodování.
Oppenheimerův moment?
Koncem dubna 2024 byla ve Vídni v návaznosti na mezinárodní konferenci na toto téma vyhlášena výzva k regulaci smrtících autonomních zbraňových systémů (AWS). Tyto systémy jsou známé také jako „roboti zabijáci“. V textu byla zdůrazněna naléhavost vzhledem k neúspěšným diplomatickým snahám. Země jako Rusko, Čína a Spojené státy se dosud stavěly proti pokusům o regulaci na mezinárodní úrovni. „Toto je Oppenheimerův okamžik naší generace,“ zdůraznil závěrečný dokument konference.
„Oppenheimerův moment“ odkazuje na podíl amerického fyzika Roberta Oppenheimera na vývoji atomové bomby, který přinesl Spojeným státům a jejich spojencům vítězství ve druhé světové válce a vynesl mu titul otec atomové bomby. Oppenheimer však byl svědkem katastrofy, kterou atomová bomba přinesla japonskému lidu, a hlubokých jizev, které zanechala na světě. To ho vedlo k pochybnostem, zda jeho rozhodnutí podílet se na vývoji atomové bomby bylo správné.
Robotické armády jsou budoucnost
Generál Mark Milley je přesvědčen, že nejsilnější armády světa budou v příštím desetiletí z velké části tvořeny roboty. „V příštích deseti až patnácti letech se velká část armád vyspělých zemí stane robotickými,“ cituje jeho slova americký deník Epoch Times. „Když k robotice přidáte umělou inteligenci, přesnou munici a schopnost vidět na dálku, dostanete mix skutečně zásadních změn,“ dodal generál.
V projevu na summitu G7 v jižní Itálii 14. června 2024 sám papež František varoval před vojenským využitím umělé inteligence a vyzval k zákazu „smrtících autonomních zbraní“. „V případě tragédie, jako je ozbrojený konflikt, je naléhavě nutné přehodnotit vývoj a používání zařízení, jako jsou smrtící autonomní zbraně, s cílem zakázat jejich používání,“ řekl hlavám států a vlád. Papež, který je otevřeným odpůrcem obchodu se zbraněmi, dále uvedl:
Žádný stroj by se nikdy neměl rozhodnout vzít život lidské bytosti.
Třetí revoluce po střelném prachu a atomové bombě
Od ruské invaze na Ukrajinu až po krize na Blízkém východě jsme již svědky používání umělé inteligence, které může být velmi nebezpečné. Roboti, drony, torpéda: všechny druhy zbraní by se mohly proměnit v autonomní systémy řízené algoritmy. Podle odborníků by se to po vynálezu střelného prachu a atomové bomby mohlo stát třetí velkou revolucí v oblasti vojenské techniky.
Dvě největší světové vojenské mocnosti, Čína a Spojené státy, stojí v čele zemí, které se snaží vyvinout vojenskou umělou inteligenci. V tomto závodě o smrtící autonomní zbraně čínský režim investuje do platforem vybavených umělou inteligencí, které by mohly ve válce plnit smrtící mise bez nutnosti lidského zásahu nebo kontroly.
„Nejlepší dostupné důkazy […] naznačují, že čínská strategie je ambiciózní a přesahuje jakoukoli formu lidského dohledu na bitevním poli ke stále autonomnějšímu vedení války na bázi umělé inteligence,“ říká Gregory Allen, ředitel Wadhwaniho centra pro umělou inteligenci a pokročilé technologie v Centru pro strategická a mezinárodní studia.
Podle něj Komunistická strana Číny (KS Číny) investuje velké prostředky do celé řady nových technologií, z nichž nejdůležitější je umělá inteligence. Schopnost režimu vytvářet válečné stroje řízené umělou inteligencí se rychle dostává na úroveň Spojených států a brzy by je mohla i předčit.
Čína může brzy převzít vedení
„I když mají Spojené státy značné výhody, Čína může rychle převzít vedení v zavádění schopností umělé inteligence vládami a armádami,“ vysvětluje Allen podle amerického deníku Epoch Times. Ambice režimu AI se neomezují pouze na roboty zabijáky. KS Číny investuje do rozvoje schopností AI také v kontextu vojenského rozhodování a velení.
Cílem KS Číny je odstranit lidský faktor z vojenského rozhodování a transformovat válčení prostřednictvím masivní integrace AI, automatizace a velkých dat. Souhrnně lze říci, že plně autonomní zbraně – „roboti zabijáci“ – by byly schopny vybírat a útočit na cíle bez lidského zásahu.
Mezinárodní konference ve Vídni
Na konci dubna 2024 se ve Vídni konala výše zmíněná dvoudenní konference, na níž byly všechny země vyzvány, aby společně diskutovaly o problematice vyzbrojování AI. Konference se zúčastnilo více než 1 000 osob z více než 140 zemí, včetně politických představitelů, odborníků a členů občanské společnosti.
Rakouský ministr zahraničí Alexander Schallenberg to ve svém úvodním projevu uvedl jasně:
Autonomní zbraňové systémy brzy ovládnou bojiště po celém světě. Již nyní jsme toho svědky v případě bezpilotních letounů s umělou inteligencí a výběru cílů řízených umělou inteligencí.
Celou konferenci si můžete prohlédnout v záznamu (YouTube).
Schallenberg vysvětlil, že je naléhavě nutné zavést mezinárodně uznávaná pravidla a standardy, aby se umělá inteligence nevymkla lidské kontrole a neohrozila lidstvo. Musíme zajistit, aby zbraně kontrolovali lidé, a nikoliv AI, uvedl ministr zahraničí.
Podle organizace Human Rights Watch „je pochybné, zda jsou plně autonomní zbraně schopny respektovat normy mezinárodního humanitárního práva, včetně pravidel rozlišování, proporcionality a vojenské nezbytnosti, a zároveň ohrožovat základní právo na život a zásadu lidské důstojnosti“. Nevládní organizace proto požaduje preventivní zákaz vývoje, výroby a používání plně autonomních zbraní.
„Svět se blíží bodu zlomu v reakci na obavy z autonomních zbraňových systémů a podpora jednání dosahuje nebývalé úrovně,“ uvedl Steve Goose, ředitel zbrojních kampaní organizace Human Rights Watch. „Přijetí silné mezinárodní dohody o autonomních zbraňových systémech nemůže být potřebnější a naléhavější.“
Rezoluce OSN o smrtících autonomních zbraňových systémech
Dne 22. prosince 2023 hlasovalo 152 zemí včetně Německa pro první rezoluci OSN o smrtících autonomních zbraňových systémech (rezoluce 78/241). Čtyři země hlasovaly proti (Bělorusko, Indie, Mali a Ruská federace), zatímco Čína, Severní Korea, Izrael a osm dalších zemí se zdrželo hlasování. V předběžném hlasování rezoluci přesto podpořilo 164 zemí.
Rezoluce uznává „velké výzvy a vážné obavy“, které vyvolávají „nové technologické aplikace ve vojenské oblasti, včetně těch, které se týkají umělé inteligence a autonomie zbraňových systémů“.
Text vyzývá ke komplexnímu přezkumu této otázky na příštím Valném shromáždění OSN, které začne 10. září 2024. Za tímto účelem by měl generální tajemník vypracovat komplexní zprávu, která zohlední názory všech zemí a klíčových zúčastněných stran.
USA upřednostňují dobrovolnou akci
Podle hodnocení Michaela T. Klareho z Americké asociace pro kontrolu zbraní panuje všeobecná shoda ohledně potenciálních rizik autonomních zbraňových systémů, zejména pokud jsou nasazeny bez odpovídajícího lidského dohledu. Neshoda panuje v otázce, jak regulovat proces vývoje a nasazení. Jedna skupina vedená Rakouskem je pro právně závazný zákaz používání plně autonomních zbraňových systémů. Jiné státy, především Spojené státy, jsou pro dobrovolná omezení.
Uvidíme, která z těchto dvou skupin bude hrát větší roli při přípravách příštího Valného shromáždění OSN.
