Komentář
Na začátku letošního roku generální ředitel nejvýkonnější společnosti vyvíjející a provozující systémy umělé inteligence (AI) varoval, že nadlidská inteligence způsobí škody na úrovni celé civilizace, pokud nedojde k chytrému a rychlému zásahu.
„Lidstvo se chystá získat téměř nepředstavitelnou moc a je hluboce nejasné, zda naše sociální, politické a technologické systémy mají dostatečnou vyspělost, aby ji dokázaly zvládnout,“ uvedl Dario Amodei, generální ředitel společnosti Anthropic, ve svém 38stránkovém komentáři o umělé inteligenci.
Ve svém článku „Dospívání technologií: Konfrontace a překonání rizik silné umělé inteligence“ Amodei vyjadřuje hluboké znepokojení nad tím, že vláda, technologické firmy i veřejnost zásadně podceňují, co všechno se může při využívání AI pokazit. Říká, že svůj text napsal proto, aby ostatní vytrhl z apatie, vyprovokoval veřejnou debatu a podrobně popsal rizika AI.
„Lidstvo se musí probudit,“ prohlásil Amodei.
Uvedl, že jeho esej je pokusem „otřást lidmi a vytrhnout je z letargie“.
Amodei tvrdí, že je optimistou, pokud jde o to, že lidstvo tuto přechodovou fázi zvládne, ale pouze tehdy, pokud lídři v oblasti AI a vláda budou k lidem upřímní a začnou brát hrozby vážněji než dnes. Dodal, že pokud se těmito výzvami nebudeme zabývat, čeká nás drsná realita života v „zemi géniů v datovém centru“.
Amodei zmiňuje několik konkrétních obav spojených s AI a vyslovuje řadu varování. Říká, že je nutné věnovat čas pečlivému budování systémů AI, které nebudou autonomně ohrožovat lidstvo. Z toho plyne, že je zásadní, aby si demokratické státy udržely náskok před autoritářskými režimy a nenechaly se jimi podrobit.
A právě tady je ten háček.
Hlavní model umělé inteligence společnosti Anthropic, nazývaný Claude, byl široce využíván americkým ministerstvem obrany ke sběru zpravodajských informací, identifikaci cílů, plánování operací a celé řadě dalších úkolů. Ve skutečnosti je Claude v současnosti používán při operacích v Íránu a na Ukrajině a byl nasazen i ve Venezuele při dopadení prezidenta Nicoláse Madura. Izrael jej využil při operacích v Gaze.
Ve své smlouvě s ministerstvem obrany Anthropic uvedl dvě omezení. Zaprvé, vláda nesmí jeho technologie používat k hromadnému sledování amerických občanů – tedy ke zjišťování, kde se pohybovali, co navštívili a co si koupili. Zadruhé, Claude nesmí být použit v autonomních zbraních, které zabíjejí lidi bez lidského zásahu.
Americká administrativa, konkrétně prezident Donald Trump a ministr obrany Pete Hegseth, s oběma omezeními nesouhlasila. Anthropic argumentoval, že by měl mít právo určovat, co je pro jím vyvíjené a vládě prodávané systémy AI nepřípustné. Administrativa naopak trvala na tom, že chce nástroje společnosti Anthropic „pro všechny zákonné účely“.
Amodei uvedl, že v úzce vymezených případech může AI demokratické hodnoty spíše podkopávat než bránit. Řekl, že některá využití AI jednoduše přesahují hranice toho, co dnešní technologie dokáže bezpečně a spolehlivě zvládnout. Zdůraznil, že nechce, aby byl jeho model AI používán bez lidské kontroly v situacích, které by mohly vést k zabíjení nevojáků nebo vlastních jednotek automatizovanými zbraněmi. Stejně tak nechce, aby byla AI využívána ke špehování Američanů, což by mohlo porušovat hluboce zakořeněné hodnoty, jako je ochrana soukromí, záruka svobody před nezákonnými prohlídkami a zabavením majetku či právo vyjádřit nesouhlas.
Spor mezi společností Anthropic a administrativou se vyhrotil a nabral poměrně ošklivý směr, když Hegseth označil Anthropic za „riziko v dodavatelském řetězci“, což je krok, který dosud nebyl vůči žádné americké firmě uplatněn. Následně bylo vydáno vládní nařízení, podle něhož žádný vládní dodavatel nesmí s Anthropic obchodovat.
Spor mezi společností Anthropic a vládou se v jádru točí kolem etiky a otázky, kdo nastaví mantinely pro (1) technologii, která by mohla znamenat konec ochrany soukromí občanů tím, že umožní masový domácí dohled, a (2) přenechání rozhodnutí o životě a smrti na bojišti strojům bez lidského zásahu.
Lze rozumně namítat, že Anthropic má plné právo vydat se směrem, který si zvolí, a vyvíjet produkty odpovídající etickým parametrům, základním hodnotám a morálním postojům společnosti.
Na druhé straně jsou tu ti, kteří tvrdí, že americká vláda by měla mít plný přístup k nejlepším dostupným technologiím, zvláště když Čína a další konkurenční země dokážou zajistit, že firmy na jejich území budou plnit pokyny politického vedení bez odmlouvání. Čínské společnosti nežádají vládu, aby pro jejich produkty nastavovala mantinely. Jak nedávno poznamenal deník The New York Times: „To, jak Čína využívá AI, je ve skutečnosti přesně tím černým scénářem, před kterým Anthropic varuje.“
Ale v demokracii jsou mantinely nutné, aby držely na uzdě rostoucí technologii, jakou je AI. Je zřejmé, že je zapotřebí nějaký typ pravidel, která pomohou vyřešit otázky spojené s jejím využíváním. Potřeba těchto mantinelů je naléhavá právě teď a odpovědnost za jejich vytvoření by měla ležet na Kongresu. U této rychle se rozvíjející technologie už není čas problém jen odsouvat. Okamžik pro stanovení politiky či zákonů, které určí, jak lze AI používat, nastal právě teď. Je to příliš zásadní otázka na to, aby zůstala viset ve vzduchu.
Názory vyjádřené v tomto článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
–ete–
