Papež Lev XIV. zveřejnil 25. května dokument, který vyzývá k důsledné regulaci a nezávislému dohledu nad umělou inteligencí (AI) a zároveň apeluje na vývojáře AI, aby ve své honbě za ziskem a technologickou dominancí neztratili ze zřetele obecné dobro.
„Magnifica Humanitas“ („Velkolepé lidství“) je první encyklika papeže narozeného v USA a zároveň první vstup Vatikánu do debaty o AI.
„Volání po obezřetnosti, důsledném vyhodnocování a někdy dokonce i pomalejším tempu zavádění AI neznamená odpor vůči pokroku,“ uvádí Lev v encyklice. „Naopak jde o projev odpovědné péče o lidskou rodinu“.
„Tato potřeba je o to naléhavější vzhledem k časté nerovnováze mezi rychlostí technologického růstu a pomalejším vývojem povědomí, pravidel, ochranných mechanismů a institucí schopných řídit jeho dopady,“ píše papež.
Potřeba „nezávislého dohledu“
Říká, že abstraktní etika v oblasti AI nestačí a že jsou zapotřebí „robustní právní rámce, nezávislý dohled, informovaní uživatelé a politický systém, který se nevzdává své odpovědnosti“.
Text by mohl představovat střet mezi Vatikánem a Trumpovou administrativou, která se snaží deregulovat vývoj AI, aby Spojené státy mohly soupeřit s Čínou a dalšími rivaly.
Americký prezident Donald Trump v prosinci podepsal výkonné nařízení k vytvoření národního standardu pro regulace AI, který by zabránil jednotlivým státům přijímat zákony přesahující jeho rámec.
„Pečlivě vytvořený národní rámec může zajistit, že Spojené státy vyhrají závod v AI, jak také musíme,“ stojí v Trumpově nařízení.
Nová encyklika byla podepsána Lvem 15. května, při 135. výročí zveřejnění „Rerum Novarum“ („O věcech nových“), dokumentu vydaného papežem Lvem XIII., který se během průmyslové revoluce zabýval právy pracujících.
„Dnes konvergence automatizace, robotiky a AI rychle proměňuje samotnou strukturu práce,“ uvádí Lev v encyklice a dodává, že ačkoli AI slibuje zvýšení produktivity převzetím rutinních úkolů, existuje nebezpečí degradace pracovníků a jejich odsunutí k „rigidním a opakujícím se úkolům“.
„Nutnost držet krok s tempem technologií může oslabit pocit vlastní autonomie pracovníků a potlačit inovační schopnosti, které mají do své práce přinášet. Právě proto, aby se zabránilo tomuto trendu, je nutné navrhovat systémy zaměřené na člověka, nikoli pouze na výkon. Snaha o vyšší zisky nemůže ospravedlnit rozhodnutí, která systematicky obětují pracovní místa, protože lidská bytost je cílem, nikoli prostředkem, a ekonomický řád musí zůstat podřízen lidské důstojnosti a obecnému dobru.“
Hrozba „protilidské vize“
„Riziko přesahuje pouhé zneužití určitých technologií,“ uvádí Lev. „Ještě závažnější je všudypřítomné technokratické paradigma, v němž žijeme a které digitální revoluce a AI dále zesilují, protože hrozí, že normalizuje protilidskou vizi.“
Text byl v pondělí ráno zveřejněn na webových stránkách Vatikánu a představen během živě přenášené tiskové konference, na níž se ke Lvovi připojil spoluzakladatel společnosti Anthropic Christopher Olah.
„Pokud tato technologie přichází, musí sloužit našemu společnému domovu i dětem, které teprve přijdou,“ říká Olah.
„Někteří lidé si možná myslí, že otázky AI by měli řešit především počítačoví vědci jako já. Mýlí se. Otázky, které AI vyvolává, jsou větší než samotná komunita výzkumu AI, a to nejen svými důsledky, ale i svou podstatou. Systémy AI nejsou konstruovány tak, jako se konstruuje most nebo letadlo. Letadlu rozumíme, protože jsme navrhli každou jeho součást, a rozumíme fyzikálním zákonům, které na něj působí. Modely AI takové nejsou. Vznikají na struktuře zhruba modelované podle mozku a na obrovském dědictví lidského myšlení a řeči, a to, co z nich vzniká, je mnohem jemnější, podivnější a krásnější, než na co nás připravila science fiction,“ rozvádí.
Na stejné tiskové konferenci profesorka katolického sociálního myšlení a praxe na Durhamské univerzitě v Anglii Anna Rowlandsová konstatovala: „‚Magnifica Humanitas‘ upozorňuje, že moc inovací, která tradičně náležela státům, je dnes soustředěna v rukou několika bohatých jednotlivců, jejichž kultura uniká veřejné kontrole a riskuje, že začne působit jako nové impérium.“
Deník Epoch Times požádal americké ministerstvo zahraničí o komentář k „Magnifica Humanitas“, ale do uzávěrky článku neobdržel odpověď.
Na této zprávě se podílela agentura Associated Press.
–ete–
