„Systémy umělé inteligence (AI) s nepřijatelným rizikem jsou systémy, které jsou považovány za hrozbu pro člověka a budou zakázány,“ píše se na webu Evropského parlamentu (EP) k chystané legislativě.
Někteří europoslanci vidí v AI „příležitosti“ k rozvíjení vědy, techniky a vzdělávání, jiní tvrdí, že tato technologie změní způsob lidské existence nebo ohrozí bezpečnost a zdraví lidstva.
Co myslí europoslanci oněmi „nepřijatelnými riziky“ a na co by rádi AI použili?
Evropský parlament považuje za nepřijatelná rizika například kognitivní manipulaci s chováním lidí, přidělování sociálního kreditu nebo biometrické identifikační systémy v reálném čase a na dálku.
Konkrétně zmiňují jako nebezpečné vytvářet systémy, které by klasifikovaly lidi na základě chování, socioekonomického statusu nebo osobních charakteristik, a shrnovaly je do zmiňovaného sociálního kreditu. V praxi byly již podobné systémy zavedeny v určitých oblastech Číny.
Fungují tak, že Komunistická strana vytyčí způsoby přijatelného chování, komunikace a myšlení, a pokud je dotyčný splňuje, může běžně používat svůj účet, libovolně cestovat, mít prestižní pozici v zaměstnání. Pokud se však začne odchylovat, kredity se sníží a dotyčný člověk bude omezen v mnoha aspektech svobodného života.
Dalším nebezpečím je podle europoslanců rozpoznávání obličeje na základě biometrických identifikačních systémů. Zde je možné podle určitých křivek nebo bodů na tváři člověka rozpoznat jeho identitu, a tedy pomocí kamer rozpoznávat, kdo je právě na záběru kamery.
Europoslanci však vidí jako nepřijatelné nebezpečí pouze použití tohoto systému „v reálném čase a na dálku“. Použití identifikace „se značným zpožděním bude povoleno pro stíhání závažných trestných činů a pouze po schválení soudem“, uvádějí již míněné webové stránky EP.
Vysoce rizikové systémy AI
Systémy AI, které „mají negativní dopad na bezpečnost nebo základní práva“, mají být podle EP považovány za „vysoce rizikové“. Takové systémy by měly být podle europoslanců „posuzovány před uvedením na trh a v průběhu celého životního cyklu“.
Jedná se o systémy umístěné v leteckém a kosmickém průmyslu, automobilech, zdravotnických prostředcích, výtazích a hračkách.
Poslanci také vytyčili systémy AI, které budou muset být registrovány v databázi EU. Jedná se o tyto oblasti:
- biometrická identifikace a kategorizace fyzických osob
- správa a provoz kritické infrastruktury
- vzdělávání a odborná příprava
- zaměstnanost, řízení pracovní síly a přístup k samostatné výdělečné činnosti
- přístup k základním soukromým a veřejným službám a dávkám a jejich využívání
- vymáhání práva
- řízení migrace, azylu a ochrany hranic
- pomoc s právním výkladem a vymáháním práva
Generativní umělá inteligence
Podle usnesení europoslanců by měli být uživatelé digitálních technologií „informováni o tom, že interagují s AI“. Generativní umělá inteligence, jako je ChatGPT, bude muset podle EP „splňovat požadavky na transparentnost“ a tyto požadavky specifikují v následujících třech bodech:
- zveřejnit, že obsah byl vygenerován umělou inteligencí
- navrhnout model tak, aby zabránil vytváření nezákonného obsahu
- zveřejňovat shrnutí dat chráněných autorským právem, která byla použita k tréninku umělé inteligence
Hranice, rizika a zachování lidskosti
Podle francouzského poslance Gillese Lebretona z parlamentní skupiny Identita a demokracie, jsou zásadní oblasti – zejména armáda, justice a zdraví, v nichž „umělá inteligence nikdy nesmí nahradit nebo zbavit člověka odpovědnosti“.
Někteří poslanci, podle zprávy EP, také zdůrazňují nutnost lidského dohledu nad systémy AI používanými v obraně a opakovaně vyzývali k „zákazu autonomních smrtících zbraní“.
Někteří experti váží technologický pokrok na miskách vah – hodnotí je kriticky a zvažují pro a proti.
Například Aaron Kheriathy, ředitel programu Bioetika a americká demokracie v americkém Centru pro etiku a veřejnou politiku, uvádí, že „na jedné straně nám technologie přináší mnoho skvělých věcí, jak udělat lidský život lepším. Na druhé straně se někdy objevují obavy, že se využívání technologií může dostat do bodu, kdy už nezlepšují zdraví a vzkvétání lidí – a vlastně nás odlidšťují.“
„Někteří říkají, že technologie jsou nebezpečné, protože vytvářejí věci, jako je atomová bomba,“ dodává Kheriathy, který sice působí na jiném kontinentu, ale spolu s dalšími vědci vystupuje v dokumentárním snímku Altered Humans, hledajícím odpovědi na vliv biotechnologií na člověka. „Druhý extrém je oslavování jakékoliv technologie, jako automaticky dobré věci nebo naivní předpokládání, že každá technologie je neutrální, že je pouze nástrojem, který se může použít dobře nebo špatně. Myslím, že to je příliš zjednodušené.“
„Myslím, že rozhodující je naše směřování, abychom zůstali lidmi během procházení velmi komplikovaným a mocným pokrokem biotechnologií a sledovacích technologií,“ říká Kheriathy.
Někteří europoslanci si představují, že by měla být umělá inteligence naprogramována tak, aby dohlížela na „výchovu“ obyvatelstva k vybrané ideologii.
S tím souvisí zpráva kterou 19. května 2021 přijal Evropský parlament o využívání umělé inteligence ve vzdělávání, kultuře a audiovizuálním odvětví. V ní požaduje, aby „technologie umělé inteligence byly navrženy tak, aby předcházely genderové, sociální nebo kulturní zaujatosti a chránily rozmanitost a diverzitu“.
Na druhé straně 6. října 2021 požádali europoslanci o přijetí přísných ochranných opatření pro využívání nástrojů umělé inteligence při vymáhání práva. Chtěli prosadit „trvalý zákaz automatického rozpoznávání osob ve veřejném prostranství“ a v zájmu boje proti diskriminaci transparentnost používaných algoritmů, uvádějí stránky EP.
Někteří europoslanci též uvádějí, že umělá inteligence sehraje „podstatnou úlohu“ i v realizaci takzvané Zelené dohody pro Evropu (Green Deal).
Investice EU do umělé inteligence
Již v roce 2020 uváděla Evropská komise, že chce „zvýšit soukromé a veřejné investice do technologií umělé inteligence na 20 miliard eur ročně“.
V prosinci 2023 uvedla Evropská rada, že investice do umělé inteligence v Evropě chce „urychlit“.
O několik měsíců dříve, v červnu 2023 zahájila Evropská komise, členské státy a 128 partnerů z oblasti výzkumu, průmyslu a veřejných organizací investice v hodnotě 220 milionů EUR do čtyř odvětvových testovacích a experimentálních zařízení pro AI. Z toho polovinu hradí přímo komise.
Tyto finance mají „podporovat vývojáře umělé inteligence při účinnějším uvádění důvěryhodné umělé inteligence na trh“ a usnadnit „její zavádění v Evropě“.
Investice „jsou otevřeny všem poskytovatelům technologií v celé Evropě, aby mohli testovat a experimentovat s umělou inteligencí a robotikou,“ uvádí Komise.
