Aktualizováno 17. 4. 2024 ve 22:50 o reakci ministerstva vnitra a následné reakce Jana Vobořila
Nový evropský Akt o umělé inteligenci umožňuje používání technologií s funkcí rozpoznávání obličejů (FRT) pouze v případě soudního povolení. Soud by měl posoudit, jestli jsou splněny zákonné podmínky pro biometrické sledování a jestli nedochází k porušení základních práv jednotlivce.
Ministerstvo vnitra ČR však nedávno předložilo novelu, která se podle organizace Iuridicum Remedium (IuRe) snaží toto omezení aktu obejít.
„Zjevně je cílem zlegalizovat jednou provždy nepřetržité použití biometrických sledovacích systémů,“ odsoudil návrh advokát Jan Vobořil z IuRe.
Ministerstvo vnitra se podle IuRe snaží upravit detaily aktu a předložilo „naprosto neakceptovatelnou“ novelu.
„Předmětem kontroly by podle návrhu ministerstva nebylo zařazení konkrétní zájmové osoby do databáze, ale pouze spuštění samotného systému. Se zařazením konkrétní osoby má pak pouze vyslovit souhlas pověřenec pro ochranu osobních údajů provozovatele systému a jednou za čtvrt roku informovat soud o tom, koho policie do databáze zařadila,“ uvedla organizace IuRe.
Ministerstvo vnitra na žádost Epoch Times o reakci k obavám IuRe sdělilo: „nejprve považujeme za nutné upozornit na terminologickou nepřesnost Iuridica Remedia. Předložená novela se týká té části nařízení
o umělé inteligenci, která se zabývá „biometrickou identifikací na dálku v reálném čase ve veřejných prostorách“, tedy o „potvrzení totožnosti“. Nejde o „biometrické sledování“. Je tedy nutné pomocí biometrických údajů hledat předem určené osoby, nikoli provádět nerozlišené sledování předem neurčených osob. V případě předložené novely jde tedy pouze o nastavení podmínek, za kterých je dovolené například „rozpoznat konkrétní osobu, po které se pátrá, podle podoby tváře“, nikoli
„sledovat pohyb každé osoby podle podoby tváře“.“
„Podle nařízení o umělé inteligenci soud povoluje použití systému jako takového, a posuzuje zejména to, zda je omezeno na to, co je nezbytně nutné, pokud jde o dobu, jakož i zeměpisný a osobní rozsah. Je ovšem nezbytné, aby použití systému směřovalo k potvrzení totožnosti konkrétně cílené fyzické osoby, tedy osoby
předem určené. To je něco jiného než požadavek, aby soud rozhodoval o zařazení každé jednotlivé osoby do referenční databáze, což ani nařízení o umělé inteligenci nepožaduje,“ sdělil dále Ondřej Krátoška z ministerstva vnitra.
Dodal: „Novela dbá na to, aby bylo možno posoudit přiměřenost a nezbytnost použití systému tím, že přebírá cíle, pro které lze podle nařízení o umělé inteligenci tento systém použít, a definuje odpovídající kategorie osob. Nestačí, aby policie po daných osobách pátrala, ale musí také předem existovat důvod pro jejich omezení na svobodě, nebo být ohrožen jejich život nebo zdraví. Teprve pokud tyto omezující podmínky nejsou splněny, přichází v úvahu individuální posouzení dalších, hraničních případů.“
Na sdělení MV následně reagoval Vobořil: „Odpověď MV je založena na opakované (a zjevně úmyslné) dezinterpretaci nařízení, které jednoznačně říká, že povolení soudu má směřovat ke konkrétnímu použití systému, tedy k vyhledávání konkrétní zájmové osoby. Výklad, že stačí, aby soud povolil jednou provždy použití systému a o zařazení osob rozhodovala sama policie nebo zpravodajské služby je tedy s nařízením v rozporu a ani by jako mechanismus ochrany základních práv nedával smyl. Není zřejmé, co by soud měl posuzovat, protože u každého systému je možné, že někdy v budoucnu zachytí nějakou zájmovou osobu, u níž bude využití biometriky důvodné. Jde o snahu MV potažmo bezpečnostních složek dostat do ruky v podstatě nekontrolovaný nástroj na biometrické sledování, podobně jako už dnes používá systém an Letišti. V tomto kontextu je vhodné zmínit, že systém je využíván nejen k biometrické identifikaci – dohledání zájmové osoby, ale i k biometrickému sledování (všech osob na letišti), jejichž vektory obličejů jsou dále zpracovávány pro možné budoucí užití. V současnosti na Letišti Václava Havla je to dle tvrzení Policie ČR 30 dnů. Novela se této otázce dalšího užití vektorů zcela vyhýbá.“
Jak je to s aplikací FRT u nás? Podle Policie ČR se v roce 2020 metody rozpoznávání obličeje ve veřejném prostoru využívaly pouze na pražském Letišti Václava Havla. V roce 2019 návrh implementovat FRT na některých fotbalových stadiónech odmítl Úřad pro ochranu osobních údajů.
Během projednávání evropského aktu někteří europoslanci kritizovali FRT především z toho důvodu, že jde o technologii běžně používanou v autoritářských režimech.
Biometrické sledování je rozšířeno v Číně, Rusku, ale třeba i v USA
Na čínských ulicích již tvář funguje běžně jako legitimace, k níž se připisují drobné či vážné prohřešky. Ty jsou součástí „sociálního kreditu“, který se v Číně postupně zavádí. Cílem je mít osobní skóre, které usnadní, nebo naopak zkomplikuje každodenní život Číňanů. FRT jsou rozeseté všude po městech. Lidé tam tedy žijí pod neustálým dohledem. V Číně se FRT využívá i jako pomůcka proti politickým odpůrcům tak jako například v Rusku.
„Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je, a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí.“ Dle europoslance Marcela Kolaje (Piráti), který hlasoval proti aktu EU, jsou takové technologie nainstalované v Rusku „třeba v metru, a jsou zneužívány ke špehování těch, kdo si dovolí mít ‚nesprávný‘ názor“.
Podle americké stanice CNN se FRT hojně využívá i ve Spojených státech. Podle zveřejněné vládní analýzy, alespoň dvacet různých federálních úřadů mezi lety 2015 a 2020 kamery s rozpoznáváním obličeje buď vlastnilo, nebo je použilo.
Podle americké profesorky Lindsey Barrettové z Georgetown University jsou podobné protiústavní praktiky „dosti děsivé.“
V únoru 2020 americký mediální web Buzzfeed News informoval, že FRT využívají také americké univerzity, telefonní společnosti jako AT&T, Verizon nebo T-Mobile. Stejně tak poskytovatelé finančních služeb Wells Fargo nebo Bank of America či maloobchodní prodejci jako Walmart a skupiny obchodních domů jako Macy’s.
Široké používání FRT může vést k jeho zneužití i v komerční sféře.
Australské supermarkety
Dva obchodní řetězce Kmart a Bunnings začaly v Austrálii používat FRT ve svých supermarketech. Existují ale obavy, že by se biometrické údaje o zákaznících mohly zneužívat například v rámci cíleného marketingu.
„Je to stejné, jako kdyby Kmart a Bunnings sbíraly vaše otisky prstů nebo vaši DNA, kdykoli nakupujete,“ tvrdí Kate Bowerová, obhájkyně soukromí spotřebitelů z organizace Choice Australia.
Pokuty v Itálii
Za porušení zákona na ochranu soukromí již začínají padat první peněžní tresty.
Například italský úřad pro ochranu osobních údajů udělil v roce 2022 americké společnosti Clearview AI kvůli biometrickému sledování peněžní trest v hodnotě 20 milionů eur. Společnost tak byla nucena vymazat veškeré údaje o osobách s bydlištěm v Itálii.
Možnosti FRT jdou přitom rychle dopředu. Podle tiskové zprávy společnosti Clearview AI z roku 2022 byla již tehdejší verze „Clearview AI 2.0“ vybavena „výkonnou a spolehlivou technologií fotografické identifikace“, která čerpá z databáze více než 20 miliard „veřejně dostupných snímků obličeje“.
