Radovan Dluhý

15. 4. 2024

Aktualizováno 17. 4. 2024 ve 22:50 o reakci ministerstva vnitra a následné reakce Jana Vobořila

Nový evropský Akt o umělé inteligenci umožňuje používání technologií s funkcí rozpoznávání obličejů (FRT) pouze v případě soudního povolení. Soud by měl posoudit, jestli jsou splněny zákonné podmínky pro biometrické sledování a jestli nedochází k porušení základních práv jednotlivce.

Ministerstvo vnitra ČR však nedávno předložilo novelu, která se podle organizace Iuridicum Remedium (IuRe) snaží toto omezení aktu obejít.

„Zjevně je cílem zlegalizovat jednou provždy nepřetržité použití biometrických sledovacích systémů,“ odsoudil návrh advokát Jan Vobořil z IuRe.

Ministerstvo vnitra se podle IuRe snaží upravit detaily aktu a předložilo „naprosto neakceptovatelnou“ novelu.

„Předmětem kontroly by podle návrhu ministerstva nebylo zařazení konkrétní zájmové osoby do databáze, ale pouze spuštění samotného systému. Se zařazením konkrétní osoby má pak pouze vyslovit souhlas pověřenec pro ochranu osobních údajů provozovatele systému a jednou za čtvrt roku informovat soud o tom, koho policie do databáze zařadila,“ uvedla organizace IuRe.

Ministerstvo vnitra na žádost Epoch Times o reakci k obavám IuRe sdělilo: „nejprve považujeme za nutné upozornit na terminologickou nepřesnost Iuridica Remedia. Předložená novela se týká té části nařízení
o umělé inteligenci, která se zabývá „biometrickou identifikací na dálku v reálném čase ve veřejných prostorách“, tedy o „potvrzení totožnosti“. Nejde o „biometrické sledování“. Je tedy nutné pomocí biometrických údajů hledat předem určené osoby, nikoli provádět nerozlišené sledování předem neurčených osob. V případě předložené novely jde tedy pouze o nastavení podmínek, za kterých je dovolené například „rozpoznat konkrétní osobu, po které se pátrá, podle podoby tváře“, nikoli
„sledovat pohyb každé osoby podle podoby tváře“.“

„Podle nařízení o umělé inteligenci soud povoluje použití systému jako takového, a posuzuje zejména to, zda je omezeno na to, co je nezbytně nutné, pokud jde o dobu, jakož i zeměpisný a osobní rozsah. Je ovšem nezbytné, aby použití systému směřovalo k potvrzení totožnosti konkrétně cílené fyzické osoby, tedy osoby
předem určené. To je něco jiného než požadavek, aby soud rozhodoval o zařazení každé jednotlivé osoby do referenční databáze, což ani nařízení o umělé inteligenci nepožaduje,“ sdělil dále Ondřej Krátoška z ministerstva vnitra.

Dodal: „Novela dbá na to, aby bylo možno posoudit přiměřenost a nezbytnost použití systému tím, že přebírá cíle, pro které lze podle nařízení o umělé inteligenci tento systém použít, a definuje odpovídající kategorie osob. Nestačí, aby policie po daných osobách pátrala, ale musí také předem existovat důvod pro jejich omezení na svobodě, nebo být ohrožen jejich život nebo zdraví. Teprve pokud tyto omezující podmínky nejsou splněny, přichází v úvahu individuální posouzení dalších, hraničních případů.“

Na sdělení MV následně reagoval Vobořil: „Odpověď MV je založena na opakované (a zjevně úmyslné) dezinterpretaci nařízení, které jednoznačně říká, že povolení soudu má směřovat ke konkrétnímu použití systému, tedy k vyhledávání konkrétní zájmové osoby. Výklad, že stačí, aby soud povolil jednou provždy použití systému a o zařazení osob rozhodovala sama policie nebo zpravodajské služby je tedy s nařízením v rozporu a ani by jako mechanismus ochrany základních práv nedával smyl. Není zřejmé, co by soud měl posuzovat, protože u každého systému je možné, že někdy v budoucnu zachytí nějakou zájmovou osobu, u níž bude využití biometriky důvodné. Jde o snahu MV potažmo bezpečnostních složek dostat do ruky v podstatě nekontrolovaný nástroj na biometrické sledování, podobně jako už dnes používá systém an Letišti. V tomto kontextu je vhodné zmínit, že systém je využíván nejen k biometrické identifikaci – dohledání zájmové osoby, ale i k biometrickému sledování (všech osob na letišti), jejichž vektory obličejů jsou dále zpracovávány pro možné budoucí užití. V současnosti na Letišti Václava Havla je to dle tvrzení Policie ČR 30 dnů. Novela se této otázce dalšího užití vektorů zcela vyhýbá.“

Jak je to s aplikací FRT u nás? Podle Policie ČR se v roce 2020 metody rozpoznávání obličeje ve veřejném prostoru využívaly pouze na pražském Letišti Václava Havla. V roce 2019 návrh implementovat FRT na některých fotbalových stadiónech odmítl Úřad pro ochranu osobních údajů.

Během projednávání evropského aktu někteří europoslanci kritizovali FRT především z toho důvodu, že jde o technologii běžně používanou v autoritářských režimech.

Biometrické sledování je rozšířeno v Číně, Rusku, ale třeba i v USA

Na čínských ulicích již tvář funguje běžně jako legitimace, k níž se připisují drobné či vážné prohřešky. Ty jsou součástí „sociálního kreditu“, který se v Číně postupně zavádí. Cílem je mít osobní skóre, které usnadní, nebo naopak zkomplikuje každodenní život Číňanů. FRT jsou rozeseté všude po městech. Lidé tam tedy žijí pod neustálým dohledem. V Číně se FRT využívá i jako pomůcka proti politickým odpůrcům tak jako například v Rusku.

„Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je, a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí.“ Dle europoslance Marcela Kolaje (Piráti), který hlasoval proti aktu EU, jsou takové technologie nainstalované v Rusku „třeba v metru, a jsou zneužívány ke špehování těch, kdo si dovolí mít ‚nesprávný‘ názor“.

Podle americké stanice CNN se FRT hojně využívá i ve Spojených státech. Podle zveřejněné vládní analýzy, alespoň dvacet různých federálních úřadů mezi lety 2015 a 2020 kamery s rozpoznáváním obličeje buď vlastnilo, nebo je použilo.

Podle americké profesorky Lindsey Barrettové z Georgetown University jsou podobné protiústavní praktiky „dosti děsivé.“

V únoru 2020 americký mediální web Buzzfeed News informoval, že FRT využívají také americké univerzity, telefonní společnosti jako AT&T, Verizon nebo T-Mobile. Stejně tak poskytovatelé finančních služeb Wells Fargo nebo Bank of America či maloobchodní prodejci jako Walmart a skupiny obchodních domů jako Macy’s.

Široké používání FRT může vést k jeho zneužití i v komerční sféře.

Australské supermarkety

Dva obchodní řetězce Kmart a Bunnings začaly v Austrálii používat FRT ve svých supermarketech. Existují ale obavy, že by se biometrické údaje o zákaznících mohly zneužívat například v rámci cíleného marketingu.

„Je to stejné, jako kdyby Kmart a Bunnings sbíraly vaše otisky prstů nebo vaši DNA, kdykoli nakupujete,“ tvrdí Kate Bowerová, obhájkyně soukromí spotřebitelů z organizace Choice Australia.

Pokuty v Itálii

Za porušení zákona na ochranu soukromí již začínají padat první peněžní tresty.

Například italský úřad pro ochranu osobních údajů udělil v roce 2022 americké společnosti Clearview AI kvůli biometrickému sledování peněžní trest v hodnotě 20 milionů eur. Společnost tak byla nucena vymazat veškeré údaje o osobách s bydlištěm v Itálii.

Možnosti FRT jdou přitom rychle dopředu. Podle tiskové zprávy společnosti Clearview AI z roku 2022 byla již tehdejší verze „Clearview AI 2.0“ vybavena „výkonnou a spolehlivou technologií fotografické identifikace“, která čerpá z databáze více než 20 miliard „veřejně dostupných snímků obličeje“.

Související články

Přečtěte si také

Příběh muže, jemuž soud jako prvnímu přiznal odškodnění za poškození vakcínou proti covidu-19

Níže nabízíme příběh pana Petra, kterému soud přiznal nárok na odškodnění za poškození mRNA vakcínou Comirnaty. Jeho případ ukazuje, jak velkou finanční zátěž pro pacienta znamená domáhat se odškodnění – navíc bez jistoty, že jej dosáhne.

drony
Prezident požaduje vyšetřit kauzu kolem vývozu dronů rychle a transparentně

Prezident Petr Pavel požaduje, aby spory o vývoz dronů na Ukrajinu byly rychle, transparentně vyšetřeny a výsledky zveřejněny. Odmítá jednání zúčastněných stran přes média.

Republikánský kongresman Michael Waltz hovoří s novináři v přihlašovacím centru pro média a v místnosti pro otáčení v Pensylvánském kongresovém centru před prezidentskou debatou mezi republikánským kandidátem, bývalým prezidentem Donaldem J. Trumpem, a demokratickou kandidátkou, viceprezidentkou Kamalou Harrisovou, ve Filadelfii 10. září 2024. (Madalina Vasiliu / The Epoch Times)
Představitelé USA odlétají do Saúdské Arábie jednat o ukončení války na Ukrajině

Poradce amerického prezidenta Donalda Trumpa pro národní bezpečnost Michael Waltz a prezidentův zmocněnec pro Blízký východ Steve Witkoff dnes odletí do Saúdské Arábie na jednání o ukončení ruské války na Ukrajině.

Macron svolává evropské lídry k jednání o Ukrajině a bezpečnosti, Česko pozváno nebylo

V Paříži se v pondělí sejdou lídři hlavních evropských zemí, aby jednali o situaci na Ukrajině a evropské bezpečnosti.

Poslanecká Sněmovna, volební průzkum volby, průzkum, median
Podle volebního modelu STEM dál vede ANO s náskokem před Spolu a STAN

Volby v Česku by počátkem února vyhrálo hnutí ANO s 34,1 procenta hlasů před koalicí Spolu s 19 procenty a hnutím STAN s 11,1 procenta.

Útok ve Villachu měl podle rakouského ministra vnitra islamistický motiv

Rakouští vyšetřovatelé se domnívají, že sobotní útok ve Villachu, při němž třiadvacetiletý Syřan s právem pobytu v alpské zemi ubodal chlapce a pět dalších lidí zranil, měl islamistický motiv.

DeepSeek protlačuje cenzuru a propagandu čínského režimu v globálním měřítku

Vyšetřování Epoch Times čínské umělé inteligence DeepSeek zjistilo, že chatbot je naprogramován podle cenzurních a propagandistických not Komunistické strany Číny.

4 bytové doplňky, které se podle designérů vyplatí koupit z druhé ruky

Nákup bytových doplňků z druhé ruky je nejen úsporný, ale i ekologický. Designéři radí, které dekorace se vyplatí pořídit z bazarů a jak je upravit, aby působily stylově a originálně.

Kořen macy může pomoci zvýšit energii a plodnost

Kořen macy může mít řadu pozitivních účinků na reprodukční, s věkem související a psychické zdraví. K potvrzení těchto tvrzení je zapotřebí dalšího výzkumu. Kořen macy neboli peruánský ženšen má v Latinské Americe pestrou historii, která trvá více než 2000 let. Maca se pěstuje ve vysokých nadmořských výškách a v drsných podmínkách peruánských And. Podle legendy ji jedli inčtí válečníci, aby si […]