Německé federální orgány pro vymáhání práva a bezpečnost budou moci v budoucnu využívat AI software ve vyšetřováních. Automatizované porovnání fotografií osob s veřejným online obsahem a analýza dat by měly přinést rychlejší výsledky. Kritici však varují před nebezpečím zneužití, které by mohlo vést až k masovému sledování.
Německá vláda schválila rozšíření pravomocí bezpečnostních složek pro trestní stíhání a prevenci hrozeb pomocí umělé inteligence (AI) 29. dubna 2026 téměř bez povšimnutí médií.
Cílem třídílného legislativního balíčku, jak uvedlo ministerstvo vnitra (BMI), je především „ochrana obyvatelstva před kriminalitou a terorismem“. Dva z těchto tří návrhů, konkrétně „pro posílení digitálních vyšetřovacích pravomocí v policejní práci“ a „pro posílení digitálních vyšetřovacích pravomocí k obraně proti hrozbám mezinárodního terorismu“, pocházejí z dílny ministra vnitra Alexandra Dobrindta (CSU). Tyto návrhy směřují k celé řadě změn a doplňků, zejména v zákoně o Federálním kriminálním úřadu, v zákoně o Spolkové policii a v azylovém zákoně.
Biometrické porovnávání obrazů a analýza dat
Novinky se týkají toho, že Federální kriminální úřad (BKA), Spolková policie a Spolkový úřad pro migraci a uprchlíky (BAMF) získají širší pravomoci při hledání tváří v online prostoru. V rámci trestních vyšetřování budou moci automatizovaně porovnávat již existující biometrická data – například fotografii podezřelé osoby – „s veřejně dostupnými daty z internetu“ a automatizovaně analyzovat výsledky.
Dále se má povolit „testování a trénování IT produktů pro policejní složky“.
„V rámci vykonávání pravomoci“ se má rovněž povolit „spolupráce se třetími stranami, i mimo Evropskou unii“. S těmito rozšířenými pravomocemi si orgány slibují, že budou schopni snáze „identifikovat osoby, lokalizovat je a propojovat vztahy mezi činy a pachateli“.
Ministryně spravedlnosti Stefanie Hubigová zdůrazňuje „přísné podmínky“
Třetí, doplňující návrh, slouží k odpovídající rozsáhlé změně trestního řádu. Za tuto úpravu je odpovědné Spolkové ministerstvo spravedlnosti a ochrany spotřebitelů (BMJV). Jeho vedoucí, spolková ministryně Stefanie Hubigová (SPD), uvedla v tiskové zprávě, že rozšíření pravomocí bude vázáno na „přísné podmínky“.
Podle § 100a(2) trestního řádu, který definuje dozor nad telekomunikacemi, musí pro využívání automatizovaných postupů, stejně jako pro výslovný příkaz státního zástupce, existovat podezření z trestného činu většího významu nebo těžkého trestního činu.
Soukromá komunikace v messengerových službách nebo reálná časová data z livestreamů by měla podle BMJV zůstat mimo dosah analýzy podporované umělou inteligencí, stejně jako informace získané z monitorování obydlí nebo online vyhledávání. Zakázáno bude vytváření trvalých databází na základě údajů z internetu získaných pomocí umělé inteligence.
Podle Hubigové může automatizované biometrické porovnávání obrazů na internetu stejně jako automatizovaná analýza dat přispět ke zlepšení dosavadních „personálně náročných, chybových a neefektivních procesů“ zpracování dat u policie. Výsledná rozhodnutí v trestním řízení však budou i nadále „vždy přijímána lidmi, nikoli agenty umělé inteligence“, ujistila ministryně.
Všechny tři části celkového balíčku ještě musí projít parlamentním procesem, než mohou vstoupit v platnost.
Společnost pro občanská práva vidí riziko zneužití
Berlínská Společnost pro občanská práva (GFF) označuje celý legislativní balíček za „z velké části protiústavní“ a neslučitelný s právem EU. Ve svém stanovisku k návrhům zákonů, které zveřejnila už začátkem dubna, však zároveň připustila, že německá policie na úrovni spolkových zemí již aplikace umělé inteligence používá.
GFF kritizuje mimo jiné to, že německé bezpečnostní složky by mohly provádět biometrické porovnávání na internetu i s pomocí soukromých poskytovatelů v zahraničí. Je možné, že úřady plánují využít služby umělé inteligence od softwarových poskytovatelů, jako je specialista na rozpoznávání obličejů PimEyes nebo Palantir. Taková situace by mohla vést k chybám nebo únikům dat, což by mohlo způsobit neoprávněný přístup, zneužití nebo manipulaci s informacemi, tvrdí organizace.
GFF považuje za „vysoce problematické“ to, že by měly být BKA a Spolkové policii uděleny pravomoci používat „částečně vysoce citlivé osobní údaje“ k posílení jejich IT systémů, a to z pohledu ochrany osobních údajů. Například „záznamy z demonstrací, stranických akcí, bohoslužeb apod.“ by mohly odhalit „zvláště citlivé údaje, jako jsou politické názory a sexuální orientace“. Podle GFF by to negativně ovlivnilo výkon ústavních práv, jako je svoboda projevu.
Dokonce i hromadné sledování by bylo „principiálně umožněno“ prostřednictvím „rozšíření tajných sledovacích pravomocí“ pro BKA a Spolkovou policii, jak GFF uvádí. Možnosti právní ochrany by však byly dle organizace „výrazně omezeny“.
GFF také považuje za nešťastnou formulaci to, že by rozšíření pravomocí mělo zahrnovat i tzv. trestné činy většího významu, což je podle ní v rozporu se standardy Spolkového ústavního soudu.
Obdobné obavy má i organizace AlgorithmWatch. Upozorňuje na problém možného využívání služeb externích poskytovatelů, jako jsou PimEyes, Palantir nebo specialisté na rozpoznávání obličejů z ClearView AI, či na vytvoření „databáze fotografií osob a dalších biometrických znaků“, která podle ní porušuje nařízení EU o umělé inteligenci (AI Act).
Pia Sombetzkiová, vedoucí pro politiku v organizaci AlgorithmWatch, shrnula svůj názor následovně: „I nová vláda přichází s falešnými argumenty, aby prosadila biometrické rozpoznávání, stejně jako se to snažila provést předchozí vládní koalice. Tím se vědomě rozhodla zastrašovat lidi bez konkrétního důvodu – nikdo totiž v budoucnu nebude vědět, zda, kdy a jak budou fotografie, videozáznamy nebo jiné datové materiály, například z podcastů, analyzovány systémy umělé inteligence používanými policií, orgány činnými v trestním řízení a migračními úřady.“
–etg–
