Berlínská policie a senát pro vnitřní záležitosti oznámily zahájení přibližně roční zkušební fáze monitorování chování pomocí umělé inteligence (AI). Kritici v tom vidí zásadní zásah do základních práv.
Berlínská policie plánuje zahájit v hlavním městě projekt zaměřený na monitorování chování pomocí umělé inteligence. V současnosti hledá firmy, které by se podílely na systému video sledování s tzv. behaviorálními skenery ve veřejném prostoru.
3,9 milionu eur na projekt AI sledování
Podle výběrových dokumentů by testovací fáze měla probíhat od září 2026 do října 2027. Náklady se odhadují na téměř 3,9 milionu eur. Státní tajemník pro vnitřní záležitosti Christian Hochgrebe (SPD) a policejní prezidentka Barbara Slowik Meiselová představili plán tento týden na vnitřním výboru berlínského senátu.
Video sledování s AI analýzou by mělo být nejprve testováno na třech místech v Berlíně. Plánováno je umístění v Červené radnici, ve Sněmovně a na Ministerstvu vnitra. Software umělé inteligence by měl na základě obrazů z kamer detekovat podezřelé vzorce chování lidí a podle toho spustit poplach.
Podle Hochgreba je cílem ochrana specifických objektů a monitorování oblastí s vysokou mírou kriminality. Technologie by mohla být později nasazena na ohrožených velvyslanectvích a jiných místech. Video sledování by bylo možné i na náměstí Alexanderplatz, u stanice metra Kottbusser Tor a v parku Görlitzer, které patří mezi takzvané oblasti se zvýšenou kriminalitou.
V této souvislosti také zmínil změnu zákona o veřejném pořádku a bezpečnosti, která byla provedena v prosinci. Získané informace mají být plně anonymizovány. Ujistil, že biometrická data a identita lidí nebudou shromažďovány. Toto bylo dohodnuto s úřadem pro ochranu osobních údajů.
Ministerstvo vnitra: Ochrana před nebezpečím na úrovni současné doby
Pro boj s kriminalitou a prevenci nebezpečí musí policie „jednat na úrovni současné techniky“, zdůraznil Hochgrebe. Součástí tohoto přístupu je také AI podporované rozpoznávání vzorců chování.
Behaviorální skenery, které jsou také v provozu v Mannheimu, mají detekovat fyzické útoky, jako jsou nárazy, údery, potyčky, škrcení nebo kopy, vysvětluje server netzpolitik.org. Skenovací software také zachycuje a analyzuje běžné vzorce pohybu, jako je sezení, stání, chůze, běh, jízda na kole a nošení předmětů, aby je odlišil od problémového chování. Software převádí pohybové vzorce lidí na postavičky s uzly v kloubech.
Podle serveru netzpolitik bylo v Mannheimu zavedeno kamerové sledování veřejných prostranství v roce 2018 a do konce roku 2025 bylo 46 ze 70 kamer vybaveno softwarem umělé inteligence pro rozpoznávání chování.
V roce 2023 zahájil Hamburk pilotní projekt AI sledování. Nejprve se testovalo pouze v oblasti Hansaplatz, kde kamery sledovaly každého člověka. Na podzim přibyl do druhé fáze Hachmannplatz na východní straně hlavního nádraží. Podle NDR byla policie při prvním testu díky umělé inteligenci upozorněna na případ, kdy byl jeden člověk kopnut do hlavy. Tento incident nebyl žádným kolemjdoucím nahlášen.
Chaos Computer Club: Nebezpečná hloupost
Mezi nejostřejší kritiky tohoto záměru patří hackerské sdružení Chaos Computer Club (CCC), které označilo behaviorální skenery za „nebezpečnou hloupost“. CCC v nich vidí vývoj směrem k „automatizovanému trvalému sledování“.
Podle tohoto sdružení není jasné, jak policie, výrobci a nakonec i AI budou definovat „nežádoucí chování“ a které situace nebo chování bude systém považovat za podezřelé. Klub se ptá, zda se to bude vztahovat i na shromáždění lidí, tělesnou blízkost nebo prostě nepravidelné, hektické pohyby. Podle CCC hrozí, že jakékoliv odchylující se chování bude označeno jako podezřelé.
CCC také kritizuje, že přínosy nákladných projektů na automatizované sledování chování, které běží již několik let, nejsou prokázány a že se nemusejí podrobovat transparentnímu, nezávislému přezkumu.
Zelení: Vstupní brána do státu s neomezeným dohledem
Niklas Schrader, poslanec berlínské Sněmovny a referent pro vnitřní a právní politiku za Levici, kritizoval, že v Berlíně chybí demokratické schválení pro nasazení videotechniky pro analýzu chování. „Co dnes začne ve Sněmovně, může být zítra použito na mnoha jiných veřejných místech. O takových zásazích do základních práv by měl rozhodovat parlament, ne policie sama,“ napsal na Instagramu.
Proti zavedení behaviorálních skenerů se také vyjádřil Vasili Franco, mluvčí Zelených ve Sněmovně.
„Nyní potřebujeme pozornou občanskou společnost, která se jasně postaví proti vstupním branám do státu s neomezeným dohledem a také zastaví přehnaná opatření u soudů,“ uvedl.
–etg–
