Americký bezpečnostní výzkumník plánuje uvést na trh trička a mikiny s kapucí, díky nimž by jejich nositelé měli být pro bezpečnostní kamery téměř neviditelní. Zda to bude spolehlivě fungovat i v reálných podmínkách, se však teprve ukáže.
Ve své písni Somebody’s Watching Me vypráví R&B zpěvák Rockwell příběh muže, který má neustále pocit, že ho někdo sleduje. Ani mezi vlastními čtyřmi stěnami se už podle něj necítí v bezpečí. Píseň vyšla v roce 1983, tedy dlouho předtím, než digitální kamery a automatizované rozpoznávání obrazu výrazně proměnily dohled nad veřejným prostorem.
Zatímco protagonista písně přemýšlí, zda je skutečně neustále sledován, nebo je jen paranoidní, vzhledem k dnešní technické výbavě nádraží, letišť, velkých náměstí, okolí památek či nákupních tříd už tato otázka téměř ztrácí význam.
Využít slabiny umělé inteligence
Co kdyby však existoval způsob, jak tomuto dohledu uniknout? Právě tuto otázku si položil bezpečnostní výzkumník Bill Swearingen.
Jeho myšlenka zní: „Co kdyby vzor na vašem tričku dokázal přelstít rozpoznávání obličeje? Ne tím, že by zakryl váš obličej, ale tím, že by využil slabin samotné umělé inteligence?“ ptá se v příspěvku na síti LinkedIn. Američan v něm představuje svůj projekt „noRecognition“ (česky: žádné rozpoznání). Soukromí podle něj není luxus, ale právo.
Za tímto účelem vytvořil počítačově generované vzory pro oděvy, které mají dohledové systémy zmást natolik, aby jejich nositele nedokázaly rozpoznat.
„Testujeme na reálných modelech. […] Na systémech, které používají Clearview AI, na policejních kamerách a v rámci letištní bezpečnosti. […] Detektory osob, detektory obličejů a rozpoznávací systémy,“ uvádí dále na síti.
Model hledá nové vzory samostatným učením
Swearingen podle svých slov provedl 31,7 milionu testů, aby našel vzory, které dokážou zmást software používaný v jím testovaných bezpečnostních kamerách a ve čtečkách registračních značek.
Poté, co prokázal, že jeho koncept v zásadě funguje, vytvořil systém, který samostatně vytváří a testuje různé vzory, a z výsledků se učí, které z nich nejvíce narušují fungování testovaných kamerových algoritmů.
Bezpečnostní kamery tím však nejsou „oslepeny“. Lidi nadále zaznamenávají. Opatření míří na software, který má z pořízeného obrazu rozpoznat osobu, obličej, pohyb nebo registrační značku.
Pokaždé, když některý vzor neměl požadovaný účinek a rozpoznávací algoritmus člověka přesto identifikoval, model vytvořil nový vzor. Brzy začal nacházet vzory, které dokázaly přelstít všechny jím testované open-source rozpoznávací algoritmy, včetně softwaru používaného čtečkami registračních značek Flock, tělesnými kamerami Axon a kamerami pro rozpoznávání obličeje společnosti Clearview AI.
Model nyní každou minutu vytváří nové vzory, přičemž každá další série je podle Swearingena matematicky lepší než ta předchozí, uvedl pro TechCrunch. Dohledové systémy lze sice také vycvičit tak, aby Swearingenovy vzory překonaly, jeho algoritmus se však s každým novým návrhem zároveň zlepšuje ve vytváření dalších, zpočátku nerozpoznatelných vzorů.
Praktický test s autem v Las Vegas uspěl
Swearingen chce pomocí vzorovaných fólií učinit „neviditelnými“ také automobily, aby je dohledové technologie nedokázaly rozpoznat. Že by to mohlo fungovat, předvedl při prvním veřejném testu s vozem Toyota Yaris na hackerské a bezpečnostní konferenci DEF CON v Las Vegas na začátku srpna. Automobil z roku 2009 předtím polepil jedním ze svých nejnovějších vzorů. „Prokázali jsme účinnost,“ uvedl Swearingen. Výzvou podle něj byla kola vozu, podrobnosti však neuvedl.
Úspěšná demonstrace v Las Vegas podle projektu přináší první důkaz, že je možné obejít algoritmické rozpoznávání ve veřejném prostoru. Dalším krokem má být nabídka vzorů zájemcům.
Pro svůj projekt „noRecognition“ Swearingen spustil crowdfundingovou kampaň, která má financovat prodej zboží s těmito vzory – od triček po mikiny s kapucí. Do budoucna chce nabízet také vzorované fólie na vozidla. Své nejlepší vzory však na internetu nezveřejní, uvedl. Chce tak zabránit výrobcům kamer, aby se je naučili překonávat.
Podle vlastních údajů dosáhl bezpečnostní výzkumník úspěchu u všech jedenácti testovaných rozpoznávacích modelů. Jeden jediný vzor, který by dokázal současně oklamat všech jedenáct modelů, však zatím nepředstavil.
Experimenty jsou založeny na metodě pokus–omyl
Americký odborný server Dark Reading zaměřený na kybernetickou bezpečnost se však na Swearingenův vývoj dívá s jistou skepsí. Jednotlivé modely totiž nejsou konstruovány stejně. Neexistuje proto žádné obecně platné pravidlo, podle něhož by bylo možné vytvářet vzory, které by umělou inteligenci zmátly. Swearingenovy experimenty jsou tak omezeny na metodu pokus–omyl a do určité míry mu to ztěžuje i pochopení toho, proč jeho vzory vlastně fungují.
Odborné médium se domnívá, že při převodu experimentu do podoby obchodního modelu narazí také na praktická omezení. Dvourozměrný obraz oděvu testovaný proti simulované kameře může přinést jiné výsledky než skutečná látka v reálných podmínkách. A přestože může být nabídka bezpečnostního výzkumníka z hlediska ochrany soukromí přesvědčivá, její design zřejmě nebude odpovídat představám každého o dobrém vkusu.
K tomu se přidává skutečnost, že na každý takový útok existuje protiopatření. „Kdybych prodal tisíc triček, která by vypadala úplně stejně, fungovala by u všech těch lidí stejným způsobem – dokud by se model neaktualizoval,“ připustil Swearingen pro Dark Reading. „Pak bych mohl vydat další vzor, který by měl stejný účinek.“
Swearingen není jediný, kdo se snaží dohledové technologie přelstít. Vědci se už několik let zabývají takzvaným adversariálním oblečením. Studie zveřejněná v srpnu 2026 na výzkumném portálu arXiv popisuje metodu „AdvTiles“, při níž počítač vytváří vzory pro oděvy, které mají oklamat rozpoznávací software.
Výzkumníci své vzory vytiskli na oblečení a testovali je z různých vzdáleností, úhlů pohledu a na různém pozadí. V digitálních testech dosáhla metoda „AdvTiles“ podle autorů průměrné úspěšnosti při oklamání systému 86,2 procenta. Následně testovali potištěné oblečení v reálných podmínkách. Při většině úhlů pohledu měl vzor zabránit rozpoznání dokonce ve více než 90 procentech testů.
–etg–
