Jak se válka s Íránem vyostřuje, na internetu se objevuje obsah vytvořený pomocí umělé inteligence (AI), který podporuje narativy buď zavádějící, nebo zcela smyšlené.
Účty napojené na Írán nepravdivě tvrdily, že islámský režim úspěšně zasáhl americké námořní lodě, základny a vojáky, přičemž k přesvědčení veřejnosti o pravdivosti těchto tvrzení používal obrázky a videa vytvořená umělou inteligencí. Jde o nejnovější příklad rostoucího trendu, kdy je AI během válek využívána k šíření nepravdivých informací s cílem ovlivnit veřejné mínění.
Odborníci uvádějí, že tato propaganda vytvořená pomocí AI, která byla s velkým účinkem využita i v dalších nedávných konfliktech a válkách po celém světě, představuje pro vlády snadný způsob, jak se pokusit posílit důvěru veřejnosti a upevnit svou moc, zatímco protivníka démonizují.
Níže uvádíme několik příkladů tohoto typu obsahu a také důvody, proč jsou považovány za podvrhy.
Falešné následky íránských úderů
V jednom z takových případů obsahu vytvořeného pomocí AI íránský list Tehran Times tvrdil, že Írán zničil americké radarové zařízení na námořní základně USA v Kataru.
Toto médium zveřejnilo v příspěvku z 28. února na platformě X satelitní snímky vedle sebe s popiskem „BREAKING“ a „Before vs. after“.
Snímek označený jako „po“ ukazoval poškození několika budov a zdálo se, že vychází ze skutečných satelitních snímků základny Naval Support Activity v Manámě v Bahrajnu z února 2025.
Deník Epoch Times potvrdil snímek označený jako „před“, tedy satelitní fotografii, prostřednictvím služby Google Earth, a zároveň zaznamenal několik nelogických nesrovnalostí mezi snímky „před“ a „po“: budovy ve spodní části snímků se neshodovaly a na obou fotografiích byla tři vozidla zaparkována na naprosto stejných místech, přestože snímky „před“ a „po“ měly být podle tvrzení pořízeny s ročním odstupem.
Program nazvaný SynthID, který vytvořila společnost Google, dokáže zjistit, zda video, fotografii nebo zvukový soubor vytvořily či upravily nástroje umělé inteligence této společnosti.
V případě tvrzení Íránu o úspěšném útoku na americkou námořní základnu SynthID zjistil, že snímky „před“ a „po“ byly vytvořeny nebo upraveny pomocí nástrojů umělé inteligence společnosti Google.
Tehran Times sdílel 6. března další fotografie, u nichž tvrdil, že zobrazují „zničení a požáry“ na americké základně ve Spojených arabských emirátech.
Zatímco SynthID tyto fotografie neidentifikoval jako vytvořené nebo upravené nástroji umělé inteligence společnosti Google, vestavěná umělá inteligence platformy X Grok uvedla, že snímky vykazují „silné“ známky toho, že byly vytvořeny umělou inteligencí nebo alespoň výrazně upraveny. Grok zároveň nedokázal najít žádné odpovídající příspěvky ani články spojené se skutečnými událostmi, což bylo u dramatických fotografií zobrazujících poškození americké základny neobvyklé.
Systém umělé inteligence platformy X zdůraznil několik důvodů, proč se domnívat, že fotografie byly vytvořeny nebo upraveny pomocí AI. Na jedné z fotografií například zřejmě padá silný déšť, což podle Groku neodpovídá tomu, jak by se při skutečné události vzájemně ovlivňovaly déšť, kouř a oheň.
Mezi další zaznamenané znaky patřila „přílišná filmová kompozice, nepřirozeně jednotné vzory plamenů a hustota kouře bez fyzikálních nesrovnalostí v reálném světě“, stejně jako absence artefaktů kamery, jako je zrno, odlesky nebo proměnlivá hloubka ostrosti, které jsou pro autentické fotografie typické.
Klamání během války
Není vždy jasné, odkud falešná tvrzení pocházejí. Mohou pocházet od skupin napojených na vládu nebo od zdánlivě náhodných uživatelů, kteří přesto šíří nepravdivé narativy.
Další příspěvek vytvořený pomocí AI, pocházející z účtu, který zřejmě nebyl napojen na režim, zobrazoval masivní explozi na mezinárodním letišti v Irbílu v Iráku, které se nachází poblíž americké vojenské základny, na niž Írán cílil.
Snímek zobrazující obrovský požár a sloup černého dýmu připomínající sopku se zřejmě inspiroval skutečnou fotografií, která ukazovala mnohem menší sloup dýmu nad letištěm. Program SynthID v obrazu našel vizuální nesrovnalosti a uvedl, že k vytvoření nebo úpravě fotografie byly použity nástroje umělé inteligence společnosti Google.
Podle analytických center obsahovaly také válka mezi Ruskem a Ukrajinou a loňská dvanáctidenní válka Izraele s Íránem případy podvrhů vytvořených pomocí umělé inteligence.
„Objem obsahu vytvářeného pomocí umělé inteligence začíná v těchto krizových situacích informační prostředí doslova znečišťovat v opravdu děsivé míře,“ řekla Melanie Smithová, seniorní ředitelka pro politiku a výzkum informačních operací v organizaci Institute for Strategic Dialogue, agentuře Associated Press. „Neschopnost získat v takových chvílích ověřené a důvěryhodné informace – je stále obtížnější to dokázat.“
Ve zprávě z roku 2023 think tank Center for Strategic & International Studies upozornil na vliv umělé inteligence ve válce mezi Izraelem a Hamásem a vysvětlil, že botí účty používané aktéry napojenými na Hamás sloužily k zesilování narativů této teroristické skupiny.
„Podpora Íránu … a hlášené zapojení Číny a Ruska do zesilování těchto narativů naznačují širší trend využívání sociálních médií jako nástroje zástupné války a posun ve vojenské strategii směrem k začlenění komunikačních kampaní,“ konstatuje zpráva.
Není jasné, kolik z těchto dezinformací vytvořených pomocí AI se dostává k íránským obyvatelům, protože vláda zavedla výpadek internetu. Organizace WITNESS, která používá video k dokumentování porušování lidských práv, loni uvedla, že obsah vytvořený pomocí AI, jehož množství podle ní během dvanáctidenní války vzrostlo, vytvořil pro Íránce akutní problém, protože čelili „informačnímu znečištění“.
„Občané často nedokážou ověřit ani křížově zkontrolovat informace, které jim předkládají státní orgány nebo aktéři konfliktu,“ napsali autoři WITNESS Mahsa Alimardani a Sam Gregory v článku pro Carnegie Endowment for International Peace.
Tento problém se ještě prohlubuje, když íránská státní média podporují nepravdivé narativy, včetně těch šířených vládou, jak tomu bylo v současném konfliktu. Na internetu mohou tyto vládní propagandistické narativy dále rozvíjet i další zdroje.
Íránské Islámské revoluční gardy (IRGC) již dříve prohlásily, že balistickými střelami zasáhly americkou letadlovou loď USS Abraham Lincoln. Internetové účty, které se zdánlivě nepojí s oficiálními íránskými zdroji, poté tato tvrzení IRGC podpořily falešnými záběry.
„Íránské rakety potopily letadlovou loď USS Abraham Lincoln v Perském zálivu,“ sdělil jeden z těchto účtů v příspěvku na platformě X, který získal více než 8 milionů zhlédnutí. Komunitní poznámka u příspěvku upřesnila, že záběry ve skutečnosti pocházejí z vojensky tematické videohry.
U.S. Central Command na toto tvrzení reagovalo na platformě X.
„Íránské IRGC tvrdí, že zasáhly USS Abraham Lincoln balistickými střelami,“ napsalo. „LEŽ.“
Boj proti propagandě
Přestože v posledních letech dochází k rychlému rozvoji umělé inteligence a zároveň se široce rozšířil přístup k nástrojům pro její generování, přičemž sociální média umožňují šíření takového obsahu nebývalou rychlostí, technologie určené ke zmírnění dopadu falešných narativů se rovněž rychle vyvíjejí.
Platforma X využívá systém Community Notes, v jehož rámci mohou ověření uživatelé přímo reagovat na tvrzení v příspěvcích nebo doplnit kritický kontext či chybějící informace. Jakýkoli účet na platformě X může následně komunitní poznámku ohodnotit jako užitečnou či neužitečnou a uvést proč. Tyto poznámky se často objevují u příspěvků týkajících se nejnovějšího konfliktu s Íránem.
Nikita Bier, vedoucí produktového oddělení platformy X, 3. března oznámil, že platforma reviduje pravidla svého programu, který uživatelům umožňuje získávat příjmy.
Nově budou uživatelé, kteří zveřejní video z ozbrojeného konfliktu vytvořené pomocí umělé inteligence, aniž by uvedli, že bylo vytvořeno pomocí AI, na 90 dní vyřazeni z programu Creator Revenue Sharing na této platformě. Bier na platformě X napsal, že každé další porušení pravidel povede k trvalému vyloučení.
Sarah Rogersová, náměstkyně amerického ministerstva zahraničí pro veřejnou diplomacii, tento krok ocenila. „K podpoře pravdy na internetu nepotřebujete ministerstvo pravdy,“ podotkla na platformě X.
Společnosti Google a Meta bezprostředně neodpověděly na žádosti o komentář k případným dalším iniciativám, které podnikají v boji proti dezinformacím vytvořeným pomocí umělé inteligence z Íránu.
Odborníci říkají, že lidé by měli být při konzumaci informací obezřetní a kritičtí, zejména v době, kdy se umělá inteligence vyvíjí do bodu, kdy je téměř nemožné rozlišit, zda fotografie a videa, která vytváří, jsou skutečná, nebo falešná.
Doporučují vyhledávat potvrzující zdroje, například mediální organizace, nezávislé novináře, vládní zdroje, akademiky, výzkumníky nebo i neziskové organizace.
Vodoznak může být výrazným znakem manipulace u videa nebo fotografie. Někdy jej může přímo přidat generátor umělé inteligence, který obsah vytvořil. Tyto vodoznaky však mohou být rozmazány nebo skryty, aby divák nepoznal, že snímky byly vytvořeny pomocí AI, a právě v takových případech může být užitečný program jako SynthID.
Tyto technologie mají nicméně své limity, protože, jak loni poznamenali Alimardani a Gregory, někdy poskytují protichůdné výsledky.
„Sofistikované detekční metody mohou přinášet protichůdná zjištění, což ponechává novináře, obránce lidských práv i civilisty v konfliktních zónách v situaci, kdy se musí orientovat v mlze války bez jasného signálu o tom, co je skutečné,“ napsali.
Na této zprávě se podílela také agentura Associated Press.
–ete–
