Pokud KS Číny začala pracovat na těchto technologiích již od roku 2023, byla by připravena zasáhnout i nadcházející prezidentské volby v USA, tvrdí výzkumníci.
Nová zpráva think tanku RAND zjistila, že čínská armáda využívá umělou inteligenci (AI) k podpoře zahraničních vlivových kampaní.
Podle studie, zveřejněné 1. října, by se Spojené státy a další země „měly připravit na tuto manipulaci sociálních médií řízenou umělou inteligencí“ přijetím opatření ke snížení rizik, podporou mediální gramotnosti a důvěryhodnosti vlády, zvýšením informovanosti veřejnosti a posílením diplomatické koordinace.
Jedná se o první zprávu zaměřenou na plánování a strategie, které stojí za kampaněmi Komunistické strany Číny (KS Číny) na ovlivňování sociálních médií.
Výzkumníci zkoumali Li Bichenga, výzkumného pracovníka spojeného s čínskou armádou a předního odborníka na masovou manipulaci se sociálními médii, který je považován za člověka přinejmenším částečně zodpovědného za osvojení těchto technologií režimem. Studie rovněž čerpala důkazy z více než 220 článků v čínštině z akademických časopisů a více než 20 článků v angličtině z mezinárodních konferencí, jejichž autorem byl Li.
Mezi klíčová zjištění patří, že KS Číny začala vyvíjet možnosti manipulace se sociálními médii v roce 2010, že má „jasný zájem o využití umělé inteligence“ pro tyto kampaně, že čínští vojenští výzkumníci provádějí špičkovou práci a že KS Číny má dobré předpoklady pro vedení těchto rozsáhlých manipulačních kampaní.
Výzkumníci poznamenávají, že aktivity KS Číny v oblasti umělé inteligence jsou v rozporu s veřejnými prohlášeními režimu, v nichž se představitelé otevřeně vyslovují proti využívání umělé inteligence k dezinformacím.
Osvojení sociálních médií
Podle výzkumníků byla první reakcí KS Číny na povstání vyvolaná sociálními médii, jako bylo Arabské jaro, snaha o potlačení této technologie.
Zajímala se však také o to, co považovala za západní způsoby využívání „online psychologické války“, a v roce 2013 zveřejnila dokumenty o plánu KS Číny na „posílení mezinárodních komunikačních schopností a budování zahraničního diskurzu moci“.
Vůdce KS Číny Si Ťin-pching v tomtéž roce pronesl projev, v němž vyzval k „zahájení boje proti veřejnému mínění“ a usiloval o „vybudování silné kybernetické armády“.
Uvedl, že Čína je obětí obvinění přicházejících od Západu, a prohlásil, že (čínská) odveta je oprávněná.
„Musíme pečlivě a řádně vést vnější propagandu“ a inovovat, řekl Si.
V následujících několika letech vznikla nová oddělení zaměřená na online propagandu v několika orgánech KS Číny a také se rozšířila spolupráce mezi jednotlivými odděleními v rámci zahraničních vlivových kampaní.
V letech 2017–2018 se rozsáhlé, státem sponzorované úsilí aktivně zaměřovalo na zahraniční skupiny. Výzkumníci se domnívají, že dezinformační kampaň „Spamouflage“, která byla v roce 2023 identifikována jako iniciativa vedená KS Číny, začala v tomto období. Tchaj-wan také v roce 2018 obvinil čínskou armádu z manipulace sociálních médií s cílem zasahovat do tchajwanských voleb, což bylo první takové veřejné obvinění.
Dezinformační kampaně v sociálních médiích podle zprávy „explodovaly“ v roce 2019 a byly hojně využívány během hongkongských protestů, poté během pandemie covidu-19 a později během amerických voleb v polovině volebního období v roce 2022.
Testovací prostředí pro umělou inteligenci
V roce 2023 Li Bicheng ve své studii napsal, že umělé zveřejňování příspěvků na sociálních sítích je stále neefektivní a režim se v tomto úsilí musí pořád spoléhat na lidskou práci. Zkoumal způsoby, jak využít umělou inteligenci k nahrazení uživatelů sociálních médií „50 centové armády“, a věřil, že to KS Číny pomůže dosáhnout „převahy ve veřejném mínění v budoucích informačních válkách“.
Li stanovil postup sestávající ze šesti kroků: objevit a získat klíčové informace; připravit a vybrat vhodné mediální nosiče; vytvořit obsah na míru pro každou z cílových online platforem; zvolit vhodné načasování, způsob doručení a kroky; posílit šíření z více zdrojů vytvořením „hotspotů“; a dále formovat prostředí a rozšiřovat vliv.
Jeho výzkum v posledních letech představuje rozsáhlou snahu dát dohromady různé technologie, které by podle výzkumníků mohly automatizovat těchto několik kroků a vytvořit inteligentní příspěvky, které lze automaticky nasadit na sociálních sítích co nejefektivnějším způsobem, personalizovaným pro cílová publika.
Výzkumníci sponzorovaní KS Číny také vyvíjejí simulované prostředí neboli „supersíť“, aby tyto schopnosti umělé inteligence otestovali a zjistili, zda obsah generovaný umělou inteligencí má požadovaný účinek a ovlivňuje veřejné mínění zamýšleným směrem.
„Simulované prostředí využívá existující data z reálného světa, kognitivní vědu a síťové modelování,“ uvádí se ve zprávě.
„Tvrdíme, že současná technologie LLM [režim velkého jazyka] je dostatečná k provádění Liova navrhovaného automatizovaného systému pro usměrňování veřejného mínění; Čína má pravděpodobně kapacitu pro zprovoznění tohoto systému.“
Pokud by KS Číny již začala pracovat na technologiích diskutovaných ve studiích z roku 2023, byla by připravena a schopna zaměřit se na nadcházející prezidentské volby, tvrdí výzkumníci.
Podle zprávy se již v roce 2023 objevily některé důkazy o dezinformačních kampaních generovaných umělou inteligencí a napojených na KS Číny, například obrázky požáru na Havaji generované umělou inteligencí a vlivová kampaň na YouTube, která prosazovala pročínské a protiamerické narativy v tématech včetně „technologické války mezi USA a Čínou“ a geopolitiky.
Think tank Australian Strategic Policy Institute dospěl k závěru, že kampaň, která do prosince 2023 nasbírala na YouTube přibližně 120 milionů zhlédnutí, byla „jednou z nejúspěšnějších vlivových operací týkajících se Číny, jaká kdy byla na sociálních sítích zaznamenána“.
Výzkumníci z RAND očekávají, že v budoucnu bude přibývat botů na sociálních médiích využívajících generativní umělou inteligenci, a doporučili americkým úředníkům a platformám sociálních médií, aby snížili riziko tím, že budou investovat do způsobů, jak detekovat obsah generovaný umělou inteligencí a vyžadovat jeho označování.
Výzkumníci poznamenali, že zjištění studie nezahrnuje rozsah operací KS Číny v oblasti digitálního vlivu.
„Je důležité si uvědomit, že manipulace se sociálními médii je pouze jedním z mnoha nástrojů v rámci širšího souboru nástrojů zahraničních vlivových operací KS Číny a že čínská armáda je pouze jedním z pravděpodobně mnoha aktérů, kteří tyto aktivity jménem stranického státu provádějí,“ konstatuje zpráva.
–ete–
