Nový výzkum naznačuje, že obsah čínských státních médií je hluboce zakořeněn v datech používaných k trénování hlavních systémů umělé inteligence (AI) a může nenápadně ovlivňovat způsob, jakým některé modely reagují na politicky citlivé otázky.
Studie zveřejněná 13. května ve vědeckém časopise Nature zjistila, že v trénovacích datech velkých jazykových modelů se objevuje velké množství materiálů z čínských státních médií – včetně agentury Xinhua a deníku People’s Daily.
Podle výzkumu několik předních systémů umělé inteligence – včetně ChatGPT, Claude a Gemini – při zadání dotazů v čínštině týkajících se čínského politického systému nebo citlivých domácích témat častěji generovalo odpovědi úzce odpovídající oficiálnímu výkladu čínského režimu.
Výzkumníci zdůraznili, že nenašli důkazy o hackerských útocích ani přímé manipulaci systémů umělé inteligence. Tvrdí však, že tento efekt pravděpodobně vyplývá ze struktury základních trénovacích dat.
Protože čínská státní média publikují velké objemy obsahu, který je volně přístupný, široce přebíraný a jednotně formátovaný, automatizované nástroje používané ke sběru dat pro trénování AI snadněji shromažďují jejich materiály. Nezávislá média naopak častěji fungují v režimu placeného přístupu, uplatňují autorská omezení nebo blokují automatizované stahování dat, což omezuje jejich zastoupení v trénovacích souborech.
Tato nerovnováha podle studie může neúmyslně poskytovat narativům podporovaným státem výraznější prostor v systémech strojového učení, které spoléhají na otevřená internetová data.
Jak mohou trénovací data ovlivňovat chování modelů
Výzkumníci analyzující rozsáhlý open-source dataset v čínštině známý jako CulturaX zjistili, že obsahuje přibližně 189 milionů dokumentů. Obsah čínských státních médií se v tomto datasetu objevoval v mnohem větším rozsahu než u čínskojazyčné Wikipedie.
Analýza rovněž zjistila, že v politicky citlivých kontextech – včetně odkazů na Komunistickou stranu Číny (KS Číny) nebo čínské vedení – tvořil obsah státních médií významnou část relevantních materiálů v datasetu.
Když výzkumníci testovali více modelů AI pomocí srovnatelných dotazů v čínštině a angličtině, zaznamenali výrazné rozdíly. V některých případech čínskojazyčné odpovědi častěji používaly oficiální terminologii nebo odrážely narativy běžně používané v politickém diskurzu Pekingu. Odpovědi v angličtině byly naopak obvykle neutrálnější nebo používaly odlišný způsob podání.
Na rozdíl od tradičních médií, jako jsou televize nebo noviny, systémy umělé inteligence vytvářejí syntetizované odpovědi, které mohou navenek působit neutrálně, i když odrážejí vzorce obsažené v trénovacích datech.
Studie ve své analýze sleduje desítky zemí a naznačuje, že onen jev se více vyskytuje v prostředích s nižší svobodou tisku, kde výstupy AI trénované na lokálních jazykových datech častěji odrážely narativy podporované státem.
Na této zprávě se podílel Sun Chen.
–ete–
