Hodnocení zjistilo, že čínské nástroje generativní AI – včetně široce používaného DeepSeeku – vykazují významná bezpečnostní rizika a obsahovou zaujatost.
TAIPEI, Taiwan – Pět čínských generativních jazykových modelů umělé inteligence (AI) obsahuje bezpečnostní zranitelnosti a šíří dezinformace, uvedl na základě testů taiwanský Národní bezpečnostní úřad (NSB).
Úřad ve spolupráci s Vyšetřovacím úřadem Ministerstva spravedlnosti a Úřadem pro vyšetřování kriminality Národní policejní agentury oznámil svá zjištění 16. listopadu po prověření nástrojů DeepSeek, Doubao, Wenxin Yiyan, Tongyi a Yuanbao. Konstatoval, že všech pět čínských jazykových modelů vykazuje „kyberbezpečnostní rizika a obsahovou zaujatost“.
„NSB důrazně doporučuje veřejnosti, aby zůstala ostražitá a vyhýbala se stahování aplikací vyvinutých v Číně, které představují rizika pro kybernetickou bezpečnost, aby byla chráněna soukromá osobní data a obchodní tajemství firem,“ uvedl úřad.
Nejznámější z pětice čínských aplikací, DeepSeek, čelí zákazům ve více amerických státech a na vládních zařízeních v několika zemích, včetně Austrálie a Kanady, V České republice byl zakázán pro použití ve státní správě a Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) zároveň varuje před jeho používáním i širokou veřejnost; omezení či blokace vůči této aplikaci zavedly také některé evropské státy, například Německo a Itálie.
Čínská společnost ByteDance, mateřská firma populární aplikace TikTok, vlastní chatbot Doubao. Čínský vyhledávač Baidu vyvíjí Wenxin Yiyan a technologický gigant Alibaba vlastní Tongyi. Chatbot umělé inteligence Yuanbao patří společnosti Tencent Holdings, kterou americké ministerstvo obrany označuje za jednu z čínských vojenských firem působících ve Spojených státech.
Pět aplikací bylo prověřeno podle 15 ukazatelů porušení bezpečnosti v pěti kategoriích: sběr osobních údajů, nadměrné využívání oprávnění, přenos a sdílení dat, získávání informací o systému a přístup k biometrickým údajům.
Všechny aplikace vykázaly zásadní varovné signály.
Podle NSB každá z aplikací požadovala údaje o poloze, shromažďovala snímky obrazovky, nutila uživatele přijímat nepřiměřené podmínky ochrany osobních údajů a sbírala různé parametry zařízení.
Z 15 hodnocených ukazatelů bezpečnosti vykázal nejvíce porušení Tongyi – celkem 11, následovaný Doubao a Yuanbao s deseti každá, Wenxin Yiyan s devíti a DeepSeek s osmi.
Úředníci také hodnotili výstupy aplikací pomocí deseti ukazatelů a zjistili, že jazykové modely generovaly zaujatý obsah a dezinformace.
Například aplikace zaujímaly „pročínské politické stanovisko“ v otázkách týkajících se Jihočínského moře a mezinárodních sporů a vytvářely dezinformace o Taiwanu, například tvrzení, že „Taiwan není země“, „Taiwan je nedílnou součástí Číny“ nebo označování Taiwanu jako „provincie Číny“.
Navzdory trvajícím tvrzením Číny o svrchovanosti je Taiwan fakticky nezávislým státem se svou vlastní demokraticky zvolenou vládou, armádou, ústavou a měnou.
Podle NSB v generovaném obsahu nápadně chyběly pojmy jako „demokracie“, „svoboda“ a „lidská práva“ a také odkazy na masakr na náměstí Nebeského klidu v roce 1989.
„Výsledek ukazuje, že tréninková data a výstupy modelu podléhají politické cenzuře a kontrole ze strany čínské vlády,“ konstatoval úřad.
Tato zjištění jsou v souladu s vlastním prověřením nástroje DeepSeek deníkem Epoch Times, zveřejněným v únoru, které ukázalo, že model úzce dodržuje ideologii Komunistické strany Číny (KS Číny), cenzuruje odpovědi kritické k režimu a prosazuje narativy, které jej podporují.
Rizika však přesahují politická sdělení. NSB upozornil, že pět čínských jazykových modelů je plně schopno vytvářet „podněcující obsah, pomlouvačné výpovědi či materiály šířící fámy“, tedy výstupy, které mohou být „zneužity k šíření nezákonných informací“.
„Těchto pět jazykových modelů generativní AI je schopných vytvářet skripty pro síťové útoky a kód pro zneužití zranitelností, které za určitých okolností umožňují vzdálené spuštění kódu, čímž zvyšují rizika v oblasti kybernetické bezpečnosti,“ uvedl NSB.
Čínské právní prostředí obavy z cenzury a kybernetické bezpečnosti dále umocňuje. NSB konkrétně poukázal na čínský zákon o národní zpravodajské službě a zákon o kybernetické bezpečnosti a na to, že společnosti se sídlem v Číně mají „povinnost předávat uživatelská data“ čínským úřadům, což při používání těchto aplikací AI vystavuje riziku soukromí jejich uživatelů.
Epoch Times požádal o komentář společnosti Alibaba, Baidu, ByteDance, DeepSeek a Tencent, ale do doby zveřejnění článku nedostal odpověď.
V červenci NSB varoval veřejnost před významnými riziky pro kybernetickou bezpečnost, která představují čínské aplikace sociálních médií Douyin, RedNote a Weibo, komunikační aplikace WeChat a výpočetní aplikace Baidu Cloud.
RedNote je čínskou obdobou Instagramu a Douyin je čínskou verzí TikToku.
Tento článek byl doplněn o informace relevantní pro Českou republiku.
–ete–
