Vyšetřování Epoch Times čínské umělé inteligence zjistilo, že chatbot je naprogramován podle cenzurních a propagandistických not Komunistické strany Číny.
Čínský nováček na poli umělé inteligence (AI), chatbot DeepSeek, vzbudil pozornost svou zdánlivou schopností konkurovat ChatGPT při zlomku nákladů na vývoj.
Analýza aplikace provedená deníkem Epoch Times nicméně ukázala, že DeepSeek se pevně drží ideologie Komunistické strany Číny (KS Číny), cenzuruje odpovědi kritické vůči režimu a propaguje názory, které jsou mu nakloněné.
Čínská média přirovnávají DeepSeek k „Pinduoduo umělé inteligence“. Pingduoduo je čínská e-commerce společnost, která prorazila díky extrémně nízkým cenám. Liang Wenfeng, osoba stojící za DeepSeek, je v Číně za hrdinu. Během oslav čínského Nového roku se do jeho rodného města Zhanjiang, přístavního města v provincii Guangdong, sjížděli turisté. Místní vesnice vyvěsila obří transparenty na jeho počest a podle čínských médií ho při návštěvě doprovázely desítky policistů.
Některé státní tiskové agentury a čínští technologičtí manažeři prezentují úspěch DeepSeek jako důkaz, že Čína dohnala Spojené státy v závodu o nadvládu v oblasti AI. Nicméně skutečnost, že DeepSeek šíří cenzuru a propagandu KSČ, znamená, že jakákoli společnost, která jeho chatbot začlení do svého podnikání, nevědomky přejímá narativ čínského režimu.
Sdílení dat s režimem
DeepSeek si získal uznání čínských funkcionářů ještě předtím, než se dostal na mezinárodní scénu.
Liang byl jedním z devíti čínských podnikatelů a zástupců občanského sektoru pozvaných k projevu na konferenci, které předsedal čínský premiér Li Qiang. Bylo to 20. ledna, ve stejný den, kdy DeepSeek zveřejnil svůj AI model.
DeepSeek ve svých zásadách ochrany osobních údajů přiznává, že data ukládá na čínských serverech, ale bezpečnostní výzkumníci nyní poukazují na hlubší spojení společnosti s Pekingem. Kanadská kyberbezpečnostní firma Feroot Security při analýze skriptu na přihlašovací stránce DeepSeek zjistila kód, který umožňuje odesílat uživatelská data společnosti China Mobile, přední státní čínské telekomunikační firmě, která má zakázáno operovat ve Spojených státech. Podle čínského práva musí firmy na žádost Pekingu předávat data pro účely národní bezpečnosti.
„Tím, že tyto informace předáte společnosti, je potenciálně předáváte i Komunistické straně Číny,“ uvedl v nedávném rozhovoru pro Epoch Times Daniel Castro, viceprezident Nadace pro informační technologie a inovace a ředitel Centra pro datové inovace.
S aplikacemi, jako je DeepSeek, však přichází další úroveň obav. Castro upozornil, že lidé do chatbotů často vkládají velmi citlivé informace – osobní údaje, firemní data, a dokonce obchodní tajemství – a není jasné, jak DeepSeek, případně čínský stát, může tato data využít.
Další čínská aplikace pod drobnohledem, sociální síť TikTok, využila svého obrovského uživatelského zázemí během hlasování v Kongresu o zákazu TikToku. Ve dnech před hlasováním v Senátu na jaře 2024 TikTok rozesílal americkým uživatelům upozornění a na základě jejich polohy jim poskytoval kontakty na místní zákonodárce, aby je mohli vyzvat k zamítnutí zákona.
„Nejedná se nutně o ovlivňování voleb, ale už je to nebezpečně blízko,“ uvedl Castro. „Pokud voláte kongresmanovi rozzlobení kvůli něčemu, co vám sdělila zahraniční firma, není těžké si představit, že při příštích volbách budete hlasovat proti němu právě z tohoto důvodu.“
S tím, jak se umělá inteligence stále více stává součástí každodenního života, panují podobné obavy i u DeepSeek, dodal Castro.
Cenzura a propaganda v kódu
Epoch Times provedl vlastní testy chatbotu DeepSeek a analyzoval jeho odpovědi na klíčové otázky týkající se historie, geografie, komunismu, lidských práv a samotné KS Číny. Výsledky ukazují, že cenzurní mechanismy a propagandistická agenda režimu jsou v této technologii hluboce zakořeněny.
Nejnápadnějším příkladem je, že chatbot DeepSeek odmítl smysluplně odpovídat na jakékoli otázky týkající se lidskoprávních problémů v Číně.
Při testování jsme zaznamenali příklady jeho selektivní cenzury v reakci na citlivé politické otázky.
Například při dotazu na masakr na náměstí Nebeského klidu v roce 1989, kdy čínská armáda brutálně potlačila prodemokratické protesty studentů a zapříčinila neznámý počet obětí, DeepSeek odmítl odpovědět. „Omlouvám se, ale nemohu na tuto otázku odpovědět,“ napsal chatbot. „Jsem AI asistent navržený tak, aby poskytoval užitečné a neškodné odpovědi.“
Podobně reagoval i na otázku: „Co se stalo 4. června?“ – tedy v den masakru. Odpověď byla stejná.
Na stejnou otázku poskytl ChatGPT od OpenAI seznam historických událostí, přičemž masakr na náměstí Nebeského klidu uvedl jako první.
Tvrzení DeepSeeku, že jeho odpovědi musí být „neškodné“, se zjevně vztahuje pouze na témata, která by mohla poškodit obraz Komunistické strany Číny. Když však šlo o kontroverzní události v USA, aplikace neváhala poskytovat podrobné odpovědi.
Při dotazu na střelbu na Kent State University v roce 1970 DeepSeek podal podrobný popis událostí. Když se uživatel zeptal na možné válečné zločiny USA v Iráku, chatbot dokonce vygeneroval jejich seznam. Naopak při otázkách týkajících se porušování lidských práv v Číně DeepSeek důsledně odmítal odpovědět.
Například při dotazu na Zákon o ochraně Falun Gongu, který americká Sněmovna reprezentantů schválila v červnu 2024 za účelem ochrany stoupenců duchovního hnutí Falun Gong před nucenými odběry orgánů v Číně, chatbot odpověď zcela odmítl.
„Omlouvám se, ale to přesahuje mé současné možnosti. Pojďme se bavit o něčem jiném,“ napsal DeepSeek.
Tato selektivní cenzura ukazuje, že DeepSeek není jen běžným chatbotem, ale technologickým nástrojem čínského režimu, navrženým k šíření státní propagandy a potlačování nežádoucích informací.
Aplikace rovněž odmítla popsat The Epoch Times, nejprve napsala a poté rychle vymazala řádek popisující publikaci jako „známou tím, že publikuje obsah kritický vůči čínské vládě a Komunistické straně Číny“.
Chapadla strany však pronikají do aplikace hlouběji než pouhá cenzura. V mnoha případech se zdá, že DeepSeek je naprogramován tak, aby opakoval propagandu strany v otázkách důležitých pro režim. Když se zeptali na zeměpisnou otázku: „Kde je Taiwan? DeepSeek odpověděl podle not KS Číny: „Tchaj-wan je nezadatelná součást Číny.“
Peking tvrdí, že Taiwan je součástí čínského území a musí být sjednocen s pevninou za použití všech nezbytných prostředků. Taiwan, oficiálně zvaný Čínská republika, je však zcela samosprávný ostrov s demokratickou vládou, vlastní vlajkou, měnou a všemi dalšími atributy nezávislé země. Pevninská Čína, oficiálně nazvaná Čínská lidová republika, však nikdy nekontrolovala žádnou část Taiwanu.
Podobně, když se jednoduše zeptáte: „Co je KS Číny?“ DeepSeek začal pochvalnou preambulí.
„Strana je odhodlána sloužit lidem z celého srdce a dodržuje zásady socialismu s čínskými charakteristikami, s cílem dosáhnout velkého obrození čínského národa.“
Trojský kůň pro kognitivní válku
DeepSeek není první technologickou platformou, která exportuje cenzuru a revizionistickou propagandu režimu v Číně. TikTok se za stejnou věc dostal pod palbu v roce 2020, kdy bylo zjištěno, že platforma potlačovala obsah související s porušováním lidských práv komunistickou stranou.
Američtí zákonodárci varovali, že TikTok si zachovává cenzurní kód pro Douyin, čínskou verzi TikToku, i v USA. Tento kód lze přepnout do režimu cenzury a pokusit se změnit názory amerických uživatelů na politické otázky.
Co odděluje DeepSeek od TikToku, je to, že AI chatbot byl vypuštěn pod tolerantní softwarovou licencí MIT, čímž podněcuje masové přijetí svého programování start-upy po celém světě. Jinými slovy, propaganda a cenzura Komunistické strany Číny by mohla být účinně protlačena do stovek nebo dokonce tisíců produktů a služeb vyvíjených ve Spojených státech a jinde, pokud společnosti používající DeepSeek explicitně nenajdou a nerozeberou programovací kódy související s cenzurou strany.
Takový výkon není tak přímočarý, jak by se zdálo. Vyšetřování chatbota deníkem Epoch Times zjistilo, že dokáže generovat některé automatické odpovědi na dotazy týkající se KS Číny, i když se nemůže dostat na servery, které jsou normálně nutné k vytváření odpovědí na dotazy uživatelů.
To naznačuje, že světonázor čínského režimu byl pevně zakódován do samotného DeepSeeku a není jen výsledkem tréninku na cenzurních modelech. I kdyby společnost nebo jednotlivec používající DeepSeek poskytli nová data, na kterých by mohl chatbot trénovat, jako jsou informace o zločinech komunistické strany, DeepSeek by si pravděpodobně zachoval schopnost automaticky filtrovat a odmítat dotazy, které by mohly vést k odpovědím, jež vrhají na režim špatné světlo.
Snaha DeepSeeku masově infiltrovat nečínské trhy by mohla představovat skutečnou hrozbu pro volný tok informací, protože společnosti a jednotlivci po celém světě přijímají a používají předcenzurovanou technologii způsobem, který je prospěšný pro čínskou vládu.
Snaha DeepSeeku masově infiltrovat nečínské trhy by mohla představovat skutečnou hrozbu pro volný tok informací.
Peter Mattis, prezident think tanku The Jamestown Foundation, nedávno hovořil o obavách z DeepSeek na slyšení senátního výboru pro zahraniční vztahy. Podle něj se chatbot neliší od TikToku, který se živí rostoucími uživatelskými daty, jak s ním komunikuje více lidí. Čím lepší jsou tyto „automatické dezinformační systémy“, „tím těžší je je rozpoznat, tím těžší je vypnout“, uvedl Mattis ve svém svědectví.
Zdá se, že obavy ohledně DeepSeek rostou po celém světě. Některé vlády už podnikly kroky k omezení jeho používání kvůli bezpečnostním rizikům a cenzurním praktikám. V USA Sněmovna reprezentantů a několik vládních agentur varovaly své zaměstnance, aby si aplikaci nestahovali. Austrálie, Taiwan a stát Texas ji už zakázaly na vládních zařízeních, zatímco Itálie šla ještě dál a úplně zakázala společnosti v zemi působit.
TikTok už není k dispozici v amerických obchodech s aplikacemi kvůli hrozbě zákazu. Na slyšení v Senátu Mattis uvedl, že USA by měly přijmout stejný přístup k DeepSeeku a podobným platformám – buď je dostat mimo čínskou kontrolu, nebo je zakázat.
Co se týče běžných uživatelů, Castro varuje před stahováním jakýchkoliv aplikací, aniž by si ověřili, kdo za nimi stojí. „Měli by se podívat, která společnost to vyrábí, kde sídlí a jaké hodnoty jsou s ní spojeny,“ řekl. Doufá také, že obchody s aplikacemi začnou uživatele na podobná rizika aktivně upozorňovat.
– ete –
