Komentář
Během nedávného testu dvou modelů společnosti OpenAI unikly tyto modely ze svého údajně od internetu izolovaného „sandboxu“ a nabouraly se do systémů jiné americké společnosti – Hugging Face. OpenAI označila tento autonomní útok umělé inteligence za „bezprecedentní“.
Napadená společnost poskytuje open-source nástroje pro umělou inteligenci (AI). Modely OpenAI, včetně GPT-5.6 Sol a ještě výkonnějšího dosud nezveřejněného modelu (s výjimkou okamžiku, kdy se na chvíli zveřejnil sám), dospěly k závěru, že jim průnik umožní podvádět při interním hodnocení OpenAI.
Tento incident upozorňuje na riziko, že se modely AI vymknou kontrole, začnou jednat podle vlastního uvážení místo pokynů svých lidských správců, proniknou do divokého prostředí internetu a způsobí trvalé škody.
Společnost Hugging Face původně požádala model Fable od firmy Anthropic, aby jí pomohl útoku čelit. Fable však žádost o kybernetickou pomoc odmítl kvůli riziku, že se útočník vydává za obránce. Ani nejvyspělejší modely totiž nedokážou vždy poznat rozdíl.
Hugging Face se poté obrátila na GLM 5.2 od společnosti Z.ai, čínský model s menším množstvím ochranných omezení. Hugging Face uvedla, že jeho použití bylo jednodušší, rychlejší, levnější a bezpečnější. Žádná data útočníka ani přihlašovací údaje obránce přitom neopustily výpočetní prostředí společnosti Hugging Face.
Chvála, kterou Hugging Face pěla na čínský model, musela znít jako rajská hudba pro uši Komunistické strany Číny (KS Číny).
GLM 5.2 je k dispozici v tzv. open-weight režimu. Modely open-weight lze stáhnout a upravit podle potřeb uživatele, což znamená, že mohou být užitečné pro obránce ve chvíli, kdy jim překážejí ochranné mechanismy tří hlavních amerických společností – Anthropic, OpenAI a Google.
Jakmile je však takový model stažen, společnost, která jej vytvořila, nad ním ztrácí kontrolu, což zvyšuje riziko, že jej autoritářské režimy, hackeři nebo teroristé zneužijí ke škodlivým účelům. Stejný rozvolnění ochranných mechanismů, který učinil Z.ai užitečným při incidentu ve společnosti Hugging Face, může učinit Z.ai užitečným i pro škodlivé aktéry.
Odpovědí proto nemusí být open-weight ani odstranění ochranných mechanismů, jak oslavuje Hugging Face, ale lepší ochranné mechanismy u etických soukromých systémů, které budou díky tomu zcela nedostupné pro škodlivé účely.
Modely AI v Číně jsou nakonec pod kontrolou KS Číny, která se může snažit vštěpovat jim pročínské zkreslení nebo do nich vkládat zadní vrátka umožňující čínskému režimu pronikat do systémů jejich uživatelů.
Čínské modely někdy využívají odcizené americké materiály získané prostřednictvím „destilace“, při níž se méně výkonný model učí z dat silnějšího původního modelu, například těch, které nabízejí tři americké společnosti. Výsledkem je odcizené duševní vlastnictví, které je věrné svému kradenému původu a s větší pravděpodobností bude využíváno ke škodlivým účelům.
Bílý dům uvedl, že má informace nasvědčující tomu, že čínská společnost Moonshot AI vyvinula svůj výkonný model Kimi K3 prostřednictvím destilace modelu Fable od společnosti Anthropic a pravděpodobně použila čipy GB300 v Thajsku, což by obcházelo vývozní omezení. Anthropic v reakci uvedla, že průmyslově prováděná destilace představuje hrozbu pro národní bezpečnost Spojených států i jejich demokratických spojenců.
Přestože americké modely zpravidla vedou oblast umělé inteligence jako celek, Čína dominuje segmentu bezplatných open-weight modelů, což jí dává výhodu v celosvětovém rozšíření i počtu uživatelů. Lze tvrdit, že tuto výhodu získala nepoctivě prostřednictvím krádeží při destilaci.
Spojené státy zvažují sankce vůči subjektům odpovědným za takové krádeže. Americký ministr financí Scott Bessent na síti X napsal: „Když firmy z Čínské lidové republiky provádějí skryté průmyslové útoky založené na destilaci, které překračují hranici a stávají se krádeží duševního vlastnictví, budou na stole sankce i zařazení na seznam Entity List.“
Riziko škod způsobených umělou inteligencí je obzvlášť vysoké u čínských open-weight modelů, které mají méně ochranných mechanismů a jsou v současnosti pod kontrolou KS Číny. KS Číny sleduje totalitní, genocidní a hegemonické cíle, jejichž naplňování může podpořit využívání a vývoj AI řízené tímto režimem.
Čínské modely by mohly prosazovat některé z nebezpečně autoritářských politik čínského režimu nebo se vymknout kontrole tím, že se samy rozšíří do sítě napadených počítačů nic netušících obětí.
Odpovědí na hrozbu, že se čínské open-weight modely vymknou kontrole nebo usnadní autoritářství, hackerské útoky a terorismus, není přijmout rizikové open-weight modelů bez ochranných mechanismů. Svět naopak potřebuje lepší ochranné mechanismy, které dokážou rozlišit obránce od útočníků, a přísnější přístup k využívání modelů s otevřenými vahami ze strany škodlivých aktérů.
Džin open-weight modelů v rukou škodlivých aktérů je už téměř venku z láhve, a svět proto musí jednat co nejdříve. Jakmile si teroristé, diktátoři a hackeři stáhnou open-weight systémy na vlastní servery, nebude cesty zpět. Jeden z nich by mohl vytvořit misantropickou umělou inteligenci, která se bude jako virus sama kopírovat na nezabezpečené servery a místo pomoci lidstvu usilovat o jeho zničení.
Názory vyjádřené v tomto článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
–ete–
