Na americkém Kapitolu v posledních týdnech sílí obavy poté, co zazněla tvrzení, že nejpokročilejší modely umělé inteligence dokázaly prolomit vysoce zabezpečené systémy tajných služeb.
WASHINGTON – S rostoucími schopnostmi a využitím umělé inteligence narůstají také obavy o bezpečnost citlivých zpravodajských informací Spojených států.
Impulsem se stala tvrzení, že nejpokročilejší modely umělé inteligence dokázaly proniknout do vysoce zabezpečených systémů. Odborníci na kybernetickou bezpečnost se rozcházejí v názorech na akutnost hrozby.
Na slyšení Senátního výboru pro zpravodajské služby 11. června místopředseda výboru Mark Warner uvedl, že jej Národní bezpečnostní agentura (NSA) informovala, že model Mythos, vyvinutý společností Anthropic, „pronikl téměř do všech našich utajovaných systémů, nikoli během týdnů, ale během několika hodin“.
Ani NSA, ani společnost Anthropic na žádost deníku Epoch Times o komentář k Warnerovým výrokům nereagovaly. Další významní zákonodárci, kteří hovořili s Epoch Times, dali najevo, že situaci považují za vážnou.
„Byl jsem seznámen se schopnostmi modelu Mythos i s tím, jak o něm uvažují jednotlivé složky naší zpravodajské komunity. Je to velmi, velmi závažné,“ řekl 23. června pro Epoch Times Jim Himes, nejvýše postavený demokrat ve Výboru Sněmovny reprezentantů pro zpravodajské služby.
Model Mythos, vyvinutý společností Anthropic, „pronikl téměř do všech našich utajovaných systémů, nikoli během týdnů, ale během několika hodin“, sdělil místopředseda výboru Mark Warner.
Pokud jsou Warnerova tvrzení přesná, mohlo by to podle odborníků znamenat zásadní zlom v oblasti kybernetické bezpečnosti i ochrany nejcitlivějších tajemství týkajících se národní bezpečnosti Spojených států.
Vyjádření Warnera a Himese přispívají k sílící debatě o tom, jak regulovat umělou inteligenci a jak řešit její dopady na kybernetickou bezpečnost.
Některé části americké vlády už mezitím začaly jednat.
Dne 12. června společnost Anthropic oznámila, že obdržela od americké vlády nařízení o vývozních omezeních, které jí ukládá pozastavit přístup k modelům Fable 5 a Mythos 5 pro všechny cizí státní příslušníky bez ohledu na to, zda se nacházejí ve Spojených státech, či v zahraničí. Opatření se vztahovalo i na zaměstnance společnosti.
Anthropic následně zablokoval přístup k oběma modelům všem uživatelům.
Firma zároveň zpochybnila důvody, na jejichž základě vláda exportní omezení zavedla.
Skupina demokratických i republikánských zákonodárců proto 18. června zaslala ministru obchodu Howardu Lutnickovi dopis s žádostí o podrobnější vysvětlení rozhodnutí.
Dne 30. června pak Anthropic oznámil, že ministerstvo obchodu vývozní omezení pro modely Mythos 5 a Fable 5 zrušilo. Společnost následně obnovila veřejný přístup k modelu Fable 5 a znovu spustila program, který umožňuje omezenému okruhu organizací a vládních institucí využívat model Mythos 5.
„Právě teď máme zhruba šest měsíců na to, abychom vybudovali naši obranu.“
– Jim Himes, člen Sněmovny reprezentantů USA
Americké ministerstvo obrany již dříve označilo společnost Anthropic za riziko pro dodavatelský řetězec. Toto rozhodnutí sice nejprve zablokoval soud, odvolací soud jej však následně potvrdil.
Dne 22. června vydala kybernetická složka zpravodajské aliance Five Eyes – sdružující Austrálii, Kanadu, Nový Zéland, Spojené království a Spojené státy – varování před rostoucím potenciálem kybernetických útoků využívajících umělou inteligenci. Ve svém prohlášení uvedla, že „rychle se vyvíjející oblast umělé inteligence … zásadně mění charakter kybernetických rizik a je nutné jednat rychle, abychom si udrželi náskok“.
Američtí zákonodárci nadále požadují více informací nejen o modelech společnosti Anthropic, ale také o tom, jak si vedou ve srovnání s nejpokročilejšími systémy amerických konkurentů.
Himes sdělil, že podle nedávných zpravodajských informací zaostávají čínské schopnosti v oblasti umělé inteligence přibližně o šest měsíců za Spojenými státy.
„Právě teď máme zhruba šest měsíců na to, abychom vybudovali naši obranu. A když říkám ‚my‘, myslím tím vládu, finanční sektor, firmy, e-mailové systémy – zkrátka všechno. Všechny tyto systémy mají obrovské zranitelnosti.“
Senátor Mike Rounds, který působí ve výborech pro ozbrojené síly a zpravodajské služby, řekl Epoch Times, že Spojené státy si musí udržet vedoucí postavení ve vývoji umělé inteligence, protože mezinárodní konkurence rychle sílí.
„Vývoj umělé inteligence se nezastaví. Musíme stát v jeho čele. Naši protivníci postupují velmi, velmi rychle,“ uvedl s tím, že i on byl o schopnostech modelu Mythos informován.
Nástroj pro hledání slabin
Modely Mythos 5 a Fable 5 představují dvě varianty stejného základního modelu umělé inteligence.
Fable 5 byla verze určená pro širokou veřejnost, vybavená řadou bezpečnostních omezení, která mají zabránit šíření vysoce rizikových informací.
Mythos 5 naproti tomu obsahuje podstatně méně ochranných mechanismů. Testován byl pouze omezeným okruhem uživatelů v rámci kontrolovaného programu nazvaného Project Glasswing.
Při řízeném spuštění v dubnu společnost Anthropic uvedla, že modely jako Mythos dokážou vyhledávat a zneužívat softwarové zranitelnosti.
„Model umělé inteligence by mohl zmapovat infrastrukturu sítě a připravit komplexní plán útoku na ni,“ uvedl Dmitri Maxim.
„Předběžná verze Mythos již objevila tisíce závažných bezpečnostních zranitelností, včetně některých ve všech hlavních operačních systémech a webových prohlížečích. Vzhledem k tempu vývoje umělé inteligence nebude trvat dlouho, než se tyto schopnosti rozšíří, potenciálně i mezi subjekty, které je nebudou využívat bezpečným způsobem,“ varovala tehdy společnost Anthropic.
V rámci projektu Glasswing dostala omezená skupina uživatelů za úkol využít Mythos 5 k analýze rozsáhlých souborů programového kódu a vyhledávání zranitelností, které by mohli zneužít škodliví aktéři.
Podle Anthropicu americká vláda identifikovala způsob, jak obejít ochranné mechanismy (tzv. jailbreak) modelu Fable 5.
Takový jailbreak by teoreticky mohl uživatelům modelu Fable 5 zpřístupnit některé schopnosti modelu Mythos 5, například vyhledávání zneužitelných softwarových zranitelností.
Zakladatel společnosti Marpole.ai Dmitri Maxim v rozhovoru pro Epoch Times nastiňuje scénář, v němž by model umělé inteligence postupně zmapoval infrastrukturu zabezpečené sítě a vytvořil složitý plán jejího napadení.
„Zpracuje miliony stran zdánlivě nesouvisejících konfigurací infrastruktury a okamžitě spočítá, jak se tyto drobné, zdánlivě bezvýznamné chyby vzájemně ovlivňují. Poté je propojí do ničivých automatizovaných útočných cest, které útočníkovi poskytnou plnou administrátorskou kontrolu nad systémem.“
Zpochybňování tvrzení o prolomení utajovaných systémů
Někteří odborníci na kybernetickou bezpečnost však vyjadřují pochybnosti, že by pokročilé modely umělé inteligence skutečně dokázaly samostatně proniknout do amerických sítí se stupni utajení.
Dahvid Schloss, provozní ředitel společnosti Suzu Labs a bývalý specialista na ofenzivní kybernetické operace amerického letectva podporující speciální jednotky USA, zpochybnil Warnerovo tvrzení, že model umělé inteligence jednoduše pronikl do zabezpečených vládních systémů.
Zabezpečené sítě americké vlády, které využívají například armáda nebo zpravodajské služby, jsou totiž navrženy tak, aby byly fyzicky i logicky odděleny od veřejných sítí. Přenos citlivých dat přes neutajované sítě zajišťují vysoce pokročilá šifrovací zařízení známá jako TACLANE.
„V podstatě jsme jim dali klíče od království a pak jsme byli překvapeni, že našli hlavní vchod.“
– Michael Lopez Chiesa, konzultant v oblasti kybernetické bezpečnosti
Schloss se domnívá, že model Mythos byl do zabezpečené sítě záměrně nasazen, což je podle něj zásadně odlišná situace od scénáře, kdy by se do ní dostal zvenčí.
„Jakmile jste uvnitř sítě, to už je ta jednodušší část. Nejtěžší je dostat se dovnitř zvenčí,“ podotýká pro Epoch Times.
Schloss uvedl, že během své dlouholeté práce s utajovanými kybernetickými systémy nikdy neslyšel o prolomení zařízení TACLANE. Pochybuje proto, že by umělá inteligence dokázala tento typ ochrany překonat a využít jej jako vstupní bod do zabezpečené sítě s tajnými informacemi.
Podobný názor zastává také Michael Lopez Chiesa, bývalý specialista americké armády na kybernetickou bezpečnost, který dnes působí jako nezávislý konzultant.
Podle něj je v kontextu projektu Glasswing mnohem pravděpodobnější, že byl model AI do zabezpečeného prostředí nasazen záměrně, aby bylo možné otestovat jeho schopnosti.
„V podstatě jsme jim dali klíče od království a pak jsme byli překvapeni, že našli hlavní vchod,“ poznamenává pro Epoch Times.
Senátor John Cornyn, který rovněž zasedá ve Výboru pro zpravodajské služby, 24. června uvedl, že chce prostřednictvím neveřejného bezpečnostního brífinku zjistit, co je na tvrzeních o modelu Mythos a pochybnostech odborníků skutečně pravdy.
Automatizace může útoky výrazně zefektivnit
Přestože odborníci pochybují o tom, že by modely umělé inteligence dokázaly samy pronikat do zabezpečených sítí nebo prolomit silně šifrované datové přenosy, jejich schopnost automatizovat a výrazně urychlit různé procesy může posílit jiné techniky, které útočníci používají ke krádeži citlivých informací nebo narušování systémů.
V únoru společnost Anthropic obvinila tři přední čínské vývojáře AI z pokusu využít její chatbot Claude k trénování vlastních modelů prostřednictvím takzvaného distilačního útoku.
Modely umělé inteligence mohou také urychlit takzvané útoky na dodavatelský řetězec.
Anthropic tvrdila, že společnosti DeepSeek, Moonshot AI a MiniMax použily 24 000 podvodně vytvořených účtů k odeslání více než 16 milionů dotazů chatbotu Claude. Výstupy z těchto dotazů pak podle společnosti mohly využít ke zdokonalování vlastních modelů.
Modely umělé inteligence mohou rovněž urychlit takzvané útoky na dodavatelský řetězec.
Při takovém útoku se útočník snaží nenápadně vložit zneužitelný úsek kódu do otevřeného softwarového projektu, který využívají i další vývojáři. Pokud je škodlivý kód přijat do sdílené databáze, může jej útočník později zneužít a obejít bezpečnostní opatření organizací, které tento software používají.
Aby byl takový útok úspěšný, musí škodlivý kód nejprve projít kontrolou a být přijat do otevřeného projektu. Podle Michaela Lopeze Chiesy může umělá inteligence celý proces automatizovat a opakovat tak dlouho, dokud některá z verzí kontrolou neprojde.
„Umělá inteligence vám umožní napsat jediný řádek kódu a vyzkoušet ho milionkrát v miliardě různých variant, protože prostě zkouší všechno možné,“ vysvětluje Lopez Chiesa pro Epoch Times.
„Nemusíte do toho vůbec zasahovat. Zadáte jí cíl a ona na něm bude pracovat, dokud nepřestane.“
Držet krok s vyvíjejícími se hrozbami
S rostoucími schopnostmi AI budou muset tvůrci politik i odborníci na kybernetickou bezpečnost průběžně přizpůsobovat své postupy novým hrozbám.
Branden McIntyre strávil řadu let budováním síťové infrastruktury ve společnostech Cisco a Rakuten. Dnes jako spoluzakladatel firmy Trussed.ai pomáhá organizacím zavádět nástroje, které kontrolují, jak modely AI pracují s citlivými daty a systémy.
V rozhovoru pro Epoch Times říká, že uživatelé často nemají přehled o tom, jaké informace do modelů umělé inteligence vstupují a jaké z nich odcházejí. Zároveň upozorňuje, že mnoho zaměstnanců využívá umělou inteligenci ke zrychlení své práce, aniž by dostatečně zvažovali, zda do těchto průběžně se učících modelů nezadávají citlivé údaje.
Podle McIntyrea se řada vývojářů snaží zavádět do svých modelů ochranné mechanismy, ty však samy o sobě nestačí.
„Většina modelů se soustředí na vlastní interní ochranné mechanismy, ale jejich úroveň je velmi nejednotná. Jedna společnost chrání jednu oblast, jiná jinou. Překryv mezi nimi je poměrně malý,“ uvádí McIntyre.
Organizacím proto doporučuje nasazovat také externí ochranné systémy, například řešení vyvíjená společností Trussed.ai. Ta fungují jako prostředník mezi citlivými daty organizace a modely umělé inteligence a řídí, jaké informace mohou do modelů vstupovat.
Varování aliance Five Eyes z 22. června zároveň obsahuje praktická doporučení, jak omezit rizika spojená s umělou inteligencí. Patří mezi ně omezení přístupu k citlivým systémům, rychlejší odstraňování bezpečnostních zranitelností nebo zavádění vícevrstvých obranných opatření v informačních systémech.
I když podle McIntyrea nejsou tato doporučení nová, tak upozorňují na skutečnost, že s nástupem AI se vše odehrává mnohem rychleji.
„Nemůžete už vycházet ze stejných předpokladů jako před pěti lety – například kdy je potřeba instalovat bezpečnostní záplaty nebo co ještě představuje zranitelnost a co už ne. Umělá inteligence dokáže otestovat všechno najednou a neuvěřitelně rychle, navíc v množství variant, jaké jsme dříve vůbec neměli k dispozici,“ zavírá.
–ete–
