Čínská společnost DeepSeek nedávno představila nový model umělé inteligence (AI) R1, jenž způsobil rozruch nejen mezi odborníky, ale i na globálním trhu. Podle experta na umělou inteligenci Stanislava Forta se tento čínský AI systém dokáže porovnávat s nejlepšími modely vyvíjenými na Západě, a to s nižšími náklady na trénink. Fort to uvedl v podcastovém rozhovoru pro Aktuálně.cz.
Proč R1 šokoval svět?
Dle Forta je DeepSeeku v současnosti věnovaná velká pozornost proto, že jde o jeden z nejlepších neamerických modelů AI na světě.
Model R1 je tzv. „přemýšlecí model“, specializovaný na řešení komplexních problémů prostřednictvím řetězců myšlenek. Stanislav Fort v rozhovoru popsal, že tento přístup umožňuje modelům provádět dlouhodobé „úvahy“, což je rozdíl oproti tradičním jazykovým modelům, které generují odpovědi bez možnosti podrobnějšího „uvažování“.
Kritický průlom v tomto směru byl podle něj možný díky technice, která umožňuje trénovat modely na synteticky generovaných datech obsahujících logické postupy. DeepSeek údajně vytvořil systém, který taková data automaticky generuje, což umožnilo výrazné zlepšení v jeho výkonosti.
R1 ukazuje přemýšlecí proces přímo v reálném čase, vysvětluje Fort. Tento aspekt je dle něj revoluční, protože ostatní západní modely často své vnitřní procesy skrývají.
Analogická situace ke Sputniku?
Dle Růžičky někteří přirovnávají tuto událost k vypuštění Sputniku v roce 1957, kdy Sovětský svaz předstihl Západ v kosmickém závodu a donutil Spojené státy přehodnotit svou strategii.
„R1 je v něčem takový wake-up call (budíček, pozn. red.) pro Západ,“ říká Fort. Na rozdíl od Sputniku Spojené státy v oblasti AI stále dominují a neustále vyvíjejí pokročilé modely, ale R1 dle Forta ukazuje, že Čína nyní dosahuje podobné úrovně efektivity, ale zároveň vnímá, že je potřeba výsledky DeepSeeku vnímat opatrně. Trh často reaguje na podobné události přehnaně, aniž by důkladně analyzoval skutečný dopad technologie. I kdyby byl R1 efektivnější, dle Forta to neznamená, že se západní modely nebudou zlepšovat.
Západ vede, ale stabilita není zaručena
Podle posledních zpráv a analýz je Západ a speciálně USA stále na špici v oblasti vývoje AI, nastínil současnou situaci host podcastu. Ty nejmodernější modely, včetně těch od OpenAI nebo DeepMind, pocházejí z amerických a evropských laboratoří. Překvapivé dle Forta přitom je, že ještě před šesti lety, po šoku způsobeném vítězstvím programu AlphaGo nad člověkem ve hře go, se zdálo, že by Čína mohla rychle převzít vedení. Realita však dle něj ukazuje, že největší bariérou pro Čínu je dostupnost špičkových grafických procesorů (GPU). Embargo na pokročilé čipy od západních společností výrazně limituje čínský vývoj AI.
„Dnes 100% Západ vyhrává… Na druhou stranu to není stabilní situace do budoucnosti,“ řekl odborník na dotaz moderátora s paralelou se závodem ve vyzbrojování. Jakmile se začne projevovat geopolitický vliv AI, je pravděpodobné, že Čína začne výrazněji soustředit své zdroje právě na tuto oblast, míní Fort.
Hrozby spojené s AI
Lidstvo dnes dominuje planetě díky svým kognitivním schopnostem. Pokud vytvoříme systémy, které nás v tomto směru výrazně předčí, ztratíme kontrolu nad budoucím vývojem světa, varuje před nebezpečím spojeným s vývojem sofistikovanějších modelů AI expert.
Rizika podle něj mohou mít různé podoby. Jednou z možných vizí je scénář, ve kterém většinu rozhodovacích procesů převezmou automatizované systémy, jež se začnou řídit vlastními cíli. Mohli bychom pak skončit v situaci, kdy AI rozhoduje o věcech, které už lidé nejsou schopni pochopit mimo naše zájmy, upozorňuje.
Další potenciální problém vidí ve zneužití AI, kdy by pokročilé modely mohly být například použity k masovým kyberútokům na kritickou infrastrukturu, což by mělo devastující důsledky pro napadené země.
„… už dnes ve světě, lidští hackeři jsou schopni hackovat naše lidské systémy běžně. Když si to představíme na umělé inteligenci postavené o hodně chytřejšími, rychlejšími a znalejšími hackery, kteří automaticky hackují naši infrastrukturu, tak to nezní úplně pozitivně pro budoucnost,“ dodal Fort.
Problémy s ochranou soukromí
Zatímco open-source model DeepSeek je průlomem v nákladově efektivním nasazení umělé inteligence, uživatelská aplikace DeepSeek přináší problémy v oblasti ochrany soukromí a zabezpečení a pro organizace se jedná o velkou výzvu, říká Daniel Šafář z kyberbezpečnostní společnosti Check Point Software Technologies.
Nejvíce alarmující podle Šafáře je, jak DeepSeek pracuje s daty. „Podle zásad ochrany osobních údajů DeepSeek jsou totiž všechny interakce uživatele, včetně promptů, nahraných souborů, historie chatu, hlasových vstupů, obrázků a dokonce i vzorců stisknutých kláves, přenášeny a ukládány na externí servery. Navíc DeepSeek si vyhrazuje právo kontrolovat veškerý obsah odeslaný uživateli.
Tak komplexní sběr dat je bezprostřední riziko. Získaná data mohou sloužit k trénování AI a citlivé firemní informace by mohly být začleněny do budoucích AI modelů. Uživatelský obsah může být sdílen s třetími stranami, včetně poskytovatelů služeb a firemních poboček. Pro organizace, které dodržují GDPR, HIPAA, CCPA nebo jiné regionální předpisy o ochraně osobních údajů, představuje tento způsob práce s daty hrozbu sankcí za nedodržení předpisů. Navíc omezení obsahu a cenzura určitých témat v DeepSeek mohou mít další vliv na provoz organizací,“ upozorňuje na nebezpečí Šafář.
