Světové ekonomické fórum (WEF) vydalo výroční zprávu o globálních rizicích. Kromě ozbrojených konfliktů mezi státy a enviromentálních problémů považuje za hlavní akutní hrozby také dezinformace.
Globální zpráva o rizicích je každoroční publikace WEF, která analyzuje nejpalčivější globální rizika, jimž čelí ekonomiky a společnosti. Letošní zpráva je již dvacátá v pořadí.
Dokument vychází z poznatků více než 900 odborníků a lídrů v oblasti byznysu, vládního i akademického sektoru, mezinárodních organizací a občanské společnosti, píše se ve zprávě. Zpráva pojímá vnímaná rizika v různých časových horizontech, přičemž se zaměřuje na jejich potenciální dopady na globální stabilitu.
Zatímco ekonomické obavy v posledních letech ustupují do pozadí, nahradila je jiná vnímaná ohrožení. Ozbrojené konflikty mezi státy označila za nejvážnější problém pro nadcházející rok téměř jedna čtvrtina respondentů. Na druhém místě se ocitl výskyt extrémního počasí, poté následovaly dezinformace.
V krátkodobém horizontu, tj. v období dvou let, však dezinformace kralují mezi největšími riziky.
Nepravdivé a zavádějící informace zůstávají mezi hlavními krátkodobými riziky již druhý rok po sobě. Podle zprávy WEF jsou „přetrvávající hrozbu pro společenskou soudržnost a správu věcí veřejných“ tím, že „narušují důvěru a prohlubují rozdíly v rámci národů a mezi nimi“.
Dezinformace poháněné AI
Největším rizikem pro rok 2027 jsou podle respondentů průzkumu dezinformace. Podle zprávy je čím dál obtížnější rozlišovat mezi dezinformacemi vytvořenými umělou inteligencí (AI) a lidmi.
Nástroje umělé inteligence umožňují šíření takových informací ve formě videa, obrázků, hlasu nebo textu. Mezi přední tvůrce nepravdivého nebo zavádějícího obsahu patří v některých zemích státní aktéři, podotýká WEF, aniž by tyto země konkretizovala.
Organizace se domnívá, že modely AI mohou přispívat k polarizaci společnosti. Algoritmické zkreslení by se podle ní mohlo stát běžnějším kvůli politické a společenské polarizaci a souvisejícím dezinformacím.
„Rostoucí využívání digitálních platforem a rostoucí objem obsahu generovaného umělou inteligencí činí rozdělující zavádějící informace a dezinformace všudypřítomnější,“ konstatují autoři zprávy.
Celkově vzato hrozí tento vývoj zásadním podkopáním důvěry jednotlivců v informace a instituce, uvádí.
Mark Zuckerberg, šéf společnosti Meta, pod kterou spadá Facebook, Instagram a další platformy, letos v lednu ve svém proslovu oznámil, že ruší cenzuru na těchto platformách a propustí tzv. ověřovatele faktů (fact-checkers), kteří se podle něj „stali příliš politicky zaujatými a zničili více důvěry, než kolik jí vytvořili“. Facebook v minulosti aktivně cenzuroval kritické názory k citlivým tématům jako transgender, klimatická změna, lockdowny, Trump a další.
V hledáčku digitálních technologií
WEF varuje, že hlubší digitalizace může usnadnit vládám, společnostem a dalším aktérům dohled nad jednotlivci i společností. Na internetu jsou podle organizace odhadem dvě třetiny světové populace a digitální stopa průměrného občana se neustále zvyšuje i díky zavádění moderních technologií jako všudypřítomné senzory, elektrická vozidla, bezpečnostní kamery či biometrické skenování. Všechna tato zařízení jsou připojena k internetu.
Navzdory souvisejícím rizikům je třeba najít rovnováhu mezi soukromím na jedné straně a zvýšenou online personalizací a pohodlím na straně druhé, míní Světové ekonomické fórum. Zatímco správa a regulace dat se po celém světě liší, pro občany je stále snazší být monitorován, což vládám, technologickým společnostem a zlým aktérům umožňuje hlouběji proniknout do života lidí.
To se může projevit nejenom kybernetickými útoky zaměřenými na hmotné zisky, ale také pokusy hackerů o šíření dezinformačních kampaní pomocí automatických nástrojů využívajících umělou inteligenci. Algoritmy, zejména složité modely strojového učení, mohou být také vstupním bodem pro kybernetické útoky využívající dezinformace, podotýká WEF.
Příkladem může být útok strukturovaného dotazovacího jazyka, ve kterém jsou vstupy manipulovány tak, aby generovaly nesprávné výsledky nebo kompromitovaly trénovací datové sady. Díky tomu lze výrazně zvýšit dosah a dopad dezinformací.
„Výsledkem je, že je stále těžší vědět, kam se obrátit pro pravdivé informace. Politická i společenská polarizace ovlivňuje narativy a zkresluje fakta, což přispívá k nízké a klesající důvěře v média. Ve vzorku 47 zemí pouze 40 % respondentů uvedlo, že důvěřuje většině zpráv,“ uvádí se ve zprávě.
Jak se bránit
WEF jako řešení nabízí používat modely umělé inteligence, které minimalizují zaujatost a zmírňují nezamýšlené důsledky při vytváření a distribuci obsahu. Podle organizace už taková technická řešení v podobě automatizovaných algoritmů existují. Problém je jejich „konzistentní aplikace“, poukazuje zpráva.
Kromě toho navrhuje zřídit dohledové orgány nad AI, které by braly v potaz různé pohledy od technologů, etiků, právních expertů, tvůrců a dalších, aby produkty AI a jejich funkce efektivně posuzovaly.
Také firmy vyvíjející umělou inteligenci by měly prokázat větší transparentnost a informovat spotřebitele o obsahu generovaném umělou inteligencí a jeho používání „prostřednictvím vhodného označování a publikace“, radí autoři zprávy.
Vzdělávání veřejnosti a šíření informací o rizicích spojených s digitálními prostory má podle WEF největší potenciál pro snižování rizik a získání důvěry občanů. Těm je třeba také poukazovat na hrozbu cenzury a sledování, nejlépe formou informačních kampaní, kde budou poučeni, jak si nastavit soukromí a zabezpečení svých zařízení včetně dvoufaktorového ověřování a oprávnění aplikací. Veřejnost je rovněž potřeba učit, jak rozpoznat pokusy o phishing, jak si chránit osobní údaje a bezpečně brouzdat po sociálních sítích, doporučuje organizace.
