„Je to snadné. Nedá se tomu zabránit a možné je úplně všechno,“ komentoval využívání a zneužívání umělé inteligence videoherní designér, scenárista a režisér Daniel Vávra na konferenci Svoboda projevu a boj s dezinformacemi pořádané v Poslanecké sněmovně.
Konferenci pořádal poslanec Patrik Nacher (ANO) spolu s nevládními organizacemi. V sekci o problematice umělé inteligence vystupoval Vávra, Nacher, šéfredaktor Mladé fronty DNES Jaroslav Plesl, a Jan Macháček z Institutu pro politiku a společnost.
V minulosti se zneužívání technologií fotomontáže podle Vávry objevovaly už v éře komunismu, resp. Sovětského svazu, kdy je využíval stát ke své propagandě. Umělou inteligenci (AI) bude dnes podle Vávry opět zneužívat stát, tajné služby, technologické společnosti, dezinformátoři a podvodníci.
Ovlivňování voleb
„V minulosti se dezinformace používaly k ovlivňování voleb,“ řekl Vávra a dodal, že zneužívat se budou jak k ovlivňování jiných států, tak uvnitř státu.
AI podle jeho zkušeností regulovat nelze. „Doma si dnes můžete natrénovat vlastní umělou inteligenci. Prakticky kdokoliv si může vytvořit umělou inteligenci ve svém oboru s opensource programy,“ dodal s tím, že věci vytvořené nejpokročilejší AI nebude nikdo moci regulovat ani odhalit (rozpoznat od skutečných).
„Během několika minut se AI může naučit něčí hlas. Za krátkou dobu bude možné udělat video, kde bude vymodelovaná osoba pohybovat rty a mluvit tak, aby to vypadalo realisticky,“ sdělil Vávra a poukázal na to, že „už teď existují nástroje, jak někoho (podobnými úskoky) zdiskreditovat.“
Jan Macháček z Institutu pro politiku a společnost uvedl, že v minulosti došlo například k „ovlivňování voleb v roce 2020 v USA proti Donaldu Trumpovi,“ což je podle něj již spolehlivě doloženo. Jednalo se o zásahy zevnitř federace směrem k technologickým společnostem, ale také ze strany médií.
Na konferenci se hovořilo také o vykonstruovaném nařčení Donalda Trumpa ze spolupráce s Ruskem, což bylo využito ve volbách v USA v roce 2016. Operovala s ním FBI, CIA, političtí oponenti a v širokém záběru také média. Redaktoři deníků The New York Times a Washington Post za články o (již vyvrácené) spolupráci Trumpa s Ruskem dokonce dostali prestižní Pulitzerovu cenu. Během šetření zvláštního vyšetřovatele Johna Durhama vyšlo najevo, že obvinění bylo vykonstruované na zakázku Demokratické strany USA a volební kampaně Hillary Clintonové a postrádalo faktické základy.
Letošní volby v USA podle Macháčka ovlivní umělá inteligence. Zmínil již probíhající podvodné zasílání „dopisů a uskutečňování podvodných telefonátů“ prostřednictvím umělé inteligence.
„Nehájíme podvody a šíření dezinformací, ale svobodu slova – možnosti říkat názory. Nezavřou vás, ale dostanete nálepku a člověk je diskvalifikován z veřejné diskuse.“
— Patrik Nacher, poslanec
Nástup moderní umělé inteligence podle Macháčka způsobuje, že lidé nejsou schopni rozeznat texty AI od zpravodajských článků vytvářených člověkem. To podle něj může vést k tomu, že „lidé budou podezíravější. Bude upadat důvěra společnosti“.
Podvody, dezinformace a nálepkování
Poslanec Patrik Nacher připomněl případy zneužívání moderních technologií a umělé inteligence k podvodům, které podrobněji řešili experti na semináři, který pořádal v Poslanecké sněmovně.
V oblasti boje proti dezinformacím se podle poslance praktikují přístupy, které situaci ještě více zhoršují. „Marně říkám, že mi vadí, že dnes se názor, názorová věc, tím, že není mainstreamová, nějakým způsobem onálepkuje. Tím se nositel této informace stane podezřelým. Člověk dostává nějakou nálepku, a s tou nálepkou se diskuse můžete těžko zúčastnit,“ vysvětluje Nacher.
S nástupem moderních technologií a umělé inteligence bude podle Nachera hrozit také to, že budou zneužity k boji s „nepohodlnými názory“.
„Nehájíme podvody a šíření dezinformací, ale svobodu slova – možnosti říkat názory. Nezavřou vás, ale dostanete nálepku, a člověk je diskvalifikován z veřejné diskuse,“ vysvětloval nezdravé jevy poslanec. „Mít diskvalifikující nálepku není nic příjemného.“
Zmínil také nedávný případ, kdy projekt Demagog, který vystupuje jako „ověřovatel faktů“ sám udělal chyby při „kontrole názoru“ poslankyně Aleny Schilerové. „Někdo zkontroloval Demagoga, a zjistil, že se sám Demagog mýlí. Mají v kontextu nepřesnosti a nepravdy“. Tento takzvaný fact-checking bude podle poslance s nástupem technologií ještě horší.
Ohledně blokování lidí při vyjadřování názorů Vávra sdělil, že se nepostupuje směrem k „omezování tvůrce názorů“, ale „jeho přístup k veřejnosti“. V tomto směru probíhá podle Vávry „spousta zákulisních her znemožňujících někomu publikovat nějaké věci“.
Umělá inteligence
Navíc je AI jako Chat GPT „naprogramována tak, aby některé věci cenzurovala, a odpovídala na určité věci určitým způsobem,“ upozorňuje herní designér na to, že tvůrci AI ji programují s určitým záměrem. Jedna z komplexních studií ukázala „jasnou politickou zaujatost“ systému.
Poslanec Nacher také prohlásil, že platformy, jako je Facebook, „mažou názorové posty (názory), ale nesmažou podvodné posty (podvody)“. Konkrétně zmiňuje podvodně vykonstruovaná videa, která vypadají, jako by on sám nebo prezident Pavel či Karel Gott a další nabízeli nějaké finanční služby.
Další potíže způsobuje omezenost samotné umělé inteligence. Například došlo k „zablokování účtu jednoho uživatele za publikování reálné fotky papeže líbajícího jezulátko, protože byla označena za pedofilii“.
„AI vyhodnocuje věci a dochází k chybným závěrům. Když například rodiče na sociální síti postovali fotografie svých dětí, jak se na dovolené koupaly, jejich fotky byly vyhodnoceny jako pedofilie,“ uvádí další příklad Vávra.
V boji s dezinformacemi, které někoho reálně poškozují, vydávání regulací podle Vávry „nic nevyřeší“. „Je třeba, aby soudní systém fungoval, aby se poškození mohli domoci spravedlnosti a odškodnění a pachatelé byli spravedlivě potrestáni a příště si dali pozor,“ míní Vávra.
Regulace podle něho zasáhnou všechny a použití AI bude způsobovat další nedorozumění a potíže. Uvedl příklad, kdy v rámci boje proti prodávání zbraní na sociálních platformách byl smazán účet jedné mamince, která nabízela k prodeji svým známým rifle. Umělá inteligence vyhodnotila, že se jedná o prodej zbraní, protože v angličtině slovo „rifle“ znamená „puška“.
