Komentář
Tolik vychvalovaný kalifornský zákon o bezpečnosti AI SB 1047, považovaný za nejpřísnější v USA, byl kalifornským guvernérem vetován. Drobné kroky při řešení některých aktuálních problémů v oblasti regulace AI jsou lepší než velké skoky. Jedním z takových kroků by bylo nařídit sledovatelnost dat. Kalifornie by se v této oblasti měla ujmout vedení, stejně jako to udělala v oblasti ochrany osobních údajů.
Dezinformace hrají ve válce na Ukrajině velkou roli. Problém se ještě znásobil s nástupem generativní umělé inteligence (AI). Videa vytvářená deep fake technologií jsou velkým problémem. Vlády přirozeně chtějí bojovat proti dezinformacím a podvodům. Povinná sledovatelnost dat, nazývaná také provenience, je důležitým krokem tímto směrem a představuje komplexnější řešení než pouhý požadavek na vodoznaky v metadatech fotografií generovaných umělou inteligencí, jak navrhuje zákon AB 3211 státu Kalifornie, který některé společnosti podporují.
Data jsou novou naftou, která pohání značné množství strojů v našem každodenním životě, zejména v podobě umělé inteligence. Je proto důležité, aby byla zachována integrita dat. Faktor sledovatelnosti, který zajišťuje původ dat, je důležitým aspektem integrity. Může pomoci při odhalování anomálií a chyb v datech, stejně jako dohledatelnost peněz může pomoci s integritou ekonomiky.
Provenience pomáhá vytvářet důvěru v digitální položky nalezené online. Existují určité náznaky, že provenience je účinná při snižování zranitelnosti uživatelů vůči dezinformacím. Jedná se o důležité etické opatření, které brání zneužití digitálních položek, jako jsou například fotografie. Provenience by měla zahrnovat zdokumentování metody použité pro generování dat. Povinnost uchovávat spolu s daty jejich původ, transformace a kontext těchto transformací pravděpodobně omezí úmyslné vytváření a používání falešného obsahu, jako jsou například hluboké podvrhy (deep fakes) používané v podvodech.
Stal jsem se obětí dezinformace více způsoby a vícekrát, například na anonymních webových stránkách. Ačkoli většina recenzí o mé výuce na webu RateMyProfessors.com je pozitivní, těch několik nepravd přesto bolí. V důsledných výzkumných studiích bylo prokázáno, že anonymní webové stránky, jako je RateMyProfessors.com, jsou nepřesné a neobjektivní. Přesto webová stránka prohlašuje: ,,Zákon chrání Rate My Professors před právní odpovědností za obsah předložený našimi uživateli.“ Není jasné, zda pravidlo Federální obchodní komise zakazující falešné recenze bude mít na webové stránky nějaký dopad, ale povinné prokazování původu údajů by mohlo.
Jak uvádí výzkum, na těchto webových stránkách „není zaručeno, že ‚studentský recenzent‘ je vůbec studentem“, což znamená, že chybí průkaznost, a informace na nich jsou „nevhodné pro použití v rozhodovacím procesu“. Přesto je mnoho studentů pro rozhodování používá a zdá se, že vláda s tím nechce nic dělat – dokud snad někdo nezaloží webovou stránku ve stylu „ohodnoťte mého zákonodárce“ nebo se podobné názorové články nezmění.
Vynucování sledovatelnosti informací na webových stránkách sice neodstraní dezinformace, ale může je účinně omezit. Na sociálních sítích přibývá podvodů zaměřených na mladé dospělé. Minimálně jeden, se kterým jsem se setkal, jsem nahlásil na Facebooku, ale bezvýsledně. Moderátoři obsahu se nedomnívali, že jde o pokus o podvod, pravděpodobně proto, že konverzace na messengeru Facebooku probíhala v nářečí. Takovéto pokusy o podvod lze alespoň částečně přičíst nedostatečné sledovatelnosti.
Existují i další pádné důvody, proč nařídit prokazování původu dat. Je označována za „tajnou zbraň“ na ochranu podniků před podvody a slibuje nový začátek v oblasti kybernetické bezpečnosti. Usnadňuje vyšetřování narušení bezpečnosti dat a zužuje okruh konkrétních informací, které byly porušeny. Velkou diskusi s nástupem generativní umělé inteligence vyvolávají autorská práva. Linie dat může stanovit vlastnictví a pomoci řešit spory kolem duševního vlastnictví. Je samozřejmě skvělým zdrojem při forenzní analýze.
Sledování původu, pohybu a transformace může umožnit posouzení případných zkreslení údajů a poskytnout údaje o spolehlivosti. Možnost šíření je důležitá v mnoha výzkumných a rozhodovacích sestavách. Provenience dat částečně zajišťuje reprodukovatelnost experimentů, rozhodovacího procesu a může pomoci při obnově dat ztracených v důsledku různých katastrof.
Provenience je pro datový ekosystém v době generativní umělé inteligence zásadní. Její zavedení zvýší spolehlivost, odpovědnost a důvěryhodnost dat, systémů na nich postavených a z nich odvozených rozhodnutí. Dobrou zprávou je, že technická komunita si stále více uvědomuje význam provenience dat a účinně pracuje na jejím zajištění prostřednictvím standardů, iniciativ a technologií, jako je Data Fabric. Je načase, aby se její nezbytnost dostala do pozornosti zákonodárců. Do té doby by se průmyslová odvětví měla dobrovolně ujmout vedení.
Vyjádřené názory jsou názory Vishnua a nejsou názory jeho zaměstnavatele nebo jiného subjektu, se kterým je spojen.
Názory vyjádřené v tomto článku jsou názory autora a nemusí nutně odrážet názory Epoch Times.
–ete–
