Průkopnický rámec přichází v době rostoucích obav z destruktivního potenciálu umělé inteligence.
Politici Evropské unie v pátek uzavřeli historickou dohodu a dokončili zákon o umělé inteligenci (AI Act), první rozsáhlou regulaci umělé inteligence na světě.
Tento přelomový právní předpis zavádí komplexní regulační rámec, který řeší rizika spojená s rychlým vývojem technologie umělé inteligence.
Rámec, navržený na rok 2021, klasifikuje využití umělé inteligence podle úrovně rizika a zavádí přísnější regulaci pro aplikace s vyšším rizikem.
Roberta Metsolaová, předsedkyně Evropského parlamentu, charakterizovala zákon jako „vyvážený a na člověka zaměřený přístup“, který je připraven „bezpochyby určovat globální standard pro nadcházející roky“.
Zákon přichází v době rostoucích obav z narušujících schopností umělé inteligence. Poté, co byl zákon schválen EU, půjde ke schválení do Evropského parlamentu, kde se očekává, že rovněž projde.
Nový zákon zakazuje škodlivé praktiky umělé inteligence, které jsou považovány za „jasnou hrozbu pro bezpečnost, živobytí a práva lidí“.
Zavádí přístup hodnotící rizika a zakazuje nejrizikovější aplikace umělé inteligence, včetně těch, které využívají specifické zranitelné skupiny, biometrie pro účely vymáhání práva a nasazení manipulativních „podprahových technik“.
Rozpoznávání obličeje ze strany orgánů činných v trestním řízení a vlád bude podléhat přísným omezením s možnými pokutami až do výše 7 % celosvětových tržeb pro společnosti, které je poruší.
Na ty systémy umělé inteligence, které představují pouze „omezené riziko“, se budou vztahovat velmi mírné povinnosti transparentnosti. Novým povinnostem transparentnosti budou podléhat např. chatboty, jako je ChatGPT společnosti OpenAI, nebo technologie, které generují obrázky, zvukový nebo video obsah.
Evropský komisař Thierry Breton přivítal dohodu jako „historickou“ a zdůraznil její význam coby prvního souboru jasných pravidel pro používání umělé inteligence na kontinentu.
„EU se stává vůbec prvním kontinentem, který stanoví jasná pravidla pro používání AI. #AIAct je mnohem víc než jen soubor pravidel – je to startovní můstek pro startupy a výzkumné pracovníky z EU, kteří se stanou lídry globálního závodu v oblasti AI. To nejlepší teprve přijde!“ napsal na platformu X, dříve známou jako Twitter.
Pravidla vstoupí v platnost nejdříve v roce 2025, což dává prostor pro technologický vývoj.
Vzestup generativních technologií umělé inteligence, jako je chatbot ChatGPT společnosti OpenAI z listopadu 2022, katapultoval umělou inteligenci do hlavního proudu.
Kromě velkých technologických společností (Big Tech) se dopad umělé inteligence projevuje v různých odvětvích – pedagogové, umělci, hudebníci a média se potýkají s problémy a kontroverzemi spojenými s jejím rozsáhlým zaváděním.
Koncem října podepsal prezident Joe Biden exekutivní nařízení na podporu odpovědného rozvoje umělé inteligence a zároveň na ochranu veřejnosti před nebezpečím, které představuje.
„Abychom naplnili příslib umělé inteligence a vyhnuli se rizikům, musíme tuto technologii řídit. A podle mého názoru není jiné cesty,“ řekl prezident Biden před podpisem nařízení v Bílém domě.
Nařízení podle Bílého domu zavádí nové standardy pro umělou inteligenci v oblasti bezpečnosti, ochrany soukromí, spravedlnosti a občanských práv s cílem podpořit inovace, hospodářskou soutěž a vedoucí postavení USA v této oblasti.
V květnu vydali vedoucí představitelé technologického průmyslu v otevřeném dopise varování před potenciální existenční hrozbou, kterou představuje jejich vývoj umělé inteligence, a přirovnali rizika k pandemiím a jaderným zbraním.
„Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou vedle jiných rizik celospolečenského rozsahu, jako jsou pandemie a jaderná válka,“ uvádí se v prohlášení neziskové organizace Center for AI Safety.
Otevřený dopis podepsalo více než 350 vedoucích pracovníků, výzkumníků a politiků, včetně Sama Altmana, generálního ředitele společnosti OpenAI, Demise Hassabise, generálního ředitele společnosti Google DeepMind či Billa Gatese.
Nemenší obavy ze zavádění umělé inteligence vyjadřují herci, spisovatelé, umělci a hudebníci. Umělá inteligence v Hollywoodu byla klíčovým problémem během stávky herců, která trvala více než 100 dní.
Baz Luhrmann, režisér filmu Elvis, nedávno opatrně vyjádřil pozitivní názor na roli umělé inteligence v umění, ale poznamenal, že „skutečná kreativita“ pochází z „lidské součinnosti“.
„Myslím, že ve všech oborech musíme určitě dohnat, co se týče správného řízení a pochopení AI,“ uvedl.
„V žádném případě nechci, aby mě někdo špatně interpretoval, jde jen o to, že pokud jde o mou vlastní tvůrčí cestu a umělou inteligenci, může být k určitým věcem užitečná,“ podotkl.
„To, co umělá inteligence pravděpodobně může při psaní udělat, je poskytnout vám standardní strukturu nebo formu, ale skutečná kreativita, ta lidská část, emocionální část, ta část, která je poněkud nedefinovatelná a která není mechanická, myslím, že v nejlepším případě, nebo v nejhorším případě, vám může ušetřit čas jen tím, že věci uspořádá,“ dodal.
Stávka Sdružení amerických scenáristů, která skončila v září, zavedla pravidla pro používání umělé inteligence v Hollywoodu. Materiál vytvořený umělou inteligencí se podle směrnice MBA, kterou se řídí zmiňované sdružení, nepovažuje za zdrojový materiál, což zaručuje, že neovlivní autorské tituly ani práva scenáristů. Scenáristé mohou umělou inteligenci používat se souhlasem společnosti a v souladu s jejími pravidly.
Článek původně vyšel na stránkách americké redakce Epoch Times.
