Na druhé straně Atlantiku se odborníkovi ze Stanfordovy univerzity dostalo výsměchu, když pro tématiku deep-fake předložil znalecký posudek odkazující na neexistující zdroje. Protistrana, s níž se pře o zavedení nové legislativy, tvrdí, že jeho argumenty byly zřejmě vytvořeny softwarem umělé inteligence, jako je ChatGPT.
Webové stránky Minesota reformer nedávno zveřejnily příběh o tom, co se stalo, když profesor Jeff Hancock, zakladatel a ředitel Stanford Social Media Lab, na žádost minnesotského vrchního státního zástupce Keitha Ellisona předložil místopřísežné prohlášení na podporu nové legislativy, která zakazuje používání takzvaných „deep fake“ technologií k ovlivňování voleb.
Zákon byl podle magazínu napaden u federálního soudu konzervativním youtuberem a republikánskou státní kongresmankou Mary Fransonovou z Alexandrie pro porušení prvního dodatku americké ústavy o ochraně svobody projevu.
Hancockovo odborné prohlášení na podporu zákona o deep fake cituje řadu akademických prací. „Některé z těchto zdrojů však podle všeho neexistují a právníci, kteří zákon napadají, tvrdí, že je zřejmě vytvořil software umělé inteligence, jako je ChatGPT,“ píše Minesota reformer.
Prohlášení například cituje studii s názvem “The Influence of Deepfake Videos on Political Attitudes and Behavior,” a uvádí, že byla publikována v časopise Journal of Information Technology & Politics v roce 2023.
„V tomto časopise se však žádná studie s tímto názvem nevyskytuje; akademické databáze nemají žádný záznam o její existenci a konkrétní stránky časopisu, na které se odkazuje, obsahují dva zcela odlišné články,“ uvádí minesotský magazín.
„Citace nese znaky ‚halucinace‘ umělé inteligence, což naznačuje, že přinejmenším citace byla vygenerována velkým jazykovým modelem, jako je ChatGPT,“ píší právní zástupci žalobců. „Žalobci nevědí, jak se tato halucinace ocitla v Hancockově prohlášení, ale zpochybňuje celý dokument.“
Samostatně profesor libertariánského práva Eugene Volokh zjistil, že další citace v Hancockově prohlášení, na studii údajně nazvanou „Deepfakes and the Illusion of Authenticity: Kognitivní procesy, které stojí za přijímáním dezinformací“, podle všeho neexistuje.
Hancock ani Stanford Social Media Lab podle minesotského magazínu neodpověděly na opakované žádosti o komentář.
Zastánci zákona zakazujícího „deep faky“ argumentují tím, že „na rozdíl od jiných projevů na internetu nelze obsahu generovanému umělou inteligencí čelit kontrolou faktů a vzděláváním“.
Právník protistrany však míní, že „tím, že na výmysly generované umělou inteligencí upozorňujeme soud, ukazujeme, že nejlepším prostředkem proti falešným projevům zůstává pravdivý projev – nikoli cenzura“, řekl s odkazem na smyšlené citace v Hancockově prohlášení.
