Hlasové modely jako ChatGPT vědí (téměř) vše, ale to neznamená, že jsou neutrální. Britští výzkumníci nedávno identifikovali silné politické předsudky u lídra trhu a uvádějí možné příčiny.
Podle nové studie Východoanglické univerzity má platforma umělé inteligence ChatGPT „významné a systematické levicové zkreslení“. Tým výzkumníků z Velké Británie a Brazílie vyvinul novou přísnou metodu testování politické zaujatosti.
Výsledky zveřejněné v polovině srpna v časopise Public Choice ukazují, že odpovědi ChatGPT upřednostňují demokraty v USA, Labouristickou stranu ve Spojeném království a prezidenta Lulu da Silvu (Dělnická strana) v Brazílii.
Pravděpodobný vliv na uživatele
Obavy ze zabudované politické zaujatosti v ChatGPT byly vyjádřeny již dříve. Podle agentury se však jedná o první rozsáhlou studii s konzistentní analýzou založenou na důkazech.
„Vzhledem k tomu, že veřejnost stále častěji využívá systémy řízené umělou inteligencí ke zjišťování faktů a vytváření nového obsahu, je důležité, aby výsledky z populárních platforem, jako je ChatGPT, byly co možná nejobjektivnější,“ vysvětlil potřebu studie její hlavní autor, dr. Fabio Motoki.
Dále uvedl: „Přítomnost politické zaujatosti může ovlivnit názory uživatelů a má potenciální důsledky pro politické a volební procesy. Naše zjištění posilují obavy, že systémy umělé inteligence mohou kopírovat nebo dokonce zhoršovat stávající problémy, které představuje internet a sociální média.“
100 000 otázek na ChatGPT
Výzkumníci použili jako měřítko odpovědi samotný ChatGPT. Na jedné straně požádali platformu, aby předstírala, že je osobou určitého politického přesvědčení, a aby v této roli odpověděla na sérii více než 60 ideologických otázek. ChatGPT se měla mimo jiné vžít do role amerického demokrata, amerického republikána, příznivce současného a bývalého brazilského prezidenta Luly da Silvy a Bolsonara a britských labouristů a toryů.
Na druhé straně položili platformě – aniž by jí předem přidělili konkrétní roli – stejné otázky, aby získali „neutrální“ postoj. Výzkumníci pak měřili, do jaké míry byly standardní odpovědi ChatGPT spojeny s konkrétním politickým postojem.
Kromě toho výzkumníci požádali jazykový model, aby reprezentoval radikální politické postoje a také příslušníky šesti různých profesí, o nichž je známo, že upřednostňují určité politické postoje. V dalším testu položili různým osobnostem ChatGPT politicky neutrální otázky.
Vzhledem k tomu, že odpovědi velkých jazykových modelů, které řídí platformy umělé inteligence, jako je ChatGPT, podléhají výrazné náhodnosti, byla každá otázka položena každé osobnosti 100krát a různé odpovědi byly shromážděny. Aby se dále zvýšila spolehlivost závěrů vyvozených z vygenerovaného textu, byly odpovědi opět kombinovány ve střídavých vzorcích a teprve poté analyzovány.
Předsudky se nemusí omezovat pouze na politiku
„Tento postup jsme vyvinuli proto, že jedno kolo testování nestačí,“ říká spoluautor Victor Rodrigues. „Vzhledem k náhodnosti modelu se i v případě, že odpovědi ChatGPT představovaly demokrata, někdy přiklonily na pravou stranu politického spektra.“
„Doufáme, že naše metoda pomůže kontrolovat a regulovat tyto rychle se vyvíjející technologie,“ dodává doktor Pinho Neto. „Tím, že umožníme odhalení a nápravu [zaujatosti], chceme podpořit transparentnost, odpovědnost a důvěru veřejnosti v tuto technologii.“
„Nový unikátní analytický nástroj vyvinutý v rámci projektu je volně dostupný a relativně snadno použitelný pro veřejnost, což demokratizuje dohled,“ říká dr. Motoki. Nástroj lze testovat nejen na politickou zaujatost, ale lze jej použít i k měření jiných typů zaujatosti v odpovědích ChatGPT.
ChatGPT levicový až radikálně-levicový
Ačkoli cílem výzkumného projektu nebylo identifikovat příčiny politické zaujatosti, výsledky ukázaly na dvě možné příčiny:
První z nich byl tréninkový soubor dat, který „mohl obsahovat zkreslení“ nebo byl přidán lidskými vývojáři. Dřívější výzkum Epoch Times odhalil, že ChatGPT byl trénován mimo jiné na zpravodajských webech, jako jsou CNN, BBC a New York Times, a také na online encyklopediích, jako je Wikipedia.
Druhým potenciálním zdrojem je samotný algoritmus, který může zesilovat existující předsudky v tréninkových datech, uvedli výzkumníci. Jejich publikace vychází z výzkumu provedeného na jaře 2023 s použitím verze 3.5 ChatGPT a otázek vyvinutých společností The Political Compass.
Ta zahrnuje hodnocení, zda je daná osoba v ekonomickém spektru spíše nalevo nebo napravo, a také, zda je autoritářská (v horní části grafu), nebo libertariánská (v dolní části). Výsledkem jsou čtyři možné osobnosti, z nichž každá je přiřazena k historické osobnosti: Stalin (autoritářská levice), Winston Churchill (autoritářská pravice), Mahátma Gándhí (libertariánská levice) a Friedrich Hayek (libertariánská pravice).
Z původního článku německé redakce deníku The Epoch Times přeložila Gabriela Kalinová.
