Narazit na internetu na robota neboli „bota“ je dnes stejně běžné jako narazit venku na pejskaře. Přestože z botů se stala normální součást sítě, uživatelé se dostali do bodu zlomu, kdy stále větší počet lidí ztrácí schopnost rozlišit mezi roboty a lidmi.

Je to scénář, na který vývojáři upozorňovali roky, a je snadné pochopit proč. Nedávná studie dospěla k závěru, že 47 procent veškerého internetového provozu nyní tvoří obsah generovaný roboty. Mezi roky 2022 a 2021 jde o nárůst o více než pět procent. Lidská aktivita na internetu přitom právě dosáhla nejnižšího bodu za posledních osm let.

Ve spojení s pokroky v lidské komunikaci řízené umělou inteligencí (AI) téměř třetina uživatelů internetu nedokáže rozeznat, zda se baví s živou bytostí. V dubnu proběhla přelomová studie s názvem „Člověk, nebo ne?“. Byla spuštěna, aby zjistila, zda lidé dokážou identifikovat, zda mluví s jinou osobou nebo s AI chatbotem.

O více než dva miliony dobrovolníků a 15 milionů konverzací později odpovědělo 32 procent účastníků nesprávně. Malý rozdíl byl také ve výsledcích podle věkových kategorií. Senioři a mladší dospělí měli podobně velké problémy při rozeznávání toho, kdo nebo co se nachází na druhé straně rozhovoru.

Sečteno a podtrženo: Zatímco superrealističtí roboti ovládli téměř polovinu internetu, stále větší počet lidí to ani nedokáže určit. Tento historický průsečík rychle se vyvíjející technologie a klesajícího vnímání v obecné populaci již způsobuje problémy v reálném světě.

Falešné recenze

„Rozostření mezi robotem a člověkem je jako kouzelný trik… Jak jsou roboti chytřejší, riskujeme ztrátu důvěry v online interakce,“ řekl pro The Epoch Times Daniel Cooper, IT vývojář a řídící partner ve společnosti Lolly. Poznamenal, že transparentnost firmy a webových stránek je klíčem k důvěře lidí v online kontakt. Naštěstí zatím neexistuje žádná náhrada za starý dobrý lidský instinkt.

„Odhalit roboty je jako najít Walda v davu. Hledejte opakující se vzorce, nedostatek personalizace nebo rychlé reakce. Také důvěřujte svému nitru. Pokud se vám to nezdá, mohl by to být (bot),“ radí expert.

Zatímco velká část diskusí o škodlivém nebo špatném botovém provozu se soustřeďuje na sociální média, vliv nekalých interakcí s AI má mnohem dalekosáhlejší důsledky. Důvěra spotřebitelů ve čtení online recenzí na produkt nebo službu je problematická již léta, ale zdá se, že dosáhla nových rozměrů.

Zprávy o AI jazykových modelech, které zanechávají recenze na produkty na webech, jako je Amazon, se objevily letos v dubnu. Recenze botů bylo snadné identifikovat, protože chatbot doslova řekl čtenářům, že jde o jazykový AI model už v první větě.

Ovšem ne každého bota, který se vydává za člověka, je tak snadné odhalit. V důsledku toho byly velké společnosti a vyhledávače jako Google sužovány prudkým nárůstem falešných recenzí.

Amazon podal minulý rok žalobu na falešné recenzenty na Facebooku a Google musel odstranit 115 milionů padělaných hodnocení. To je znepokojivé vzhledem k počtu lidí, kteří se spoléhají na recenze produktů. Jeden průzkum z roku 2023 zaznamenal, že online recenze zohlednilo při rozhodování o nákupu 93 procent uživatelů internetu.

„Větší účast botů by skutečně mohla otevřít stavidla pro online podvody,“ míní Cooper. Vlastně se zdá, že tyto brány už otevřené jsou.

Liška v kurníku

Zapojení zlých botů se od loňského roku zvýšilo o 102 procent a může zcela předstihnout obsah vytvářený lidmi. Jenže to bylo v roce 2016 a problematickým se to stalo zejména během prezidentských voleb v USA. Od té doby se obsah generovaný umělou inteligencí stal sofistikovanějším a vývojáři říkají, že lidé musí být připraveni na další nárůst robotů v roce 2024.

A protože stále větší počet lidí nedokáže rozlišit mezi botem a člověkem, online podvodníci zde získávají významnou výhodu. „Potíže s rozlišením mezi roboty a skutečnými lidmi se pravděpodobně zhorší s rozvojem této technologie, což poškodí uživatele internetu. Možnost zneužití zloduchy je velkým problémem,“ uvedl pro The Epoch Times Vikas Kaushik, generální ředitel firmy TechAhead.

Podle něj se lidé mohou bez schopnosti identifikovat roboty snadno dostat k dezinformacím a stát se obětí phishingových podvodů. Navíc často není zřejmé, že jde o digitální podvodníky.

Výzkumník v oblasti technické bezpečnosti Kai Greshake v březnu řekl pro Vice, že hackeři by mohli přelstít AI chatbota od Bingu, aby od uživatelů požadoval osobní údaje pomocí skrytých textových výzev.

„Jako člen tohoto odvětví vidím, že se to rozvine ve vážný problém,“ řekl Kaushik a dodal: „Aby se vytvořily komplexnější detekční techniky a vytvořily se otevřené standardy pro rozpoznávání robotů, je třeba spolupráce vývojářů a akademiků.“ Kaushik věří, že vzdělávací a osvětové kampaně pomohou, aby byla veřejnost obezřetnější a sebevědomější při „online konverzaci s cizími lidmi“.

Cooper s tím souhlasí. „Záměna mezi boty a lidmi by mohla vést k nedorozuměním, nedůvěře a zneužití osobních údajů. Je to jako chatovat s papouškem a myslet si, že je to člověk – zábavné, dokud nezopakuje vaše tajemství.“

Nárůst zapojení botů přirovnává k pozvání lišky do kurníku. „Musíme být ostražití a proaktivní v naší obraně.“

Jak se bránit

Pro někoho je řešení jednoduché. Stačí se odpojit od digitálního světa. Je to sentiment sdílený často spolu s představami o odchodu ze sítě a touhou po dnech, kdy se „teorie mrtvého internetu“ zdála mnohem méně pravděpodobná. Ale pro mnohé to není reálné.

Pak jsou tu ti, kdo se snaží najít rovnováhu mezi online světem, včetně sociálních médií, a tím skutečným. Láska a nenávist k sociálním sítím, zejména Facebooku a X (bývalý Twitter), vyvolává u milionů lidí úzkosti, hněv a deprese.

Navzdory letošnímu nárůstu používání sociálních médií se zhruba dvě třetiny Američanů domnívají, že platformy mají primárně negativní vliv na život. A nárůst botů jen přilévá olej do ohně. Dát si odstup od sociálních médií a jejich zástupů botů má své opodstatnění.

Výsledky studie z roku 2022 zaznamenaly, že účastníci, kteří si dali týdenní přestávku od sociálních platforem, zaznamenali zlepšení úzkosti, deprese a celkového pocitu pohody. Jak se každodenní interakce lidstva neustále přesouvají z fyzického na virtuální, lidé se stávají stále čím dál závislejšími na webu. Nabízí se tedy otázka: Mohou si lidé znovu vzít internet pro sebe a roboty vytlačit?

Někteří znalci se domnívají, že to možné je. A začíná to tím, že se lidem pomáhá, jak rozpoznat, s kým mají tu čest. „Existuje několik strategií, které mohou uživatelé použít k rozpoznání robotů,“ řekl deníku The Epoch Times Zachary Kann, zakladatel Smart Geek Home.

Ze svých zkušeností profesionála v oblasti síťové bezpečnosti ví, že existují metody, které může uživatel použít k určení, zda komunikuje s jinou osobou nebo botem. Stejně jako Cooper doporučuje pečlivě sledovat vzorce reakcí.

„Boti často reagují okamžitě a mohou používat opakující se jazyk.“ Kann také podotýká, že lidé by měli kontrolovat profily, protože roboti mají často obecné nebo neúplné online profily. Dodal, že neschopnost rozlišovat mezi roboty a lidmi by mohla vést k problémům s přesností výzkumu.

„Může to vést ke zkreslené analýze dat, protože interakce robotů mohou zvýšit návštěvnost webu a metriky míry zapojení,“ dodává Kann.

Z anglického originálu na The Epoch Times přeložil Ondřej Horecký.