Milan Kajínek

31. 1. 2024

TÉMA: Podvody na spotřebitele

Umělá inteligence může změnit situaci na trhu práce, v průmyslové výrobě a podle člena bezpečnostního výboru, poslance Roberta Králíčka (ANO), bude přinášet také řadu bezpečnostních hrozeb.

„Umělá inteligence bude umět, nebo už umí, napodobit váš text, podpis, obraz (video), hlas,“ – na to všechno budeme muset být podle Králíčka připraveni.

„Už jste možná zaznamenali, že vám na internetu osobnosti jako Andrej Babiš nebo Petra Kvitová radí, kam investovat, a je to podvod,“ říká Králíček.

„Tohle je jedna z mála věcí, kde jsme všichni na jedné lodi. Cílem dnešního semináře je osvěta problematiky podvodů prováděných s pomocí moderních technologií,“ sdělil poslanec Patrik Nacher (ANO), předseda podvýboru pro ochranu spotřebitele.

Některé podvodné e-maily, telefonáty a nabídky se dají rozpoznat snadněji. Jiné jsou velice sofistikovanými podvody a neustále se zdokonalují. Podvodů tohoto typu neustále přibývá a policie zaznamenává tisíce případů.

TIP: Záznam ze semináře naleznete zde.

„Dokud si to necháme líbit a dokud se jim to bude vyplácet, bude to pokračovat,“ řekl Ondřej Kapr, rada Policejního prezidia České republiky. „Jakmile na sebe vyzradíte nějaká citlivá data nebo bankovní účty a přístupy, ihned kontaktujte svoji banku a policii. Když budete jednat rychle, můžete situaci zachránit.“

„Kriminalita se bude neustále přesouvat do kybernetického prostoru,“ říká Kapr o podvodných jednáních, která se snaží například získat přístupové údaje do vašeho bankovnictví.

Kapr také vidí hrozbu ve využití umělé inteligence pro vytváření podvodných nabídek. Podvodníci už v dnešní době operují jako organizovaná callcentra a pachatelé postupují podle přesně vytvořených scénářů. „Je to velmi sofistikované a složité, vědí co vám mají na určité dotazy odpovídat. Nedivím se, že se lidé nechají nachytat,“ říká policejní rada.

„Nenechte se nachytat a pachatelům se to přestane vyplácet,“ radí Kapr, jak situaci změnit plošně.

Podvodníci využívají naléhání, nátlak, časovou tíseň – musíte jednat hned, jinak přijdete o peníze, pokud do 24 hodin nezareagujete bude váš účet zablokování a tak podobně.

Pachatelé se vydávají za policisty, bankéře, obchodníky – někdy vám prezentují některé znalosti o vás – jméno, e-mail, že jste něčím klientem a podobně.

Obrana: Informujte se, co všechno se vám může přes telefon a e-mail stát, kdo a jak se vás může snažit podvést. Např. zde.

„Nenechte se nachytat a pachatelům se to přestane vyplácet,“ radí Ondřej Kapr, rada Policejního prezidia České republiky. (medialensking / Envato)

Kamil Malinka z Fakulty informačních technologií na VUT Brno hovořil o takzvaných „deep fake“ podvodech. Umělá inteligence jejich propracovanost neustále zvyšuje. „Jedná se o útoky na biometrické systémy, krádeže identity, nenávistná propaganda a další,“ říká Malinka.

Na semináři prezentoval modelování falešného proslovu prezidenta z fotografie a hlasové nahrávky.

Při podvodech může docházet k obrazovému nebo hlasovému „deep fake“. Hlasem nějakého člověka útočník zavolá a něco požaduje. V některých případech došlo podle Malinky i k provedení bankovního příkazu.

Umělá inteligence dává útočníkům „nové mocné nástroje“, proti kterým „jsme poměrně bezmocní“, říká Malinka například o možnosti identifikace prostřednictvím hlasu nebo obrazu (biometrických údajů).

Pokud se lidé soustředí na něco jiného, například pracují, a jsou vystaveni deep fake, jsou mnohem náchylnější útoku podlehnout. Na příkladech Malinka demonstroval, že sluchem již nelze rozpoznat uměle vytvořený hlas a skutečný hlasový projev.

Deep fake: Velmi rychle se blíží scénáře, kdy si útočník zapne aplikaci, která mu vytvoří jinou tvář a jiný hlas a bude s vámi komunikovat. Už dnes vám může zavolat známý hlas z čísla, které znáte, a bude to někdo jiný, kdo volá z úplně jiného čísla, a nebudete schopni uchem rozpoznat, že je hlas uměle vytvořený. Může s vámi takto volat i robotická aplikace, která bude naprogramována na komunikaci s lidmi.

Malinka prezentoval deep fake telefonát, v němž hlas syna volá mamince a chce jí pomoci s řešením „zablokovaného účtu“ a požádá ji o přístupové údaje a přeposlání SMS s potvrzovacím kódem pro přístup k účtu.

Závod ve zbrojení proti falešnému volebnímu obsahu generovanému umělou inteligencí začíná. Bude se příští volební „dokumentace“ sestávat z videí generovaných umělou inteligencí? (The Epoch Times, Getty Images, Shutterstock)

Miloslav Lujka z TEDxPrague uvádí, že umělá inteligence se stává součástí života mladých lidí. „Syn mého kamaráda si nejvíce přál Chat GPT 4. Používá ho k tomu, že si v sešitu ve škole nafotí zápisky a látku, nechá to převést AI do textu a požádá Chat GPT, aby mu tu látku vysvětlil. Tím způsobem, jak to on má rád, ne tak jak to vysvětluje učitelka. A s AI komunikuje a požádá jí: ‚vysvětli mi to jinak, tomuhle nerozumím‘,“ říká Lujka, aby demonstroval, že svět mladší generace, která bude tyto technologie využívat, už je a bude jiný než ten současný – svět starších generací.

Vysokoškolský učitel Jindřich Kalíšek z Právnické fakulty Univerzity Karlovy tvrdí, že v budoucnosti se „nebudeme moci spolehnout na základní lidské smysly“. To znamená, že se už nebudeme moci spolehnout na kontrolu pravosti dokumentu a jeho podpisu. „Nebudete se moci spolehnout ani na to, co vidíte, a to, co slyšíte, ale nakonec ani na to, jak věci chutnají a podobně,“ – to všechno bude moci být a už je omezeně možné falšovat.

„Blíží se doba, kdy budeme zranitelnou skupinou obyvatel my všichni,“ říká Kalíšek.

Dále hovoří o bezpečnosti takzvaného elektronického podpisu, která bude také ohrožena. Jedinou cestou řešení je podle Kalíška vzdělávání společnosti. Situace bude tak složitá, že se dokonce stane, že „soudci se nebudou moci spolehnout na to, co vidí“, říká Kalíšek.

Útoky na účty jsou tak účinné, „protože je tlak a směrnice na to, aby banky prováděly transakce velice rychle“, míní Kalíšek, a proto by se mohl snížit čas ve prospěch ověření proti zneužití.

Rozsah podvodných telefonátů a kybernetických útoků v uplynulých měsících extrémně narůstá. (DC_Studio / Envato)

„Kybernetická bezpečnost je stále pro lidi věc s velmi nízkou prioritou,“ říká poslanec Robert Králíček. „Máme takovou tendenci, že dokud se nestane nějaký velmi velký průšvih, žádné kroky se nepodniknou.“

Související články

Přečtěte si také

Zdražování kvůli emisním povolenkám se u dřeva a pelet nechystá, ujišťují lidé z oboru

Cena nové generace povolenek hned při prvním obchodování vystřelila z předpokládaných 45 na 77 eur. Domácnostem topícím plynem či uhlím se takto můžou výrazně zvýšit náklady. Dřeva se ale povolenky nedotknou, potvrdili pro Epoch Times odborníci.

Miroslav Kala
Dotace a jejich nárokovost oslabují Evropu. Musíme investovat smysluplně, burcuje šéf NKÚ

Nárokové chování a dotační ekonomika podle šéfa Nejvyššího kontrolního úřadu oslabují Evropu. Shodl se na tom i se svým německým protějškem. Jaká tedy nabízí východiska, a co by se podle něho mělo změnit?

První náznaky migrační dohody EU s Afrikou a jak funguje „nábor“ na sociálních sítích

Nemám rád konspirování. Ale musím upozornit na riziko vyplývající z kombinace paktů pro migraci a pro středomoří: jejich souběh může v jedné, či dvou generacích zcela proměnit Evropu.

Brusel, Belgie – 3. listopadu 2022: Evropské vlajky před budovou sídla Evropské komise v Bruselu.
Desítky milionů eur ročně: Jak si EU vybudovala vlastní mediální aparát

Evropská unie investuje ročně desítky milionů eur do vybraných médií. Kritici varují před netransparentností a ovlivňováním veřejného diskurzu.

Zaměstnanci velkých závodů v Německu bijí na poplach. Chtějí změnu v zelených politikách

Ostrý dopis předních členů závodních rad obsahuje vážná obvinění vůči politikům – zejména v oblasti energetické politiky.

Odhalení se nekoná. Seznam Epsteinových klientů podle amerických úřadů neexistuje

Slibovaný seznam klientů sexuálního delikventa Epsteina neexistuje, vychází ze zprávy, kterou 7. července vydalo americké Ministerstvo spravedlnosti společně s FBI.

Trump: USA se dohodly s NATO na dodávkách zbraní Ukrajině

Trump uvedl, že uzavřel novou dohodu s NATO, podle níž budou Spojené státy dodávat zbraně Ukrajině v jejím pokračujícím konfliktu s Ruskem. Tyto zbraně by měla uhradit aliance. Dodal, že v pondělí učiní zásadní prohlášení ohledně Ruska.

Jak beta-glukan pomáhá chytřejší imunitní odpovědi

Silný imunitní systém sám o sobě nestačí – musí být také chytrý. Beta-glukan, přírodní sloučenina obsažená v potravinách jako jsou oves a houby, pomáhá imunitnímu systému reagovat přesněji a snižuje škody způsobené přehnanou reakcí, například zánětem.

Prochazky Umenim
Virtuosky rozeznějí „místo, kde se zázraky dějí potichu“. Koncert ve Skokách u Žlutic

„Tentokrát nás náš program zavede na posvátné území. Jedná se o nádhernou barokní stavbu – poutní místo, které již po staletí láká k navštívení díky své zajímavé historii a zázrakům,“ říká zakladatelka festivalu Procházka uměním.