Milan Kajínek

6. 2. 2024

Upozornění: Tento článek neslouží jako návod pro páchání podvodné činnosti.

Na semináři, který v Poslanecké sněmovně otevřel otázky bezpečnosti a rostoucích podvodů s výdobytky moderních technologií, prezentovali experti řadu příkladů, jak lze vytvářet obraz a zvuk pomocí umělé inteligence.

V jednom z příkladů nechali přítomné poslouchat čtyři vzorky hlasu a hádat, který z nich je uměle vytvořený. Nikdo je nebyl schopen rozeznat.

Poté ukázali možný případ zneužití takové technologie, kdy vzali nahrávky hlasu poslance Patrika Nachera, který seminář pořádal, a pomocí umělé inteligence vytvořili záznam jeho hlasu. Ukázka zahrnovala telefonát jeho fiktivní matce. Oznámil jí, že volali z její banky, protože je její účet zablokovaný a nemohou jí tam poslat důchod a on je tak hodný, že jí chce pomoci účet odblokovat, ale potřebuje k tomu její přístupové údaje.

Video: Experti napodobili hlas poslance Nachera

Expert Mgr. Kamil Malinka, Ph.D., z Fakulty informačních technologií na VUT Brno poté prezentoval skutečný případ, kdy podvodníci ve Velké Británii pomocí umělé inteligence modifikovali hlas ředitele jedné společnosti a zavolali do firmy, aby zaměstnancům přikázali provést určitou platbu ve výši 200 000 liber (cca 5,8 milionu Kč).

Zaměstnanci domnělého ředitele, který měl znalost interních procesů, poslechli a peníze poslali. Podvodníci volali jeho hlasem, z jeho čísla a používali zaběhané postupy. Takto získali peníze a zároveň se je nepodařilo vystopovat a peníze získat zpět.

Kamil Malinka. (fit.vut.cz)

„Bohužel společnost aktuálně neví, jak silné ty nástroje jsou,“ říká Kamil Malinka. „V poslední době došlo k výraznému zlepšení kvality a dostupnosti,“ technologií, které umožňují vytvářet obrazový a zvukový materiál. A tak můžeme na obrazovkách sledovat stále častěji „události, které se nikdy nestaly“.

Podobně jako je možné modifikovat hlas, je také stále snadnější modifikovat obraz, aniž by byl podvrh rozpoznatelný okem. Bezpečnostní opatření pro vstupování do telefonu nebo jiných zařízení pomocí svého hlasu nebo biometrických údajů (scan tváře nebo hlavy) postupně ztrácejí účinnost, protože je možné obojí uměle vytvořit a bezpečnostní opatření obcházet.

Video: Experti napodobili hlas pro vstup do bankovního sektoru

V minulosti byl podle Malinky použit také takzvaný deep fake k napodobení tváře a hlasu ukrajinského prezidenta Zelenského. Po vpádu ruských vojsk se na internetových platformách začalo šířit podvodné video s jeho projevem, kde „vyzýval ukrajinská vojska, aby se vzdala“.

V posledních letech také strmě stoupá zneužívání možnosti volat pod libovolně zvoleným číslem. Dostupné aplikace umožňují podvodníkům vystupovat pod čísly patřící policii, bankám, úřadům, nebo i vašich nejbližších přátel. Těchto podvodných telefonátů zaznamenávají telefonní operátoři a policie tisíce ročně.

Může se tedy stát, že obdržíte telefonát ze známého čísla a díky AI k vám bude mluvit známý hlas, ale reálně to nebude ten člověk, který figuruje na vašem displeji.

Například politik nebo ředitel společnosti zavolá svojí sekretářce, aby mu sdělila informaci, s kým vším že to má zítra schůzky, nebo jiné důvěrné informace.

Video: Vyzkoušejte si, zda rozpoznáte uměle vytvořený hlas

Škála podvodů se díky vzestupu technologií a umělé inteligenci zvětšuje a kybernetický prostor se tak stává více nevyzpytatelným a nebezpečným.

„Nechci strašit, ale bohužel tohle je poměrně blízká temná budoucnost, která nás čeká,“ říká Malinka. „Útočníci dostanou nové mocné nástroje, proti kterým jsme zatím bezmocní.“

Seminář: Boj s kyberšmejdy na pozadí moderních technologií
Pro ty čtenáře, které téma zaujalo, zde nabízíme odkazy na program semináře (pdf) a videozáznam semináře (záznam). Celý projev experta Kamila Malinky začíná v čase 14:08.

Související články

Přečtěte si také

Nemít krávy, tak nemáme ani na výplaty, stěžovali si zemědělci na protestu v Hodoníně
Nemít krávy, tak nemáme ani na výplaty, stěžovali si zemědělci na protestu v Hodoníně

Podle něj evropská pravidla mohl nastavovat jen někdo bez reálné zkušenosti z výroby. „Vypadá to, jako by to vymýšleli lidí, kteří nikdy nebyli v poli a ti nám vyprávějí, co máme dělat,“ domnívá se Tomáš Krč.

Mercedes obrátil. Spalovací motory ukončovat nehodlá
Mercedes obrátil. Spalovací motory ukončovat nehodlá

Společnost Mercedes-Benz včera oznámila, že odsouvá dříve avizované ukončení výroby spalovacích motorů. Firma to uvedla ve své zprávě pro investory.

Geopolitická zbraň KS Číny v hodnotě jednoho bilionu dolarů selhává
Geopolitická zbraň KS Číny v hodnotě jednoho bilionu dolarů selhává

Čínská iniciativa Pás a stezka ztrácí na atraktivitě kvůli skrytým vojenským ambicím, korupci a nedostatečným hospodářským výsledkům.

Intersucho: Nasycení půdy je na většině míst ČR nad 90 %, menší je na jihu
Intersucho: Nasycení půdy je na většině míst ČR nad 90 %, menší je na jihu

Půda je v Česku podle portálu Intersucho nasycená, úroveň nasycení se na většině míst republiky pohybuje nad 90 procenty.

Naše herkulovské úkoly: Hledání moudrosti ve 12 úlohách
Naše herkulovské úkoly: Hledání moudrosti ve 12 úlohách

Herkules je jednou z nejoblíbenějších postav řecké mytologie. Jeho obrovská síla a odvaha inspirovala západní svět.