Upozornění: Tento článek neslouží jako návod pro páchání podvodné činnosti.
Na semináři, který v Poslanecké sněmovně otevřel otázky bezpečnosti a rostoucích podvodů s výdobytky moderních technologií, prezentovali experti řadu příkladů, jak lze vytvářet obraz a zvuk pomocí umělé inteligence.
V jednom z příkladů nechali přítomné poslouchat čtyři vzorky hlasu a hádat, který z nich je uměle vytvořený. Nikdo je nebyl schopen rozeznat.
Poté ukázali možný případ zneužití takové technologie, kdy vzali nahrávky hlasu poslance Patrika Nachera, který seminář pořádal, a pomocí umělé inteligence vytvořili záznam jeho hlasu. Ukázka zahrnovala telefonát jeho fiktivní matce. Oznámil jí, že volali z její banky, protože je její účet zablokovaný a nemohou jí tam poslat důchod a on je tak hodný, že jí chce pomoci účet odblokovat, ale potřebuje k tomu její přístupové údaje.
Video: Experti napodobili hlas poslance Nachera
Expert Mgr. Kamil Malinka, Ph.D., z Fakulty informačních technologií na VUT Brno poté prezentoval skutečný případ, kdy podvodníci ve Velké Británii pomocí umělé inteligence modifikovali hlas ředitele jedné společnosti a zavolali do firmy, aby zaměstnancům přikázali provést určitou platbu ve výši 200 000 liber (cca 5,8 milionu Kč).
Zaměstnanci domnělého ředitele, který měl znalost interních procesů, poslechli a peníze poslali. Podvodníci volali jeho hlasem, z jeho čísla a používali zaběhané postupy. Takto získali peníze a zároveň se je nepodařilo vystopovat a peníze získat zpět.
„Bohužel společnost aktuálně neví, jak silné ty nástroje jsou,“ říká Kamil Malinka. „V poslední době došlo k výraznému zlepšení kvality a dostupnosti,“ technologií, které umožňují vytvářet obrazový a zvukový materiál. A tak můžeme na obrazovkách sledovat stále častěji „události, které se nikdy nestaly“.
Podobně jako je možné modifikovat hlas, je také stále snadnější modifikovat obraz, aniž by byl podvrh rozpoznatelný okem. Bezpečnostní opatření pro vstupování do telefonu nebo jiných zařízení pomocí svého hlasu nebo biometrických údajů (scan tváře nebo hlavy) postupně ztrácejí účinnost, protože je možné obojí uměle vytvořit a bezpečnostní opatření obcházet.
Video: Experti napodobili hlas pro vstup do bankovního sektoru
V minulosti byl podle Malinky použit také takzvaný deep fake k napodobení tváře a hlasu ukrajinského prezidenta Zelenského. Po vpádu ruských vojsk se na internetových platformách začalo šířit podvodné video s jeho projevem, kde „vyzýval ukrajinská vojska, aby se vzdala“.
V posledních letech také strmě stoupá zneužívání možnosti volat pod libovolně zvoleným číslem. Dostupné aplikace umožňují podvodníkům vystupovat pod čísly patřící policii, bankám, úřadům, nebo i vašich nejbližších přátel. Těchto podvodných telefonátů zaznamenávají telefonní operátoři a policie tisíce ročně.
Může se tedy stát, že obdržíte telefonát ze známého čísla a díky AI k vám bude mluvit známý hlas, ale reálně to nebude ten člověk, který figuruje na vašem displeji.
Například politik nebo ředitel společnosti zavolá svojí sekretářce, aby mu sdělila informaci, s kým vším že to má zítra schůzky, nebo jiné důvěrné informace.
Video: Vyzkoušejte si, zda rozpoznáte uměle vytvořený hlas
Škála podvodů se díky vzestupu technologií a umělé inteligenci zvětšuje a kybernetický prostor se tak stává více nevyzpytatelným a nebezpečným.
„Nechci strašit, ale bohužel tohle je poměrně blízká temná budoucnost, která nás čeká,“ říká Malinka. „Útočníci dostanou nové mocné nástroje, proti kterým jsme zatím bezmocní.“
Seminář: Boj s kyberšmejdy na pozadí moderních technologií
Pro ty čtenáře, které téma zaujalo, zde nabízíme odkazy na program semináře (pdf) a videozáznam semináře (záznam). Celý projev experta Kamila Malinky začíná v čase 14:08.
