TÉMA: Podvody na spotřebitele
Umělá inteligence může změnit situaci na trhu práce, v průmyslové výrobě a podle člena bezpečnostního výboru, poslance Roberta Králíčka (ANO), bude přinášet také řadu bezpečnostních hrozeb.
„Umělá inteligence bude umět, nebo už umí, napodobit váš text, podpis, obraz (video), hlas,“ – na to všechno budeme muset být podle Králíčka připraveni.
„Už jste možná zaznamenali, že vám na internetu osobnosti jako Andrej Babiš nebo Petra Kvitová radí, kam investovat, a je to podvod,“ říká Králíček.
„Tohle je jedna z mála věcí, kde jsme všichni na jedné lodi. Cílem dnešního semináře je osvěta problematiky podvodů prováděných s pomocí moderních technologií,“ sdělil poslanec Patrik Nacher (ANO), předseda podvýboru pro ochranu spotřebitele.
Některé podvodné e-maily, telefonáty a nabídky se dají rozpoznat snadněji. Jiné jsou velice sofistikovanými podvody a neustále se zdokonalují. Podvodů tohoto typu neustále přibývá a policie zaznamenává tisíce případů.
TIP: Záznam ze semináře naleznete zde.
„Dokud si to necháme líbit a dokud se jim to bude vyplácet, bude to pokračovat,“ řekl Ondřej Kapr, rada Policejního prezidia České republiky. „Jakmile na sebe vyzradíte nějaká citlivá data nebo bankovní účty a přístupy, ihned kontaktujte svoji banku a policii. Když budete jednat rychle, můžete situaci zachránit.“
„Kriminalita se bude neustále přesouvat do kybernetického prostoru,“ říká Kapr o podvodných jednáních, která se snaží například získat přístupové údaje do vašeho bankovnictví.
Kapr také vidí hrozbu ve využití umělé inteligence pro vytváření podvodných nabídek. Podvodníci už v dnešní době operují jako organizovaná callcentra a pachatelé postupují podle přesně vytvořených scénářů. „Je to velmi sofistikované a složité, vědí co vám mají na určité dotazy odpovídat. Nedivím se, že se lidé nechají nachytat,“ říká policejní rada.
„Nenechte se nachytat a pachatelům se to přestane vyplácet,“ radí Kapr, jak situaci změnit plošně.
Podvodníci využívají naléhání, nátlak, časovou tíseň – musíte jednat hned, jinak přijdete o peníze, pokud do 24 hodin nezareagujete bude váš účet zablokování a tak podobně.
Pachatelé se vydávají za policisty, bankéře, obchodníky – někdy vám prezentují některé znalosti o vás – jméno, e-mail, že jste něčím klientem a podobně.
Obrana: Informujte se, co všechno se vám může přes telefon a e-mail stát, kdo a jak se vás může snažit podvést. Např. zde.
Kamil Malinka z Fakulty informačních technologií na VUT Brno hovořil o takzvaných „deep fake“ podvodech. Umělá inteligence jejich propracovanost neustále zvyšuje. „Jedná se o útoky na biometrické systémy, krádeže identity, nenávistná propaganda a další,“ říká Malinka.
Na semináři prezentoval modelování falešného proslovu prezidenta z fotografie a hlasové nahrávky.
Při podvodech může docházet k obrazovému nebo hlasovému „deep fake“. Hlasem nějakého člověka útočník zavolá a něco požaduje. V některých případech došlo podle Malinky i k provedení bankovního příkazu.
Umělá inteligence dává útočníkům „nové mocné nástroje“, proti kterým „jsme poměrně bezmocní“, říká Malinka například o možnosti identifikace prostřednictvím hlasu nebo obrazu (biometrických údajů).
Pokud se lidé soustředí na něco jiného, například pracují, a jsou vystaveni deep fake, jsou mnohem náchylnější útoku podlehnout. Na příkladech Malinka demonstroval, že sluchem již nelze rozpoznat uměle vytvořený hlas a skutečný hlasový projev.
Deep fake: Velmi rychle se blíží scénáře, kdy si útočník zapne aplikaci, která mu vytvoří jinou tvář a jiný hlas a bude s vámi komunikovat. Už dnes vám může zavolat známý hlas z čísla, které znáte, a bude to někdo jiný, kdo volá z úplně jiného čísla, a nebudete schopni uchem rozpoznat, že je hlas uměle vytvořený. Může s vámi takto volat i robotická aplikace, která bude naprogramována na komunikaci s lidmi.
Malinka prezentoval deep fake telefonát, v němž hlas syna volá mamince a chce jí pomoci s řešením „zablokovaného účtu“ a požádá ji o přístupové údaje a přeposlání SMS s potvrzovacím kódem pro přístup k účtu.
Miloslav Lujka z TEDxPrague uvádí, že umělá inteligence se stává součástí života mladých lidí. „Syn mého kamaráda si nejvíce přál Chat GPT 4. Používá ho k tomu, že si v sešitu ve škole nafotí zápisky a látku, nechá to převést AI do textu a požádá Chat GPT, aby mu tu látku vysvětlil. Tím způsobem, jak to on má rád, ne tak jak to vysvětluje učitelka. A s AI komunikuje a požádá jí: ‚vysvětli mi to jinak, tomuhle nerozumím‘,“ říká Lujka, aby demonstroval, že svět mladší generace, která bude tyto technologie využívat, už je a bude jiný než ten současný – svět starších generací.
Vysokoškolský učitel Jindřich Kalíšek z Právnické fakulty Univerzity Karlovy tvrdí, že v budoucnosti se „nebudeme moci spolehnout na základní lidské smysly“. To znamená, že se už nebudeme moci spolehnout na kontrolu pravosti dokumentu a jeho podpisu. „Nebudete se moci spolehnout ani na to, co vidíte, a to, co slyšíte, ale nakonec ani na to, jak věci chutnají a podobně,“ – to všechno bude moci být a už je omezeně možné falšovat.
„Blíží se doba, kdy budeme zranitelnou skupinou obyvatel my všichni,“ říká Kalíšek.
Dále hovoří o bezpečnosti takzvaného elektronického podpisu, která bude také ohrožena. Jedinou cestou řešení je podle Kalíška vzdělávání společnosti. Situace bude tak složitá, že se dokonce stane, že „soudci se nebudou moci spolehnout na to, co vidí“, říká Kalíšek.
Útoky na účty jsou tak účinné, „protože je tlak a směrnice na to, aby banky prováděly transakce velice rychle“, míní Kalíšek, a proto by se mohl snížit čas ve prospěch ověření proti zneužití.
„Kybernetická bezpečnost je stále pro lidi věc s velmi nízkou prioritou,“ říká poslanec Robert Králíček. „Máme takovou tendenci, že dokud se nestane nějaký velmi velký průšvih, žádné kroky se nepodniknou.“
