Bezpečnostní výzkumník a generální ředitel technologického start-upu varují, že někteří uživatelé Gmailu se mohou stát obětí důmyslného podvodu založeného na umělé inteligenci. Hrozí, že jejich účty budou ovládnuty.
Garry Tan, generální ředitel technologického start-upu Y Combinator, varuje před klamně reálným podvodem. Někteří uživatelé e-mailového účtu Google (Gmail) se již možná stali obětí podvodu založeného na umělé inteligenci (AI). Je možné, že uživatelé ztratí přístup ke svému účtu.
Tan nedávno na sociální síti 𝕏 popsal tento podvod jako „docela sofistikovaný“ phishingový podvod, který využívá hlas generovaný umělou inteligencí.
Údajná zákaznická služba společnosti Google žádá o souhlas
Za tímto účelem Tan 11. října zveřejnil na 𝕏 příspěvek, který označil za „oznámení pro veřejnost“. V něm napsal:
Měli byste se mít na pozoru před poměrně sofistikovaným podvodem s hlasem umělé inteligence, který tvrdí, že je ze zákaznického servisu společnosti Google (ID volajícího odpovídá, ale není ověřeno).
NEKLIKEJTE NA ANO V TOMTO DIALOGOVÉM POLI – stanete se obětí phishingového útoku.
Šéf technologicky zaměřené firmy na podniky s rizikovým kapitálem dále napsal: „Tvrdí, že kontrolují, zda jste stále naživu, a že by měli ignorovat předložený úmrtní list s tvrzením, že váš účet obnovuje člen rodiny. Je to docela promyšlený trik, jak vás přimět, abyste povolili obnovení hesla.“
Obnovení účtu Gmail
O podobném pokusu o podvod informoval bezpečnostní výzkumník Sam Mitrovic v srpnovém příspěvku na blogu. I v tomto případě byly cílem účty Gmail a byl použit hlas generovaný umělou inteligencí.
„Podvody jsou stále sofistikovanější, přesvědčivější a používají se ve stále větším měřítku,“ napsal Mitrovic v příspěvku.
„Lidé jsou zaneprázdnění a tento podvod vypadal tak věrohodně, že bych jim dal jedničku za snahu. Mnoho lidí mu pravděpodobně naletí,“ dodal IT konzultant.
Volání po odmítnutí
Podle příspěvku Mitrovic uvedl, že obdržel oznámení s žádostí o autorizaci pokusu o obnovení účtu Gmail. To nakonec odmítl.
Asi o 40 minut později obdržel hovor s ID volajícího „Google Sydney“, který rovněž odmítl.
Mitrovič pokračoval: „Přesně o týden později, víceméně ve stejnou dobu, jsem obdržel další oznámení, které mě opět žádalo o autorizaci obnovení mého účtu Gmail ze Spojených států.“
Postup se opakoval: „Hádáte správně – asi o 40 minut později jsem obdržel hovor, který jsem tentokrát přijal. Je to americký hlas, velmi zdvořilý a profesionální. Číslo je australské. Představí se a říká, že na mém účtu je podezřelá aktivita.“
Osoba na druhém konci linky se pak ptá, zda Mitrovič cestuje, na což on odpovídá, že ne. Poté se osoba zeptala, zda je Mitrovič v Německu, na což odpověděl rovněž záporně.
Téměř dokonalý hlas AI
Mitrovic uvedl, že si uvědomil, že číslo volajícího je oficiální číslo uvedené na stránce IT zákaznického servisu společnosti Google Australia. Dodal, že požádal o potvrzovací e-mail, aby zjistil, že i tento e-mail se jeví jako oficiální účet používaný týmem společnosti Google.
„V pozadí je slyšet, jak někdo píše na klávesnici, a během celého hovoru se v pozadí ozývají zvuky připomínající call centrum. Říká mi, že e-mail odeslal. Po několika okamžicích e-mail dorazí a na první pohled vypadá že je pravý – odesílatel je z domény Google,“ napsal.
Výzkumník si však uvědomil, že „podvržení e-mailové adresy je snadné a všiml jsem si, že pole adresy ‚Komu‘ obsahuje sofistikovanou e-mailovou adresu GoogleMail zavináč InternalCaseTracking tečka com“. Jedná se o „doménu, která není doménou společnosti Google“.
„Volající řekl ‚Dobrý den‘, ignoroval jsem ho. Pak, asi o 10 sekund později, řekl ‚Dobrý den‘ znovu,“ sdělil. Dodal, že si v tu chvíli uvědomil, že hlas byl generován umělou inteligencí, „protože výslovnost a pauzy byly příliš dokonalé“.
Mitrovič napsal, že zavěsil a zavolal na číslo znovu. Poté se mu ozvala zpráva: „Tady Google Maps, v tuto chvíli nemůžeme přijmout váš hovor“. Výzkumník uvedl, že nebyl jediný, kdo byl zřejmě téměř podveden. Od dalších lidí se dozvěděl, že se stali obětí podobného podvodu.
Jak se můžete chránit
„Proti podvodníkům lze bojovat mnoha způsoby, ale na individuální úrovni je stále nejlepším nástrojem ostražitost. Provádějte výše uvedené základní kontroly nebo požádejte o pomoc někoho, komu důvěřujete,“ varuje Mitrovic.
Podle příspěvku na blogu výzkumník uvedl, že existuje několik indicií, že by se mohlo jednat o pokus o ovládnutí účtu Gmail.
Mitrovic poznamenal, že výmluvnými znaky podvodu bylo, že dostával zprávy o obnovení účtu, které neinicioval. Google volá pouze uživatelům, kteří mají firemní profil Google. Jeho e-mailová adresa byla „e-mailová adresa, která není spojena s doménou Google“. Nebyly aktivní žádné jiné relace Google než jeho vlastní. V záhlaví e-mailové zprávy bylo uvedeno, „jak byl e-mail zfalšován“, a „zpětné vyhledání čísla ukázalo, že stejný podvodný hovor obdrželi i další uživatelé“.
„Navzdory mnoha varovným signálům se při bližším zkoumání ukázalo, že tento hovor je dostatečně legitimní, aby oklamal mnoho lidí,“ varoval. „Mám podezření, že úspěšnost přijatých hovorů může být poměrně vysoká.“
Deník Epoch Times v pondělí oslovil společnost Google s žádostí o komentář k Mitrovicovu a Tanovu varování. Do doby vydání článku však neobdržel žádnou odpověď.
–etg–
