Generativní umělá inteligence přesouvá těžiště digitální interakce od aplikací k asistentům s umělou inteligencí, kteří samostatně vykonávají úkoly. Technologický vývoj vyvolává otázky týkající se kontroly, odpovědnosti a regulace. Stane se chytrý telefon brzy zbytečným?
Umělá inteligence (AI) staví chytrý telefon, jak ho dnes známe, před zásadní zkoušku – od používání aplikací směrem k autonomním asistentům AI, kteří samostatně přebírají úkoly.
Mobilní telefon byl dlouho považován za nepostradatelný nástroj naší doby. Doprovází nás všude a plní téměř všechny úkoly každodenního života – od peněženky přes jízdenky až po klíče. S rostoucím rozšířením generativní AI se však pozornost přesouvá od obrazovky k digitálním asistentům, kteří naslouchají, interpretují a úkoly plní samostatně.
Útok na chytrý telefon
Po celém světě se proto diskutuje, zda takzvaná „mobilní revoluce“ nevstoupila do nové fáze – do fáze, v níž mobilní telefon už není centrálním rozhraním digitální interakce, ale jen jedním z několika uzlů.
Virginia Dignumová, profesorka etiky AI na Univerzitě v Umeå ve Švédsku, vidí vývoj, v němž by aplikace mohly postupně ztrácet svou ústřední roli. Není však samozřejmé, že by jediným hybatelem tohoto procesu byla právě AI, uvedla Dignumová pro švédské vydání Epoch Times.
Zdůrazňuje, že software se v průběhu času vždy proměňoval a dnešní prostředí aplikací je na mnoha místech vnímáno jako těžkopádné. „Aplikace, jak je známe, se staly poměrně neobratnými. Pro každou maličkost je třeba instalovat samostatnou aplikaci, a to se časem stává dost otravné,“ říká Dignumová. To podle ní neznamená, že obrazovka zmizí. „Bude však méně centrální, pokud za nás bude moci AI vykonávat různé úkoly.“
Frustrace, kterou Dignumová popisuje, tvoří jádro teorie „post-aplikačního světa“. Jakmile uživatel bude muset pouze formulovat cíl nebo záměr a zbytek přenechá asistentovi AI, potřeba aktivně ovládat aplikace klesne. Rozhodující pak nebude, kde se nachází tlačítko, ale kdo dokáže úkol skutečně vyřešit.
Jak AI mění používání mobilních telefonů
Robert Andersson, zakladatel a generální ředitel společnosti Pulse Penguin zaměřené na AI, vidí na obzoru postupný přechod od interakce založené na klikání k cílově orientované každodenní technologii.
„Z dlouhodobého hlediska přejdeme od klikání na aplikace k rozhraní založenému na záměru. To neznamená, že obrazovka zmizí, pouze bude méně centrální, pokud za nás bude AI plnit úkoly,“ uvedl Andersson pro Epoch Times.
V praxi to znamená, že uživatelé budou muset stále méně často provádět jednotlivé kroky sami. Asistent AI může vyhledávat, porovnávat, plnit úkoly a navrhovat řešení – zatímco člověk si nadále ponechá kontrolu.
Zpočátku budou systémy AI fungovat jako dodatečná vrstva nad stávajícími aplikacemi. Lidé budou aplikace nadále chtít používat přímo, avšak u chytrých telefonů vybavených systémy, jako jsou Siri nebo Gemini, bude asistent stále častěji přebírat úkony uvnitř aplikací.
Mobilní telefon tak může zůstat zachován, avšak spíše jako infrastruktura mezi uživatelem a službou, zatímco samotné rozhraní interakce se přesune na úroveň asistentů.
Dignumová v tom spatřuje také možný posun v mocenských poměrech.
Otázky kontroly a důvěry
Pokud se asistent stane vstupní branou ke všemu – od mobility, cestování a online nakupování až po pracovní nástroje – vyvstává nová otázka: kdo vlastně kontroluje vztah s uživatelem?
Výzkumnice zdůrazňuje, že kontrola nad interakcí musí zůstat v rukou uživatele. „Doufala bych, že si každý z nás zachová kontrolu nad interakcí s asistenty.“
Současný model, v němž každá služba vyžaduje vlastní aplikaci, označuje za příliš složitý. Představuje si místo toho lépe koordinovaný systém, v němž může uživatel řídit dění, aniž by ztratil kontrolu. Zároveň varuje před závislostí na univerzálních řešeních typu „one-size-fits-all“ od velkých mezinárodních technologických koncernů a zasazuje se o evropská řešení přizpůsobená evropské kultuře, hodnotám a legislativě.
Jedna z hlavních dělicích linií ve vývoji AI podle ní spočívá v rozdílu mezi pouhým generováním odpovědí a schopností skutečně vykonávat akce. Delegování však vyžaduje důvěru: „Bez důvěry nelze delegovat,“ říká Dignumová.
Andersson ze společnosti Pulse Penguin pracuje na takzvané „platformě důvěry“ („Trust Engine“), která by asistentovi AI umožnila jednat v jasně vymezených mezích. Jde o to, kdo má jaké pravomoci, jak omezit rizika a jak zavést mechanismy, které umožní rozhodnutí zpětně zrušit nebo dohledat.
Dignumová zdůrazňuje význam jasných pravidel a přirovnává situaci k silničnímu provozu: technologie nám umožňuje cestovat vysokou rychlostí, ale pravidla silničního provozu zajišťují bezpečnost všech. Otázka, zda chytrý telefon skutečně zmizí, proto není jen technickou záležitostí, ale také výzvou regulační a společenskou.
Chytrý telefon jako nositel identity
Ve Švédsku slouží chytrý telefon také jako nositel identity – například prostřednictvím systému BankID, široce rozšířeného elektronického identifikačního nástroje pro provádění plateb, vyřizování úředních záležitostí a přístup ke zdravotnické dokumentaci. Aby mohl chytrý telefon skutečně „zmizet“, musela by tuto klíčovou roli převzít alternativní infrastruktura, aniž by vznikly nové bezpečnostní mezery.
Autonomně jednající asistent AI, který by samostatně vykonával právně závazné kroky, by zde rychle narazil na právní limity. Delegování prokazování identity, uzavírání smluv či finančních transakcí vyvolává otázky odpovědnosti a dohledu, které zatím nejsou jednoznačně vyřešeny. Zejména ve finanční oblasti – pod dohledem Spolkového úřadu pro dohled nad finančními službami (BaFin) – je v současnosti stěží představitelné plně automatizované jednání bez výslovného potvrzení uživatele.
K tomu se přidává evropský regulační rámec. Přijetím nařízení AI Act vytvořila EU odstupňovaný systém posuzování rizik AI. Systémy, které přijímají nebo připravují rozhodnutí s právními či ekonomickými dopady, mohou být klasifikovány jako vysoce rizikové aplikace, a podléhat tak přísným požadavkům na transparentnost, dokumentaci a kontrolu.
AI a společenská a právní realita
V Německu pravděpodobně nepředstavuje hlavní problém technická proveditelnost, ale spíše společenská a právní realita. Ochrana osobních údajů, ochrana spotřebitele a jasně vymezená odpovědnost nastavují úzké hranice – AI, která jedná samostatně, se zde může rychle dostat do rozporu se zákony, předpisy a bezpečnostními standardy. Kdo nese odpovědnost, pokud asistent učiní nesprávné rozhodnutí? Kdo odpovídá za zneužití dat nebo finanční škody?
Pro poskytovatele to znamená, že rozhraní založené na záměru, které by dokázalo více než jen informovat, by muselo být výrazně zabezpečeno po technické, právní i organizační stránce.
Zda tedy chytrý telefon v Německu skutečně ztratí na významu, je spíše otázkou politickou a regulatorní než technickou.
–etg–
