Jak se firmy snaží rychle integrovat umělou inteligenci (AI) do svých podniků, často se stává, že zmatek a dodatečné náklady převáží nad přínosy.
Komentář
Pokud se vám zdá spěch k přijetí umělé inteligence povědomý, není to náhoda. Již jsme byli svědky něčeho podobného. Na konci devadesátých let se organizace všech velikostí, zejména velké korporace, potýkaly s přechodem od zastaralých technologií k digitální transformaci. Až během pandemie covidu-19 v roce 2020 podniky spěšně dokončovaly svou digitální transformaci, zvláště pokud šlo o podporu a ochranu doširoka rozptýlených pracovníků na dálku s provozem domácích kanceláří, pracovními postupy a pravidly dodržování předpisů.
Co víc, závod v oblasti umělé inteligence je v plném proudu, protože Microsoft, Apple a další technologické firmy investují miliardy do AI produktů, jako je OpenAI. Každý si je dobře vědom, nebo by měl být, jak intenzivní je závod o dominanci v oblasti AI na globální a firemní úrovni. Je to skutečně transformativní.
AI mění obchodní praktiky
Není pochyb o tom, že AI je technologickým pokrokem, který v blízké budoucnosti zásadně změní náš způsob života – a možná navždy. Ve skutečnosti už k tomu dochází a bude to pokračovat. Nicméně v těchto raných a bouřlivých dnech AI se objevují také praktické problémy.
Například firemní vedení a představenstva čelí překážkám při implementaci a kontrole, které brání jejich organizacím využít více než jen zlomek potenciálu AI. A to nemluvě o tom, že je těžké odůvodnit milionové výdaje na nasazení AI na podnikové úrovni, které by měly zjednodušit jejich operace, optimalizovat pracovní postupy, harmonizovat oddělené divize a vyřešit další organizační výzvy, se kterými se podnikové organizace těžko vyrovnávají.
A to jsou jen začátky výzev a rizik, kterým AI čelí i ve středně velkých podnicích, nemluvě o těch na úrovni korporací.
Riziko pro soukromí a etiku
Síla AI nespočívá pouze v její rychlosti zpracování dat, ale také ve schopnosti přistupovat k osobním informacím – a případně toto přístupové právo zneužít. Ochrana soukromí jedinců je jejich zákonným právem a organizace, které tyto informace uchovávají, nesou odpovědnost za jejich ochranu. Pokud je AI řízena špatně nebo není dostatečně monitorována, zvyšuje se riziko, že se organizace dostane do konfliktu s právními předpisy o ochraně soukromí.
Existuje také riziko udržování zaujatosti a jejího sociálního dopadu, pokud jsou jakékoli předsudky zakomponovány do programů umělé inteligence. Tyto předsudky mohou zahrnovat osobní názory programátora nebo poskytovatele AI, což může mít za následek negativní dopady na určité osoby, jejichž osobní názory se liší od těch, které jsou v těchto programech.
Nelegální sledování je dalším rizikem, které AI přináší organizacím všech velikostí. Mají lidé právo nebýt sledováni, když se věnují činnostem ve svém volném čase? Mají právo, aby jejich chování nebylo komercializováno pomocí prediktivní analytiky a opakovaně prodáváno na trhu? Měli by mít, ale v praxi je to často spíše otázka toho, jak technologie předhání schopnost našeho právního systému reagovat na nové výzvy a rizika. Rychlost technologických změn a možností je příliš vysoká.
Zaujatosti v AI
Stojí za to podívat se na zaujatosti v AI podrobněji. Přísloví „co se do systému vloží, to z něj také vyjde“ platí pro rizika a dopady předsudků v umělé inteligenci, jak se projevuje na lidských bytostech a jejich individuálních názorech, chování a postojích. To se také vztahuje na standardy obchodního chování, obavy o soukromí a jakýkoli jiný aspekt podnikání, který může být hodnocen a oceněn – nebo naopak znehodnocen – subjektivním procesem či programem řízeným AI.
To je dáno tím, že AI je produktem svého tvůrce a tím pádem také odráží jeho zaujatosti. Objektivity je těžké, ne-li nemožné, dosáhnout, pokud jde o morální a etické otázky, hodnotu uvážlivého rozhodování oproti rychlosti, často složité procesy vyjednávání a kompromisu, nebo aktuální prospěch versus budoucí přínosy, tržní dobrou vůli a podobně.
Rizika a výzvy integrace AI
Z praktického hlediska mnohé podniky zjišťují, že integrace AI do jejich stávajících operací je obtížná a rušivá. Ve většině, ne-li ve všech případech, je růst organizace jak organický, tak organizovaný, zefektivněný i rozdělený do různých oblastí. To znamená, že obchodní praktiky a nuance pracovních toků se vyvíjely v průběhu času, často v důsledku osobnostních zvláštností, osobních vztahů uvnitř i vně organizace, zavedených obchodních praktik a dalších „lidských faktorů“, které určují, jak podnik funguje.
Proces integrace systémů řízených AI do takto složitých organizací a jejich pracovních toků může být nejen nákladný, ale také může zásadně změnit samotnou organizaci tak, že se stane nepoznatelnou pro vlastní zaměstnance a/nebo vedení. Může to také vést k nákladným porušením předpisů. Tato rizika proměňují nákladné integrace s nízkými výsledky na oprávněný důvod k obavám mezi členy vedení a manažery.
Bezpečnost dat v AI
Jedním z největších rizik přijetí systémů řízených AI je rychlost, jakou mohou přistupovat ke všem datům v rámci podniku. Nové kybernetické útoky jsou nejen posíleny umělou inteligencí, ale jakmile se hackeři dostanou do sítě, často mohou přistupovat k nechráněným identitám strojů, nebo dokonce lidí a rychle využít firemní systém řízený AI k urychlení útoků, odhalení chráněných dat, rozšíření krádeže dat a provádět útoky pomocí ransomwaru – a to vše exponenciálně rychleji.
Útočníci tímto způsobem nyní mohou využít podnikové systémy řízené umělou inteligencí k tomu, aby pomohli při vlastní ztrátě dat, než si podnik vůbec uvědomí, že byl napaden. AI je v podstatě nástroj, který vykonává práci toho, kdo ho ovládá. Toto bylo případem Microsoft Copilotu pro Microsoft 365, kde výzkumníci využili Copilota k rychlému vyhledání a extrakci kritických dat pouze pomocí několika příkazů, což by dříve žádný hacker nedokázal.
Právní rizika
Vzhledem k tomu, že žijeme v silně právně zaměřené společnosti, představují rizika spojená s umělou inteligencí pro firmy významné a obtížné výzvy. Pravdou je, že programy, nástroje a řešení řízené AI budou i nadále rychle přijímány. Současně rizika pro duševní vlastnictví a závazky, které umělá inteligence představuje pro organizace v oblasti dodržování předpisů, odpovědnosti, ochrany soukromí a etických otázek, nezmizí v dohledné době.
Podniky a organizace spěchají, aby AI přivedly a co nejdříve ji nasadily, pokud ne z jiného důvodu, tak proto, že nechtějí zůstat pozadu. „Inovuj, nebo zemři“ koneckonců není jen přehnané rčení, pro mnohé firmy je to konstatování skutečnosti.
Umělá inteligence je nevyhnutelná, ať už napíšu cokoliv v tomto článku. Dříve nebo později bude umělá inteligence monitorovat organizace napříč národem a po celém světě. Tato transformace bude mnohem rychlejší než předchozí digitální revoluce v ekonomice, která trvala kolem dvaceti let.
Ale v tom všem zůstává jedna očividná otázka: „Kdo monitoruje AI?“
Názory vyjádřené v tomto článku jsou názory autora a nemusí nutně odrážet názory Epoch Times.
–ete–
