Role umělé inteligence (AI) na pracovištích se rychle vyvíjí a někteří varují, že její používání při rozhodování na výkonných pozicích bez důkladného zvážení může mít negativní důsledky.
AI se stále častěji využívá při náboru, přijímání a hodnocení výkonu zaměstnanců, což může vést k jejich povýšení nebo propouštění. Výzkumníci, právní experti, zákonodárci a organizace jako Human Rights Watch vyjádřili obavy, že algoritmy AI mohou být vstupní bránou k etickým problémům, včetně marginalizace a diskriminace na pracovištích. Tento varovný signál není nový, ale s rostoucím využíváním umělé inteligence manažery při důležitých personálních rozhodnutích roste i riziko redukce zaměstnanců na čísla a grafy.
Průzkum Resume Builder zveřejněný letos v červnu zjistil, že mezi skupinou 1 342 manažerů ve Spojených státech používá 78 % AI nástroje k určení zvýšení platu, 77 % je využívá pro povýšení, 66 % pro propouštění a 64 % pro ukončení pracovního poměru.
Stejná analýza ukázala, že více než jeden z pěti respondentů často nechává AI činit konečná rozhodnutí bez jakéhokoli lidského zásahu.
Použití umělé inteligence jako nástroje pro řízení lidských zdrojů už přineslo i varovný příklad. V bezprecedentním případu diskriminace na pracovišti z roku 2023 zaplatila digitální výuková platforma iTutorGroup 365 tisíc dolarů za urovnání federální žaloby podané americkou Komisí pro rovné příležitosti v zaměstnání (EEOC).
Služba výuky anglického jazyka byla nucena zaplatit odškodné uchazečům o zaměstnání, kteří byli vyřazeni jejím algoritmem umělé inteligence. Společnost použila algoritmus umělé inteligence, který automaticky odmítl více než 200 uchazečů na základě jejich věku. Kandidátky byly automaticky diskvalifikovány, pokud byly starší 55 let. Muži ve věku 60 let a starší byli rovněž odmítnuti.
„Stovky uchazečů přišly o zaměstnání v obtížném období pro lidi hledající práci,“ uvedl v prohlášení Timothy Riera, zastupující ředitel newyorského okresního úřadu EEOC.
Předpisy omezující použití AI
Občanské předpisy a vládní legislativa jsou navrhovány jako ochrana před používáním umělé inteligence k hodnocení a monitorování výkonu zaměstnanců.
V březnu 2025 kalifornská Rada pro občanská práva dokončila přípravu předpisů, které se týkají systémů rozhodování na pracovišti založených na umělé inteligenci, a které vstoupí v platnost 1. října. Předpisy zahrnují ochranu zaměstnanců před použitím AI ke zvýšení efektivity společnosti. To zahrnuje činnosti, jako je pomoc při přijímání zaměstnanců, propouštění a povyšování.
Na federální úrovni předložil senátor Chuck Grassley v květnu zákon o ochraně informátorů v oblasti umělé inteligence. Pokud bude tento zákon schválen, nabídne odškodnění za ztrátu zaměstnání a ochranu před odvetnými opatřeními těm, kteří pracují přímo s umělou inteligencí a rozhodnou se odhalit problémy s těmito systémy.
„V současné době má příliš mnoho lidí pracujících v oblasti AI pocit, že nemohou promluvit, když vidí něco špatného. Oznamovatelé jsou jedním z nejlepších způsobů, jak zajistit, aby Kongres držel krok s rychlým rozvojem odvětví AI,“ prohlásil Grassley.
Kromě toho státy Illinois, Kalifornie a New York navrhly, předložily nebo přijaly právní předpisy zaměřené na ochranu pracovníků před algoritmickou diskriminací AI v oblastech, jako je nábor, přijímání, povyšování, obnovení zaměstnání, disciplinární opatření a školení.
Etické „minové pole“
Podnikatelé, odborníci na AI a manažeři, kteří používají tyto digitální nástroje k rozhodování v personalistice, zdůrazňují potřebu lidského dohledu. „Používal jsem AI při náboru zaměstnanců. Nástroje jako screeningové systémy založené na ChatGPT a parsery životopisů jsou převratné,“ řekl Epoch Times odborník na AI a konzultant Peter Swain.
Swain je generálním ředitelem stejnojmenné společnosti, která se zaměřuje na pomoc podnikatelům při hledání rovnováhy mezi systémy umělé inteligence a jejich pracovní silou. Ilustroval výhody a nevýhody používání systémů umělé inteligence k řešení manažerských úkolů.
„Výhody? Rychlost a škálovatelnost – umělá inteligence dokáže zpracovat 1 000 životopisů za dobu, za kterou člověk přečte 10. Při správném tréninku také snižuje zaujatost. Nevýhody? Co tam vložíte, to tam máte. Pokud se AI trénuje na zaujatých datech, tyto zaujatosti se budou dále šířit. Navíc postrádá lidský rozměr. Kulturní kompatibilitu a měkké dovednosti nelze plně posoudit pomocí algoritmu,“ uvedl.
Úkoly založené na datech jsou podle Swaina oblastí, kde AI nástroje vynikají, ale jejich použití pro akce, jako jsou zvýšení platu, povýšení a propouštění, je „choulostivou záležitostí“. „Zabýval jsem se analýzou výkonu založenou na AI, sledováním [klíčových ukazatelů výkonu], produktivity… ale nikdy bych ji nenechal učinit konečné rozhodnutí,“ řekl a dodal: „Je to nástroj, ne rozhodovací orgán. Rizikem je dehumanizace, redukce lidí na datové body.“
Swain také označil použití AI v manažerských rozhodnutích za etické „minové pole“. „AI, pokud se pečlivě nemonitoruje, může zesílit předsudky. Pomyslete na diskriminaci na základě pohlaví, rasy nebo věku zakotvenou ve výcvikových datech,“ poznamenal.
Klíčová je podle něj transparentnost. „Zaměstnanci musí vědět, jak se rozhodnutí přijímají, a mít možnost je napadnout. Důležitá je odpovědnost. Pokud AI selže, kdo za to nese odpovědnost? Nemůžete jen tak vinit stroj,“ konstatoval.
Pomůcka k lepšímu rozhodování?
Stephen Engel, generální ředitel společnosti Sanative Recovery and Wellness, řekl Epoch Times, že nedávno použil ChatGPT, aby mu pomohl rozhodnout, zda propustit zaměstnance. Uvedl, že ačkoli umělá inteligence neučinila konečné rozhodnutí, její schopnost rychle zpracovat velké objemy dat umožňuje manažerům jasněji uvažovat, „odstoupit od emocí dané situace“ a analyzovat situace objektivněji.
„Pro mě v tomhle je skutečná hodnota AI v tomto kontextu. …Umožnilo mi to promyslet situaci, zvážit možnosti racionálněji a nakonec se rozhodnout pro ten nejlepší postup,“ řekl Engel. „Potom jsem také použil ChatGPT, aby mi pomohl zamyslet se nad tím, jaké vlastnosti a silné stránky upřednostnit při mém dalším najímání. Opět ne jako náhrada lidského úsudku, ale jako nástroj k zaostření mého uvažování,“ doplnil.
Někteří podnikatelé používají nástroje AI k identifikaci zaměstnanců, kteří potřebují pomoc. „Naše hlasové AI simulace umožňují novým zaměstnancům od prvního dne provádět realistické simulované hovory. Tyto interakce jsou automaticky bodovány a spojovány s možnostmi koučování. Je to způsob, jak rychle zjistit, kdo dělá pokroky a kdo by mohl potřebovat větší podporu,“ sdělil Epoch Times Lonnie Johnston, generální ředitel vzdělávací platformy WizeCamel.
„Naše platforma pomáhá odhalit zaměstnance, kteří mají potíže, a sleduje, zda se zlepšují v přijatelném časovém horizontu,“ vysvětlil. Uvedl nedávný příklad toho, jak hodnocení AI poskytla data, která pomohla nadřízeným při rozhodování.
„Pracovali jsme s týmem nových agentů, kteří začali s fiktivními hovory ve stejném týdnu. Každý dostal počáteční skóre a zpětnou vazbu, následně opakovali simulace po několik dní s dalším kolem zpětné vazby. Někteří se zlepšili rychle, jiní ne. Tato data poskytla manažerům jasný a spravedlivý obraz o tom, kdo má pravděpodobně šanci uspět,“ uvedl.
Zdůraznil, že i když je AI kritickým nástrojem pro rozhodování, neměla by dělat konečná rozhodnutí. „Etický problém nastává, když AI rozhoduje bez lidské účasti,“ řekl Johnston, a zdůraznil, že AI by měla manažerům pomáhat činit informovaná rozhodnutí, nikoliv nahradit lidské myšlení.
Co se týče hodnocení výkonu, platforma pro zvyšování výkonu Betterworks zveřejnila v roce 2024 zprávu, ve které se uvádí, že dva ze tří dotázaných manažerů potřebují větší podporu při řešení výkonu zaměstnanců. Ve stejné analýze 35 % manažerů uvedlo, že již používají nástroje umělé inteligence ke zlepšení efektivity na pracovišti.
Podle společnosti Betterworks by umělá inteligence měla být využívána společně s uživateli a podporovat manažery „inteligentními návrhy, poskytováním komplexních souhrnů zpětné vazby a umožněním vytvářet zaměstnancům smysluplné cíle, které jsou v souladu s širšími cíli organizace“.
Na svých webových stránkách společnost OpenAI ponouká uživatele, kteří používají ChatGPT, aby kriticky posuzovali všechny poskytované informace a ověřovali je u spolehlivých zdrojů.
Kirksey řekl, že používá AI pro konkrétní úkoly ve své společnosti, včetně náboru, ale uvedl, že tyto nástroje jsou „v mnoha ohledech neideální“. „Roboti nedokážou číst mezi řádky a pochopit situaci zaměstnance,“ řekl a upozornil, že AI nedokáže zjistit, zda je problém s výkonem spojen s konkrétní událostí nebo osobním problémem, který může ovlivnit jinak dobrého pracovníka.
„AI lze použít jako zdroj dat, nedokáže ale vnímat takové nuance. Vždy věříme, že tak důležitá rozhodnutí by neměla být přijímána bez lidského posouzení. Technologie nám ve společnosti pomáhá, ale rozhodnutí vždy učiní lidé, protože ti dokážou vidět celkový obraz,“ míní. Dodal, že sdílí rostoucí obavy týkající se zaujatosti dat.
Expanze do neprobádaných vod
Stejně jako v případě rychlého technologického pokroku, i zde platí, že jakmile vlak opustí stanici, není cesty zpět.
Studie 131 trendů v oblasti umělé inteligence pro rok 2025 odhalila, že více než polovina společností plánuje začlenit umělou inteligenci do svého podnikání a stejné procento předpokládá, že umělá inteligence pomůže zlepšit rozhodovací procesy. Ve stejné analýze, kterou provedla kalifornská National University, 60 procent majitelů firem uvedlo, že věří, že umělá inteligence jim zvýší produktivitu.
V lednové zprávě společnost McKinsey & Company předpověděla dlouhodobou návratnost investic do AI pro podniky ve výši 4,4 bilionu dolarů v podobě zvýšení produktivity. Globální poradenská firma také uvedla, že 92 procent společností plánuje zvýšit své investice do AI. Důraz je však kladen na expanzi, nikoli nahrazení. AI by měla manažerům pomáhat, nikoli nahrazovat jejich úsudek.
– ete –
