Komentář
Vlna inovací v oblasti umělé inteligence (AI) zasáhla zdravotnický systém a výrazně s ním otřásla. AI nyní hraje důležitou roli v mnoha oblastech medicíny, včetně lékařského zobrazování a diagnostiky, zapisování poznámek a vedení dokumentace, fakturace, výzkumu léčiv a třídění pacientů a vyhodnocování příznaků.
Dvě třetiny amerických lékařů a 85 procent zdravotnických organizací dnes ve své praxi využívají AI. Jednou z nejběžnějších aplikací AI ve zdravotnictví jsou takzvaní „ambientní AI zapisovatelé“, kteří naslouchají návštěvám pacientů a automaticky vytvářejí přepisy a poznámky pro elektronické zdravotnické záznamy. Dalším běžným místem, kde se AI používá, jsou laboratoře a pracoviště pro čtení lékařských snímků, kde diagnostické nástroje podporované AI analyzují skeny a vzorky. Tyto systémy už dnes při interpretaci a diagnostice dat dosahují úrovně lidských diagnostiků, nebo ji dokonce překonávají. Zdravotnické systémy také využívají AI k řízení logistického zázemí své praxe, včetně plánování, fakturace, a dokonce i třídění pacientů.
S touto přívalovou vlnou změn přichází zvláštní směs optimismu a pesimismu, naděje a obav, příležitostí a rizik.
Nejprve několik dobrých zpráv. Mnozí lékaři a zdravotničtí odborníci, kteří odpovídali na dotazy Epoch Times, zmínili přínos AI zapisovatelů. Tito zapisovatelé snímají z lékařů obrovskou zátěž. Lékaři se nyní mohou soustředit na přítomnost u pacienta, místo aby se neustále obraceli k počítači a zapisovali poznámky. AI dramaticky snižuje administrativní a byrokratickou zátěž lékařů – odstraňuje hodiny papírování – a ponechává jim více času, aby se mohli lépe věnovat své skutečné práci, tedy péči o pacienty.
Psychiatr a odborný asistent na Perelman School of Medicine při Pensylvánské univerzitě, doktor Cooper Stone, popsal pro Epoch Times úlevu, kterou může AI přinést právě v oblasti administrativy.
„Jednou z nejobtížnějších částí lékařské praxe je dokumentace,“ řekl.
„Je velmi náročné být plně přítomen u pacienta, když člověk musí současně pořizovat gramaticky správné, strukturované a podrobné poznámky,“ sdělil Epoch Times. „AI zapisovatelé nabízejí skvělé řešení tohoto problému a umožňují lékařům být mnohem více zapojeni do kontaktu s pacienty.“
Současně je však Stone realistický, pokud jde o omezení těchto robotických zapisovatelů. Poukázal na to, že často mohou přehlédnout důležité nuance v tom, jak pacienti mluví, přičemž právě způsob vyjadřování často prozrazuje stejně mnoho jako samotný obsah sdělení.
„To je obzvlášť důležité v mém oboru psychiatrie, kde to, co je řečeno, nemusí být tak důležité jako to, jak je to řečeno,“ uvedl. „Například naslouchající AI zapisovatel může zaznamenat: ‚pacient uvádí, že není depresivní‘, což vytváří zcela jiný obraz než formulace: ‚pacient tichým a sklíčeným hlasem uvádí, že není depresivní‘.“
Další Stoneova obava se týká ochrany soukromí. Upozorňuje, že pacienti si ne vždy uvědomují, jak mohou být jejich informace zpeněženy tím, že slouží k trénování AI zapisovatelů. AI zapisovatel zaznamenává intimní detaily interakce mezi lékařem a pacientem a záruky ochrany soukromí nejsou neprůstřelné.
„I kdyby existovala ujištění o ochraně dat, AI zapisovatelé, jakkoli jsou pohodlní, zvyšují riziko úniku dat, protože k informacím o zdravotním stavu pacientů má přístup více subjektů,“ varuje.
Situace se stává ještě problematičtější, když ambientní AI zapisovatelé automaticky doplňují formulace souhlasu bez vědomí pacienta. Právě tento problém stojí v jádru hromadné žaloby proti zdravotnické organizaci Sharp HealthCare, která nyní probíhá.
Skrytý sběr dat
AI zapisovatelé přidávají do systému shromažďování a ukládání citlivých zdravotnických informací dalšího hráče. A čím více aktérů je do systému zapojeno, tím větší je riziko, že data uniknou, budou prodána nebo odcizena.
Urologický chirurg, spisovatel a filmař doktor George Ellis sdělil Epoch Times: „Využívání rozsáhlých a komplexních datových souborů – včetně genomických informací, zdravotnických záznamů a biometrických dat v reálném čase – vyvolává značné obavy o ochranu soukromí a o možnost bezpečnostních incidentů, a proto bude vyžadovat etické a právní rámce, které teprve dohánějí technologické možnosti.“
V některých případech není zavádění systémů AI jen otázkou zlepšení logistické efektivity a zmírnění administrativního přetížení. Někdy se AI přímo zapojuje do diagnostiky a léčby zranění a nemocí. AI nejen přepisuje rozhovory a vytváří poznámky, ale také zvýrazňuje informace obsažené v těchto poznámkách, navrhuje diagnózy a dokonce i léčbu. Ve specializacích, jako je patologie nebo radiologie, dokáže AI rychleji a někdy i přesněji identifikovat varovné signály na snímcích a v lékařských obrazech.
Jak vysvětlil doktor Mikel Daniels, podiatr (lékař specializující se na onemocnění nohou) a hlavní lékař společnosti WeTreatFeet Podiatry: „Když jsou tyto systémy používány správně, snižují počet přehlédnutých nálezů a pomáhají praktickým lékařům využívat rozhodovací podporu na úrovni specializovaných oborů přímo v místě péče.“ To představuje potenciálně život zachraňující využití této technologie.
Přestože AI může tyto procesy urychlit nebo zlepšit, někdy je také dokáže zamlžit.
„Většina současné AI je navržena tak, aby snižovala nejistotu,“ uvedl Daniels. „Zplošťuje pravděpodobnosti do podoby doporučení a tyto možnosti předkládá autoritativním tónem. Může však jít o halucinaci, nebo při nesprávném použití může péči nasměrovat k léčbě, která je zbytečná.“
Někdy se AI jednoduše mýlí – což může pro pacienty představovat riziko. Například jedna studie zjistila, že 23 procent odpovědí AI chatbotů na otázky týkající se sexuálního zdraví obsahovalo nepřesné informace. Ačkoli používání lékařských AI chatbotů doma není totéž jako využívání AI odborníky v klinickém prostředí, ukazuje to na nebezpečí skryté pod povrchem, a to i tehdy, když systémy používají lékaři. Přehnaně obdivný pohled na schopnosti AI a nadměrné spoléhání na její výstupy může pro pacienty představovat skutečné zdravotní riziko.
Problém navíc zhoršuje neprůhlednost některých z těchto systémů.
„Mnoho pokročilých modelů AI, zejména systémů hlubokého učení, jsou ‚černé skříňky‘, u nichž je obtížné nebo nemožné pochopit, jak dospěly ke konkrétní předpovědi nebo rozhodnutí,“ říká Ellis. „Ve vysoce rizikových lékařských situacích je dohled lékaře nezbytný pro důvěru a ověření doporučení, což je bez transparentnosti obtížné.“
Zachování dohledu a odpovědnosti musí být při dalším zavádění lékařské AI nejvyšší prioritou. Investorka do zdravotnictví a podnikatelka Joanna Nathanová poukázala na potřebu legislativního dohledu.
„Politika musí řešit klinickou odpovědnost, nejen schvalování produktů. … Pokud AI ovlivňuje diagnózu nebo léčbu, měl by dohled sahat až k tomu, jak jsou tyto nástroje zaváděny, na jakých datech jsou trénovány a jak jsou v klinické praxi kontrolovány,“ podotýká.
Někteří lékaři, včetně Stonea, tvrdí, že bez ohledu na dohled mají systémy AI v klinickém prostředí zásadní nedostatek, protože postrádají nuance, empatii a lidskou schopnost přizpůsobení. AI pracuje s algoritmy. Medicína je však mnohem víc než jen čísla, vývojové diagramy a funkce typu „pokud–pak“.
„Medicína není věda, je to umění,“ dodává Stone. „Počítače postrádají klinickou zkušenost a pacienti jen zřídka přesně zapadají do jedné diagnostické kategorie nebo léčebného algoritmu. Nic není černobílé. Existují odstíny šedi a často musíme vybočit z vyznačených linií.“
Programování lidskosti pryč
Stone zde otevírá další zásadní obavu v debatě o AI: Co se ztratí ve chvíli, kdy systémy a stroje začnou nahrazovat lidské spojení, empatii, zkušenost a iniciativu? Daniels upozorňuje, že zavádění AI může u zdravotnických pracovníků i pacientů vyvolat pocit, že jsou „spíše zdroji dat než lidmi, kteří společně řeší problém“.
Důvěra pacientů a vztah mezi lékařem a pacientem mohou utrpět, když systémy začnou mít přednost před soucitem. V lidském doteku, lidském úsměvu a lidském hlase, který říká „vidím vás, slyším vás, rozumím vám a chci vám pomoci“, je něco jedinečně léčivého. AI nic z toho nemá.
Na straně zdravotnických pracovníků může nadměrné spoléhání na AI oslabit jejich hrdost a pocit naplnění z práce. Někteří kvalifikovaní odborníci mají pocit, že je automatizované procesy odsouvají na vedlejší kolej.
„Další výzkum automatizace naznačuje, že jakmile jsou úkoly automatizovány, pracovníci často uvádějí menší stres, ale zároveň horší zdraví a nižší pracovní spokojenost,“ podotýká Daniels. „Lidé mají pocit, že jsou více sledováni, mají menší autonomii a mají menší podíl na výsledku.“
Možná existuje střední cesta. Možná lze AI využít k úspoře času a snížení byrokratické zátěže. Mohla by lékařům umožnit dělat to, k čemu jsou určeni: navazovat vztah s pacienty a pomáhat jim uzdravovat se.
„Je nepravděpodobné, že by AI nahradila lékaře, sestry a techniky,“ předpovídá Ellis. „Může však poskytnout nástroje k optimalizaci diagnostiky a řízení léčby, zefektivnit péči o pacienty a umožnit zdravotníkům vytvářet prostředí zaměřené na pacienta.“
Pokušení přenechat strojům stále větší prostor však přetrvává. Najdeme skutečně zdravou rovnováhu v lékařských aplikacích AI, nebo z medicínského systému, který už dnes trpí odosobněním, odstraníme další část jeho lidského rozměru?
Dr. AI už možná přišel, ale konečný verdikt zatím nepadl.
Názory vyjádřené v tomto článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
–ete–
