Medicína
První manuál, jak se v radách chatbotů neztratit
Podle aktuálních dat využívá umělou inteligenci (AI) ke zdravotním dotazům až 80 milionů lidí každých 24 hodin. Česká lékařská společnost Jana Evangelisty Purkyně (ČLS JEP) na tento trend reaguje představením unikátní příručky „AI ve zdravotnictví pro pacienta“, kterou připravila ČLS pro umělou inteligenci a inovativní digitální technologie v medicíně a Česká asociace umělé inteligence (ČAUI) ve spolupráci s Ministerstvem zdravotnictví.
Využívání generativní umělé inteligence k interpretaci zdravotního stavu se stává novým celospolečenským fenoménem. Jen ChatGPT celosvětově využívá k dotazům na symptomy nebo výsledky laboratorních vyšetření 40 milionů uživatelů denně. Při započtení ostatních platforem, jako jsou Gemini či Claude, však expertní odhady hovoří o celkovém zásahu až 80 milionů uživatelů každých 24 hodin. AI se tak stala pro značnou část populace vůbec prvním kontaktem při zdravotních obtížích. Příručka, která má veřejnosti sloužit jako vodítko pro bezpečné a informované využívání AI, je již volně dostupná na stránkách ČAUI.
„Umělou inteligenci dnes nevyužívají jen nemocnice, ale stále častěji i samotní pacienti. Proto je důležité nastavit jasná pravidla pro její bezpečné a smysluplné využití a zároveň se víc zaměřit na vzdělávání veřejnosti. Je důležité, aby nové nástroje lékařům práci usnadňovaly a šetřily jim čas, ne aby je nahrazovaly. Vznikající příručka je proto praktickým průvodcem, který pomůže se v těchto technologiích lépe zorientovat a bezpečně je využívat,“ podle slov ministra zdravotnictví.
Důležitým pilířem bezpečného využívání těchto nástrojů je vedle osvěty také ochrana dat a soukromí, což v rámci strategie resortu upřesňuje vrchní ředitelka sekce zdravotnických technologií na Ministerstvu zdravotnictví: Cílem je přistupovat k edukaci veřejnosti i zdravotníků nízkoprahově a srozumitelně. Příručka je prvním krokem v širší strategii, jak nastavit transparentní a bezpečný rámec pro vstup inovací do českého zdravotnictví, kde na prvním místě vždy zůstává ochrana pacienta a jeho dat.
Vedle kybernetické bezpečnosti a ochrany dat však odborníci upozorňují i na rizika spojená s psychickým dopadem nekontrolovaného využívání chatbotů „Rizikem při používání AI chatbotů ve zdravotních otázkách je mimo jiné stav popisovaný novým termínem „symptomová spirála“. Nemocný začíná opakovaně zadávat své příznaky, drobné tělesné nebo psychické obtíže, a dostává stále nové seznamy možných diagnóz. Ty často zahrnují i závažné scénáře, které zvyšují úzkost a vedou k dalšímu sledování těla a dalším dotazům. Místo uklidnění tak může dojít k bludnému kruhu: čím více se uživatel ptá, tím více se obává, a čím větší je obava, tím intenzivněji hledá další potvrzení,“ upozorňuje místopředseda České psychiatrické společnosti.
U zranitelných jedinců hrozí vznik nezdravé závislosti nebo prohlubování osamělosti. Alarmující jsou informace o negativním vlivu na vyvíjející se dětský mozek. V medicíně i při péči o duševní zdraví má proto AI své místo především jako podpůrný nástroj, nikoliv jako náhrada lékaře, terapeuta či skutečného lidského vztahu.
„Denně jsou fantastické články o tom, jak AI překonává lékaře. Realita je ale jiná. Umělá inteligence může být velmi užitečným nástrojem, pokud je správně nasazena, ověřena a používána ve správném kontextu. Pacientům je nutno ukázat, kde AI ve zdravotnictví opravdu pomáhá, kdy jí mohou důvěřovat a kde by naopak měli být opatrní. Například při sdílení svých zdravotních údajů s generativními nástroji, jako je ChatGPT. O to je významnější spolupráce se zdravotnictvím,“ doplňuje předseda zdravotnické skupiny České asociace umělé inteligence a člen výboru pro umělou inteligenci na Ministerstvu zdravotnictví.
O tom, že hranice mezi užitečným nástrojem či zdrojem obav a nepřesných informací je v praxi velmi tenká, svědčí i zkušenosti praktického lékaře: “Nejen praktičtí lékaři čelí fenoménu, kdy pacienti přicházejí s diagnózou či návrhem léčby od AI. Tyto výstupy působí díky své struktuře velmi přesvědčivě, což u laiků vyvolává falešný pocit neomylnosti. V praxi to pak vytváří tlak na neodůvodněná vyšetření, nebo dokonce riskuje život pacienta, pokud AI doporučí odklad akutní péče. Aktivní přístup pacientů ke zdraví sice vítá, je ale nezbytné zasadit informace od AI do správného kontextu a ochránit pacienta před chybnými závěry.”
"Právě proto dává nová příručka lidem do ruky manuál, jak s technologiemi pracovat. Kdy používat AI chatboty k radám o zdravotním stavu. Je nutné si uvědomit, že současné veřejně dostupné velké jazykové modely nejsou certifikované k lékařskému účelu. AI může být skvělý pomocník pro vysvětlení složitých termínů, nesmí však být primárním zdrojem informací. Lékař pracuje jiným způsobem. Velkým rizikem u AI může být také sdílení citlivých osobních údajů, které tam lidé zadávají,“ uzavírá místopředseda pro vzdělávání České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně.
Česká lékařská společnost Jana Evangelisty Purkyně (ČLS JEP) je nejstarší a nejvýznamnější odborná lékařská organizace v České republice. Dle TZ
www.pppartners.cz
