Mensen gecentreerd houden in het AI-gesprek
Tijdens een sessie over het herdefiniëren van het mens-AI-partnerschap in de gezondheidszorg zei Matt Troup, oplossingshoofd voor klinische documentatie bij Abridge, dat toen hij als arts werkte, een van zijn grootste uitdagingen was om uit te vinden hoe hij zijn tijd het beste kon gebruiken, zodat hij zowel aan de behoeften van zijn patiënten als aan zijn familie kon voldoen. AI kan artsen helpen hun werkdruk te transformeren en hen in staat te stellen zowel hun patiënten als hun familie de tijd te geven die ze verdienen.
Pallavi Ranade-Kharkar, bedrijfsdirecteur onderzoeksinformatica en genomica bij Intermountain Health, deelde hoe haar organisatie artsen weer tijd geeft om zich op patiënten te concentreren door AI te gebruiken om Epic in-basket-berichten af te handelen. De tool stelt een antwoord op op basis van de vraag of opmerking van de patiënt en wordt ondersteund door de context in het medisch dossier van de patiënt. De arts kan het bericht bekijken voordat het wordt verzonden.
“Deze interventie heeft de workflows vereenvoudigd en gestroomlijnd, en er zijn realtime besparingen van 20 tot 30 seconden per bericht gerealiseerd”, zei ze. “Dit vermindert de ‘pyjamatijd’ en helpt artsen zich te concentreren op de dingen waar ze het beste in zijn.”
Bij de implementatie van AI benadrukte Russell Yeager, senior vice-president en CIO bij Encompass Health, dat augmented intelligence en mensen moeten samenwerken. Zijn organisatie richt zich op echte intelligentie in plaats van AI.
“We combineren AI met onze klinische en zakelijke intelligentie om echte informatie te bieden aan mensen die betrokken zijn bij de besluitvorming”, zei hij. Yeager wees erop dat hoewel AI autonoom kan zijn als het gaat om IT-activiteiten, er vangrails nodig zijn bij gebruik in de patiëntenzorg.
Hoewel AI een enorm potentieel biedt voor de gezondheidszorg, brengt het ook risico’s met zich mee. Ranade-Kharkar zei dat onnauwkeurigheden in gegevens, een gebrek aan transparantie en toegenomen beveiligings- en privacykwetsbaarheden enkele van de grootste risico’s zijn.
“In het centrum van de gezondheidszorg staat de mens, een patiënt. Mens-tot-mens interactie is de kern van een positieve patiëntervaring. Met dat in gedachten moeten we vangrails bedenken om het verantwoorde gebruik van AI te garanderen”, zei ze, eraan toevoegend dat het identificeren van belangrijke prestatie-indicatoren en het meten ervan een groot deel is van wat AI-succes betekent.
Tracey Touma, cybersecurity business liaison bij Cleveland Clinic, legde uit dat AI-governance een andere belangrijke factor is in het succes van AI.
DUIK DIEPER: Data governance is een menselijke uitdaging, niet alleen een technisch probleem.
“We moeten daar beginnen. Mensen willen dat glimmende nieuwe speeltje en willen snel vooruitgang boeken. AI beweegt zich snel en furieus, maar we moeten ervoor zorgen dat we over governance beschikken om AI veilig en veilig te implementeren”, zei ze. “We hebben allemaal gehoord van hallucinaties en valse positieven. De gegevens zijn slechts zo goed als wat er in het systeem staat. Zorg ervoor dat de gegevens goed, veilig en beschermd zijn.”
Risicobeoordeling en documentatie zouden volgens Ranade-Kharkar een sleutelrol moeten spelen in het AI-beheer. Het hebben van een AI-governancecommissie waarmee organisaties interne en externe producten evalueren, is de eerste stap in de adoptie van AI. Algoritmische drift kan optreden en vooringenomenheid veroorzaken. Het is dus van cruciaal belang dat organisaties voortdurend kwaliteitsmonitoring ondergaan van hoe goed hun AI-tools presteren. Organisaties zouden ook een inventaris moeten hebben van hun tools, met transparantie over hoe de leverancier de algoritmen oorspronkelijk heeft getest en gevalideerd, voegde ze eraan toe.
Intermountain Health heeft onlangs zijn elektronische patiëntendossier naar Epic gemigreerd, en de organisatie vertrouwt op hen om het te helpen implementeren en operationeel te maken, vooral als het gaat om de lange lijst met beschikbare AI-tools.
“We hebben ze nog niet allemaal ingeschakeld. We doen het op een opzettelijke en doordachte manier”, zei ze. “We zullen ze één voor één inschakelen, omdat we zeker weten dat we ze kunnen monitoren en dat kwaliteitsniveau kunnen behouden.”
Touma benadrukte de noodzaak van intentie bij de adoptie van AI in de gezondheidszorg. Het is belangrijk om belanghebbenden uit alle afdelingen en bedrijfsgebieden te hebben om ervoor te zorgen dat de organisatie niets mist. En de organisatie moet niet zomaar een glimmend nieuw hulpmiddel kopen; het instrument had kostenbesparingen moeten aantonen of zorgen over de patiëntervaring, de patiëntresultaten of de zorgervaring moeten wegnemen.
“Uiteindelijk zijn we bezig met het verzorgen van patiënten”, voegde ze eraan toe. “Als AI deze drie problemen kan oplossen, moeten we weten hoe, wat de impact, de kosten en de zakelijke use case zijn.”
Houd deze pagina bij uw favorieten voor onze berichtgeving over het CHIME Fall Forum 2025. Volg ons op X op @HealthTechMag en neem deel aan het gesprek op #BEL25.
