Charles, Renée Pratt, voormalig voorzitter van de Special Interest Group on Information Technology in Healthcare van de Association for Information Systems, en Jack Crumbly, hoofd van de managementafdeling en faculteit van het Andrew F. Brimmer College of Business and Information Science aan de Tuskegee University, leidden de sessie voor artsen en IT-belanghebbenden in de gezondheidszorg. Ze moedigden de aanwezigen aan om dieper na te denken over de risico’s en voordelen die verbonden zijn aan bestaande klinische documentatietools.
Toenemend toezicht op tools voor ambient intelligence
Artsen worden steeds enthousiaster over het toepassen van kunstmatige intelligentie in hun praktijk, vooral als dit kan helpen de administratieve lasten, zoals documentatie, te verminderen. In de afgelopen jaren hebben een aantal gezondheidszorgsystemen opgemerkt dat het gebruik van omgevingsgerichte luisterhulpmiddelen helpt tijd te besparen bij het in kaart brengen, de tevredenheid van artsen te verbeteren en meer aandacht voor patiënten te creëren.
Aan de kant van de patiënt hebben sommigen misschien het gevoel dat hun artsen meer aandacht aan hen kunnen besteden in plaats van aan een computerscherm, zoals een video van UW Health laat zien. Maar anderen maken zich misschien nog steeds zorgen over de onbedoelde gevolgen van het gebruik van AI in de gezondheidszorg, met name een verkeerde diagnose, inbreuken op de privacy, minder tijd met artsen en hogere zorgkosten.
LEES MEER: Hoe u de kracht van de AI-strategie kunt versterken met klinisch inzicht.
De ambivalentie over de instrumenten voor omgevingsintelligentie is zelfs vertegenwoordigd in veel bekeken medische drama’s op tv: een recente aflevering van HBO De Pitt geeft de opwinding en voorzichtigheid weer waarmee artsen deze hulpmiddelen hebben ontvangen.
Tijdens de HIMSS-sessie benadrukte Charles ook de opkomende juridische zorgen over het aansprakelijk stellen van aanbiedersorganisaties voor negatieve resultaten die verband houden met het gebruik van AI in toepassingen in de gezondheidszorg. Vorige maand publiceerde de American Bar Association een artikel waarin de privacy- en veiligheidsproblemen met ambient listening-tools werden geschetst, waaronder recente rechtszaken in Californië en Illinois over het gebruik van dergelijke technologie zonder toestemming van de patiënt.
Wanneer moeten artsen patiënten vertellen dat hun interacties worden getranscribeerd door een luisterhulpmiddel? Moet de openbaarmaking aan het begin van elke ontmoeting plaatsvinden? Wat als het een intramurale setting betreft waarbij artsen een patiënt meerdere keren per dag moeten zien? Is het voldoende om het schriftelijk op te nemen in het papierwerk dat moet worden ondertekend, waar patiënten meestal doorheen bladeren? Dit zijn allemaal vragen die voorlopig worden beantwoord door individuele gezondheidszorgorganisaties, aangezien de federale richtlijnen nog niet zijn ingehaald.
ONTDEKKEN: Klinische workflowoptimalisatie zorgt voor betere patiëntresultaten.
Pratt merkte op dat andere operationele problemen apparaatbeheer en netwerkbeveiliging omvatten. Als organisaties een BYOD-beleid hebben, voldoet het instrument voor omgevingsluisteren dan aan de eisen op de persoonlijke smartphone van een arts? Hoe worden apparaten schoon gehouden? Ze maakte ook melding van zorgen over het gebruik van ‘wake-words’ die onbedoeld niet alleen het apparaat van de arts met de tool zouden kunnen activeren, maar ook apparaten van patiënten.
“Als we nadenken over AI-governance, wil je jezelf een aantal vragen stellen. Wie is verantwoordelijk? Wie mag? Wiens gegevens kunnen worden gebruikt? Hoe kun je eventuele problemen opvangen? Het kunnen beheren van die vragen zal uiterst cruciaal zijn, “zei Pratt.
