NHS England heeft nieuwe richtlijnen gepubliceerd over het gebruik van door AI aangedreven tools voor omgevingsregistratie in gezondheidszorg- en zorgomgevingen, waarin wordt uiteengezet hoe organisaties de technologie veilig kunnen adopteren en tegelijkertijd kunnen voldoen aan de eisen op het gebied van gegevensbescherming en patiëntenrechten.
Ambient scribers zijn AI-tools die passief naar klinische gesprekken luisteren en automatisch resultaten genereren, zoals consultatienotities, samenvattingen of brieven. De technologie helpt de administratieve lasten te verminderen en zorgt ervoor dat artsen meer tijd aan patiënten kunnen besteden.
De richtlijn, ontwikkeld met input van het Information Commissioner’s Office (ICO) en de National Data Guardian (NDG), bevat secties voor patiënten, gezondheidswerkers en IG-professionals.
Het beschrijft hoe informatie wordt verwerkt bij het gebruik van deze technologieën, evenals belangrijke overwegingen rond transparantie, keuze en waarborgen om de privacy te beschermen.
Een belangrijke boodschap in de richtlijn is dat hoewel er geen uitdrukkelijke toestemming vereist is voor het gebruik van ambient writers in de individuele zorg, transparantie wel essentieel is.
Artsen moeten patiënten aan het begin van elke interactie informeren of de technologie wordt gebruikt, en patiënten moeten de kans krijgen om bezwaar te maken, aldus het rapport.
De richtlijn voegt eraan toe dat “als een individu het er niet mee eens is, je dat instrument niet kunt gebruiken”, waardoor de keuze van de patiënt centraal blijft staan, ondanks de introductie van AI.
In een bericht op LinkedIn zei George Onisiforou, lid van de NHS England Responsible AI Adoption Committee en adviseur voor de verantwoorde adoptie van AI voor NHSE en het ministerie van Volksgezondheid en Sociale Zorg, dat de richtlijnen “een belangrijke mijlpaal zijn, aangezien sterk informatiebeheer essentieel is om het vertrouwen van de patiënt, de veiligheid en de naleving van de wetgeving te behouden”.
“Enorme dank aan iedereen die betrokken is bij het ontwikkelen van deze richtlijn – collega’s van NHS England, onze IG-experts en de Health and Care Information Governance Working Group”, voegde hij eraan toe.
Beroepsbeoefenaren in de gezondheidszorg worden er in de richtlijn ook aan herinnerd dat zij de volledige verantwoordelijkheid behouden voor de juistheid van klinische dossiers.
Uitvoer gegenereerd door omgevingsschrijvers moet worden gecontroleerd en gecorrigeerd voordat deze aan patiëntendossiers wordt toegevoegd, waarbij aanvullende validatie wordt aanbevolen in complexere scenario’s zoals vertaling.
Voor organisaties benadrukt de richtlijn de noodzaak van robuuste bestuursprocessen, waaronder het uitvoeren van gegevensbeschermingseffectbeoordelingen, het duidelijk definiëren van de rollen van de gegevensbeheerder en de verwerker, en het waarborgen dat leveranciers voldoen aan strikte beveiligings- en nalevingsnormen.
Dataminimalisatie is een ander belangrijk thema, waarbij de NHSE benadrukt dat audio-opnamen en transcripties doorgaans moeten worden verwijderd zodra een geverifieerde samenvatting is geproduceerd, tenzij er een duidelijke rechtvaardiging is om ze te behouden, zoals het monitoren van de prestaties van tools.
Terwijl ambient scribes worden gepositioneerd als een hulpmiddel om de klinische besluitvorming te ondersteunen en niet te vervangen, benadrukt NHS England dat hun adoptie nieuwe risico’s met zich meebrengt. Organisaties worden dringend verzocht ervoor te zorgen dat het personeel goed is opgeleid en dat er beleid is opgesteld om veilig en effectief gebruik te garanderen.
De nieuwe richtlijnen komen naarmate de belangstelling voor generatieve AI-tools binnen de NHS toeneemt. Vorige maand werd onthuld dat de East Lancashire Hospitals NHS Trust een programma organiseert om ambient voice-technologie (AVT) in te zetten in de NHS in Engeland.
Dit komt nadat NHSE haar nationale zelfgecertificeerde register voor AVT-leveranciers heeft gelanceerd om bewijs van naleving te tonen.
