Dr. Henrietta Hughes OBE, de Engelse commissaris voor patiëntveiligheid (Credit: foto’s door fotograaf Londen)
Zorgen over veiligheid, toezicht en aansprakelijkheid leiden tot zorgen over het gebruik van AI in de gezondheidszorg, zo blijkt uit bevindingen van de Medicines and Healthcare products Regulatory Agency (MHRA).
Een oproep tot bewijsmateriaal, gelanceerd in december 2025, benadrukt het ongemak over het monitoren van AI-instrumenten en wie verantwoordelijk is als er iets misgaat, volgens een blogpost van professor Henrietta Hughes, commissaris voor patiëntveiligheid.
De bevindingen zullen de Nationale Commissie informeren over de regulering van AI in de gezondheidszorg, die is opgericht om een snellere adoptie van AI-instrumenten zoals ambient voice-technologieën te ondersteunen.
Er werden ruim 770 reacties ingediend door artsen, de industrie, patiënten en het publiek voordat de consultatie in februari 2026 werd afgesloten.
Hughes, vice-voorzitter van de commissie, zei dat er “sterke steun was voor de hervorming van de huidige regelgevingsaanpak”, waarbij er bezorgdheid ontstond over de manier waarop AI-medische apparaten na de inzet zullen worden gemonitord en wie aansprakelijk zal zijn zodra AI meer betrokken raakt bij de klinische besluitvorming.
“Het aanpakken hiervan zal van cruciaal belang zijn voor de bescherming van patiënten, het ondersteunen van artsen en het opbouwen van vertrouwen, en zal samenwerking binnen het hele systeem vereisen”, zei ze.
Hughes voegde eraan toe dat “mensen betekenisvolle veranderingen willen, maar geen volledige herziening” van de huidige regelgeving.
Naast de oproep om bewijsmateriaal zei Hughes dat er een breder programma van betrokkenheid gaande is om ervoor te zorgen dat een breed scala aan stemmen het werk van de commissie vormgeeft.
De MHRA heeft in samenwerking met National Voices samengewerkt met patiënten en gemeenschappen, inclusief degenen die vaak buiten deze gesprekken worden gehouden, zoals mensen met leerproblemen, verzorgers en jongeren.
Het heeft ook openbare discussiesessies ondersteund die door The Health Foundation met Ipsos MORI werden georganiseerd, en overleg met de patiënten- en publieke gemeenschap.
“Deze discussies laten zien dat mensen zich meer op hun gemak voelen bij het ondersteunen van artsen door AI, bijvoorbeeld door het verminderen van de administratieve lasten, dan bij het zelfstandig nemen van beslissingen met hoge inzet.
“Er wordt sterk de nadruk gelegd op menselijk toezicht, transparantie en bewijs dat deze technologieën voor iedereen veilig werken.
“Uit alle betrokkenheid blijkt een consistent beeld dat vertrouwen cruciaal is voor de vraag of de voordelen van AI in de gezondheidszorg kunnen worden gerealiseerd”, aldus Hughes.
Het werk van de commissie wordt ondersteund door vier werkgroepen die expertise samenbrengen op het gebied van gezondheidszorgsystemen, technologie, gedecentraliseerde landen en de overheid.
“Als voorzitter van de Health Systems Working Group lag mijn focus op het garanderen dat AI wordt gebruikt op een manier die rekening houdt met het perspectief van de patiënt.
“Dit betekent dat we vanuit een patiëntgerichte kijk moeten kijken naar de manier waarop technologieën worden ontworpen, geïmplementeerd en gecontroleerd in de dagelijkse gezondheidszorg”, voegde Hughes eraan toe.
De aanbevelingen van de commissie zullen naar verwachting in de zomer van 2026 worden gepubliceerd.
Hughes organiseert op 20 mei 2026 een open publiek webinar over de commissie, met Lawrence Tallon, algemeen directeur van de MHRA, en professor Alastair Denniston, voorzitter van de commissie.
Hier kunt u zich aanmelden en vooraf uw vragen stellen.
