Professor Hatim Abdulhussein, CEO van Health Innovation Kent Surrey Sussex
Er is een initiatief gelanceerd met de naam TrustX om AI van agenten te helpen verifiëren, inzetten en testen voor gebruik in de NHS en de sociale zorg.
Het is bedoeld om het tienjarige gezondheidszorgplan van de NHS te ondersteunen, waarin wordt opgeroepen tot grootschalige adoptie van AI-tools, waaronder technologie ter ondersteuning van diagnose, automatisering van administratieve taken, het voorspellen van de vraag naar diensten, en ambient voice-agents voor taken zoals het maken van aantekeningen.
TrustX heeft tot doel het risico van vooringenomenheid, potentiële fouten en desinformatie van AI-agenten aan te pakken door te evalueren hoe ze zich gedragen in reële situaties, omgaan met andere technologieën en gegevensbronnen, en hoe ze in de loop van de tijd kunnen veranderen.
Het initiatief wordt uitgevoerd in samenwerking tussen Health Innovation Kent Surrey Sussex (KSS), het Trustworthy AI Lab van de Universiteit van Cambridge, het Responsible AI Institute en The King’s Fund.
Professor Hatim Abdulhussein, CEO van Health Innovation KSS, gezegd: “Frontline NHS-teams hebben AI nodig die veilig, praktisch en klaar is voor echte druk.
“TrustX verbindt innovatie met de plaatsen waar het er het meest toe doet, waardoor artsen en operationele leiders een betrouwbare manier krijgen om Agentic AI te testen, evalueren en adopteren.
“Dit partnerschap zal de NHS helpen sneller te handelen, wrijving te verminderen en betekenisvolle verbeteringen in de productiviteit en patiëntenzorg te realiseren.”
Er wordt gehoopt dat TrustX de ontwikkeling van een gedeeld ecosysteem voor veilige experimenten, snel leren en schaalbare adoptie binnen de NHS zal informeren en ondersteunen.
Het zal een ‘vertrouwde AI-technologie’-badge introduceren om professionals en het publiek het vertrouwen te geven dat een softwaresysteem onafhankelijk is geverifieerd en in de loop van de tijd wordt gecontroleerd op veiligheid, nauwkeurigheid en afstemming.
Sarah Woolnough, CEO van The King’s Fund, zei: “We zijn verheugd om deel uit te maken van het partnerschap om TrustX te lanceren en een rol te spelen bij het ondersteunen van de ontwikkeling, validatie en implementatie van agentische AI binnen een NHS-omgeving.
“Het tienjarige gezondheidsplan zegt terecht dat innovatie en het gebruik van geavanceerde technologie een belangrijke rol kunnen spelen bij het aanpakken van enkele van de operationele druk en uitdagingen waarmee ons gezondheidszorg- en zorgsysteem wordt geconfronteerd.
“Op de langere termijn is er een enorm potentieel voor AI – als het goed wordt geïmplementeerd – om de manier waarop de NHS werkt te transformeren en de zorg voor patiënten te verbeteren en hoe mensen NHS-diensten ervaren.”
TrustX wordt ondersteund door oprichters van Britse gezondheidstechnologiebedrijven, waaronder dr. Dom Pimenta van TORTUS, dr. Haris Shuaib van Newtons Tree, Carmelo Insalaco van Rapid Health, dr. John Jeans van CLEARnotes, Amna Askari en Rachel Finegold van Frontier Health AI en Seb Barker van Beam.
In een gezamenlijke verklaring zeiden de oprichters: “Als oprichters van toonaangevende AI-bedrijven in de gezondheidszorg delen we de toewijding aan het bouwen van technologieën die veilig en betrouwbaar zijn en afgestemd zijn op de behoeften van artsen en patiënten.
“Door bij te dragen aan TrustX willen we een maatstaf zetten voor verantwoorde innovatie en helpen we een ecosysteem te creëren waarin AI meetbare voordelen oplevert zonder de veiligheid in gevaar te brengen.”
Ondertussen werd in september door de Medicines and Healthcare products Regulatory Agency een nationale commissie opgericht om de toegang tot de nieuwste AI-tools te versnellen, waaronder AI-omgevingsstemtechnologie voor het maken van klinische aantekeningen.
