Van links naar rechts: dr. Joe Zhang, hoofd datawetenschap bij het London AI Centre and Secure Data Environment, en dr. Jessica Morley, postdoctoraal onderzoeker bij het Yale University Digital Ethics Centre
Veel grote technologiebedrijven beloven te veel en leveren te weinig op op het gebied van AI, waarschuwden deskundigen op het gebied van gezondheidsgegevens van Digital Health Rewired.
Tijdens een toespraak op de NEC Birmingham op 24 maart zei dr. Jessica Morley, postdoctoraal onderzoeker aan het Yale University Digital Ethics Center, dat veel van de “grote, hypey beloften” van de AI-sector niet waargemaakt kunnen worden, en drong zij er bij gezondheidszorgaanbieders op aan om te investeren in mensen en infrastructuur om de beste resultaten te leveren.
“Waarom geven we ons geld aan grote particuliere technologiebedrijven? En moeten we meer in eigen beheer bouwen?
“Ik denk dat NHS-trusts te maken krijgen met een enorme druk om AI te adopteren, maar niemand weet echt hoe te beoordelen of AI de juiste oplossing is.
“Kleinere, meer basale dingen zijn waarschijnlijk nuttiger dan proberen een of andere supersnelle AI te kopen.
“Het gaat erom dat je voldoende zelfvertrouwen hebt om te zeggen ‘eigenlijk denk ik dat dit niet de juiste oplossing is voor mijn specifieke ziekenhuis’,” vertelde Morley. Digitaal gezondheidsnieuws.
Dr. Joe Zhang, hoofd datawetenschap bij het London AI Centre en Secure Data Environment, vergeleek een deel van de AI die in gezondheidsonderzoek wordt gebruikt met ‘slangenolie’ en zei dat ze ondanks alle hype nog geen echte impact hebben.
Hij benadrukte dat sommige AI die in onderzoek wordt gebruikt mogelijk alleen is gevalideerd door de gegevens waarop deze is gebouwd, en niet is getest buiten een onderzoeksomgeving, en wordt geëvalueerd door het team dat de AI heeft gebouwd.
“We krijgen de basis niet goed gedaan, of dat nu op menselijk of sociaal vlak is, voor wat we willen bereiken”, zei Zhang.
Hij vroeg zich ook af of de potentiële waarde van NHS-gegevens effectief werd gebruikt door technologiebedrijven.
“De waarde van de NHS vloeit naar hen toe.
“We kunnen veel meer doen om fundamentele dingen goed te doen op infrastructuurniveau, de echte waarde van data te laten stijgen en de waarde daarvan stroomafwaarts te benutten door te innoveren om onze eigen problemen op te lossen door samen te werken met technologie, maar deze niet aan technologie te geven”, voegde hij eraan toe.
Morley en Zhang vertelden het Rewired-publiek dat sommige AI-bedrijven beweren dat hun technologie kan zorgen voor meer efficiëntie, kostenbesparingen, betere patiëntresultaten, minder ongelijkheid en een verbeterd welzijn van artsen.
In dia’s die op de conferentie werden gedeeld, zeiden ze echter dat veel van deze voordelen worden gepresenteerd als een “automatisch gevolg van capaciteiten”, en dat de voordelen “onmiddellijk realiseerbaar zijn, ongeacht de vereiste capaciteiten”.
