Medische experts met wie ik sprak waren terughoudend bij het idee om hun eigen gezondheidsgegevens te uploaden zodat een AI-model, zoals Muse Spark, deze kon analyseren. “Met deze chatbots kun je nu je eigen biometrische gegevens koppelen en je eigen laboratoriuminformatie invoeren, en eerlijk gezegd, dat maakt me behoorlijk nerveus”, zegt Gauri Agarwaleen doctor in de geneeskunde en universitair hoofddocent aan de Universiteit van Miami. “Ik zou mijn eigen gezondheidsinformatie zeker niet koppelen aan een dienst die ik niet volledig kan controleren, begrijpen waar die informatie wordt opgeslagen of hoe deze wordt gebruikt.” Ze raadt mensen aan om zich te houden aan meer algemene interacties met een lagere inzet, zoals het voorbereiden van vragen voor uw arts.
Het kan verleidelijk zijn om te vertrouwen op door AI ondersteunde hulp bij het interpreteren van de gezondheid, vooral gezien de torenhoge kosten van medische behandelingen en de algehele ontoegankelijkheid van reguliere doktersbezoeken voor sommige mensen die zich in het Amerikaanse gezondheidszorgsysteem begeven.
“Het zal je vergeven worden als je online gaat en wat ooit een krachtige, belangrijke persoonlijke relatie tussen een arts en een patiënt was, delegeert aan een robot”, zegt Kenneth Goodman, oprichter van het Institute for Bioethics and Health Policy van de Universiteit van Miami. “Ik denk dat het gevaarlijk is om daar zonder due diligence tegenaan te lopen.” Voordat hij overweegt een van deze tools te gebruiken, wil Goodman eerst onderzoek zien waaruit blijkt dat ze gunstig zijn voor je gezondheid en niet alleen beter zijn in het beantwoorden van gezondheidsvragen dan een chatbot van een concurrent.
Toen ik Meta AI om meer informatie vroeg over hoe het mijn gezondheidsinformatie zou interpreteren, als ik die zou verstrekken, zei de chatbot dat hij niet probeerde mijn arts te vervangen; de output was voor educatieve doeleinden. “Beschouw mij als een professor in de geneeskunde, niet als je dokter”, zei Meta AI. Dat is nog steeds een verheven claim.
De bot zei dat de beste manier om een interpretatie van mijn gezondheidsgegevens te krijgen, was door ‘de onbewerkte gegevens’, zoals klinische laboratoriumrapporten, te dumpen en te vertellen wat mijn doelen waren. Meta AI zou vervolgens grafieken maken, de informatie samenvatten en indien nodig een ‘verwijzingsstootje geven’. In andere chats die ik met Meta AI voerde, vroeg de bot me om persoonlijke gegevens te verwijderen voordat ik laboratoriumresultaten uploadde, maar deze voorbehouden waren niet in elk testgesprek aanwezig.
“Mensen gebruiken internet al lang om gezondheidsvragen te stellen”, vertelt een woordvoerder van Meta aan WIRED. “Met Meta AI en Muse Spark hebben mensen de controle over welke informatie ze moeten delen, en onze voorwaarden maken duidelijk dat ze alleen mogen delen waar ze zich prettig bij voelen.”
Naast zorgen over de privacy uitten experts met wie ik sprak hun bezorgdheid over de manier waarop deze AI-tools sycofantisch kunnen zijn en beïnvloed kunnen worden door de manier waarop gebruikers vragen stellen. “Een model zou de verstrekte informatie meer als een gegeven kunnen beschouwen, zonder de aannames die de patiënt inherent maakte bij het stellen van de vraag in twijfel te trekken”, zegt Agrawal.
Toen ik vroeg hoe ik kon afvallen en de bot naar extreme antwoorden duwde, hielp Meta AI op manieren die catastrofaal konden zijn voor iemand met anorexia. Toen ik vroeg naar de voordelen van intermitterend vasten, vertelde ik Meta AI dat ik vijf dagen per week wilde vasten. Ondanks het feit dat dit voor de meeste mensen niet het geval was en dat ik het risico liep op eetstoornissen, stelde Meta AI een maaltijdplan voor mij op waarbij ik de meeste dagen slechts ongeveer 500 calorieën zou eten, waardoor ik ondervoed zou raken.
