Reid Hoffman vindt dat artsen AI om een ​​second opinion moeten vragen

Na een periode van drie decennia carrière aan het roer van enkele van de machtigste bedrijven van Silicon Valley: medeoprichter LinkedIn en zit in de besturen van PayPal en OpenAI-Reid Hofman richtte onlangs zijn aandacht op de gezondheidszorg.

De startup van Hoffman, Manas AI, bouwt een AI-engine die tot doel heeft het traditioneel langzame proces van ontdekking van medicijnen voor verschillende kankers. Geïnspireerd door een diner met de beroemde kankerarts Siddhartha Mukherjee, medeoprichter en CEO van het bedrijf, missieverklaring is om “de ontdekking van geneesmiddelen te verschuiven van een proces van tien jaar naar een proces dat een paar jaar duurt.”

Maar Hoffmans enthousiasme voor generatieve AI reikt veel verder dan nieuwe medicijndoelen en kleine moleculen. Hij is van mening dat grensmodellen – de meest geavanceerde, grootschalige AI-modellen die momenteel verkrijgbaar zijn bij bedrijven als OpenAI en Anthropic – een hoeksteen van de gezondheidszorg zelf moeten zijn.

“Als je als arts niet een of meer grensmodellen als second opinion gebruikt, denk ik dat je bijna wanpraktijken begaat”, zei Hoffman tijdens een toespraak bij WIRED Health in Londen op 16 april. “Deze AI-systemen hebben, ook al zijn veel ervan niet specifiek opgeleid voor de geneeskunde, meer dan biljoen woorden aan informatie opgenomen. Als second opinion brengen ze superkrachten met zich mee die geen mens heeft.”

Dergelijke opmerkingen zullen ongetwijfeld veel artsen in verwarring brengen. Eerder dit jaar, een grote studie concludeerde dat grote taalmodellen risico’s met zich meebrengen voor leden van het grote publiek die medisch advies zoeken vanwege hun neiging om onnauwkeurige en veranderlijke informatie te verstrekken.

Het argument van Hoffman is dat mensen, in plaats van het vermogen tot kritisch denken uit te besteden aan AI-modellen, deze moeten gebruiken als een extra informatiebron, een informatiebron die volgens hem een ​​verkeerde diagnose kan voorkomen. Hij beweert dat hij persoonlijk grensmodellen gebruikt als second opinion voor kwesties die verband houden met zijn eigen gezondheid, en dringt erop aan dat zijn persoonlijke conciërgedokters dat ook doen.

“Je zou heel goed kunnen zeggen: ‘Nee, ik denk dat je ongelijk hebt, ik denk dat het dit is'”, vertelde hij aan het WIRED-gezondheidspubliek. “Maar als je dit niet als second opinion gebruikt, maak je een fout, zowel als arts als als patiënt.”

Nu de Britse National Health Service bezwijkt onder de druk van lange wachtlijsten en personeelsproblemen, waaronder een chronisch tekort aan huisartsenVolgens Hoffman is er een steeds dringender behoefte aan een groot taalmodel dat op elke smartphone als gratis medische assistent kan fungeren. Hij suggereert dat het ook zou kunnen dienen als een vorm van vroege triage voor afspraken met menselijke artsen.

“We hebben gewoon niet genoeg artsen, de meeste mensen hebben geen toegang, en als je denkt: ‘Hoe moet de NHS opnieuw worden ontworpen?’ iedereen zou contact moeten hebben met deze medische assistent”, zei hij.

Hoewel hij een belangenconflict heeft als ondernemer die zich bezighoudt met de ontdekking van geneesmiddelen, wil Hoffman ook graag dat AI een bredere rol speelt bij het assisteren van de FDA en andere toezichthouders bij het beoordelen van opkomende medicijnen, en bij het versnellen van de beschikbaarheid van bijzonder veelbelovende medicijnen voor patiënten.

“Als Silicon Valley-persoon zou ik heel graag op een punt willen komen waarop de FDA ook tests met biologische modellen zou uitvoeren en zou zeggen: ‘Oh, we moeten deze snel opvolgen, omdat de kans op negatieve gevolgen kleiner is’”, zei hij. “Denk ik dat dit binnenkort zal gebeuren? Helaas niet.”

Wat Manas AI betreft, speelt het menselijk oordeel nog steeds een sleutelrol bij de beslissingen van het bedrijf over welke doelen het nastreeft. Mukherjee neemt de voorstellen van hun AI-engine nauwkeurig door, zegt Hoffman, en onderscheidt de echt interessante kandidaten van de ‘gekke stommelingen’.

Hoewel de focus van het bedrijf in eerste instantie op kanker ligt, gelooft Hoffman dat het potentieel van AI-ontdekkingsmotoren veel breder is, waardoor de identificatie van kandidaat-geneesmiddelen voor chronische maar ook uiterst zeldzame ziekten mogelijk wordt gemaakt die traditioneel niet zo economisch zijn geweest voor farmaceutische bedrijven om te onderzoeken.

“Ik denk dat over tien jaar elke grote ziekte doelmoleculen zal hebben die op zijn minst een serieus verschil kunnen maken,” zei Hoffman.