Nu miljoenen gebruikers – waaronder grote aantallen jonge mensen – zich steeds meer tot AI-chatbots wenden als hun eerstelijns “raadgevers” en vertrouwelingen, heeft de in Seattle gevestigde startup mpathisch komt tussenbeide om ervoor te zorgen dat deze digitale agenten geen gevaarlijk advies geven wanneer dat er het meest toe doet.
Het bedrijf, opgericht in 2021 in een poging om meer empathie te brengen in bedrijfscommunicatie, kondigde maandag aan dat het uitbreidt om fundamentele modelontwikkelaars en door LLM aangedreven applicatieteams te ondersteunen.
Het doel is om de software van mpathic beschikbaar te maken voor een bredere groep AI-ontwikkelaars en bedrijfspartners, omdat AI steeds meer een interface wordt voor geestelijke gezondheidszorg en medische ondersteuning.
“We produceren in wezen evaluatiesets of trainingsdatasets om modellen veiliger te maken voor kwetsbare gebruikers, zoals kinderen of mensen met geestelijke gezondheidsproblemen, mensen in crisis”, aldus meelevende medeoprichter en CEO Grijns Heereen board-gecertificeerde psycholoog en NLP-onderzoeker.
De startup maakt gebruik van zijn jarenlange werk in klinische onderzoeken en ziekenhuisomgevingen en helpt AI-teams het gedrag van modellen te stresstesten voordat ze worden ingezet, reacties te evalueren en live interacties te monitoren met waarborgen die kunnen markeren, omleiden of ingrijpen wanneer dat nodig is.
“Het lijkt een beetje op mensen die synthetische data creëren voor visuele AI,” zei Lord. “Het gebeurt niet elke dag dat een kind voor een Waymo gaat rennen, maar we kunnen die 10.000 manieren simuleren met synthetische data. Dat is eigenlijk wat we doen, maar dan vanuit een psychologische invalshoek met taal.”
In een vroeg stadium zei mpathic dat zijn door artsen geleide programma een modelbouwer hielp ongewenste of gevaarlijke reacties met meer dan 70% te verminderen.
Om zijn expansie te stimuleren heeft mpathic in 2025 nog eens $ 15 miljoen opgehaald, onder leiding van Foundry VC. Het bedrijf zegt dat de stap naar fundamentele veiligheid eind vorig jaar resulteerde in een vijfvoudige groei op kwartaalbasis.
Terwijl Mpathic begon met het bouwen van software voor het analyseren van gesprekken die plaatsvinden in bedrijfsteksten, e-mails, audiogesprekken en meer, ontwikkelt het sinds 2021 modellen voor klinische situaties met een hoog risico. Tegenwoordig omvat de omvang van de ‘human-in-the-loop’-infrastructuur van de startup een wereldwijd netwerk van duizenden erkende klinische experts. Er worden wekelijks honderden nieuwe medewerkers aan boord genomen om gelijke tred te houden met de vraag.
‘Het is een heel ander bedrijf dan een paar kwartalen geleden’, zei Lord.
Heer, een finalist voor Startup CEO van het Jaar bij de GeekWire Awards 2023, noemt zichzelf een “techno-optimist” en “realist” als het gaat om AI, en voegt eraan toe dat ze een “radicale acceptatie” heeft van het nut van de technologie.
“Het verbaast mij helemaal niet dat als er iets is dat 24/7 beschikbaar is, dat zich als een therapeut gedraagt, je ermee gaat praten en het gaat gebruiken. En dat kan beter zijn dan niets”, zei ze. “Ik denk dat het potentieel van deze technologie om een echt positieve impact te hebben supergroot is. Ik denk dat we zowel mensen als AI kunnen trainen om nauwkeurig en goed te luisteren en geen schade aan te richten.”
Zonder specifieke bedrijven of modellen te noemen, bevestigde Mpathic dat het samenwerkt met toonaangevende fundamentele AI-modelontwikkelaars die tientallen miljoenen gebruikers bedienen. De startup heeft ook klinische partners, waaronder Panasonic WELL, Seattle Children’s Hospital, Transcend en anderen.
Mpathic, dat ongeveer 34 mensen in dienst heeft en volgens Lord “aanneemt als een lopend vuurtje”, heeft ook zijn leiderschapsteam uitgebreid met de toevoeging van een Chief Marketing Officer. Rebekka Bastian (Zillow, OwnTrail, Glowforge); en hoofd wetenschapsofficier Alison Cerzo (AI-advieslid van de American Psychological Association).
