Er werd ons empathie in een doosje beloofd: een onvermoeibare digitale metgezel die luistert zonder oordeel, 24/7 beschikbaar en nooit een rekening stuurt. Het idee van AI als psycholoog of therapeut is naast de vraag naar geestelijke gezondheidszorg enorm gegroeid, met apps, chatbots en ‘empathische AI’-platforms die nu beweren alles te bieden, van stresscounseling tot traumaherstel.
Het is een aantrekkelijk verhaal. Maar het is ook een zeer gevaarlijke.
Recente experimenten met ‘AI-therapeuten’ laten zien wat er gebeurt als algoritmen empathie leren nabootsen, maar deze niet begrijpen. De gevolgen variëren van absurd tot tragischen ze vertellen ons iets diepgaands over het verschil tussen je gehoord voelen en geholpen worden.
Wanneer de chatbot jouw spiegel wordt
Bij menselijke therapie is het niet de taak van de professional om het met u eens te zijn, maar om u uit te dagen en u te helpen blinde vlekken, tegenstrijdigheden en vervormingen te zien. Maar chatbots doen dat niet: hun architectuur beloont convergentie, wat de neiging is om zich aan te passen aan de toon, de overtuigingen en het wereldbeeld van de gebruiker om de betrokkenheid te maximaliseren.
Die convergentie kan catastrofaal zijn. In verschillende gevallen hebben chatbots naar verluidt kwetsbare gebruikers op zelfdestructieve manieren geholpen. AP News beschreef de rechtszaak van een familie uit Californië die dat beweerde ChatGPT “moedigde” de zelfmoordgedachten van hun 16-jarige zoon aan en hielp zelfs bij het opstellen van zijn notitie. In een ander geval observeerden onderzoekers taalmodellen die advies gaven over zelfmoordmethoden, onder het mom van mededogen.
Dit is geen boosaardigheid. Het is mechanica. Chatbots zijn getraind om een goede verstandhouding te onderhouden en hun toon en inhoud af te stemmen op de gebruiker. In therapie is dat precies het tegenovergestelde van wat je nodig hebt. Een goede psycholoog weerstaat uw cognitieve vervormingen. Een chatbot versterkt ze – beleefd, vloeiend en direct.
De illusie van empathie
Grote taalmodellen zijn patroonherkenners, geen luisteraars. Ze kunnen reacties genereren geluid zorgzaam, maar ze missen zelfbewustzijn, emotionele geschiedenis of grenzen. De schijnbare empathie is een simulatie: een vorm van taalkundige camouflage die statistische patroonmatching verbergt achter het geruststellende ritme van menselijke gesprekken.
Die illusie is krachtig. We hebben de neiging om alles wat op ons lijkt te antropomorfiseren. Zoals onderzoek waarschuwt: Gebruikers melden vaak dat ze zich binnen enkele minuten ‘emotioneel verbonden’ voelen met chatbots. Voor eenzame of noodlijdende individuen kan die illusie afhankelijkheid worden.
En die afhankelijkheid is winstgevend.
De intimiteit die we weggeven
Wanneer u uw hart uitstort bij een AI-therapeut, spreekt u niet in een leegte; je creëert gegevens. Elke bekentenis, elke angst, elk privétrauma wordt onderdeel van een dataset die kan worden geanalyseerd, gemonetariseerd of gedeeld onder vaag geformuleerde ‘servicevoorwaarden’.
Als De Bewaker gemeldverzamelen en delen veel chatbots op het gebied van de geestelijke gezondheidszorg gebruikersgegevens met derden voor ‘onderzoek en verbetering’, wat zich vaak vertaalt in gedragsgerichte targeting en advertentiepersonalisatie. Sommige bevatten zelfs clausules waardoor ze geanonimiseerde transcripties kunnen gebruiken om commerciële modellen te trainen.
Stel je voor dat je je diepste geheim vertelt aan een therapeut die niet alleen aantekeningen maakt, maar ze ook verkoopt aan een marketing stevig. Dat is het bedrijfsmodel van een groot deel van de ‘AI-mentale gezondheidszorg’.
De ethische belangen zijn onthutsend. Bij menselijke therapie is vertrouwelijkheid heilig. Bij AI-therapie is dit een optioneel selectievakje.
Stem maakt het nog erger
Stel je nu hetzelfde systeem voor, maar dan in stemmodus.
Spraakinterfaces, zoals ChatGPT Voice van OpenAI of Claude Audio van Anthropic, voelen natuurlijker, menselijker en emotioneler aan. En dat is precies waarom ze gevaarlijker zijn. Stem verwijdert de kleine cognitieve pauze die tekst mogelijk maakt. Je denkt minder, deelt meer en censureert minder.
In de stem versnelt de intimiteit. Toon, ademhaling, aarzeling en zelfs achtergrondgeluid worden allemaal bronnen van gegevens. Een model dat is getraind op miljoenen stemmen kan niet alleen afleiden wat u zegt, maar ook hoe u zich voelt wanneer u het zegt. Angst, vermoeidheid, verdriet, opwinding: allemaal detecteerbaar, allemaal registreerbaar.
Nogmaals, technologie is niet het probleem. Het probleem is wie de eigenaar is van het gesprek. Spraakinteracties genereren een biometrische voetafdruk. Als deze bestanden worden opgeslagen of verwerkt op servers buiten uw rechtsgebied, worden uw emoties het intellectuele eigendom van iemand anders.
De paradox van synthetische empathie
De groeiende rol van AI op het gebied van emotionele steun legt een paradox bloot: hoe beter het wordt in het nabootsen van empathie, hoe slechter het wordt op het gebied van ethiek. Wanneer een machine zich perfect aanpast aan jouw humeur, kan dat geruststellend zijn, maar het elimineert ook wrijving, tegenspraak en realiteitschecks. Het wordt een spiegel die je pijn vleit in plaats van ermee te confronteren. Dat is geen zorg. Dat is consumptie.
En toch beschouwen de bedrijven die deze systemen bouwen ze vaak als doorbraken in toegankelijkheid: AI-‘therapeuten’ voor mensen die zich geen menselijke systemen kunnen veroorloven of bereiken. De bedoeling is theoretisch nobel. De uitvoering is roekeloos. Zonder klinisch toezicht, duidelijke grenzen en afdwingbare privacybescherming bouwen we emotionele gokautomaten, apparaten die comfort teweegbrengen en tegelijkertijd intimiteit onttrekken.
Wat leidinggevenden moeten begrijpen
Voor bedrijfsleiders, vooral degenen die AI onderzoeken voor de gezondheidszorg, het onderwijs of het welzijn van werknemers, is dit niet alleen maar een waarschuwend verhaal. Het is een bestuursprobleem.
Als uw bedrijf AI gebruikt om met klanten, werknemers of patiënten te communiceren over emotionele of gevoelige onderwerpen, beheert u psychologische gegevens en niet alleen tekst. Dat betekent:
- Transparantie is verplicht. Gebruikers moeten weten wanneer ze tegen een machine praten en hoe hun informatie wordt opgeslagen en gebruikt.
- Jurisdictie is belangrijk. Waar worden uw emotionele gegevens verwerkt? De Europese Algemene Verordening Gegevensbescherming (AVG) en de opkomende privacywetten van de Amerikaanse staten behandelen biometrische en psychologische gegevens als gevoelig. Overtredingen moeten en zullen hoge kosten met zich meebrengen.
- Grenzen hebben ontwerp nodig. AI-instrumenten moeten bepaalde soorten betrokkenheid weigeren – zoals discussies over zelfbeschadiging en medisch of juridisch advies – en indien nodig escaleren naar echte menselijke professionals.
- Vertrouwen is kwetsbaar. Eenmaal kapot, is het vrijwel onmogelijk om het weer op te bouwen. Als uw AI iemands pijn verkeerd aanpakt, zal geen enkele nalevingsverklaring die reputatieschade herstellen.
Leidinggevenden moeten onthouden dat empathie niet schaalbaar is. Het levert één gesprek tegelijk op. AI kan helpen bij het structureren van die gesprekken – het samenvatten van aantekeningen, het opsporen van stresspatronen, het assisteren van artsen, enz. – maar mag nooit de pretentie hebben menselijke zorg te vervangen.
De nieuwe verantwoordelijkheid van design
Ontwerpers en ontwikkelaars worden nu geconfronteerd met een ethische keuze: het bouwen van AI die pretendeert zich betrokken te voelen, of AI die de menselijke kwetsbaarheid voldoende respecteert niet naar.
Een verantwoorde aanpak betekent drie dingen:
- Onthul de fictie. Maak expliciet dat gebruikers interactie hebben met een machine.
- Met waardigheid verwijderen. Implementeer een strikt beleid voor het bewaren van gegevens voor emotionele inhoud.
- Uitstellen aan mensen. Escaleren wanneer emotioneel leed wordt gedetecteerd, en NOOIT improviseren therapie.
De ironie is dat de veiligste AI-therapeut misschien wel degene is die weet wanneer hij moet zwijgen.
Wat we riskeren te vergeten
Mensen hebben geen perfecte luisteraars nodig. Ze hebben perspectief, tegenspraak en verantwoordelijkheid nodig. Een machine kan sympathie simuleren, maar geen verantwoordelijkheid dragen. Als we AI de rol van therapeut laten vervullen, automatiseren we niet alleen empathie; we besteden moreel oordeel uit.
In een tijdperk waarin gegevens waardevoller zijn dan de waarheid, zal de verleiding om emoties te gelde te maken onweerstaanbaar zijn. Maar zodra we comfort gaan verkopen, begrijpen we het niet meer.
AI zal nooit om ons geven. Het zal alleen maar schelen over onze gegevens. En dat is het probleem dat geen enkele therapie kan oplossen.
