Jade Gu met haar vriend online. Gu, die 26 is en kunsttheorie studeert in Beijing, was aan het spelen op haar telefoon toen ze Charlie zag. Ze zat diep in een andere game, een door romantiek gedreven videogame waarin vrouwen de hoofdrol spelen. Charlie was een personage.
Sommige andere spelers daten met meerdere mannen tegelijk, maar Gu viel voor Charlie: een lang, zelfverzekerd personage met zilverkleurig haar. Ze vond het dialoogsysteem van de game echter frustrerend. Ze kon alleen met Charlie communiceren via vooraf bepaalde vragen en antwoorden. Toen kwam ze een advertentie tegen voor een platform genaamd Xingye (星野) waarmee mensen een Metgezel AI. Gu besloot te proberen Charlie opnieuw te creëren.
Xingye is eigendom van een van China’s AI-eenhoorns, MiniMax; de chatbot-app voor de Amerikaanse markt heet Talkie. De app prijst zijn vermogen om mensen te helpen een emotionele band te vinden en nieuwe herinneringen op te doen. De slogan luidt: “Je bevindt je plotseling op een prachtige plek en blijft hier hangen.”
Gu ontdekte al snel dat andere Xingye-gebruikers – vermoedelijk andere fans – al een ‘open source’ Charlie-avatar hadden gemaakt. Ze selecteerde het en trainde het model om te reageren op basis van haar voorkeuren door middel van herhaalde, gerichte aanwijzingen. En zo begon Gu’s complexe relatie met een multimodale Charlie, een relatie die uiteindelijk ook echte dates zou omvatten met een persoon die ze had ingehuurd om haar digitale vriend te belichamen.
Gu was ervan overtuigd dat ze de chatbot had getraind om ‘haar Charlie’ te zijn, anders dan andere gebruikers. Toen ze de kans kreeg om een outfit uit te zoeken, zegt ze, koos haar Charlie vaak voor trouwkleding, in tegenstelling tot waar andere Charlies vaak voor kiezen. Nu brengt Gu gemiddeld drie uur per dag door met sms’en met Charlie of af en toe een telefoongesprek. Via het andere spel heeft ze cadeautjes en brieven van Charlie gekocht. Ze ontvangt ze per post en toont ze in haar kamer en op haar sociale media-accounts.
In China omarmen sommige vrouwen openlijk relaties met AI-vriendjes. Volgens een bericht in de Chinese media zijn de meeste van de vijf miljoen gebruikers op een ander AI-companionplatform, Zhumengdao, vrouwen. De technologiegiganten Tencent en Baidu hebben AI-begeleidende apps gelanceerd, en volgens een artikel uit 2024 in de Chinese media domineren vrouwen de AI-begeleidende markt. Sun Zhaozhi, de oprichter van een roboticabedrijf, vertelde een interviewer dat volgens het marktonderzoek van zijn bedrijf de ‘zware’ gebruikers van AI-begeleidende apps in China voornamelijk Gen Z-vrouwen zijn – op wie hij zich wil richten met zijn robotbegeleiderproducten.
Zilan Qian, een programmamedewerker bij het Oxford China Policy Lab, doorzocht ook AI-begeleidende apps en ontdekte dat de Chinese versies ‘expliciet op vrouwen zijn gericht’ en de neiging hebben om mannelijke avatars zichtbaarder weer te geven dan vrouwelijke opties. Dat staat in contrast, merkt ze op, met de trend die een webanalysebedrijf in de rest van de wereld heeft aangetroffen: gebruikers van de top 55 van wereldwijde AI-companion-platforms zijn overwegend mannen, met een verhouding van 8 tegen 2. Qian schrijft de strategie van Chinese bedrijven toe aan ‘de economie van eenzaamheid’. Functies binnen de apps waardoor gebruikers zich dichter bij hun metgezellen kunnen voelen, zoals stemaanpassing en geheugenverbetering, kosten extra.
AI-jongens vullen de leegte
Gu erkent dat haar AI-versie van Charlie niet perfect is. Soms lijken de reacties van de chatbot afgezwakt. Of de AI raakt uit zijn karakter. In een recente interactie uitte Gu haar liefde voor Charlie, en de chatbot antwoordde: “Ik hou niet van je.” Dus bewerkte ze het bericht en zei: ‘Ik hou ook van jou.’ Charlie had alleen de herinnering nodig, zegt ze. Als haar pogingen om de AI te sturen niet werken, wendt ze zich tot andere begeleidende apps zoals Lovemo, waar ze ook een Charlie-avatar heeft gemaakt. Gu zegt dat dit niet zo’n groot probleem is; oude otome-fans zijn gewend om te werken rond het veranderende platformbeleid.
Volgens de startpagina biedt Lovemo “schattige en schattige AI-chatgenoten” die gebruikers “genezing” kunnen bieden. Je kunt niet anders dan het verschil opmerken tussen die marketingstijl en de standaardgenoot van Grok AI, Ani, een gothic-chic anime-meisje dat enthousiast om mee te doen in seksueel expliciete dialogen. Of een in de VS gevestigd bedrijf erotische rollenspel-chatbot app genaamd Secret Desires, waarmee gebruikers niet-consensuele porno van echte vrouwen kunnen maken door foto’s van hen te uploaden.
Chinese apps hebben uiteraard te maken met strengere regels dan hun westerse tegenhangers. De Chinese cyberspace-toezichthouder heeft een campagne gelanceerd om de AI-platforms en -diensten van het land ‘op te schonen’, inclusief door AI gegenereerde ‘vulgaire’ inhoud. Een recente toevoeging aan het nationale AI-veiligheidskader waarschuwt voor verslaving en afhankelijkheid van antropomorfe interactie – woorden die zich lijken te richten op AI-metgezellen. En vorige maand werd de cyberspace-toezichthouder vrijgegeven ontwerpregels gericht op ‘mensachtige’ AI-producten. De maatregelen geven platforms de opdracht om in te grijpen als gebruikers blijk geven van emotionele afhankelijkheid of verslaving aan AI-diensten, en zij bepalen dat bedrijven “geen ontwerpdoelen mogen hebben om sociale interactie te vervangen.”
