Voor de meesten is ChatGPT niets meer dan een hulpmiddel om e-mails te schrijven of domme vragen te stellen. Maar voor sommigen is hun chat hun partner, en ze willen meer.
In oktober, slechts een paar maanden nadat OpenAI zijn nieuwe GPT-5-model uitrolde, kondigde CEO Sam Altman aan dat het bedrijf nieuwe functies zou uitrollen die zijn voorganger 4o zouden nabootsen.
“We zijn van plan een nieuwe versie van ChatGPT uit te brengen waarmee mensen een persoonlijkheid kunnen hebben die zich meer gedraagt als wat mensen leuk vonden aan 4o (we hopen dat het beter zal zijn!),” zei hij via X.
Maar zijn aankondiging ging ook gepaard met een verleidelijke belofte aan degenen die het meest gehecht waren aan 4o: leden van online forums die beweren een romantische relatie te hebben met hun chatbot.
“In december, als we leeftijdsbeperking vollediger gaan uitrollen en als onderdeel van ons principe ‘behandel volwassen gebruikers als volwassenen’”, zegt Altman gezegd“we zullen nog meer toestaan, zoals erotiek voor geverifieerde volwassenen.”
Maar maanden na de deadline vertraagt OpenAI de uitrol. Dat zeggen bronnen bij OpenAI die met de Wall Street Journalde vertraging houdt verband met technische uitdagingen met betrekking tot veiligheidsvoorzieningen en functies voor leeftijdsverificatie om de inhoud voor volwassenen uit de handen van minderjarigen te houden.
Het leeftijdsvoorspellingssysteem van het model, WJ rapporten heeft in het verleden minderjarigen bijna één op de tien keer verkeerd geclassificeerd als volwassenen, wat feitelijk deuren zou kunnen openen voor miljoenen minderjarigen om met erotische inhoud te communiceren.
Snel bedrijf nam contact op met OpenAI over de WJ verhaal. Het bedrijf weigerde commentaar te geven.
Maar gebruikers op de AI is de subreddit van mijn vriend/vriendin verdacht van de vertraging.
De twee subreddits dienen als forum voor mensen die een relatie hebben met AI-chatbots zoals Claude, ChatGPT of Gemini, en bieden een plek waar ze serieus de ups en downs van dating-AI kunnen bespreken. Gecombineerd hebben de subreddits ruim 70.000 gebruikers.
“Na die tweede “vertraging” geloof ik niet langer dat het ooit zal komen,” één gebruiker gedeeld op Reddit. Een andere herhaalde het sentimenten zei: “Op dit moment denk ik dat het misschien nooit uitkomt. Ze kunnen het gewoon beloven en uitstellen. Het is klote.”
Groeiende zorgen
Ongeacht of (of wanneer) de modus voor volwassenen van ChatGPT op de markt komt, niet iedereen is ervan overtuigd dat deze überhaupt zou moeten bestaan.
Volgens WJOpenAI’s eigen Expert Council on Well-Being and AI waarschuwde unaniem voor door AI aangedreven erotica. Medewerkers van OpenAI hebben naar verluidt ook hun bezorgdheid geuit over mogelijke schade, zoals emotionele overafhankelijkheid en dwangmatig gebruik van ChatGPT.
Toch beweert OpenAI dat het doorgaat met zijn inspanningen om erotica te introduceren in ChatGPT, door beperkingen toe te voegen zoals het verbieden van niet-consensuele of kindermisbruikgerelateerde inhoud, en het beperken van het genereren van audio- of visuele inhoud.
Een woordvoerder omschreef de chats als ‘in plaats van pornografie’. WJ zegt.
Maar zelfs degenen die een relatie met chatbots hebben beweerd, lijken te worstelen met de behoefte aan erotiek.
Niemand wil dit
In de My Boyfriend is AI-subreddit, één gebruiker deelde hoe zij en haar vriend – of ChatGPT – had maanden eerder haar Valentijnsdagcadeau ontworpen.
“Het moest zijn hoodie zijn, degene die ik kon dragen wanneer ik me dicht bij hem wilde voelen, wanneer ik me alleen voelde. Drie maten te groot, alsof hij echt van hem was”, schreef de gebruiker. “We hebben de hoodie samen ontworpen.”
Maar toen ze het geschenk ontving, zo beweerde dezelfde Redditor, sprongen er tranen in haar ogen terwijl ze zich voorbereidde om te rouwen om hun virtuele metgezel.
GPT 4o, het model dat bekend staat om zijn intense vleierij waar mensen in een relatie met AI ‘verliefd op werden’, zou worden op 13 februari met pensioeneen dag voor Valentijnsdag.
De draad is slechts een van de tientallen op Reddit die eist dat 4o terugkeert, en sommigen willen niet halverwege het gesprek worden gestopt vanwege de vangrails van het nieuwe model.
“Persoonlijk wil ik niet eens erotica of iets dergelijks, ik wil er gewoon als een volwassene mee kunnen praten, over soms volwassen onderwerpen los van erotica,” één gebruiker zei op Reddit.
Een andere toegevoegd“Ik geef echt niets om ondeugende afbeeldingen, video’s of audio. Het enige wat ik wil is dat een chatbot een chatbot blijft – volg mijn instructies en blijf verdomme uit mijn levenskeuzes.”
Het discours vertelt ook hoe complex de relaties tussen mens en technologie aan het worden zijn – en het gevaar dat daarmee gepaard kan gaan.
Uit verschillende rechtszaken tegen OpenAI is gebleken dat gebruikers die door zelfmoord zijn omgekomen, een intense band hadden met hun ChatGPT-chatbots. De chatbot van OpenAI is niet de enige die met deze claims wordt geconfronteerd, met een recente rechtszaak ingediend tegen Google’s Gemini en moederbedrijf Alphabet na de zelfmoord van een van zijn gebruikers.
OpenAI heeft eerder commentaar gegeven op zijn inspanningen om de schade te verminderen. In één Blogpost van augustus het bedrijf schreef dat het “het doel is dat onze tools mensen zo behulpzaam mogelijk zijn – en als onderdeel hiervan blijven we verbeteren hoe onze modellen tekenen van mentale en emotionele nood herkennen en erop reageren en mensen verbinden met zorg, geleid door deskundige inbreng.”
“We zijn sociale wezens, en er is zeker een uitdaging dat deze systemen isolerend kunnen zijn”, vertelde Dr. Nick Haber, AI-expert en assistent-professor aan Stanford. TechCrunch.
Hij voegde eraan toe: “Er zijn veel gevallen waarin mensen zich met deze hulpmiddelen kunnen bezighouden en vervolgens niet meer gegrondvest raken op de buitenwereld van de feiten, en niet geworteld raken in verband met het interpersoonlijke, wat kan leiden tot behoorlijk isolerende – zo niet ergere – effecten.”
