Julie Carpenter niet Geef menselijke gebruikers helemaal de schuld van het antropomorfiseren van chatbots. De ervaren mens-AI-interactie-expert en auteur van De naakte Android ziet generatieve AI-tools, zoals ChatGPTzoals opzettelijk ontworpen om deze reacties bij gebruikers uit te lokken via zeer persoonlijke herinneringen en interacties die sociale ervaringen nabootsen.
Deze eenzijdige verbindingen kunnen zelfs nog ingewikkelder en potentieel rampzaliger worden AI-gegenereerde erotiek wordt als optie toegevoegd. Carpenter is ongerust over de aanstaande plannen van OpenAI om volwassenen te laten sexten met ChatGPT. “Ik ben vóór mensen die hun seksualiteit onderzoeken, maar ik wil het op een manier die zowel veilig voor hen is als leuk”, zegt ze. “Mensen moeten zich er zeer van bewust zijn dat er een surveillanceaspect aan de gegevens zit.”
OpenAI eerste hint gegeven twee jaar geleden toe te staan dat volwassen gebruikers erotica kunnen genereren met behulp van ChatGPT in een officieel document waarin wordt beschreven hoe de modellen zich moeten gedragen. Hoewel het bedrijf nog steeds bezig lijkt te zijn met het plannen van de uiteindelijke release, is de tijdlijn dat wel duister. De afgelopen maanden heeft de adviesraad van OpenAI, bestaande uit externe experts, zijn zorgen geuit over de risico’s van deze aanstaande vrijlating, inclusief de mogelijkheid van een ‘sexy zelfmoordcoach’. volgens een rapport van De Wall Street Journal. OpenAI weigerde commentaar te geven toen WIRED werd bereikt.
Mensen die vies tegen machines praten, zoals ChatGPT, zijn niets nieuws. “Ze willen geld verdienen met iets waarvan ze zien dat mensen het toch gaan proberen”, zegt Kate Devlineen professor in AI en samenleving aan King’s College London, wiens onderzoek digitale seks behelst.
Wat hier anders is, is OpenAI’s potentiële omarming van smut op een mainstream platform. Erotische chatbots zijn een inkomstengenererende business, maar ze worden vaak gedegradeerd naar nichesites met onopvallende namen of Elon Musk’s Grok, bekend van niet-consensuele deepfake-afbeeldingen en ingaan op een “MechaHitler”-modus.
Wanneer de modus voor volwassenen wordt vrijgegeven, zal het interessant zijn om te zien wat ChatGPT precies zal onthouden over de seksuele neigingen van gebruikers. De afgelopen jaren is OpenAI de chatbots blijven verbeteren geheugenfunctiedat gebruikersvoorkeuren registreert en reageert met gepersonaliseerde output. Ben je veganist? ChatGPT zal geen steakhouse aanbevelen als er om restaurantideeën wordt gevraagd. Wil je een wandeling maken? Het weet uit eerdere chats dat je in San Francisco bent en zal redelijk dichtbij gelegen routes voorstellen, zelfs als die locatiecontext niet in de prompt is opgenomen.
Maar wat gebeurt er als dit soort datalogging en hyperspecifieke personalisatie tegemoet komt aan de geile sextinggewoonten van miljoenen volwassen ChatGPT-gebruikers? Erotische interacties met ChatGPT zullen de inzet voor de privacy van gebruikers verder vergroten.
In plaats van je voedingsvoorkeuren te onthouden of welk soort films je het leukst vindt, kan ChatGPT zich herinneren hoeveel je fantaseerde over harige porno, trio’s op het strand en pisspel, en zijn dagelijkse reacties afstemmen op deze seksuele details in gedachten. Het blijft onduidelijk hoe OpenAI van plan is om met deze volwassen gesprekken om te gaan.
Mensen die ervoor kiezen om bij de lancering te communiceren met de smerige versie van ChatGPT kunnen troost vinden in de functie “tijdelijke chats”. Indien ingeschakeld, worden deze gesprekken niet weergegeven in de loggeschiedenis van een gebruiker of gebruikt om de modellen van OpenAI te verbeteren.
Maar deze chats zijn niet zo kortstondig als ze voor gebruikers kunnen aanvoelen. “Uit veiligheidsoverwegingen kunnen we een kopie nog maximaal 30 dagen bewaren”, luidt het OpenAI’s website. Er is ook een disclaimer op de sitepagina opgenomen waarin wordt beweerd dat “het bewaren van gegevens voor bepaalde services kan worden beïnvloed door recente juridische ontwikkelingen.”
