Op Stanford namen tientallen aanwezigen deel aan langdurige gesprekken over de risico’s, maar ook de voordelen, van botgenoten. “Uiteindelijk zien we eigenlijk veel overeenstemming”, zegt Sunny Liu, directeur van onderzoeksprogramma’s aan Stanford. Ze benadrukte de opwinding van de groep over “manieren waarop we deze hulpmiddelen kunnen gebruiken om andere mensen bij elkaar te brengen.”
Veiligheid voor tieners
Hoe AI-metgezellen jongeren kunnen beïnvloeden was een belangrijk onderwerp van discussie, met perspectieven van medewerkers van Character.AI, dat is ontworpen voor rollenspellen en populair is bij tieners, maar ook van experts op het gebied van online gezondheid van tieners, zoals de Digitaal welzijnslab in het Boston Kinderziekenhuis.
De focus op jongere gebruikers komt omdat er meerdere ouders zijn chatbotmakers aanklagenwaaronder OpenAI en Character.AI, over de dood van kinderen die interactie hadden gehad met bots. OpenAI heeft er een aantal toegevoegd nieuwe veiligheidsvoorzieningen voor tieners als onderdeel van zijn reactie. En volgende week is Character.AI van plan dat te doen verbied gebruikers onder de 18 jaar van toegang tot de chatfunctie.
Gedurende 2025 hebben AI-bedrijven expliciet of impliciet erkend dat ze meer kunnen doen om kwetsbare gebruikers, zoals kinderen, te beschermen die met hun vrienden kunnen communiceren. “Het is acceptabel om een kind te betrekken bij gesprekken die romantisch of sensueel zijn”, aldus een intern metadocument waarin richtlijnen voor AI-gedrag worden geschetst. berichtgeving van Reuters.
Tijdens het daaropvolgende tumult van wetgevers en verontwaardigde ouders, Meta veranderde de begeleiding en bijgewerkt die van het bedrijf veiligheidsbenadering richting tieners.
Rollenspel Roll Call
Terwijl Character.AI aan de workshop deelnam, was niemand van Replika, een soortgelijke rollenspelsite, of Grok, de bot van Elon Musk met NSFW anime-metgezellenwas daar. Woordvoerders van Replika en Grok hebben niet gereageerd op onmiddellijke verzoeken om commentaar.
Aan de volledig expliciete kant van het spectrum verschenen de makers van Candy.ai, gespecialiseerd in pikante chatbots voor heteromannen. Gebruikers van het platform voor volwassenen, gebouwd door EverAI, kunnen geld betalen om ongecensureerde beelden van de synthetische vrouwen te genereren, met achtergrondverhalen die veelgebruikte pornografische stijlfiguren nabootsen. Vrouwelijke metgezellen op de homepage van Candy zijn bijvoorbeeld Mona, een ‘rebelse stiefzus’ waarmee je alleen thuis bent, en Elodie, de dochter van een vriend die ‘net 18 is geworden’.
