Nadat ik vorige maand had aangekondigd dat dit wel het geval zou zijn tieners verbieden van open chats met AI-chatbots, Karakter.AI deze week introduceerde een nieuwe manier om te communiceren met AI-aangedreven personages. Je kunt nu een aantal personages kiezen, een genre kiezen en begeleide verhalen genereren.
Beschouw het concept als een soort Kies je eigen avontuur boek voor het AI-tijdperk. In plaats van de bladzijde om te slaan in een vooraf geschreven verhaal, vertel je een groot taalmodel waar het heen moet.
Character.AI heeft deze stap bedacht als een manier om kinderen entertainment te laten krijgen door interactie met hun favoriete AI-bots. (Het platform heeft een verzameling aangepaste ‘karakters’ met verschillende eigenschappen en ‘persoonlijkheden’ waarmee mensen kunnen communiceren.) Personen jonger dan 18 jaar kunnen niet langer open gesprekken voeren met bots op het platform.
Het bedrijf voerde daarna leeftijdsbeperkingen in en andere AI-platforms kwamen onder de loep vanwege schadelijke interacties die kinderen hadden met chatbots. Bedrijven zijn dit jaar verschillende keren aangeklaagd door ouders van tieners die door zelfmoord zijn omgekomen nadat ze zelfbeschadiging met AI-modellen hadden besproken. Dat geldt ook voor OpenAI, maker van de toonaangevende ChatGPT, die een reactie ingediend deze week in A rechtszaak aangespannen door de ouders van Adam Raine. Raine’s ouders beweren dat hij zelfmoord heeft gepleegd na herhaalde interacties met ChatGPT, waarbij de AI met hem in gesprek bleef en advies gaf over manieren om zichzelf schade toe te brengen. OpenAI zei dat het de veiligheidsbeugels in zijn AI-modellen heeft vergroot, vooral voor degenen onder de 18 jaar.
Lees meer: AI Essentials: 29 manieren waarop u Gen AI voor u kunt laten werken, volgens onze experts
De veranderingen door Character.AI zijn ingrijpender. CEO Karandep Anand vertelde CNET in oktober dat de stap naar zorgvuldiger ontworpen rollenspellen en video’s een betere ervaring voor tieners zal opleveren dan gesprekken.
Met de verhalenfunctie die deze week is uitgebracht, kan iedereen rollenspelinteracties creëren met bekende personages die herspeelbaar en deelbaar zijn. “Door de introductie van een visueel, verhalend format blijft ons platform vormen van creativiteit ondersteunen die verder gaan dan open chat”, zei Character.AI in een blogpost aankondiging van de functie.
Mis geen enkele van onze onpartijdige technische inhoud en laboratoriumbeoordelingen. CNET toevoegen als favoriete Google-bron.
Bekijk dit: De nieuwe bedrijfsstructuur van OpenAI, de AI Companion-app voegt kinderveiligheidsregels toe en Grokipedia probeert Wikipedia te onttronen | Technologie vandaag
