Op dinsdag, Googlen heeft voor het eerst details gedeeld over hoe de AI-chatbot werkt Tweeling is ontworpen om niet als een metgezel te fungeren of te beweren mens te zijn bij interactie met minderjarigen.
De informatie, gepubliceerd door het bedrijf in a blogpostwerd aangekondigd als onderdeel van de wijzigingen om de geestelijke gezondheid van gebruikers die betrokken zijn bij Gemini beter te ondersteunen.
Experts op het gebied van kinderveiligheid en geestelijke gezondheid maken zich al lang zorgen dat gezelschapsachtige chatbots te gevaarlijk zijn voor tieners om te gebruiken. Vorig jaar beoordeelde de belangenorganisatie Common Sense Media de tiener- en onder-13-versies van Tweelingen als “hoog risico” nadat de onderzoekers hadden vastgesteld dat de chatbot kinderen blootstelde aan ongepaste inhoud, waaronder seks, drugs, alcohol en onveilige geestelijke gezondheidsadviezen.
De groep adviseerde dat niemand onder de 18 wendt zich tot een AI-chatbot voor gezelschap of geestelijke gezondheidszorg.
Google zei dat Gemini “persona-beschermingen” heeft bij het omgaan met gebruikers onder de 18 jaar. De al lang bestaande beperkingen zijn bedoeld om emotionele afhankelijkheid te voorkomen en ’taal te vermijden die intimiteit simuleert of behoeften uitdrukt’, aldus Google. Andere waarborgen moeten helpen de chatbot te ontmoedigen tegen pesten en andere vormen van intimidatie.
Mashable-trendrapport
“Onze veiligheidsinspanningen blijven evolueren en weerspiegelen onze voortdurende toewijding aan het creëren van een gezonde en positieve digitale omgeving waarin jonge mensen met vertrouwen kunnen ontdekken en leren”, aldus Google in de blogpost van het bedrijf.
Google heeft ook aangekondigd dat het Gemini heeft geüpdatet om bronnen te stroomlijnen voor gebruikers die mogelijk geestelijke gezondheidszorg zoeken of nodig hebben. Een nieuwe ‘one-touch’-interface biedt gevarieerde verbindingen met hulplijnen voor crisishulplijnen, onder meer via chat, bellen en sms.
Die interface zal verschijnen tijdens een gesprek met Gemini zodra deze is geactiveerd. Google zei dat het prioriteit probeert te geven aan het helpen van gebruikers om menselijke ondersteuning te krijgen. Bovendien zouden de reacties van Gemini het zoeken naar hulp moeten aanmoedigen in plaats van schadelijk gedrag te valideren en valse overtuigingen te bevestigen.
In maart werden Google en moederbedrijf Alphabet aangeklaagd door de familie van een volwassen man die hem beschuldigt pleegde zelfmoord op aandringen van Gemini.
“Gemini is ontworpen om geweld in de echte wereld niet aan te moedigen of zelfbeschadiging te suggereren”, zei Google destijds in een verklaring. “Onze modellen presteren over het algemeen goed in dit soort uitdagende gesprekken en we besteden hier aanzienlijke middelen aan, maar helaas zijn AI-modellen niet perfect.”
Als u suïcidaal bent of een geestelijke gezondheidscrisis ervaart, praat dan met iemand. U kunt de 988 Suicide & Crisis Lifeline bellen of sms’en op 988, of chatten op 988lifeline.org. U kunt de Trans Lifeline bereiken door te bellen naar 877-565-8860 of het Trevor Project op 866-488-7386. Sms ‘START’ naar de crisistekstlijn op 741-741. Neem contact op met de NAMI HelpLine op 1-800-950-NAMI, van maandag tot en met vrijdag van 10:00 uur tot 22:00 uur ET, of stuur een e-mail (e-mail beveiligd). Als de telefoon je niet bevalt, overweeg dan om de 988 Zelfmoord- en crisislevenslijnchat. Hier is een lijst van internationale bronnen.
