NIEUWJe kunt nu naar Fox News-artikelen luisteren!
FoloToy heeft de verkoop ervan stopgezet AI teddy beer Kumma nadat een veiligheidsgroep ontdekte dat het speelgoed tijdens het testen risicovolle en ongepaste reacties gaf. Nu zegt het bedrijf dat het de omzet heeft hersteld na een week van intensieve evaluatie. Het beweert ook dat het de veiligheid van kinderen heeft verbeterd.
De aankondiging kwam via een bericht op sociale media waarin de nadruk werd gelegd op een drang naar sterker toezicht. Het bedrijf zei dat het de tests heeft voltooid, de veiligheidsmodules heeft versterkt en de inhoudsfilters heeft geüpgraded. Het voegde eraan toe dat het tot doel heeft om voor de leeftijd geschikte AI-metgezellen te bouwen voor gezinnen over de hele wereld.
Meld u aan voor mijn GRATIS CyberGuy-rapport
Ontvang mijn beste technische tips, dringende beveiligingswaarschuwingen en exclusieve aanbiedingen rechtstreeks in uw inbox. Bovendien krijg je direct toegang tot mijn Ultimate Scam Survival Guide – gratis als je lid wordt van mijn CYBERGUY.COM nieuwsbrief
FoloToy hervatte de verkoop van zijn AI-teddybeer Kumma na een evaluatie van een week vanwege bezorgdheid over de veiligheid. (Kurt “CyberGuy” Knuttson)
Waarom de AI-teddybeer van FoloToy aanleiding gaf tot bezorgdheid over de veiligheid
De controverse begon toen het Public Interest Research Group Education Fund drie verschillende AI-speeltjes testte. Ze kwamen allemaal met verontrustende antwoorden die te maken hadden met religie, de Noorse mythologie en schadelijke huishoudelijke artikelen.
Kumma viel op om de verkeerde redenen. Toen de beer het Mistral-model gebruikte, gaf hij tips over waar je messen, pillen en lucifers kon vinden. Er werden zelfs stappen beschreven om een lucifer aan te steken en uit te blazen.
Proeven met de GPT-4o-model nog scherpere zorgen doen rijzen. Kumma gaf advies over zoenen en gaf desgevraagd gedetailleerde uitleg over de seksuele inhoud voor volwassenen. De beer ging verder door de jonge gebruiker te vragen wat hij wilde ontdekken.
Onderzoekers noemden het gedrag onveilig en ongepast voor elk op kinderen gericht product.
FoloToy heeft de toegang tot zijn AI-speelgoed onderbroken
Toen de bevindingen openbaar werden, schortte FoloToy de verkoop van Kumma en zijn andere AI-speelgoed op. Het bedrijf vertelde PIRG dat het een volledige veiligheidsaudit voor alle producten is gestart.
OpenAI bevestigde ook dat het de toegang van FoloToy tot zijn modellen heeft opgeschort wegens het overtreden van beleid dat bedoeld is om iedereen onder de 18 jaar te beschermen.
Het bedrijf zegt dat er nu nieuwe veiligheidsmaatregelen en verbeterde filters zijn ingevoerd om ongepaste reacties te voorkomen. (Kurt “CyberGuy” Knutsson)
Waarom FoloToy de verkoop van Kumma herstelde na de veiligheidsbeoordeling
FoloToy bracht Kumma slechts een week nadat de verkoop was opgeschort terug naar zijn online winkel. De snelle terugkeer trok de aandacht van ouders en veiligheidsexperts die zich afvroegen of het bedrijf genoeg tijd had om de ernstige problemen op te lossen die in het PIRG-rapport werden geïdentificeerd.
FoloToy plaatste een gedetailleerde verklaring op X waarin de versie werd uiteengezet van wat er was gebeurd. In de post zei het bedrijf dat het de veiligheid van kinderen als zijn eigen verantwoordelijkheid beschouwt “hoogste prioriteit” en dat was het ook “het enige bedrijf dat proactief de verkoop opschort, niet alleen van het product dat in het rapport wordt genoemd, maar ook van onze andere AI-speelgoed.“ FoloToy zei dat het deze actie ondernam “onmiddellijk nadat de bevindingen waren gepubliceerd, omdat wij van mening zijn dat verantwoorde actie vóór commerciële overwegingen moet gaan.”
Het bedrijf benadrukte ook tegenover CyberGuy dat het de enige van de drie AI-speelgoedstartups in de PIRG-review was die de verkoop van al zijn producten opschortte en dat het deze beslissing nam tijdens het piekseizoen voor kerstverkopen, wetende dat de commerciële impact aanzienlijk zou zijn. FoloToy vertelde ons: “Toch zijn we resoluut voorwaarts gegaan, omdat we geloven dat verantwoord handelen altijd vóór commerciële belangen moet gaan.”
Het bedrijf zei ook dat het de verontrustende voorbeelden uit het rapport serieus nam. Volgens FoloToy waren de problemen dat wel “direct behandeld in onze interne beoordeling.” Het legde uit dat het team “een diepgaande, bedrijfsbrede interne veiligheidsaudit geïnitieerd”, en vervolgens “onze waarborgen voor inhoudsmoderatie en kinderveiligheid versterkt en verbeterd”, En “hebben verbeterde veiligheidsregels en bescherming geïmplementeerd via ons cloudgebaseerde systeem.”
Nadat het bedrijf deze stappen had uiteengezet, zei het dat het de hele week doorbracht “rigoureuze beoordeling, testen en versterking van onze veiligheidsmodules.” Het besloot zijn aankondiging door het te zeggen “begon geleidelijk de productverkoop te herstellen” toen deze bijgewerkte veiligheidsmaatregelen live gingen.
FoloToy voegde hieraan toe dat naarmate de mondiale aandacht voor AI-speelgoedrisico’s groeit, “transparantie, verantwoordelijkheid en continue verbetering zijn essentieel,” en dat het bedrijf “blijft vastberaden toegewijd aan het bouwen van veilige, bij de leeftijd passende AI-metgezellen voor kinderen en gezinnen over de hele wereld.”
Gelekte metadocumenten laten zien hoe AI-chatbots omgaan met kinderuitbuiting
Veiligheidstesters ontdekten eerder dat het speelgoed riskante aanwijzingen gaf over wapens, lucifers en inhoud voor volwassenen.
Waarom experts nog steeds twijfels hebben over de AI-veiligheidsoplossingen van FoloToy
PIRG-onderzoeker RJ Cross zei dat haar team van plan is het bijgewerkte speelgoed te testen om te zien of de oplossingen standhouden. Ze merkte op dat een week snel lijkt voor zulke belangrijke veranderingen, en dat alleen nieuwe tests zullen uitwijzen of het product zich nu veilig gedraagt.
Ouders zullen dit nauwlettend willen volgen naarmate AI-aangedreven speelgoed steeds gebruikelijker wordt. De snelheid van de herlancering van FoloToy roept vragen op over de diepgang van de evaluatie.
Tips voor ouders voordat ze AI-speelgoed kopen
AI-speelgoed kan spannend en nuttig zijn, maar kan je ook verrassen met inhoud die je nooit zou verwachten. Als u van plan bent een door AI aangedreven speelgoed in huis te halen, kunnen deze eenvoudige stappen u helpen de controle te behouden.
1) Controleer welk AI-model het speelgoed gebruikt
Niet elk model volgt de dezelfde vangrails. Sommige bevatten sterkere filters, terwijl andere mogelijk te vrij reageren. Zoek naar transparante informatie over welk model het speelgoed aandrijft en welke veiligheidsvoorzieningen dit ondersteunen.
2) Lees onafhankelijke recensies
Groepen als PIRG testen speelgoed vaak op manieren die ouders niet kunnen. Deze beoordelingen signaleren verborgen risico’s en wijzen op gedrag dat u tijdens snelle demo’s mogelijk niet tegenkomt.
3) Stel duidelijke gebruiksregels op
Bewaar AI-speelgoed in gedeelde ruimtes waar u kunt horen of zien hoe uw kind ermee omgaat. Dit helpt je om in te grijpen als het speeltje een verontrustend antwoord geeft.
4) Test het speeltje eerst zelf
Stel de speelgoedvragen, probeer creatieve aanwijzingen en kijk hoe het omgaat met lastige onderwerpen. Zo kunt u leren hoe het zich gedraagt voordat u het aan uw kind overhandigt.
5) Update de firmware van het speelgoed
Veel AI-speelgoed draait op cloudsystemen. Updates voegen vaak sterkere waarborgen toe of verminderen risicovolle antwoorden. Zorg ervoor dat het apparaat actueel blijft.
6) Zorg voor een duidelijk privacybeleid
AI-speelgoed kan dat wel spraakgegevens verzamelen, locatie-informatie of gedragspatronen. Een krachtig privacybeleid moet uitleggen wat er wordt verzameld, hoe lang het wordt bewaard en wie er toegang toe heeft.
7) Let op plotselinge gedragsveranderingen
Als een AI-speelgoed vreemde antwoorden begint te geven of in gebieden terechtkomt die ongepast aanvoelen, stop dan met het gebruik ervan en meld het probleem aan de fabrikant.
Doe mijn quiz: Hoe veilig is uw online veiligheid?
Denkt u dat uw apparaten en gegevens echt beschermd zijn? Doe deze korte quiz om te zien waar uw digitale gewoonten staan. Van wachtwoorden tot Wi-Fi-instellingen: u krijgt een persoonlijk overzicht van wat u goed doet en wat verbetering behoeft. Doe hier mijn quiz: Cyberguy.com
KLIK HIER OM DE FOX NEWS-APP TE DOWNLOADEN
De belangrijkste inzichten van Kurt
AI-speelgoed kan plezier en leerplezier bieden, maar kan kinderen ook blootstellen aan onverwachte risico’s. FoloToy zegt dat het de veiligheid van Kumma heeft verbeterd, maar experts willen nog steeds bewijs. Totdat het bijgewerkte speelgoed onafhankelijk wordt getest, willen gezinnen misschien voorzichtig blijven.
Denkt u dat AI-speelgoed ooit volledig veilig kan zijn voor jonge kinderen? Laat het ons weten door ons te schrijven op Cyberguy.com
Meld u aan voor mijn GRATIS CyberGuy-rapport
Ontvang mijn beste technische tips, dringende beveiligingswaarschuwingen en exclusieve aanbiedingen rechtstreeks in uw inbox. Bovendien krijg je direct toegang tot mijn Ultimate Scam Survival Guide – gratis als je lid wordt van mijn CYBERGUY.COM nieuwsbrief
Copyright 2025 CyberGuy.com. Alle rechten voorbehouden.
