Slechts enkele dagen later lanceren, Roblox’s veel gehyped AI-aangedreven leeftijdsverificatiesysteem het is een complete puinhoop.
Het gezichtsscansysteem van Roblox, dat de leeftijd van mensen schat voordat ze toegang krijgen tot de chatfuncties van het platform, werd vorige week uitgerold in de VS en andere landen over de hele wereld, na aanvankelijk in december op een paar locaties te zijn gelanceerd. Roblox zegt het implementeert het systeem zodat gebruikers veilig kunnen chatten met gebruikers van vergelijkbare leeftijden.
Maar er zijn al spelers binnen opstand omdat ze niet langer met hun vrienden kunnen chatten, ontwikkelaars eisen Roblox draaien de update terug, en cruciaal is dat experts zeggen dat niet alleen de AI jonge spelers verkeerd veroudert als volwassenen en vice versa, maar dat het systeem weinig doet om het probleem aan te pakken waarvoor het ontworpen was: de vloed van roofdieren die het platform gebruiken om jonge kinderen te verzorgen.
WIRED heeft zelfs meerdere voorbeelden gevonden van mensen die op eBay adverteren voor leeftijdsgeverifieerde accounts voor minderjarigen vanaf 9 jaar voor slechts $ 4.
Nadat WIRED de aanbiedingen had gemarkeerd, zei eBay-woordvoerder Maddy Martinez dat het bedrijf ze verwijderde wegens schending van het beleid van de site.
Roblox reageerde niet op verzoeken om commentaar. Roblox heeft echter een deel van de kritiek aangepakt in een update op vrijdag, schrijven: “We zijn op de hoogte van gevallen waarin ouders namens hun kinderen de leeftijd controleren, waardoor kinderen ouder worden dan 21 jaar. We werken aan oplossingen om dit aan te pakken en we zullen hier binnenkort meer delen.”
Roblox aangekondigd de leeftijdsverificatievereiste afgelopen juli als onderdeel van een reeks nieuwe functies die zijn ontworpen om het platform veiliger te maken. Het bedrijf is de afgelopen maanden onder grote druk gekomen nadat meerdere rechtszaken beweerden dat het bedrijf er niet in was geslaagd zijn jongste gebruikers te beschermen en roofdieren te faciliteren om kinderen te verzorgen.
De procureurs-generaal van Louisiana, TexasEn Kentucky heeft vorig jaar ook rechtszaken aangespannen tegen het bedrijf met soortgelijke claims, terwijl de procureur-generaal van Florida strafrechtelijke dagvaardingen uitgevaardigd om te beoordelen of Roblox “roofdieren helpt bij het toegang krijgen tot en schade toebrengen aan kinderen.”
Roblox beweert dat het eisen van mensen om hun leeftijd te verifiëren voordat ze met anderen kunnen chatten, zal voorkomen dat volwassenen vrijelijk kunnen communiceren met kinderen die ze niet kennen.
Hoewel het proces optioneel is, betekent het weigeren ervan dat iemand geen toegang meer heeft tot de chatfuncties van het platform, een van de belangrijkste redenen waarom de meeste mensen Roblox gebruiken.
Om hun leeftijd te verifiëren, wordt mensen gevraagd een korte video te maken met de camera van hun apparaat. Deze video wordt verwerkt door een bedrijf genaamd Persona, dat hun leeftijd schat. Als alternatief kunnen gebruikers een door de overheid uitgegeven identiteitsbewijs met foto uploaden als ze 13 jaar of ouder zijn.
Roblox zegt dat alle persoonlijke informatie “onmiddellijk na verwerking wordt verwijderd.” Veel gebruikers online zeggen echter dat ze niet bereid zijn leeftijdsverificatie uit te voeren vanwege privacyoverwegingen.
Mensen die hun leeftijd hebben geverifieerd, mogen alleen chatten met een kleine groep andere spelers rond hun eigen leeftijd. Degenen die zijn geverifieerd als jonger dan 9 jaar kunnen bijvoorbeeld alleen chatten met spelers tot 13 jaar. Spelers die als 16 worden beschouwd, kunnen chatten met spelers tussen 13 en 20 jaar.
Het bedrijf heeft het door AI aangedreven leeftijdsverificatiesysteem in eerste instantie in november uitgerold in Australië, Nieuw-Zeeland en Nederland, maar deze week heeft Roblox onthuld dat slechts de helft van alle spelers hun leeftijd verifieerde met behulp van het systeem.
In de dagen sinds de update wereldwijd werd uitgerold, zijn spelers en ontwikkelaars overstroomd forums, Redditen sociale mediaplatforms zoals X En TikTok met klachten over het systeem.
