OpenAI is begonnen met het uitdragen van zijn technologie voor leeftijdsvoorspelling over ChatGPT consumentenrekeningen. In een bericht op maandag zei het bedrijf dat voor degenen onder de 18 jaar die ChatGPT nog niet hun leeftijd hebben verteld, de software zal kijken naar het gedrag van een persoon en andere signalen, zoals hoe lang het account bestaat en wanneer deze actief is, om een leeftijd te schatten.
Als u ten onrechte als minderjarig wordt aangemerkt, kunt u zich wenden tot de technologie van de identiteitsverificatieservice Personaaldus OpenAI. Daarvoor zijn een live selfie en een door de overheid uitgegeven identiteitsbewijs vereist. Een ChatGPT-pagina die u rechtstreeks naar leeftijdsverificatie brengt is beschikbaar.
Mis geen enkele van onze onpartijdige technische inhoud en laboratoriumbeoordelingen. CNET toevoegen als favoriete Google-bron.
Het nieuwe ChatGPT-systeem, afgelopen september aangekondigd als onderdeel van een bredere veranderingen voor jongere gebruikersvoegt meer vangrails toe aan de Luchtigen biedt wat OpenAI ‘waarborgen noemt om de blootstelling aan gevoelige of potentieel schadelijke inhoud te verminderen’.
Op een aparte ondersteuningspagina beschrijft het bedrijf dit in meer detail hoe leeftijdsvoorspelling werkt in ChatGPT en wat het eruit filtert. Dat omvat expliciet geweld of bloedvergieten; afbeeldingen van zelfbeschadiging; virale uitdagingen “die risicovol of schadelijk gedrag kunnen veroorzaken”; rollenspel dat seksueel, romantisch of gewelddadig is; of inhoud die extreme schoonheidsnormen, ongezonde diëten of body shaming promoot.
(Openbaarmaking: Ziff Davis, het moederbedrijf van CNET, heeft in april een rechtszaak aangespannen tegen ChatGPT-maker OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.)
OpenAI en andere bedrijven met AI-technologie zijn onder vuur komen te liggen en zijn het onderwerp van meerdere rechtszaken en onderzoeken die hiermee verband houden sterfgevallen onder tieners wie waren interactie met chatbots, waaronder ChatGPT. Vorig jaar kondigde OpenAI ook aan dit toe te voegen extra ouderlijk toezicht naar het platform.
Leeftijdsverificatie en op leeftijd gebaseerde toegangsbeperkingen zijn een thema geworden in steeds meer online ervaringen, deels gedreven door wetten die in verschillende landen en Amerikaanse staten zijn voorgesteld of uitgevaardigd. Eerder deze maand werd het gamingplatform Roblox opgericht verplichte leeftijdscontroles. Een nieuwe wet in Australië legt een vegen op verbod op sociale media voor kinderen onder de 16 jaar.
Hoe goed werkt de leeftijdsvoorspelling van ChatGPT?
Tot nu toe is het onduidelijk hoe goed ChatGPT het zal doen bij het voorspellen van de leeftijd van mensen onder zoveel gebruikers (ongeveer 800 miljoen wekelijks actieve gebruikers) en hoe snel dit zal verbeteren.
Zekerder is de technologie voor leeftijdsverificatie, die meer tijd heeft gehad om volwassen te worden en over het algemeen accuraat is, zegt Jake Parker, senior directeur overheidsrelaties bij de Vereniging van de Beveiligingsindustrie.
Moderne tools voor gezichtsherkenning en gezichtsanalyse kunnen uitzonderlijk goed werken als ze correct worden geïmplementeerd, zegt Parker.
“De Amerikaanse overheid voert een voortdurende technische evaluatie van dergelijke technologieën uit via het National Institute of Science and Technology Evaluatie van gezichtsherkenningstechnologie En Evaluatie van gezichtsanalysetechnologie programma’s’, zegt hij. ‘Deze programma’s laten zien dat in ieder geval de top 100 algoritmen meer zijn dan 99,5% nauwkeurig voor matching (identiteitsverificatie), zelfs binnen demografische groepen, terwijl de beste technologieën voor leeftijdsschatting meer dan 95% nauwkeurig zijn.”
Parker zei dat het duidelijk is dat meer platforms en diensten zich richten op leeftijdsverificatie en biometrisch scannen om leeftijdsgeschikt gebruik te garanderen.
Geen volledige oplossing
De focus op technologie om jongeren te beschermen vormt echter geen ‘volledige oplossing’, zegt Kristine Gloria, de Chief Operating Officer van Jonge toekomstendat nauw samenwerkt met tieners en docenten op het gebied van ondernemerschapsprogramma’s.
“We weten dat generatieve AI echte uitdagingen met zich meebrengt, en dat gezinnen ondersteuning nodig hebben bij het navigeren daarin”, zegt Gloria. “Strikte monitoring heeft echter zijn beperkingen. Om echt vooruitgang te boeken, moeten we safety-by-design aanmoedigen, waarbij platforms naast betrokkenheid prioriteit geven aan het welzijn van jongeren.”
Gloria zegt dat de juiste vorm van bescherming voor kinderen transparantie, verantwoordelijkheid en toewijding aan digitale geletterdheid vereist.
“Ons doel zou moeten zijn om omgevingen te bouwen waarin veiligheid van fundamenteel belang is, in plaats van te vertrouwen op technische snelle oplossingen of pleisters”, zei ze.
