OpenAI lanceert Privacy Filter, een open source data-opschoningsmodel op het apparaat dat persoonlijke informatie uit bedrijfsdatasets verwijdert

In een belangrijke verschuiving naar een lokaal-eerste privacy-infrastructuur heeft OpenAI een release uitgebracht Privacyfiltereen gespecialiseerd open-sourcemodel dat is ontworpen om persoonlijk identificeerbare informatie (PII) te detecteren en te redigeren voordat deze ooit een cloudgebaseerde server bereikt.

Vandaag gelanceerd op de community voor het delen van AI-codes Knuffelend gezicht onder een permissie Apache 2.0-licentiepakt de tool een groeiend knelpunt in de sector aan: het risico dat gevoelige gegevens in trainingssets “lekken” of worden blootgesteld tijdens gevolgtrekkingen met hoge doorvoer.

Door een model met 1,5 miljard parameters aan te bieden dat op een standaardlaptop of rechtstreeks in een webbrowser kan worden uitgevoerd, biedt het bedrijf ontwikkelaars in feite een ‘privacy-by-design’-toolkit die functioneert als een geavanceerde, contextbewuste digitale versnipperaar.

Hoewel OpenAI werd opgericht met een focus op open source-modellen zoals deze, schakelde het bedrijf tijdens het ChatGPT-tijdperk over op het aanbieden van meer propriëtaire (“closed source”) modellen die alleen beschikbaar waren via zijn website, apps en API – om vorig jaar op grote schaal terug te keren naar open source met de lancering van de gpt-oss-familie van taalmodellen.

In dat licht, en gecombineerd met OpenAI’s recente open sourcing van agentische orkestratie tools en raamwerken, is het veilig om te zeggen dat de generatieve AI-gigant duidelijk nog steeds zwaar geïnvesteerd heeft in het bevorderen van dit minder direct lucratieve deel van het AI-ecosysteem.

Technologie: een gpt-oss-variant met bidirectionele tokenclassifier die vanuit beide richtingen leest

Architectonisch gezien is Privacy Filter een afgeleide van OpenAI’s gpt-ons family, een reeks open-weight redeneermodellen die eerder dit jaar zijn uitgebracht.

Hoewel standaard grote taalmodellen (LLM’s) doorgaans autoregressief zijn (het voorspellen van het volgende token in een reeks), is Privacy Filter een bidirectionele tokenclassificator.

Dit onderscheid is van cruciaal belang voor de nauwkeurigheid. Door tegelijkertijd vanuit beide richtingen naar een zin te kijken, krijgt het model een dieper inzicht in de context dat een alleen-voorwaarts model misschien mist.

Het kan bijvoorbeeld beter onderscheiden of ‘Alice’ verwijst naar een particulier of een publiek literair personage op basis van de woorden die op de naam volgen, en niet alleen op basis van de woorden die eraan voorafgaan.

Het model maakt gebruik van een Sparse Mixture-of-Experts (MoE)-framework. Hoewel het in totaal 1,5 miljard parameters bevat, zijn er slechts 50 miljoen parameters actief tijdens een enkele voorwaartse doorgang.

Deze spaarzame activering zorgt voor een hoge doorvoer zonder de enorme rekenoverhead die doorgaans gepaard gaat met LLM’s. Bovendien beschikt het over een enorme Contextvenster met 128.000 tokenswaardoor het hele juridische documenten of lange e-mailgesprekken in één keer kan verwerken zonder dat tekst hoeft te worden gefragmenteerd – een proces dat er vaak voor zorgt dat traditionele PII-filters de entiteiten uit het oog verliezen over pagina-einden heen.

Om ervoor te zorgen dat de geredigeerde uitvoer coherent blijft, heeft OpenAI een beperkte Viterbi-decoder geïmplementeerd. In plaats van voor elk afzonderlijk woord een onafhankelijke beslissing te nemen, evalueert de decoder de gehele reeks om logische overgangen af ​​te dwingen.

Het maakt gebruik van een ‘BIOES’-labelingschema (Begin, Inside, Outside, End, Single), dat ervoor zorgt dat als het model ‘John’ identificeert als het begin van een naam, het statistisch gezien geneigd is om ‘Smith’ te bestempelen als de voortzetting of het einde van diezelfde naam, in plaats van als een afzonderlijke entiteit.

Gegevensopschoning op het apparaat

Privacyfilter is ontworpen voor workflows met hoge doorvoer waarbij gegevenslocatie een niet-onderhandelbare vereiste is. Het ondersteunt momenteel de detectie van acht primaire PII-categorieën:

• Privé namen: Individuele personen.

• Contactgegevens: Fysieke adressen, e-mailadressen en telefoonnummers.

• Digitale identificatiegegevens: URL’s, accountnummers en datums.

• Geheimen: Een gespecialiseerde categorie voor inloggegevens, API-sleutels en wachtwoorden.

In de praktijk stelt dit ondernemingen in staat het model on-premises of in hun eigen private clouds te implementeren. Door gegevens lokaal te maskeren voordat ze naar een krachtiger redeneermodel (zoals GPT-5 of gpt-oss-120b) worden gestuurd, kunnen bedrijven voldoen aan de strikte AVG- of HIPAA-normen en toch gebruik maken van de nieuwste AI-mogelijkheden.

De eerste benchmarks zijn veelbelovend: het model haalt naar verluidt een F1-score van 96% op de PII-Masking-300k-benchmark, out-of-the-box.

Voor ontwikkelaars is het model beschikbaar via Hugging Face, met native ondersteuning voor transformers.jswaardoor het volledig in de browser van een gebruiker kan worden uitgevoerd met behulp van WebGPU.

Volledig open source, commercieel haalbare Apache 2.0-licentie

Misschien wel het belangrijkste aspect van de aankondiging voor de ontwikkelaarsgemeenschap is de Apache 2.0-licentie. In tegenstelling tot “available-weight”-licenties die vaak commercieel gebruik beperken of “copyleft” delen van afgeleide werken vereisen, is Apache 2.0 een van de meest tolerante licenties in de softwarewereld. Voor startups en makers van ontwikkelaarstools betekent dit:

1. Commerciële vrijheid: Bedrijven kunnen Privacy Filter in hun eigen producten integreren en deze verkopen zonder royalty’s aan OpenAI te betalen.

2. Maatwerk: Teams kunnen het model verfijnen op basis van hun specifieke datasets (zoals medisch jargon of eigen logformaten) om de nauwkeurigheid voor niche-industrieën te verbeteren.

3. Geen virale verplichtingen: In tegenstelling tot de GPL-licentie hoeven bouwers niet hun volledige codebase open source te maken als ze Privacy Filter als component gebruiken.

Door dit licentiepad te kiezen positioneert OpenAI Privacy Filter als een standaardhulpprogramma voor het AI-tijdperk – in wezen de ‘SSL voor tekst’.

Reacties van de gemeenschap

De technische gemeenschap reageerde snel op de release, waarbij velen de indrukwekkende technische beperkingen opmerkten die OpenAI wist te overwinnen.

Elie Bakouch (@eliebakouch), een onderzoeksingenieur bij agentic model training platform startup Prime Intellect, prees de efficiëntie van de architectuur van Privacy Filter op X:

“Zeer mooie release van @OpenAI! Een 50 miljoen actieve, 1,5 miljard totale gpt-oss arch MoE, om privé-informatie goedkoop uit biljoenen schaalgegevens te filteren. Het behouden van 128k-context met zo’n klein model is ook behoorlijk indrukwekkend”.

Het sentiment weerspiegelt een bredere trend in de sector naar ‘kleine maar machtige’ modellen. Terwijl de wereld zich heeft geconcentreerd op enorme parametergiganten van 100 biljoen, vereist de praktische realiteit van zakelijke AI vaak kleine, snelle modellen die één taak – zoals privacyfiltering – uitzonderlijk goed en tegen lage kosten kunnen uitvoeren.

OpenAI heeft echter een “High-Risk Deployment Caution” in zijn documentatie opgenomen. Het bedrijf waarschuwde dat de tool moet worden gezien als een ‘redactiehulpmiddel’ in plaats van een ‘veiligheidsgarantie’, en merkte op dat een te groot vertrouwen op één enkel model zou kunnen leiden tot ‘gemiste spanwijdten’ in zeer gevoelige medische of juridische workflows.

Het privacyfilter van OpenAI is duidelijk een poging van het bedrijf om de AI-pijplijn fundamenteel veiliger te maken.

Door de efficiëntie van een Mixture-of-Experts-architectuur te combineren met de openheid van een Apache 2.0-licentie, biedt OpenAI veel ondernemingen een manier om PII-gegevens gemakkelijker, goedkoper en veiliger te redigeren.