OpenAI heeft zojuist een update van de principes gedeeld, en er vallen drie verschillen op ten opzichte van de versie uit 2018.
In een blog op zondag, CEO Sam Altman plaatste een lijst met vijf ‘principes’ voor het frontier model lab. Hoewel het bedrijf in de loop der jaren kleinere verschuivingen in het veiligheidsbeleid en modelspecificaties heeft gedeeld, is de nieuwe reeks principes een belangrijke update van de richtlijnen sinds 2018.
OpenAI werd in december 2015 opgericht als een non-profit AI-onderzoeksorganisatie. Het werd opgericht in San Francisco door een groep oprichterswaaronder Altman, Elon Musk, Greg Brockman en Ilya Sutskever, van wie sommigen vertrokken na meningsverschillen over de overgang naar een closed-source bedrijf met winstoogmerk.
Hier zijn drie belangrijke verschillen tussen de documenten van 2018 en 2026:
1. Minder nadruk op AGI
In het handvest van 2018 stonden richtlijnen rond kunstmatige algemene intelligentie – zeer autonome systemen die beter presteren dan mensen bij economisch waardevol werk – centraal. AGI wordt vaak gezien als een vergezochte noordster voor AI-laboratoria.
Het document uit 2018, waarin AGI twaalf keer werd genoemd, luidde: “Om effectief te zijn in het aanpakken van de impact van AGI op de samenleving, moet OpenAI zich op het scherpst van de snede bevinden op het gebied van AI-capaciteiten; beleids- en veiligheidsadvocaten alleen zouden onvoldoende zijn.”
In het document uit 2026 wordt AGI twee keer genoemd, waarbij de nadruk op AI over de hele linie ligt in plaats van op AGI.
“Dit is een uitbreiding van onze al lang bestaande strategie van iteratieve inzet; wij geloven dat de samenleving te maken heeft met elk opeenvolgend niveau van AI-capaciteiten”, aldus de blogpost van zondag.
2. Zet de concurrentie centraal
De versie van de doelstellingen van zondag is een verschuiving van 180 graden ten opzichte van de oorspronkelijke richtlijnen van het bedrijf over samenwerking en het vermijden van concurrentie met rivaliserende laboratoria.
“We zijn bezorgd dat de ontwikkeling van AGI in een laat stadium een competitieve race wordt zonder tijd voor adequate veiligheidsmaatregelen”, aldus de richtlijnen van 2018. “Daarom, als een op waarde afgestemd, veiligheidsbewust project in de buurt komt van het bouwen van AGI voordat wij dat doen, verbinden wij ons ertoe om te stoppen met concurreren met dit project en dit project te gaan ondersteunen.”
Het nieuwste document slaat vermeldingen over het delen van vooruitgang en het opzij stappen over. Er staat impliciet in dat het bedrijf, indien nodig, prioriteit zal geven aan concurrentievermogen boven AI voor iedereen.
“We erkennen ook dat OpenAI een veel grotere kracht in de wereld is dan een paar jaar geleden, en we zullen transparant zijn over wanneer, hoe en waarom onze bedrijfsprincipes veranderen”, aldus het rapport. “Als concreet voorbeeld: hoewel we er vrij zeker van zijn dat universele welvaart heel belangrijk zal blijven, kunnen we ons perioden in de toekomst voorstellen waarin we wat empowerment moeten inruilen voor meer veerkracht.”
De afgelopen maanden heeft OpenAI hevig geconcurreerd met zijn jongere rivaalAntropischwaar de interesse van gebruikers en beleggers sterk is toegenomen.
De recente hoogtepunten van Anthropic zijn onder meer het uitbrengen van steeds geavanceerdere Claude-modellen, waaronder de zeer capabele en strak gecontroleerde Mythos. In februari is het spraakmakend botsing met het Pentagon versterkte ook zijn merk en het aantal downloads van Claude steeg enorm.
Eerder deze maand meldde Business Insider dat de vraag van investeerders de waardering van Anthropic naar rond heeft gedreven $1 biljoen op secundaire marktenwaarmee OpenAI wordt ingehaald, dat dichter bij het bereik van midden $ 800 miljard zit.
3. Toezeggingen werden vager
Een ander belangrijk verschil tussen de twee documenten is dat OpenAI verschuift van het doen van toezeggingen voor zichzelf naar het bieden van suggesties aan het hele technologie-ecosysteem.
De taal in het oorspronkelijke handvest concentreerde zich op ‘we zullen’, ‘we committeren ons’ en ‘we verwachten’, waarbij herhaaldelijk AI werd gecreëerd veiligheidsdoelen voor OpenAI en haar medewerkers.
“Onze voornaamste fiduciaire plicht is jegens de mensheid”, luidde het charter van 2018.
“We verwachten dat we substantiële middelen moeten inzetten om onze missie te vervullen, maar zullen altijd ijverig handelen om belangenconflicten onder onze werknemers en belanghebbenden tot een minimum te beperken, die de brede voordelen in gevaar zouden kunnen brengen.”
In de versie van 2026 wordt gesproken over AI en de gevolgen ervan in bredere zin.
Er staat dat beslissingen rond AI democratisch moeten zijn, en niet in de handen van een paar AI-laboratoria. Het document beveelt regeringen aan om nieuwe economische structuren te overwegen, en zegt dat de wereld “enorme” hoeveelheden AI-infrastructuur nodig heeft om AI betaalbaar te maken.
