OpenAI-CEO Sam Altman reageert op de deal met het Department of War

Open AI heeft een deal gesloten met het Amerikaanse Ministerie van Oorlog (DOW) en levert AI-tools voor militair gebruik in ‘geheime omgevingen’. Zaterdag wordt de samenwerking aangekondigdbeweert de ChatGPT-ontwikkelaar dat het vangrails bevat die het gebruik van zijn technologie voor massale binnenlandse surveillance of autonome wapens verbieden. Contractfragmenten die door OpenAI worden gedeeld, lijken echter aanzienlijke mazen in de wet te laten.

Het nieuws over de deal van OpenAI met de DOW kwam slechts een dag later President Donald Trump maakte bekend dat de De Amerikaanse overheid zal niet langer technologie van OpenAI-rivaal Anthropic gebruikeninclusief zijn AI-model Claude. Bericht over de splitsing op Truth SocialTrump had bezwaar gemaakt tegen het feit dat Anthropic erop aandrong dat de DOW zich aan de servicevoorwaarden van het bedrijf zou houden.

Precies met welke servicevoorwaarden Trump het oneens was, werd onthuld in een verklaring van Anthropic CEO Dario Amodei donderdag. Daarin beweerde hij dat de DOW van Anthropic eiste dat het de veiligheidsmaatregelen zou intrekken tegen het gebruik van zijn technologie voor massasurveillance in de VS en tegen volledig AI-gestuurde wapens. Amodei verklaarde dat dergelijk gebruik technisch gezien legaal kan zijn, maar “dit is alleen omdat de wet de snelgroeiende mogelijkheden van AI nog niet heeft ingehaald.”

“In een beperkt aantal gevallen geloven wij dat AI de democratische waarden kan ondermijnen in plaats van verdedigen”, schreef Amodei. “Sommige toepassingen vallen ook simpelweg buiten de grenzen van wat de huidige technologie veilig en betrouwbaar kan doen.”

De voorwaarden van OpenAI zijn blijkbaar meer in de smaak van de regering-Trump, waarbij het bedrijf tussenbeide komt om het Amerikaanse leger te voorzien van AI-technologie in de plaats van Anthropic. Maar desondanks beweert OpenAI dat de overeenkomst met DOW niet alleen soortgelijke vangrails kent die het gebruik van zijn technologie voor grootschalige binnenlandse surveillance of het aansturen van autonome wapens verbieden, maar voegt er zelfs een derde aan toe: “Geen gebruik van OpenAI-technologie voor geautomatiseerde beslissingen met hoge inzet (bijv. systemen zoals ‘sociaal krediet’). ”

“We behouden de volledige discretie over onze veiligheidsstack, we implementeren via de cloud, het goedgekeurde OpenAI-personeel is op de hoogte en we hebben sterke contractuele bescherming”, aldus de aankondiging van OpenAI. “Dit komt allemaal bovenop de sterke bestaande bescherming in de Amerikaanse wetgeving.”

Deze Tweet is momenteel niet beschikbaar. Mogelijk wordt het geladen of is het verwijderd.

Volgens OpenAI zijn de beperkingen die het heeft opgelegd beter afdwingbaar dan die van Anthropic, omdat het de DOW alleen via de cloud van zijn technologie zal voorzien, in plaats van deze rechtstreeks op hardware te installeren. OpenAI-personeel zal ook betrokken worden gehouden, zodat ze kunnen zien hoe de DOW zijn technologie gebruikt. Hierdoor zou het bedrijf meer toezicht en controle over zijn AI-systemen kunnen krijgen.

“We weten niet waarom Anthropic deze deal niet kon bereiken, en we hopen dat zij en meer laboratoria dit zullen overwegen”, schreef OpenAI.

Echter, een uittreksel van het contract gedeeld door OpenAI gaf aan dat zijn technologie alleen zal worden uitgesloten van gebruik in autonome wapens of om Amerikaanse burgers in de gaten te houden als dergelijk gebruik illegaal is. In feite lijkt de overeenkomst omstandigheden te schetsen waarin de technologie van OpenAI voor deze doeleinden zou worden toegestaan, bijvoorbeeld wanneer menselijke controle over wapens niet vereist is door het DOW-beleid of de wet.

“Het Ministerie van Oorlog mag het AI-systeem gebruiken voor alle wettige doeleinden, in overeenstemming met de toepasselijke wetgeving, operationele vereisten en gevestigde veiligheids- en toezichtprotocollen”, luidt het contract volgens OpenAI. “(Elk) gebruik van AI in autonome en semi-autonome systemen moet strenge verificatie, validatie en testen ondergaan om ervoor te zorgen dat ze presteren zoals bedoeld in realistische omgevingen voordat ze worden ingezet.”

Reageren op zorgen in een bericht op LinkedInKatrina Mulligan, hoofd van de nationale veiligheidspartnerschappen van OpenAI, herhaalde slechts dat het gebruiksbeleid niet de enige waarborgen is, waarbij ze opnieuw de nadruk legde op de cloudimplementatie en de betrokkenheid van het personeel.

“Het standpunt van (de DOW) was: bouw het model zoals je wilt, weiger alle verzoeken die je wilt, probeer gewoon niet onze operationele beslissingen te sturen via gebruiksbeleid”, schreef Mulligan.

Toch blijven er twijfels bestaan ​​over de effectiviteit van deze ogenschijnlijke waarborgen, vooral gezien de onwil van OpenAI om een ​​ethisch standpunt in te nemen.

Sam Altman spreekt over de deal van OpenAI met het Department of War

Deze Tweet is momenteel niet beschikbaar. Mogelijk wordt het geladen of is het verwijderd.

OpenAI-CEO Sam Altman hield een vraag-en-antwoordsessie over X in een poging de zorgen van gebruikers over de DOW-deal weg te nemen, met weinig schijnbaar succes. Toegegeven dat de deal “was zeker gehaast en de optiek ziet er niet goed uit,” Altman beweerde dat ze hoopten dat dit de spanningen tussen de DOW en de AI-industrie zou de-escaleren.

“Ik denk dat een goede relatie tussen de overheid en de bedrijven die deze technologie ontwikkelen de komende jaren van cruciaal belang is”, schreef Altman.

De deal heeft OpenAI en de Amerikaanse overheid misschien dichter bij elkaar gebracht, maar het lijkt tegelijkertijd de civiele gebruikers van ChatGPT te hebben vervreemd.

Reageren op een vraag of het toestaan ​​van al het legale gebruik massale surveillance mogelijk maaktAltman heeft een bericht gedeeld door de Amerikaanse onderminister van Oorlog Emil Michael, waarin hij beweerde dat “De DoW de binnenlandse communicatie van Amerikaanse mensen niet bespioneert (ook niet via commerciële verzamelingen) en dat zou onwettig en volkomen on-Amerikaans zijn.”

Het is niet verwonderlijk dat weinigen geneigd lijken het woord van de DOW op zich te nemen. In 2013 klokkenluider Edward Snowden onthulde massale surveillance van Amerikaanse burgers uitgevoerd door de National Security Agency (NSA) van de DOW (toen nog het ministerie van Defensie genoemd). Dit programma bleek illegaal te zijnen omvatte de telefoongegevens van mensen. Human Rights Watch beschuldigde het toenmalige ministerie van Defensie er ook van het in de gaten houden van Amerikaanse burgers zonder arrestatiebevel in 2017.

‘De regering heeft de wet al overtreden en Amerikaanse burgers illegaal in de gaten gehouden’ antwoordde X-gebruiker @bolts6629. ‘Is een milquetoast-verklaring van een ondersecretaris in een regering die bekend staat om zijn leugens goed genoeg voor u?’

Altman verklaarde wel dat hij zou weigeren de technologie van OpenAI te gebruiken voor massale binnenlandse surveillance ‘Omdat het in strijd is met de Grondwet’ en uitte zijn ongemak bij het idee van een amendement dat een dergelijk gebruik zou toestaan. Sommige gebruikers van sociale media twijfelen echter aan deze bewering en merken op dat hij eerder op andere beloften is teruggekomen.

“Andere dingen die je hebt gezegd dat je niet zou doen: het OpenAI-bord overrulen, verwijder de non-profitstructuur, plaats advertenties in ChatGPT,” opgemerkt @Laneless_.

Verder gaf de CEO van OpenAI ook aan dat het bedrijf dat wel is terughoudend om ethische grenzen te trekkendie er de voorkeur aan geeft verantwoordelijkheid af te leggen en de aanwijzingen van de regering op te volgen in plaats van zelf een standpunt in te nemen.

“(W)e zijn niet gekozen”, schreef Altman. “We hebben een democratisch proces waarin we onze leiders kiezen. We hebben expertise met de technologie en begrijpen de beperkingen ervan, maar ik denk dat je doodsbang moet zijn als een particulier bedrijf beslist over wat wel en niet ethisch is op de belangrijkste gebieden.”

‘Het opvolgen van bevelen is geen excuus voor onethisch gedrag’ reageerde @MagisterLudiX. “Ofwel heb je sterke rode lijnen, ofwel zie je het als puur transactioneel, afhankelijk van de politieke context.”

“AI is een hulpmiddel. Een harde limiet is een limiet zoals elk ander hulpmiddel heeft,” schreef @genericrohan. “Het gaat niet om het beslissen wat het leger kan doen, het gaat om het stellen van een limiet waar het leger rekening mee kan houden.”

Als reactie op het nieuws over OpenAI en de samenwerking met DOW zijn veel ChatGPT-gebruikers dat ook naar verluidt annuleren hun abonnementen naar de AI-chatbot. Verschillende zijn in plaats daarvan wenden ons tot Anthropic’s AI-chatbot Claudedat sindsdien ChatGPT heeft onttroond als de meest gedownloade gratis app in de Amerikaanse Apple App Store.

“OpenAI heeft zojuist een deal gesloten met een duivel en is deze klant van twee jaar kwijtgeraakt”, Reddit-gebruiker r/boomroom11 geplaatst op subreddit r/ChatGPT. Het bericht heeft op het moment van schrijven meer dan 26.000 stemmen. “Het bedrijf (oorspronkelijk non-profit) dat ons vertelde dat ze bestonden om AI veilig voor de mensheid te bouwen, neemt nu contracten met het Pentagon aan. Sam Altman besloot dat defensiegeld belangrijker was dan elk principe waarop het bedrijf was gebaseerd.”

Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april 2025 een rechtszaak aangespannen tegen OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.