OpenAI werkt de deal met het Department of War bij na een terugslag

Open AI CEO Sam Altman zegt dat het bedrijf haast heeft gemaakt recente deal met het Amerikaanse Ministerie van Oorlog (DOW)en gaf toe dat het ‘opportunistisch en slordig’ leek. In een interne memo die hij vervolgens op X deelde, verklaarde Altman dat OpenAI nu zijn overeenkomst wijzigt om het leger van AI-technologie te voorzien. Het lijkt weinig te hebben gedaan om de zorgen weg te nemen.

“(W)e had zich niet moeten haasten om dit vrijdag naar buiten te brengen,” Altman schreef maandag in een X-post. “De problemen zijn supercomplex en vereisen duidelijke communicatie. We probeerden echt de zaken te de-escaleren en een veel slechtere uitkomst te voorkomen, maar ik denk dat het er gewoon opportunistisch en slordig uitzag.”

OpenAI kondigde eind vorige week zijn samenwerking met de DOW aan en sloot het contract binnen enkele dagen daarna af President Donald Trump federale agentschappen opdracht geven om dat te doen stop met het gebruik van concurrent Anthropic. Volgens Dario Amodei, CEO van Anthropic, was de splitsing het gevolg van het feit dat het de eisen van de DOW weigerde om de waarborgen tegen het gebruik van AI voor massaal binnenlands toezicht en volledig autonome wapens op te heffen. In plaats daarvan wilde de DOW de AI-tools van Anthropic gebruiken “elk rechtmatig gebruik.”

Als zodanig veroorzaakte de snelle DOW-deal van OpenAI onmiddellijke terugslag van zijn civiele gebruikers. Ondanks de bewering van OpenAI dat de deal nog meer waarborgen biedt dan de oorspronkelijke overeenkomst van Anthropic, leek het contract zowel massasurveillance als door AI bestuurde wapens mogelijk te maken, zolang dergelijk gebruik legaal is, en zelfs onder welke omstandigheden dit zou zijn toegestaan.

Nu probeert OpenAI de schade te beperken en stelt dat het met de DOW heeft samengewerkt om nieuwe taal aan het contract toe te voegen, waarin het gebruik van zijn technologie voor binnenlands toezicht rechtstreeks wordt aangepakt.

“Tijdens onze gesprekken heeft het Ministerie (van Oorlog) duidelijk gemaakt dat het onze inzet deelt om ervoor te zorgen dat onze instrumenten niet zullen worden gebruikt voor binnenlands toezicht,” OpenAI schreef maandag in een update van de oorspronkelijke dealaankondiging.

OpenAI werkt de deal met het Department of War bij na een terugslag

Helaas blijven de nieuwe amendementen die OpenAI heeft gedeeld vertrouwen op legaliteit als beperkende grens die massale surveillance verhindert, waardoor een dergelijk gebruik mogelijk blijft als de Amerikaanse regering de wet zou veranderen. Ze slagen er ook niet in om de kwestie van autonome wapens aan te pakken.

“In overeenstemming met de toepasselijke wetten … zal het AI-systeem niet opzettelijk worden gebruikt voor binnenlands toezicht op Amerikaanse personen en onderdanen”, luiden de nieuwe paragrafen. “Voor alle duidelijkheid: het ministerie begrijpt dat deze beperking het opzettelijk volgen, bewaken of monitoren van Amerikaanse personen of onderdanen verbiedt, onder meer door het verkrijgen of gebruiken van commercieel verkregen persoonlijke of identificeerbare informatie.”

Deze Tweet is momenteel niet beschikbaar. Mogelijk wordt het geladen of is het verwijderd.

Veel gebruikers van sociale media reageerden sceptisch op de contractwijzigingen van OpenAI, waarbij sommigen beweerden dat het specifieke verbod op “opzettelijke” surveillance opmerkelijke mazen in de wet achterlaat.

“Moeilijk om niet te lezen dat je toegang hebt tot een AI-sleepnet,” politiek onderzoeker Tyson Brody (@tysonbrody) reageerde op het bericht van Altman. “‘opzettelijk’ en ‘opzettelijk’ – dus Amerikanen zullen worden meegesleurd in deze gegevens, maar de overheid kan zich beroepen op ‘incidentele verzameling’ en dus legaal zijn.”

“‘Niet opzettelijk gebruikt’ is geen echte waarborg in een autonoom AI-systeem,” schreef @Andy_Bloch. “Het kan uiteindelijk surveillance gaan doen vanwege datgene waarop het is getraind, wat het uitzoekt of hoe mensen het daarna gebruiken.”

Altman gaf eerder aan dat OpenAI het gebruik van zijn AI-tools alleen langs juridische lijnen zou beperken, en niet langs ethische lijnen, tijdens een vraag-en-antwoordsessie kort nadat de DOW-deal was aangekondigd. De CEO uitte zijn onwil om een ​​ethisch standpunt in te nemen en stelde dat OpenAI er de voorkeur aan geeft de aanwijzingen van de overheid te volgen in plaats van dergelijke kwesties zelf te overwegen.

Ondanks kritiek op deze schijnbare afstand van verantwoordelijkheidherhaalde Altman dit standpunt opnieuw in zijn nieuwe memo, waarbij hij het omschreef als eerbied voor ‘democratische processen’.

“Het zou de overheid moeten zijn die de belangrijkste beslissingen over de samenleving neemt”, schreef Altman. “We willen een stem hebben, en een plek aan tafel waar we onze expertise kunnen delen, en vechten voor de principes van vrijheid. Maar we zijn duidelijk over hoe het systeem werkt (omdat veel mensen hebben gevraagd: als ik een bevel zou ontvangen waarvan ik dacht dat het een ongrondwettelijk bevel was, zou ik natuurlijk liever de gevangenis ingaan dan het te volgen).

Altman verklaarde wel dat DOW-inlichtingendiensten zoals de National Security Agency (NSA) de technologie van OpenAI niet zullen gebruiken zonder een wijziging van hun contract. Toch lijkt het momenteel onwaarschijnlijk dat OpenAI juridische verzoeken om dergelijke wijzigingen zou afwijzen, ongeacht eventuele ethische problemen die zich kunnen voordoen. (Eerder werd onthuld dat de NSA leiding had gegeven massale surveillance van Amerikaanse burgers door klokkenluider Edward Snowden in 2013.)

Talloze OpenAI-klanten hebben dat gedaan geannuleerd hun ChatGPT abonnementen als reactie op de deal van het bedrijf met de DOW, met het aantal verwijderingen zou naar verluidt met 295 procent zijn gestegen in de nasleep van het nieuws. Anthropic’s AI-chatbot Claude heeft sindsdien ChatGPT onttroond als de meest gedownloade gratis app in de Amerikaanse Apple App Store,

Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april 2025 een rechtszaak aangespannen tegen OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.