OpenAI’s Altman zegt dat de defensiedeal ‘opportunistisch en slordig’ was

OpenAI-CEO Sam Altman zei maandag dat het bedrijf zijn recente deal met het Amerikaanse ministerie van Defensie “niet had moeten overhaasten” en schetste herzieningen van de overeenkomst.

Altman deelde wat hij omschreef als een herpost van een interne memo op Xwaarin staat dat het bedrijf het contract zou wijzigen om er een nieuwe taal in op te nemen, eraan toevoegend dat “het AI-systeem niet opzettelijk zal worden gebruikt voor binnenlands toezicht op Amerikaanse personen en onderdanen.”

Het komt na de ChatGPT-maker aangekondigd het had vrijdag een nieuwe deal gesloten met het ministerie van Defensie, slechts enkele uren nadat de Amerikaanse president Donald Trump federale agentschappen had opgedragen te stoppen met het gebruik van de tools van rivaliserend AI-bedrijf Anthropic, en uren voordat Washington aanvallen op Iran zou uitvoeren.

Hij voegde eraan toe dat het ministerie van Defensie had bevestigd dat de tools van OpenAI niet zouden worden gebruikt door inlichtingendiensten zoals de NSA.

“Er zijn veel dingen waar de technologie gewoon nog niet klaar voor is, en op veel gebieden begrijpen we nog niet welke afwegingen er nodig zijn voor de veiligheid”, zei Altman, eraan toevoegend dat het bedrijf met het Pentagon zou samenwerken op het gebied van technische veiligheidsmaatregelen.

De CEO gaf ook toe dat hij een fout had gemaakt en “niet had moeten haasten” om de deal vrijdag rond te krijgen.

“We probeerden echt de zaken te de-escaleren en een veel slechtere uitkomst te voorkomen, maar ik denk dat het er gewoon opportunistisch en slordig uitzag”, zei hij.

De erkenning komt na een publieke vete tussen Anthropic en Washington over de veiligheidsmaatregelen voor zijn Claude AI-systemen, die zonder overeenkomst eindigde. Minister van Defensie Pete Hegseth zei vrijdag dat het bedrijf zou worden aangemerkt als een bedreiging voor de toeleveringsketen.

Na een eerste deal vorig jaar was Anthropic het eerste AI-laboratorium dat zijn modellen in het geheime netwerk van het ministerie van Defensie implementeerde.

Het bedrijf had later garanties gezocht dat haar instrumenten niet zouden worden gebruikt voor doeleinden als binnenlands toezicht in de VS, of voor het exploiteren en ontwikkelen van autonome wapens zonder menselijke controle.

Het dispuut begon nadat bekend werd dat Claude van Anthropic door het Amerikaanse leger was gebruikt bij zijn aanval op de Venezolaanse president Nicolás Maduro in januari, hoewel het bedrijf daar niet publiekelijk bezwaar tegen maakte.

De deal van OpenAI met het Pentagon kwam vlak nadat de gesprekken tussen Anthropic en het ministerie van Defensie waren mislukt, hoewel Altman de medewerkers in een interview had verteld Donderdag memo dat OpenAI dezelfde “rode lijnen” deelde als Anthropic. Hij zei vrijdag in een post dat het ministerie van Defensie instemde met de beperkingen van het bedrijf.

Het blijft onduidelijk waarom het ministerie van Defensie ermee heeft ingestemd om OpenAI te huisvesten en niet Anthropic, hoewel overheidsfunctionarissen Anthropic maandenlang hebben bekritiseerd omdat het zich naar verluidt overdreven bezorgd zou maken over de veiligheid van AI.

De timing van de deal van OpenAI met het ministerie van Defensie leidde tot online reacties bij veel gebruikers naar verluidt ChatGPT voor Claude in de appstores dumpen.

In zijn post ging Altman verder in op de controverse en zei: “In mijn gesprekken afgelopen weekend herhaalde ik dat Anthropic niet als een (toeleveringsketenrisico) moet worden aangemerkt, en dat we hopen dat het (ministerie van Defensie) hen dezelfde voorwaarden biedt waarmee we hebben ingestemd. “

Anthropic werd in 2021 opgericht door een groep voormalige OpenAI-medewerkers en onderzoekers, waaronder Dario Amodei, die het bedrijf verliet na meningsverschillen over de richting ervan. Het bedrijf heeft zichzelf op de markt gebracht als een ‘veiligheid eerst’-alternatief.