Anthropic nadert snel onbekende wateren met de Amerikaanse regering vanwege militair gebruik van zijn grens Je hebt een model, Claude.
Op dinsdagochtend, Antropische CEO Dario Amodei sprak met minister van Defensie Pete Hegseth tijdens een bijeenkomst waarin een bron die bekend was met de zaak, tegen Business Insider zei dat hij vriendelijk en respectvol was.
De bijeenkomst eindigde echter met een waarschuwing aan Anthropic: sluit je aan bij het leger, anders riskeer je wat neerkomt op een zwarte lijst door de Amerikaanse overheid.
Een hoge functionaris van het Pentagon vertelde Business Insider dat Anthropic tot vrijdag 17.01 uur Eastern Time de tijd heeft om akkoord te gaan met de voorwaarden van het ministerie van Defensie; anders zal het andere hefbomen vinden om de AI-startup te dwingen samen te werken met het leger.
De functionaris zei dat Hegseth voorbereid is op het gebruik van de Defensieproductiewet (DPA) – een tientallen jaren oude wet in oorlogstijd die de president ruime zeggenschap geeft over particuliere bedrijven in het belang van de nationale veiligheid – naast het aanmerken van Anthropic als een risico voor de toeleveringsketen.
De exacte voorwaarden die het leger van Anthropic eist zijn onduidelijk, maar de waarschuwingen aan het adres van een Amerikaans bedrijf over brede toegang tot een grensmodel vertegenwoordigen nieuwe toepassingen van nationale noodhulpautoriteiten tegen een nieuwe technologie, vertelden experts aan Business Insider.
“We bevinden ons absoluut op onbekend terrein”, zegt Dean Ball, voormalig senior beleidsadviseur van het White House Office of Science and Technology Policy en fellow van de Foundation for American Innovation, tegen Business Insider.
Een hartelijke ontmoeting met een ultimatum
Afgelopen juli lanceerde Anthropic, een AI-startup gesteund door Amazon en Googlekreeg van het ministerie van Defensie een contract met een plafond van 200 miljoen dollar toegewezen om ‘grensoverschrijdende AI-capaciteiten’ te ontwikkelen. Het doel was om “kritische uitdagingen op het gebied van de nationale veiligheid aan te pakken in oorlogs- en bedrijfsdomeinen”, aldus het departement.
Anthropic was destijds het enige AI-bedrijf dat toestemming kreeg om modellen in geheime omgevingen te exploiteren. Grok, ontwikkeld door XAI van Elon Muskkreeg eerder deze week een soortgelijke goedkeuring, en anderen staan op het punt om aan boord te gaan, bevestigde een hoge functionaris van het Pentagon tegen Business Insider.
In januari, maanden nadat Anthropic het contract had ontvangen, hield de minister van Defensie een toespraak tijdens zijn bezoek aan Musks SpaceX. Hegseth omschreef AI-innovatie als een ‘wapenwedloop in oorlogstijd’ en riep op tot de versnelde inzet van grensmodellen voor het leger.
De toespraak had zelfs een ideologische inslag. De minister van Defensie ging tekeer tegen ‘wakkere’ AI, DEI-initiatievenen zei dat de “dagen van eerlijke AI” voorbij zijn.
“We zullen geen AI-modellen gebruiken waarmee je geen oorlogen kunt voeren”, voegde Hegseth eraan toe.
Dinsdag had Amodei een ontmoeting met de minister van Defensie van het Pentagon, waarbij de CEO “waardering” toonde voor de diensten van het Ministerie van Defensie en Hegseth “dankte”, zei een woordvoerder van Anthropic.
Een ander onderwerp dat ze ter sprake brachten ging over de rode lijnen van Anthropic: autonome wapens en massale surveillance van binnenlandse burgers, aldus de bron die met de zaak bekend is.
De hoge functionaris van het Pentagon vertelde Business Insider dat de stilstand bij Anthropic niets te maken had met de rode lijnen van de startup. Er is ook geen openbaar bewijs dat erop wijst dat de DOD een ideologisch of politiek probleem had met Anthropic.
Ondanks de hartelijke ontmoeting bleef Amodei echter met een ultimatum zitten: een ultimatum dat volgens Ball ‘vreselijke signalen’ naar Amerikaanse ondernemers zou kunnen sturen en ‘existentieel’ zou kunnen zijn voor Anthropic.
De AI-startup heeft deze week een update uitgebracht voor zijn intern veiligheidskader dat een duidelijkere grens trekt tussen de waarborgen waartoe het zich verplicht en de ‘meer ambitieuze normen voor de hele sector’, waarbij wordt verklaard dat het deze laatste steunt, maar deze niet ‘eenzijdig’ kan volgen vanwege de concurrentie.
Een woordvoerder van Anthropic zei dat de raamwerkupdate niets te maken had met de situatie bij het ministerie van Defensie.
De ‘existentiële’ dreiging van Anthropic
Ball, die hielp bij het opstellen van het ‘AI-actieplan’ van de regering-Trump, vertelde Business Insider dat het ministerie van Defensie de DPA en het risicolabel voor de toeleveringsketen op tamelijk ongekende manieren gebruikt.
De DPA werd tijdens de Koreaanse oorlog opgericht om de uitvoerende macht ruime zeggenschap te geven over de wijze waarop middelen moeten worden geïnvesteerd en uitgegeven, met name om de fysieke productie in fabrieken op te voeren.
De wet werd vele malen op Amerikaanse bedrijven toegepast, zei Ball, maar vaker om in bedrijven te investeren om de productie te helpen uitbreiden. Het ministerie van Defensie stelt in plaats daarvan voor om Titel I van de wet te gebruiken, die de overheid in staat stelt bedrijven te vertellen hoe ze hun economische middelen moeten inzetten, om een bedrijf te dwingen in te stemmen met de voorwaarden.
“Ik ben me er niet van bewust dat dit ooit als wapen is gebruikt in een onderhandelingspositie”, zei Ball.
Deirdre Mulligan, faculteitsdirecteur van het Berkeley Center for Law & Technology, vertelde Business Insider dat de DPA is ontworpen om als laatste redmiddel te worden gebruikt als er geen andere alternatieven bestaan.
“Dit is een behoorlijk buitengewoon gebruik of potentieel gebruik van de DPA”, zei ze.
De term ’toeleveringsketenrisico’ is ook nieuw, omdat deze vaak wordt toegepast op buitenlandse of met het buitenland verbonden bedrijven, en niet op Amerikaanse bedrijven. Een opmerkelijk voorbeeld is Huawei, de Chinese telecomgigantin 2019. Binnen een maand na de zwarte lijst verbraken grote bedrijven als Google en Qualcomm de zakelijke banden met Huawei.
“Wat staat er op het spel voor Anthropic? Ik bedoel, Anthropic zou quasi-genationaliseerd kunnen worden, of ze zouden failliet kunnen gaan”, zei Ball. “De inzet is enorm voor hen.”
Het nadeel voor het ministerie van Defensie is kleiner – het agentschap zou gewoon weg kunnen lopen en zich tot een ander AI-bedrijf kunnen wenden – maar de actie tegen Anthropic zou een huiveringwekkende boodschap kunnen sturen naar andere Amerikaanse ondernemers, zei Ball.
“Dit geeft bedrijven de boodschap dat zakendoen met de Amerikaanse overheid uiterst gevaarlijk is”, zei hij. “Het is een enorm risico.”
Een woordvoerder van het Witte Huis reageerde niet op een verzoek om commentaar.
