De R&D-chef van het Pentagon zei dat het ministerie van Defensie ‘bang’ was dat Anthropic op een kritiek moment de toegang tot zijn AI zou afsluiten.
Tijdens een optreden op de ‘All-In Podcast’ die vrijdag werd gepost, beschreef de staatssecretaris van Defensie voor Onderzoek en Techniek Emil Michael twee cruciale momenten die culmineerden in het Pentagon waarbij Anthropic formeel wordt aangemerkt als een risico voor de toeleveringsketenwaardoor in feite een van de grootste AI-bedrijven van het land op de zwarte lijst staat.
Een van die gevallen, zei Michael, was toen hij CEO van Anthropic was Dario Amodei suggereerde dat de impasse over de manier waarop het Pentagon de modellen van de AI-startup zou kunnen inzetten, kon worden overbrugd met een telefoontje, zelfs als dat op ‘een beslissend moment’ zou gebeuren.
‘Ik gaf deze scenario’s, deze Golden Dome-scenario’s, enzovoort’, zei Michael op ‘All-In Podcast’, waarin hij het kenmerkende raketverdedigingsinitiatief van president Donald Trump beschreef.
“En hij zegt: ‘Bel me maar als je nog een uitzondering nodig hebt.’ En ik heb zoiets van: “Maar wat als de ballon op dat moment omhoog gaat en het een beslissende actie is die we moeten ondernemen? Ik ga je niet bellen om iets te doen. Het is niet rationeel.”
Het is niet helemaal duidelijk waar Anthropic bezwaar tegen zou hebben in de hypothetische situatie die Michael zei dat hij poseerde, hoewel de implicatie is dat sommige Golden Dome-systemen autonome modi zouden kunnen hebben die wapens afvuren.
In het huidige Amerikaanse raketafweersysteem is het de rol van AI om snel situationeel bewustzijn en aanbevelingen te bieden aan menselijke operators. AI zou snel kunnen beoordelen of een gedetecteerde lancering een bedreiging vormt en wapens kunnen aanbevelen om deze te vernietigen. Beslissingen over het al dan niet luisteren naar de aanbevelingen worden vervolgens genomen door luchtverdedigingscommandanten.
Elders in het interview zei Michael dat een deel van de impasse met Anthropic is dat hij “de komende twintig jaar niet kan voorspellen waarvoor we AI allemaal kunnen gebruiken.”
Michael, die voorheen topman was bij Uber, zei dat de zorgen van het departement over Anthropic begonnen te escaleren nadat de VS een onderzoek hadden uitgevoerd. gerichte aanval op Venezuela om de Venezolaanse president Nicolás Maduro gevangen te nemen. De aanval riep grote vragen op over de soevereiniteit, en democraten in het Congres zetten vraagtekens bij het besluit om geen goedkeuring te vragen voor de inzet van Amerikaanse troepen.
In de nasleep van de inval zei Michael dat een niet bij naam genoemde Anthropic-manager belde Palantir directeur om te vragen of de AI-modellen van Anthropic waren gebruikt om dit uit te voeren. Het Pentagon heeft toegang tot de AI-modellen van Anthropic via een overheidscloud die wordt beheerd door Amazon Web Services en vervolgens wordt beheerd door Palantir, zei Michael. (Op 27 februari heeft de voorzitter Donald Trump gaf federale instanties opdracht om te stoppen met het gebruik van de AI van Anthropic, hoewel die richtlijn een uitfaseringsperiode van zes maanden kende.)
Michael zei dat de functionarissen van Palantir zo gealarmeerd waren door de vragen van Anthropic dat ze hem waarschuwden.
“Ik heb zoiets van: ‘Holy shit, wat als deze software uitvalt, een vangrail in werking treedt, er een weigering plaatsvindt voor het volgende gevecht als dit, en we onze mensen in gevaar brengen’, zei Michael, verwijzend naar de huidige oorlog van de VS tegen Iran.
Terwijl de gesprekken verhit raakten, zei Michael dat hij het gevoel had dat Anthropic de discussie “in een PR-spel” had veranderd publiekelijk zorgen uiten over hoe de voorwaarden die het Pentagon zocht onvoldoende rekening zouden houden met potentieel misbruik. Amodei heeft bevestigd dat Anthropic zich vooral zorgen maakte over de risico’s van volledig autonome wapens en over de manier waarop krachtige AI-modellen zouden kunnen worden misbruikt om Amerikaanse burgers te bespioneren.
Tijdens het verhitte heen en weer noemde Michael Amodei publiekelijk een ‘leugenaar’ met ‘een godscomplex’.
Donderdag zei het Pentagon dat het Anthropic formeel op de hoogte had gesteld van het feit dat het bedrijf en zijn producten een risico voor de toeleveringsketen vormden, de eerste keer in de geschiedenis dat dat label op een Amerikaans bedrijf werd toegepast.
Amodei antwoordde dat zijn AI-startup de afgelopen dagen ‘productieve gesprekken’ had met het Pentagon, maar Michael zei later dat er geen gesprekken gaande waren.
Anthropic heeft gesuggereerd dat het de aanwijzing voor de rechtbank zal aanvechten, vooral omdat minister van Defensie Pete Hegseth heeft gezegd dat het elke defensie-aannemer verhindert zaken te doen met Anthropic.
Op de vraag waarom het Pentagon zo ver is gegaan, zei Michael dat de benaming niet ‘bestraffend’ was.
“Als hun model deze beleidsvoorkeur heeft, laten we het dan zo noemen, gebaseerd op hun grondwet, hun cultuur, hun volk, enzovoort,” zei hij. “Ik wil niet dat Lockheed Martin hun model gebruikt om wapens voor mij te ontwerpen.”
Eerder deze week zei een woordvoerder van Lockheed dat het de aanwijzingen van Trump en het Pentagon zou volgen over de vraag of het de producten van Anthropic zou blijven gebruiken. Michael riep ook Boeingwaarin wordt beschreven hoe de vliegtuigfabrikant de AI van Anthropic zou kunnen gebruiken voor niet-defensietaken.
“Dus Boeing wil Anthropic gebruiken om commerciële vliegtuigen te bouwen – doe het,” zei hij. ‘Boeing wil het gebruiken om straaljagers te bouwen. Dat kan ik niet hebben, omdat ik niet vertrouw wat de uitkomsten zullen zijn, omdat ze zo vastzitten aan hun eigen beleidsvoorkeuren.’
Hoewel Michael kritisch was over Anthropic, prees hij xAI en Elon Musk omdat ze akkoord gingen met de voorwaarden van het departement, waardoor het AI “voor alle legale toepassingen” kon inzetten.
Michael prees ook OpenAI en zijn CEO, Sam Altmanvoor de samenwerking met het Pentagon om snel een ander AI-systeem op te zetten dat in geheime omgevingen kan werken, zodat de afdeling Anthropic kan uitfaseren.
Altman en OpenAI hebben online aanzienlijke terugslag gekregen omdat ze met het Pentagon wilden samenwerken. Altman drong er bij de afdeling publiekelijk op aan om Anthropic niet als een risico voor de toeleveringsketen te bestempelen.
“Het strekt hem tot eer dat ik hem belde en zei: ‘Ik heb een oplossing nodig als dit misgaat. Ik heb meerdere oplossingen nodig. Ik zou graag willen dat jij een van hen bent’, zei Michael. “En hij zegt: ‘Oké, wat kan ik voor het land doen?’ Ik had zoiets van: ‘Ik moet je zo snel mogelijk weer aan de slag krijgen.'”
