Een geschil tussen AI bedrijf Anthropic en het Pentagon over hoe het leger de technologie van het bedrijf kan gebruiken, is nu openbaar geworden. Te midden van gespannen onderhandelingen heeft Anthropic naar verluidt opgeroepen tot beperkingen voor twee belangrijke toepassingen: massasurveillance en autonome wapens. Het ministerie van Defensie, dat Trump omdoopte tot de Ministerie van Oorlog vorig jaar wil de vrijheid om de technologie te gebruiken zonder die beperkingen.
In het midden zit Palantir. De defensieaannemer levert de veilige cloudinfrastructuur waarmee het leger het Claude-model van Anthropic kan gebruiken, maar blijft stil terwijl de spanningen escaleren. Dat is net zoals het Pentagon, per Axiosdreigt Anthropic aan te merken als een ‘toeleveringsketenrisico’, een stap die Palantir zou kunnen dwingen de banden met een van zijn belangrijkste AI-partners te verbreken.
De dreiging kan een onderhandelingstactiek zijn. Maar als het wordt uitgevoerd, zou het verstrekkende gevolgen hebben, waardoor niet alleen Anthropic maar ook haar klanten mogelijk worden uitgesloten van overheidswerk. “Dat zou alleen maar betekenen dat de overgrote meerderheid van de bedrijven die nu (Claude) gebruiken om zichzelf effectiever te maken, plotseling niet meer in aanmerking zouden komen om voor de overheid te werken”, zegt Alex Bores, een voormalig medewerker van Palantir. nu kandidaat voor het Congres in het 12e arrondissement van New York. “Het zou het vermogen van onze regering om dingen gedaan te krijgen op vreselijke wijze belemmeren.” (Palantir reageerde niet op een verzoek om commentaar.)
Antropisch en de woordenoorlog van het Pentagon
Anthropic heeft tot nu toe nauwe banden onderhouden met het leger. Claude was het eerste grensverleggende AI-model dat werd ingezet op geheime Pentagon-netwerken. Afgelopen zomer gunde het ministerie van Defensie Anthropic een contract ter waarde van 200 miljoen dollar, en de technologie van het bedrijf werd zelfs gebruikt in de recente Amerikaanse operatie om Nicolas Maduro gevangen te nemen, de Wall Street Journal gemeld deze week.
Maar de toewijding van het bedrijf aan bepaalde AI-veiligheidsprincipes heeft sommige mensen in de kring van president Donald Trump geïrriteerd. (Katie Miller, de vrouw van Stephen Miller, heeft beschuldigde het bedrijf publiekelijk van liberale vooringenomenheid en bekritiseerde haar toewijding aan democratische waarden.) In tegenstelling tot rivalen xAI en OpenAI, die beide ook ook contracten bij het ministerie van Defensie hebben, is Anthropic nu verwikkeld in een gevecht met het Pentagon dat zich in het openbaar afspeelt.
“Anthropic zet zich in voor het gebruik van frontier AI ter ondersteuning van de Amerikaanse nationale veiligheid. Daarom waren we het eerste frontier AI-bedrijf dat onze modellen op geheime netwerken plaatste en de eersten die op maat gemaakte modellen leverden voor klanten op het gebied van de nationale veiligheid”, vertelt een woordvoerder van het bedrijf. Snel bedrijf. “Claude wordt gebruikt voor een breed scala aan inlichtingengerelateerde gebruiksscenario’s binnen de overheid, inclusief de DoW, in overeenstemming met ons gebruiksbeleid. We hebben productief gesprekken, in goed vertrouwen, met DoW over hoe we dat werk kunnen voortzetten en deze complexe kwesties op de juiste manier kunnen aanpakken.”
Het Pentagon heeft een meer confronterende toon aangenomen. Ambtenaren van het Agentschap herzien hun relatie met Anthropic en hebben gesuggereerd dat andere contractanten mogelijk ook moeten stoppen met werken met het bedrijf. “De relatie van het Ministerie van Oorlog met Anthropic wordt herzien”, vertelt hoofdwoordvoerder van het Pentagon, Sean Parnell Snel bedrijf. “Onze natie vereist dat onze partners bereid zijn onze oorlogsstrijders te helpen winnen in welk gevecht dan ook.” (Parnell reageerde niet op een verzoek om opheldering over specifieke zorgen over autonome wapens of surveillance.)
Palantir, de tussenpersoon
Palantir neemt een cruciale positie in dit ecosysteem in. Het is al jarenlang een softwareleverancier voor de overheid en heeft aan een hele reeks eisen voldaan, waardoor het clouddiensten kan aanbieden ter ondersteuning van geheim werk. En, zoals typisch is in de duizelingwekkende wereld van overheidstechnologiecontracten, Palantir Ook heeft belangrijke partnerschappen met Anthropic.
Twee jaar geleden werkten de bedrijven samen om de technologie van Anthropic naar de overheid te brengen, een stap die Claude beschikbaar maakte voor defensie- en inlichtingendiensten via Amazon Web Services. Afgelopen april sloot Anthropic zich aan bij het FedStart-programma van Palantir, waarmee de beschikbaarheid van zijn technologie voor overheidsklanten via Google Cloud werd uitgebreid.
Het contracteren van technologie door de overheid is een lastige zaak, maar bedrijven die software aan de overheid willen verkopen, moeten doorgaans samenwerken met een gecertificeerde cloudprovider zoals Palantir, of zelf certificering verkrijgen. “Als je nog nooit in een geheime omgeving hebt gewerkt, heb je in wezen een voertuig nodig”, legt Varoon Mathur uit, die in de regering-Biden aan AI werkte. “Palantir is een defensie-aannemer met een diepe operationele integratie. Anthropic is een aanbieder van AI-modellen die toegang probeert te krijgen tot dat ecosysteem.”
De toenemende spanningen over de manier waarop het ministerie van Defensie Claude zou kunnen gebruiken, roepen ook vragen op over de mate waarin bedrijven als Palantir en Anthropic zicht hebben op het gebruik van hun instrumenten door de overheid. “Anthropic en OpenAI bieden Zero Data Retention-gebruik, waarbij ze de vragen van hun AI niet opslaan”, zegt Steven Adler, een voormalige OpenAI-medewerker en AI-veiligheidsexpert. Snel bedrijf. “Natuurlijk maakt dit het moeilijker om mogelijke schendingen van hun voorwaarden af te dwingen.”
Een persoon die bekend is met de kwestie zei dat Anthropic inzicht heeft in hoe zijn technologie wordt gebruikt, ongeacht of deze zich in een geheime omgeving bevindt, en dat het bedrijf er vertrouwen in heeft dat zijn partners en gebruikers de technologie hebben ingezet in overeenstemming met zijn beleid. In haar berichtgeving zegt de Wall Street Journal aangehaald Mensen die bekend waren met de zaak en zeiden dat een medewerker van Anthropic contact had opgenomen met Palantir om te vragen naar de inzet van Claude in de Maduro-operatie, hoewel Anthropic tegenover die instantie ontkende dat het buiten de technische discussies met Palantir had gesproken. Dat vertelt de woordvoerder van Anthropic Snel bedrijf dat het bedrijf geen commentaar kan geven op het gebruik van zijn technologie bij specifieke militaire operaties, maar zei dat het “nauw samenwerkt met onze partners om naleving te garanderen.”
Meer in het algemeen dreigt de impasse de relaties tussen Silicon Valley en Washington te bekoelen, op een moment dat de regering aandringt op agressievere adoptie van AI. “Om feitelijk te stellen dat het onze weg of de snelweg is, en als je probeert beperkingen op te leggen, zullen we niet alleen geen contract ondertekenen, maar achter jouw zaken aan gaan, is een enorme rode vlag voor elk bedrijf dat er zelfs maar aan denkt om overheidscontracten aan te gaan”, zegt Bores.
