Antropisch kan niet manipuleren zijn generatieve AI-model Claude zodra het Amerikaanse leger het aan de praat heeft, schreef een leidinggevende vrijdag in een rechtszaak. De verklaring werd afgelegd naar aanleiding van beschuldigingen van de regering-Trump over het bedrijf mogelijk knoeit met zijn AI-tools tijdens oorlog.
“Anthropic heeft nooit de mogelijkheid gehad om Claude te laten stoppen met werken, de functionaliteit ervan te veranderen, de toegang af te sluiten of anderszins militaire operaties te beïnvloeden of in gevaar te brengen”, zegt Thiyagu Ramasamy, hoofd van de publieke sector van Anthropic. schreef. “Anthropic heeft niet de toegang die nodig is om de technologie uit te schakelen of het gedrag van het model te wijzigen voor of tijdens lopende operaties.”
Het Pentagon is al maanden aan het sparren met het toonaangevende AI-lab over de vraag hoe zijn technologie kan worden gebruikt voor de nationale veiligheid – en wat de grenzen van dat gebruik zouden moeten zijn. Deze maand bestempelde minister van Defensie Pete Hegseth Antropisch als een risico voor de toeleveringsketeneen aanduiding die het ministerie van Defensie de komende maanden zal beletten de software van het bedrijf te gebruiken, ook via aannemers. Andere federale agentschappen laten Claude ook in de steek.
Antropisch heeft twee rechtszaken aangespannen betwist de grondwettigheid van het verbod en verzoekt om een noodbevel om het ongedaan te maken. Klanten zijn echter al begonnen aanbiedingen annuleren. Een hoorzitting in een van de zaken is gepland op 24 maart bij de federale rechtbank in San Francisco. De rechter zou kort daarna kunnen beslissen over een tijdelijke terugneming.
In een dossier eerder deze week schreven overheidsadvocaten dat het Ministerie van Defensie “niet verplicht is het risico te tolereren dat kritieke militaire systemen in gevaar zullen komen op cruciale momenten voor de nationale defensie en actieve militaire operaties.”
Het Pentagon heeft Claude gebruikt om gegevens te analyseren, memo’s te schrijven en gevechtsplannen te helpen genereren, WIRED gemeld. Het argument van de regering is dat Anthropic actieve militaire operaties zou kunnen verstoren door de toegang tot Claude uit te schakelen of schadelijke updates te pushen als het bedrijf bepaald gebruik afkeurt.
Ramasamy verwierp die mogelijkheid. “Anthropic heeft geen achterdeur of ‘kill switch’ op afstand”, schreef hij. “Antropisch personeel kan bijvoorbeeld niet inloggen op een DoW-systeem om tijdens een operatie de modellen aan te passen of uit te schakelen; zo werkt de technologie simpelweg niet.”
Hij vervolgde met te zeggen dat Anthropic alleen updates zou kunnen leveren met goedkeuring van de overheid en haar cloudprovider, in dit geval Amazon Web Services, hoewel hij dit niet bij naam specificeerde. Ramasamy voegde eraan toe dat Anthropic geen toegang heeft tot de aanwijzingen of andere gegevens die militaire gebruikers in Claude invoeren.
Antropische leidinggevenden beweren in rechtszaken dat het bedrijf geen vetorecht wil over militaire tactische beslissingen. Sarah Heck, hoofd beleid, schreef in een rechtbankaanvraag op vrijdag dat Anthropic bereid was om zoveel te garanderen in een contract dat op 4 maart werd voorgesteld. “Voor alle duidelijkheid: (Anthropic) begrijpt dat deze licentie geen enkel recht verleent of verleent op controle of vetorecht over de operationele besluitvorming van het Department of War,” aldus het voorstel, volgens de indiening, waarin werd verwezen naar een alternatieve naam voor het Pentagon.
Het bedrijf was ook bereid taal te accepteren die tegemoet zou komen aan de zorgen dat Claude zou worden gebruikt om dodelijke aanvallen uit te voeren zonder menselijk toezicht, beweerde Heck. Maar de onderhandelingen strandden uiteindelijk.
Voorlopig het ministerie van Defensie heeft gezegd in rechtszaken staat dat het “aanvullende maatregelen neemt om het risico van de toeleveringsketen te beperken” dat het bedrijf met zich meebrengt door “samen te werken met externe cloudserviceproviders om ervoor te zorgen dat het leiderschap van Anthropic geen eenzijdige wijzigingen kan aanbrengen” in de huidige Claude-systemen.
