De CEO van Anthropic is bereid zijn contract met het leger op te zeggen, blijkt uit een nieuwe verklaring die donderdag is gepubliceerd.
In een blogpost zegt CEO Dario Amodei zei dat het bedrijf “niet met een goed geweten kan ingaan” op het verzoek van het ministerie van Defensie met betrekking tot veiligheidsmaatregelen rondom zijn bedrijf grensmodel, Claude.
Dinsdag gaf minister van Defensie Pete Hegseth een toespraak Antropisch een ultimatum om in te stemmen met de voorwaarden van het leger over het gebruik van Claude, anders wordt hij door de regering op de zwarte lijst gezet.
Defensiefunctionarissen gaven Anthropic tot vrijdagavond de tijd om akkoord te gaan met de voorwaarden.
De voorwaarden zijn niet opgehelderd, maar volgens de verklaring van Amodei lijkt de kwestie te draaien rond twee rode lijnen die Anthropic niet bereid is te overschrijden als het gaat om hoe Claude wordt ingezet: massaal binnenlands toezicht en volledig autonome wapens.
Een woordvoerder van Anthropic weigerde commentaar te geven.
Uren voordat Amodei een verklaring aflegde, postte Sean Parnell, een woordvoerder van het Pentagon, op X dat het ministerie geen interesse had in het gebruik van AI om massaal toezicht op Amerikaanse burgers uit te voeren of om autonome wapens te ontwikkelen.
Een persoon die bekend was met de onderhandelingen vertelde Business Insider dat de afdeling slechts 36 uur vóór de deadline van Hegseth met een nieuw voorstel kwam, en dat de taal rond de bepalingen over massasurveillance en autonome wapens ‘elk rechtmatig gebruik’ van de AI van Anthropic toestond.
De persoon zei dat de toevoegingen het leger feitelijk de vrijheid gaven om de rode lijnen van Anthropic opzij te zetten en Claude naar eigen goeddunken te gebruiken.
Een hoge functionaris van het Pentagon vertelde dinsdag aan Business Insider dat het ministerie zal overwegen een beroep te doen op de Defense Production Act – een wet in oorlogstijd die de president in wezen controle zou geven over de hulpbronnen van Anthropic in het belang van de nationale veiligheid – en het bedrijf als een risico voor de toeleveringsketen zal beschouwen.
Beide toepassingen van de nationale autoriteiten zouden ongekend zijn, vertelden experts aan Business Insider, aangezien de hefbomen worden gebruikt als onderhandelingstactiek en tegen een Amerikaans bedrijf.
“Ik ben me er niet van bewust dat dit ooit als wapen is gebruikt in een onderhandelingspositie”, zegt Dean Ball, een voormalig senior beleidsadviseur van het Witte Huis Office of Science and Technology Policy, tegen Business Insider.
Amodei schreef in de blogpost dat de twee bedreigingen “inherent tegenstrijdig zijn: de ene bestempelt ons als een veiligheidsrisico, de andere bestempelt Claude als essentieel voor de nationale veiligheid.”
De CEO schreef dat Anthropic hoopt dat de regering haar standpunt over de veiligheidscontroles zal ‘heroverwegen’ en dat het bedrijf er de voorkeur aan geeft om met het leger te blijven samenwerken.
“Mocht het ministerie ervoor kiezen om Anthropic buiten boord te laten, zullen we werken aan een soepele overgang naar een andere leverancier, waarbij elke verstoring van de lopende militaire planning, operaties of andere cruciale missies wordt vermeden”, schreef Amodei.
