Een publieke confrontatie tussen de regering-Trump En Antropisch raakt in een impasse nu militaire functionarissen dat eisen kunstmatige intelligentie bedrijf zijn ethisch beleid uiterlijk vrijdag zal ombuigen, anders riskeert het zijn activiteiten te beschadigen.
Anthropic CEO Dario Amodei trok 24 uur voor de deadline een scherpe rode lijn en verklaarde dat zijn bedrijf “niet met een goed geweten kan ingaan” op de laatste eis van het Pentagon om onbeperkt gebruik van zijn technologie toe te staan.
Anthropic, maker van de chatbot Claude, kan het zich veroorloven een defensiecontract te verliezen. Maar het ultimatum van minister van Defensie Pete Hegseth deze week bracht bredere risico’s met zich mee op het hoogtepunt van de snelle opkomst van het bedrijf van een weinig bekend computerwetenschappelijk onderzoekslaboratorium in San Francisco tot een van ’s werelds meest waardevolle startups.
Als Amodei niet toegeeft, hebben militaire functionarissen gewaarschuwd dat ze niet alleen het contract van Anthropic zullen intrekken, maar het ook “als een risico voor de toeleveringsketen zullen beschouwen”, een aanduiding die doorgaans op buitenlandse tegenstanders wordt gedrukt en die de cruciale partnerschappen van het bedrijf met andere bedrijven zou kunnen laten ontsporen.
En als Amodei zou toegeven, zou hij het vertrouwen in de bloeiende AI-industrie kunnen verliezen, vooral van toptalent dat zich tot het bedrijf aangetrokken voelt vanwege zijn beloften om op verantwoorde wijze een beter dan menselijke AI te bouwen die, zonder waarborgen, catastrofale risico’s met zich mee zou kunnen brengen.
Anthropic zei dat het van het Pentagon beperkte garanties wilde dat Claude niet zal worden gebruikt voor massale surveillance van Amerikanen of voor volledig autonome wapens. Maar nadat maanden van privégesprekken uitmondden in een publiek debat, zei het in een verklaring van donderdag dat de nieuwe contracttaal “die als compromis was geformuleerd, gepaard ging met juridisch taalgebruik waardoor deze waarborgen naar believen konden worden genegeerd.”
Dat was nadat Sean Parnell, de topwoordvoerder van het Pentagon, op sociale media had gepost dat “we GEEN ENKEL bedrijf de voorwaarden zullen laten dicteren over hoe we operationele beslissingen nemen” en voegde eraan toe dat het bedrijf “tot vrijdag 17:01 uur ET de tijd heeft om te beslissen” of het aan de eisen zou voldoen of met consequenties te maken zou krijgen.
Emil Michael, de onderminister van Defensie voor onderzoek en techniek, haalde later uit naar Amodei en beweerde tegen X dat hij “een God-complex heeft” en “niets liever wil dan proberen persoonlijk controle te krijgen over het Amerikaanse leger en dat hij het prima vindt om de veiligheid van onze natie in gevaar te brengen.”
Die boodschap heeft geen weerklank gevonden in een groot deel van Silicon Valley, waar een groeiend aantal technologiewerkers van de belangrijkste rivalen van Anthropic, OpenAI en Google, donderdag laat in een open brief hun steun uitsprak voor het standpunt van Amodei.
OpenAI en Google hebben, samen met xAI van Elon Musk, ook contracten om hun AI-modellen aan het leger te leveren.
“Het Pentagon onderhandelt met Google en OpenAI om hen zover te krijgen dat ze instemmen met wat Anthropic heeft geweigerd”, aldus de open brief. “Ze proberen elk bedrijf te verdelen, uit angst dat het andere zal toegeven.”
Ook Republikeinse en Democratische wetgevers en een voormalig leider van de AI-initiatieven van het Ministerie van Defensie uitten hun bezorgdheid over de aanpak van het Pentagon.
“Een schot in de roos voor Anthropic levert pittige krantenkoppen op, maar uiteindelijk verliest iedereen”, schreef de gepensioneerde luchtmachtgeneraal Jack Shanahan in een post op sociale media.
Shanahan kreeg tijdens de eerste regering-Trump te maken met een andere golf van tegenstand van technologiewerkers toen hij leiding gaf aan Maven, een project om AI-technologie te gebruiken om dronebeelden te analyseren en wapens te richten. Zoveel Google-werknemers protesteerden destijds tegen hun deelname aan Project Maven, dat de technologiegigant weigerde het contract te verlengen en vervolgens beloofde geen AI in wapens te gebruiken.
“Aangezien ik midden in Project Maven en Google stond, is het redelijk om aan te nemen dat ik hier de kant van het Pentagon zou kiezen”, schreef Shanahan donderdag op sociale media. “Toch sta ik sympathiek tegenover het standpunt van Anthropic. Meer nog dan dat ik in 2018 tegenover Google stond.”
Hij zei dat Claude al op grote schaal wordt gebruikt binnen de overheid, ook in geheime omgevingen, en dat de rode lijnen van Anthropic ‘redelijk’ zijn. Hij zei dat de AI-grote taalmodellen die chatbots als Claude aandrijven ook “niet klaar zijn voor prime time in nationale veiligheidssituaties”, vooral niet voor volledig autonome wapens.
“Ze proberen hier niet schattig te spelen”, schreef hij.
Parnell beweerde donderdag dat het Pentagon ‘het model van Anthropic voor alle wettige doeleinden wil gebruiken’ en zei dat het openstellen van het gebruik van de technologie zou voorkomen dat het bedrijf ‘kritieke militaire operaties in gevaar zou brengen’, hoewel noch hij, noch andere functionarissen hebben gedetailleerd hoe zij de technologie willen gebruiken.
Het leger “heeft geen belang bij het gebruik van AI om massaal toezicht op Amerikanen uit te voeren (wat illegaal is), noch willen we AI gebruiken om autonome wapens te ontwikkelen die zonder menselijke tussenkomst opereren”, schreef Parnell.
Toen Hegseth en Amodei elkaar dinsdag ontmoetten, waarschuwden militaire functionarissen dat ze Anthropic konden bestempelen als een risico voor de toeleveringsketen, het contract konden opzeggen of zich konden beroepen op een wet uit het Koude Oorlog-tijdperk, de Defense Production Act, om het leger meer bevoegdheden te geven om zijn producten te gebruiken, zelfs als het bedrijf het daar niet mee eens is.
Amodei zei donderdag dat “deze laatste twee bedreigingen inherent tegenstrijdig zijn: de ene bestempelt ons als een veiligheidsrisico; de andere bestempelt Claude als essentieel voor de nationale veiligheid.” Hij zei dat hij hoopt dat het Pentagon dit zal heroverwegen, gezien de waarde van Claude voor het leger, maar als dat niet het geval is, zal Anthropic “zich inzetten om een soepele overgang naar een andere leverancier mogelijk te maken.”
—-
AP-verslaggever Konstantin Toropin heeft aan dit rapport bijgedragen.
—Matt O’Brien, AP-technologieschrijver
