Dinsdag hebben advocaten voor Anthropic en het ministerie van Justitie kwamen bijeen in een rechtszaal in San Francisco om te discussiëren over het verzoek van het AI-bedrijf om te voorkomen dat het Pentagon er een etiket op zou plakken een nationaal veiligheidsrisico.
Voordat de hoorzitting begon, las rechter Rita Lin voorbereide opmerkingen voor die de complexe zaak – en wat er op het spel staat – in ongewoon duidelijke bewoordingen uiteenzette. In het proces, zij betrokken bij de actie van het Pentagon, door te zeggen dat het lijkt op een poging om een bedrijf dat naar de beurs is gegaan met een contractgeschil te ‘verlammen’.
We delen haar opmerkingen volledig omdat ze de kern raken van een gevecht dat het AI-landschap zou kunnen veranderen. Een uitspraak wordt nu elke dag verwacht.
Lees hier wat ze volledig zei:
‘Goedemiddag voor jullie allebei. Gisteren heb ik een lijst met vragen openbaar gemaakt die ik aan de raadsman heb gevraagd om vandaag te beantwoorden. Voordat we die lijst doornemen, dacht ik dat het nuttig zou kunnen zijn voor de advocaten om een soort algemeen overzicht te horen van mijn voorlopige gedachten over de zaak tot nu toe, en u bent van harte welkom om daarvoor te gaan zitten als u dat wilt. Vervolgens nodig ik u uit om terug te komen om de vragen te beantwoorden.
Ik wil zeggen dat ik denk dat deze zaak een belangrijk debat raakt. Aan de ene kant zegt Anthropic dat zijn AI-product, Claude, niet veilig is om te gebruiken voor autonome dodelijke wapens en binnenlandse massabewaking. Het standpunt van Anthropic is dat als de overheid haar technologie wil gebruiken, de overheid ermee moet instemmen deze niet voor die doeleinden te gebruiken. Aan de andere kant zegt het Ministerie van Oorlog dat militaire commandanten moeten beslissen wat veilig is voor de AI, en niet voor een particulier bedrijf.
Het is een fascinerend debat over het publieke beleid, en het is niet mijn rol om te beslissen wie gelijk heeft in dat debat – dat is de oproep van minister Hegseth. Het Ministerie van Oorlog beslist welk AI-product het wil gebruiken en kopen. En iedereen, inclusief Anthropic, is het ermee eens dat het Ministerie van Oorlog vrij is om te stoppen met het gebruik van Claude en op zoek te gaan naar een meer toegeeflijke AI-leverancier.
Ik zie niet dat dit de bedoeling is van deze zaak. Ik beschouw de vraag in dit geval als een heel andere vraag, namelijk of de regering de wet heeft overtreden toen zij verder ging.
Nadat Anthropic dit contractgeschil openbaar had gemaakt, leken de verdachten daar behoorlijk heftig op te reageren. Zij voerden drie acties uit die het onderwerp zijn van deze rechtszaak. Ten eerste kondigde de president aan dat elke federale instantie, en niet alleen het Ministerie van Oorlog, Anthropic onmiddellijk zou verbieden ooit nog een overheidscontract te sluiten. Dat zou dus ook betekenen dat de National Endowment for the Arts Claude gebruikt om zijn website te ontwerpen – niet toegestaan.
Ten tweede kondigde minister Hegseth aan dat iedereen die zaken wil doen met het Amerikaanse leger zijn commerciële relatie met Anthropic moet verbreken. Dus als een bedrijf Claude gebruikt om een chatbot voor de klantenservice te hebben, kunnen ze geen enkel verdedigingswerk doen.
Ten derde bestempelde het Ministerie van Oorlog Anthropic als een ’toeleveringsketenrisico’. Dat label geldt voor tegenstanders van de Amerikaanse regering die haar technologiesystemen zouden kunnen saboteren. Het is doorgaans gericht tegen buitenlandse inlichtingendiensten, terroristen of andere vijandige actoren.
Wat mij verontrust aan deze drie acties is dat ze niet echt lijken te zijn toegesneden op het aangegeven nationale veiligheidsprobleem. Als de zorgen gaan over de integriteit van de operationele commandostructuur, zou DOW gewoon kunnen stoppen met het gebruik van Claude. Het lijkt erop dat de beklaagden verder zijn gegaan dan dat, omdat ze Anthropic probeerden te straffen.
In een van de amicusbriefjes werd de term ‘poging tot bedrijfsmoord’ gebruikt. Ik weet niet of het moord is, maar het lijkt op een poging om Anthropic te verlammen. En specifiek gaat het mij erom of Anthropic wordt gestraft voor het bekritiseren van de contracterende positie van de regering in de pers.
Gedaagden zeggen dat ze dit deden omdat de ‘schijnheilige retoriek’ van Anthropic een poging was om ‘de regering sterk te bewapenen’. Uit de gegevens van DOW blijkt dat het Anthropic als een risico voor de toeleveringsketen bestempelde omdat het ‘vijandig was in de pers’. Het lijkt er dus op dat DOW Anthropic gaat straffen voor zijn poging om publieke aandacht te vragen voor dit geschil over contracten, wat uiteraard een schending van het Eerste Amendement zou zijn. Ik maak mij daar dus grote zorgen over en zou daar graag meer van de overheid over willen horen.
Ik heb ook veel vragen over – één: of het Congres verdachten überhaupt de bevoegdheid heeft gegeven om dit te doen, en twee: of gedaagden de rechten van een eerlijk proces van Anthropic hebben geschonden door hen niet op de hoogte te stellen en niet de kans te geven om te reageren.
De vragen die ik gisteren heb gesteld, gaan eigenlijk meer over de laatste twee onderwerpen. Ik wil dus beginnen met het doornemen van die vragen, maar ik wil alleen zeggen dat ik aan het einde van de vragen beide partijen de gelegenheid zal geven om de rechtbank toe te spreken. U kunt mij uw reactie geven op de voorlopige gedachten die ik u heb gegeven, maar u kunt mij ook gewoon laten weten wat u nog meer belangrijk vindt over de zaak, voordat ik deze onder behandeling neem.
Dus laat me gewoon de raadslieden uitnodigen om terug naar de podia te komen, en dan zullen we gewoon de vragen doornemen.’
