De angst voor een doorbraak op het gebied van AI dwingt de VS en China tot praten

CHONGQING, China — Drie jaar geleden hielden de Verenigde Staten en China in het idyllische stadje Woodside, ten zuiden van San Francisco, hun eerste gesprekken op hoog niveau over de gevaren van kunstmatige intelligentie. President Xi Jinping en zijn oude minister van Buitenlandse Zaken leken serieus in hun overtuiging dat er een kanaal zou moeten komen tussen Peking en Washington – een rode telefoon voor AI in geval van nood.

Ze gaven toestemming voor een diplomatieke inspanning die in 2024 in Zwitserland zou beginnen, slechts enkele maanden voor de Amerikaanse presidentsverkiezingen. Een grote Amerikaanse delegatie arriveerde met hoge verwachtingen die abrupt de bodem in werden geslagen, aldus vier bronnen die de gesprekken bijwoonden. Het Chinese contingent deed de Amerikaanse zorgen over op hol geslagen AI af als academisch, bijna theoretisch, en verlegde het gesprek al snel naar exportcontroles die in Peking werden gezien als de zoveelste Amerikaanse poging om China tegen te houden.

“Ze beschouwen elk Amerikaans diplomatiek initiatief dat beperkingen of restricties van een of andere smaak op een vermogen met zich meebrengt uiteraard als een valstrik”, zei Jake Sullivan, de Amerikaanse nationale veiligheidsadviseur onder president Biden, in een interview.

Ondanks het wantrouwen – en het feit dat de Democraten het Witte Huis verloren aan Donald Trump – werd in november van dat jaar in Peru een akkoord bereikt, waar beide partijen overeenkwamen om AI buiten de commandovoering en controle over kernwapens te houden.

“Het was een verbreking van het zegel dat we daadwerkelijk iets aan AI konden doen”, zei Sullivan. “Tijdens de transitie vertelde ik het nieuwe Trump-team dat ze die dialoog echt moesten oppakken. Maar de visie van de Trump-regering was gewoon veel laissez-faire, en ze leken er niet bijzonder in geïnteresseerd.”

“Dat is de afgelopen weken allemaal veranderd”, voegde hij eraan toe.

Een regering-Trump die ooit gretig op zoek was naar technologische suprematie, houdt nu voor het eerst rekening met de macht die AI zou kunnen ontketenen als deze niet wordt gecontroleerd.

In een verrassende ommekeer hebben er rustige discussies plaatsgevonden voorafgaand aan het staatsbezoek van president Trump aan China deze week om de heropleving van de gesprekken op een noodkanaal te onderzoeken, vertelden functionarissen aan The Times, ingegeven door gedeeld alarm in Peking en Washington over het debuut van Mythos, het krachtige nieuwe model van Anthropic.

Een hoge regeringsfunctionaris vertelde zondag aan verslaggevers dat het Witte Huis op zoek was naar een communicatiekanaal voor AI, net als anderen, dat ze hebben “op veel gebieden die een intense focus hebben op de VS en China.”

“Ik denk dat hoe dat communicatiekanaal eruit ziet, de formaliteit ervan en hoe dat eruit ziet, nog moet worden bepaald”, zei de functionaris, “maar we willen deze gelegenheid aangrijpen om met de leidersbijeenkomst een gesprek te openen. We moeten over deze kwestie een communicatiekanaal opzetten.”

De capaciteiten van Mythos worden door de industrie en de overheid gezien als die van een ongekend cyberwapenin staat om digitale communicatiesystemen te infiltreren en te exploiteren – inclusief overheidsdatabases, financiële instellingen en gezondheidszorgprogramma’s – met onnoemelijke gevolgen.

Of er deze week een aankondiging komt, is nog niet duidelijk. Alle gesprekken tussen de Verenigde Staten en China over AI-regelgeving – het ontwerpen van een soort wapenbeheersingsovereenkomst die het gebruik van een technologie regelt die geen van beide partijen volledig begrijpt of controleert – zal vol argwaan, misverstanden en risico’s zijn, zeggen experts.

“Op dit moment is er vrijwel geen steun van Amerikaanse beleidsmakers om formele discussies over AI-beheer met China aan te gaan”, zegt Aalok Mehta, directeur van het Wadhwani AI Center van het Center for Strategic and International Studies.

“De logica is dat dit een race is waarin de winnaar alles wint,” zei Mehta, “en dat het absoluut noodzakelijk is om de vooruitgang op het gebied van AI te versnellen om ervoor te zorgen dat de Verenigde Staten die race winnen.”

Amerika voorop

China zou deze discussies aangaan met een krachtig argument, namelijk dat het Amerikaanse leiderschap op het gebied van AI – en de heersende strategie van Amerikaanse AI-bedrijven – de wereld naar een beladen grens stuwt.

Elke grote Amerikaanse speler in de arena – OpenAI, Google, Anthropic, Microsoft en Meta Platforms – racet om de eerste te zijn die een model bouwt dat in staat is kunstmatige algemene intelligentie, of AGIeen drempel zonder een gemeenschappelijke definitie, maar waarvan de meesten het erover eens zijn dat er een model nodig is om welke intellectueel menselijke taak dan ook uit te voeren.

De heersende theorie is dat de eerste die AGI behaalt een prijs zal veiligstellen die zichzelf vermenigvuldigt: een zelftraining, die de intelligentie recursief verbetert, exponentieel groeit en alle concurrenten in zijn kielzog achterlaat.

Chinese bedrijven volgen daarentegen een door de staat gesanctioneerde strategie gericht op het integreren van AI in geïsoleerde industrieën en systemen, trainingsmodellen om individuele taken te verbeteren en de groei te versnellen in een meer op maat gemaakte aanpak.

“De Chinezen geloven dat er niet één ras is, maar meerdere rassen”, zegt Scott Kennedy, senior adviseur Chinese zaken en economie bij het Center for Strategic & International Studies. “De VS zijn gefocust op het bereiken van AGI, terwijl China zich richt op de verspreiding en toepassingen van AI in de rest van hun economie – productie, humanoïde robotica, alle aspecten van het internet der dingen.”

Chinese wetenschappers, insiders uit de AI-industrie en opeenvolgende regeringen hebben het strategische denken en de openhartigheid van Peking in twijfel getrokken.

“Het is hier zo ingebakken in de gemeenschap dat AGI dit transformatieve potentieel zal hebben dat mensen niet kunnen geloven dat China hier ook niet op gefocust is”, zegt Matt Sheehan, een onderzoeker op het gebied van mondiale technologievraagstukken bij de Carnegie Endowment for International Peace met een focus op China. “Er staat dat het zich richt op toepassingen, maar is dat een nep-out voor een AGI-programma dat ergens in de bergen verborgen is?”

Maar de meeste insiders zijn van mening dat de richtlijnen van Peking aan Chinese bedrijven de ware bedoelingen ervan onthullen.

“Ze zijn niet zo AGI-geïnspireerd als de Verenigde Staten, en ik denk dat dat vandaag de dag nog steeds het geval is,” zei Sullivan, “dus beschouwden ze een groot deel van de gesprekken in de VS over extreem grensrisico – verkeerde afstemming en verlies van controle – als een beetje abstract, en niet echt zo relevant voor de manier waarop zij de verspreiding van AI in China zagen.”

Hoewel de vooruitgang van China de verwachtingen van de VS heeft overtroffen – vooral sindsdien DeepSeek heeft zijn model uitgebracht ruim een ​​jaar geleden heeft de staat de computerkracht geconcentreerd op specifieke toepassingen in plaats van op de brede strategie die nodig is om krachtigere modellen te ontwikkelen die in staat zijn om vooruitgang te boeken in de richting van AGI.

“Het zijn niet alleen chips. Het is geld,” voegde Sheehan eraan toe. “De leidende bedrijven van China hebben financieel veel meer beperkingen dan Amerikaanse bedrijven. Er is bezorgdheid over een zeepbel hier, maar OpenAI wordt gewaardeerd op iets in de buurt van $800 miljard. Toonaangevende Chinese bedrijven die naar de beurs zijn gegaan, worden gewaardeerd op $20 miljard. Er is slechts een gat in de beschikbare financiering van een orde van grootte.”

Toch vrezen sommigen in de Amerikaanse regering dat China geen vergelijkbare rekenkracht nodig zal hebben als het simpelweg de technologie in de groothandel steelt.

Dat is niet eenvoudig. Maar vorige maand beschuldigde het Witte Huis Office of Science and Technology Policy Chinese actoren in een memo van ‘campagnes op industriële schaal om Amerikaanse AI-systemen te distilleren’, waarbij in feite de prestaties van de meest geavanceerde bestaande modellen werden gerepliceerd ‘tegen een fractie van de kosten’. In de memo werd Peking er niet van beschuldigd de activiteit te onderschrijven.

Daarbij, zo voegde de memo toe, worden zorgvuldig opgebouwde beveiligingsprotocollen opzettelijk weggelaten.

Het onderhandelingsvoordeel van China

Wat de strategische calculus ook mag zijn, China zou gesprekken aangaan met de regering-Trump die achteraan in de race zat – terwijl het het niet eens zou zijn over de aard van de eindstreep.

AGI zou in theorie een stadium van recursieve zelfverbetering kunnen bereiken dat resulteert in verlies van menselijk begrip of controle. Maar als het alleen de Amerikanen zijn, en niet de Chinezen, die die drempel proberen te bereiken, wie is er dan verantwoordelijk om dit tegen te houden?

Daniel Remler, die tijdens de regering-Biden het AI-beleid leidde op het ministerie van Buitenlandse Zaken en deelnam aan de gesprekken in Genève, twijfelde aan de Chinese beweringen over desinteresse in AGI en onwetendheid over de risico’s ervan. Dat China achterop raakt in de race is geen strategisch ontwerp, zei hij.

“Chinese technologen houden het Amerikaanse AI-ecosysteem nauwlettend in de gaten, en soms zeggen ze wat ze denken”, aldus Remler. “Velen waren tot wanhoop toe onder de indruk van het (Mythos)-model. Leiders in de beste AI-laboratoria van China hebben de afgelopen maanden, zelfs vóór Mythos, hun stem laten horen over hoe beperkt hun computergebruik aan de grens is. Sommigen hebben gezegd dat ze hun Amerikaanse concurrenten misschien nooit zullen kunnen inhalen.”

De gesprekken op dit punt in de race zouden een bekend patroon kunnen volgen in de recente geschiedenis van de Amerikaans-Chinese diplomatie, waarin Peking beweert dat het achter de Verenigde Staten staat op het gebied van ontwikkeling, wat uiteindelijk een handicap en grotere concessies aan de onderhandelingstafel oplevert.

Op andere concurrentieterreinen – zoals bij de toetreding van China tot de Wereldhandelsorganisatie en bij de onderhandelingen over cyberveiligheid tussen Peking en de regering-Obama – werden uiteindelijk overeenkomsten bereikt die volgens Washington achteraf gezien benadeelde Amerikaanse bedrijven waren.

De regering-Trump, voegde Remler eraan toe, “moet de AI-diplomatie met China benaderen met heldere verwachtingen die verankerd zijn in onze eigen nationale belangen.”

Silicon Valley zelf is verdeeld over het reguleren van AI. Anthropic, dat was gebaseerd op zorgen dat andere AI-bedrijven de zorgen over veiligheid en afstemming niet serieus namen, heeft alarm geslagen over Mythos, zijn eigen model, bij de regering-Trump, een moment dat heeft geleid tot reflectie in het Witte Huis over de beste weg voorwaarts.

Geschrokken na een ontmoeting met leiders van de Amerikaanse topbanken over hun kwetsbaarheden, adviseerde minister van Financiën Scott Bessent intern de Amerikaanse overheid over evaluaties van toekomstige modelreleases – een praktijk die al gangbaar is in China, waar de trainingsparameters voor modellen, bekend als ‘gewichten’, publiekelijk zijn vrijgegeven.

Zelfs de suggestie van overheidstoezicht leidde tot terugslag in Silicon Valley. Vorige week stuurde het Witte Huis een memo om bondgenoten uit de industrie gerust te stellen dat het indienen van nieuwe modellen voor federale beoordeling strikt vrijwillig zou zijn.

Als de gesprekken tussen Washington en Peking over AI uiteindelijk worden hervat, denken experts dat de onderhandelingen veel complexer zullen zijn dan de onderhandelingen die hebben geresulteerd in wapenbeheersingsovereenkomsten over kernwapens in de Koude Oorlog.

De supermachten zouden niet alleen de bedreigingen van instabiliteit voor het mondiale financiële systeem bespreken, maar ook de angst voor proliferatie – geavanceerde AI-instrumenten die in handen komen van slechte actoren die geïnteresseerd zijn in het gebruik van bio- of cyberwapens die zich op beide landen zouden kunnen richten.

En uiteindelijk zouden ze moeten beslissen of ze de regulering van de integratie van AI in het Chinese en Amerikaanse leger zouden bespreken, een bijna ondoorgrondelijk doel van de grootste tegenstanders ter wereld, waar het vertrouwen het laagst is en de verificatie het moeilijkst.

Degenen in de sector die het meest bang zijn voor wat kunstmatige superintelligentie zou kunnen brengen, hebben de regering-Trump verteld dat gesprekken met China een existentiële noodzaak zijn.

Dario Amodei, de CEO en medeoprichter van Anthropic, spreekt op een evenement in New York in 2025.

(Michael M. Santiago / Getty Images)

Maar zelfs binnen Anthropic, dat de diplomatie heeft verdedigd, bestaan ​​er zorgen dat Peking zijn huidige achterstand zou kunnen uitbuiten om de Amerikaanse industrie in de greep te houden op de drempel van zijn grootste prestatie.

In plaats van aan te dringen op één enkele verregaande overeenkomst, adviseren insiders uit de industrie de regering om gerichte overeenkomsten met Peking na te streven om specifieke risico’s te beperken, zoals het pact over nucleaire commando’s en controle, aldus twee bronnen uit de industrie.

Privé leken zowel Xi als de Chinese minister van Buitenlandse Zaken Wang Yi te begrijpen dat de ernst van de opkomende technologie die voor hen lag een vorm van samenwerking vereiste, zei Sullivan.

‘Op conceptueel niveau geloof ik dat ze daar een overtuiging over hadden en het hebben goedgekeurd,’ zei Sullivan, ‘maar ik geloof dat hun urgentieniveau aanzienlijk lager was dan dat van ons, en ik zag dit als een proces op langere termijn dat zich in de loop van de tijd zou afspelen.’

“Hun urgentieniveau en hun belang daarin zijn toegenomen”, voegde hij eraan toe.