Antropisch beschuldigt drie Chinese kunstmatige-intelligentiebedrijven van ‘campagnes op industriële schaal’ om hun technologie ‘illegaal te extraheren’ met behulp van distillatieaanvallen. Anthropic zegt dat deze bedrijven 24.000 frauduleuze accounts hebben aangemaakt om deze inspanningen te verbergen.
In een blogpost waarin de aanvallen worden beschrevenAnthropic noemde drie AI-bedrijven, waaronder DeepSeek, de maker van de populaire DeepSeek AI-modellen. Anthropic omlijstte de aanval expliciet als een kwestie van nationale veiligheid.
“We hebben campagnes op industriële schaal geïdentificeerd door drie AI-laboratoria – DeepSeek, Moonshot en MiniMax – om op illegale wijze Claude’s capaciteiten te benutten om hun eigen modellen te verbeteren”, luidt de blogpost. “Deze laboratoria hebben meer dan 16 miljoen uitwisselingen met Claude gegenereerd via ongeveer 24.000 frauduleuze accounts, wat in strijd is met onze servicevoorwaarden en regionale toegangsbeperkingen.”
Deze Tweet is momenteel niet beschikbaar. Mogelijk wordt het geladen of is het verwijderd.
In januari, OpenAI beschuldigde DeepSeek er ook van zich bezig te houden met distillatieaanvallenwaardoor effectief zijn technologie wordt gestolen.
Destijds reageerden veel mensen niet met medeleven, maar met spotwaar OpenAI en andere AI-bedrijven beweren het absolute recht op te hebben trainen hun modellen op auteursrechtelijk beschermde werken zonder toestemming of betaling. Meestal zeggen aanhangers van de AI-industrie dat ze geen andere keuze hebben dan te trainen in auteursrechtelijk beschermde werken, omdat Chinese concurrenten de auteursrechtwetten sowieso al zullen negeren.
‘Je kunt niet van je verwachten dat je een succesvol AI-programma hebt als je voor elk artikel, boek of iets anders dat je hebt gelezen of bestudeerd, moet betalen’, zei president Donald. Trump zei dit tijdens een AI-evenement in juli 2025. “Als iemand een boek of artikel leest, heb je veel kennis opgedaan. Dat betekent niet dat je auteursrechtwetten overtreedt of deals moet sluiten met elke contentprovider.” Hij voegde er ook aan toe: “China doet het niet.”
Dat brengt AI-bedrijven in de lastige positie om te beweren dat hun intellectuele eigendom verboden is voor modeltraining, terwijl ze zelf ook soortgelijk gedrag vertonen.
Mashbare lichtsnelheid
Wat zijn destillatieaanvallen?
Distillatie is een veelgebruikte trainingstechniek voor modellen in grote talen; het kan echter ook worden gebruikt om sommige aspecten van de technologie effectief te reverse-engineeren. Bij destillatie voeren AI-onderzoekers herhaaldelijk variaties van dezelfde prompt uit om te zien hoe een bepaald model reageert.
“Destillatie is een veelgebruikte en legitieme trainingsmethode. Zo distilleren AI-laboratoria routinematig hun eigen modellen om kleinere, goedkopere versies voor hun klanten te creëren. Maar distillatie kan ook voor illegale doeleinden worden gebruikt: concurrenten kunnen het gebruiken om krachtige capaciteiten van andere laboratoria te verwerven in een fractie van de tijd en tegen een fractie van de kosten die nodig zijn om ze onafhankelijk te ontwikkelen.”
Chinese bedrijven hebben de reputatie dat ze op flagrante wijze verdragen op het gebied van intellectueel eigendom en auteursrechtwetten negeren reverse-engineeringtechnologie van westerse bedrijven. Hoewel Anthropic zegt dat de distillatieaanvallen die het heeft ontdekt in strijd zijn met de servicevoorwaarden, is het niet duidelijk dat ze internationale wetten hebben geschonden, of welke remedie Anthropic heeft naast het opschorten van de overtredende accounts.
Om dit soort aanvallen te voorkomen riep Anthropic op tot samenwerking tussen AI-bedrijven, overheidsinstanties en andere belanghebbenden.
AI-bedrijven als Anthropic, xAI, Meta en OpenAI bevinden zich midden in een van de grootste uitgavenstijgingen ooit, waarbij tientallen miljarden dollars worden gestoken in AI-infrastructuur, datacenters en onderzoek en ontwikkeling. Als rivaliserende buitenlandse AI-bedrijven hun LLM-technologie goedkoop kunnen recreëren door middel van distillatie, zouden ze duidelijk een voordeel hebben ten opzichte van hun Amerikaanse rivalen.
“Deze campagnes worden steeds intenser en verfijnder”, luidt de blogpost. “De ruimte om te handelen is smal en de dreiging reikt verder dan een enkel bedrijf of regio. Om deze dreiging aan te pakken is snelle, gecoördineerde actie nodig tussen spelers uit de sector, beleidsmakers en de mondiale AI-gemeenschap.”
Mashable nam contact op met Anthropic met vragen over de destillatieaanvallen, en we zullen dit artikel bijwerken als we een antwoord ontvangen.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april 2025 een rechtszaak aangespannen tegen OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.
