In een nieuw Threat Tracker-rapport Donderdag gepubliceerd zei Google dat hackers zich bezighouden met ‘distillatieaanvallen’, waaronder één geval waarin ze meer dan 100.000 AI-prompts gebruikten om de technologie van het bedrijf voor zijn Gemini AI-model te stelen.
Google zei dat de aanvallen afkomstig lijken te zijn van tegenstanders in onder meer Noord-Korea, Rusland en China, en dat de pogingen om AI-intellectueel eigendom te stelen en dit waarschijnlijk in AI-modellen in andere talen te klonen deel uitmaken van een bredere reeks AI-gebaseerde aanvallen en malware die het bedrijf heeft zien ontstaan.
Het bedrijf identificeert deze pogingen als modelextractieaanvallen, die, zo zegt het bedrijf, “komen wanneer een tegenstander legitieme toegang gebruikt om systematisch een volwassen machine learning-model te onderzoeken om informatie te extraheren die wordt gebruikt om een nieuw model te trainen.”
Dat zou kunnen betekenen dat we AI moeten gebruiken om Gemini te overspoelen met duizenden aanwijzingen om de modelmogelijkheden ervan te repliceren. Google merkte in het rapport op dat dit geen bedreiging is voor zijn gebruikers, maar eerder voor dienstverleners en modelbouwers, die kwetsbaar zouden kunnen zijn voor diefstal en replicatie van hun werk.
AI-concurrentie en AI-diefstal
John Hultquist, hoofdanalist van de Google Threat Intelligence Group, die het rapport heeft opgesteld, vertelde NBC News dat Google misschien wel een van de eerste bedrijven is die met dit soort pogingen tot diefstal wordt geconfronteerd, maar dat er nog veel meer kunnen zijn. ‘Wij zullen de kanarie in de kolenmijn zijn voor nog veel meer incidenten’, zei hij.
De oorlog om AI-modellen is op verschillende fronten geïntensiveerd, meest recentelijk toen Chinese bedrijven zoals ByteDance geavanceerde modellen introduceerden hulpmiddelen voor het genereren van video’s. Vorig jaar deed het Chinese AI-bedrijf DeepSeek bracht de AI-industrie in rep en roerdat voornamelijk werd geleid door Amerikaanse bedrijven, door een model te introduceren dat kon wedijveren met de beste AI-technologie ter wereld. OpenAI later beschuldigd DeepSeek wil zijn AI trainen op bestaande technologie op manieren die vergelijkbaar zijn met die beschreven door Google in zijn nieuwe rapport.
(Openbaarmaking: Ziff Davis, het moederbedrijf van CNET, heeft in 2025 een rechtszaak aangespannen tegen OpenAI en beweerde dat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.)
