AI-gigant Anthropic heeft per ongeluk een deel van de interne broncode van Claude Code openbaar gemaakt, en de ontwikkelaars merkten het al snel.
Henry Chandonnet en Brent D. Griffiths van BI hebben dat wel gedaan de play-by-play over hoe het allemaal gebeurde.
Nu er zoveel gebeurt (en op het spel staat), laten we het allemaal uitpakken:
Geef me een korte samenvatting van het Claude Code-lek. Antropisch per ongeluk heeft een deel van de broncode gelekt voor zijn populaire AI-coderingstool tijdens een update. En voordat je ook maar enig idee krijgt over malafide AI of een hack, zei een woordvoerder tegen BI dat het ‘een menselijke fout was, geen inbreuk op de beveiliging’.
Hoe erg was het lek? Klantgegevens en delen van het kernmodel (de geheime saus) zijn niet gelekt. (Goed!) Maar het geeft rivalen een kijkje in de productroadmap van Anthropic. (Slecht!)
Geloof me niet zomaar op mijn woord. Ik vroeg de drie grote chatbots – ChatGPT, Gemini en Claude – naar hun mening. ChatGPT omschreef het als een “zinvol maar niet catastrofaal lek”. Gemini zei dat het een “grote klap voor de reputatie en het intellectueel eigendom” was, maar “een gebeurtenis met een laag risico voor gebruikers”. Claude zei dat het een ‘redelijk significant incident’ was.
Dat klinkt niet Dus slecht. Klopt, maar antropisch heeft gebruik gemaakt van zijn veiligheidsbelofte om het te onderscheiden in een druk, competitief veld. Dat maakt dit een stoere uitstraling, en het is misschien wel niet het ergste.
Het wordt erger?? Antropisch is nog steeds ruzie met het Pentagon. Nadat het bedrijf bepaald militair gebruik van zijn AI had geweigerd, bestempelde het ministerie van Defensie het als een ‘toeleveringsketenrisico’, waardoor het in feite op de zwarte lijst werd gezet van federaal werk. De AI-gigant reageerde door een aanklacht in te dienen, en een federale rechter blokkeerde de aanwijzing tijdelijk. Dit zal ongetwijfeld meer olie op het vuur gooien.
Hoe heeft Anthropic op het lek gereageerd? Niet geweldig als je bedenkt dat het probeert iets van het internet te verwijderen, wat … veel succes. Het heeft een verwijderingsverzoek vanwege auteursrechtschending ingediend voor kopieën van de code op GitHub, maar ontwikkelaars zijn een stap voor gebleven door de code opnieuw in verschillende programmeertalen te plaatsen. Een AI-gigant die boos is over het feit dat anderen zijn eigen gegevens gebruiken, is dat ook gewoon een tikkeltje ironisch.
Wat hebben we eigenlijk geleerd van het lek? Het bouwen van een krachtig AI-systeem gaat over veel meer dan alleen het hebben van een sterk model. Het toont het werk dat Anthropic heeft gestoken in het bouwen van een robuust raamwerk voor dat het model soepel loopt. Zie het als een raceauto: een krachtige motor is cruciaal, maar die werkt alleen als je de rest van de auto bouwt om er het maximale uit te halen.
Zit er in dit alles een positieve kant voor Anthropic? Het zou de volgende rechter bij het Hooggerechtshof?
