De echte vraag over het nieuwe van Anthropic Claude Mythos Voorbeeld AI Het model is of het (en soortgelijke toekomstige modellen) nuttiger zal zijn voor defensieve cyberbeveiliging of voor hackers. Om erachter te komen, Snel bedrijf vroegen een aantal cybersecurityprofessionals.
Claude Mythos, uitgegeven in “preview” op 9 april, is Anthropic’s grootste en meest capabele grensgebied AI model. Antropische onderzoekers zeggen dat het model tijdens de training blijk gaf van een uniek vermogen om beveiligingskwetsbaarheden diep in softwarecode te vinden en vervolgens exploits te creëren om op beheerdersniveau toegang te krijgen tot softwaresystemen, inclusief besturingssystemen.
Daarom, zegt Anthropic, is Mythos dat wel te gevaarlijk vrij te geven aan het publiek. Maar omdat er waarschijnlijk vergelijkbare AI-modellen op komst zijn, heeft het een sectorinitiatief aangekondigd genaamd Project Glasswing, waarvoor het cybersecurityonderzoekers bij verschillende bedrijven en instellingen toegang geeft tot het Mythos-model, zodat ze breed inzetbare software kunnen beschermen tegen AI-ondersteunde aanvallen.
“Wat Anthropic laat zien… is hoe snel AI een punt bereikt waarop het kwetsbaarheden op grote schaal kan identificeren”, zegt Marcus Fowler, CEO van Darktrace Federal. “Wanneer AI kwetsbaarheden kan vinden met een snelheid en diepte die wezenlijk verandert hoe snel zwakke punten kunnen worden geïdentificeerd, versnelt het fundamenteel de ontdekking van problemen in zowel nieuwe als bestaande systemen.”
Dean Ball, een senior fellow bij de Foundation for American Innovation en voormalig senior beleidsadviseur voor kunstmatige intelligentie en opkomende technologie onder president Donald Trump, zegt dat cybersecurity-onderzoekers door vroegtijdig toegang te krijgen tot Mythos een voordeel zullen hebben in de aanhoudende koude oorlog met hackers.
“Als het stof is neergedaald, zullen Mythos en de vergelijkbare capabele modellen die erop zullen volgen de boeken ingaan als belangrijke prestaties in de geschiedenis van cybersecurity”, tweette Ball donderdag. “De verharding die ze zullen aanbrengen aan alle belangrijke mondiale software is een geschenk van het Amerikaanse kapitalisme dat vrijelijk aan de wereld wordt gegeven, ten koste van ons.”
Maar Ball erkent dit in een bericht Snel bedrijf dat er misschien een tijdklok is voor het voordeel dat Mythos biedt. Er is een voortdurende strijd gaande tussen defensieve cyberbeveiligingsmensen en cybercriminelen (hackers) om de nieuwste software in hun voordeel te gebruiken. “Er is altijd een evenwicht tussen aanval en verdediging, en Anthropic probeert de verdediging een voorsprong te geven door Mythos voorlopig beperkt beschikbaar te houden”, zegt Ball.
Hij merkt op dat de voorsprong wellicht slechts negen tot twaalf maanden zal duren voordat een of ander AI-lab een model opent dat vergelijkbaar is met Mythos. Maar het kan veel eerder zijn als iemand erin slaagt de Mythos-parametergewichten te stelen. “Misschien is dit al gebeurd, en het kan heel moeilijk zijn om te zeggen of dit het geval is”, zegt Ball.
In de tussentijd zou het model van Anthropic kennis kunnen krijgen met en ervaring kunnen opdoen met veel softwarecode van grote commerciële systemen die het nog nooit eerder heeft gezien. Het zal nieuwe soorten architectuur- en softwarefouten ontdekken die door aanvallers kunnen worden uitgebuit, en daarvoor nieuwe patches ontwikkelen. Dit zal Mythos niet alleen effectiever maken op het gebied van cyberbeveiliging, maar het zou ook Anthropic’s Claude Code-product ten goede kunnen komen door het beter te maken in het detecteren van bugs of potentiële beveiligingsproblemen in de code die het genereert.
Niet alleen het model van volgend jaar
Mythos is mogelijk meer dan een upgrade van de AI die hackers al gebruiken. In de Claude Mythos Preview-systeemkaart beschrijven Anthropic-onderzoekers hoe het model grote open-sourcecodebases scande, softwarefouten identificeerde die al tientallen jaren bleven bestaan, en vervolgens geavanceerde exploits ontwikkelde om deze aan te pakken. Systemen als Mythos zouden de snelheid en schaal waarop kwetsbaarheden worden gevonden en uitgebuit dramatisch kunnen vergroten.
“Frontier AI-modellen zoals Claude Mythos vertegenwoordigen een echt keerpunt voor cyberbeveiliging, omdat ze de tijd tussen het identificeren van een kwetsbaarheid en het exploiteren ervan dramatisch verkorten”, zegt Dan Schiappa, president van technologie en diensten bij Arctic Wolf. “Zero-days zijn niet nieuw, maar de snelheid waarmee ze nu kunnen worden ontdekt en bewapend is dat wel. Wat ooit dagen of weken duurde, kan in uren of minuten gebeuren, waardoor de raamverdedigers erop vertrouwen om te detecteren, beoordelen en reageren.”
Zodra AI op snelheid werkende zero-day-exploits kan produceren, zoals Mythos blijkbaar kan, zouden organisaties “de ademruimte kunnen verliezen waarop ze traditioneel vertrouwden bij het detecteren, patchen en herstellen”, zegt Camellia Chan, CEO van X-PHY, en merkt op dat tijdens het testen een vroege versie van Mythos Preview uit de sandbox-omgeving ontsnapte en zelfstandig toegang kreeg tot het internet.
Dat is Mythos die ongeoorloofd autonoom gedrag vertoont. “Elke beveiligingsarchitectuur die uitgaat van een beperkte, voorspelbare aanvaller moet daar rekening mee houden”, zegt Chan.
De door AI ondersteunde cyberaanvallen van de toekomst kunnen vormen aannemen die onderzoekers nog niet eerder hebben gezien. “Het meest verontrustende vermogen voor mij is de bewering dat het zeer effectief is in het reverse-engineeren van binaire bestanden en het identificeren van nieuwe exploits”, zegt Jason Schmitt, CEO van Black Duck. “Dat is baanbrekend in de geautomatiseerde exploitatie van willekeurige stukjes software, waar DARPA al jaren onderzoek naar financiert.”
Scott Kuffer, Chief Product Officer bij Nucleus Security, zegt: “Organisaties moeten heroverwegen hoe zij risico’s prioriteren en operationeel maken in omgevingen die dynamisch en steeds onvoorspelbaarder zijn.”
Detectie is het makkelijke gedeelte
Andere experts wijzen erop dat Project Glasswing zich richt op het opsporen van beveiligingskwetsbaarheden, maar geen tools ontwikkelt voor herstel.
‘Er is hier veel defensief voordeel, maar ze missen een belangrijk… misschien de Een belangrijk onderdeel”, zegt Drew Lohn, senior fellow bij het Centre for Security and Emerging Technology (CSET) van Georgetown University. “Ze zeggen: ‘We gaan verdedigers de kans geven om eerst de kwetsbaarheden te vinden en we gaan ze de tools geven om de patches te schrijven’, maar dat was nooit het moeilijkste deel.
“Als AI helpt kwetsbaarheden te vinden, is dat goed voor aanvallers en voor verdedigers”, voegt Lohn toe. “Als AI helpt bij het schrijven van exploits, helpt dat aanvallers misschien iets meer dan verdedigers. Maar aanvallers kunnen het, zodra ze het eenmaal hebben geschreven, gewoon wegschieten, en verdedigers moeten veel meer werk doen om ervoor te zorgen dat die patches worden geïmplementeerd.”
In een e-mail vertelt Chainguard-CEO Dan Lorenc Snel bedrijf dat veel organisaties niet over de middelen beschikken om alle kwetsbaarheden die Project Glasswing aan het licht brengt te patchen, en schrijft dat bedrijven “niet klaar zijn voor de toestroom van echte kwetsbaarheden en patches die ze snel zullen moeten verwijderen.”
Darktrace’s Fowler geeft meer kleur en merkt op: “Veel organisaties kunnen niet alles patchen, of het nu gaat om oudere systemen, onbeheerde apparaten of omgevingen waar updates niet haalbaar zijn. Dus hoewel de periode van kwetsbaarheid kleiner wordt, verdwijnt deze niet helemaal.”
Zowel Lohn als Fowler zijn van mening dat als AI-tools het aantal softwarekwetsbaarheden (en dus doelwitten) helpen verminderen, hackers andere soorten doelwitten zouden kunnen proberen: menselijke doelwitten.
“Als ik een aanvaller ben en de code niet gemakkelijk kan kraken, ga ik op zoek naar een ander pad, en de meest effectieve is vaak de mens”, zegt Fowler. “Het is iemand die zich al in de omgeving bevindt, of dat nu een kwaadwillende insider is, een gecompromitteerde inloggegevens of iemand die wordt gestimuleerd of gedwongen. Ze hebben al toegang en kunnen opereren op manieren die de controles binnen de omgeving omzeilen.”
AI-systemen zoals Mythos kunnen ook het potentiële aanvalsoppervlak voor hackers vergroten.
“Hoewel de meeste cyberverdediging in het datacenter begint, onderscheidt dit zich als een existentiële bedreiging die eerst aan de rand moet worden aangepakt”, schrijft John Gallagher, vicepresident van Viakoo Labs, in een e-mail. Dit kan betekenen dat elektriciteitsnetten, watersystemen, zelfrijdende autonetwerken, industriële automatiseringssystemen of slimme huishoudelijke apparaten moeten worden beschermd. “Mythos is OS-agnostisch, maar het oplossen van kwetsbaarheden niet”, schrijft hij. “Er is geen ‘Windows Update’ voor een waterpomp of een IoT-gateway.”
En over kritische softwaresystemen gesproken: het is niet altijd gemakkelijk om patches snel te installeren, benadrukt Lohn van CSET. “De reden dat er zoveel kwetsbaarheden waren, is omdat je deze systemen niet meteen offline kunt halen, anders moet je er vrij zeker van zijn dat elke update die je doorvoert het systeem niet zal laten crashen”, zegt hij, herinnerend aan de rampzalige CrowdStrike-patch installeren die luchtvaartmaatschappij-, bank- en ziekenhuissystemen in juli 2024 aan de grond hielden. “Dat is de grote zorg: hoe lang duurt het om te updaten? Hoe zeker kun je er van zijn dat je update niet nog andere dingen kapot heeft gemaakt?”
De AI bestaat echt, ook al is de impact ervan onzeker
In sommige online gesprekken deze week vroegen mensen zich af of Mythos echt zo capabel en dus bedreigend is als de onderzoekers van Anthropic zeggen. Het is waar dat AI-laboratoria in het verleden hun modellen hebben gehyped door te praten over hoe gevaarlijk ze zijn. Maar het lijkt vergezocht dat de onderzoekers van Anthropic de moeite zouden nemen om de Mythos-prestatietests te vervalsen en er vervolgens een systeemkaart van 280 pagina’s over te schrijven. En alle Glasswing-partners van Anthropic zouden bij deze zwendel betrokken moeten zijn.
Maar of Mythos uiteindelijk de softwarebeveiliging meer helpt dan schaadt, valt nog te bezien. Niet iedereen denkt van wel.
BeyondTrust SVP Bradley Smith zet bijvoorbeeld vraagtekens bij het verhaal dat Anthropic de goeden echt een voorsprong geeft, en wijst erop dat hackers al een tijdje AI-tools gebruiken. Ze hebben er ervaring mee en zullen binnenkort toegang hebben tot veel krachtigere modellen.
“Er is geen voorsprong”, zegt Smith. “Er is alleen de beslissing om te handelen of de beslissing om te wachten, en wachten heeft de industrie al meer gekost dan de meeste leiders willen toegeven.”
