De AI-releases van Anthropic zijn enorm gestegen angst voor een software-apocalyps. Nu zegt het dat het zijn nieuwe model niet uitbrengt, Claude Mythos-previewvoor het publiek omdat het bezorgd is het zou chaos kunnen veroorzaken in de cyberveiligheidswereld.
Op een dinsdag blogpostAnthropic zei dat Mythos zelfstandig softwarekwetsbaarheden op grote schaal kon vinden, analyseren en exploiteren – in sommige gevallen beter dan mensen.
Anthropic noemde het een ‘keerpunt’ en zei dat Mythos zo krachtig is dat niet-cyberbeveiligingsprofessionals het zouden kunnen gebruiken ‘om geavanceerde kwetsbaarheden te vinden en te exploiteren’.
Cyberspace-experts vertelden Business Insider dat hoewel de aankondiging van Anthropic doelbewuste marketingtaal bevat, het model een grote sprong voorwaarts lijkt te zijn in de mogelijkheden van AI in de cyberwereld.
“Anthropic heeft zijn reputatie opgebouwd als het ‘veiligheid eerst’ AI-bedrijf, dus aankondigingen als deze dienen twee doelen: oprechte voorzichtigheid en het signaleren van een veiligheidsbewuste houding”, zegt Jake Moore, wereldwijde cybersecurityspecialist bij ESET, tegen Business Insider.
“Fundamenteel lijkt dit model ongelooflijk indrukwekkend en zal het in de loop van de tijd alleen maar verbeteren”, voegde Moore eraan toe.
Methode in de Mythos
Anthropic zei dat Mythos tijdens de testperiode “duizenden” kritieke beveiligingsfouten heeft ontdekt, waaronder zero-day-kwetsbaarheden, waarvoor geen onmiddellijke oplossing bestaat.
Ter vergelijking: eliteteams van mensen die aan deze problemen werken, ontdekken er ongeveer 100 per jaar, zegt Ofer Amitai, een medeoprichter van de startup Onit Security. “Het is dus grofweg 10 tot 100x de output van een menselijk topteam, en comprimeert de ontwikkeling van exploits van weken naar uren”, voegde hij eraan toe.
Grote taalmodellen (LLM’s), de technologie die ten grondslag ligt aan AI zoals Mythos, zijn ongelooflijk bedreven geworden in het coderen omdat het strikte regels en patronen kent. Dat geldt ook voor cybersecurity, zegt Erik Bloch, vice-president informatiebeveiliging bij Ilumio.
“LLM’s zijn in wezen taalmotoren, en code is gewoon een andere taal”, zegt Bloch. “Daarom is het niet verrassend dat ze bugs en kwetsbaarheden kunnen vinden die mensen of op regels gebaseerde tools over het hoofd zien, vooral subtiele problemen op logisch niveau.”
Er zijn echter vragen over de kosten en schaalbaarheid. Anthropic zei dat het vinden van een 27 jaar oude kwetsbaarheid in één besturingssysteem $ 20.000 kostte nadat Mythos duizenden keren was uitgevoerd.
“Gezien de kosten, is dat schaalbaar?” zegt Kev Breen, senior directeur cyberdreigingsonderzoek bij Immersive. “Waar begin je? Kunnen mensen goedkoper schalen dan AI-agenten?”
Aanval versus verdediging
Cybersecurity is een voortdurend kat-en-muisspel tussen degenen die proberen in te breken en degenen die proberen aanvallers buiten te houden. Van welke kant profiteert Mythos het meest?
In een wereld waar een tool als Mythos publiekelijk beschikbaar is, zouden aanvallers op de korte termijn meer profijt hebben, zeggen cybersecurity-experts.
“Ze kunnen met één druk op de knop zeer gerichte phishing, overtuigende deepfakes of werkbare exploit-ketens genereren”, zegt Mike Britton, de chief information officer bij Abnormal AI.
Als verdedigers dergelijke instrumenten adopteerden, zouden ze een voorsprong krijgen.
“Met tools die zijn gebouwd op de mogelijkheden van Mythos-klasse kunnen ze kwetsbaarheden veel sneller vinden, beoordelen en patchen gedurende de hele levenscyclus, waardoor het voordeel weer naar defensie verschuift”, aldus Amitai.
Anthropic zei dat zijn eigen tests op Mythos onder meer het aanmoedigen van de AI om uit een virtuele sandbox te breken omvatten. Een antropisch onderzoeker zei dat ze vervolgens een “onverwachte e-mail van het model kregen terwijl ze een broodje aten in het park.”
“Als de mogelijkheden die hier worden gepresenteerd echt inhoudelijk zijn en geen marketinghype, dan maak ik me ernstig zorgen over waar we terecht zullen komen”, zegt Dan Andrew, hoofd beveiliging bij Intruder, tegen Business Insider.
Voorlopig stelt Anthropic een previewversie van Claude Mythos beschikbaar aan geselecteerde bedrijven – waaronder Google, Microsoft, JPMorgan Chase en CrowdStrike – om het te helpen testen in een gecontroleerde omgeving in wat het ‘Project Glasswing’ noemt.
“De gevolgen – voor de economieën, de openbare veiligheid en de nationale veiligheid – zouden ernstig kunnen zijn”, aldus Anthropic. “Project Glasswing is een dringende poging om deze capaciteiten voor defensieve doeleinden in te zetten.”
Andrew zei dat hoewel dit ‘eng’ klinkt, hij gelooft dat Anthropic denkt dat het risico reëel is, omdat zij ‘niet de ergste overtreders zijn in de hype-versus-substantie’.
