AI-ontwikkelaar Anthropic zegt zijn nieuwste Claude Het kunstmatige-intelligentiemodel is zo goed in het opsporen van kwetsbaarheden in de cyberbeveiliging dat het niet aan het publiek kan worden vrijgegeven. In plaats daarvan levert het bedrijf de tool aan grote aanbieders van technische infrastructuur, zodat zij de gevonden tekortkomingen kunnen verhelpen.
Eind maart, het woord begon te lekken dat het nieuwste AI-model van Anthropic, genaamd Claude Mythos (PDF), zou een sprong voorwaarts zijn voor de AI-technologie van het bedrijf. Nu heeft het bedrijf een voorproefje gegeven van zijn mogelijkheden en gewaarschuwd dat Mythos, net als zijn bedrijf, een grote bedreiging voor de cyberveiligheid vormt mogelijkheden vertegenwoordigen een sprong voorwaarts bij het vinden en exploiteren van online beveiligingskwetsbaarheden.
“AI-modellen hebben een niveau van codeercapaciteiten bereikt waarop ze alle mensen, behalve de meest bekwame mensen, kunnen overtreffen in het vinden en exploiteren van softwarekwetsbaarheden”, zegt het bedrijf. zei in een blogpost Dinsdag. Anthropic zei dat Mythos Preview, dat nog niet voor het publiek is vrijgegeven, al duizenden ernstige beveiligingskwetsbaarheden heeft gevonden “in elk groot besturingssysteem en elke webbrowser.” Gevraagd om commentaar, verwees een vertegenwoordiger van Anthropic CNET naar de blogpost van het bedrijf.
Om de cyberveiligheidsrisico’s aan te pakken, zei Anthropic dat het een consortium lanceert genaamd Project Glasswing waaronder Apple, Amazon Web Services, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, de Linux Foundation, Microsoft, Nvidia en Palo Alto Networks. Anthropic zei dat deze organisaties en meer dan veertig anderen toegang zullen hebben tot Mythos om te beginnen met het versterken van de verdediging tegen AI-aanvallen en exploits. Het stelt $100 miljoen aan gebruikskredieten vast voor Mythos en $4 miljoen aan donaties aan open-source beveiligingsorganisaties.
“De gevaren als we dit verkeerd doen liggen voor de hand, maar als we het goed doen, is er een reële kans om een fundamenteel veiliger internet en een wereld te creëren dan we hadden vóór de komst van door AI aangedreven cybercapaciteiten”, zegt Dario Amodei, CEO van Anthropic. geplaatst op X.
In een video op YouTube geplaatst over Project Glasswing bespraken leiders van bedrijven als Microsoft, de Linux Foundation en Anthropic de schade die softwarekwetsbaarheden kunnen veroorzaken.
Grote cloud computing-bedrijven hebben al met het nieuwe model gewerkt om kwetsbaarheden te vinden. “Wat we hebben gevonden is verhelderend”, zegt Anthony Grieco, Chief Security and Trust Officer bij Cisco. schreef in een blogpost. “Nu begint het echte werk. AI-aangedreven analyse onthult gegevens op een schaal en diepte waarvoor oudere raamwerken niet waren ontworpen.”
Amazon Web Services zei dat het model dat al heeft gedaan manieren gevonden om de code te versterken zelfs in de best geteste systemen. Amy Herzog, vice-president en chief information security officer bij AWS, noemde Claude Mythos Preview een “stapsverandering in de redenering en AI-mogelijkheden voor cyberbeveiliging.”
Hoe belangrijk is dit nieuwe model?
Het fenomeen dat AI kwetsbaarheden in software kan ontdekken en potentieel kan exploiteren, is niet nieuw DARPA Cyber Grand-uitdaging heeft verschillende voorbeelden gezien van AI die de aandacht op dit gebied trok, zegt Michal Salát, directeur dreigingsinformatie Nortonde antivirusprovider.
Maar nu heeft AI-technologie die voor iedereen beschikbaar zou kunnen zijn, een aantal van die mogelijkheden. “Anthropic’s Project Glasswing is gericht op het beschermen van deze krachtige technologie, die het onderzoek naar kwetsbaarheden kan transformeren, maar ook een ernstig risico kan vormen als het voor kwaadaardige doeleinden wordt misbruikt”, zei Salát in een e-mail. “Terwijl het een grote stap voorwaarts betekent ten opzichte van de huidige topmodellen zoals Opus 4.6de onderliggende capaciteit bestaat vandaag de dag al, en onderzoek naar kwetsbaarheden ontpopt zich snel als een van de belangrijkste, real-world use cases voor AI in cyberbeveiliging.
Nationale beleidsmakers, die heen en weer zijn gegaan over de noodzaak van federale AI-reguleringzal de voortgang van het consortium waarschijnlijk nauwlettend in de gaten houden.
Senator Mark Warner prees het initiatief in een verklaring. “Ik juich deze toonaangevende bedrijven toe omdat ze deze dreiging onderkennen en proactief informatie, mogelijkheden en computercapaciteit delen om onze kritieke infrastructuur beter te beschermen”, aldus de Virginia Democraat. “Nu AI de ontdekking van nieuwe kwetsbaarheden dramatisch versnelt, hoop ik dat de industrie het patchen dienovereenkomstig zal versnellen en opnieuw prioriteit zal geven.”
Warner, wiens staat een broeinest is van AI-datacenters, riep onlangs een voorgesteld moratorium op de bouw van datacenters af “idiotie”, maar heeft ook gewaarschuwd voor de risico’s voor de samenleving die dit met zich meebrengt snelle AI-ontwikkeling die tot enorm banenverlies leidt.
