Het verhaal gaat als volgt: Antropisch creëert Claude Mythoseen Je hebt een model dat is geweldig in het identificeren van beveiligingsfouten in software. Vanwege beveiligingsproblemen binnen de eigen contentmanagementsysteemsoftware van Anthropic, details over Mythos van tevoren naar het publiek lekken. Na enig nadenken besluit Anthropic Mythos niet vrij te geven aan het publiek vanwege de bezorgdheid dat hackers het voor snode doeleinden zouden kunnen gebruiken.
Ja, dat was waarschijnlijk de juiste beslissing.
Op dinsdag, Anthropic heeft Claude Mythos Preview aangekondigd, een nog niet uitgebracht AI-model dat ‘de cyberbeveiliging zou kunnen hervormen’. Volgens het bedrijf heeft het al “duizenden zeer ernstige kwetsbaarheden gevonden, waaronder enkele in elk groot besturingssysteem en webbrowser.” Hoewel dit een goede zaak is, zei Anthropic ook dat slechte actoren Mythos voor het kwade zouden kunnen gebruiken, met mogelijk ‘ernstige’ gevolgen voor ‘de economieën, de openbare veiligheid en de nationale veiligheid’.
Deze Tweet is momenteel niet beschikbaar. Mogelijk wordt deze geladen of is deze verwijderd.
Dus in plaats van Mythos alleen maar te lanceren zoals andere modellen, besloot Anthropic alleen toegang te geven aan een klein aantal geselecteerde bedrijven: Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, de Linux Foundation, Microsoft, NVIDIA en Palo Alto Networks. Anthropic noemt dit ‘Project Glasswing’, een initiatief om kritische software-infrastructuur te versterken met behulp van AI. Het bedrijf breidde ook de toegang uit tot een groep van meer dan 40 extra organisaties die “kritische software-infrastructuur bouwen of onderhouden”.
Mashbare lichtsnelheid
In een interview met CNBC Dianne Penn, hoofd onderzoeksproductmanagement bij Anthropic, zei dinsdag dat de stap na veel ‘intern overleg’ kwam en dat het erom ging ‘veel cyberverdedigers een voorsprong te geven’.
Ondertussen op X, CEO van Anthropic Dario Amodei schreef in een bericht“In plaats van Mythos Preview vrij te geven voor algemene beschikbaarheid, geven we verdedigers vroegtijdig gecontroleerde toegang om kwetsbaarheden te vinden en te patchen voordat modellen van de Mythos-klasse zich in het hele ecosysteem verspreiden.”
Deze Tweet is momenteel niet beschikbaar. Mogelijk wordt deze geladen of is deze verwijderd.
“De gevaren als we dit verkeerd doen zijn duidelijk, maar als we het goed doen, is er een reële kans om een fundamenteel veiliger internet en een wereld te creëren dan we hadden vóór de komst van AI-aangedreven cybercapaciteiten”, voegde hij eraan toe.
Hoewel Claude Mythos Preview bijzonder goed is in het opsporen van cyberbeveiligingsfouten, is het eigenlijk een model voor algemene doeleinden. Maar het bedrijf is momenteel niet van plan het breed beschikbaar te maken; in plaats daarvan zal het proberen uit te vinden hoe het veilig Mythos-klasse-modellen voor iedereen kan inzetten.
Onderwerpen
Kunstmatige intelligentie
Antropisch
