Antropische Mythos zorgen over cyberveiligheid: wat slimme mensen zeggen

Gary Marcuseen AI-onderzoeker en auteur, zei dat de aankondiging van Anthropic op Mythos ‘overdreven’ was.

“Tot op zekere hoogte heb ik het gevoel dat we bespeeld zijn”, schreef Marcus verder Substapel. “De demo was absoluut een proof of concept dat we onze regelgevende en technische huishouding op orde moeten krijgen, maar niet de onmiddellijke dreiging waarvan de media en het publiek moesten geloven.”

Marcus zei dat het model, op basis van wat hij heeft gezien, ‘stapsgewijs beter’ lijkt dan eerdere modellen, in plaats van een ‘doorbraak’.

Yann LeCunoprichter van AMI Labs en voormalig hoofd AI-wetenschapper bij Meta, gooide ook koud water op de Mythos-hype.

“Mythos-drama = BS uit zelfbedrog”, schreef hij in een X-bericht.

Hij reageerde op een bericht van Aisle, een AI-beveiligingsbedrijf, dat zei dat het kleinere, goedkopere modellen testte op dezelfde kwetsbaarheden die werden benadrukt in de Mythos-aankondiging van Anthropic en ontdekte dat ze grotendeels dezelfde analyses konden uitvoeren.

Jake Moore, wereldwijd cybersecurity-specialist bij ESET vertelde Business Insider eerder dat er enige marketingtaal in de aankondiging van Anthropic zat, maar dat “dit model fundamenteel ongelooflijk indrukwekkend lijkt en in de loop van de tijd alleen maar zal verbeteren.”

“Anthropic heeft zijn reputatie opgebouwd als het ‘veiligheid eerst’ AI-bedrijf, dus aankondigingen als deze dienen twee doelen: oprechte voorzichtigheid en het signaleren van zijn veiligheidsbewuste houding,” zei Moore.

Dave Kasten, hoofd beleid bij Palisade Research, zegt dat hij het waarschijnlijk acht dat andere AI-modellen niet ver achterlopen op Mythos.

Hij vertelde donderdag in een interview aan CNBC dat zijn verwachting is dat “Anthropic een beetje voorop loopt, maar niet overweldigend voorop, en ze hebben hier niet noodzakelijkerwijs een grote permanente gracht.”

Hij markeerde een recent rapport van Axios dat gezegd hebbende, heeft OpenAI ook een model met geavanceerde cyberbeveiligingsmogelijkheden dat het alleen aan een kleine groep wil vrijgeven, in plaats van aan het grote publiek.

Kasten zei ook dat hij denkt dat Gemini waarschijnlijk ook niet ver achterloopt, maar het feit dat Google samenwerkt met Mythos impliceert dat Anthropic waarschijnlijk een voordeel heeft met dit specifieke model, tenminste voor een paar maanden.

David Zakkentechnologie-investeerder en voormalig AI-tsaar van het Witte Huis, zei dat de beweringen van Anthropic over Mythos belangrijk zijn, maar met een korreltje zout moeten worden genomen.

“De wereld heeft geen andere keuze dan de cyberdreiging die met Mythos gepaard gaat serieus te nemen. Maar het is moeilijk te negeren dat Anthropic een geschiedenis van schriktactieken heeft”, zei Sacks in een X-berichtwaarbij enkele voorbeelden worden gegeven van eerdere gevallen waarin Anthropic alarmerende waarschuwingen of verhalen over AI-modellen uitbracht.

TJ Marlin, CEO van Guardrail Technologies, die voorheen werkte aan de wereldwijde forensische technologiepraktijk van EY, zei dat de bijeenkomst tussen federale functionarissen en Wall Street erop gericht was ervoor te zorgen dat de banken, mocht zich een grote inbreuk op de beveiliging voordoen, niet konden omkeren en zeggen: “We wisten het niet.”

“Elke CEO in die zaal die er niet in slaagt een reactie op bestuursniveau te documenteren, opereert nu in de juridisch meest kwetsbare positie die mogelijk is”, schreef Marlin. LinkedIn.

Pablos Holmaneen VC bij Deep Future, zegt dat verdedigers van cyberveiligheid – de mensen die zich proberen te verdedigen tegen digitale aanvallen – meer zullen profiteren van de vooruitgang op het gebied van AI dan degenen die de aanvallen uitvoeren.

“Nu raakt iedereen gek door AI-aangedreven aanvallen”, zei Holman in een LinkedIn-bericht over Mythos op 1 april, vóór de aankondiging van Anthropic deze week. “Wat ze missen is dat verdedigers dezelfde AI’s hebben. Vaak betere en veel meer rekenkracht.”

Holman zei dat cybersecurity-verdedigers toegang zullen hebben tot dezelfde modellen en tot meer middelen om mee te werken, zoals de broncode.

“Dit is nog steeds een escalatieoorlog, maar nu heeft de verdediger het voordeel”, schreef hij. “De beveiliging staat op het punt beter te worden. Niet slechter.”

“We zijn het Manhattan Project-moment van cybersecurity binnengegaan”, zei Ben Seri, medeoprichter van cybersecurity-startup Zafran Security, in een na.

Seri zei dat de cyberdreiging reëel en onmiddellijk was, terwijl het defensieve potentieel reëel was, maar langer zou duren om te realiseren. Hij zei dat de echte uitdaging voor cybersecurity-verdedigers zal zijn om sneller op grote schaal te werken.

“AI zal kwetsbaarheden sneller vinden. AI zal ze sneller repareren. Maar het knelpunt was nooit ontdekking of herstel alleen. Het is de mogelijkheid om oplossingen veilig, snel en op schaal in productieomgevingen te implementeren”, zei hij. “Het veilig doorvoeren van snelle veranderingen in de productie is de belangrijkste verschuiving die leiders op het gebied van technologie en veiligheid moeten doorvoeren om dit moment te kunnen doorstaan.”

Alice Tecotzky heeft bijgedragen aan de rapportage.