Anthropic zei dinsdag dat het een preview-versie van de aanstaande versie deelt AI model in een nieuw cybersecurity-initiatief met een coalitie van technologiebedrijven om kwetsbaarheden in kritieke software-infrastructuur te vinden en op te lossen.
Het Project Glasswing-initiatief omvat technologische grootheden als Amazon, Apple, Broadcom, Cisco, CrowdStrike, de Linux Foundation, Microsoft en Palo Alto Networks. Anthropic zei dat de partners het model zullen gebruiken voor defensief veiligheidswerk en hun bevindingen binnen de sector als geheel zullen verspreiden. Het bedrijf breidt ook de toegang uit tot ongeveer 40 extra organisaties die kritieke software-infrastructuur bouwen of onderhouden.
De vrees groeit dat slechte actoren krachtige AI-modellen daarvoor kunnen gebruiken ontwikkelen van meer geavanceerde cyberaanvallen. “Het werk om de cyberinfrastructuur van de wereld te verdedigen kan jaren duren; grensoverschrijdende AI-capaciteiten zullen waarschijnlijk de komende maanden aanzienlijk toenemen”, aldus Anthropic in een rapport. blogpost. “Om ervoor te zorgen dat cyberverdedigers voorop kunnen lopen, moeten we nu actie ondernemen.”
Anthropic stelt tot $100 miljoen aan modelgebruikskredieten ter beschikking voor het beveiligingsonderzoek, en $4 miljoen aan directe donaties aan open-source beveiligingsorganisaties.
Athropic zegt dat het sterke beveiligingstoepassingen heeft ontdekt in “Claude Mythos Preview” terwijl het het model trainde voor codeer- en redeneervaardigheden. Het bedrijf zegt dat gebruikers uiteindelijk toegang zullen krijgen tot andere leden van de Mythos-klasse modellen.
Het Mythos-model heeft de afgelopen weken al duizenden zero-day-kwetsbaarheden geïdentificeerd, zei Anthropic in de blogpost, waarvan er vele kritiek zijn. Het model vond een 27 jaar oude bug in OpenBSD, een besturingssysteem dat bekend staat om zijn veiligheid. Het ontdekte ook een 16 jaar oude kwetsbaarheid in veelgebruikte videosoftware die geautomatiseerde testtools niet hadden kunnen vinden.
Het bedrijf zei dat het voortdurend in gesprek is met Amerikaanse overheidsfunctionarissen over de offensieve en defensieve cybercapaciteiten van het model. Anthropic heeft het initiatief als urgent bestempeld, met het argument dat soortgelijke AI-mogelijkheden binnenkort beschikbaar zullen komen voor slechte actoren.
Anthropic was betrokken bij een spuugde met het Pentagon vorige maand vanwege haar verzet tegen de voorwaarden van defensiecontracten die de regering in staat zouden hebben gesteld haar technologie te gebruiken voor binnenlands toezicht en voor autonome wapens. Die vete leidde tot de nog steeds voortdurende ontbinding van hun werkrelatie.
