Als generatieve AI duwt de snelheid van softwareontwikkelingvergroot het ook het vermogen van digitale aanvallers om acties uit te voeren financieel gemotiveerd of door de staat gesteund hacken. Dit betekent dat beveiligingsteams bij technologiebedrijven meer code dan ooit moeten beoordelen, terwijl ze te maken krijgen met nog meer druk van slechte actoren. Op maandag, Amazone zal voor het eerst details publiceren over een intern systeem dat bekend staat als Autonomous Threat Analysis (ATA), dat het bedrijf heeft gebruikt om zijn beveiligingsteams te helpen proactief zwakke punten in zijn platforms te identificeren, variantanalyses uit te voeren om snel naar andere, soortgelijke fouten te zoeken, en vervolgens herstel- en detectiemogelijkheden te ontwikkelen om gaten te dichten voordat aanvallers ze vinden.
ATA is ontstaan uit een interne Amazon-hackathon in augustus 2024 en leden van het beveiligingsteam zeggen dat het sindsdien is uitgegroeid tot een cruciaal hulpmiddel. Het belangrijkste concept dat ten grondslag ligt aan ATA is dat het niet één enkele AI-agent is die is ontwikkeld om uitgebreide beveiligingstests en dreigingsanalyses uit te voeren. In plaats daarvan ontwikkelde Amazon meerdere gespecialiseerde AI-agenten die in twee teams tegen elkaar strijden om snel echte aanvalstechnieken te onderzoeken en de verschillende manieren waarop deze tegen de systemen van Amazon kunnen worden gebruikt – en vervolgens beveiligingscontroles voor te stellen voor menselijke beoordeling.
“Het oorspronkelijke concept was bedoeld om een kritieke beperking bij het testen van beveiliging aan te pakken: de beperkte dekking en de uitdaging om de detectiemogelijkheden actueel te houden in een snel evoluerend dreigingslandschap”, vertelt Steve Schmidt, Chief Security Officer van Amazon, aan WIRED. “Beperkte dekking betekent dat je niet door alle software kunt komen of dat je niet bij alle applicaties kunt komen omdat je gewoon niet genoeg mensen hebt. En dan is het geweldig om een analyse te maken van een set software, maar als je de detectiesystemen zelf niet op de hoogte houdt van de veranderingen in het dreigingslandschap, mis je de helft van het plaatje.”
Als onderdeel van het opschalen van het gebruik van ATA heeft Amazon speciale ‘high-fidelity’-testomgevingen ontwikkeld die een zeer realistische weerspiegeling zijn van de productiesystemen van Amazon, zodat ATA echte telemetrie kan opnemen en produceren voor analyse.
De beveiligingsteams van het bedrijf hebben ook een punt gemaakt om ATA zo te ontwerpen dat elke techniek die het gebruikt en de detectiemogelijkheden die het produceert, wordt gevalideerd met echte, automatische tests en systeemgegevens. Red team-agenten die werken aan het vinden van aanvallen die tegen de systemen van Amazon kunnen worden gebruikt, voeren daadwerkelijke opdrachten uit in de speciale testomgevingen van ATA die verifieerbare logbestanden produceren. Het blauwe team of defensiegerichte agenten gebruiken echte telemetrie om te bevestigen of de bescherming die zij voorstellen effectief is. En elke keer dat een agent een nieuwe techniek ontwikkelt, haalt hij ook logboeken met tijdstempel op om te bewijzen dat zijn beweringen juist zijn.
Deze verifieerbaarheid vermindert het aantal valse positieven, zegt Schmidt, en fungeert als ‘hallucinatiebeheer’. Omdat het systeem is gebouwd om bepaalde normen van waarneembaar bewijs te eisen, beweert Schmidt dat ‘hallucinaties architectonisch onmogelijk zijn’.
