Home Nieuws AWS gaat verder dan veiligheid op promptniveau met geautomatiseerd redeneren in AgentCore

AWS gaat verder dan veiligheid op promptniveau met geautomatiseerd redeneren in AgentCore

9
0
AWS gaat verder dan veiligheid op promptniveau met geautomatiseerd redeneren in AgentCore

AWS maakt gebruik van geautomatiseerd redenerendat op wiskunde gebaseerde verificatie gebruikt, om nieuwe mogelijkheden in zijn Amazon uit te bouwen Bedrock AgentCore platform terwijl het bedrijf dieper graaft in het agentische AI-ecosysteem.

Aangekondigd tijdens de jaarlijkse re:Invent-conferentie in Las Vegas, voegt AWS drie nieuwe mogelijkheden toe aan AgentCore: “beleid”, “evaluaties” en “episodisch geheugen”. De nieuwe functies zijn bedoeld om bedrijven meer controle te geven over het gedrag en de prestaties van agenten.

AWS onthulde ook wat het ‘een nieuwe klasse agenten’ of ‘grensagenten’ noemt, die autonoom, schaalbaar en onafhankelijk zijn.

Swami Sivasubramanian, AWS VP voor Agentic AI, vertelde VentureBeat dat veel van de nieuwe functies van AWS een verschuiving vertegenwoordigen in wie een bouwer wordt.

“We staan ​​feitelijk aan de vooravond van een grote tektonische transformatie met AI, maar agentische AI ​​begint echt te transformeren wat de kunst van het mogelijke is, en het zal dit tot een van de meest werkelijk transformerende technologieën maken”, zei Sivasubramanian.

Beleidsagenten

De nieuwe blzHet olicy-vermogen helpt bedrijven de richtlijnen te versterken, zelfs nadat de agent zijn reactie al heeft beredeneerd.

AWS VP voor AgentCore David Richardson vertelde VentureBeat dat de beleidstool tussen de agent en de tools zit die hij aanroept, in plaats van in de agent te worden ingebakken, zoals bij fijnafstemming vaak het geval is. Het idee is om te voorkomen dat een agent de bedrijfsregels overtreedt en hem door te sturen om zijn redenering opnieuw te evalueren.

Richardson gaf het voorbeeld van een klantenservicemedewerker: een bedrijf zou een beleid schrijven waarin staat dat de agent een terugbetaling van maximaal $ 100 kan verlenen, maar voor iets hogers zou de agent de klant aan een mens moeten terugsturen. Hij merkte op dat het gemakkelijk blijft om de redenering van een agent te ondermijnen door bijvoorbeeld snelle injectie of vergiftigde gegevens, waardoor agenten de vangrails negeren.

“Er zijn altijd van die snelle injectie-aanvallen waarbij mensen proberen de redenering van de agent te ondermijnen om de agent dingen te laten doen die hij niet zou moeten doen,” zei Richardson. “Daarom hebben we het beleid buiten de agent geïmplementeerd, en het werkt met behulp van de geautomatiseerde redeneermogelijkheden die we jarenlang hebben opgebouwd om klanten te helpen hun capaciteiten te definiëren.”

AWS onthuld Geautomatiseerde redeneercontroles op Bedrock tijdens de re: Invent van vorig jaar. Deze gebruiken neurosymbolische AI, of op wiskunde gebaseerde validatie, om de juistheid te bewijzen. De tool past wiskundige bewijzen toe op modellen om te bevestigen dat er niet sprake is van hallucinatie. AWS leunt sterk op neurosymbolische AI ​​en geautomatiseerd redeneren, en dringt aan op beveiliging en veiligheid op bedrijfsniveau op manieren die verschillen van die van andere aanbieders van AI-modellen.

Episodische herinneringen en evaluaties

De twee andere nieuwe updates voor AgentCore, ‘evaluaties’ en ‘episodisch geheugen’, geven bedrijven ook een beter zicht op de prestaties van agenten en geven agenten een episodisch geheugen.

AAls verbetering van het AgentCore-geheugen verwijst episodisch geheugen naar kennis waar agenten slechts af en toe gebruik van maken, in tegenstelling tot langerlopende voorkeuren, waar ze voortdurend naar moeten verwijzen. Beperkingen van contextvensters belemmeren sommige agenten, waardoor ze soms informatie of gesprekken vergeten die ze al een tijdje niet hebben gebruikt.

“Het idee is om informatie te helpen verzamelen waarvan een gebruiker echt zou willen dat de agent deze onthoudt wanneer hij terugkomt”, zegt Richardson. ‘Bijvoorbeeld: ‘wat is hun favoriete stoel in een vliegtuig voor gezinsuitjes?’ Of ‘wat is het soort prijsklasse waarnaar ze op zoek zijn?'”

Episodisch geheugen verschilt van het eerder geleverde AgentCore-geheugen omdat agenten die op AgentCore zijn gebouwd, in plaats van te vertrouwen op het onderhouden van korte- en langetermijngeheugen, bepaalde informatie kunnen oproepen op basis van triggers. Dit kan de noodzaak voor aangepaste instructies elimineren.

Met AgentCore-evaluaties kunnen organisaties 13 kant-en-klare evaluatoren gebruiken of hun eigen evaluatieprogramma’s schrijven. Ontwikkelaars kunnen waarschuwingen instellen om hen te waarschuwen als agenten de kwaliteitscontrole niet meer kunnen volgen.

Grensagenten

Maar misschien is de sterkste stap van AWS naar AI voor bedrijfsagenten de vrijlating van grensagenten, of volledig geautomatiseerde en onafhankelijke agenten waarvan het bedrijf zegt dat ze kunnen fungeren als teamgenoten met weinig richting.

Het concept is vergelijkbaar, zo niet identiek, aan dat van meer asynchrone agenten van concurrenten zoals Googlen En OpenAI. AWS lijkt echter meer uit te brengen dan alleen autonome codeermiddelen.

Sivasubramanian noemde ze een ‘nieuwe klasse’ agenten, ‘niet alleen een stapsgewijze functieverandering in wat je vandaag kunt doen; ze gaan van het assisteren bij individuele taken naar complexe projecten.’

De eerste is Kiro, een autonome codeeragent die is binnengekomen publieke preview sinds juli. Destijds werd Kiro aangekondigd als een alternatief voor vibe-coderingsplatforms zoals OpenAI Codex of Windsurfen. Vergelijkbaar met Codex en de talloze asynchrone codeeragenten van Google, inclusief Juleskan Kiro coderen, beoordelingen uitvoeren, zelfstandig bugs oplossen en bepalen welke taken het moet uitvoeren.

AWS-beveiligingsagent integreert ondertussen vanaf het begin diepgaande beveiligingsexpertise in applicaties. Het bedrijf zei in een persbericht dat gebruikers “eenmalig beveiligingsstandaarden definiëren en dat de AWS-beveiligingsagent deze automatisch valideert voor al uw applicaties tijdens de beoordeling – waardoor teams de risico’s kunnen aanpakken die van belang zijn voor hun bedrijf, en niet met generieke checklists.”

De AWS DevOps-agent helpt ontwikkelaars, vooral degenen die op afroep zijn, proactief systeembreuken of bugs te vinden. Met kennis van de applicatie of dienst kan zij reageren op incidenten. Het erkent ook de relaties tussen de applicatie en de tools die het gebruikt, zoals Amazon CloudWatch, Datadog en Splunk, om de oorzaak van het probleem te achterhalen.

Bedrijven zijn geïnteresseerd in het inzetten van agenten en uiteindelijk in het opnemen van meer autonome agenten in hun workflows. En terwijl bedrijven als AWS deze agenten blijven versterken met beveiliging en controle, ontdekken organisaties langzaam hoe ze ze allemaal met elkaar kunnen verbinden.

Nieuwsbron

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in