Fintech Brex gokt erop dat de toekomst van zakelijke AI niet een betere orkestratie is, maar minder.
Terwijl generatieve AI-agenten overstappen van copiloten naar autonome systemen, zegt James Reggio, CTO van Brex, dat traditionele agentorkestratieframeworks eerder een beperking dan een enabler worden. In plaats van te vertrouwen op een centrale coördinator of rigide workflows, heeft Brex een zogenaamde ‘Agent Mesh’ gebouwd: een netwerk van smalle, rolspecifieke agenten die in duidelijke taal communiceren en onafhankelijk opereren – maar met volledige zichtbaarheid.
“Ons doel is om AI te gebruiken om Brex effectief te laten verdwijnen”, vertelde Reggio aan VentureBeat. “Wij streven naar totale automatisering.”
Brex heeft geleerd dat agenten voor hun doeleinden in beperkte, specifieke rollen moeten werken om modulair, flexibeler en controleerbaarder te zijn.
Reggio zei dat het architectonische doel is om elke manager in een onderneming in staat te stellen “één enkel aanspreekpunt binnen Brex te hebben dat het geheel van hun verantwoordelijkheden afhandelt, of het nu gaat om uitgavenbeheer, het aanvragen van reizen of het goedkeuren van aanvragen voor bestedingslimieten.”
De reis van Brex Assistant
De financiële dienstverleningssector heeft AI en machine learning al lang omarmd om de enorme hoeveelheden gegevens die zij verwerkt te kunnen verwerken. Maar als het gaat om het introduceren van AI-modellen en agenten, is de De industrie koos een voorzichtiger weg aan het begin. Nu hebben meer financiële dienstverleners, waaronder de Brex, dat gedaan gelanceerde AI-aangedreven platforms En verschillende agentworkflows.
Brex’s eerste uitstapje naar generatieve AI was met de Brex Assistant, uitgebracht in 2023, die klanten hielp bepaalde financiële en onkostentaken te automatiseren. Het biedt suggesties om uitgaven te voltooien, vult automatisch informatie in en volgt uitgaven op die in strijd zijn met het beleid.
Reggio erkent dat de Brex-assistent werkt, maar dat is niet genoeg. “Ik denk dat het tot op zekere hoogte een technologie blijft waarvan we de grenzen ervan niet helemaal kennen”, zei hij. “Er moeten een behoorlijk groot aantal patronen omheen bestaan die door de industrie worden ontwikkeld naarmate de technologie volwassener wordt en naarmate meer bedrijven ermee bouwen.”
Brex Assistant gebruikt meerdere modellen, waaronder Antropische Claude en aangepaste Brex-modellen, evenals de API van OpenAI. De assistent automatiseert sommige taken, maar is nog steeds beperkt in hoe laag deze kan zijn.
Reggio zei dat Brex Assistant nog steeds een grote rol speelt in de autonomie van het bedrijf, vooral omdat het Agent Mesh-product in de applicatie stroomt.
Agent Mesh om orkestratie te vervangen
De consensus in de sector is dat ecosystemen met meerdere agenten, waarin agenten communiceren om taken uit te voeren, een orkestratieraamwerk nodig hebben om hen te begeleiden.
Reggio daarentegen heeft een andere invalshoek. “Deterministische orkestratie-infrastructuur… was een oplossing voor de problemen die we twee jaar geleden zagen, namelijk dat agenten, net als de modellen, veel hallucineren,” zei Reggio. “Ze zijn niet erg goed met meerdere tools, dus je moet ze deze vrijheidsgraden geven, maar dan in een meer gestructureerd, rigide systeem. Maar naarmate de modellen beter worden, denk ik dat dit het scala aan mogelijkheden dat zich uitbreidt, begint te belemmeren.”
Meer traditionele agent-orkestratie-architecturen richten zich ofwel op één enkele agent die alles doet, ofwel, vaker, op coördinator/orkestrator plus tool-agents die expliciet workflows definiëren. Reggio zei dat beide raamwerken te rigide zijn en problemen oplossen die vaker voorkomen bij traditionele software dan bij AI.
Het verschil, zo betoogt Reggio, is structureel:
-
Traditionele orkestratie: vooraf gedefinieerde workflows, centrale coördinator, deterministische paden
-
Agent Mesh: gebeurtenisgestuurde, rolgespecialiseerde agenten, op berichten gebaseerde coördinatie
Agent Mesh is afhankelijk van het samenvoegen van netwerken van vele kleine agenten, die elk gespecialiseerd zijn in één enkele taak. De agenten, wederom gebruikmakend van de hybride mix van modellen zoals bij de Brex Assistant, communiceren met andere agenten “in gewoon Engels” via een gedeelde berichtenstroom. Een routeringsmodel bepaalt snel welke tools moeten worden aangeroepen, zei hij.
Eén enkel terugbetalingsverzoek activeert verschillende taken: een nalevingscontrole om af te stemmen op het onkostenbeleid, budgetvalidatie, het matchen van ontvangsten en vervolgens het initiëren van de betaling. Hoewel een agent zeker kan worden gecodeerd om dat allemaal te doen, is deze methode ‘bros en foutgevoelig’ en reageert ze sowieso op nieuwe informatie die via een berichtenstroom wordt gedeeld.
Reggio zei dat het de bedoeling is om al die afzonderlijke taken ondubbelzinnig te maken en ze in plaats daarvan aan kleinere agenten toe te wijzen. Hij vergeleek de architectuur met een Wi-Fi-mesh, waarbij geen enkel knooppunt het systeem bestuurt; de betrouwbaarheid komt voort uit vele kleine, overlappende bijdragers.
“We vonden in principe een goede match met het idee om specifieke rollen als agenten te belichamen bovenop het beste platform om specifieke verantwoordelijkheden te beheren, net zoals je crediteuren aan het ene team zou kunnen delegeren versus het onkostenbeheer aan een ander team”, aldus Reggio.
Brex definieert drie kernideeën in de Agent Mesh-architectuur:
-
Config, waar definities van de agent, het model, de tools en het abonnement live staan
-
MessageStream, een logboek van elk bericht, tooloproep en statusovergang
-
Klok, die zorgt voor deterministische ordening
Brex heeft ook evaluaties in het systeem ingebouwd, waarbij de LLM als rechter optreedt en een auditagent de beslissingen van elke agent beoordeelt om ervoor te zorgen dat deze zich houden aan het nauwkeurigheids- en gedragsbeleid.
Succes tot nu toe
Brex zegt dat het substantiële efficiëntiewinsten heeft gezien bij zijn klanten in zijn AI-ecosysteem. Brex heeft geen benchmarks van derden of klantspecifieke gegevens verstrekt om deze winsten te valideren.
Maar Reggio zei dat zakelijke klanten die Brex Assistant en de machine learning-systemen van het bedrijf gebruiken “in staat zijn om 99% automatisering te bereiken, vooral voor klanten die echt op AI leunen.”
Dit is een duidelijke verbetering ten opzichte van de 60 tot 70% Brex-klanten die vóór de lancering van Brex Assistant hun onkostenprocessen konden automatiseren.
Het bedrijf bevindt zich nog in het begin van zijn autonomiereis, zei Reggio. Maar als de Agent Mesh-aanpak werkt, kan het meest succesvolle resultaat onzichtbaar zijn: werknemers denken helemaal niet meer aan uitgaven.
