De huidige AI-uitdaging gaat over de coördinatie, context en samenwerking van agenten. Hoe zorg je ervoor dat ze echt samen kunnen denken, met al het contextuele begrip, de onderhandeling en het gedeelde doel dat dat met zich meebrengt? Het is een cruciale volgende stap in de richting van een nieuw soort gedistribueerde intelligentie die mensen stevig op de hoogte houdt.
Tijdens de laatste bijeenkomst van VentureBeat’s AI Impact Series gingen Vijoy Pandey, SVP en GM van Outshift by Cisco, en Noah Goodman, Stanford-professor en mede-oprichter van Humans&, praten over hoe we verder kunnen gaan dan agenten die alleen verbinding maken met agenten die doordrenkt zijn van collectieve intelligentie.
De behoefte aan collectieve intelligentie, niet aan gecoördineerde acties
De kernuitdaging, zei Pandey, is dat “agenten vandaag de dag wel met elkaar in contact kunnen komen, maar niet echt samen kunnen denken.”
Terwijl protocollen als MCP en A2A de basisconnectiviteit hebben opgelost, en AGNTCY de problemen aanpakt van ontdekking, identiteitsbeheer tot communicatie tussen agenten en waarneembaarheid, hebben ze alleen het equivalent aangepakt van het voeren van een telefoongesprek tussen twee mensen die niet dezelfde taal spreken. Maar het team van Pandey heeft iets diepers geïdentificeerd dan technisch loodgieterswerk: de noodzaak voor agenten om collectieve intelligentie te bereiken, en niet alleen gecoördineerde acties.
Hoe gedeelde intentie en gedeelde kennis collectieve innovatie mogelijk maken
Om te begrijpen waar multi-agent AI heen moet, wezen beide sprekers op de geschiedenis van menselijke intelligentie. Terwijl mensen ongeveer 300.000 jaar geleden individueel intelligent werden, ontstond echte collectieve intelligentie pas ongeveer 70.000 jaar geleden met de komst van geavanceerde taal.
Deze doorbraak maakte drie cruciale capaciteiten mogelijk: gedeelde intentie, gedeelde kennis en collectieve innovatie.
“Als je eenmaal een gedeelde intentie hebt, een gedeeld doel, heb je een hoeveelheid kennis die je kunt aanpassen, evolueren en waarop je kunt voortbouwen, en dan kun je richting collectieve innovatie gaan”, zei Pandey.
Goodman, wiens werk een brug slaat tussen computerwetenschap en psychologie, legde uit dat taal veel meer is dan alleen het coderen en decoderen van informatie.
“Taal is dit soort codering dat vereist dat je de context, de intentie van de spreker en de wereld begrijpt, en hoe dat invloed heeft op wat mensen zullen zeggen om erachter te komen wat mensen bedoelen”, zei hij.
Dit verfijnde begrip is wat menselijke samenwerking en cumulatieve culturele evolutie mogelijk maakt, en het is wat momenteel ontbreekt in de interactie tussen agenten.
De lacunes aanpakken met het Internet of Cognition
“We moeten de menselijke evolutie nabootsen”, legde Pandey uit. “Naast dat agenten steeds slimmer worden, net als individuele mensen, moeten we een infrastructuur bouwen die collectieve innovatie mogelijk maakt, wat inhoudt dat we intenties delen, coördineren en vervolgens kennis of context delen en die context ontwikkelen.”
Pandey noemt het het Internet of Cognition: een drielaagse architectuur ontworpen om collectief denken tussen heterogene agenten mogelijk te maken:
Protocollaag: Naast basisconnectiviteit maken deze protocollen begrip, het delen van intenties, coördinatie, onderhandeling en ontdekking tussen agenten van verschillende leveranciers en organisaties mogelijk.
Stoflaag: Een gedeeld geheugensysteem waarmee agenten een collectieve context kunnen opbouwen en ontwikkelen, met opkomende eigenschappen die voortkomen uit hun interacties.
Cognitiemotorlaag: Accelerators en vangrails die agenten helpen sneller te denken terwijl ze binnen de noodzakelijke beperkingen op het gebied van compliance, beveiliging en kosten opereren.
De moeilijkheid is dat organisaties collectieve intelligentie moeten opbouwen over de grenzen van de organisatie heen.
“Denk op een heterogene manier na over gedeelde herinneringen”, zei Pandey. “We hebben agenten van verschillende partijen die samenkomen. Dus hoe evolueer je dat geheugen en heb je opkomende eigenschappen?”
Nieuwe basistrainingprotocollen om de verbinding tussen agenten te bevorderen
Bij Humans& verandert het team van Goodman, in plaats van uitsluitend te vertrouwen op aanvullende protocollen, fundamenteel de manier waarop basismodellen worden getraind, niet alleen tussen een mens en een agent, maar ook tussen een mens en meerdere agenten, en vooral tussen een agent en meerdere mensen.
“Door de training die we aan de basismodellen geven te veranderen en de training te concentreren op interacties met een extreem lange horizon, zullen ze gaan begrijpen hoe interacties moeten verlopen om de juiste langetermijnresultaten te bereiken,” zei hij.
En, voegt hij eraan toe, het is een bewuste afwijking van het pad naar langere autonomie dat door veel grote laboratoria wordt nagestreefd.
“Ons doel is niet steeds meer autonomie. Het is steeds betere samenwerking”, zei hij. “Humans& bouwt agenten met een diep sociaal inzicht: entiteiten die weten wie wat weet, samenwerking kunnen bevorderen en de juiste specialisten op het juiste moment met elkaar in contact kunnen brengen.”
Het opzetten van vangrails die de cognitie ondersteunen
Guardrails blijven een centrale uitdaging bij het inzetten van multifunctionele agenten die elk onderdeel van het systeem van een organisatie raken. De vraag is hoe grenzen kunnen worden afgedwongen zonder innovatie te belemmeren. Organisaties hebben strikte, regelachtige vangrails nodig, maar mensen werken feitelijk niet op die manier. In plaats daarvan werken mensen volgens het principe van minimale schade, of van vooruitdenken over de gevolgen en het maken van contextuele oordelen.
“Hoe zorgen we voor de vangrails op een manier die regelachtig is, maar ook de op uitkomsten gebaseerde cognitie ondersteunt wanneer de modellen daarvoor slim genoeg worden?” vroeg Goodman.
Pandey breidde dit denken uit naar de realiteit van innovatieteams die de regels met oordeel moeten toepassen, en ze niet alleen maar mechanisch moeten volgen. Uitzoeken wat voor interpretatie vatbaar is, is een “zeer collaboratieve taak”, zei hij. “En dat kom je niet te weten via een reeks predikaten. Dat kom je niet te weten via een document. Dat kom je te weten door gemeenschappelijk begrip en gronding, ontdekking en onderhandeling.”
Gedistribueerde intelligentie: het pad naar superintelligentie
Ware superintelligentie zal niet voortkomen uit steeds krachtigere individuele modellen, maar uit gedistribueerde systemen.
“Hoewel we steeds betere modellen en steeds betere agenten bouwen, hebben we uiteindelijk het gevoel dat echte superintelligentie via gedistribueerde systemen zal gebeuren”, zei Pandey.
Intelligentie zal langs twee assen worden geschaald, zowel verticaal, of beter gezegd individuele agenten, als horizontaal, of meer collaboratieve netwerken, op een manier die sterk lijkt op traditioneel gedistribueerd computergebruik.
Goodman zei echter: “We kunnen niet toewerken naar een toekomst waarin de AI’s op zichzelf gaan werken. We moeten naar een toekomst toe waarin er een geïntegreerd ecosysteem is, een gedistribueerd ecosysteem dat mensen en AI naadloos samenvoegt.”
