AI-agenten moeten worden behandeld als werknemers die moeten worden doorgelicht voordat ze het echte werk mogen toevertrouwen, zegt de president van Cisco.
Jeetu Patel zei in een woensdag gepubliceerd interview met Euonews Next dat AI-agenten die namens ons werken “de antecedentenonderzoek moeten doen”, net als menselijke werknemers.
Terwijl bedrijven racen om te implementeren autonome AI-systemen die code kunnen schrijven, workflows kunnen afhandelen en beslissingen kunnen nemen, moet de beveiliging net zo snel evolueren, zei hij.
“Je moet de agent beschermen tegen de wereld van aanvallen, en je moet de wereld beschermen tegen de agent die schurkenstaat,” voegde hij eraan toe.
De opmerkingen van Patel komen op een moment dat Cisco zijn eigen AI-adoptie versnelt. Hij voorspelt dat het bedrijf tegen het einde van 2026 “minstens een half dozijn producten” zal hebben die volledig met AI zijn geschreven, zonder door mensen geschreven coderegels, zei hij.
“We zullen bij Cisco geen ontwikkelaars hebben die AI niet als een kerngewoonte gebruiken in de manier waarop ze de klus klaren”, zei hij.
“Maak je geen zorgen dat AI je baan overneemt, maar maak je zorgen dat iemand AI beter gebruikt dan jij en zeker je baan overneemt”, voegde hij eraan toe.
AI-agenten nemen het werk over
Technologieleiders gaan all-in op AI-agenten.
StackBlitz-CEO Eric Simons vertelde Business Insider dat hij dit jaar meer AI-agenten dan menselijke werknemers wil bij zijn startup – een mijlpaal die een bredere transformatie weerspiegelt die de software-industrie overspoelt.
AI kan nu al code schrijven, taken beheren en tussen platforms coördineren. Open Klauw, een persoonlijke AI-assistent dat in verschillende berichtenapps werkt, is een voorbeeld van hoe agenten met minimale betrokkenheid namens een mens kunnen opereren.
“Dit is een kristallen bol in de wildheid van de onvermijdelijke toekomst”, vertelde Simons aan Business Insider in een woensdag gepubliceerd rapport.
“Uw AI-agenten zullen namens u met de agenten van anderen praten – onderhandelen over de prijs voor een product dat u wilt kopen, de beschikbaarheid van restaurants controleren en zelfs uw politieke standpunten bepleiten”, voegde hij eraan toe.
Softwareaandelen daalde de afgelopen weken toen investeerders worstelden met het idee dat AI software zou kunnen vervangen.
Toch zijn er waarschuwingssignalen. Agentische systemen kunnen op grote schaal kwetsbaar worden. Als de hallucinaties zich vermenigvuldigen terwijl agenten met elkaar omgaan, kunnen kleine fouten in een stroomversnelling terechtkomen, zegt Nicolas Darveau-Garneau, een voormalig Google-directeur en auteur van ‘Be a Sequoia, Not a Bonsai’.
“De enige manier waarop we enorme productiviteitswinsten kunnen behalen is op de dag dat we erop kunnen vertrouwen dat de AI niet veel hallucineert”, aldus Darveau-Garneau.
