Elke dag gebruiken miljoenen werknemers Okta om toegang te krijgen tot applicaties en andere diensten.
Binnenkort kunnen AI-agenten dezelfde toegang nodig hebben. Okta’s CEO, Todd McKinnonzegt dat zijn bedrijf erover nadenkt hoe de veiligheid kan worden gegarandeerd, aangezien mensen hun digitale verantwoordelijkheden mogelijk overdragen aan AI-agenten.
Hij pleitte voor een soort ‘kill switch’ als er iets misgaat.
In een interview op The Verge’s “Decoder”, die maandag werd gepubliceerd, beschreef McKinnon AI-agents als een nieuwe klasse digitale werkers – degenen die toegang hebben tot systemen, gegevens kunnen verplaatsen en acties kunnen ondernemen binnen de softwarestack van een bedrijf. Bedrijven experimenteren steeds vaker met AI-agents om workflows te automatiseren, software te bouwen en zelfs enkele fysieke taken uit te voeren.
Dat soort macht heeft strikte parameters nodig, zei McKinnon.
“Je hebt een systeem nodig om ze in de gaten te houden, hun rol te definiëren, hun rechten te definiëren, en waar ze verbinding mee kunnen maken en wat ze kunnen doen”, zei hij, eraan toevoegend dat bedrijven ook de mogelijkheid nodig zullen hebben om “de stekker uit het stopcontact te trekken” als agenten bedrieglijk handelen.
Okta’s voorstel zou niet volledig een einde maken aan AI-agenten. In plaats daarvan pleit hij ervoor dat de kill-schakelaar de toegang van een agent tot gevoelige gegevens zou minimaliseren.
Harish Pari, de senior vice-president van AI-beveiliging bij Okta, vertelde Business Insider dat het risico al aan het ontstaan is.
“Elke organisatie implementeert AI-agenten”, zei hij. “Maar om agenten echt hun werk te laten doen, hebben ze toegang nodig tot gevoelige systemen en gegevens, waardoor een nieuwe aanvalsvector ontstaat.”
Hoewel het voordeel de productiviteit is, zegt Okta dat de risico’s even groot zijn en doordachte grenzen vereisen, waaronder de grote rode knop. Op 15 maart publiceerde het bedrijf een persbericht getiteld “De blauwdruk voor de Secure Agent Enterprise.” Daarin zegt Okta dat bedrijven die AI gebruiken ‘in staat moeten zijn om de toegang tot elk systeem onmiddellijk in te trekken om risico’s te beperken’.
Het raamwerk vraagt ook om real-time handhaving van toestemmingen voor het delen van gegevens, menselijke goedkeuring voor risicovolle acties en gedetailleerde auditlogboeken die de beslissingen en toegangspogingen van elke agent volgen.
Okta is niet de enige. Begin 2024, senator Scott Wiener van de staat Californië heeft een wetsvoorstel voor AI-regulering voorgesteld daarvoor zouden bedrijven een failsafe moeten inbouwen. Het wetsvoorstel kreeg steun van AI-ondersteuner Elon Musk voordat gouverneur Gavin Newsom later dat jaar zijn veto uitsprak.
Toch zei McKinnon tegen ‘Decoder’ dat het belangrijk is dat particuliere bedrijven hun eigen failsafes bouwen.
“Er zullen dingen misgaan, en er zullen problemen, bedreigingen en snelle injecties zijn”, zei hij, waarin hij uitlegde dat het belangrijk is om te voorkomen dat agenten in een crisis toegang hebben tot gegevens. “Het is bijna alsof je een machine van het netwerk haalt.”
