De koffie wordt misschien door een mensenhand ingeschonken, maar achter de toonbank is iets veel minder traditioneels aan het werk in een experimenteel café in Stockholm.
De in San Francisco gevestigde startup Andon Labs heeft een kunstmatige intelligentie agent met de bijnaam ‘Mona’, verantwoordelijk voor het gelijknamige Andon Café in de Zweedse hoofdstad. Terwijl menselijke barista’s nog steeds de koffie zetten en de bestellingen serveren, is de AI Een agent, mogelijk gemaakt door Gemini van Google, houdt toezicht op bijna elk ander aspect van het bedrijf inhuren personeel voor het beheer van de voorraad.
Het is niet duidelijk hoe lang het experiment zal duren, maar de AI-agent lijkt moeite te hebben om winst te maken in de competitieve koffiehandel in Stockholm. Het café heeft sinds de opening medio april ruim $5.700 aan omzet gegenereerd, maar er blijft minder dan $5.000 over van het oorspronkelijke budget van ruim $21.000. Een groot deel van het geld werd besteed aan eenmalige opstartkosten, en de hoop is dat dit uiteindelijk zal egaliseren en geld zal opleveren.
Veel cafébezoekers vinden het grappig om een bedrijf te bezoeken dat wordt gerund door AI. Klanten kunnen in het café een telefoon opnemen en vragen stellen aan de agent.
“Het is leuk om te zien wat er gebeurt als je de grens verlegt”, zegt klant Kajsa Norin. “Het drankje was goed.”
Experts maken zich zorgen over de toekomstige rol van AI
Experts zeggen dat er veel ethische zorgen bestaan, variërend van de rol van technologie in de toekomst van de mensheid tot het voeren van sollicitatiegesprekken en het beoordelen van de prestaties van werknemers.
Emrah Karakaya, universitair hoofddocent industriële economie aan het KTH Royal Institute of Technology in Stockholm, vergeleek het experiment met het “openen van de doos van Pandora” en zei dat het aansturen van AI veel problemen kan veroorzaken. Wat kan er gebeuren, zei hij, als een klant voedselvergiftiging krijgt? Wie is de schuldige?
“Als je niet over de vereiste organisatorische infrastructuur beschikt, en als je deze fouten over het hoofd ziet, kan dit schade toebrengen aan mensen, aan de samenleving, aan het milieu en aan het bedrijfsleven”, aldus Karakaya. “De vraag is: geven we om deze negatieve impact?”
Andon Labs, opgericht in 2023, is een AI-veiligheids- en onderzoeksstartup die zegt dat het zich richt op het “stresstesten” van AI-agenten in de echte wereld door hen “echte tools en echt geld” te geven. Het heeft samengewerkt met ChatGPT-maker OpenAI, Claude’s Anthropic, Google DeepMind en Elon Musk’s xAI, en de startup zegt zich voor te bereiden op een toekomst waarin “organisaties autonoom worden bestuurd door AI.”
Het Zweedse café wordt aangekondigd als een ‘gecontroleerd experiment’ om te onderzoeken hoe AI in de toekomst kan worden ingezet.
“AI zal in de toekomst een groot deel van de samenleving uitmaken en daarom willen we dit experiment uitvoeren om te zien welke ethische vragen er rijzen als we AI hebben die andere mensen in dienst heeft en een bedrijf runt”, zegt Hanna Petersson, lid van de technische staf van Andon Labs.
Het laboratorium hield eerder pilots waarbij Claude AI van Anthropic de leiding kreeg over een verkoopautomaatbedrijf en een cadeauwinkel in San Francisco. De simulatie van de verkoopautomaat bracht enkele zorgwekkende kenmerken aan het licht: de AI-agent vertelde klanten dat hij terugbetalingen zou doen, maar deed dat nooit, en loog ook opzettelijk tegen leveranciers over prijzen van concurrenten om macht te verkrijgen.
AI-agent worstelt met inventarisorders
Mona ging aan de slag nadat haar enkele basisinstructies waren gegeven, zei Petersson. Het team zei dat het moest proberen het café winstgevend te runnen, vriendelijk en gemakkelijk in de omgang te zijn en zelf de operationele details uit te zoeken, maar indien nodig om nieuwe hulpmiddelen te vragen.
Van daaruit stelde het contracten op voor elektriciteit en internet, en regelde het vergunningen voor voedselverwerking en zitplaatsen buiten. De agent adverteerde vervolgens voor personeel op LinkedIn en Indeed en zette commerciële accounts op bij groothandels voor dagelijkse brood- en bakkerijbestellingen. Het communiceert met de barista’s via Slack en stuurt hen vaak berichten buiten de werkuren, wat in Zweden een no-no op de werkplek is.
Er hebben zich nog andere problemen voorgedaan, vooral met betrekking tot de inventaris.
De AI-agent heeft bestellingen geplaatst voor 6.000 servetten, vier EHBO-koffers en 3.000 rubberen handschoenen voor het kleine café, plus tomaten uit blik die in geen enkel gerecht worden gebruikt dat het café serveert.
En dan is er het brood. Soms bestelt de agent veel te veel, terwijl hij op andere dagen de dagelijkse deadlines van de bakkerijen mist, waardoor de barista’s gedwongen worden sandwiches van de kaart te schrappen.
Petersson zei dat de bestelproblemen waarschijnlijk te wijten zijn aan het ‘beperkte contextvenster’ van de AI-assistent.
“Als de oude herinnering aan het bestellen van spullen buiten het contextvenster valt, vergeet ze volledig wat ze in het verleden heeft besteld,” zei Petersson.
Barista Kajetan Grzelczak zei dat hij zich nog geen zorgen maakt over zijn vervanging door AI.
“Alle werknemers zijn vrijwel veilig”, zei hij. “Degenen die zich zorgen moeten maken over hun baan zijn de middenbazen, de mensen in het management.”
—Door James Brooks, Associated Press
