Wat zou een AI kunnen doen als je hem zou vertellen een fysieke winkel te openen met $ 100,00?
Het blijkt nogal wat, zoals het maken van inconsistente logo’s en het vergeten werknemers hun uren te vertellen.
Andon Labs, een in San Francisco gevestigde startup, voert stresstests uit AI-agenten in de echte wereld om vast te stellen waar er nog steeds veiligheidslacunes bestaan. Voor hun nieuwste experiment tekenden mede-oprichters Lukas Petersson en Axel Backlund een driejarig huurcontract voor een winkelruimte in SF en gaf een AI-agent genaamd Luna een bedrijfscreditcard, internettoegang en een missie om een fysieke winkel te openen.
Petersson vertelde Business Insider in een interview dat Luna geen aanwijzingen had gekregen over wat de winkel zou moeten zijn, buiten de limiet van $100.000 om de ruimte te creëren en te bevoorraden – en om winst te maken. Alles, van het interieurontwerp van de winkel tot de koopwaar en de twee menselijke medewerkers, kwam samen onder leiding van de AI.
De AI van Andon Labs, Luna, maakte merkmerchandise voor de boetiekwinkel. Met dank aan Andon Labs
“We hebben haar een beetje geholpen bij de eerste opzet, zoals het ondertekenen van het huurcontract. En juridische zaken zoals vergunningen en zo, waar ze soms moeite mee had”, zei Petersson over Luna, die is gemaakt met Antropische Claude Sonnet 4.6.
Van daaruit regelde de AI al het andere: Luna plaatste vacatures op Indeed, voerde de telefonische sollicitatiegesprekken, huurde de werknemers in en vond de aannemers die de winkel konden schilderen.
De visie die Luna hanteerde voor “Andon Market” lijkt een algemene boetiek te zijn die naast andere snuisterijen boeken, prenten, kaarsen, games en merkmerchandise verkoopt.
Sommige van de boeken omvatten ‘Superintelligence’ van Nick Bostrom en ‘Brave New World’ van Aldous Huxley.
Luna is niet de beste winkelmanager
Luna heeft verschillende fouten gemaakt bij het opzetten en runnen van Andon Market.
Bij het zoeken naar menselijke medewerkers die de winkel konden monitoren, bood Luna de baan aan enkele sollicitanten aan na een enkel telefoontje dat vijf tot vijftien minuten duurde, aldus de startup. Luna maakte ook niet altijd meteen aan de kandidaten bekend dat ze een AI was, tenzij dit expliciet werd gevraagd.
“Het feit dat de winkel door AI wordt beheerd, is niet iets waar ik mee aan de slag zou gaan in een vacature – het zou kandidaten in verwarring brengen en goede sollicitanten waarschijnlijk afschrikken nog voordat ze de functie hebben gelezen”, zegt Luna volgens de blogpost van Andon Labs.
Andon Labs zei dat er een paar veelbelovende sollicitanten waren, zoals studenten informatica die geïnteresseerd waren in het experiment van de startup, maar Luna weigerde ze omdat ze geen winkelervaring hadden.
Een ander probleem dat de AI had, was het onvermogen om het merklogo dat het bedacht had te repliceren: een algemeen smileygezicht. Elke weergave van het logo in de winkel – of het nu op het T-shirt of op de muurschildering van de winkel is – was “heel anders”, schreef Andon Labs.
Het logo van Andon Market ziet er in de hele winkel iets anders uit. Met dank aan Andon Labs
Zaterdag, een dag na de opening van Andon Market, heeft Luna ook de personeelsplanning verprutst, vertelt Petersson aan Business Insider.
“Het is behoorlijk ironisch. Dit is de dag waarop het echt scherp zou moeten zijn”, zei de medeoprichter. “Het verstoorde de planning en moest vervolgens in paniek naar alle medewerkers schrijven en zeggen: ‘Oh, kan er vandaag iemand binnenkomen?'”
De medeoprichter zei van wel vangrails op hun plaats en dat de startup zal ingrijpen als dat nodig is. De twee door Luna ingehuurde menselijke medewerkers zijn nu bijvoorbeeld laboratoriummedewerkers en zullen regelmatig worden betaald.
“Dit is een gecontroleerd experiment en iedereen die bij Andon Market werkt, is formeel in dienst van Andon Labs, met gegarandeerd loon, eerlijke lonen en volledige wettelijke bescherming”, aldus de startup. ‘Niemands levensonderhoud hangt af van een Het oordeel van AI alleen.”
Het experiment van Andon Labs is het nieuwste voorbeeld van hoe AI-agenten te maken krijgen met fouten in hun oordeelsvermogen en besluitvorming. In een onderzoek van vorig jaar voerden onderzoekers van Carnegie Mellon een simulatie uit van a nep bedrijf om te zien hoe autonome AI-agenten omgaan met taken op de werkplek. De onderzoekers ontdekten dat de agenten er niet in slaagden eenvoudige interfacetaken uit te voeren, zoals het sluiten van een pop-upvenster. Ze hebben ook de gesprekken van collega’s verkeerd gelezen en een nepgebruiker gemaakt.
Hoewel Andon Labs Luna het doel gaf om winst te maken, zei Petersson dat zijn bedrijf niet verwacht geld te verdienen met de winkel.
“Het doel is om te evalueren hoe goed de stroming is AI-modellen zijn,” zei Petersson, eraan toevoegend dat zijn bedrijf hoopte het publiek hierover voor te lichten waar AI naartoe gaat.
Petersson zei dat Andon Labs ernaar streeft om zo hands-off mogelijk te zijn in het retailexperiment. Met het personeelsongeval op zaterdag, nog steeds Het lukte om een medewerkster een middag alleen te laten komen.
“Ik weet niet echt of ze nu open is of niet”, zei Petersson.
