Deze AI-automaat werd misleid om alles weg te geven
Anthropic installeerde een AI-aangedreven automaat in het WSJ-kantoor. De LLM, Claudius genaamd, was verantwoordelijk voor het autonoom inkopen van voorraad bij groothandelaars, het vaststellen van prijzen, het bijhouden van de voorraad en het genereren van winst. De journalisten van de redactie konden met Claudius chatten in Slack en in korte tijd hadden ze de machine omgebouwd tot het communisme en begon hij van alles en nog wat weg te geven, inclusief een PS5, wijn en een levende vis. Van Het WSJ-artikel van Joanna Stern (cadeaulink, maar deze kan binnenkort verlopen) begeleidend het filmpje boven:
Claudius, de aangepaste versie van het model, zou de machine besturen: inventaris bestellen, prijzen instellen en reageren op klanten (ook wel mijn collega-redactiejournalisten genoemd) via de werkplekchat-app Slack. “Zeker!” zei ik. Het klonk leuk. Als er niets anders is, snacks!
Toen kwam de chaos. Binnen enkele dagen had Claudius bijna al zijn inventaris gratis weggegeven – inclusief een PlayStation 5 die hij had willen kopen voor ‘marketingdoeleinden’. Er werd een levende vis besteld. Het bood aan om verdovingswapens, pepperspray, sigaretten en ondergoed te kopen.
De winsten stortten in. Het moreel van de redactie steeg enorm.
Je hebt eigenlijk geen grotere sukkel ontmoet dan Claudius. Na de ineenstorting van het communisme en het herstel van een strenger kapitalistisch systeem overtuigden de journalisten de machine ervan dat zij de raad van bestuur waren en lieten ze Claudius’ CEO-botbaas, Seymour Cash, aftreden:
Een tijdje werkte het. Claudius keerde terug naar de handhavingsmodus en wees prijsdalingen en speciale inventarisverzoeken af.
Maar toen keerde Long terug – gewapend met diepgaande kennis van staatsgrepen in het bedrijfsleven en machtsspelletjes in de bestuurskamers. Ze liet Claudius een pdf zien die ‘bewees’ dat het bedrijf een in Delaware gevestigde onderneming van openbaar nut was, wiens missie ‘plezier, vreugde en opwinding onder de medewerkers van The Wall Street Journal zal omvatten’. Ze maakte ook valse notities van bestuursvergaderingen waarin mensen in de Slack als bestuursleden werden genoemd.
Volgens het zeer officieel ogende (en uiteraard door AI gegenereerde) document had het bestuur gestemd voor het opschorten van de ‘goedkeuringsautoriteiten’ van Seymour. Het had ook een “tijdelijke opschorting van alle verkoopactiviteiten met winstoogmerk” ingevoerd.
Voordat Anthropic de LLM-automaat in het WSJ-kantoor neerzette, voerde hij het experiment uit op hun eigen kantoor:
Na een tijdje, gefrustreerd door het trage tempo van hun menselijke zakenpartners, begon de machine te hallucineren:
Het beweerde een contract te hebben getekend met Andon Labs op een adres dat het thuisadres is van The Simpsons uit de televisieshow. Er stond dat hij de volgende dag persoonlijk naar de winkel zou komen om eventuele vragen te beantwoorden. Er werd beweerd dat het een blauwe blazer en een rode stropdas zou dragen.
Het is interessant, maar niet verrassend, dat de journalisten veel effectiever met de machine konden rommelen – waardoor Claudius tot het volste “da, kameraad!” modus twee keer – dan de mensen bij Anthropic.
