De originele versie van dit verhaal verscheen erin Quanta-tijdschrift.
Stel je een stad voor met twee widgethandelaren. Klanten geven de voorkeur aan goedkopere widgets, dus de verkopers moeten concurreren om de laagste prijs vast te stellen. Ontevreden over hun schamele winsten ontmoeten ze elkaar op een avond in een met rook gevulde taverne om een geheim plan te bespreken: als ze samen de prijzen verhogen in plaats van te concurreren, kunnen ze allebei meer geld verdienen. Maar dit soort opzettelijke prijsafspraken, collusie genoemd, is lange tijd illegaal geweest. De widgetverkopers besluiten het risico niet te nemen, en alle anderen kunnen genieten van goedkope widgets.
Ruim een eeuw lang heeft de Amerikaanse wet dit basismodel gevolgd: verbied die achterkamertjesdeals en eerlijke prijzen moeten worden gehandhaafd. Tegenwoordig is het niet zo eenvoudig. In grote delen van de economie vertrouwen verkopers steeds meer op computerprogramma’s die leeralgoritmen worden genoemd en die herhaaldelijk prijzen aanpassen als reactie op nieuwe gegevens over de toestand van de markt. Deze zijn vaak veel eenvoudiger dan de ‘deep learning’-algoritmen die de moderne kunstmatige intelligentie aandrijven, maar ze kunnen nog steeds gevoelig zijn voor onverwacht gedrag.
Dus hoe kunnen toezichthouders ervoor zorgen dat algoritmen eerlijke prijzen bepalen? Hun traditionele aanpak zal niet werken, omdat deze afhankelijk is van het vinden van expliciete samenzwering. “De algoritmen drinken absoluut geen drankjes met elkaar”, zei hij Aäron Rotheen computerwetenschapper aan de Universiteit van Pennsylvania.
Toch een veel geciteerd artikel uit 2019 toonde aan dat algoritmen konden leren stilzwijgend samen te werken, zelfs als ze daar niet voor geprogrammeerd waren. Een team van onderzoekers plaatste twee exemplaren van een eenvoudig leeralgoritme tegen elkaar in een gesimuleerde markt en liet hen vervolgens verschillende strategieën verkennen om hun winst te vergroten. In de loop van de tijd leerde elk algoritme met vallen en opstaan wraak te nemen als de ander de prijzen verlaagde, waardoor zijn eigen prijs met een enorm, onevenredig bedrag daalde. Het eindresultaat was hoge prijzen, ondersteund door de wederzijdse dreiging van een prijzenoorlog.
Impliciete bedreigingen als deze liggen ook ten grondslag aan veel gevallen van menselijke samenzwering. Dus als je eerlijke prijzen wilt garanderen, waarom zou je dan niet van verkopers eisen dat ze algoritmen gebruiken die inherent niet in staat zijn om bedreigingen te uiten?
In een recent artikelRoth en vier andere computerwetenschappers lieten zien waarom dit misschien niet genoeg is. Ze bewezen dat zelfs ogenschijnlijk goedaardige algoritmen die voor hun eigen winst optimaliseren, soms slechte resultaten voor kopers kunnen opleveren. “Je kunt nog steeds hoge prijzen krijgen op manieren die er van buitenaf redelijk uitzien”, zegt hij Natalie Collinaeen afgestudeerde student die samenwerkte met Roth en co-auteur was van de nieuwe studie.
Onderzoekers zijn het niet allemaal eens over de implicaties van de bevinding; veel hangt af van hoe je ‘redelijk’ definieert. Maar het laat zien hoe subtiel de vragen rond algoritmische prijzen kunnen zijn, en hoe moeilijk het kan zijn om deze te reguleren.
