Is consument straks de dupe door machine learning?

Tussen juristen, economen en beleidsmakers is een levendig debat gaande over algoritmische collusie, een vorm van ‘machine learning’ waarin algoritmen zouden kunnen leren om prijzen te bepalen die hoger zijn dan een concurrerende prijs. Bewijs voor algoritmische collusie was er tot nog toe bijna niet. Onderzoekers van de Amsterdam Business School van de UvA laten zien dat algoritmische collusie in de prijsstelling van producten mogelijk is. Hun bevindingen kunnen regelgevende instanties en mededingingsautoriteiten helpen de consument te beschermen.

‘Het debat gaat specifiek over de vraag of het mogelijk is prijsalgoritmen prijzen te leren bepalen die hoger zijn dan een concurrerende prijs’, vertelt Janusz Meylahn, die het onderzoek samen met Arnoud den Boer deed. ‘Als dat het geval is, kan de consument hiervan de dupe zijn. Stel dat de prijsalgoritmen van Amazon, Bol.com en Coolblue, zonder menselijke tussenkomst, ‘leren’ dat het voor elk van de drie bedrijven winstgevender is om een iPhone 12 te verkopen met maximale winst voor hen drie samen, dan met maximale winst voor elk van hen afzonderlijk. De consument betaalt dan te veel voor het product.

Gegarandeerde collusie

Er was tot nog toe weinig empirisch bewijs voor algoritmische collusie, omdat het opsporen ervan moeilijk is. Veel van de voorbeelden zijn gebaseerd op simulaties in een virtuele omgeving. Meylahn en Den Boer laten zien dat er in een duopolie (een situatie waarbij twee partijen betrokken zijn) sprake kan zijn van collusie, met een nadruk op ‘kan’.

De onderzoekers ontwierpen een algoritme dat een collusie garandeert die rendabel is voor beide partijen in een duopolie. Meylahn legt uit: ‘De sleutel tot ons algoritme is dat het eigenlijk uit twee algoritmen bestaat. Het eerste maakt een schatting van de concurrerende prijs en de tweede van de collusieprijs (waardoor de gezamenlijke winst wordt gemaximaliseerd). Vervolgens bepaalt het algoritme welke van de twee de beste resultaten geeft en wordt dat algoritme nog enige tijd voortgezet. Dit proces wordt herhaald, maar de tijd die wordt besteed aan het gebruik van elk van de algoritmen wordt zo gekozen dat de prestaties worden geoptimaliseerd. Deze ‘garantie van collusie’ maakt het waarschijnlijker dat bedrijven in de toekomst dergelijke algoritmen zullen gebruiken.’

Marc Salomon, decaan van de Amsterdam Business School, is enthousiast over dit baanbrekende onderzoek naar algoritmische ontwikkeling. ‘Ik hoop dat we in de toekomst nationale en internationale regelgevende instanties en mededingingsautoriteiten kunnen helpen bij de ontwikkeling van algoritmen en tools om de consument te beschermen tegen dit soort wanpraktijken. Op den duur kan dit nadelig zijn voor de consument, die uiteindelijk te veel zal betalen.’

Juridische dilemma’s

Zijn de ontwikkelingen, waarbij machine learning en kunstmatige intelligentie een steeds belangrijkere rol spelen in ons leven, iets waar we ons zorgen over moeten maken? Het onderwerp roept allerlei fascinerende vragen op over de rechtmatigheid van algoritmische collusie. Ten aanzien van anti-trustwetgeving is het werk van de onderzoekers voor zowel beleidsmakers als juristen relevant. Als algoritmische collusie bijvoorbeeld leidt tot gezamenlijke winstmaximalisatie (voordeel voor beide bedrijven), moet dit dan worden verboden? Dit geeft aanleiding tot andere vraagstukken: om aansprakelijkheid vast te stellen is bewijs van communicatie nodig. Kunnen we dit bewijs vinden? Of hebben de algoritmen gewoon spontaan geleerd samen te spannen en wie moeten we in dat geval verantwoordelijk houden?

Nu Meylahn en Den Boer hebben aangetoond dat algoritmische collusie theoretisch mogelijk is, is meer onderzoek nodig om de gegevens te analyseren en manieren te vinden om algoritmische collusie op te sporen. Onlangs presenteerden zij hun werk op twee internationale conferenties (INFORMS 2020  en Algorithmic Collusion: working mechanisms conference). Hun volgende stap is het uitbreiden van de resultaten naar meer dan twee bedrijven in een markt.