Onderzoek opent black box van data-gedreven keuzemodellen

Gezichtsherkenning bij het nemen van foto’s met je smartphone, zoekmachines op het internet en aanbevelingssystemen op Netflix en andere streamingdiensten: artificiële intelligentie beïnvloedt dagelijks onze keuzes. Maar we weten vaak niet hoe het precies werkt. Als het gaat om bijvoorbeeld beslissingen bij het maken van overheidsbeleid, zoals het uitstippelen van nieuw transportbeleid, dan moeten de modellen waarop het beleid is gebaseerd wel volledig transparant zijn. Ahmed Alwosheel onderzocht hoe je vertrouwen in artificiële neurale netwerken kunt vergroten wanneer deze worden gebruikt om menselijk gedrag te begrijpen. Dit is van belang wanneer ze worden ingezet bij het onderbouwen van transportbeleid. Op 10 juli promoveerde hij op dit onderwerp aan de TU Delft. 

Statistische keuzemodellen worden al tientallen jaren gebruikt om keuzegedrag mee te voorspellen in de mobiliteitssector en in andere domeinen. Traditioneel zijn zulke modellen gebaseerd op gedragstheorie, zoals de theorie van de nutsmaximalisatie: het idee dat mensen rationeel zijn en dus altijd zullen kiezen voor het alternatief dat de grootst mogelijke behoeftebevrediging met zich meebrengt. “Bij theorie-gedreven modellen doe je allerlei aannames. Je gaat er bijvoorbeeld vanuit dat er een vooraf vastgelegde relatie bestaat tussen bijvoorbeeld de kosten of de duur van een reis en het nut dat een bepaald vervoersmiddel oplevert. Dat heeft als grote voordeel dat het heel transparant is hoe je model werkt”, vertelt Sander van Cranenburgh, die het onderzoek van Alwosheel als co-promotor begeleidde.

Een recente ontwikkeling in het gedragsmodellenveld is het gebruik van modellen die niet theorie-gedreven, maar data-gedreven zijn, ofwel ze zijn gebaseerd op artificiële intelligentie. “Bij data-gedreven modellen laat je veronderstellingen over hoe mensen keuzes maken achterwege en gaat het model zelf op zoek naar de relaties in de data”, legt Van Cranenburgh uit. “Het voordeel van deze modellen is dat complexe processen er vaak goed mee voorspeld kunnen worden. Een nadeel is dat je niet precies weet waar de voorspellingen van deze data-gedreven modellen op gebaseerd zijn.” Het is dit black box-fenomeen dat het gebruik van data-gedreven modellen in sommige domeinen nog in de weg staat. “Gaat het bijvoorbeeld om het maken van transportbeleid dan moet de overheid wel kunnen uitleggen op basis waarvan bepaalde beslissingen zijn genomen”, zegt Van Cranenburgh.

Alwosheel laat in zijn proefschrift zien hoe je beter inzichtelijk kunt maken waarop de voorspellingen in een data-gedreven model, zogeheten artificiële neurale netwerken, gebaseerd zijn. Daarmee wordt het vertrouwen in deze modellen vergroot, omdat inzichtelijk wordt waarop voorspellingen van het model zijn gebaseerd. Daarvoor pionierde de promovendus met twee methodes.