De inzet van betrouwbare en transparante AI binnen de overheid

Het gebruik van algoritmes en data biedt enorme mogelijkheden maar brengt ook risico’s met zich mee. Zonder voldoende controle kunnen die het leven van mensen zeer nadelig beïnvloeden. Dat is een taak waar juist ook het senior management zich bewuster mee moet bemoeien.

Hoe gaan we eerlijk en verantwoord om met algoritmes?

De vraag hoe je verantwoord omgaat met nieuwe technologieën zoals AI en machine learning, krijgt sinds de toeslagenaffaire steeds meer aandacht. Alleen wordt er nog weinig actie ondernomen, en wordt er vooral veel gepraat. De vervolgstappen blijven hangen, al is dat deels verklaarbaar. Sommige organisaties wachten op regelgeving, andere vinden het complex of hebben het nog niet hoog genoeg op de prioriteitenlijst staan.

Deze ontwikkeling is vooral te wijten aan de toenemende en weinig concrete regelgeving. Neem de voortgangsrapportage aan de Tweede Kamer van 10 juni dit jaar. Daarin wordt een hele reeks handreikingen en normenkaders vermeld waaronder de Code Goed Digitaal Bestuur, en een pilot van het algoritmeregister waarin een overzicht van de inzet van algoritmen bij de overheid komt, zoals in Amsterdam al wordt gebruikt. Maar denk ook aan de EU-regelgeving of SAFEST van DNB over het ethisch verantwoord gebruik van AI bij financiële instellingen. Er zijn inmiddels vele stukjes regelgeving en handreikingen, maar vaak is er niet duidelijk wat voor wie van toepassing is en waar je precies aan moet voldoen.

Een andere belangrijke ontwikkeling die we in Nederland waarnemen is dat de burger – mede door de toeslagenaffaire – weliswaar vraagt om eerlijke algoritmes, maar dat diezelfde burger vaak niet goed kan definiëren hoe zo’n eerlijk algoritme er dan uitziet. Het kennisniveau op dit vlak is zowel bij de overheid als bij de burger beperkt. Als je kijkt wat mensen zoal op sociale media delen zonder besef van de impact ervan, of wat er op internet voor waarheid wordt aangenomen terwijl niet duidelijk is hoe beïnvloedbaar al die nieuwe technologieën zijn, dan is er nog een wereld te winnen. Daarvoor hebben we elkaar volgens Richters hard nodig. Overheid, burgers, maar ook de private sector moeten AI laten werken voor iedereen, in lijn met de democratische waardes die wij belangrijk vinden als mens en als maatschappij.

De rol van het senior management

Er speelt bovendien nog een ander belangrijk aspect los van de techniek zelf. Het probleem van de toeslagenaffaire heeft voor een groot deel te maken met de hardvochtigheid waarmee die regels zijn geïmplementeerd. Er was een model dat een uitkomst gaf over een bepaalde groep burgers, en dat was reden om het deze mensen ongelooflijk moeilijk te maken. Het gaat in zulke gevallen dan ook niet om de vraag welke techniek daarvoor is gebruikt en of de modellen robuust waren en op de juiste manier werden ingezet. Het probleem is dat er een ‘algocratie’ kan ontstaan waarbij de uitkomst van zo’n algoritme aanleiding is om de menselijke maat compleet los te laten.

Het is daarom van groot belang dat in iedere organisatie de verantwoordelijkheid voor die algoritmes en beslissingen helder is belegd op het senior niveau. Elke digitale oplossing is een uiting van het beleid van het senior management, dus alles wat er misgaat zegt iets over de kennis en kunde van het senior management als het gaat om het gebruik van data en technologie. Als het gebruik van data en technologie niet goed wordt beschreven in je strategie en beleid, niet goed wordt geborgd via trainingen, human-in-the-loop of andere tools, en er geen richtlijnen zijn over wat je wel en niet ethisch verantwoord vindt, dan gaat het vanzelf een keer fout.

Niet alleen datawetenschappers

De vraag of je ethische beslissingen met behulp van een computersysteem wilt nemen, wordt nu vaak bepaald door datawetenschappers, ziet Haasdijk. Dat kan niet, want de ethische overwegingen die aan zo’n beslissing ten grondslag liggen, liggen bij het senior management. Zij moeten daarvoor opgeleid zijn, en de training en het bewustzijn hebben om daarin eerlijke en verantwoorde keuzes te maken. De datawetenschapper kan vervolgens uitleggen wat er mogelijk is. Overigens komen we ook (overheids-)organisaties tegen die hierin juist vooroplopen, omdat die het een prioriteit hebben gemaakt dat ze op dit gebied anderen geen schade berokkenen. Deze voorlopers erkennen dat ze de kennis en kunde zelf niet in huis hebben en ze nemen vervolgens mensen aan op digital ethics en AI.

We krijgen regelmatig de vraag of er niet een checklist is waaraan je als organisatie moet voldoen. Maar dat is juist met deze nieuwe technologieën niet mogelijk. Het gaat over normen en waarden, en over de hele context waarin de technologieën worden uitgerold. Als je die context niet goed managet, gaat het mis. De grote uitdaging voor organisaties is om te leren om daarin zelf keuzes te maken, dat is een nieuwe manier van werken: van rule-based naar principle-based. Het zijn zaken waar we in onze dagelijkse praktijk veel advies over geven. Enerzijds helpen we klanten om op verantwoorde wijze modellen te bouwen, maar we schrijven ook strategieën, principes, frameworks en beleid. Ook geven we (dilemma)trainingen en denken we mee over het bestuur eromheen: niet door iets compleet nieuws op te zetten, maar door de huidige processen en systemen met deze kennis te verrijken.

Breng de AI-modellen in je organisatie in kaart

Er is daarentegen ook van alles waar organisaties zelf mee kunnen starten. Begin ermee in kaart te brengen hoeveel AI-modellen er binnen je organisatie draaien. Dit hebben we onder meer voor een grote bank gedaan, waarbij we op duizenden modellen uitkwamen. Een enorm aantal dat henzelf verraste, maar dat geeft meteen een idee hoe wijdverbreid de modellen onderdeel zijn van de organisatie. En stel jezelf scherpe vragen. Vraag jezelf bijvoorbeeld of je op het achtuurjournaal zou kunnen uitleggen waarom je organisatie een bepaalde AI-oplossing gebruikt, waaraan die bijdraagt, en hoe je hebt vastgelegd welke keuzes daarin zijn gemaakt. Lukt je dat niet, vraag dan hulp.

In lijn met dit advies raden we bovendien aan om op te schrijven wat digitale oplossingen wel en niet mogen doen. Je zou er simpelweg mee kunnen beginnen op een bierviltje. Het belangrijkste is dat je al je stakeholders in gedachten houdt, zoals de maatschappij, je klanten, leveranciers en medewerkers. Bedenk vervolgens wat je belangrijke principes vindt. Bedrijven hebben veelal wel een code of conduct, maar de factor ‘technologie’ en alle stakeholders worden daarin vaak onvoldoende meegenomen.

Een derde advies heeft te maken met de kennis en kunde bínnen organisaties. Om het verantwoord en ethisch gebruik van data en technologie te borgen, zul je binnen je organisatie iemand moeten aanwijzen die hiervoor verantwoordelijk is. Denk daarbij aan de kennis en bewustwording op senior managementniveau, want zoals gezegd moet ook daar iemand dit stokje oppakken, anders gaat het niet gebeuren. Begin bijvoorbeeld met het bekijken van Ted-talks hierover.

Tot slot

Tot slot kan de overheid op dit vlak een rolmodel zijn voor andere organisaties, door hen te mobiliseren ethisch en verantwoord met technologie om te gaan. De overheid kan bijvoorbeeld vanuit hun inkoopvoorwaarden eisen stellen aan organisaties. Ze kunnen daardoor afdwingen dat als je met de overheid wilt werken je aan bepaalde ethische kaders moet voldoen. Bijvoorbeeld door te borgen hoe je transparantie in systemen toetst als je samenwerkt met een externe leverancier. Of door duidelijke afspraken vast te leggen over de verantwoording van data, het systeem, en de besluiten van systemen. We kunnen wachten op regelgeving, maar dat duurt nog lang, en als de overheid dit van leveranciers gaat eisen, dan kunnen zij een katalysator zijn waardoor het ecosysteem voor iedereen ten goede verandert.

Over de auteurs: Hilary Richters is Director en Evert Haasdijk is Senior manager bij Deloitte.

Op de hoogte blijven van het laatste nieuws binnen je vakgebied? Volg Emerce dan ook op social: LinkedIn, Twitter en Facebook.