AI-professor Noel Sharkey: ‘Er is te weinig controle op algoritmes’

Ethische richtlijnen, lijsten van raamwerken en ethische commissies duiken links en rechts op. Maar er is nog steeds onvoldoende controle over AI, zegt professor en AI-expert Noel Sharkey. “Het gaat om zaken op abstract niveau. Wees eerlijk, wees rechtvaardig. Maar wat betekent dat precies? Het komt allemaal neer op de toepassing.”

Er is veel belangstelling voor ethiek en het verantwoorde gebruik van AI, maar professor Sharkey ziet nog niet veel toepassingen. “Tot nu toe waren er vooral discussies en commissies. Ze hebben nog niets gedaan, maar ze werken er aan”, legt Sharkey uit.

Maatschappelijke verantwoordelijkheid

Sharkey ziet de behoefte aan technisch personeel en specifiek programmeurs om getraind te worden en bewust te maken van ethische kwesties. “Ze moeten overwegingen maken wanneer ze hun programma’s of hun producten bouwen. Het zijn niet alleen ethische kwesties, het gaat om sociale verantwoordelijkheid. Welke impact heeft dit op mijn samenleving? Als je een systeem ontwikkelt, moet dit al in het ontwerpproces zitten. Vanaf de eerste regel code moet je al aan je principes werken.”

Dat valt niet mee, erkent Sharkey. “Je moet de principes verder uitwerken en de tijd nemen om de impact op de samenleving te overwegen. En je moet dit van tevoren doen. Je schrijft niet de code en vraagt daarna pas: wat is de impact hiervan? ”Dat betekent ook dat er behoefte is aan meer diversiteit in de ontwikkelteams, zegt Sharkey. “Overal waar algoritmes zijn gebruikt voor gerechtigheid – van uitkeringen tot en met gerechtelijke beoordelingen en gevangenisstraffen – bleek er bias te zijn op geslacht en ras. Als je niet volledig kunt aantonen en testen dat een algoritme niet bevooroordeeld is, zou het ook niet moeten worden gebruikt. Niet zonder certificering.”

Bekijk het volledige interview. (kijktijd 5.13 minuten)

Over de auteur: Evert Haasdijk werkt als Senior Manager bij Deloitte.