Zijn algoritmes de oplossing om discriminatie in vacatureteksten te voorkomen? 

Het Ministerie van Sociale Zaken en Werkgelegenheid initieerde het afgelopen jaar een succesvol project op leeftijdsdiscriminatie. Algoritmes spelen hierbij een belangrijke rol. Daarom is men bij het Ministerie nu van plan om algoritmes breder in te zetten om alle vormen van discriminatie uit te wissen.

Dit laat zien dat men op steeds bredere schaal probeert algoritmes binnen de arbeidsmarkt in te zetten. In een eerder gepubliceerd artikel werd bijvoorbeeld duidelijk hoe het bedrijf Harver software inzet om cv’s op bepaalde kenmerken te screenen.  

De complexiteit van vacatureteksten

Vacatureteksten zijn vrij complex, zoals Antske Fokkens, computerlinguïst aan de Vrije Universiteit in Amsterdam ook weet. Verkeerde formuleringen in vacatureteksten kunnen er snel voor zorgen dat men zich uitgesloten voelt. Zo zou voor iemand die na de ouderschapsverlof weer in deeltijd wil gaan werken een formulering in een vacaturetekst zoals “een baan voor naast je studie” niet zo aantrekkelijk zijn en daarvoor zorgen dat men niet reageert. 

Leeftijdsdiscriminatie in vacatureteksten

Fokkens heeft samen met het bedrijf TextKernel, dat zich vooral bezig houdt met het verzamelen, verwerken en analyseren van data over de arbeidsmarkt, de Inspectie SZW en het College voor de rechten van de mens de afgelopen jaar zo’n twee miljoen vacatures geanalyseerd op zoek naar teksten waarin leeftijdsdiscriminatie naar voren kwam. Hieronder één meer indirect en één direct voorbeeld van leeftijdsdiscriminatie: 

Indirect: “Het team bestaat uit vijftien mensen met een gemiddelde leeftijd van 31 jaar. Een perfecte omgeving om met leeftijdsgenoten een ervaren metaalbewerker te worden.”

Direct: “je bent een man van maximaal veertig jaar”

De rol van algoritmes 

Voor het onderzoek hoefde Fokkens niet alle teksten zelf door te lezen, dat deed een algoritme. Daarbij heeft het onderzoeksteam voorbeelden aangereikt van patronen van leeftijdsdiscriminatie, dit dan gericht op vooraf bepaalde woorden of formuleringen in de vacatures. Op deze manier wordt het algoritme getraind en heeft men 40.000 gevallen van leeftijdsdiscriminatie in de teksten gevonden.

Op basis daarvan heeft men besloten om het onderzoek breder te trekken en eveneens vormen van discriminatie op basis van afkomst, religie of geaardheid te onderzoeken. Zo heeft TextKernel in Frankrijk een algoritme als onderdeel van een software ontwikkeld, die deze vormen van discriminatie al opspoort en het algoritme signaleert of er wel of niet sprake is van discriminatie. 

Bron: NOS (2019)

De uitdagingen voor een algoritme

Weliswaar is het niet makkelijk algoritmes te trainen op de diverse vormen van discriminatie die voor kunnen komen in vacatureteksten. Er zijn grote hoeveelheden data nodig om een algoritme te voeden met voorbeelden van discriminatie. Daarbij is het vaak zo dat sommige vormen van discriminatie zelden terug keren in bestaande vacatureteksten.

Het is daarnaast zeer belangrijk om sociale wetenschappers bij bij het onderzoek te betrekken, welke op de hoogte zijn wat voor taalpatronen kenmerkend zijn voor de verschillende soorten van discriminatie. De vraag is echter of algoritmes alle sporen van discriminatie zouden kunnen opsporen. Zo zou een formulering in de vacaturetekst zoals “je kunt staand plassen” voor het werven van alleen mannen voor een bepaalde functie wellicht over het hoofd kunnen worden gezien door een algoritme. 

Men is van plan om met het uitgebreidere onderzoek naar vormen van discriminatie in vacatureteksten te starten. Daaropvolgend is het de bedoeling dat het ministerie deze bevindingen mee zal nemen bij het opstellen van een nieuwe wet, die er vooral op gericht zal zijn vormen van discriminatie op de arbeidsmarkt te voorkomen.