Emerce Recruitment: AI-tools onderhevig aan algoritmische bias

Kunstmatige intelligentie gaat zeker niet de recruiter vervangen, maar kan wel een rol spelen tijdens het wervings- en selectieproces. Elmira van den Broek promoveert in mei met een onderzoek over hoe een grote multinational samen met een AI-leverancier een AI tool ontwikkelen en deze gebruiken bij het selecteren van personeel. Zij deelt haar inzichten komende dinsdag op Emerce Recruitment in de Meervaart in Osdorp.

Je promoveert met een onderzoek naar de inzet van AI bij recruitment. Wat was de reden om je hierin te verdiepen? Werving heb ik begrepen is niet direct je vakgebied.

‘Bij het KIN Center for Digital Innovation zijn we breed geïnteresseerd in hoe digitale technologieën ingezet worden in organisaties. Omdat de inzet van deze technologie grote gevolgen heeft voor werk en besluitvorming, hebben we diverse onderzoekers – waaronder ikzelf – die zich hier op richten. Zo hebben we onderzoekers die kijken naar de toepassing van AI binnen de politie, radiologie, olympische sport en landbouw.

‘Zelf ben ik geïnteresseerd in werving en selectieprocessen, omdat we hier enerzijds grote beloftes zien rondom AI, zoals ‘objectiviteit’ en ‘eerlijkheid’, en anderzijds AI een grote impact heeft op persoonlijke kansen van individuen, zoals wie een baan krijgt toegewezen. In 2021 heeft de Europese Commissie AI-systemen die gebruikt worden voor werving en selectie dan ook aangemerkt als zeer risicovol. De noodzaak voor onderzoek naar de implicaties van AI-systemen in dit domein zijn dan ook groot.’

Het onderzoek is gebaseerd op een werkelijke case: een grote multinational die samenwerkte met een AI-leverancier. 

‘Ik kan de organisaties helaas niet noemen vanwege een geheimhoudingsovereenkomst. Dit was een belangrijke voorwaarde om gevoelige data te kunnen verzamelen. Voor bijna drie jaar heb ik kunnen meelopen met de AI-leverancier en hun grootste klant om zowel het ontwikkelproces als het gebruik van de AI-tool van dichtbij te kunnen bekijken. Zo zat ik naast ontwikkelaars die voorspellende modellen ontwierpen, recruiters die sollicitanten selecteerden met behulp van het algoritme, en managers die sollicitanten interviewden op basis van algoritmische inzichten. Omdat gedurende deze periode verschillende uitdagingen en gevoelige thema’s aan bod kwamen, zoals kwesties rondom eerlijkheid en algoritmische bias, was anonimiteit noodzakelijk om de organisaties te beschermen en mee te laten werken aan het onderzoek.’

Waar moeten organisaties in het algemeen op letten als ze AI willen inzetten? En wat zijn belangrijke valkuilen? Is het zelflerende algoritme wel een verbetering?

‘Mijn proefschrift wijst naar drie grote lessen voor organisaties. Allereerst: het belang van samenwerking tussen ontwikkelaars en domein experts (recruiters en HR professionals). Organisaties die met AI willen werken moeten voorbereid zijn op een onderlinge afhankelijkheidsrelatie tussen ontwikkelaars en experts: experts hebben ontwikkelaars nodig om efficiëntie te realiseren en tot nieuwe datagedreven inzichten te komen, terwijl ontwikkelaars op experts zijn aangewezen om relevante data voor het algoritme te selecteren of voorspellende modellen aan te vullen. Zo kan een voorspellend model inzicht bieden in historische patronen, maar zijn experts nodig om het model toekomstvast te maken door een visie op de toekomst te bieden. Dit vraagt om intensieve samenwerking en betrokkenheid van beide partijen dat al begint bij de ontwikkeling van AI-systemen.

‘Ten tweede is het belangrijk dat organisaties nadenken over de doelstellingen en waardes die ze met het AI-systeem willen verwezenlijken. Zo kan een AI-systeem worden geïntroduceerd om selectieprocessen eerlijker te maken, maar is het belangrijk om te realiseren dat meerdere partijen in de organisatie (recruiters, managers, sollicitanten) verschillende ideeën hebben over wat eerlijk is. Deze definities zijn niet altijd van tevoren expliciet te maken of te vangen in fairness metrics, maar worden soms pas duidelijk als men met de technologie aan de slag gaat en met verrassende resultaten wordt geconfronteerd. Aanpasbaarheid van de technologie en menselijke betrokkenheid zijn cruciaal om de technologie bij menselijke doelstellingen en waardes aan te laten sluiten.

‘Ten slotte: het introduceren van AI-tools kan grotere gevolgen hebben voor de rol en positie van recruiters binnen de organisatie. Zo zagen we dat recruiters belangrijke besluitvormingstaken overhevelden naar het algoritme, zoals het selecteren van sollicitanten op basis van expertise en ervaring. In plaats daarvan namen recruiters nieuwe taken op zich rondom het algoritme zoals het verzamelen en selecteren van data, het vertalen van inzichten naar managers en het oplossen van conflicten rondom beslissingen van het algoritme. Dit vraagt om nieuwe vaardigheden waarbij expertise, training en ervaring die eerst belangrijk was voor het maken van selectiebeslissingen niet altijd meer relevant blijkt in deze nieuwe AI-gedreven omgeving. Het blijft een belangrijke vraag of recruiters met deelname in deze nieuwe activiteiten in staat zijn om hun positie binnen de organisatie te versterken of dat juist unieke expertise over tijd verloren gaat.’

En dus krijgt de recruiter een nieuwe rol?

‘In de organisaties waar we hebben meegekeken worden AI-inzichten ingezet gedurende het gehele selectieproces. Echter verschilt de mate waarop de AI-technologie beslissingen ondersteund. Zo worden AI-voorspellingen in de eerste selectieronde ingezet om sollicitanten uit te filteren, waarbij recruiters sollicitanten selecteren op basis van hun algoritmische score.

‘De rol van de recruiter is hier zeer gelimiteerd: waar eerst recruiters sollicitanten beoordeelden op basis van hun CV en motivatiebrief, bepaalt nu het algoritme wat voor score een sollicitant krijgt toegewezen en handelt de recruiter op basis van deze score.

‘De rol van recruiters focust zich nu meer op het ondersteunen van het ontwerp van het algoritme en het aanleveren van de juiste data. In latere rondes van het selectieproces worden AI-voorspellingen als een bron van extra informatie ingezet. Managers krijgen bijvoorbeeld de algoritmische scores van sollicitanten om interviews voor te bereiden. Recruiters spelen hier een belangrijke rol in het vertalen van deze scores naar interviewvragen en actiepunten voor managers. Zij sturen managers nu sterker bij op basis van algoritmische inzichten.’

Ken je binnen- of buitenlandse voorbeelden waar AI met recruitment zijn nut al heeft bewezen?

‘Het blijft een complex vraagstuk. Er zijn grote beloftes over het potentieel van AI-technologie, maar empirisch, wetenschappelijk onderzoek laat gemixte resultaten zien. Zo laat ons eigen onderzoek zien dat AI kan helpen om nieuwe inzichten te creëren en menselijke bias bloot te leggen, maar dat AI-tools ook onderhevig zijn aan algoritmische bias en soms sterk soortgelijke sollicitanten selecteren op basis van persoonlijkheid, wat diversity of thought niet ten goede komt. Zeker in een menselijk domein zoals HR, waarbij de omgeving dynamisch is met veranderingen in organisatiecultuur, leiderschap en kwaliteiten van sollicitanten die we belangrijk vinden, hebben AI-tools geen kans van slagen zonder menselijke bijsturing.’

Het volledige programma van Emerce Recruitment is hier te vinden. Kaartjes koop je hier.