AI en AVG
Vanwege de privacywetgeving Algemene Verordening Gegevensbescherming (AVG) mag niet het gehele selectieproces geautomatiseerd worden. Door de wet AVG heb je als werkgever meer verplichtingen bij het verwerken van persoonsgegevens dan voorheen. Daarom moet de uiteindelijke beslissing voor een kandidaat altijd bij een manager of medewerker liggen. De vraag is echter in hoeverre de uiteindelijke keuze voor een kandidaat daadwerkelijk nog door een mens wordt gemaakt als alle voorgaande beslismomenten door een algoritme zijn genomen.

Algorithmic bias
Algoritmes bouwen voort op bestaande data, hiermee staan algoritmes niet op zichzelf maar zijn ze onderdeel van menselijke systemen. Omdat ieder mens (onbewust) biases (vooroordelen) met zich meedraagt, kan deze bias (onbedoeld) ook terugkomen in de algoritmes. We spreken dan van algorithmic bias. De bias in de huidige wereld, bijvoorbeeld dat mannen meer dan vrouwen geschikt zijn voor besluitvormende posities, kan zo door een algoritme worden overgenomen.

Zo werd bij een bedrijf een selectiemodel gebruikt dat was gebaseerd op kenmerken van mensen die al in het bedrijf werkten. Kandidaten met een migratieachtergrond bleken amper te worden geselecteerd, omdat zij vaak langere namen hadden dan de huidige werknemers. Hoewel deze data irrelevant zijn voor de functie, worden ze door het algoritme ingezet als voorspellende factor voor een geschikte kandidaat.

De risico’s van AI in werving en selectie

Organisaties vertrouwen er vaak op dat AI en daarmee algoritmes neutraal zijn. Maar experts waarschuwen voor de invloed van algorithmic bias. De bedrijven trainen de algoritmes namelijk op basis van historische data en deze data is vaak niet neutraal. Bovendien mist transparantie over gebruikte algoritmes. Als hier geen aandacht aan wordt besteed en er niet bewust andere data wordt gebruikt, kan een algoritme ongelijke kansen reproduceren. Daarnaast is het van belang dat er bij het programmeren van het algoritme geen uitsluitende elementen in worden gebouwd, dit kan gebeuren omdat de programmeur ook (onbewust) vooroordelen met zich meedraagt. Een algoritme op zichzelf is dus niet vooringenomen. De bias ontstaat door de input van data of door de (onbewuste) bias van de programmeur.

De kansen van AI in werving en selectie

Het gebruik van algoritmes heeft beperkingen en risico’s, maar biedt ook kansen doordat ze in sommige dingen beter zijn dan mensen. Ze werken bijvoorbeeld veel sneller dan mensen, wat leidt tot meer efficiëntie en kostenbesparing. Daarnaast kunnen algoritmes tot nieuwe inzichten leiden door bestaande bias juist bloot te leggen en zo uiteindelijk te zorgen voor meer diversiteit op de arbeidsmarkt.

Wat kan jouw organisatie doen?

Binnen organisaties is meer samenwerking nodig. Zo vertelt een expert dat een werkgever aan de ene kant aangeeft niet over genoeg technische kennis te beschikken, terwijl de programmeur zegt: ik kan goed programmeren, maar ga niet over de keuze van selectiecriteria. Voor IT bedrijven zijn er bovendien weinig financiële prikkels om op een inclusieve manier algoritmes te ontwikkelen. Hieronder lees je de tips voor organisaties om ‘bias-bewust’ te zijn en inclusief te werk gaan:

• Algorithmic bias op de agenda zetten en onderzoek doen naar gebruik en gevolgen in eigen organisatie.
• Een betere organische samenwerking tussen de IT-afdeling en HR-afdeling binnen organisaties, zodat vragen en verzoeken vanuit HR direct gekoppeld kunnen worden aan IT.
• Een visie ontwikkelen op neutrale werving en selectie waar AI een rol in speelt.
• Medewerkers bewust maken van de risico’s en kansen van AI. Bijvoorbeeld via trainingen over unconscious bias of door hulp in te schakelen bij het ontwikkelen van neutrale vacatureteksten.

Lees het hele rapport ‘AI, gender en de arbeidsmarkt'