Afgewezen voor een sollicitatie? Stel vragen over algoritmes
Steeds meer organisaties zetten algoritmes in om sollicitanten voor een baan te selecteren. Door zo’n (semi-)geautomatiseerd proces is het voor sollicitanten soms niet te begrijpen waarom ze zijn afgewezen. Komt dat door het algoritme? Het College adviseert sollicitanten om in geval van onduidelijkheid bij organisaties na te vragen of die gebruik hebben gemaakt van zogenaamde recruitmentsoftware en hoe de daarin actieve algoritmes werken. Als een organisatie dat niet kan uitleggen, kan een sollicitant contact opnemen met het College voor de Rechten van de Mens. Wij hebben een korte visuele verhaalwebsite gemaakt waarin we Salma en Richard volgen tijdens hun sollicitatieproces. Aan de hand van hun verhaal wordt duidelijk hoe sollicitatie-algoritmes soms (onbedoeld) de kansen van werkzoekenden kunnen verkleinen, bijvoorbeeld vanwege hun geslacht of afkomst, of omdat ze een beperking hebben.
Rol van sollicitant
“Als sollicitant kun je het gevoel hebben dat je machteloos staat als je vermoedt dat je gediscrimineerd bent door een sollicitatie-algoritme. Maar dat is gelukkig niet zo", verzekert voorzitter Jacobine Geel werkzoekenden. Het eerste wat een werkzoekende kan doen is erachter komen hoe sollicitatie-algoritmes werken.
Onze campagnewebsite kan daarbij helpen. Daarin volgt de bezoeker van de site Salma en Richard. Beiden willen aan de slag als medewerker bij een grote winkelketen. Ze lopen tijdens hun sollicitatieproces tegen allerlei uitdagingen aan doordat de algoritmes onvoldoende rekening houden met hun persoonlijke situatie.
Steeds meer sollicitatie-algoritmes
Algoritmes kunnen op allerlei manieren worden ingezet om HR-professionals te ondersteunen: bijvoorbeeld door CV's automatisch te scannen, door te bepalen waar en aan wie een vacature het beste vertoond kan worden of door te analyseren hoe iemand een online game heeft gespeeld die een bepaalde competentie meet. Deze zogenaamde recruitmentsoftware kan een nuttig instrument zijn om efficiënter personeel te werven en selecteren. Dat is aantrekkelijk, zeker in geval van een krappe arbeidsmarkt.
Vooroordelen
Maar er kleven ook risico's aan: de data kan bijvoorbeeld vervuild zijn, waardoor de bouwer het algoritme onvoldoende kan laten trainen met data van bepaalde groepen. Zo zijn er algoritmes die zwarte vrouwen niet goed kunnen herkennen op een video.
Ook kan het zijn dat er foutjes in het algoritme zelf zitten. Softwareontwikkelaars kunnen onbewust hun eigen vooroordelen verwerken in een algoritme. Bijvoorbeeld door aannames te maken dat bepaalde functies beter geschikt zouden zijn voor mannen of vrouwen of jonge of oudere mensen, en dit mee te wegen bij de berekening van de beoordelingsscores.
Wat kan je als sollicitant doen?
Sollicitanten kunnen vooraf vragen stellen bij een organisatie: gebruikt de organisatie sollicitatie-algoritmes? En zo ja; hoe werken die? Maar het College vermoedt dat de drempel hiervoor hoog is: als je gaat solliciteren wil je misschien niet te kritisch overkomen bij je eventuele nieuwe werkgever.
Daarom richt het College zich vooral op afgewezen sollicitanten. Geel: “Als je al bent afgewezen heb je niet veel meer te verliezen, en wel nog te winnen, namelijk inzicht in hoe je bent beoordeeld en een kans om je recht te halen als je denkt dat je gediscrimineerd bent.”
- Ben je afgewezen en begrijp je niet goed waarom?
- Vraag aan het bedrijf hoe de afwijzing tot stand is gekomen
- Heeft het bedrijf recruitmentsoftware gebruikt?
- Vraag het bedrijf hoe die software werkt
- Kan het bedrijf geen (goede) uitleg geven?
- Deel je ervaring met het College voor de Rechten van de Mens
Wat kan het College doen?
Het College kan beoordelen of een organisatie heeft gediscrimineerd, ook bij online sollicitaties. Om dit te laten onderzoeken kan een afgewezen sollicitant die vermoedt gediscrimineerd te zijn bij het College een klacht indienen.
Het is belangrijk dat de klager met feiten komt waardoor er een vermoeden van discriminatie ontstaat. Een feit kan zijn dat de organisatie niet kan uitleggen hoe algoritmes kandidaten beoordelen. Sollicitatieprocedures moeten namelijk altijd inzichtelijk, controleerbaar en systematisch zijn. Ook wanneer een organisatie selectie-algoritmes inzet. Een organisatie kan ook zelf vragen aan het College om het beleid op het gebied van digitale sollicitaties te bekijken.
Daarnaast kan het College meldingen verzamelen en zo inzicht krijgen in de problemen die sollicitanten ervaren en wat organisaties of de overheid zou kunnen veranderen om die te voorkomen. “Iedere melding is een extra argument waarmee het College de problemen met algoritmes kan aankaarten”, onderstreept Jacobine Geel, “dus meld je ervaring met algoritmes bij het College.”
Als toezichthouder kan het College een onderzoek instellen, kan het de overheid adviseren om beleid te veranderen en organisaties adviseren hoe zij hun sollicitatie-algoritmes kunnen verbeteren, zodat ze niet discrimineren en in lijn zijn met mensenrechten.
Bedrijven en softwareontwikkelaars
Organisaties en softwareontwikkelaars moeten hun eigen verantwoordelijkheid nemen. Organisaties moeten kritische vragen stellen voordat ze algoritmes laten bouwen: met welke data worden de algoritmes getraind? Hoe pakken de algoritmeselecties uit voor verschillende groepen mensen? Bij twijfel kunnen ze het College benaderen.
In de publicatie ‘Recruiter of computer?’ legde het College uit hoe werkgevers zelf verantwoordelijk zijn voor de inzet van recruitmentsoftware die (onbedoeld) zou leiden tot discriminatie. Momenteel werkt het College aan instrumenten die werkgevers kunnen helpen bij het voorkomen hiervan. Ook kunnen bedrijven tools gebruiken die al bestaan, zoals de Impact Assessment Mensenrechten en Algoritmes.
Softwareontwikkelaars doen er goed aan te zorgen voor diversiteit in hun ontwikkelteams, zodat mannen, vrouwen, homo's, hetero's, mensen van kleur en mensen met een beperking, allemaal in principe een plek kunnen krijgen in hun teams.