Digitalisering

De wereld digitaliseert meer en meer: Netflix bedenkt voor jou welke series je kunt kijken, in het ziekenhuis kunnen artsen met technologie nog beter je gezondheid vaststellen en een postpakketje kun je tot op de minuut volgen tot aan je voordeur. Bedrijven en overheden gebruiken steeds meer data en algoritmes om beleid en werkprocessen te verbeteren. Het maakt ons leven en dat van professionals makkelijker. Maar er kleven ook risico's aan. Dat mensen buiten de boot vallen, of juist onder een vergrootglas komen en er niet meer onder vandaan komen.  

Actualiteit

In een steeds verder digitaliserende samenleving moet iedereen mee kunnen blijven doen. Mensenrechten gelden immers ook in een gedigitaliseerde wereld. Dus ook mensen die niet zo digitaal vaardig zijn omdat ze niet goed kunnen lezen of niet snel hun weg vinden online, of omdat ze bijvoorbeeld een beperking hebben, moeten van dezelfde diensten gebruik kunnen blijven maken. Iedereen moet kunnen weten wanneer zijn of haar rechten in de knel kunnen komen en daarvoor op kunnen komen.

Case story 
Richard, een twintiger met dyslexie, denkt dat hij bijna een nieuwe baan als winkelmedewerker bij zijn favoriete winkelketen heeft. Hij is al door de eerste CV-selectie heen en het gesprek ging goed, nu alleen nog een game. Maar dan gaat het fout. De tekst gaat te snel en Richard kan het niet bijbenen. Hij loopt de baan mis.

Dit is een illustratie van hoe algoritmes invloed kunnen hebben op het dagelijks leven van mensen. Het kan zijn dat de werkgever helemaal niet de intentie had om mensen zoals Richard uit te sluiten. Maar onbedoeld gebeurde dit toch. Door het automatiseren van het werving- en selectieproces kan discriminatie en uitsluiting grotendeels buiten beeld ontstaan én heeft het effect op de levens van enorm veel werkzoekenden, maar ook op die van de werkgever zelf: die loopt mogelijk talent mis. 

Mensenrechten in de praktijk

Digitalisering kan verschillende mensenrechten raken. Denk bijvoorbeeld aan: 

Verbod op discriminatie 

Iedereen heeft recht op gelijke behandeling. Digitale middelen hebben zelf geen vooroordelen, waardoor ze objectief kunnen zijn. Maar als ze gevoed worden met informatie waar vooroordelen inzitten, of bewust of onbewust geprogrammeerd worden om bepaalde discriminerende kenmerken mee te wegen, kan het juist tot discriminatie leiden. 

Vrijheid van meningsuiting 

Iedereen moet zijn mening kunnen geven, maar er zijn grenzen. Haatzaaien is bijvoorbeeld verboden. Of groepen mensen tegen elkaar opzetten of informatie delen die niet waar is. Grote techplatformen zoals Facebook en Twitter bepalen waar de grenzen liggen en halen berichten die niet voldoen aan hun regels weer van het internet af. Maar moeten zij wel degenen zijn die, die grenzen bepalen? 

Je recht kunnen halen 

Iedereen moet toegang hebben tot een manier om zijn of haar juridische gelijk te halen. Als een beslissing op een automatisch proces is gebaseerd, moet je eerst weten hoe dat werkt om je ertegen te kunnen verzetten. Ook de rechtspraak kan gebruik maken van digitale middelen om efficiënter te werken, waardoor mensen sneller hun recht kunnen halen. Ook dan is het belangrijk dat de rechtspraak daarover open is zodat het duidelijk is voor de rechtzoekende. 

Mensen met een beperking  

Iedereen moet kunnen meedoen in de maatschappij. Digitalisering kan inclusie vergroten, bijvoorbeeld als mensen met een fysieke beperking gemakkelijker online zaken regelen met de gemeente. Tegelijkertijd kan digitalisering ook drempelverhogend werken en zo inclusie verminderen, bijvoorbeeld als websitebeheerders hun communicatie niet toegankelijk maken voor slechtzienden of slechthorenden. 

Privacy en gegevensbescherming  

Iedereen heeft recht op privacy, om zichzelf te kunnen zijn, en op het beschermen van persoonsgegevens. Bedrijven en overheden verzamelen en verwerken gegevens van consumenten en burgers digitaal en weten op die manier steeds meer over ons. Het recht op privacy betekent dat de overheid onder andere grenzen moet stellen aan die informatieverzameling en –verwerking. 

Verplichtingen van de overheid

De overheid moet ervoor zorgen dat beleid gelijke behandeling bevordert. Bijvoorbeeld dat er duidelijke regels zijn over hoe bedrijven mensen online mogen werven en selecteren. Ze moeten bedrijven daar ook bij helpen, door bijvoorbeeld tools te maken die bedrijven kunnen gebruiken.  

Maar de overheid moet ook goed kijken naar hoe alle overheidsorganisaties zelf werken: welke data organisaties gebruiken en hoe ze die gebruiken. En ambtenaren moeten altijd aan burgers kunnen uitleggen welke algoritmes ze gebruiken, met welke data en hoe die algoritmes werken. Ze moeten zorgen dat burgers weten dat bepaalde beslissingen op computerberekeningen berusten en vooral ook kunnen uitleggen hoe die berekeningen invloed hadden op de beslissing die er over hen is genomen. Alleen dan kunnen burgers hun recht halen. 

Activiteiten van het College

Werving en selectie 

Het College doet onderzoek naar algoritmes die organisaties gebruiken om nieuwe medewerkers te werven en te selecteren. We leggen uit hoe dit mogelijk kan leiden tot discriminatie en uitsluiting. We geven voorlichting aan werkgevers, bemiddelaars (zoals uitzendbureaus, recruitmentbureaus, vacaturewebsites) en aan werkzoekenden. Afgewezen sollicitanten kunnen bij het College aankloppen als ze vermoeden dat ze gediscrimineerd zijn door een algoritme. 

Lees meer over digitalisering en werving & selectie

Algoritmische besluitvorming door de overheid 

Het College bekijkt en laat zien hoe de overheid algoritmes inzet en wat de gevolgen daarvan kunnen zijn voor burgers. We lichten overheidsinstanties voor over kansen en risico's, om ervoor te zorgen dat burgers hun recht kunnen halen. 

Lees meer over de overheid en algoritmes

Wat kan jij doen? 

Je kunt als HR-professional, ambtenaar, sollicitant of als burger leren hoe bedrijven en de overheid algoritmes gebruiken. Je kunt daarvoor onze onderzoeken lezen of de website www.solliciterenbijderobot.nl doorlopen. Als je twijfelt of de algoritmes die je wilt inzetten wel in lijn zijn met mensenrechten of als je denkt dat een algoritme jou benadeeld heeft, neem dan contact op met het College. 

Als computers je cv beoordelen, wie beoordeelt dan de computers?

In deze video van één minuut leggen we met een praktijkvoorbeeld uit hoe het gebruik van algoritmes bij sollicitaties kan leiden tot discriminatie en hoe werkgevers dit kunnen voorkomen.

Als computers je cv beoordelen, wie beoordeelt dan de computers?