Vandaag is de Nederlandse Technische Afspraak (NTA) voor profileringsalgoritmes gepubliceerd. In deze NTA heeft een grote groep overheidsorganisaties op vrijwillige basis afspraken vastgelegd over de ontwikkeling, toetsing en het gebruik van profileringsalgoritmes, en wanneer deze juist niet moeten worden ingezet. Het doel hiervan is het voorkomen van discriminatie.
Beeld: © ANP / Helène van Rijn
Bij profilering worden op basis van algemene gegevens voorselecties gemaakt ter ondersteuning van besluitvorming. Overheden zetten algoritmische profilering hiervoor steeds vaker in, bijvoorbeeld bij uitkeringen, vergunningen, handhaving en de gerichte inzet van zorg. Dit kan de efficiëntie vergroten, maar brengt ook risico's met zich mee. Met name het recht op non-discriminatie en privacy kunnen in de knel komen.
Bijdrage van het College
Het College heeft een onafhankelijke bijdrage geleverd aan de totstandkoming van de NTA, om ervoor te zorgen dat het non-discriminatierecht stevig is verankerd. Het College treedt op als grondrechtenautoriteit met betrekking tot de naleving van de AI-verordening, en volgt de inzet van algoritmes daarom kritisch.
“Het vertalen van het non-discriminatierecht naar techniek en organisatie is niet eenvoudig. Het College is daarom positief: de multidisciplinaire aanpak die deze NTA voorschrijft is een stap vooruit in het voorkomen van discriminatie.”
Oproep aan overheden: gebruik de NTA als hulpmiddel
Het College is positief over dit initiatief en waardeert de deelname van alle organisaties die hebben bijgedragen aan deze NTA. Het College moedigt overheidsorganisaties dan ook aan de NTA als hulpmiddel toe te passen bij hun werk. Goed gebruik van de NTA kan organisaties helpen om verantwoorde keuzes te maken of een profileringsalgoritme passend is voor een bepaalde overheidstaak. Daarnaast helpt het algoritmes die al gebruikt regelmatig kritisch te evalueren. Het doel is daarbij steeds om discriminatie te voorkomen.
Geen eindpunt: toezicht blijft nodig
De NTA is een stap vooruit, maar nog geen garantie tegen discriminatie of privacy-gebreken. Deze afspraken zijn gericht op zelfevaluatie. Ze komen niet in de plaats van toetsing door het College of de rechter. Ook met gebruik van deze NTA als hulpmiddel, blijven overheden zelf eindverantwoordelijk voor het naleven van mensenrechten.
Het College blijft zich daarom inzetten tegen discriminatie door risicoprofilering. Uiteindelijk pleit het College voor het realiseren van onafhankelijk en bindend toezicht vooraf op alle profileringsalgoritmes die de overheid in gebruik wil nemen.