Het College voor de Rechten van de Mens is aangewezen als grondrechtenautoriteit voor de AI-verordening. Wij monitoren de impact van AI op grondrechten, signaleren mogelijke risico's en werken samen met andere toezichthouders aan de bescherming van grondrechten in Nederland.
Als wij van AI willen profiteren, moeten wij samen zorgen dat AI ieders grondrechten respecteert. Effectief toezicht helpt om mogelijke risico’s voor grondrechten tijdig te herkennen en te beperken, zodat AI voor iedereen rechtvaardig en gelijkwaardig werkt.
AI in Nederland
AI wordt steeds vaker ingezet in sectoren die direct invloed hebben op het dagelijks leven van mensen. Denk aan sollicitatieprocedures, overheidsbesluitvorming, opsporen van criminele activiteiten, zorg en onderwijs. Deze toepassingen kunnen grote voordelen bieden, maar ook risico’s opleveren voor grondrechten. Daarom is het belangrijk dat de inzet van AI zorgvuldig gebeurt en wordt getoetst aan deze rechten.
AI-verordening en toezicht
De EU heeft regels vastgesteld voor de ontwikkeling en inzet van AI. Deze wet moet ervoor zorgen dat AI veilig en verantwoord wordt toegepast binnen de EU. De AI-verordening bevat ook eisen om grondrechten te beschermen, zoals het voorkomen van discriminatie en het respecteren van privacy. Wij werken samen met andere toezichthouders om toe te zien op de naleving van de AI-verordening.
Activiteiten van het College
Het toezicht richt zich op de impact van AI op grondrechten in Nederland. Daarbij nemen wij deel aan nationale netwerken van toezichthouders en grondrechtenautoriteiten en aan Europese samenwerkingsverbanden. Daarnaast adviseren wij regering en parlement over AI en grondrechten en geven wij voorlichting aan toezichthouders, ontwikkelaars en gebruikers. Bekijk alle actuele publicaties.
Actuele ontwikkelingen
Op 2 december 2027 treden de regels voor hoog-risico AI-systemen uit de AI-verordening in werking. Vanaf dat moment start het volledige toezichtsysteem voor hoog-risico AI-systemen, inclusief het grondrechtentoezicht.
Het Europees Parlement stemde in met een pakket wijzigingen op de Europese AI-verordening. De bevoegdheden van het College als grondrechtenautoriteit veranderen en een aantal onderdelen van de regels treedt later in werking. Enkele risicovolle toepassingen vallen niet langer onder de regels.
Belanghebbenden konden reageren op de concept-uitvoeringswet voor de AI-verordening in Nederland. Deze wet regelt de implementatie van de AI-verordening in de Nederlandse rechtsorde. Het College benadrukte in zijn reactie het belang van de bescherming van grondrechten.
Het College publiceert een praktisch overzicht van grondrechtenbescherming in de AI-verordening. Het overzicht ondersteunt de voorbereiding op de uitvoering van de AI-verordening bij toezichthouders, beleidsmakers en andere betrokken partijen.
De Europese Commissie publiceerde een voorstel om de AI-verordening te versimpelen. Het voorstel beoogde een groot aantal onderdelen van de AI-verordening te wijzigen. Het College adviseerde dat deze wijzigingen de bescherming van grondrechten tegen AI zouden kunnen verzwakken.
Bepaalde AI-systemen die onacceptabele risico’s voor grondrechten opleveren zijn voortaan verboden. Zoals systemen voor emotieherkenning op het werk of AI die mensen bewust manipuleert of misleidt. Daarnaast wordt organisaties die AI gebruiken gevraagd te investeren in AI-geletterdheid, zodat zij beter begrijpen hoe AI risico’s voor grondrechten kan veroorzaken.
De minister van Economische Zaken en Klimaat wees het College aan als grondrechtenautoriteit voor de AI-verordening. Op datzelfde moment wees de minister ook de Autoriteit Persoonsgegevens en verschillende onderdelen van de rechtspraak aan als grondrechtenautoriteit.
De AI-verordening trad na een langdurig wetgevingsproces op 1 augustus 2024 in werking. De werkzaamheden van het College als grondrechtenautoriteit voor de AI-verordening vloeien voort uit deze verordening.
Contact met team AI
Neem contact op via ai@mensenrechten.nl als je vragen hebt over onze rol als grondrechtenautoriteit voor de AI-verordening of over de bescherming van grondrechten binnen de AI-verordening.
Je kunt ook via dit formulier een signaal doorgeven als je denkt dat grondrechten zijn geschonden of als je knelpunten ziet in beleid of de uitvoering.
Laatste nieuws
Europees Parlement stemt in met aanpassingen AI-verordening: zorgen over grondrechten blijven
Het Europees Parlement stemde in met een pakket wijzigingen in de Europese AI-verordening, onderdeel van de zogenoemde Omnibus ...
Lees verder
College presenteert overzicht grondrechtenbescherming AI-verordening
Het College voor de Rechten van de Mens publiceert vandaag een praktisch overzicht van de grondrechtenbescherming in de Europese ...
Lees verder
EU-wetswijzingen 'digitale omnibus' zorgelijk voor grondrechten
Vandaag publiceert de Europese Commissie een voorstel om de digitale EU-regelgeving te versimpelen, de zogeheten 'digitale ...
Lees verder