Het College voor de Rechten van de Mens maakt zich ernstige zorgen over de financiering van zijn grondrechtentoezicht op AI. Ondanks dat het gebruik van AI in de komende jaren fors zal toenemen en de Rijksoverheid ook investeert in meer AI, krijgt het College naar verwachting minder dan de helft van de benodigde middelen om het wettelijke grondrechtentoezicht goed uit te voeren.
Beeld: Markus Spiske via Unsplash
Op 9 november 2026 worden de begrotingen van de ministeries van Economische Zaken en Klimaat, Binnenlandse Zaken en Koninkrijksrelaties en Justitie en Veiligheid besproken, die gaan over digitalisering. Ook de toekomstige financiering van AI-systemen staat op de agenda. Alleen als dit gepaard gaat met voldoende middelen voor toezicht kunnen toezichthouders hun wettelijke taken uitvoeren en ervoor zorgen dat AI veilig en betrouwbaar wordt ingezet.
Het College is aangewezen als grondrechtentoezichthouder onder de Europese AI-verordening. Het mensenrechteninstituut houdt in die rol toezicht op de gevolgen die AI-systemen kunnen hebben voor nagenoeg alle grondrechten van burgers. Denk hierbij aan gelijke behandeling bij een sollicitatie waar AI wordt ingezet om kandidaten te selecteren of categoriseren, of aan de toegang tot onderwijs (voor mensen met een beperking) bij een AI systeem waar wordt gekeken naar wat kinderen in het speciaal onderwijs nodig hebben. Er zijn ook andere grondrechtentoezichthouders aangewezen, zoals de Autoriteit Persoonsgegevens (AP). Zij zullen vooral toezien op gegevensbescherming.
Risico's sterk vergroot bij uitgekleed toezicht
De huidige plannen laten zien dat voor de periode van 2028 tot 2031 minder dan de helft van de benodigde middelen beschikbaar komt. Dit heeft directe gevolgen. Zo zal het College minder AI-systemen kunnen onderzoeken, minder signalen kunnen opvolgen en daardoor ook minder kennis op kunnen bouwen over de snel veranderende technologieën achter AI. Grondrechtenrisico’s leiden tot veel negatieve uitkomsten voor burgers, bijvoorbeeld omdat het AI-systeem discriminerend werkt. Een gebrek aan middelen kan ervoor zorgen dat grondrechtenschendingen heel lang onopgemerkt blijven, met als mogelijk gevolg: dure hersteloperaties voor bedrijven.
De geschiedenis laat ook zien dat onvoldoende aandacht voor grondrechten bij het gebruik van algoritmes en AI grote maatschappelijke schade kan veroorzaken. Het gebrek aan middelen bedreigt de bescherming van grondrechten bij het gebruik van AI.
Onvoldoende toezicht kan uiteindelijk leiden tot gebrek aan vertrouwen van burgers in digitale innovatie en AI. Iets dat haaks staat op de wens van Europa om te streven naar een waarde-gedreven innovatie en digitale onafhankelijkheid.