Het College voor de Rechten van de Mens publiceert vandaag een praktisch overzicht van de grondrechtenbescherming in de Europese AI-verordening. Het overzicht helpt toezichthouders, beleidsmakers en andere betrokken partijen bij de uitvoering van de wetgeving. Als één van de grondrechtenautoriteiten voor AI-systemen in Nederland speelt het College een belangrijke rol in het gezamenlijke toezicht op de bescherming van grondrechten bij het gebruik van AI.
Grondrechten als rode draad door de AI-verordening
Het beschermen van grondrechten is één van de hoofddoelen van de nieuwe AI-verordening. Het probeert innovatie en het benutten van de voordelen van AI mogelijk te maken, maar alleen als dit geen gevaren oplevert voor de veiligheid, gezondheid en grondrechten van mensen. Grondrechtenbescherming vormt daarom een rode draad in de wetgeving en komt terug in een groot deel van de verplichtingen.
Dat is niet zonder reden. AI wordt breed ingezet in de samenleving en kan vrijwel alle grondrechten raken. Van het recht op non-discriminatie en een eerlijk proces tot het recht op onderwijs, sociale zekerheid en privacy. Het toeslagenschandaal heeft al laten zien dat de inzet van digitale systemen verregaande gevolgen kan hebben. Met de groeiende inzet van AI zullen de risico’s voor grondrechten toenemen. Juist doordat AI zoveel rechten kan raken en de impact groot kan zijn, is bescherming van grondrechten complex.
Ook is deze grondrechtendimensie een nieuwe toevoeging aan het bestaande toezicht op productveiligheid, waar AI onder gaat vallen. De grondrechtenbescherming in de AI-verordening is daarmee een nieuwe taak voor toezichthouders en vereist daarom extra aandacht.
Praktisch overzicht voor toezichthouders, beleidsmakers en andere betrokkenen
Het overzicht toont hoe de AI-verordening in de praktijk grondrechten beschermt. Het biedt toezichthouders, beleidsmakers en andere betrokken partijen een praktisch hulpmiddel om te herkennen waar in de wet belangrijke waarborgen staan en hoe zij deze in hun werk kunnen toepassen. Zo kunnen zij risico’s voor grondrechten tijdig signaleren en passende maatregelen nemen.
Het begint met de basis van grondrechten en legt uit waarom bijna alle rechten relevant zijn bij de toepassing van AI en dat toetsing altijd in de juiste context moet gebeuren. Vervolgens behandelt het de bepalingen die grondrechten concreet beschermen, van AI-geletterdheid en verboden AI-systemen tot verplichtingen voor hoog-risico AI-systemen en gebruik van AI-testomgevingen. Daarnaast bespreekt het de specifieke risico’s van de AI-systemen die de verordening aanwijst als ‘hoog risico’ en hoe deze grondrechten kunnen raken. Tot slot geeft het inzicht in hoe toezicht is georganiseerd en welke rol het College vervult als grondrechtenautoriteit AI.
Met dit overzicht kunnen betrokken partijen niet alleen begrijpen wat de wet voorschrijft, maar ook direct zien waar ze in hun werk alert moeten zijn op risico’s voor grondrechten.
Effectieve bescherming vraagt meer dan regels
De effectiviteit van grondrechtenbescherming in de AI-verordening hangt volgens het College af van meerdere factoren.
De manier waarop de EU de algemene verplichtingen van de AI-verordening uitwerkt in technische standaarden, richtsnoeren en sjablonen bepaalt hoe goed grondrechten worden beschermd. Het overzicht laat zien op welke punten deze instrumenten cruciaal zijn voor grondrechtenbescherming.
Maar bovenal is succes afhankelijkheid van de vaardigheden en capaciteiten van alle betrokken partijen: ontwikkelaars, aanbieders, gebruiksverantwoordelijken én toezichthouders moeten grondrechtenrisico’s op tijd en goed kunnen signaleren. Het overzicht benoemt op welke punten partijen scherp moeten zijn op grondrechtenrisico’s.
Ook wordt de AI-verordening nu heronderhandeld op Europees niveau in de zogeheten 'digitale omnibus'. Dit wetsvoorstel kan gevolgen hebben voor de grondrechtenbescherming in de verordening. Het overzicht biedt een ijkpunt om te volgen hoe de voorstellen afwijken van de huidige bescherming.
Het College als grondrechtenautoriteit AI
Als grondrechtenautoriteit AI draagt het College bij aan monitoring en signalering van grondrechtenrisico’s en aan de beoordeling van specifieke AI-systemen. De komende periode zet het College zich in om betrokken partijen te helpen bij het herkennen van risico’s in hun sector en om de ontwikkelingen rond de ‘digitale omnibus’ nauwlettend te volgen.