Vandaag publiceert de Europese Commissie een voorstel om de digitale EU-regelgeving te versimpelen, de zogenaamde digitale omnibus. De verordeningen over AI en gegevensbescherming vormen daarin een belangrijk onderdeel. Het College voor de Rechten van de Mens signaleert een zorgwekkende afzwakking van de bescherming van grondrechten in het omnibusvoorstel.
Beeld: © ANP
Voorgestelde versimpeling dreigt grondrechten te ondermijnen
De Europese Unie presenteert een voorstel om de digitale regelgeving te versimpelen. Die versimpeling dreigt echter de bescherming van grondrechten af te zwakken. Het voorstel bundelt een reeks EU-wetswijzigingen en wordt de digitale omnibus genoemd. Met dit pakket wil de Europese Commissie de regels voor onder andere AI (AI-verordening) en gegevensbescherming (AVG) aanpassen. Hoewel het doel is om innovatie en concurrentie te stimuleren, komt de versimpeling vooral neer op het afzwakken van grondrechtenbepalingen. Dat zijn voorwaarden die mensen moeten beschermen tegen overheidsoptreden en de invloed van bedrijven.
Grondrechtenbescherming blijft verplichting voor de Europese Unie
Het College benadrukt dat de Europese Unie en haar lidstaten verplicht blijven om grondrechten te beschermen. Een wijziging in een Europese verordening doet niets af aan die verplichting. Alleen lijkt het voorstel nu minder grondrechtenbescherming te bieden. Daarom is het essentieel te onderzoeken hoe versimpeling kan plaatsvinden zonder grondrechten aan te tasten.
“In beginsel is er natuurlijk niets mis met het voornemen om ondernemers en overheden te ontlasten. Maar het stroomlijnen van de digitale regelgeving mag niet betekenen dat er ingeleverd wordt op de rechten van mensen. Het beschermen van grondrechten moet een hoeksteen van de AI-regels blijven.
Nederland moet zich hardmaken voor slimme alternatieven: versimpel de regels op een manier die onze grondrechten overeind houdt.”
Rick Lawson, voorzitter van het College voor de Rechten van de Mens
Dat de bescherming van grondrechten wordt afgezwakt, blijkt bijvoorbeeld uit het voorstel om bedrijven niet langer te verplichten toestemming te vragen voor het gebruik van persoonsgegevens om AI-systemen te trainen.
Inzet van risicovolle AI-systemen zonder verantwoording
Een ander voorbeeld van de afzwakking van grondrechtenbescherming is het voorstel om de regels voor risicovolle AI-systemen af te zwakken. De huidige AI-regels bieden betere bescherming wanneer AI-systemen worden ingezet bij meer risicovolle toepassingen, zoals gezichtsherkenning door de politie of kredietwaardigheidscontroles door banken. Nu mogen organisaties alleen afwijken van die regels wanneer zij menen dat een AI-systeem in de praktijk niet een ‘hoog risico’-toepassing zou zijn. Zij moeten dat verantwoorden aan de toezichthouder, voordat het systeem in gebruik wordt genomen. In het nieuwe voorstel vervalt die verplichting. Daardoor kunnen organisaties risicovolle AI-systemen inzetten zonder verantwoording of waarborgen. Het is dan nog maar de vraag of dit in de praktijk daadwerkelijk leidt tot lastenverlichting.
Het College als grondrechtenautoriteit AI
De digitale omnibus vormt daarmee een zorgwekkende ontwikkeling voor de bescherming van grondrechten, zoals het recht op non-discriminatie en gegevensbescherming. Het College is sinds vorig jaar aangewezen als autoriteit voor grondrechtentoezicht op AI-systemen in Nederland. Het College wil voorkomen dat de voorgestelde aanpassingen aan de AI-verordening en andere digitale regels dit toezicht bemoeilijken. Samen met vergelijkbare toezichthouders, ook in andere EU-lidstaten, volgt het College deze ontwikkelingen nauwgezet.