College: verplichte melding én uitleg bij gebruik algoritmes door overheid
De overheid gebruikt steeds vaker algoritmes bij besluitvorming. Algoritmes bepalen daardoor mede de uitkomst van die besluiten. Als burger hebben we dat niet altijd door, en dat is ongewenst. Want wat kun je doen als zo'n algoritme een fout maakt of discrimineert? Het College voor de Rechten van de Mens roept op tot een verplichte melding én een begrijpelijke uitleg in elk besluit dat een burger direct raakt. Dit moet in de wet vastgelegd worden. In een vandaag verschenen paper leggen we uit waarom die verplichting er moet komen en hoe dat moet worden geregeld.
Algoritmes als hulpmiddel van overheden om besluiten te nemen: het komt steeds vaker voor. Een voorgeprogrammeerd systeem bepaalt bijvoorbeeld of iemand aan de vergunningseisen voldoet. Ook worden algoritmes gebruikt die het risico op overtredingen van burgers voorspellen. Dit soort algoritmes kunnen zowel ingewikkeld (zoals AI-toepassingen met zelflerend vermogen) als simpel zijn (denk aan een eenvoudige beslisboom met toetscriteria).
Algoritmes kunnen discrimineren
Algoritmes kunnen discrimineren. In algoritmes zijn vaak voorwaarden voor het toepassen van regels of voorspellingen over gedrag van burgers opgenomen. Als die voorwaarden en voorspellingen met vooroordelen over groepen mensen zijn ontworpen, dan zal het algoritme discrimineren. Ook voordat de overheid algoritmes gebruikte om besluiten te nemen kon er natuurlijk discriminatie voorkomen. Een belangrijk verschil met algoritmes is dat deze automatisch op veel burgers tegelijk worden toegepast. Hierdoor is het effect van fouten in het algoritme veel groter dan bij een enkele verkeerde beslissing van een ambtenaar.
Een ander verschil is de rechtsbescherming. Je kunt als burger bezwaar maken tegen een besluit, en je mag in beroep bij de rechter. Maar als je niet weet dat een besluit voor een deel door een algoritme is bepaald, kun je je niet tegen dat onderdeel verweren. Daar komt bij dat het zonder technische kennis soms niet helder is hoe het algoritme voor jou uitwerkte - zeker niet bij de meer ingewikkelde algoritmes. Toegang tot het recht is daarom in de praktijk moeilijk te realiseren.
Verplichte transparantie: algoritmes steeds melden én uitleggen
Rechtsbescherming tegen discriminatie door algoritmes moet op orde worden gebracht. Daarom vindt het College dat overheden algoritmegebruik bij besluiten die burgers rechtstreeks raken altijd moet melden in de besluitbrief. Bij zo'n melding moet het algoritmegebruik bovendien in begrijpelijke taal worden uitgelegd. Dit is niet meer dan logisch wanneer algoritmes een normaal onderdeel zijn geworden van het besluitvormingsproces. Overheden moeten besluiten ook nu al toelichten ('motiveren'). Voor de helderheid wil het College dat die verplichting expliciet in de Algemene wet bestuursrecht wordt opgenomen.
Intellectueel eigendom en belang van fraudeopsporing
Een argument dat wel eens gebruikt wordt om niet open te zijn over algoritmes is dat de ontwikkelaars ervan hun 'intellectueel eigendom' willen beschermen: 'het geheim van de smid'. De techniek van een openbaar algoritme zou door concurrenten gekopieerd en verkocht kunnen worden. Maar: het belang van de burger op openheid door de overheid weegt zwaarder. De overheid mag daarom alleen in zee gaan met bedrijven die bereid zijn open te zijn over de manier waarop hun algoritmes werken.
In bijzondere gevallen kan het begrijpelijk zijn dat de overheid voorzichtig is met het delen van informatie over hoe algoritmes werken. Als algoritmes fraude helpen opsporen en openbaar worden kan dat fraudeurs helpen. Ze kunnen dan door hun gedrag aan te passen controles omzeilen. Mocht zoiets zich voordoen, dan pleit het College voor een onafhankelijke keuring van het algoritme door een externe onafhankelijke partij. Discriminatierisico’s kunnen dan vooraf worden afgevangen. Alleen algoritmes die door die keuring heen komen, mag de overheid gebruiken.
Drie adviezen
Openheid over algoritmes is een eerste en onmisbare voorwaarde om de burger te beschermen tegen het risico op discriminatie door algoritmegebruik. Het College roept daarom de overheid op:
-
Meld en verwijs naar het algoritmeregister
Van algoritmegebruik moet altijd melding gedaan worden in een besluit. In de brief kan de overheid een kenmerk van het gebruikte algoritme zetten. Hiermee kan het algoritme worden opgezocht in het algoritmeregister van de overheid. Alle uitgebreide technische informatie over het algoritmes is daar beschikbaar. Die technische informatie is belangrijk voor burgers besluiten willen aanvechten en hun advocaten, maar ook voor journalisten en belangenorganisaties die willen controleren of de algoritmes die de overheid gebruikt wel in lijn zijn met mensenrechten. Voorwaarde is dan wel dat het algoritmeregister van de overheid compleet is.
-
Leg het algoritme begrijpelijk uit in het besluit
Naast melding en verwijzing is begrijpelijke uitleg van de overheid belangrijk. De overheid moet de burger niet overladen met technische informatie. Het bestuursorgaan legt in de besluitbrief uit hoe dat algoritme werkt.
-
Neem de verplichting op transparantie op in de wet
De wet kent nu al het motiveringsbeginsel: de overheid moet nu al uitleggen waarom en hoe ze tot besluiten over burgers zijn gekomen. Wanneer de overheid algoritmes gebruikt, spreekt het eigenlijk voor zich dat ook dat algoritme wordt uitgelegd. Om deze verplichting te garanderen roept het College op openheid over algoritmes als eis in de Algemene wet bestuursrecht op te nemen.