Hoe beschermen we burgers bij risicoprofilering en het gebruik van algoritmes door gemeenten?
Uit onderzoek blijkt dat meerdere gemeenten leunen op algoritmes en risicoprofilering om bijvoorbeeld fraude op te sporen. Het gebruik van algoritmes kan leiden tot schending van de mensenrechten, maar biedt ook kansen voor het bevorderen van de mensenrechten. Het College voor de Rechten van de Mens voert een onderzoek uit naar (semi-)geautomatiseerde besluitvorming bij gemeenten en formuleert aanbevelingen voor rechtsbescherming.
Uit gisteren verschenen onderzoek van NOS en regionale omroepen blijkt dat zeker 25 gemeenten gebruikmaken van voorspellende systemen. Gemeenten zetten deze bijvoorbeeld in om bijstandsfraude en andere vormen van criminaliteit op te sporen. De (lokale) overheid en uitvoeringsinstanties investeren in toenemende mate in digitalisering om problemen op te lossen, vragen te beantwoorden en voorspellingen te doen. Om snel, efficiënt en consistent besluiten te nemen wordt gebruik gemaakt van geautomatiseerde systemen. Deze (semi-)geautomatiseerde besluitvorming kan echter leiden tot schending van de mensenrechten, zeker wanneer besluiten direct burgers treffen.
Het verzamelen en delen van persoonsgegevens kan inbreuk maken op het recht op privacy en risicomodellen kunnen leiden tot discriminatie, zoals bij de Belastingdienst is gebeurd. Bovendien wordt het aanvechten van een besluit, zoals een afwijzing voor een uitkering, steeds moeilijker als overheden niet communiceren hoe deze beslissingen tot stand komen.
Onderzoek naar (semi-)automatische besluiten bij gemeenten
Het College voor de Rechten van de Mens voert op dit moment in samenwerking met Hooghiemstra & Partners een kwalitatief onderzoek uit naar (semi-)geautomatiseerde besluitvorming bij gemeenten. In dit onderzoek wordt bekeken of er aandacht is voor de mensenrechtelijke aspecten en of er bijzondere voorzieningen zijn getroffen voor rechtsbescherming. Het doel is om inzicht te bieden in het gebruik van algoritmes bij besluitvorming over burgers en aanbevelingen te formuleren voor rechtsbescherming. De resultaten worden in juli gepubliceerd.
Volgende week publiceert het College allereerst een beknopte handreiking voor (semi-)geautomatiseerde besluitvorming, met onder andere drie uitgangspunten voor ambtenaren om de mensenrechten te waarborgen.
Beluister het NPO Radio 1 interview met voorzitter Adriana van Dooijeweert over het onderzoek.
Programma Digitalisering & Mensenrechten
Digitalisering verandert onze samenleving in hoog tempo. Dit raakt onze mensenrechten op tal van aspecten en biedt zowel risico’s als kansen. Het programma Digitalisering & Mensenrechten zet zich in voor een samenleving waarin iedereen mee kan doen en eerlijke kansen heeft in een steeds verder digitaliserende wereld.