Overheid en algoritmes
Een algoritme kijkt hoe vol de afvalcontainer is en geeft een seintje aan de gemeente dat die leeggemaakt moet worden. Een scanauto controleert of voor een auto parkeergeld is betaald. Een algoritme moet helpen voorspellen welke mensen met een uitkering mogelijk frauderen. De Rijksoverheid en gemeenten zetten algoritmes op allerlei manieren in.
Vaak is dat heel handig. Het scheelt ambtenaren uren werk. En soms is het ook handig voor de burger: voor de inkomstenbelasting vult een algoritme alle gegevens in die al bekend zijn bij de Belastingdienst. Maar aan de inzet van algoritmes kleven risico's. Ook als de overheid ze inzet.
Eén van de belangrijkste aandachtspunten hierbij is dat de burger altijd moet kunnen weten hoe de overheid een besluit over hem, haar of hen heeft genomen. Sommige besluiten hebben grote impact op iemands leven. Dan wil je weten hoe de overheid tot zo'n besluit is gekomen. Ambtenaren moeten daarom altijd kunnen uitleggen hoe zij een besluit hebben genomen. En of algoritmes daarin een rol speelden en zo ja, hoe dan?
Algoritmeregister
Eén van de manieren om open te zijn hierover is het aanleggen van een algoritmeregister. De vier grote steden zijn hier al volop mee bezig: Amsterdam, Rotterdam, Den Haag en Utrecht. Maar het zijn allemaal nog projecten in ontwikkeling: want moeten echt alle algoritmes erin? Of alleen de algoritmes die mogelijk een groot risico vormen voor mensenrechten? En welke informatie moet er dan in zo'n register komen? Hoe maken gemeenten het begrijpelijk voor de inwoners? Welke informatie hebben mensen nodig om een besluit aan te kunnen vechten?
Het is belangrijk dat de overheid werkt met schone, representatieve data. Dat betekent dat er geen vooroordelen in zitten. En dat ze terughoudend zijn met het delen van data. In de Eerste Kamer ligt nu een wet voor (de wet gegevensverwerking door samenwerkingsverbanden, de WGS) die het mogelijk maakt om vooral informatie over mensen in kwetsbare situaties op grote schaal te gaan delen, niet alleen met overheidsorganisaties maar ook met bedrijven.
Voor mensen is het moeilijk te achterhalen dat ze ergens op een lijst staan en wie er wat van hen weet. Daarbij kan het ze ook ontbreken aan tijd of kennis om dit soort dingen uit te zoeken en juridische expertise in te winnen als ze denken dat er iets gebeurt met hun data wat niet klopt. Daarom heeft het College advies uitgebracht over dit wetsvoorstel en gewezen op de risico's.