Interview: 'Mens en machine. We kunnen niet zonder elkaar en samen zijn we onoverwinnelijk'
Verdieping
Bedrijven als Google en Microsoft weten veel van ons en proberen met artificiële intelligentie (AI) onze levens te beïnvloeden. Een groot gevaar? Tech-ondernemer Jim Stolze ziet het nuchter. Hij ontwikkelde een AI-cursus voor een breed publiek, zodat burgers zelf het heft in handen kunnen nemen. ‘Zie het als een zwemdiploma voor de digitale wereld.’ Een gesprek over robots, algoritmes en andere ogenschijnlijk ingewikkelde technieken.
Stel dat je je schuldig hebt gemaakt aan een misdrijf. Geen moord ofzo. Maar wel iets waarvoor je een zware straf kunt krijgen. Je moet je bij de rechter verantwoorden en zo loop je op een dag het Haagse paleis van justitie binnen. Daar controleert een machine eerst of je geen wapens of andere verboden middelen bij je hebt. Eenmaal in de rechtszaal valt het je op dat ook daar op jou en je advocaat na niemand aanwezig is. Althans: niemand met een hartslag. Op de stoel van de rechter zit een robot. Die stelt je enkele vragen. Het dossier heeft het apparaat dan al tot zich genomen en de robotaanklager is ook al gehoord. Razendsnel gaat de robotrechter door de jurisprudentie heen en komt dan met een oordeel. Je hebt geluk! De robot geeft je slechts een boete. Met de schrik kom je vrij.
"Als je de ontwikkeling van AI aan banden legt, raak je vooral de good guys. Artsen kunnen straks effectiever kanker opsporen. Dat moeten we toch niet tegen willen houden?"
Science fiction? Tech-ondernemer Jim Stolze bekijkt het nuchter. ‘In de juridische wereld wordt net als in de rest van de wereld steeds meer gebruik gemaakt van automatisering. Dat zal alleen maar toenemen.’ Tegelijkertijd begrijpt hij dat mensen koudwatervrees hebben voor zulke systemen. In 2018 werd hij uitgenodigd door de VN om in Genève een toespraak te houden over de opkomst van AI. Andere sprekers benadrukten hoe gevaarlijk die opmars was. ‘Met regels en wetgeving wilden ze die ontwikkelingen aan banden leggen’, weet Stolze nog. Als we dat doen, waarschuwde hij in zijn speech, dan raak je vooral de ‘good guys’. ‘Dankzij AI kunnen artsen straks effectiever kanker opsporen om maar iets te noemen. Dat moeten we toch niet tegenhouden?’
Een verzameling technieken die machines slim laten lijken
In plaats van alleen regels en wetten stelde Stolze voor om burgers digitaal vaardiger te maken. ‘Zie het als een zwemdiploma voor de digitale wereld, opperde ik. Als meer mensen de techniek snappen, kunnen we de toekomst met AI veel beter vormgeven.’
Terug in Nederland nam Stolze zelf het heft in handen. Hij ontwikkelde een basiscursus artificiële intelligentie, die inmiddels door meer dan 220.000 mensen is gevolgd. Met hoogleraren legt hij daarin uit wat het is. ‘En ook wat het niet is’, voegt hij toe. ‘Veel mensen vrezen dat er een soort Terminator-achtige ontwikkeling gaande is. Alsof robots een eigen bewustzijn kunnen krijgen, en inderdaad de wereld gaan overnemen.’
Zo zit het niet in elkaar, zegt hij. ‘AI is een verzameling technieken die machines slim laten lijken.’ De apparaten zelf zijn dus niet slim. Al kunnen ze inmiddels wel dingen doen die lange tijd onmogelijk leken. Neem een foto van een man in wit tenue op een gravelbaan. Tegenwoordig kan een machine vaststellen dat die man een tennisser is. ‘Twintig jaar geleden was dat onvoorstelbaar’, zegt Stolze. ‘Al is er ook nu altijd een foutmarge. Als je onder de motorkap kijkt, zie je dat het apparaat voor pakweg 98 procent zeker is van zijn zaak. Zo beschouwd heeft AI meer met kansberekening te maken dan met programmeren.’
En om die kansberekening te laten slagen heb je data nodig. ‘Heel veel data’, benadrukt Stolze. ‘Pas als je een miljoen foto’s van katten hebt, kan een machine een kat onderscheiden.’ Daarom wedijveren bedrijven en overheden om wie de meeste informatie over zoveel mogelijk mensen kan vergaren. Google en Microsoft zijn daarin leidend. ‘En eigenlijk gaat de wedstrijd niet meer alleen om wie de meeste gegevens heeft, maar vooral om wie er de slimste dingen mee doet.’
Onze levens zijn vele malen eenvoudiger
Veel mensen vrezen die dataverzameling. Je zou digitaal geen stap kunnen zetten of die belandt wel ergens in een databank. Toch hebben AI en de bijbehorende verzameldrang onze levens vele malen eenvoudiger gemaakt, zegt Stolze. ‘Iedereen heeft een smartphone. Dat is een explosie van AI. Als we op de snelweg de verkeerde afslag nemen, berekent je navigatie-app een nieuwe route. Als je nieuwe muziek wilt luisteren selecteert Spotify op basis van je smaak nieuwe liedjes voor je. En om je telefoon te ontgrendelen hoef je niet langer je pincode te onthouden, het apparaat herkent je gezicht. Gemak dient de mens.’
Tegelijkertijd erkent Stolze dat AI ook nieuwe risico’s met zich meebrengt. Al die apparaten maken gebruik van algoritmes, legt hij uit. Dat zijn wiskundige formules die machines instrueren hoe ze data moeten verwerken. En dat kan soms goed misgaan. Maar de denkfout die dan vaak wordt gemaakt, is dat die algoritmes menselijke eigenschappen zouden hebben, zegt Stolze. ‘Alsof ze zelf vooroordelen zouden hebben, terwijl het vaak de vooroordelen van de organisatie zijn die de algoritmes slechts uitvoeren.’
"Als je er langer over nadenkt, zie je dat het algoritme van Amazon niet discrimineerde, maar discriminatie blootlegde."
Stolze noemt het laatste jaren vaker genoemde voorbeeld van Amazon. De webwinkel had een algoritme ontwikkeld dat de cv’s van sollicitanten kon scannen. Een apparaat maakte vervolgens een selectie op basis van de vele selecties die Amazons afdeling personeelszaken in de tien jaar ervoor had gemaakt bij sollicitatieprocedures. ‘En dat is niet onlogisch gedacht. Je wil dat de machine het menselijke selectiewerk overneemt, en dus onderscheid maakt zoals de professionals van het bedrijf dat eerder deden.’ De machine bleek vervolgens echter mannen voor te trekken bij een eventuele promotie, waarna Amazon het algoritme over boord zette.
Was het algoritme inderdaad het probleem? Stolze: ‘Als je er iets langer over nadenkt, zie je dat het algoritme niet discrimineerde maar discriminatie blootlegde. Het was getraind met historische data; en bij Amazon was blijkbaar al jarenlang deze ongelijke behandeling aan de gang. Daarom is het zonde dat dit project is gestopt.’ Had Amazon met behulp van algoritmes cv’s kunnen scannen zonder te discrimineren? Stolze: ‘In de wiskunde betekent discrimineren: het maken van onderscheid. En dat is wat AI voortdurend doet. Een machine kan een tennisser van een voetballer alleen onderscheiden door naar bepaalde kenmerken te kijken. Maar het gaat mis als er oneigenlijk onderscheid wordt gemaakt, als mensen worden gediscrimineerd op basis van etniciteit, sekse, leeftijd, etc.’
"Algoritmes moeten niet te overijverig worden. Soms gaan ze zelf op zoek naar nog meer kenmerken om selecties mee te maken, waardoor ze alsnog discrimineren"
Hybride intelligentie
‘Amazon had een vorm van hybride intelligentie moeten nastreven’ vervolgt Stolze. Dus een AI-systeem dat cv’s selecteert, maar wel gecontroleerd wordt door menselijke recruiters die bij kunnen sturen.’ Een eigenschap van algoritmes is dat ze consequent zijn, legt hij uit. ‘Anders dan mensen hebben ze nooit last van vermoeidheid. Op vrijdagmiddag beoordelen wij een bepaald dossier misschien anders dan op maandagochtend. Een machine zal dat niet doen. Dat wil echter niet zeggen dat algoritmes altijd neutraal zijn. Kijk, een hamer lijkt neutraal. Totdat hij gebruikt wordt: iemand kan er een spijker mee in de muur slaan of er een klap op iemands hoofd mee geven. En in algoritmes zit de agenda verwerkt van de organisatie.’ Om dat te voorkomen moeten bedrijven niet alleen transparanter zijn over hun algoritmes, vindt Stolze. ‘We moeten ervoor waken dat die algoritmes niet te overijverig worden, zegt hij. ‘Sommige algoritmes gaan zelf op zoek naar nog meer kenmerken om selecties mee te maken. Zo kan er onbedoeld alsnog discriminatie optreden. Dit zou je een black box kunnen noemen.’
Kun je inzicht krijgen in zo’n black box? Stolze geeft als voorbeeld een autoverzekering: ‘Stel je koopt een auto. Het is hetzelfde merk, type en bouwjaar als die van je buurman. Jullie hebben evenveel schadevrije jaren, en toch hoeft hij minder premie te betalen dan jij. Als je weet dat die premie niet is vastgesteld door medewerkers van de verzekering maar door een machine, dan kun je het bedrijf bellen en vragen om inzage in het algoritme. Bedrijven zijn daartoe verplicht. Zo kun je achterhalen welke data zijn bekeken, hoe die geselecteerd zijn, en hoe het algoritme dan tot de slotsom is gekomen dat jouw premie hoger moet zijn dan die van je buurman.’
Zo ontdekte iemand een tijd geleden dat mannen standaard meer premie betalen dan vrouwen. Hij vocht dat aan bij een rechter. En hoewel vrouwen inderdaad minder vaak schade rijden dan mannen en de conclusie van het algoritme misschien zo gek nog niet was, kreeg de klager toch gelijk. Je mag immers niet discrimineren op basis van geslacht.
Maar op veel andere gronden mogen verzekeraars wel onderscheid maken. ‘Neem de kleur van je auto’, zegt Stolze. ‘Bezitters van rode auto’s – blijkt uit de historische data – claimen meer schades dan blauwe. Op basis van die data zou een rode auto dus meer premie moeten betalen. Dat druist in tegen de logica. Als ik mijn rode auto blauw spuit, ben ik niet ineens een betere chauffeur. Toch mogen verzekeraars dat onderscheid maken.’
Robotrechter
Er zijn verzekeraars die op basis van de postcode bepalen hoe hoog de premie voor een inboedelverzekering moet zijn, vult Stolze aan. ‘Woon je in een wijk met veel criminaliteit, dan betaal je meer premie. Onbedoeld zou dat kunnen leiden tot discriminatie, omdat dat vaak armere wijken zijn waar relatief meer mensen met een migratie-achtergrond wonen. Toch gebeurt dat wel.’ Na even nadenken: ‘Maar dit heeft eigenlijk niets te maken met AI. Het is een menselijke afweging en een moreel vraagstuk wat bedrijven wel of niet mogen.'
Tot slot nog de vraag hoelang het dan zal duren voordat ook rechters gebruik zullen maken van robots en algoritmes. Stolze zegt het niet te weten. Veel tegenstanders van die ontwikkeling wijzen graag op het mislukte experiment Compass in de VS. Op basis van talloze oude vonnissen beoordeelde een machine een stapel nieuwe dossiers. De algoritmes in het apparaat bleken zwarte mensen zwaarder te bestraffen dan witte. Het project werd beëindigd, terwijl net als bij Amazon ook hier gekeken had kunnen worden hoe de machine verbeterd had kunnen worden.
‘Mensen moeten altijd de eindverantwoordelijkheid hebben’, benadrukt Stolze opnieuw. ‘Computers kunnen verkeerde keuzes maken. Mensen moeten controleren wat ze doen en hen waar nodig beteugelen. De mens kan niet meer zonder de computer, maar de computer kan ook zeker niet zonder de mens. Zoek naar hybride intelligentie. Zoals schaker Garry Kasparov zegt: “Een schaakcomputer is te verslaan en een schaakgrootmeester ook. Maar de combinatie van die twee is onoverwinnelijk.
Interview: Arend Hulshof
Fotografie: Arenda Oomen