Denkfouten en fraudeprofielen


Op de site van RTL Nieuws staat het verhaal van Fatma. Haar toeslag voor de kinderopvang werd stopgezet. De toeslag die ze eerder kreeg werd een schuld en er werd beslag gelegd op haar loon. Fatma raakte haar tweede baan kwijt, omdat ze geen oppas kon krijgen voor haar kinderen. En als ze naar de rechter gaat, moet ze procederen tot aan de Raad van State voordat ze gelijk krijgt. Fatma’s verhaal staat in de context van het onderzoek naar het vermoeden dat mensen met een tweede nationaliteit op grote schaal slachtoffer werden van ‘etnisch profileren’.

Etnisch profileren is selecteren op zichtbare minderheden. Dat mag niet. We ervaren het als onrechtvaardig om als individu te worden afgerekend op kenmerken van een groep.

Het gelijkstellen van samenhang met oorzaak is een typische denkfout. Bijna stuurde de Amerikaanse staat Illinois ooit naar ieder kind boeken, omdat kinderen uit een huis met veel boeken betere studieprestaties hebben. Maar wat bleek: ook kinderen die helemaal niet in die boeken keken bleken betere studieprestaties te hebben. De werkelijke oorzaak, van zowel veel boeken als goed leren, ligt waarschijnlijk bij de ouders.

‘De fout van de Belastingdienst is signalen niet te zien voor wat ze zijn: vermoedens, geen feiten’

Het risico op dit soort denkfouten is inherent aan werken met fraudeprofielen. En dat doet de Belastingdienst sinds 2013. Want een toeslag krijg je als voorschot. En dat is een volautomatisch proces. Maar de Bulgarenfraude uit 2013 maakte duidelijk dat zo’n toeslag achteraf niet altijd is terug te vorderen. Een reactie daarop lag al klaar. Dat was om met statistiek de mensen te selecteren die misschien fraude plegen. De vraag is nu: is daar sprake van etnisch profileren?

Die etniciteit kan de Belastingdienst min of meer afleiden uit de (tweede) nationaliteit van mensen. Een vreemde nationaliteit werd, om heel andere redenen, tot 2015 bijgehouden in het bevolkingsregister. En de Belastingdienst krijgt die gegevens automatisch.

Wat het verhaal zo leerzaam maakt is dat het een paar ideeën die vaak abstract blijven zo duidelijk maakt. Eén daarvan is bias – hoe onze vooroordelen in data terugkomen of juist uit data voortkomen – en vervolgens zelfversterkend werken. Fatma verliest haar baan. En ze heeft opeens duizenden euro’s schuld. Dit zijn eerst alleen gevolgen van een verkeerde conclusie op basis van een risico-inschatting. Maar zodra die gevolgen statistieken worden en meegaan in de volgende risico-inschatting, versterken ze weer de kans op een verkeerde conclusie. De werkelijke oorzaak is de fout van de Belastingdienst.

Die fout is signalen niet zien voor wat ze zijn: vermoedens die aanleiding kunnen zijn voor onderzoek, geen feiten op basis waarvan je iemands leven overhoop kunt halen. Hier gaat het om een vreemde nationaliteit, waardoor heel duidelijk kan blijken dat er sprake is van etnisch profileren. Vaker is dit subtieler en vaker is dit breder dan alleen etniciteit.

Naschrift
De ontwikkelingen in de toeslagenaffaire sinds de publicatie van deze column, inmiddels anderhalf jaar geleden, zijn natuurlijk niet kort samen te vatten. En de leerpunten zijn eindeloos. Maar precies op het punt dat ik aanhaal in de column is er blijkbaar nog niks geleerd. Bij het aftreden van het kabinet kondigde premier Rutte aan dat medewerkers van de Belastingdienst en andere uitvoerende overheidsorganisaties trainingen moeten krijgen over discriminatie. Enerzijds is dat goed, want racisme is overal. Anderzijds is het ook een wat disloyale miskenning van de rol van bestuur en politiek. Maar belangrijker is dat racisme hier meer een gevolg was van de werkwijze dan van een oorzaak. Mede daarom – maar niet alleen – heeft het verbinden van rechtsgevolgen aan statistische vermoedens geen plaats in een rechtsstaat. Sterker, het is grotendeels een open vraag wat je eigenlijk kunt met statistische vermoedens op een manier dat je ook jezelf eraan zou durven onderwerpen.

Misschien moet het kabinet WRR-voorstudie nr. 21 Big Data en fraudebestrijding uit 2016 nog eens doorlezen. Toen waren al die overheidsorganisaties, waaronder de Belastingdienst, nog trots op hun “innovaties” op dit terrein, en er dus open over. Nu kun je het lezen als een boodschappenlijstje van “oplossingen” waar we nog eens met de blik van vandaag naar moeten kijken.

*Deze column verscheen oorspronkelijk in het Financieele Dagblad op 1 juli 2019.

Stichting Kafkabrigade verzorgt ook masterclasses over digitalisering en behoorlijk bestuur. Klik hier voor meer informatie.

Vond je dit artikel interessant? Lees alle artikelen van: Arjan Widlak
Deel dit artikel

Er zijn nog geen reacties op dit artikel

Het e-mailadres wordt niet gepubliceerd.

*