We verwachtten dat digitalisering zou leiden tot efficiënter en effectiever werken, maar worden ons gaandeweg bewuster van de daarmee gepaard gaande risico’s. Zo wordt ons steeds duidelijker dat digitale risicomodellen bestaande aannames reproduceren. Juist in gedigitaliseerde systemen kan dat leiden tot schade die moeilijk zichtbaar te maken en te herstellen is. Deze bijdrage onderzoekt of de inzet van zulke systemen in het sociaal domein daarmee nog te rechtvaardigen is.
Overheden en uitvoeringsinstanties staan onder druk om efficiënter, slimmer en doelgerichter te werken. Digitalisering biedt de belofte om hier een belangrijke bijdrage aan te leveren. Ook in het sociaal domein wordt steeds vaker gebruikgemaakt van digitale middelen om risico’s vroegtijdig te signaleren, bijvoorbeeld in het kader van armoedebestrijding, zorg, jeugdhulp of schuldhulpverlening. Risicoprofilering wordt daarbij ingezet om sneller te kunnen handelen, gerichter toezicht te houden, en oneigenlijk gebruik, zoals fraude of misbruik, te voorkomen.
Maar juist in het sociaal domein, waar het gaat om mensen in kwetsbare omstandigheden, brengt profilering – zeker wanneer gestuurd door algoritmen en digitale systemen – risico’s met zich mee die moeilijk zichtbaar zijn, maar diep ingrijpen. Burgers weten vaak niet dat ze in een risicoprofiel zijn geplaatst. Transparantie, uitleg en de mogelijkheid tot bezwaar ontbreken in veel gevallen of zijn slechts beperkt aanwezig. Hierdoor kunnen burgers zich moeilijk verweren. De gevolgen kunnen groot zijn. Denk aan intensievere controle, verlies en schending van rechten, of zelfuitsluiting uit wantrouwen.
Schijn van objectiviteit
Risicoprofielen worden opgebouwd uit vooraf verzamelde en als relevant beschouwde gegevens. De resulterende risicoscores en signalen worden gepresenteerd als neutrale, objectieve feiten, maar zijn in werkelijkheid gebaseerd op selectieve data, aannames en eerdere beleidskeuzes. Een wijk, gezin of dossier krijgt zo een label nog voordat er met iemand is gesproken. Dat label beïnvloedt vaak hoe ambtenaren, handhavers of hulpverleners keuzes maken, meestal zonder zich daarvan bewust te zijn. Digitale risicosignalen, die als neutrale indicatie worden gepresenteerd, kunnen in de praktijk bestaande aannames en intuïties van uitvoerders bevestigen en hen onbedoeld sturen in hun oordeel en handelen (zoals ook beschreven in het rapport Gelijk Recht Doen). Zo sluipen vooroordelen ongemerkt de praktijk binnen, waar ze kunnen worden versterkt.
Digitale risicosignalen, die als neutrale indicatie worden gepresenteerd, kunnen in de praktijk bestaande aannames en intuïties van uitvoerders bevestigen
Op basis van algoritmen wordt gesignaleerd wie afwijkt van wat als ‘normaal’ gedrag is gedefinieerd. Degenen die tot een risicogroep worden gerekend, krijgen vaker te maken met controle of sancties, terwijl anderen ongemoeid blijven. Naast deze rechtsongelijkheid leidt dit tot een bevestigingsbias: aannames van gisteren worden morgen door de gekozen werkwijze bevestigd. Zo ontstaan systemen die ongelijkheid bestendigen, zonder dat iemand dat per se zo bedoelt.
Onzichtbare schade
De gevolgen van profilering zijn moeilijk zichtbaar te maken. Vaak geldt het opsporen van meer gevallen van misbruik of fraude als maatstaf voor succes, maar dat beeld is misleidend. Waar je zoekt naar fraude, is de kans groot dat je ook iets vindt. Tegelijkertijd is er nauwelijks zicht op hoeveel mensen onterecht als risicovol zijn aangemerkt of hoeveel echte fraude juist buiten beeld blijft. Burgers weten vaak niet dat ze geprofileerd zijn, noch op welke gronden. Dat maakt het vrijwel onmogelijk om fouten te signaleren. Maar we weten wel dat profilering schade kan toebrengen, waarbij de schade vooral bij mensen met complexe sociaaleconomische omstandigheden groot kan zijn.
Meerdere schandalen laten zien dat waar overheden inzetten op controle en efficiëntie, fundamentele rechten onder druk komen te staan. Het gaat vaak om mensen met lage inkomens, een migratieachtergrond of complexe leefomstandigheden. Juist de groepen die baat hebben bij nabijheid, bescherming en vertrouwen. In de toeslagenaffaire werd pijnlijk zichtbaar hoe duizenden gezinnen in een kwetsbare positie onterecht als fraudeur werden aangemerkt. Daarmee laten de verschillende schandalen zien dat het inzetten van deze systemen kan leiden tot verlies van efficiëntie, effectiviteit, publieke middelen en vertrouwen. Niet vanwege kwade intenties, maar omdat de combinatie van digitale sturing, beperkte rechtsbescherming en sociale kwetsbaarheid simpelweg te riskant is. Het gevolg is een chilling effect: mensen durven, uit angst of wantrouwen, geen gebruik meer te maken van diensten waar zij wel recht op hebben.
Tekortschietend herstel
De afgelopen jaren is het bewustzijn gegroeid dat digitale risicosturing burgers in de knel kan brengen. Overheden en uitvoeringsinstanties zijn actief op zoek naar manieren om deze systemen eerlijker en zorgvuldiger in te zetten (zie bijvoorbeeld pilot gedigitaliseerde fraudepreventie). Er worden allerhande pogingen ondernomen om de schade te beperken, zoals meer transparantie over datagebruik, ruimte voor bezwaarprocedures en aandacht voor de menselijke maat.
Toch blijken effectiviteit en rechtvaardigheid in de praktijk lastig te realiseren, zelfs wanneer de intenties goed zijn
Toch blijken effectiviteit en rechtvaardigheid in de praktijk lastig te realiseren, zelfs wanneer de intenties goed zijn. De risico’s rond deze systemen vloeien vaak voort uit een complexe mix van politieke, sociale en technologische factoren. Discriminatie en uitsluiting zijn niet eenvoudig toe te schrijven aan een oorzaak, maar hangen samen met bredere maatschappelijke structuren. Experts verschillen bovendien van mening over wat ‘eerlijk genoeg’ is, of wanneer het gebruik van zulke systemen juridisch of ethisch toelaatbaar is. In zo’n context zijn oorzaak en gevolg moeilijk te herleiden, laat staan effectief te sturen.
Desondanks wordt zelden onderzocht of er alternatieven bestaan voor digitale risicoprofilering die eerlijker, minder risicovol of zelfs minder kostbaar zijn. Denk bijvoorbeeld aan een aanpak waarin aselecte controles worden gecombineerd met ondersteuning gericht op het voorkomen van fouten. Juist omdat de schade reëel is en de opbrengsten onzeker, zou het zoeken naar zulke alternatieven centraal moeten staan.
Geen onvoorwaardelijke rechtvaardiging
Kortom, de belofte van efficiëntie en effectiviteit waarmee risicoprofilering wordt verdedigd, verdient serieuze twijfel, zeker wanneer ook maatschappelijke, juridische en ethische gevolgen worden meegewogen. Tegelijkertijd is onduidelijk of pogingen om de risico’s te beperken daadwerkelijk effect sorteren.
Waar geen twijfel over bestaat is dat burgers herhaaldelijk in de knel komen door de inzet van deze systemen. Dat leidt tot ernstige persoonlijke gevolgen en tot afnemend vertrouwen in publieke instellingen. Tegen die achtergrond dringt zich een fundamentele vraag op: is het verantwoord om te blijven investeren in een aanpak waarvan de opbrengsten onzeker zijn, maar de schade inmiddels overduidelijk? Het antwoord lijkt helder: zonder structurele waarborgen en publieke controle is risicoprofilering in het sociaal domein nauwelijks te rechtvaardigen.
Geef een reactie