Belastingdienst en Musk maken dezelfde fout


Bestaat er zoiets als te veel automatisering? Bij Tesla wel, menen analisten. Door te veel automatisering en te weinig mensen zou de uitbreiding van de productie in gevaar komen, zo stelde Bernstein Research. De clou zit erin dat – anders dan velen denken – ook robots fouten maken, vooral in complexe situaties. Ze zijn ook maar door mensen gemaakt. Dat leidt tot defecten en beschadigingen. Robots hebben geen oog voor de schoonheid van een fonkelnieuwe auto, maar klanten wel. De beurskoers daalde fel.

Het is vooral die dwingende correctie, door beurskoers en klanten, waaraan ik moest denken toen Stevens in het FD pleitte voor interventieteams bij de Belastingdienst. ‘Onvermogen om digitaal te communiceren, een onbegrepen vinkje, het kan mensen in een doolhof zuigen en disproportionele effecten oproepen. Interventieteams kunnen dergelijke gevallen vlot trekken en zicht geven op de oorzaken.’ Stevens is een optimist, want niet alleen onvermogen van burgers, maar ook automatisering zelf kan leiden tot onredelijke uitkomsten.

‘Juist met het soort regels die we het belangrijkst vinden, zoals redelijkheid en proportionaliteit, kunnen computersystemen niets’

Net als Tesla is de Belastingdienst complex en zeer vergaand geautomatiseerd. Maar sommige regels zijn makkelijker te automatiseren dan andere. Juist met het soort regels die we het belangrijkst vinden, zoals redelijkheid en proportionaliteit, kunnen computersystemen niets. De Belastingdienst legde een verzuimboete op aan een dementerende vrouw. Haar broer was begonnen aan de aangifte, maar zijn computer crashte. Het overschrijden van een termijn is gemakkelijk te automatiseren, maar de beoordeling van de situatie niet. Is het redelijk de dementerende vrouw te beboeten? En helpt het voor gedragsverandering? De rechter floot de Belastingdienst terug, maar had je daar nu een rechter voor nodig gehad?

Anders dan Stevens meent, zijn de Stellateams nooit opgeheven. Het is gewoon een marginaal verschijnsel gebleven. Belangrijk voor de individuen die ermee geholpen zijn, maar klein in omvang en niet gericht op leren voor de organisatie als geheel. Het is een antwoord als er een beroep gedaan wordt op de Belastingdienst, zoals recent bij de ‘brede schuldenaanpak’. Maar eigenlijk maakt de automatisering bij de Belastingdienst van Stellateams operationele noodzaak. Tesla kan het zich niet permitteren om een menselijk oog af te schaffen waar dat noodzakelijk is. De Belastingdienst wel?

*Deze column verscheen oorspronkelijk op 22 september 2018 in het Financieele Dagblad.

Naschrift: Tesla heeft hierna nog eens geworsteld met productieproblemen maar lijkt inmiddels alles op de rit te hebben, met een grote koersstijging, ook nu nog, als gevolg. De Belastingdienst heeft sinds de eerste publicatie te maken gekregen met een serie van affaires, waarin wat niet geautomatiseerd kon worden, toch automatisch werd afgehandeld. Soms zonder dat menselijk ingrijpen mogelijk was. Meest bekend is het schandaal rond de kinderopvangtoeslag, dat zo’n 20.000 mensen benadeelde en duizenden zeer ernstig. Daarin was de vooringenomenheid waarmee aanspraken uiteindelijk zijn onderzocht en beoordeeld de meest belangrijke oorzaak van de schade. Maar voorafgaand aan die menselijke beoordeling werden mensen al automatisch benadeeld. Vaak al met grote gevolgen. Toeslagen werden automatisch stopgezet in plaats van opgeschort, omdat de software niet voorzag in opschorting. Stopzetting vond plaats zonder informatie over of beoordeling van de concrete situatie, maar onder meer op basis van risicosignalen. En één van de indicatoren voor een automatisch verkregen vermoeden was nationaliteit. Er was niet voorzien in de mogelijkheid om het geautomatiseerde proces te schorsen. En de invordering werd na zes maanden automatisch weer gestart, al was uitstel van betaling verkregen.

De Commissie Donner wil in zijn rapport geen precies totaalbeeld geven van de erfenis van vijftien jaar kinderopvangtoeslag. Een beeld in cijfers en statistieken zou een nauwkeurigheid suggereren die onterecht is. Zo geven aantallen stopzettingen bijvoorbeeld geen informatie over de achterliggende redenen. En zo is het precies. Dat geldt echter niet alleen voor de Belastingdienst, maar ook voor burgers en hun concrete situatie. Misschien ligt hierin dus een belangrijk leerpunt, maar dan voor hoe de Belastingdienst moet omgaan met automatisering.

Stichting Kafkabrigade verzorgt ook masterclasses over digitalisering en behoorlijk bestuur. Klik hier voor meer informatie

 

Vond je dit artikel interessant? Lees alle artikelen van: Arjan Widlak
Deel dit artikel

Er zijn nog geen reacties op dit artikel

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

*