De overheid kent een moeizame relatie met – de invoering en het gebruik van – ict. Kennis en ervaring blijken onvoldoende geborgd bij de publieke opdrachtgevers, met alle gevolgen van dien. Aan de vooravond van de invoering van de Omgevingswet, die in de testperiode geteisterd werd door digitale problemen, werd dat nog eens duidelijk. Maar er zijn helaas vele andere voorbeelden, zoals bij de Belastingdienst of UWV, die laten zien dat er veel mis kan gaan. Niet alleen bij de uitvoering maar ook bij het management. Het belang van ethiek en vraagstukken rondom veiligheid, privacy en bias wordt nog steeds onderschat.
Neem het experiment met de benoeming van een digicommissaris die er vooral op moest toezien dat er door de overheid meer en vooral beter moest worden samengewerkt op het terrein van informatie- en communicatietechnologie. Er werd immers op dat gebied door gemeenten, provincie en rijksoverheid nogal wat belastinggeld, ambities en projecten verkwanseld zonder dat daarover serieus rekenschap werd afgelegd. Het lerend en luisterend vermogen ontbrak nogal bij de publieke opdrachtgevers die zelf vaak ook onvoldoende kennis en ervaring op dat terrein bleken te bezitten.
Kortom, dat kon en moest beter, ook gelet op allerlei vernietigende rapporten, onderzoek en adviezen. Helaas is na één periode de functie van digicommissaris – dat was toen Bas Eenhoorn – de nek omgedraaid. Alle coördinerende bevoegdheden gingen weer terug naar het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Maar echt beter werd het daardoor zeker niet.
Helaas is na één periode de functie van digicommissaris de nek omgedraaid’
Die situatie is ook nu nog niet echt verbeterd, volgens Floor Kist en Maarten Koningsveld in AI voor Bestuurders in de Publieke Sector; verantwoordelijkheid en opdrachtgeverschap. De noodzaak van bestuurlijke verantwoordelijkheid ontbreekt nogal eens en dat is fnuikend voor de toepassing van kunstmatige intelligentie. ‘De werkelijke uitdaging ontstaat wanneer we kijken naar de introductie van geheel nieuwe AI-benaderingen. De vernieuwingen kunnen bijvoorbeeld betrekking hebben op geavanceerde data-analyse voor beleidsvorming of het gebruik van AI in complexe besluitvormingsprocessen. Hierbij is de bestuurlijke verantwoordelijkheid significant verhoogd. Beleidsmakers moeten waarborgen dat deze systemen ethisch, transparant en in lijn met publieke waarden functioneren. Daarnaast moeten ze kunnen anticiperen op onbedoelde gevolgen en bereid zijn om in te grijpen wanneer nodig.’
‘Wanneer professioneel opdrachtgeverschap en bestuurlijke waakzaamheid ontbreken, gaat het geheid fout’
Het is een lang citaat dat exact aangeeft waar het goed of fout kan gaan bij de voorbereiding, introductie en uitvoering van AI en vergelijkbare ict-trajecten. Wanneer professioneel opdrachtgeverschap en bestuurlijke waakzaamheid ontbreken, gaat het geheid fout, temeer daar de technologische innovaties op dit terrein razendsnel gaan. De kennis van gisteren is vandaag alweer verouderd. Juist daarom pleiten de auteurs terecht voor ‘solide governance om zowel de voordelen te maximaliseren als de risico’s te beperken. Bestuurlijk opdrachtgeverschap bij kunstmatige intelligentie in de publieke sector vereist het vaststellen van kaders, richtlijnen en toezichtmechanismen. Die kunnen zorgen dat AI-oplossingen veilig, transparant en accountable zijn en dat potentiële risico’s voor burgers zijn geminimaliseerd’. Die boodschap – die bij de overhandiging van het eerste exemplaar van dit handzame boekje aan de voor de afhandeling van de toeslagenaffaire verantwoordelijke staatssecretaris Alexandra van Huffelen nog eens werd onderstreept – is in ieder geval duidelijk.
Floor Kist en Maarten Koningsveld. AI voor Bestuurders in de Publieke Sector; verantwoordelijkheid en opdrachtgeverschap. ISBN 9798870805894, 43 blz., Den Haag, 2023.
