In dit interview spreekt Tamar van Steijn (VOM) met AI-specialist Daniel Verloop over de ontwikkeling en het succes van Chatbot Mai van de gemeente Montferland. Verloop waarschuwt voor de toenemende digitale afhankelijkheid, pleit voor meer publieke regie op technologie en reflecteert op de ethische kant van kunstmatige intelligentie. Van praktische gemeentelijke innovatie tot scherpe analyses over digitale soevereiniteit en zelfs een uitstapje naar Skynet uit Terminator… Dit interview biedt een toegankelijk, kritisch en toekomstgericht perspectief op AI in Nederland.
Beeld: Gemeente Montferland
‘We zijn vrijwillig onze dystopische techkolonisatie aan het financieren,’ verzucht AI-specialist Daniel Verloop, onder andere werkzaam bij gemeente Montferland. ‘Nederland maakt zichzelf steeds afhankelijker van AI en clouds die zijn ontwikkeld door Big Tech en betaalt daar zelf ook nog eens voor.’ Een opvallende uitspraak van iemand die zelf Chatbot Mai ontwikkelde, de veelbesproken chatbot van de gemeente Montferland. Al snel wordt duidelijk dat zijn zorg niet zozeer over AI an sich gaat, maar over de manier waarop we ermee omgaan. ‘Als de Nederlandse overheid over vijf jaar haar beleid over AI nog steeds zo voorzichtig voert, kunnen we praten wat we willen, maar dan hebben we niets meer te zeggen.’
Wat is Chatbot Mai? En hoe onderscheidt die zich van andere overheidschatbots?
‘Chatbot Mai is een AI-gestuurde chatbot die 24/7 te bereiken is via de website van gemeente Montferland en ongeveer 80 procent van de vragen kan beantwoorden die door inwoners worden gesteld. Dat neemt druk weg bij de medewerkers op het klantcontactcentrum. En het is fijn voor de inwoners, omdat ze ook op zaterdagavond om acht uur een vraag aan de gemeente kunnen stellen. Soms typen mensen zelfs: Super! Dankjewel, Mai.’
‘Mai is uniek, omdat hij de eerste chatbot bij gemeenten is die volledig op GenAI is gestuurd. Hij is dus niet een soort veredelde zoekmachine: hij geeft echt antwoord op vragen als “Ik wil trouwen, hoe regel ik dat” of “Ik kan mijn belasting niet betalen, hoe kan die kwijtgescholden worden?” De bot moet dus in staat zijn vragen over heel uiteenlopende dingen te snappen.’
Veel grote overheidsorganisaties hebben een eigen innovatieunit, jullie niet. Hoe hebben jullie het vertrouwen gekregen om deze stap te zetten?
‘Er was sprake van urgentie. Montferland is een kleine gemeente met 36.000 inwoners en minder dan 400 gemeenteambtenaren. De uitdaging is dat in de komende jaren bijna 30 procent van het personeelsbestand met pensioen gaat; dat zijn ervaren mensen met veel kennis. Tegelijkertijd is het vrij dun gezaaid wat betreft aanwas in het oosten van Nederland. Ondertussen verwacht de inwoner, terecht, een permanent beschikbare digitale overheid die snel en toegankelijk is. Hierdoor heeft een aantal gemotiveerde mensen binnen de organisatie, samen met domeinmanager Michael Rave en toenmalige burgemeester Harry de Vries, de ruimte genomen en gekregen om Mai te ontwikkelen.’
Wat zijn volgens jou de belangrijkste ethische kwesties bij het ontwikkelen van Mai?
‘We kijken vanuit de organisatie breed naar wat zo’n chatbot betekent voor ons en voor de inwoners. Het doel is betere dienstverlening, of in ieder geval de dienstverlening op peil houden binnen alle uitdagingen. Maar wel op een manier die ook echt beter is voor de burger en voor onze organisatie, met natuurlijk alles binnen de wetgeving. De AVG blijft van kracht en de AI Act is terecht stringent.’
‘Een ander ethisch vraagstuk is: wie wil je als gemeente zijn? Je kunt een AI-stem gebruiken bij het klantencontactcentrum en dan doorautomatiseren. Maar wil je dat als gemeente? Waar moet je mensen nog wel voor inzetten? Wat voor effect heeft dat? In een gemeente heeft het echt effect: sommige medewerkers zijn erg enthousiast en anderen bieden weerstand, omdat ze het gevoel hebben weggeautomatiseerd te worden. In gesprekken met andere gemeenten hoor ik vanuit management soms: “Als het kan, dan doen we het.” Ik begrijp die houding, maar vind wel dat je vanuit het perspectief van de medewerker hiernaar moet kijken, want AI-implementatie heeft invloed.’
In het Algoritmeregister[1]staat dat Mai gebruik maakt van Azure OpenAI, een software van de Amerikaanse techgigant Microsoft. De Amerikaanse Cloud Act geeft de Amerikaanse regering toegang tot data op Amerikaanse clouds, zelfs als die fysiek in Europa worden gehost.[2]Was dit jullie geen ‘doorn in het oog’?
‘Absoluut. Dat is een erg belangrijk punt. Zo’n chatbot ziet er aan de oppervlakte simpel uit, maar in de backend is het behoorlijk complex. De harde realiteit is dat, hoewel open source modellen steeds beter worden, vlaggenschipmodellen zoals ChatGPT of Claude van Anthropic veel beter zijn dan open source modellen.
‘Bij Montferland hebben we te maken met heel complexe materie, omdat sommige verordeningen bijvoorbeeld heel dicht bij elkaar liggen. Als je dan gaat werken met open source modellen die minder goed zijn, raken die in de war. We hebben dus moeten afwegen: gaan we voor soeverein, dus volledig open source, of voor kwaliteit?’
‘We kozen het laatste; en daarbij dus voor Azure. Het is voor ons immers nog steeds een pilot, dus daar zit meer speelruimte in. Bij de opschaling met VNG Groei en BZK willen we wel naar volledig open source toe. Microsoft belooft in de kleine lettertjes wel dat de data binnen de EU blijft, maar, inderdaad, zelfs al stel je het zo waterdicht mogelijk in, de Cloud Act blijft van kracht. Tegelijkertijd gebruiken we bij Montferland, net zoals bij vele andere overheidsorganisaties, Microsoft’s Office 365. Dan is het gebruik van Azure aanzienlijk minder riskant dan het gebruik van Office 365.’
Maar daarin zetten jullie nu wel stappen.
‘Jazeker, de andere programma’s waar Mai op draait bouwen we echt zelf nu. Dat draait allemaal op onze eigen hardware.’
Hoe kijk je aan tegen de mate waarin de Nederlandse overheid afhankelijk is van Amerikaanse techbedrijven? Zeker in het licht van recente geopolitieke spanningen.
‘Dat vind ik een groot probleem. Het uiteindelijke doel dat we nastreven is dat alles volledig wordt gehost op Europese, Duitse, Nederlandse hardware, infra en eigen modellen. Zodat het gewoon echt niet meer naar buiten gaat.’
‘Maar de harde realiteit is dat we te afhankelijk zijn van Big Tech. Dit is uitermate zorgelijk omdat het ten eerste bedrijven zijn die gewoon geld willen verdienen. Ten tweede zitten die bedrijven in een bepaalde omgeving die niet per se strookt met onze democratische waarden. Als Nederlandse samenleving worden we steeds afhankelijker en we hebben steeds minder door wat alle software eigenlijk doet: het werkt en het helpt, dus het zal wel. Maar ik denk dat we onszelf nu vrijwillig naar de slachtbank aan het begeleiden zijn.’
Je vervalt in een soort doemdenken, lijkt het.
‘Klopt. Mensen hebben vaak niet eens door dat er AI in het spel is, omdat het steeds onzichtbaarder wordt. We creëren een soort asymmetrische informatie overlord à la Skynet (de zelfbewuste superintelligentie uit de Terminator-films die een nucleaire oorlog ontketend). Hoe meer je dit, zeker als overheid, gaat uitbesteden, hoe meer het een black box wordt. Er wordt nog steeds aangenomen dat mensen verantwoordelijk zijn voor de outputs van deze software, maar dat is echt niet meer zo. Systemen worden steeds autonomer, krijgen steeds meer capabilities en krijgen steeds meer toegang. Het is volledig uit balans.’
‘Er heerst ook een serieus gebrek aan kennis onder publieke professionals. Dat noem ik onbewust onbekwaam. De overheid zou dus echt moeten investeren om te kunnen voorzien waar AI naartoe gaat en wat we ermee kunnen. En ook vanuit alle perspectieven, dus niet alleen het technische, maar ook het non-technische. Die combinatie en lateraal denken is hier heel belangrijk om een goede visie te kunnen vormen. Daarom ben ik ook groot voorstander van een ministerie van Digitale Zaken.’
In hoeverre botsen ethiek en snelle innovatie op AI-gebied volgens jou, of kunnen ze echt samengaan?
‘Het is juist mooi dat het botst, denk ik. Bij Chatbot Mai botste het in het begin voor mij ook. Ik ben een tech nerd en ik vind AI geweldig. Maar ik had bijvoorbeeld nog nooit gehoord van toegankelijkheid en toegankelijkheidseisen. Inmiddels ben ik daar ook specialist op. En dat komt door die botsingen die je dan krijgt.’
‘In Europa stellen we ethiek rondom AI en digitalisering voorop en dat is erg belangrijk. Tegelijkertijd hebben we er niets aan als we over vijf jaar hebben afgesproken hoe we AI ethisch kunnen inzetten en vervolgens op alle fronten gedomineerd worden door anderen. Wat de overheid nodig heeft om dit te voorkomen is simpel gezegd een twee-sporen beleid. Dus je hebt aan de ene kant die governance en compliance, de ethiek. En aan de andere kant heb je actie. Zolang je dat in balans houdt – je neemt in het ene spoor een stap en daar leer je van, waardoor je in het andere spoor weer verder komt – blijkt dat het best goed te doen.’
Heb je het gevoel dat de overheid zorgvuldiger moet omgaan met AI-toepassingen dan andere organisaties?
‘Ja, en niet alleen vanuit voorbeeldrol. Het is zo dat de overheid monopolie heeft op een heleboel dingen. Als er bij de overheid iets gebeurt, dan heeft dat samenlevingsbrede impact op mensenlevens. Kijk maar naar de toeslagenaffaire en de DUO-fraudedetectie. Zorgvuldig omgaan met AI is daarom echt de verantwoordelijkheid die we als overheid moeten nemen. Als we niet heel snel, heel rigoureus dingen anders gaan aanpakken en daar echt bovenop gaan zitten, heb ik daar echt zorgen over.’
Waar ben je optimistisch en pessimistisch over?
‘Ik ben pessimistisch, dat moge duidelijk zijn. Maar ik snap wel dat het complex is: het polderen, alle overheidslagen, de drukte. Het is lastig om het goed te organiseren.Toch ben ik ook optimistisch. Er gaat steeds meer aandacht naartoe en als dit goed wordt vormgegeven, dan kan er echt iets moois ontstaan. Dit vergt meer samenwerking tussen overheden onderling en dat er vanuit de rijksoverheid iemand opstaat die zegt: en nu is het klaar. Dat begint natuurlijk ook vanuit de politiek.’
‘Mijn advies? Ga dat twee-sporen beleid zo snel mogelijk in. Begin klein, begin voorzichtig. Maar ga het doen. Het vraagt een beetje common sense, durf, en niet 100 procent risicomijdend gedrag. Je hoeft risico’s niet te mijden, maar je moet wel nadenken over wat die risico’s zijn, wat er kan gebeuren, of we het acceptabel vinden, en hoe we daarop kunnen acteren of mitigeren. Maar vooral: maak het makkelijk om AI in te zetten, zodat je dit ontsluit voor alle collega’s binnen de overheid.’
Daniel Verloop is AI-specialist. Hij ontwikkelde Chatbot Mai voor de gemeente Montferland en adviseert overheidsorganisaties over AI-strategie, implementatie en governance.
Voetnoten
[1] https://algoritmes.overheid.nl/nl/algoritme/gm1955/96671359/mai-montferland-ai#werking.
[2] https://www.ictmagazine.nl/blogs/nederlandse-overheid-in-de-digitale-wurggreep-van-big-tech/.
Geef een reactie