Prof. dr. Somaya Ben Allouch (Universiteit van Amsterdam, Hogeschool van Amsterdam), is expert op het gebied van human-computer interaction. In haar onderzoek focust ze op de interactie tussen mens en systeem en de ontwikkeling, het gebruik en de evaluatie van digitale technologieën. Ze ziet op kansen voor het gebruik van AI in de publieke sector, maar benoemt ook de mogelijke risico’s. ‘AI moet geen doel op zichzelf zijn,’ benadrukt ze. ‘Het gaat erom hoe we deze technologie inzetten om publieke diensten beter en toegankelijker te maken voor iedereen die dat nodig kan hebben.’
De publieke sector staat aan de vooravond van een ingrijpende digitale transformatie. Kunstmatige intelligentie (AI) biedt ongekende mogelijkheden voor efficiëntere dienstverlening en meer inclusieve toegang tot overheidsdiensten. Toch brengt deze technologische vooruitgang ook belangrijke ethische vragen met zich mee. Hoe zorg je ervoor dat AI daadwerkelijk de samenleving dient, zonder dat burgers buiten de boot vallen? En welke rol spelen beleidsmakers hierin?
Volgens Ben Allouch zal AI een steeds grotere rol gaan spelen, maar de impact zal verschillen per overheidssector en gebied. Het tempo van invoering zal afhangen van de specifieke diensten die succesvol blijken te zijn in het publieke domein.
Ze voorziet dat AI in de komende jaren vooral ingezet zal worden om administratieve processen te automatiseren en efficiënter te maken. ‘Data-analyse en dienstverlening richting burgers kunnen grotendeels door AI worden overgenomen. Dit kan bijvoorbeeld helpen bij het sneller en accurater verwerken van aanvragen of het beantwoorden van vragen van burgers.’ Een ander belangrijk aspect dat Ben Allouch aanstipt, is de ondersteuning die AI kan bieden bij besluitvormingsprocessen. ‘AI kan beleidsmakers helpen door grote hoeveelheden data te analyseren en patronen te ontdekken, die eerder moeilijk te doorgronden waren. Dit kan vooral nuttig zijn bij strategische planning en beleidsvorming.’
Daarnaast ziet ze potentie voor AI om de inclusiviteit van publieke dienstverlening te vergroten. ‘Chatbots en andere AI-tools kunnen burgers ondersteunen bij het verkrijgen van informatie en toegang tot diensten, maar dan moeten deze systemen wel ontwikkeld worden met oog voor diversiteit en gelijkheid. Dit betekent dat AI-diensten vanaf het begin samen met burgers ontwikkeld moeten worden, zodat zij aansluiten bij de echte behoeften en ervaringen van de eindgebruikers.’
Risico’s van AI in de publieke sector
Toch waarschuwt Ben Allouch ook voor de gevaren van een ondoordachte invoering van AI. ‘Een groot risico is dat we AI ontwikkelen zonder voldoende rekening te houden met de leefwereld van burgers. Dit kan leiden tot technologieën die, in plaats van te helpen, juist nieuwe ongelijkheden creëren. Denk bijvoorbeeld aan algoritmes die bepaalde groepen burgers systematisch benadelen omdat de gebruikte data niet representatief zijn. Het is essentieel om vanaf de eerste dag te anticiperen op deze risico’s en ervoor te zorgen dat de gebruikte datasets vrij zijn van vooroordelen. De lessen uit recente uitvoeringsschandalen, waarin gebrekkige AI-systemen een rol speelden, mogen niet worden vergeten.’
Publieke organisaties moeten continu moeten monitoren hoe AI-toepassingen worden ingezet, aldus Ben Allouch, en welke gevolgen ze hebben voor burgers. ‘We moeten AI zien als een dynamisch proces: de doelen waarvoor de technologie wordt ingezet, moeten continu worden geëvalueerd. Dat geldt ook voor de ethische implicaties van AI-beslissingen.’
Voorbereiden op AI-uitdagingen
De hamvraag is hoe overheidsinstanties zich kunnen voorbereiden op de ethische uitdagingen van AI. Ben Allouch: ‘De overheid moet proactief zijn in het opstellen van wet- en regelgeving voor AI. Er moet multidisciplinair worden samengewerkt, waarbij experts uit verschillende velden – techniek, ethiek, recht en sociale wetenschappen – betrokken worden bij de ontwikkeling van AI-toepassingen.’
Zw wijst op het belang van opleiding en training. ‘Ambtenaren moeten voldoende kennis hebben van AI en de ethische implicaties ervan. Dit betekent niet dat elke ambtenaar een AI-expert hoeft te worden, maar zij moeten wel de basisprincipes begrijpen. Alleen dan kunnen ze goed geïnformeerde beslissingen nemen en verantwoorde keuzes maken in het gebruik van AI binnen hun organisatie.’
Nu wordt er bij besluitvorming over AI binnen de overheid nog te vaak gezegd: Ja, dat valt onder die en die afdeling en daar vertrouw ik op. Ben Allouch: ‘Waarom leggen we de lat veel lager wanneer het gaat om belangrijke posities binnen de overheid waar technologie een grote rol speelt, en men wegkomt met veel minder kennis van de materie? Juist wanneer deze technologie een grote invloed kan hebben op burgers en de samenleving, zou je willen dat hier beter rekening mee gehouden wordt.’
AI kan niet los worden gezien van de maatschappelijke context, besluit ze. ‘De technologie moet altijd ten dienste staan van de mens en de samenleving. Dit betekent dat overheidsorganisaties AI op een verantwoorde manier moeten inzetten, waarbij de rechten en privacy van burgers worden beschermd.’
Wil je meer weten over AI in de publieke sector? Somaya Ben Allouch geeft – in samenwerking met onder andere Zeger van der Wal, bijzonder hoogleraar Ien Dales Leerstoel – een masterclass over de kansen en bedreigingen van AI voor beleid en dienstverlening.
Geef een reactie