Overheidsinstanties watertrappelen in een zee van ongeorganiseerde data. Generatieve AI biedt mogelijk een reddingsboei: door informatie slimmer te ontsluiten en te begrijpen, kunnen overheden eindelijk hun data beter verwerken, dubbel werk voorkomen en burgers sneller van dienst zijn.
AI-tools en innovaties kunnen beleidsmedewerkers op verschillende manieren ondersteunen zodat ze hun werk efficiënter kunnen doen. Doordat ze met behulp van generatieve AI informatie beter kunnen doorzoeken en begrijpen, kunnen zij meer informatie en nieuwe informatiebronnen inzetten. Het zorgt er bovendien voor dat taken sneller kunnen worden uitgevoerd.
Beleidsmedewerkers moeten nu vaak via verschillende wegen op zoek naar de juiste informatie bij het uitvoeren van hun werkzaamheden. Er worden collega’s gevraagd naar hun ervaringen, mappen en e-mails worden doorzocht en niet zelden wordt er werk overgedaan omdat de juiste versie van een aantal jaren terug niet meer gevonden kan worden. Wat nu als een chatbot ze ondersteunt bij het navigeren door interne data? Met goede zoektechnologie en op maat gemaakte samenvattingen is deze data veel te vinden en gebruiken.
Pilot
Een heel andere, ingewikkeldere use case is het versneld beantwoorden van Woo-verzoeken. Tijdens een recente pilot bij een groot ministerie werd onlangs onderzocht of generatieve AI hierbij kan ondersteunen. Normaliter moeten juristen deze verzoeken eerst samenvatten, waarna onder andere informatiespecialisten database-queries op moeten stellen om de precieze antwoorden te vinden in de overweldigende hoeveelheid beschikbare informatie. Door generatieve AI te gebruiken, wordt dit proces versneld en de kwaliteit van de antwoorden verbeterd.
Een generatieve AI-schrijfhulp kan de administratie van uitvoeringsorganisaties versnellen
Medewerkers in uitvoeringsorganisaties besteden veel tijd aan het op de juiste wijze vastleggen van gebeurtenissen, zoals inspectiebezoeken, in dossiers. Met een generatieve AI-schrijfhulp kan de administratie versneld worden zodat de medewerker minder tijd kwijt is aan verslagglegging en de kwaliteit van de data in de dossiers omhoog gaat.
Uitdagingen en overwegingen
Het implementeren van AI-tools binnen publieke organisaties komt uiteraard met uitdagingen. Belangrijke uitdagingen zijn technologische overwegingen zoals het risico op hallucinaties, veiligheidsrisico’s en organisatorische aspecten zoals de beschikbaarheid van voldoende data en budgetten. Gelukkig zijn er oplossingen.
Generatieve AI kan onzin verkondigen (‘hallucineren’) door verkeerde verbanden te leggen of onjuiste data te gebruiken. Deze hallucinaties kunnen worden voorkomen door aanvullende, specifieke databases aan een AI-model te koppelen. Antwoorden worden dan alléén gebaseerd op de informatie in deze databases. De haalbaarheid van deze methodiek hangt af van waar de benodigde data zich bevindt en hoe vaak deze ververst dient te worden om relevant te blijven. Met grounding kan het model daarnaast ook nog eens gevraagd worden naar de bronnen bij het geformuleerde antwoord, waardoor het antwoord makkelijker te valideren is en gebruikers antwoorden eerder vertrouwen.
De inzet van generatieve AI kan daarnaast leiden tot risico’s rond databeveiliging. Wanneer wordt gekozen voor kant-en-klare AI-diensten, zijn voldoende waarborgen nodig vanuit de leverancier dat data binnen een beschermde omgeving blijft én dat deze niet wordt gebruikt voor trainingsdoeleinden. Bovendien kan met gedegen toegangsbeheer worden gesegmenteerd op welke gebruikers toegang krijgen tot welke data in hun AI-gebruik.
Het stellen van kaders voor verantwoord generatief AI-gebruik essentieel om risico’s te beperken
Verder is het stellen van kaders voor verantwoord generatief AI-gebruik essentieel om risico’s te beperken. Zo is het niet wenselijk dat medewerkers ‘schaduw IT’ gebruiken, zoals de publieke versie van ChatGPT, omdat deze buiten het beheer en privacybeleid van de organisatie valt. Dit kan leiden tot datalekken wanneer gevoelige informatie wordt gedeeld in een prompt.
Bovendien moet voor gedegen AI-gebruik de benodigde data natuurlijk überhaupt aanwezig en toegankelijk zijn. De manier waarop deze data door de organisatie is verspreid, bepaalt in grote mate hoe effectief de inzet van AI kan zijn. Wanneer data versnipperd is opgeslagen in losse systemen, wordt het een stuk lastiger – en duurder – om AI-modellen te trainen en gebruiken dan wanneer dataopslag centraal wordt beheerd. Zo kunnen de kosten van een eigen LLM oplopen tot tientallen miljoenen, terwijl kleinere afgeleide modellen veel vriendelijker zijn voor de budgetten.
De menselijke factor
Voor verantwoord AI-gebruik moeten we verder in staat zijn om te demonstreren dat de technologie die we ontwikkelen en toepassen altijd verantwoording af kan leggen aan mensen. Zeker binnen de overheid mogen we niet toestaan dat technologie dingen doet die wij (mensen) niet beheersen, zoals autonome besluitvorming die betrekking hebben op individuele burgers. Als publieke organisaties generatieve AI toepassen zouden ze daarom ten minste de volgende maatregelen moeten nemen:
- betrek de belangrijkste (externe) stakeholders zoals burgers en vakbonden en geef hun diverse perspectieven een plek in het ontwikkelproces;
- zorg voor transparantie richting burgers en organisaties over het gebruik van (generatieve) AI;
- zorg dat in ieder geval bij elk besluit dat een burger rechtstreeks raakt een ‘human-in-the-loop’ is. Dit sluit ook aan bij de intentie van de EU AI Act, die menselijk overzicht verplicht stelt voor bepaalde systemen.
- bouw vangrails in, veiligheidsmaatregelen die de interactie tussen een AI-model en gebruiker voorschrijven en op basis waarvan gemonitord kan worden.
Hoewel deze maatregelen niet alle eerder beschreven uitdagingen wegnemen, bieden technologische vangrails en een human-in-the-loop-benadering de benodigde controle om fouten in AI-gebruik te vermijden, of in ieder geval snel te verhelpen.
Beter van dienst
De overheidsbrede visie op generatieve AI biedt ruimte voor concrete en toepasbare oplossingen binnen de publieke sector. De weg naar bredere toepassing van AI binnen de publieke sector kent zijn uitdagingen, maar de potentiële voordelen wegen hier zeker tegenop. Met zorgvuldige planning, samenwerking en een focus op ethische en verantwoorde AI-praktijken, kunnen overheidsinstanties AI inzetten om informatiestromen te transformeren, de efficiëntie te verhogen en uiteindelijk burgers beter van dienst te zijn.
Geef een reactie