Niet remmen, wel richting geven

Een paar jaar geleden was AI nog iets voor specialisten. Inmiddels is het breed toegankelijk geworden, schrijft het e-mails, vat het rapporten samen, maakt het presentaties en helpt het medewerkers met analyses of beleidsstukken. De drempel is vrijwel verdwenen.

En precies daar ontstaat ook een risico.

Want hoe makkelijker AI wordt, hoe verleidelijker het wordt om output snel over te nemen. Zeker onder tijdsdruk. Terwijl de overheid juist zorgvuldig, uitlegbaar en controleerbaar moet blijven werken. Verantwoord gebruik van AI gaat daarom niet alleen over techniek of wetgeving. Het gaat vooral over mensen.

De echte uitdaging is inmiddels niet meer óf medewerkers AI gaan gebruiken, maar of organisaties hen voldoende handvatten geven om dat verantwoord te doen.

Waarom de overheid extra zorgvuldig moet zijn

Een hallucinerende chatbot bij een webshop is vervelend. Een foutieve samenvatting binnen een overheidsproces kan directe impact hebben op burgers. Dat maakt de inzet van AI binnen de overheid fundamenteel anders dan in veel commerciële omgevingen. Overheidsorganisaties werken immers met publieke waarden, grondrechten en maatschappelijke verantwoordelijkheid.

Juist daarom blijft menselijke betrokkenheid en controle essentieel.

Of het nu gaat om beleidsvorming, dienstverlening of interne processen: AI kan ondersteunen, versnellen en structureren — maar mag menselijke beoordeling niet ongemerkt vervangen.

De menselijke maat moet dus niet achteraf worden toegevoegd, maar vanaf het begin onderdeel zijn van het ontwerp.

Dat betekent ook dat organisaties bewust moeten nadenken over vragen als:

• Wanneer is AI geschikt?
• Wanneer juist niet?
• Wie controleert de output?
• Wat gebeurt er als de output fout blijkt?
• Wie blijft eindverantwoordelijk?

AI is een hulpmiddel. Geen automatische waarheidmachine.

De grootste valkuil: schijnzekerheid

AI klinkt vaak overtuigend. En juist dat maakt het riskant.

We zien steeds vaker documenten, memo’s en e-mails die ogenschijnlijk zorgvuldig zijn opgesteld, maar bij nadere inspectie slordigheden, onwaarheden of verouderde informatie bevatten — vaak duidelijk gegenereerd door een taalmodel.

Het probleem is niet alleen dat AI fouten maakt. Het probleem is dat die fouten vaak pas laat worden ontdekt, waarna de verantwoordelijkheid terechtkomt bij de mensen die de inhoud moeten controleren en herstellen.

En dat heeft een prijs.

Slecht gecontroleerde AI-output leidt uiteindelijk tot méér werk voor de professionals die verantwoordelijk blijven voor kwaliteit en inhoud. Zij moeten corrigeren, verifiëren en herstructureren wat in eerste instantie “af” leek — vaak onder tijdsdruk en zonder extra capaciteit.

Daarmee verschuift niet alleen het werk. Er gebeurt iets fundamentelers: erosie van vertrouwen in elkaar en elkaars werk. Collega’s gaan zich afvragen of stukken nog wel echt zijn geschreven, doordacht en gecontroleerd — of slechts “gegenereerd en doorgestuurd”.

Dat raakt direct aan de samenwerking in teams. Waar eerder impliciet vertrouwen was in elkaars werk, ontstaat nu vaker de vraag: is dit nog wel door een mens gecontroleerd?

Een mooi geformuleerde alinea is immers nog geen correcte alinea.

En precies daarom vraagt dit om een andere manier van werken: niet blind vertrouwen op snelheid of vorm, maar bewust blijven toetsen op kwaliteit, context en risico.

Kwaliteit begint bij de input

De kwaliteit van AI-output valt of staat met de kwaliteit van de input.

Veel mensen behandelen internetinformatie alsof het automatisch de actuele waarheid is. Maar vraag een willekeurige websitebeheerder eens hoe zeker hij of zij is over alle informatie die online staat.

AI neemt die onzekerheid vervolgens gewoon mee.

Garbage in, garbage out geldt nog steeds.

Daarom vraagt verantwoord AI-gebruik om:

• betrouwbare bronnen;
• actuele informatie;
• duidelijke context;
• menselijke validatie.

Steeds meer organisaties proberen AI daarom te ‘gronden’ in gecontroleerde interne bronnen, zodat output minder afhankelijk wordt van willekeurige internetinformatie. Het RAG-proces (Retrieval-Augmented Generation).

Maar ook dan blijft kritisch beoordelen noodzakelijk.

Want AI genereert geen feitencontrole. Het genereert waarschijnlijkheden.

Medewerkers trainen is geen bijzaak meer

De meeste risico’s ontstaan niet door kwaadwillende systemen, maar door verkeerd gebruik.

Daarom is AI-geletterdheid inmiddels geen luxe meer. Medewerkers moeten begrijpen wat AI wel kan, maar vooral ook wat AI níet kan.

Dat gaat veel verder dan leren prompten of experimenteren met ChatGPT.

Het gaat juist om vaardigheden zoals:

• AI-output kritisch beoordelen;
• risico’s herkennen en benoemen;
• weten wanneer AI geschikt is;
• verantwoord omgaan met gevoelige informatie;
• begrijpen hoe bias en hallucinaties ontstaan;
• en herkennen wanneer menselijke beoordeling noodzakelijk blijft.

Een belangrijk risico hierbij is automation bias: de menselijke neiging om systemen sneller te vertrouwen zodra iets geautomatiseerd of ‘slim’ oogt. Hoe overtuigender AI wordt, hoe belangrijker kritisch denken wordt.

Meer weten over AI-geletterdheid, AI-Act en praktische toepassing binnen de overheid? Bekijk de onze AI opleiding hier:https://www.dataprofessionalsoverheid.nl/opleiding-ai

Geef ruimte om veilig te experimenteren

Te veel organisaties schieten momenteel in twee uitersten:

óf alles blokkeren, óf alles vrijlaten.

Maar verantwoord gebruik vraagt juist om gecontroleerde experimenteerruimte. Want als medewerkers geen veilige omgeving krijgen om AI te verkennen, gaan ze vaak zelf experimenteren buiten zicht van de organisatie.

Juist daarom zijn duidelijke kaders belangrijk:

• welke tools zijn toegestaan?
• welke data mag gebruikt worden?
• wanneer moet een mens controleren?
• wat documenteer je?
• wanneer stop je een experiment?

Denk hierbij aan praktische ‘guardrails’: organisatorische en technische vangrails die helpen om risico’s vroegtijdig te signaleren.

Niet om innovatie af te remmen, maar om verantwoord te kunnen pionieren. Verantwoord gebruik betekent namelijk niet dat iedere toepassing perfect of risicoloos moet zijn. Het betekent dat organisaties bewust omgaan met onzekerheden, risico’s en controle.

Van GenAI naar AI-agents

De discussie gaat nu nog vaak over generatieve AI: teksten schrijven, samenvatten, brainstormen of analyses ondersteunen. Maar de volgende stap dient zich al aan: AI-agents.

Systemen die niet alleen reageren op opdrachten, maar ook zelfstandig acties uitvoeren, processen koppelen en in sommige gevallen autonoom doelen nastreven. En daarmee verschuift ook het risico.

Waar een chatbot vooral output genereert, kunnen agents daadwerkelijk handelen. Juist daarom wordt menselijke controle belangrijker in plaats van minder belangrijk. Hoe autonomer systemen worden, hoe bewuster organisaties moeten nadenken over toezicht, verantwoordelijkheid en ingrijpen.

Daarom blijft Human-in-the-Loop essentieel. Niet als formaliteit. Maar als fundamenteel veiligheidsmechanisme. Menselijke beoordeling blijft voorlopig de belangrijkste beveiliging tegen hallucinaties, fouten en ongewenste gevolgen.

AI binnen de overheid vraagt om meer dan alleen slimme tooling. Het vraagt om AI-geletterdheid, duidelijke kaders en medewerkers die begrijpen waar de kansen én risico’s liggen.