AI en Open Source - Waarom transparantie geen luxe is
Deze blog is nog in concept-fase en wordt mogelijk nog aangepast voor publicatie.
Kunstmatige intelligentie kan een krachtige partner zijn voor de overheid - maar alleen als we begrijpen hoe het werkt en kunnen verantwoorden wat het doet. Open source is daarbij geen technische hobby, maar een bestuurlijke noodzaak.
Het Probleem met Gesloten AI
Stel je voor: een AI-systeem adviseert een ambtenaar over een belangrijke beslissing. Maar niemand weet:
- Hoe het model precies werkt
- Op welke data het getraind is
- Waarom het tot deze conclusie komt
- Of er bias in het systeem zit
Dit is onacceptabel voor een overheid die transparant en verantwoordelijk moet zijn.
De Risico's van Black Box AI
- Onzichtbare modellen: We zien alleen input en output
- Onbekende trainingsdata: Welke vooroordelen zitten erin?
- Oncontroleerbaar gedrag: Waarom deze uitkomst?
- Juridische risico's: Kunnen we besluiten verantwoorden?
- Ethische risico's: Hoe zorgen we voor eerlijkheid?
Argument: De overheid kan geen besluiten laten ondersteunen door systemen die zij niet begrijpt.
Wat Open Source Mogelijk Maakt
Open source betekent dat de broncode, de modellen en bij voorkeur ook de trainingsdata openbaar en inspecteerbaar zijn. Voor de overheid levert dit cruciale voordelen op:
1. Inzicht in Werking
Je kunt zien hoe het AI-model tot zijn conclusies komt. Geen black box, maar een transparant proces.
2. Controleerbaarheid
Onafhankelijke experts kunnen het systeem doorlichten op fouten, bias en ethische problemen.
3. Hergebruik tussen Gemeenten
Wat gemeente A ontwikkelt, kan gemeente B hergebruiken en verbeteren. Geen dubbel werk, geen dubbele kosten.
4. Gezamenlijke Verbetering
Samen werken aan betere AI. Bugs worden sneller gevonden en opgelost. Nieuwe features komen iedereen ten goede.
5. Geen Vendor Lock-in
Je bent niet afhankelijk van één commerciële partij. Je behoudt controle over je eigen infrastructuur.
Argument: Open source is een bestuurlijke keuze, geen technische hobby.
Common Ground: Het Open Source Ecosysteem voor de Overheid
Hier komt Common Ground om de hoek kijken - het programma waarin Nederlandse gemeenten samenwerken aan een open, gedeelde digitale infrastructuur.
De Principes van Common Ground
-
Data gescheiden van applicaties
- Data blijft in bronregisters
- Applicaties gebruiken API's
- Hergebruik van data zonder duplicatie
-
Open standaarden
- Iedereen kan integreren
- Geen proprietary formats
- Interoperabiliteit als uitgangspunt
-
Open source
- Code is publiek eigendom
- Samen ontwikkelen
- Kennisopbouw binnen de overheid
-
Samenwerken in plaats van inkopen
- Publiek geld → publiek eigendom
- Minder afhankelijkheid van leveranciers
- Meer controle, lagere kosten
Waarom dit Perfect Past bij AI
AI werkt het beste op:
- Gedeelde, goed beschreven data (Common Ground bronregisters)
- Transparante systemen (open source)
- Controleerbare processen (geen black boxes)
Dit zijn precies de uitgangspunten van Common Ground!
Open Source en AI: Een Logische Combinatie
Modellen Inspecteerbaar
Je kunt zien hoe het AI-model is opgebouwd, welke technieken het gebruikt, en waar eventuele zwakke plekken zitten.
Prompts en Regels Reproduceerbaar
De instructies aan de AI (prompts) en de regels waaraan het moet voldoen zijn gedocumenteerd en te controleren.
Ethische Kaders Afdwingbaar
Je kunt technische guardrails inbouwen die ervoor zorgen dat AI binnen ethische grenzen blijft.
Training Data Transparant
Bij echte open source AI weet je op welke data het model getraind is - essentieel voor het beoordelen van mogelijke bias.
Vertrouwen door Ontwerp
Een democratische overheid vraagt om democratische AI:
Voor Burgers
- Recht op uitleg over beslissingen
- Vertrouwen in overheidsprocessen
- Inzicht in hoe AI gebruikt wordt
Voor Ambtenaren
- Kunnen verantwoorden waarom ze AI-adviezen volgen
- Begrijpen wat het systeem doet
- Controle over de tools die ze gebruiken
Voor Bestuurders
- Kunnen sturen op ontwikkeling
- Kunnen verantwoorden aan de gemeenteraad
- Kunnen ingrijpen bij problemen
Praktisch Voorbeeld: AI in de Gemeentelijke Dienstverlening
Stel: een gemeente wil AI inzetten om burgers te helpen met het vinden van de juiste regeling.
Gesloten AI-scenario:
- Koopt kant-en-klaar systeem van leverancier X
- Niemand weet hoe het werkt
- Bij problemen afhankelijk van leverancier
- Andere gemeenten beginnen opnieuw
Open Source AI-scenario:
- Gemeente A ontwikkelt samen met B en C
- Code en model zijn openbaar
- Gemeente D kan het hergebruiken
- Iedereen draagt verbeteringen bij
- Common Ground zorgt voor gestandaardiseerde data-toegang
De Modelvergelijking
In onze volgende blog gaan we dieper in op concrete AI-modellen zoals Mistral, en waarom sommige modellen populairder zijn in de Nederlandse overheid.
Spoiler: het gaat niet alleen om technische superioriteit, maar ook om transparantie, controleerbaarheid en ethische overwegingen.
Kritische Vraag
Is open source echt de enige manier om AI transparant en eerlijk te houden, of kunnen we ook met gesloten software voldoende controle houden?
Met andere woorden: is open source echt onmisbaar, of vooral een ideaal?
Ons antwoord: voor een democratische overheid is open source niet optioneel - het is een vereiste.
Conclusie
Zonder open source geen democratische AI.
Als we AI willen inzetten in de publieke sector, moeten we kunnen uitleggen hoe het werkt. We moeten kunnen verantwoorden wat het doet. We moeten kunnen ingrijpen als het fout gaat.
Open source maakt dit mogelijk. Common Ground biedt het ecosysteem. Samen vormen ze de basis voor verantwoorde AI in de overheid.
De vraag is niet óf we open source moeten gebruiken voor AI. De vraag is hoe snel we dit kunnen implementeren.
Volgende blog: AI en Data - Waarom de datalaag alles bepaalt
Gerelateerd: Common Ground | NL Design System