LLM voor vakkennis kan ambtenaren sneller toegang geven tot grote hoeveelheden informatie, maar de techniek vraagt om meer dan een goede zoekfunctie. Een nieuwe Nederlandse handreiking laat zien dat privacy, auteursrecht, transparantie, menselijke controle en ambtelijk vakmanschap vanaf het ontwerp moeten worden meegenomen.
De Adviesfunctie Verantwoord Datagebruik onderzocht samen met Pels Rijcken en Highberg een concrete overheidsusecase. Het ging om een minimum viable product waarmee ambtenaren grote hoeveelheden bronnen kunnen doorzoeken, automatisch samenvattingen kunnen laten maken en vragen kunnen stellen met bronverwijzingen. De toepassing draait op Microsoft Azure en gebruikt Azure OpenAI en Azure Search.
Juridische basis
De handreiking maakt duidelijk dat organisaties niet kunnen volstaan met een technische beoordeling. Bij het gebruik van generatieve AI spelen ook privacyrecht en intellectueel eigendomsrecht een centrale rol. Zo moet een organisatie weten welke gegevens zij verwerkt, welke grondslag daarvoor geldt en hoe zij omgaat met persoonsgegevens. Ook auteursrechten en databankrechten kunnen relevant zijn bij het verzamelen en verwerken van broninformatie.
Actuele, juiste en representatieve bronnen gebruiken
Daar komt een bestuurlijke verantwoordelijkheid bij. Voor overheidsorganisaties zijn de algemene beginselen van behoorlijk bestuur een belangrijk kader. Zorgvuldigheid, evenredigheid en transparantie moeten ook bij een AI-toepassing herkenbaar blijven. De handreiking benadrukt daarom dat organisaties actuele, juiste en representatieve bronnen moeten gebruiken en aandacht moeten houden voor mogelijke vooroordelen in datasets.
AI-governance voorkomt blind vertrouwen
De juridische analyse is niet het enige sterke onderdeel. De auteurs besteden uitgebreid aandacht aan ethische gevolgen. AI kan tijd besparen, kennis beter toegankelijk maken en beleid beter onderbouwen. Tegelijkertijd kan afhankelijkheid van AI leiden tot kenniserosie, tunnelvisie en minder kritisch denken. Ook bestaat het risico dat gebruikers vertrouwen op verouderde informatie of op overtuigend geformuleerde, maar onjuiste AI-output.
Daarmee raakt de handreiking aan een belangrijk onderscheid. Een AI-systeem kan informatie ontsluiten, maar mag het professionele oordeel niet ongemerkt vervangen. De organisatie moet medewerkers verantwoordelijk houden voor de kwaliteit van hun werk en voor de acceptatie van de uitkomsten. Training en duidelijke gebruiksrichtlijnen zijn daarbij geen bijzaak.
Transparantie blijft randvoorwaarde
[Foto: lil artsy | Pexels\
Ook transparantie krijgt een concrete invulling. Gebruikers moeten weten wanneer zij met een AI-systeem werken. De handreiking wijst daarnaast op transparantie over AI-gegenereerde informatie wanneer een toepassing het publiek informeert over onderwerpen van algemeen belang. Daarmee sluit de aanpak aan op de transparantieverplichtingen uit de AI-verordening.
Opvallend is dat de ethische analyse geen grote ethische bezwaren constateert. Wel ziet het rapport duidelijke voorwaarden voor verantwoord gebruik. De menselijke maat moet behouden blijven, medewerkers moeten voldoende contact houden met hun werkveld en organisaties moeten periodiek beoordelen wat de toepassing doet met werkprocessen, kwaliteit en autonomie.
Verantwoord AI-gebruik
De bredere betekenis van deze handreiking zit daarom niet alleen in de specifieke overheidsusecase. De aanpak laat zien hoe organisaties AI kunnen beoordelen voordat een toepassing onderdeel wordt van dagelijkse processen. Dat past bij de bredere rol van de Adviesfunctie Verantwoord Datagebruik, die vanuit de Interbestuurlijke Datastrategie kennis deelt over juridische, technische en ethische vraagstukken rond datagebruik.
Verschil tussen AI inzetten en AI verantwoord inzetten
Voor organisaties die LLM’s willen inzetten voor kennisontsluiting ligt daar een duidelijke les. Begin niet met de vraag welk model het beste antwoord geeft. Begin met de vraag welke kennis toegankelijk moet worden, welke waarden daarbij beschermd moeten blijven en wie uiteindelijk verantwoordelijk is voor het resultaat. Juist daar maakt de handreiking het verschil tussen AI inzetten en AI verantwoord inzetten.
LLM voor vakkennis vraagt om verantwoord gebruik
Overheid krijgt AI-handvatten voor kennis
LLM voor vakkennis kan ambtenaren sneller toegang geven tot grote hoeveelheden informatie, maar de techniek vraagt om meer dan een goede zoekfunctie. Een nieuwe Nederlandse handreiking laat zien dat privacy, auteursrecht, transparantie, menselijke controle en ambtelijk vakmanschap vanaf het ontwerp moeten worden meegenomen.
De Adviesfunctie Verantwoord Datagebruik onderzocht samen met Pels Rijcken en Highberg een concrete overheidsusecase. Het ging om een minimum viable product waarmee ambtenaren grote hoeveelheden bronnen kunnen doorzoeken, automatisch samenvattingen kunnen laten maken en vragen kunnen stellen met bronverwijzingen. De toepassing draait op Microsoft Azure en gebruikt Azure OpenAI en Azure Search.
Juridische basis
De handreiking maakt duidelijk dat organisaties niet kunnen volstaan met een technische beoordeling. Bij het gebruik van generatieve AI spelen ook privacyrecht en intellectueel eigendomsrecht een centrale rol. Zo moet een organisatie weten welke gegevens zij verwerkt, welke grondslag daarvoor geldt en hoe zij omgaat met persoonsgegevens. Ook auteursrechten en databankrechten kunnen relevant zijn bij het verzamelen en verwerken van broninformatie.
Daar komt een bestuurlijke verantwoordelijkheid bij. Voor overheidsorganisaties zijn de algemene beginselen van behoorlijk bestuur een belangrijk kader. Zorgvuldigheid, evenredigheid en transparantie moeten ook bij een AI-toepassing herkenbaar blijven. De handreiking benadrukt daarom dat organisaties actuele, juiste en representatieve bronnen moeten gebruiken en aandacht moeten houden voor mogelijke vooroordelen in datasets.
AI-governance voorkomt blind vertrouwen
De juridische analyse is niet het enige sterke onderdeel. De auteurs besteden uitgebreid aandacht aan ethische gevolgen. AI kan tijd besparen, kennis beter toegankelijk maken en beleid beter onderbouwen. Tegelijkertijd kan afhankelijkheid van AI leiden tot kenniserosie, tunnelvisie en minder kritisch denken. Ook bestaat het risico dat gebruikers vertrouwen op verouderde informatie of op overtuigend geformuleerde, maar onjuiste AI-output.
Daarmee raakt de handreiking aan een belangrijk onderscheid. Een AI-systeem kan informatie ontsluiten, maar mag het professionele oordeel niet ongemerkt vervangen. De organisatie moet medewerkers verantwoordelijk houden voor de kwaliteit van hun werk en voor de acceptatie van de uitkomsten. Training en duidelijke gebruiksrichtlijnen zijn daarbij geen bijzaak.
Transparantie blijft randvoorwaarde
Ook transparantie krijgt een concrete invulling. Gebruikers moeten weten wanneer zij met een AI-systeem werken. De handreiking wijst daarnaast op transparantie over AI-gegenereerde informatie wanneer een toepassing het publiek informeert over onderwerpen van algemeen belang. Daarmee sluit de aanpak aan op de transparantieverplichtingen uit de AI-verordening.
Opvallend is dat de ethische analyse geen grote ethische bezwaren constateert. Wel ziet het rapport duidelijke voorwaarden voor verantwoord gebruik. De menselijke maat moet behouden blijven, medewerkers moeten voldoende contact houden met hun werkveld en organisaties moeten periodiek beoordelen wat de toepassing doet met werkprocessen, kwaliteit en autonomie.
Verantwoord AI-gebruik
De bredere betekenis van deze handreiking zit daarom niet alleen in de specifieke overheidsusecase. De aanpak laat zien hoe organisaties AI kunnen beoordelen voordat een toepassing onderdeel wordt van dagelijkse processen. Dat past bij de bredere rol van de Adviesfunctie Verantwoord Datagebruik, die vanuit de Interbestuurlijke Datastrategie kennis deelt over juridische, technische en ethische vraagstukken rond datagebruik.
Voor organisaties die LLM’s willen inzetten voor kennisontsluiting ligt daar een duidelijke les. Begin niet met de vraag welk model het beste antwoord geeft. Begin met de vraag welke kennis toegankelijk moet worden, welke waarden daarbij beschermd moeten blijven en wie uiteindelijk verantwoordelijk is voor het resultaat. Juist daar maakt de handreiking het verschil tussen AI inzetten en AI verantwoord inzetten.