AI-veiligheid gaat niet alleen over het voorkomen van incidenten. Goed ontworpen AI-veiligheid kan juist zorgen voor meer menselijke controle, meer vertrouwen in digitalisering en meer strategische ruimte voor Europa. De analyse van Yuri van Geest laat zien waarom veiligheid en innovatie niet tegenover elkaar hoeven te staan.
AI ontwikkelt zich snel en krijgt steeds meer toegang tot data, systemen en processen. Daardoor verandert ook de betekenis van AI-governance. Het gaat niet meer alleen om de vraag of een model goede antwoorden geeft. Organisaties moeten ook weten wat een AI-systeem zelfstandig kan doen, welke bevoegdheden het heeft en of mensen nog daadwerkelijk kunnen ingrijpen.
Beheersbare innovatie
Yuri van Geest koppelt AI-veiligheid in zijn recente analyse aan macht, geopolitiek, energie en menselijke agency. Hij beschrijft meerdere scenario’s voor de komende twaalf maanden en benadrukt dat zijn percentages geen wetenschappelijke waarschijnlijkheden zijn, maar persoonlijke inschattingen. Juist dat onderscheid is belangrijk. Niet iedere voorspelling uit zijn long-read is hard bewijs, maar de onderliggende ontwerpvragen zijn wel relevant.
Een belangrijk punt is dat AI-veiligheid niet pas moet beginnen wanneer regelgeving dat verplicht. Van Geest pleit voor engineering, incidentanalyse, testen, beperkte toegangsrechten en onafhankelijke evaluatie. Dat sluit aan bij de ontwikkeling van Europese AI-regels. Sinds augustus 2026 worden belangrijke onderdelen van de Europese AI Act gehandhaafd, waaronder regels voor general-purpose AI, transparantie en AI-geletterdheid.
Dat creëert een interessante verschuiving. Veiligheid wordt niet langer alleen een juridische verplichting, maar kan onderdeel worden van het ontwerp van digitale producten en processen.
Menselijke controle
Van Geest gebruikt menselijke agency als centraal begrip. Daarmee bedoelt hij het vermogen van mensen en organisaties om zelf keuzes te maken en daadwerkelijk te kunnen handelen. Dat wordt belangrijker wanneer AI-systemen steeds autonomer worden.
De Europese AI Act legt bij hoogrisicosystemen daarom nadruk op menselijke controle. Mensen moeten systemen kunnen monitoren, interpreteren en waar nodig overrulen. UNESCO hanteert een vergelijkbare benadering. De organisatie stelt dat AI menselijke verantwoordelijkheid niet mag vervangen en koppelt AI-governance aan mensenrechten, transparantie, privacy, veiligheid en menselijke supervisie.
Dat levert een concreet voordeel op. Een organisatie die haar AI-systemen begrijpt, kan sneller ingrijpen, eenvoudiger van leverancier veranderen en beter bepalen waar autonomie wel en niet wenselijk is. AI wordt daarmee geen black box waarop de organisatie steeds afhankelijker wordt, maar een bestuurbare component van de digitale infrastructuur.
Europese AI
[Afbeelding: Pete Linforth | Pixabay]
Daar ligt ook een duidelijke Europese dimensie. Stanford HAI constateert dat AI-soevereiniteit steeds belangrijker wordt in nationaal beleid. Europa heeft zijn publieke AI-rekeninfrastructuur de afgelopen jaren uitgebreid, terwijl landen wereldwijd investeren in eigen AI-capaciteit en data-infrastructuur.
Europese digitale autonomie betekent daarbij niet dat Europa alles zelf moet bouwen. Het gaat ook om keuzevrijheid. Organisaties moeten kunnen bepalen welke modellen zij gebruiken, waar data worden verwerkt, onder welke jurisdictie een leverancier valt en hoe eenvoudig zij kunnen overstappen.
Juist onafhankelijke evaluatie en interoperabiliteit kunnen daarin een Europese kans worden. Wanneer prestaties van AI-systemen controleerbaar en vergelijkbaar worden, ontstaat ruimte voor nieuwe leveranciers, gespecialiseerde AI-toepassingen en Europese innovatie. Veiligheid kan zo bijdragen aan een diverser technologisch ecosysteem in plaats van uitsluitend aan meer controle door de grootste spelers.
AI-governance
De positieve impact van deze ontwikkeling gaat uiteindelijk verder dan cybersecurity. Goede AI-governance kan vertrouwen vergroten bij medewerkers, klanten, bestuurders en publieke organisaties. Duidelijke verantwoordelijkheden maken het bovendien eenvoudiger om AI toe te passen in sectoren waar fouten grote gevolgen kunnen hebben.
De echte winst van AI-veiligheid zit daarmee niet alleen in het voorkomen van een incident
De Raad van Europa kiest daarbij nadrukkelijk voor een benadering waarin AI verenigbaar moet zijn met mensenrechten, democratie en de rechtsstaat, terwijl technologische vooruitgang en innovatie mogelijk blijven. De Europese Unie ratificeerde die internationale AI-conventie in mei 2026.
De echte winst van AI-veiligheid zit daarmee niet alleen in het voorkomen van een incident. Het gaat om het bouwen van een digitale samenleving waarin organisaties sneller kunnen innoveren zonder de controle over hun technologie, data en besluitvorming uit handen te geven.
AI-veiligheid hoeft innovatie dus niet af te remmen. Mits veiligheid vanaf het ontwerp onderdeel wordt van AI-governance, kan het juist de basis vormen voor meer vertrouwen, meer keuzevrijheid en meer menselijke agency.
AI-veiligheid versterkt menselijke agency
Veilige AI geeft Europa meer handelingsruimte
AI-veiligheid gaat niet alleen over het voorkomen van incidenten. Goed ontworpen AI-veiligheid kan juist zorgen voor meer menselijke controle, meer vertrouwen in digitalisering en meer strategische ruimte voor Europa. De analyse van Yuri van Geest laat zien waarom veiligheid en innovatie niet tegenover elkaar hoeven te staan.
AI ontwikkelt zich snel en krijgt steeds meer toegang tot data, systemen en processen. Daardoor verandert ook de betekenis van AI-governance. Het gaat niet meer alleen om de vraag of een model goede antwoorden geeft. Organisaties moeten ook weten wat een AI-systeem zelfstandig kan doen, welke bevoegdheden het heeft en of mensen nog daadwerkelijk kunnen ingrijpen.
Beheersbare innovatie
Yuri van Geest koppelt AI-veiligheid in zijn recente analyse aan macht, geopolitiek, energie en menselijke agency. Hij beschrijft meerdere scenario’s voor de komende twaalf maanden en benadrukt dat zijn percentages geen wetenschappelijke waarschijnlijkheden zijn, maar persoonlijke inschattingen. Juist dat onderscheid is belangrijk. Niet iedere voorspelling uit zijn long-read is hard bewijs, maar de onderliggende ontwerpvragen zijn wel relevant.
Een belangrijk punt is dat AI-veiligheid niet pas moet beginnen wanneer regelgeving dat verplicht. Van Geest pleit voor engineering, incidentanalyse, testen, beperkte toegangsrechten en onafhankelijke evaluatie. Dat sluit aan bij de ontwikkeling van Europese AI-regels. Sinds augustus 2026 worden belangrijke onderdelen van de Europese AI Act gehandhaafd, waaronder regels voor general-purpose AI, transparantie en AI-geletterdheid.
Dat creëert een interessante verschuiving. Veiligheid wordt niet langer alleen een juridische verplichting, maar kan onderdeel worden van het ontwerp van digitale producten en processen.
Menselijke controle
Van Geest gebruikt menselijke agency als centraal begrip. Daarmee bedoelt hij het vermogen van mensen en organisaties om zelf keuzes te maken en daadwerkelijk te kunnen handelen. Dat wordt belangrijker wanneer AI-systemen steeds autonomer worden.
De Europese AI Act legt bij hoogrisicosystemen daarom nadruk op menselijke controle. Mensen moeten systemen kunnen monitoren, interpreteren en waar nodig overrulen. UNESCO hanteert een vergelijkbare benadering. De organisatie stelt dat AI menselijke verantwoordelijkheid niet mag vervangen en koppelt AI-governance aan mensenrechten, transparantie, privacy, veiligheid en menselijke supervisie.
Dat levert een concreet voordeel op. Een organisatie die haar AI-systemen begrijpt, kan sneller ingrijpen, eenvoudiger van leverancier veranderen en beter bepalen waar autonomie wel en niet wenselijk is. AI wordt daarmee geen black box waarop de organisatie steeds afhankelijker wordt, maar een bestuurbare component van de digitale infrastructuur.
Europese AI
Daar ligt ook een duidelijke Europese dimensie. Stanford HAI constateert dat AI-soevereiniteit steeds belangrijker wordt in nationaal beleid. Europa heeft zijn publieke AI-rekeninfrastructuur de afgelopen jaren uitgebreid, terwijl landen wereldwijd investeren in eigen AI-capaciteit en data-infrastructuur.
Europese digitale autonomie betekent daarbij niet dat Europa alles zelf moet bouwen. Het gaat ook om keuzevrijheid. Organisaties moeten kunnen bepalen welke modellen zij gebruiken, waar data worden verwerkt, onder welke jurisdictie een leverancier valt en hoe eenvoudig zij kunnen overstappen.
Juist onafhankelijke evaluatie en interoperabiliteit kunnen daarin een Europese kans worden. Wanneer prestaties van AI-systemen controleerbaar en vergelijkbaar worden, ontstaat ruimte voor nieuwe leveranciers, gespecialiseerde AI-toepassingen en Europese innovatie. Veiligheid kan zo bijdragen aan een diverser technologisch ecosysteem in plaats van uitsluitend aan meer controle door de grootste spelers.
AI-governance
De positieve impact van deze ontwikkeling gaat uiteindelijk verder dan cybersecurity. Goede AI-governance kan vertrouwen vergroten bij medewerkers, klanten, bestuurders en publieke organisaties. Duidelijke verantwoordelijkheden maken het bovendien eenvoudiger om AI toe te passen in sectoren waar fouten grote gevolgen kunnen hebben.
De Raad van Europa kiest daarbij nadrukkelijk voor een benadering waarin AI verenigbaar moet zijn met mensenrechten, democratie en de rechtsstaat, terwijl technologische vooruitgang en innovatie mogelijk blijven. De Europese Unie ratificeerde die internationale AI-conventie in mei 2026.
De echte winst van AI-veiligheid zit daarmee niet alleen in het voorkomen van een incident. Het gaat om het bouwen van een digitale samenleving waarin organisaties sneller kunnen innoveren zonder de controle over hun technologie, data en besluitvorming uit handen te geven.
AI-veiligheid hoeft innovatie dus niet af te remmen. Mits veiligheid vanaf het ontwerp onderdeel wordt van AI-governance, kan het juist de basis vormen voor meer vertrouwen, meer keuzevrijheid en meer menselijke agency.