AI-governance: wie is verantwoordelijk als het misgaat?

AI-governance klinkt abstract, maar de kernvraag is simpel: als een AI-systeem een fout maakt of een vreemde uitkomst geeft, wie merkt dat op, wie grijpt in, en wie is uiteindelijk verantwoordelijk?

Waarom dit vaak niet is vastgelegd

Bij de bouw van een AI-systeem ligt de aandacht meestal bij "werkt het", niet bij "wat als het niet werkt". Governance wordt daardoor vaak pas achteraf, na een incident, alsnog ingericht, terwijl het vooraf geregeld had moeten zijn.

De drie vragen die governance beantwoordt

Wie is eigenaar van het systeem? Niet "IT" in het algemeen, maar een specifieke persoon of rol die verantwoordelijk is voor de werking en de uitkomsten.

Wanneer moet een mens ingrijpen? Vooraf vastgestelde grenzen, bijvoorbeeld een afwijking boven een bepaald bedrag of een situatie die niet in de trainingsdata voorkwam, die automatisch een mens erbij halen in plaats van dat het systeem zelfstandig doorgaat.

Hoe wordt een fout gemeld en hersteld? Een duidelijk pad: wie meldt het, wie onderzoekt het, en hoe wordt voorkomen dat dezelfde fout zich herhaalt.

Hoe dit zich verhoudt tot de AI Act

Governance is niet alleen goede praktijk, het is ook waar de AI Act om vraagt bij risicovollere toepassingen: documentatie, menselijk toezicht, en een duidelijke verantwoordingsstructuur. Lees meer over de AI Act.

Een praktisch startpunt

Voor elk AI-systeem dat je gebruikt: leg vast wie de eigenaar is, wat de grenzen zijn waarbinnen het zelfstandig mag handelen, en waar een fout gemeld kan worden. Dit hoeft geen zwaar document te zijn: een half A4 per systeem is vaak al genoeg om de basis op orde te hebben.

Governance is één onderdeel van een goede AI-implementatie. Meer lezen? Bekijk AVG en AI: wat mag wel, wat mag niet en de AI Act-tijdlijn voor 2026 en 2027, of blader door de kennisbank.

Veelgestelde vragen

Is dit alleen relevant voor grote, risicovolle AI-systemen? Nee, ook bij eenvoudige toepassingen is het nuttig om vooraf te weten wie verantwoordelijk is. Het voorkomt onduidelijkheid zodra er iets misgaat.

Wie binnen de organisatie moet dit oppakken? De proceseigenaar van het onderliggende proces, niet per se IT. Governance gaat over verantwoordelijkheid voor de uitkomst, niet over techniek alleen.

Hoe vaak moet dit worden herzien? Bij elke significante wijziging aan het systeem, en verder minimaal jaarlijks.

Plan een kennismaking om governance mee te nemen in je implementatie.