Vijf praktische handvatten voor good governance in tijden van AI
Vijf praktische handvatten voor good governance in tijden van AI
Bestuurders moeten uit kunnen leggen hoe besluiten tot stand zijn gekomen. Maar hoe doet u dat wanneer analyses, scenario’s en adviezen steeds vaker uit AI-systemen komen? Governance-expert John Hijmans deelt vijf praktische handvatten die bestuurders helpen om kunstmatige intelligentie niet in de weg te laten staan van good governance.
De essentie van good governance? Het gedrag en de keuzes van uw organisatie op een heldere manier uitleggen aan belanghebbenden. Hoe komen besluiten tot stand? Hoe wegen de bestuurders belangen, risico's en kansen af? Hoe transparant is dat proces en op welke gronden maakt u welke keuzes? Een bedrijf dat good governance hoog in het vaandel draagt, heeft de antwoorden op al deze vragen.
Dat is belangrijke informatie. Vroeger waren beurskoersen vooral gebaseerd op de feitelijke waarde van bedrijven. Inmiddels is ook van belang of bestuurders in staat zijn uit te leggen hoe ze hun bedrijf sturen en welke keuzes en afwegingen ze daarin maken. De kwaliteit van het bestuur speelt daarmee ook een rol in de waardering van bedrijven.
Daar ontstaat een interessant governancevraagstuk. Want hoe leg je als bestuurder uit waarom een bepaald besluit is genomen, als AI een belangrijke rol speelde bij de voorbereiding ervan? Bij klassieke besluitvorming is meestal goed te reconstrueren hoe een beslissing tot stand kwam. Er zijn immers documenten, notulen, rapporten en memo’s. Er staan afspraken in agenda’s. Er waren medewerkers bij betrokken. Iedere beslissing is het resultaat van een duidelijk proces.
AI-modellen kunnen in korte tijd complexe analyses of rapporten genereren. Vaak is zo’n model een black box. Hoe modellen getraind zijn en met welke data ze werken, is niet altijd duidelijk. Bovendien kunnen AI-systemen overtuigende output genereren die feitelijk onjuist is. Ze kunnen hallucineren, bevooroordeelde uitkomsten produceren of verbanden leggen die niet valide zijn.
Daarmee wordt het bestuurlijk borgen van betrouwbare AI-uitkomsten een belangrijke uitdaging. Bestuurders moeten de kwaliteit van AI-analyses en adviezen kunnen beoordelen, risico's herkennen en voldoende zicht houden op de gebruikte technologie. Daarvoor hebben ze kennis nodig, zonder ieder AI-model tot in detail te hoeven begrijpen.
Het antwoord zit ‘m niet alleen in de techniek. De snelheid van AI-ontwikkeling maakt het onmogelijk om elk model volledig te doorgronden of iedere technologische ontwikkeling bij te houden. Dat hoeft ook niet. De belangrijkste vraag is welke governanceprincipes je organiseert rondom het gebruik van AI. Hoe zorg je ervoor dat nieuwe toepassingen bijdragen aan betere besluitvorming, zonder de controle te verliezen?
Dat begint met overzicht. Waar gebruiken we AI binnen besluitvorming, analyses of klantprocessen? Welke modellen en data gebruiken we? Welke leveranciers spelen een rol? Welke medewerkers vertrouwen inmiddels op AI-output in hun dagelijkse werk?
Daarnaast vraagt AI om een herijking van bestaande risicobeheersing. Risicoregisters zijn vaak nog ingericht op traditionele operationele en compliance-risico’s, terwijl AI nieuwe vraagstukken introduceert. Denk aan bias, gehallucineerde output, gebrek aan reproduceerbaarheid en afhankelijkheden van externe modelleveranciers. Organisaties moeten explicieter vastleggen waar menselijke toetsing noodzakelijk blijft, welke controles gelden rondom AI-output en wie eindverantwoordelijk is voor besluiten die mede op AI gebaseerd zijn. Dat vraagt om technische maatregelen én bestuurlijke keuzes.
Overigens kan AI ook bijdragen aan beter bestuur. Het helpt organisaties om risico's eerder te signaleren. Patronen herkennen wordt makkelijker. Net als het doorgronden van verschillende scenario's. Zo kunnen bestuurders beter onderbouwde beslissingen nemen. Het is daarom belangrijk om niet alleen de risico's van AI te beheersen, maar ook te begrijpen welke waarde de technologie kan toevoegen.
AI-geletterdheid wordt daarom een randvoorwaarde voor goed bestuur. Niet iedere bestuurder of toezichthouder hoeft de werking van een large language model tot in detail te begrijpen. Maar ze moeten wél voldoende kennis hebben om kritische vragen te stellen, risico’s te herkennen en de impact van AI op besluitvorming te kunnen beoordelen. Die kennis hebben ze nodig om hun verantwoordelijkheid waar te maken.
De essentie van good governance? Het gedrag en de keuzes van uw organisatie op een heldere manier uitleggen aan belanghebbenden. Hoe komen besluiten tot stand? Hoe wegen de bestuurders belangen, risico's en kansen af? Hoe transparant is dat proces en op welke gronden maakt u welke keuzes? Een bedrijf dat good governance hoog in het vaandel draagt, heeft de antwoorden op al deze vragen.
De waarde van goed bestuur
Good governance is steeds belangrijker geworden. Dertig jaar geleden telde een jaarverslag van een beursgenoteerd bedrijf pakweg 25 pagina’s. Tegenwoordig produceert zo’n bedrijf een boekwerk van 300 pagina’s. Een belangrijk deel van die extra pagina’s gaat over good governance: hoe bedrijven naar de wereld kijken, belangen afwegen, risico’s zien en waarde creëren voor stakeholders. Daarbij gaat het niet alleen om economische waarde, maar ook maatschappelijke waarde of waarde op het gebied van duurzaamheid.Dat is belangrijke informatie. Vroeger waren beurskoersen vooral gebaseerd op de feitelijke waarde van bedrijven. Inmiddels is ook van belang of bestuurders in staat zijn uit te leggen hoe ze hun bedrijf sturen en welke keuzes en afwegingen ze daarin maken. De kwaliteit van het bestuur speelt daarmee ook een rol in de waardering van bedrijven.
Nieuwe vraagstukken door AI
De rol van kunstmatige intelligentie in organisaties neemt toe. Modellen genereren al hoogwaardige analyses, adviezen en voorspellingen. Daarmee krijgt kunstmatige intelligentie steeds meer invloed op de manier waarop organisaties besluiten nemen. AI legt de bal voor, de mens kopt ‘m in.Daar ontstaat een interessant governancevraagstuk. Want hoe leg je als bestuurder uit waarom een bepaald besluit is genomen, als AI een belangrijke rol speelde bij de voorbereiding ervan? Bij klassieke besluitvorming is meestal goed te reconstrueren hoe een beslissing tot stand kwam. Er zijn immers documenten, notulen, rapporten en memo’s. Er staan afspraken in agenda’s. Er waren medewerkers bij betrokken. Iedere beslissing is het resultaat van een duidelijk proces.
AI-modellen kunnen in korte tijd complexe analyses of rapporten genereren. Vaak is zo’n model een black box. Hoe modellen getraind zijn en met welke data ze werken, is niet altijd duidelijk. Bovendien kunnen AI-systemen overtuigende output genereren die feitelijk onjuist is. Ze kunnen hallucineren, bevooroordeelde uitkomsten produceren of verbanden leggen die niet valide zijn.
Daarmee wordt het bestuurlijk borgen van betrouwbare AI-uitkomsten een belangrijke uitdaging. Bestuurders moeten de kwaliteit van AI-analyses en adviezen kunnen beoordelen, risico's herkennen en voldoende zicht houden op de gebruikte technologie. Daarvoor hebben ze kennis nodig, zonder ieder AI-model tot in detail te hoeven begrijpen.
Bestuurders blijven altijd verantwoordelijk
Het gebruik van AI verandert niets aan de verantwoordelijkheid van bestuurders. Organisaties blijven aanspreekbaar op de kwaliteit van besluiten en de gevolgen daarvan. Ook voor commissarissen en toezichthouders verandert er iets. Hoe houd je toezicht op besluitvorming waarin AI een steeds grotere rol speelt?Het antwoord zit ‘m niet alleen in de techniek. De snelheid van AI-ontwikkeling maakt het onmogelijk om elk model volledig te doorgronden of iedere technologische ontwikkeling bij te houden. Dat hoeft ook niet. De belangrijkste vraag is welke governanceprincipes je organiseert rondom het gebruik van AI. Hoe zorg je ervoor dat nieuwe toepassingen bijdragen aan betere besluitvorming, zonder de controle te verliezen?
Dat begint met overzicht. Waar gebruiken we AI binnen besluitvorming, analyses of klantprocessen? Welke modellen en data gebruiken we? Welke leveranciers spelen een rol? Welke medewerkers vertrouwen inmiddels op AI-output in hun dagelijkse werk?
Daarnaast vraagt AI om een herijking van bestaande risicobeheersing. Risicoregisters zijn vaak nog ingericht op traditionele operationele en compliance-risico’s, terwijl AI nieuwe vraagstukken introduceert. Denk aan bias, gehallucineerde output, gebrek aan reproduceerbaarheid en afhankelijkheden van externe modelleveranciers. Organisaties moeten explicieter vastleggen waar menselijke toetsing noodzakelijk blijft, welke controles gelden rondom AI-output en wie eindverantwoordelijk is voor besluiten die mede op AI gebaseerd zijn. Dat vraagt om technische maatregelen én bestuurlijke keuzes.
Overigens kan AI ook bijdragen aan beter bestuur. Het helpt organisaties om risico's eerder te signaleren. Patronen herkennen wordt makkelijker. Net als het doorgronden van verschillende scenario's. Zo kunnen bestuurders beter onderbouwde beslissingen nemen. Het is daarom belangrijk om niet alleen de risico's van AI te beheersen, maar ook te begrijpen welke waarde de technologie kan toevoegen.
AI-geletterdheid wordt daarom een randvoorwaarde voor goed bestuur. Niet iedere bestuurder of toezichthouder hoeft de werking van een large language model tot in detail te begrijpen. Maar ze moeten wél voldoende kennis hebben om kritische vragen te stellen, risico’s te herkennen en de impact van AI op besluitvorming te kunnen beoordelen. Die kennis hebben ze nodig om hun verantwoordelijkheid waar te maken.
Hoe gaat u om met AI in de boardroom?
Wat betekent dit voor de dagelijkse praktijk van bestuurders en toezichthouders? Hoe zorgt u dat AI bijdraagt aan betere besluiten en dat je als organisatie de regie houdt? Deze vijf uitgangspunten helpen om daarover binnen de boardroom het gesprek te voeren.- Weet waar AI invloed heeft. Zonder inzicht in waar AI wordt ingezet, ontstaat bestuurlijke blindheid. Welke besluiten binnen uw organisatie worden inmiddels ondersteund door AI? Heeft u daar voldoende zicht op?
- Bepaal waar de mens leidend is. AI ondersteunt, maar mag niet ongemerkt sturen. Bij welke beslissingen is menselijke beoordeling noodzakelijk? En hoe is dat binnen uw organisatie geregeld?
- Zorg voor uitlegbare uitkomsten. Besluiten moeten verdedigbaar blijven, ook als de onderliggende technologie complex is. Kunt u uitleggen hoe een besluit tot stand is gekomen en welke rol AI daarin heeft gespeeld?
- Beleg verantwoordelijkheid expliciet. Technologische complexiteit mag nooit leiden tot diffuse verantwoordelijkheid. Wie is verantwoordelijk voor de kwaliteit van AI-analyses en wie neemt uiteindelijk het besluit?
- Herijk risicobeheersing. AI introduceert nieuwe risico’s die vragen om expliciete aandacht. Zijn deze risico's opgenomen in bestaande processen voor risicobeheersing? En hoe worden ze gemonitord?
