Het dashboard spreekt. Maar wie is er verantwoordelijk?
Pim zette vorig jaar een AI-dashboard live voor zijn afdeling. Personeelsplanning: wie wanneer beschikbaar is, wie een verhoogd risico loopt op uitval, wie in aanmerking komt voor een nieuwe rol. Het systeem werkte soepel. De vergaderingen werden korter. De gesprekken efficiënter.
Totdat een medewerker werd gepasseerd bij een bevordering, op basis van een score die niemand had aangevraagd, gegenereerd door een model dat niemand volledig begreep, ingevoerd door een afdeling die al drie reorganisaties geleden was opgeheven. Wie was er verantwoordelijk? IT wees naar Inkoop. Inkoop wees naar HR. HR wees naar het systeem. Het systeem zweeg.
Dit essay gaat over dat zwijgen.
Ik wil beginnen met een ongemakkelijke bewering. AI is voor de meeste organisaties geen revolutie. Het is een spiegel. Het laat zien hoe een organisatie al omgaat met macht, vertrouwen en verantwoordelijkheid, en versterkt dat daarna op schaal. Als er al onduidelijkheid bestond over wie bepaalt, wie mag tegenspreken, wie het verantwoordt als het misgaat, dan maakt AI die onduidelijkheid niet kleiner. Het maakt haar groter en moeilijker zichtbaar, omdat er nu een systeem tussen mensen in staat dat de onduidelijkheid technisch verpakt en haar daarmee de schijn van neutraliteit geeft.
Dat is een ongemakkelijke gedachte voor iedereen die AI verwelkomt als oplossing voor organisatorische chaos. Maar het is de gedachte die ertoe doet.
We presenteren AI graag als een efficiencytool. Sneller, slimmer, minder handmatig werk. En dat klopt allemaal. Maar onder die laag schuift er iets fundamenteels. AI herverdeelt wie mag kijken, wie mag duiden en wie mag beslissen. Niet via een formeel besluit of een reorganisatieschema. Gewoon via de stille logica van het systeem dat ergens een score genereert, en het dashboard dat die score zichtbaar maakt. Elke keer dat iemand dat dashboard opent en er conclusies aan verbindt, is er een verschuiving in wie er telt en waarom. Die verschuiving is zelden benoemd. Ze is ook zelden gewild. Ze aconteurt gewoon.
Dat is geen technische kwestie. Het is een politieke kwestie, in de meest letterlijke zin van het woord.
Elke keer dat een organisatie een AI-systeem invoert, worden er keuzes gemaakt die er werkelijk toe doen. Welke variabelen tellen? Welk gedrag wordt gemeten als productief? Wie geldt als risico en wie als potentieel? Die keuzes lijken technisch. Ze zijn het niet. Ze vertalen een bepaald mensbeeld, impliciet en zelden uitgesproken, in een systeem dat dat mensbeeld vervolgens reproduceert op schaal, dag na dag, beslissing na beslissing, zonder dat iemand er nog iets van merkt. Het model is niet neutraal. Het is geprogrammeerde opvatting.
Wiskundige en datawetenschapper Cathy O’Neil beschreef dit in 2016 in haar boek Weapons of Math Destruction. Modellen zijn geen neutrale spiegel van de werkelijkheid. Ze zijn de neerslag van de aannames van degenen die ze bouwden. En die aannames zijn zelden transparant, niet voor de gebruiker, niet voor de persoon die erdoor wordt beoordeeld, soms niet eens voor de bouwer zelf. O’Neil laat zien hoe scoringsmodellen in de praktijk bestaande ongelijkheid reproduceren en versterken, juist omdat ze de schijn van objectiviteit hebben. Ze klinken als wiskunde. Ze voelen als feiten. Maar het zijn gemaakte keuzes, vermomd als uitkomsten.
Nederland heeft een pijnlijk voorbeeld van wat er dan kan gebeuren. Bij de Belastingdienst werd jarenlang een risicosysteem gebruikt voor de controle op fraude met kinderopvangtoeslag. Dat systeem gebruikte nationaliteit als een van de risicofactoren: Nederlanders met een dubbele nationaliteit werden strenger gecontroleerd. Het gevolg was verwoestend. Tienduizenden ouders werden ten onrechte als fraudeur bestempeld en moesten grote bedragen terugbetalen. Sommigen verloren hun huis. Sommigen verloren hun baan. De Autoriteit Persoonsgegevens concludeerde dat het algoritme discriminerend was ingericht en als zodanig werd gebruikt. Amnesty International noemde het in haar rapport uit 2021 een mensenrechtenschending. Het kabinet-Rutte III viel er uiteindelijk over.
Wat dit voorbeeld zo onthullend maakt, is niet alleen de schade. Het is de structuur van de verantwoordelijkheid. Niemand had bewust besloten om tienduizenden ouders te discrimineren. Het algoritme had het gedaan. Ambtenaren hadden het systeem gevolgd. IT had het gebouwd. Inkoop had het aanbesteed. Management had op uitkomsten gestuurd. Iedereen was betrokken. Niemand was verantwoordelijk. Dat is niet een kwestie van slechte mensen. Het is een kwestie van een slechte inrichting.
Onderzoekers hebben hier een naam voor: de responsibility gap. In een systeem waarbij beslissingen worden verdeeld over mens en machine, maar de machine de zichtbare laatste stap zet, verdampt de vraag wie er aanspreekbaar is. Dat is geen bijverschijnsel van AI. Het is een structureel risico van elke inrichting waarbij algoritmen besluitvormende kracht krijgen zonder dat de bijbehorende verantwoordelijkheid ergens expliciet belegd is. Een NTT DATA-rapport uit 2025, gebaseerd op een onderzoek onder meer dan 2300 leidinggevenden in 34 landen, stelde vast dat meer dan 80 procent van de C-suite-executives erkent dat leiderschap, governance en werknemersbereidheid achterblijven bij de snelheid van AI-implementaties. Dat gat is niet technisch. Dat gat is organisatorisch.
Er is ook een psychologisch mechanisme dat dit versterkt. Onderzoekers spreken van een moral buffer: geautomatiseerde systemen werken als een psychologische distantielaag die het gevoel van persoonlijke verantwoordelijkheid vermindert. Niet omdat mensen slechte bedoelingen hebben, maar omdat het systeem de indruk wekt te bepalen. Mensen volgen de uitkomst van geautomatiseerde systemen vaker dan ze zelf doorhebben, ook als er tegenstrijdig bewijs is, ook als hun eigen oordeel anders luidt. Dit verschijnsel, in de literatuur automation bias genoemd, is al decennia gedocumenteerd. Parasuraman en Manzey beschreven in 2010 hoe mensen bij automatisering minder zelfstandig gaan oordelen, en hoe dat precies op het verkeerde moment fout gaat: op het moment dat het systeem de fout ingaat, heeft de menselijke operator zijn aandacht al elders.
In organisaties ziet dit er concreet zo uit. Een manager verwijst naar de score in het systeem in plaats van het gesprek te voeren dat zij eigenlijk al lang had willen voeren. Een team delegeert een moeilijk oordeel aan een grafiek omdat dat minder confronterend voelt dan het hardop te zeggen. Een bestuur stuurt op dashboarduitkomsten zonder de vraag te stellen welke aannames er onder die uitkomsten liggen. Het is niet dat mensen de verantwoordelijkheid bewust ontlopen. Het is dat het systeem het gemakkelijker maakt om haar te ontwijken, en dat niemand dat ontwijken heeft benoemd, laat staan tegengegaan.
Sociologe Shoshana Zuboff laat in haar werk over surveillancekapitalisme zien hoe digitale systemen een fundamentele herschikking van macht veroorzaken: wie heeft het recht om te weten, wie heeft het recht te beslissen, en wie mag het toekomstperspectief van een ander bepalen. Haar analyse richt zich op platforms en techgiganten, maar de logica geldt net zo goed voor het HR-dashboard van een zorginstelling of de risico-indicator van een gemeentelijke dienst. Het principe is hetzelfde. De schaal is anders. Het effect op individuele mensen kan even groot zijn.
Er is nog een dimensie die ik wil benoemen, want ze wordt zelden zo benoemd. Het probleem zit niet alleen in de uitkomsten van AI-systemen. Het zit ook in het moment waarop ze worden ingevoerd. Organisaties besluiten tot AI-implementaties op grond van efficiency, kostenbesparing of concurrentiepositie. Zelden op grond van de vraag: wat doet dit systeem met de manier waarop wij met elkaar omgaan? Wat doet het met vertrouwen? Met de bereidheid om lastige waarheden te zeggen? Met de cultuur van eigenaarschap die we zeggen te willen?
Die vragen worden als te zacht beschouwd voor een IT-aanbesteding. Of als te vroeg: eerst implementeren, dan evalueren. Maar de praktijk laat zien dat evaluatie achteraf zelden leidt tot bijstelling van de fundamentele inrichting. Systemen raken ingebed. Processen groeien eromheen. Na twee jaar is het ondenkbaar geworden om het anders te doen. Het venster om de echte vragen te stellen sluit snel.
Ik merk dat ik hier moet oppassen voor een te eenvoudige conclusie. AI is niet de vijand. En de oplossing is niet minder technologie. De oplossing is beter leiderschap rondom de technologie die al binnenkomt.
Want AI kan ook het goede versterken. Het kan patronen zichtbaar maken die anders onzichtbaar blijven. Het kan bias in menselijk oordeel opsporen, mits het zelf op bias wordt gecontroleerd. Het kan lasten verlichten en ruimte maken voor het werk dat echt menselijk contact vraagt. Dat is reëel en waardevol. Maar dat werkt alleen als de mensen die leiden de verantwoordelijkheid niet meegeven met het systeem.
Wat vraagt dat concreet?
Het begint bij zicht. Weet wat er in je organisatie draait. Vraag in je volgende overleg welke beslissingen al worden beïnvloed door modellen, algoritmes of scoringssystemen, ook als ze niet zo worden genoemd. Risico-indicatoren in de zorg. Selectiemodellen in de werving. Prioriteringsalgoritmes in de klantenservice. Ze zijn er. De meeste leiders weten niet precies welke, laat staan hoe ze werken. Dat is geen technisch probleem. Dat is een leiderschapsprobleem.
Het gaat verder met het structureel mogelijk maken van tegenspraak. Wie in jouw organisatie heeft de positie en de bescherming om te zeggen: dit model klopt niet voor deze situatie? En wie luistert er dan? Als het antwoord onduidelijk is, heb je een structurele kwetsbaarheid. Niet technisch, maar organisatorisch. Psychologische veiligheid, het begrip dat Amy Edmondson uitgebreid heeft onderzocht, is de voorwaarde voor elk lerend systeem. Dat geldt dubbel in een omgeving waar het systeem gezag heeft en de mens die het tegenspreekt de uitzondering is.
En het eindigt bij het terugpakken van de verantwoordelijkheid. Als een systeem een aanbeveling doet die mensen raakt, in hun loopbaan, in hun toegang tot zorg of diensten, dan hoort er een mens te zijn die dat besluit verdedigt. Met naam. Met argumenten. Met de bereidheid om te zeggen: dit heb ik besloten, en dit is waarom. Niet: het systeem heeft het gezegd. Maar: ik heb dit gewogen en dit is mijn oordeel.
Dat is niet wat dashboards doen. Dat is wat leiders doen.
Stuart Russell, AI-onderzoeker aan de University of California Berkeley, stelt in zijn boek Human Compatible dat het fundamentele probleem van AI niet zit in de slimheid van systemen maar in de vraag hoe we systemen ontwerpen die menselijke waarden borgen in plaats van omzeilen. Dat ontwerpvraagstuk is niet primair technisch. Het is organisatorisch, cultureel en moreel. Het begint bij de vraag welke ruimte mensen houden om te oordelen, te twijfelen en terug te spreken. En het eindigt bij de vraag of leiders bereid zijn die ruimte actief te beschermen, ook als het systeem iets anders zegt.
Een organisatie die voor de komst van AI al gewend was om lastige gesprekken te vermijden, krijgt met AI een perfect mechanisme om ze te blijven vermijden. Het staat in het dashboard is de moderne versie van het beleid zegt het. Het klinkt objectief. Het is het niet.
Het dashboard van Pim is allang live. Dat geldt voor vrijwel elke organisatie van enige omvang, of ze het nu zo noemen of niet. De vraag is niet of AI in jouw organisatie werkt. De vraag is of jij bewust eigenaar bent van de voorwaarden waaronder het dat doet, en of er iemand is die met naam en toelichting kan antwoorden als het systeem ernaast zit.
Als je die vraag blijft uitstellen, ontstaat er op den duur een organisatie waarin mensen zich voegen naar het systeem in plaats van andersom. Waarin verantwoordelijkheid verwatert tot niemand. Waarin de medewerker die ergens tussen twee spreadsheets valt, geen mens meer tegenover zich heeft die haar ziet en haar naam kent.
Dat is geen technisch probleem. Dat is een moreel probleem.
En het begint, en eindigt, bij de mensen die leiden.
Noten voor wie verder wil lezen:
- Cathy O’Neil, Weapons of Math Destruction (2016, Crown Publishing). Over hoe scoringsmodellen de schijn van objectiviteit hebben maar structureel ongelijkheid reproduceren, ook in HR, onderwijs en justitie.
- Shoshana Zuboff, The Age of Surveillance Capitalism (2019, PublicAffairs). Over hoe digitale systemen een fundamentele herschikking van macht veroorzaken: wie weet, wie beslist, wie de toekomst van anderen bepaalt.
- Amnesty International, Xenofobe machines: Discriminatie door ongereguleerd gebruik van algoritmen in het Nederlandse toeslagenschandaal (2021). Feitelijk rapport over hoe het risicoalgoritme van de Belastingdienst leidde tot etnisch profileren en mensenrechtenschendingen.
- Raja Parasuraman & Dietrich Manzey, Complacency and Bias in Human Use of Automation (2010, Human Factors, 52(3), 381-410). Empirisch onderzoek naar automation bias: hoe automatisering het menselijk oordeelsvermogen ondermijnt, ook bij experts.
- Stuart Russell, Human Compatible: Artificial Intelligence and the Problem of Control (2019, Viking). Over hoe AI-systemen te ontwerpen zodat menselijke waarden worden geborgd in plaats van omzeild, en waarom dat een organisatorische opgave is, geen technische.