Uitlegbare AI in de praktijk: wat het betekent voorbij het modewoord Explainable AI in Practice: What It Means Beyond the Buzzword
Elke leverancier belooft uitlegbare AI. Vraag wat dat betekent en de antwoorden verstrooien: een grafiek met kenmerkgewichten, een betrouwbaarheidsscore, een technische bijlage, een link naar documentatie. Hier is een eenvoudiger toets. Neem de volgende beslissing van het systeem en leg haar uit aan de persoon die ze raakt, in twee zinnen waar hij iets mee kan. De meeste systemen die als uitlegbaar worden verkocht, zakken bij de eerste poging. Het woord is zo ver van de praktijk afgedreven dat het de moeite waard is het vanaf de grond op te bouwen: uitlegbaar aan wie, waarover, met welk doel?
Every vendor promises explainable AI. Ask what that means and the answers scatter: a feature importance chart, a confidence score, a technical appendix, a link to documentation. Here is a simpler test. Take the system's next decision and explain it to the person it affects, in two sentences they can act on. Most systems sold as explainable fail this test on the first try. The word has drifted so far from the practice that it is worth rebuilding from the ground up: explainable to whom, about what, for which purpose?
Explainable to whom? Three audiences, three explanations
Uitlegbaar aan wie? Drie doelgroepen, drie uitleggen
The single biggest source of confusion around explainability is treating it as one property. It is three, because three very different audiences ask why, and a good answer for one is a useless answer for another.
De grootste bron van verwarring rond uitlegbaarheid is haar behandelen als één eigenschap. Het zijn er drie, want drie zeer verschillende doelgroepen vragen waarom, en een goed antwoord voor de een is een nutteloos antwoord voor de ander.
| Audience | The question they ask | What a real answer looks like |
|---|---|---|
| The affected person | Why was my application refused, and what can I change? | Two or three case-specific factors in plain language: income below threshold X, missing document Y. Actionable, individual, honest. |
| The professional user | Should I trust this output for this case? | The factors that drove this recommendation, flagged unusual inputs, and a signal when the case sits outside what the model knows well. |
| The auditor or regulator | Does the system behave acceptably across thousands of cases? | Documentation, group-level outcome statistics, error rates per segment, change logs, testing evidence. |
| Doelgroep | De vraag die ze stellen | Hoe een echt antwoord eruitziet |
|---|---|---|
| De betrokkene | Waarom is mijn aanvraag afgewezen, en wat kan ik veranderen? | Twee of drie zaakspecifieke factoren in gewone taal: inkomen onder drempel X, ontbrekend document Y. Handelbaar, individueel, eerlijk. |
| De professionele gebruiker | Moet ik deze output vertrouwen voor deze zaak? | De factoren die deze aanbeveling dreven, gemarkeerde ongebruikelijke invoer, en een signaal wanneer de zaak buiten valt wat het model goed kent. |
| De auditor of toezichthouder | Gedraagt het systeem zich aanvaardbaar over duizenden zaken? | Documentatie, uitkomststatistieken op groepsniveau, foutpercentages per segment, wijzigingslogboeken, testbewijs. |
A vendor's feature importance chart serves the third audience, partially, and the first audience not at all. When a tender asks for explainable AI without saying for whom, the vendor gets to pick the cheapest interpretation. They will.
De kenmerkgewichtengrafiek van een leverancier bedient de derde doelgroep, gedeeltelijk, en de eerste doelgroep helemaal niet. Wanneer een aanbesteding om uitlegbare AI vraagt zonder te zeggen voor wie, mag de leverancier de goedkoopste interpretatie kiezen. Dat zal hij doen.
The trade-off vendors do not volunteer
De afweging die leveranciers niet uit zichzelf noemen
Some model families are inherently readable. A points-based scoring rule or a short decision tree can be printed on a page and argued about in a meeting. Deep neural networks cannot; their explanations are approximations generated after the fact, useful but not the same thing as the model's actual reasoning. This creates a genuine choice that procurement rarely surfaces: a somewhat less accurate model you can fully explain, or a somewhat more accurate one you can only explain approximately.
Sommige modelfamilies zijn inherent leesbaar. Een puntenregel of een korte beslisboom kan op een pagina worden afgedrukt en in een vergadering worden bediscussieerd. Diepe neurale netwerken niet; hun uitleggen zijn benaderingen achteraf, nuttig maar niet hetzelfde als de werkelijke redenering van het model. Dit schept een echte keuze die inkoop zelden op tafel legt: een iets minder accuraat model dat u volledig kunt uitleggen, of een iets accurater model dat u slechts bij benadering kunt uitleggen.
For a movie recommendation, take the accuracy. For a benefits decision, a fraud flag, or anything a citizen can appeal, the calculus reverses: a decision you cannot fully account for is a decision you cannot fully defend, and administrative law does not grade on approximation. Dutch public bodies carrying motivation duties should weigh readable models far more heavily than the vendor's benchmark table suggests.
Voor een filmaanbeveling: neem de nauwkeurigheid. Voor een uitkeringsbesluit, een fraudesignaal, of iets waartegen een burger in beroep kan, keert de rekensom om: een beslissing waarvoor u niet volledig rekenschap kunt afleggen, is een beslissing die u niet volledig kunt verdedigen, en het bestuursrecht beoordeelt niet op benadering. Nederlandse bestuursorganen met motiveringsplichten zouden leesbare modellen veel zwaarder moeten wegen dan de benchmarktabel van de leverancier suggereert.
PwC's Trust in AI Survey uit 2024 vond dat 72 procent van de klanten eerder blijft bij een organisatie waarvan ze geloven dat die AI verantwoord inzet, terwijl slechts 38 procent er één kon noemen die ze vertrouwden. Het vermogen om individuele beslissingen op verzoek in gewone taal uit te leggen, is de meest concrete vorm die verantwoord gebruik in het openbaar aanneemt.
PwC's 2024 Trust in AI Survey found 72 percent of customers are more likely to stay with an organisation they believe uses AI responsibly, while only 38 percent could name one they trusted. The ability to explain individual decisions, on request, in plain language, is the most concrete form that responsible use takes in public.
Write it into the tender as a test, not an adjective
Schrijf het in de aanbesteding als toets, niet als bijvoeglijk naamwoord
The practical move is to stop asking for explainability and start specifying scenarios. For any individual decision, the system shall display the decisive factors in plain language, inside the case handler's screen, without technical assistance. During evaluation, the vendor demonstrates this live, on your test cases, including a deliberately unusual one. Pass or fail. Witnessed. Before award.
De praktische zet is stoppen met vragen om uitlegbaarheid en beginnen met het specificeren van scenario's. Voor elke individuele beslissing toont het systeem de doorslaggevende factoren in gewone taal, in het scherm van de behandelaar, zonder technische hulp. Tijdens de evaluatie demonstreert de leverancier dit live, op uw testzaken, inclusief een bewust ongebruikelijke. Geslaagd of gezakt. In bijzijn. Vóór gunning.
One sentence of specification does more than a page of principles. The word explainable filters nothing. The demonstration filters everything, and from August 2026 the EU AI Act's transparency duties for high-risk deployers will expect the capability you just tested to exist for real. Buy it proven, not promised.
Eén zin specificatie doet meer dan een pagina principes. Het woord uitlegbaar filtert niets. De demonstratie filtert alles, en vanaf augustus 2026 verwachten de transparantieplichten van de EU AI Act voor hoog-risico-inzetters dat de capaciteit die u zojuist toetste, echt bestaat. Koop haar bewezen, niet beloofd.
Explainable is an adjective. A demonstration is a fact. Procure facts.
Uitlegbaar is een bijvoeglijk naamwoord. Een demonstratie is een feit. Koop feiten in.