Het AI-risico- en escalatiebeleid: wat er gebeurt op het moment dat er iets misgaat The AI Risk and Escalation Policy: What Happens the Moment Something Goes Wrong
Een medewerker merkt dat de AI al veertien dagen stilletjes foute output produceert. Wat nu? Als het eerlijke antwoord is ik weet niet zeker wie ik het moet vertellen of of ik dat zou moeten, dan heeft de organisatie geen risicobeleid. Ze heeft een hoop. En hoop is, wanneer een AI-systeem op schaal faalt, het duurste op de balans, want de schade van een AI-fout wordt veel meer gevormd door de reactie dan door de fout zelf.
An employee notices the AI has been quietly producing wrong outputs for a fortnight. Now what? If the honest answer is I am not sure who to tell or whether I should, the organisation does not have a risk policy. It has a hope. And hope, when an AI system fails at scale, is the most expensive thing on the balance sheet, because the damage from an AI failure is shaped far more by the response than by the error itself.
The gap where damage grows
Het gat waar schade groeit
AI failures have a specific shape. They are quiet, and they are fast. A human making a mistake usually feels it, hesitates, tells someone. A model making a mistake feels nothing, does not slow down, and repeats the error at full speed until a person happens to notice. The gap between the first wrong output and the moment someone acts is where all the damage accumulates, and the length of that gap is set entirely by whether an escalation route exists.
AI-fouten hebben een specifieke vorm. Ze zijn stil, en ze zijn snel. Een mens die een fout maakt, voelt het meestal, aarzelt, vertelt iemand. Een model dat een fout maakt, voelt niets, vertraagt niet, en herhaalt de fout op volle snelheid tot een mens het toevallig opmerkt. Het gat tussen de eerste foute output en het moment dat iemand handelt, is waar alle schade zich ophoopt, en de lengte van dat gat wordt volledig bepaald door of er een escalatieroute bestaat.
IBM's Cost of a Data Breach-rapport uit 2023 vond dat inbreuken met een reactietijd onder 200 dagen gemiddeld 1,1 miljoen dollar minder kostten dan tragere. Een AI-fout volgt dezelfde curve: de teller loopt vanaf de eerste foute output tot het moment dat iemand het stopt.
IBM's 2023 Cost of a Data Breach report found breaches with a response time under 200 days cost on average 1.1 million dollars less than slower ones. An AI failure follows the same curve: the meter runs from the first wrong output to the moment someone stops it.
Contrast that with how a human error surfaces. A colleague who sends a wrong letter usually realises within minutes, feels the discomfort, and tells someone before it spreads. The feeling is the detection system, and machines do not have it. This is why an AI escalation policy has to build, deliberately and from the outside, the thing a conscience provides for free in a person: a signal that something is wrong and a route to raise it fast. Without that engineered signal, the failure runs until a customer complains, and by then the meter has been running for a fortnight.
Zet dat af tegen hoe een menselijke fout aan het licht komt. Een collega die een verkeerde brief verstuurt, beseft het meestal binnen minuten, voelt het ongemak, en vertelt iemand voordat het zich verspreidt. Het gevoel is het detectiesysteem, en machines hebben het niet. Daarom moet een AI-escalatiebeleid, bewust en van buitenaf, het ding bouwen dat een geweten gratis levert in een mens: een signaal dat er iets mis is en een route om het snel te melden. Zonder dat gebouwde signaal loopt de fout door tot een klant klaagt, en dan loopt de teller al veertien dagen.
The four things the policy must fix in advance
De vier dingen die het beleid vooraf moet vastleggen
| Element | The question it answers | Why it cannot wait for the crisis |
|---|---|---|
| Detection | How would we even know the system is failing? | Silent failures need active monitoring, not a wait for complaints. |
| The pause button | Who can stop the system, right now, without asking upward? | Every layer of required approval extends the damage window. |
| Notification | Who is told, in what order, within what timeframe? | Improvised in the moment, this step is always too slow and too partial. |
| The affected people | How and when are those harmed informed and put right? | Delay here is what turns an error into a breach of trust. |
| Element | De vraag die het beantwoordt | Waarom het niet op de crisis kan wachten |
|---|---|---|
| Detectie | Hoe zouden we überhaupt weten dat het systeem faalt? | Stille fouten vereisen actieve monitoring, geen wachten op klachten. |
| De pauzeknop | Wie kan het systeem nu stoppen, zonder naar boven te vragen? | Elke laag vereiste goedkeuring verlengt het schadevenster. |
| Notificatie | Wie wordt geïnformeerd, in welke volgorde, binnen welke termijn? | In het moment geïmproviseerd is deze stap altijd te traag en te gedeeltelijk. |
| De getroffenen | Hoe en wanneer worden geschaden mensen geïnformeerd en gecompenseerd? | Vertraging hier is wat een fout in een vertrouwensbreuk verandert. |
The pause button is the one organisations get wrong most often. They give the authority to stop a system to someone three levels up, then wonder why a failure ran for a week. The person who spots the problem must be close enough to the authority to act on it. Distance between noticing and stopping is measured in damage.
De pauzeknop is degene die organisaties het vaakst fout doen. Ze geven de bevoegdheid om een systeem te stoppen aan iemand drie niveaus hoger, en vragen zich dan af waarom een fout een week doorliep. De persoon die het probleem opmerkt, moet dicht genoeg bij de bevoegdheid staan om ernaar te handelen. Afstand tussen opmerken en stoppen wordt gemeten in schade.
Reporting fast is the cheapest insurance you own
Snel melden is de goedkoopste verzekering die u heeft
There is a legal dimension that turns this policy from prudent to essential. From August 2026, the EU AI Act's deployer obligations expect organisations running high-risk systems to monitor them and act on problems. An escalation policy is the documented proof that you can. But the deeper reason is older than any regulation: an incident reported in hours and corrected openly is a correction, and the same incident buried for months is a cover-up. Courts, regulators, and customers price those two things on completely different scales.
Er is een juridische dimensie die dit beleid van verstandig naar essentieel tilt. Vanaf augustus 2026 verwachten de verplichtingen voor gebruiksverantwoordelijken onder de EU AI Act dat organisaties die hoog-risicosystemen draaien, deze monitoren en op problemen handelen. Een escalatiebeleid is het gedocumenteerde bewijs dat u dat kunt. Maar de diepere reden is ouder dan welke regelgeving ook: een incident dat binnen uren wordt gemeld en openlijk gecorrigeerd, is een correctie, en hetzelfde incident dat maanden wordt weggemoffeld, is een doofpot. Rechters, toezichthouders en klanten prijzen die twee dingen op volledig verschillende schalen.
Make reporting a failure feel safe, fast, and normal. An organisation where people hide AI errors out of fear has built the most dangerous system of all, and no model was involved in building it.
Maak het melden van een fout veilig, snel en normaal. Een organisatie waar mensen AI-fouten uit angst verbergen, heeft het gevaarlijkste systeem van allemaal gebouwd, en geen model was betrokken bij de bouw ervan.