De utilitaristische blik op AI: wanneer het grootste goed het algoritme rechtvaardigt The Utilitarian Lens on AI: When the Greatest Good Justifies the Algorithm

Een ziekenhuis zet een AI in die afspraken plant om de totale wachttijd over tienduizend patiënten per maand te minimaliseren. De gemiddelde wachttijd daalt met een derde. Het bestuur noemt het een succes, en volgens de maatstaf die zij kozen, is het dat. Niemand merkt dat hetzelfde systeem nu standaard de meest complexe patiënten, wier zaken zich verzetten tegen nette planning, in de slechtste tijdvakken duwt. De velen wonnen minuten. Een paar verloren ochtenden. Die ruil, stil gemaakt, is utilitarisme dat uw operatie draait, of u het nu benoemde of niet.

A hospital deploys an AI that schedules appointments to minimise total waiting time across ten thousand patients a month. Average waits drop by a third. The board calls it a success, and by the measure they chose, it is. Nobody notices that the same system now routinely pushes the most complex patients, the ones whose cases resist tidy scheduling, into the worst slots. The many gained minutes. A few lost mornings. That trade, made silently, is utilitarianism running your operation whether you named it or not.

The lens you are already using

De bril die u al gebruikt

Utilitarianism has a simple core: the right action is the one that produces the most good for the most people, summed across everyone it touches. It is the ethics of the spreadsheet, and that is not an insult. It is the reason it feels so natural in a business or a public body. Every cost-benefit analysis, every efficiency target, every decision framed as net positive impact is utilitarian reasoning wearing a business suit.

Utilitarisme heeft een simpele kern: de juiste handeling is die welke het meeste goed voor de meeste mensen oplevert, opgeteld over iedereen die het raakt. Het is de ethiek van de spreadsheet, en dat is geen belediging. Het is de reden dat het zo natuurlijk aanvoelt in een bedrijf of een overheidsinstantie. Elke kosten-batenanalyse, elk efficiëntiedoel, elke beslissing die als netto positief effect wordt geframed, is utilitaristisch redeneren in een maatpak.

AI and this lens fit together almost too well. A model optimises an objective function, which is to say it maximises a number. Tell it to maximise total throughput, minimise average cost, or reduce aggregate risk, and it will pursue that sum with a diligence no committee could match. The machinery of machine learning is, at heart, a utilitarian engine. It sums, and it maximises the sum.

AI en deze bril passen bijna te goed samen. Een model optimaliseert een doelfunctie, wat wil zeggen dat het een getal maximaliseert. Zeg het de totale doorvoer te maximaliseren, de gemiddelde kosten te minimaliseren, of het geaggregeerde risico te verlagen, en het zal die som najagen met een ijver die geen commissie kan evenaren. De machinerie van machine learning is in de kern een utilitaristische motor. Het telt op, en het maximaliseert de som.

Which is exactly why the lens deserves scrutiny. When your tool is built to maximise an aggregate, the aggregate becomes the only thing it can see.

En juist daarom verdient de bril kritische aandacht. Wanneer uw tool is gebouwd om een aggregaat te maximaliseren, wordt het aggregaat het enige dat het kan zien.

What the sum hides

Wat de som verbergt

Here is the flaw that two centuries of philosophers have circled, translated into AI terms. A sum does not care how the total is distributed. A hundred people each gaining a little, and one person losing a great deal, can produce the same net figure as a hundred and one people each gaining a little. The spreadsheet reads them as equal. The person who lost a great deal does not.

Hier is het gebrek waar filosofen twee eeuwen omheen cirkelden, vertaald naar AI-termen. Een som geeft niet om hoe het totaal verdeeld is. Honderd mensen die elk een beetje winnen, en één persoon die veel verliest, kunnen hetzelfde nettocijfer opleveren als honderdeen mensen die elk een beetje winnen. De spreadsheet leest ze als gelijk. De persoon die veel verloor, niet.

At human scale this stays hidden. At AI scale it becomes structural. A system deciding ten thousand cases a month does not make one uncomfortable trade-off. It makes the same trade-off ten thousand times, and if that trade-off systematically disadvantages the same kind of person, the machine has industrialised a quiet unfairness. The averages look excellent the whole time.

Op menselijke schaal blijft dit verborgen. Op AI-schaal wordt het structureel. Een systeem dat tienduizend zaken per maand beslist, maakt niet één ongemakkelijke afweging. Het maakt dezelfde afweging tienduizend keer, en als die afweging systematisch hetzelfde soort persoon benadeelt, heeft de machine een stille oneerlijkheid geïndustrialiseerd. De gemiddelden zien er de hele tijd uitstekend uit.

Nederland heeft de extreme versie hiervan al meegemaakt. In de toeslagenaffaire verwoestte een risicoscoresysteem, geoptimaliseerd om fraude in de hele bevolking te vangen, duizenden individuele gezinnen, velen ten onrechte gemarkeerd. Het geaggregeerde doel was verdedigbaar. De verdeling van de schade niet, en ze bracht een regering ten val.

The Netherlands has already lived the extreme version of this. In the childcare benefits scandal, a risk-scoring system optimised for catching fraud across the whole population devastated thousands of individual families, many wrongly flagged. The aggregate goal was defensible. The distribution of harm was not, and it brought down a government.

That is the utilitarian blind spot in one national tragedy. The objective function was not evil. It was just incomplete, and at scale, incomplete becomes catastrophic.

Dat is de utilitaristische blinde vlek in één nationale tragedie. De doelfunctie was niet kwaadaardig. Ze was alleen onvolledig, en op schaal wordt onvolledig catastrofaal.

Keep the lens, add a limit

Behoud de bril, voeg een grens toe

The answer is not to throw the lens away. For allocating scarce hospital slots, distributing limited inspection capacity, or measuring whether a system helped more than it hurt, aggregate thinking is the right tool and often the fairest one available. The answer is to refuse to let it operate alone. Set floors that no individual falls below, no matter what the sum says. Then let the optimiser maximise inside those walls.

Het antwoord is niet de bril weggooien. Voor het toewijzen van schaarse ziekenhuisplekken, het verdelen van beperkte inspectiecapaciteit, of het meten of een systeem meer hielp dan schaadde, is aggregaatdenken het juiste gereedschap en vaak het eerlijkste dat er is. Het antwoord is te weigeren het alleen te laten werken. Stel ondergrenzen waar geen individu onder zakt, wat de som ook zegt. Laat de optimalisator dan maximaliseren binnen die muren.

Every other framework in this series is, in a sense, a different wall. That is why they are worth reading side by side.

Elk ander kader in deze reeks is, in zekere zin, een andere muur. Daarom is het de moeite waard ze naast elkaar te lezen.