Het collectief versus het individu: wanneer AI de velen dient en de ene schaadt The Collective Versus the Individual: When AI Serves the Many and Harms the One
Er heerst een comfortabel geloof dat een systeem dat goed is voor de meeste mensen simpelweg een goed systeem is. Het is de aanname onder bijna elke AI-inzet, en het is degene die blijft falen. Een AI afgestemd om de groep goed te dienen kan, op precies hetzelfde moment, specifieke individuen ernstig schaden, en omdat de groep zichtbaar is in de gemiddelden en het individu niet, loopt de schade ongemerkt terwijl het dashboard groen blijft. Dit is de oudste vraag in de ethiek, de velen tegen de ene, terugkerend op een schaal die het nooit eerder had.
There is a comfortable belief that a system good for most people is simply a good system. It is the assumption underneath almost every AI deployment, and it is the one that keeps failing. An AI tuned to serve the group well can, at the very same time, harm specific individuals badly, and because the group is visible in the averages and the individual is not, the harm runs unnoticed while the dashboard stays green. This is the oldest question in ethics, the many against the one, returning at a scale it never had before.
The average is where the individual disappears
Het gemiddelde is waar het individu verdwijnt
An AI system is usually judged by aggregate performance: accuracy across all users, average satisfaction, total cost saved. Those numbers describe the collective, and they can look excellent while a specific group is being failed completely. The average is not a lie, but it is a hiding place. A system that works for ninety-five percent and quietly wrecks the other five reports a ninety-five, and the five vanish into a rounding error that happens to be made of people.
Een AI-systeem wordt meestal beoordeeld op geaggregeerde prestatie: nauwkeurigheid over alle gebruikers, gemiddelde tevredenheid, totale kostenbesparing. Die cijfers beschrijven het collectief, en ze kunnen er uitstekend uitzien terwijl een specifieke groep volledig in de steek wordt gelaten. Het gemiddelde is geen leugen, maar het is een schuilplaats. Een systeem dat voor vijfennegentig procent werkt en de andere vijf stil verwoest, rapporteert een vijfennegentig, en de vijf verdwijnen in een afrondingsfout die toevallig uit mensen bestaat.
What makes AI different from a human doing the same job is consistency, and here consistency is the danger. A human clerk making a borderline call varies, has an off day, occasionally bends the rule for the case that clearly deserves it. A model applies the same logic identically every time, so if that logic disadvantages a particular kind of person, it disadvantages them without exception, at full scale, forever. The machine industrialises whatever unfairness it was given.
Wat AI anders maakt dan een mens die hetzelfde werk doet, is consistentie, en hier is consistentie het gevaar. Een menselijke ambtenaar die een grensgeval beoordeelt, varieert, heeft een slechte dag, buigt af en toe de regel voor het geval dat het duidelijk verdient. Een model past dezelfde logica elke keer identiek toe, dus als die logica een bepaald soort persoon benadeelt, benadeelt het hen zonder uitzondering, op volle schaal, voor altijd. De machine industrialiseert welke oneerlijkheid ze ook kreeg.
De Nederlandse toeslagenaffaire had precies deze vorm: een systeem dat het collectieve doel van fraudebestrijding diende, paste één logica zonder uitzondering toe, en de individuen die het ten onrechte ving, hadden geen gemiddelde om zich in te verbergen en geen mens meer om ze te horen. De velen werden gediend. De weinigen werden vernietigd.
The Dutch childcare benefits scandal was exactly this shape: a system serving the collective goal of fraud control applied one logic without exception, and the individuals it wrongly caught had no average to hide in and no human left to hear them. The many were served. The few were destroyed.
Building for the one and the many at once
Bouwen voor de ene en de velen tegelijk
The resolution is not to abandon the collective good. A system that helps most people is worth having, and refusing to optimise for the group because no system is perfect helps no one. The resolution is to stop treating the average as the whole story and to build in three habits that keep the individual visible. Measure the worst-served group, rather than the mean alone. Set floors that no individual should fall below whatever the aggregate says. And keep a human route for the person the system handles badly, so that being the exception is not the same as being abandoned.
De oplossing is niet het collectieve goed opgeven. Een systeem dat de meeste mensen helpt, is het hebben waard, en weigeren voor de groep te optimaliseren omdat geen systeem perfect is, helpt niemand. De oplossing is ophouden het gemiddelde als het hele verhaal te behandelen en drie gewoontes in te bouwen die het individu zichtbaar houden. Meet de slechtst bediende groep, het gemiddelde niet als enige. Stel ondergrenzen waar geen individu onder zou moeten zakken wat het aggregaat ook zegt. En houd een menselijke route voor de persoon die het systeem slecht behandelt, zodat de uitzondering zijn niet hetzelfde is als in de steek gelaten zijn.
None of these three cost the collective much. Measuring the worst-served group does not lower the average; it just stops you ignoring the tail. Floors constrain only the cases that were heading toward real harm. A human route is used by the few, precisely because the many are served well by the machine. Together they let a system be good for most people and safe for each one, which is the only version of serving the many that is actually worth building. The many and the one were never truly enemies. Treating them as if they were is just the easiest way to fail both.
Geen van deze drie kost het collectief veel. De slechtst bediende groep meten verlaagt het gemiddelde niet; het weerhoudt u er alleen van de staart te negeren. Ondergrenzen beperken alleen de gevallen die op echte schade afstevenden. Een menselijke route wordt door de weinigen gebruikt, juist omdat de velen goed door de machine worden bediend. Samen laten ze een systeem goed zijn voor de meeste mensen en veilig voor ieder afzonderlijk, wat de enige versie van de velen dienen is die het bouwen werkelijk waard is. De velen en de ene waren nooit echt vijanden. Ze behandelen alsof ze het waren, is slechts de makkelijkste manier om beide te laten mislukken.