Rechtvaardigheidskaders voor AI: Rawls, verdeling en het algoritme Justice and Fairness Frameworks for AI: Rawls, Distribution, and the Algorithm
Iedereen wil dat zijn AI eerlijk is. De ellende begint op het moment dat twee redelijke mensen het woord definiëren, want ze zullen het verschillend definiëren, en een systeem kan niet aan beide tegelijk voldoen. Iedereen identiek behandelen en corrigeren voor bestaande achterstand heten beide eerlijkheid. Ze trekken in tegengestelde richtingen. Een organisatie die zegt we willen een eerlijk algoritme zonder te kiezen welke eerlijkheid, heeft geen beslissing genomen. Ze heeft de beslissing overgelaten aan wie het model configureerde.
Everyone wants their AI to be fair. The trouble starts the moment two reasonable people define the word, because they will define it differently, and a system cannot satisfy both at once. Treating everyone identically and correcting for existing disadvantage are both called fairness. They pull in opposite directions. An organisation that says we want a fair algorithm without choosing which fairness has not made a decision. It has handed the decision to whoever configured the model.
Fairness is a family of rival ideas
Eerlijkheid is een familie van rivaliserende ideeën
Justice as a philosophical field is old and deep, but for AI it narrows to a practical crisis: fairness has several definitions, and they are provably incompatible. You cannot have all of them in one system. Choosing is not a technicality to delegate to a data scientist. It is a moral decision about what your organisation means by the word.
Rechtvaardigheid als filosofisch veld is oud en diep, maar voor AI versmalt het tot een praktische crisis: eerlijkheid heeft verschillende definities, en ze zijn aantoonbaar onverenigbaar. U kunt ze niet allemaal in één systeem hebben. Kiezen is geen technisch detail om aan een datawetenschapper te delegeren. Het is een morele beslissing over wat uw organisatie met het woord bedoelt.
| Definition of fairness | What it demands | Where it fits, where it fails |
|---|---|---|
| Equal treatment | Everyone is processed by identical rules, blind to group. | Fits when the playing field is already level. Fails when it is not, because identical rules on unequal starts preserve the inequality. |
| Equal outcomes | Groups end up with comparable results. | Fits where existing disadvantage must be corrected. Fails where it forces sameness onto genuinely different cases. |
| Equal error rates | The system is wrong equally often for each group. | Fits high-stakes decisions where a wrong answer harms. Often mathematically excludes equal treatment at the same time. |
| Rawlsian (worst-off first) | Judge the system by its effect on the most disadvantaged group. | Fits public bodies with a duty to the vulnerable. Fails to give a clean rule when everyone is somewhat disadvantaged. |
| Definitie van eerlijkheid | Wat ze eist | Waar ze past, waar ze faalt |
|---|---|---|
| Gelijke behandeling | Iedereen wordt door identieke regels verwerkt, blind voor groep. | Past als het speelveld al gelijk is. Faalt als dat niet zo is, want identieke regels op ongelijke startposities behouden de ongelijkheid. |
| Gelijke uitkomsten | Groepen eindigen met vergelijkbare resultaten. | Past waar bestaande achterstand gecorrigeerd moet worden. Faalt waar het gelijkheid oplegt aan werkelijk verschillende zaken. |
| Gelijke foutpercentages | Het systeem zit voor elke groep even vaak fout. | Past bij zwaarwegende beslissingen waar een fout antwoord schaadt. Sluit vaak wiskundig gelijke behandeling tegelijk uit. |
| Rawlsiaans (slechtst af eerst) | Beoordeel het systeem op zijn effect op de meest achtergestelde groep. | Past bij overheden met een plicht jegens kwetsbaren. Geeft geen schone regel wanneer iedereen enigszins achtergesteld is. |
Read the third row twice. Equal treatment and equal error rates usually cannot both be true in the same model. Pick one and you have, by mathematical necessity, given up the other. This is not a flaw someone can patch. It is a choice someone must make, out loud.
Lees de derde rij twee keer. Gelijke behandeling en gelijke foutpercentages kunnen meestal niet beide waar zijn in hetzelfde model. Kies er één en u heeft, uit wiskundige noodzaak, de andere opgegeven. Dit is geen gebrek dat iemand kan repareren. Het is een keuze die iemand hardop moet maken.
Gartner vond in 2023 dat 60 procent van de AI-projecten die in hun eerste jaar mislukken, stranden op datakwaliteit en governance, niet technologie. Een eerlijkheidsdefinitie die per default in plaats van bewust wordt gekozen, is precies zo'n governancefout, verstopt in een werkend model.
Gartner found in 2023 that 60 percent of AI projects failing in their first year fail on data quality and governance, not technology. A fairness definition chosen by default rather than on purpose is a governance failure of exactly this kind, hiding inside a working model.
What Rawls adds: look down, not at the average
Wat Rawls toevoegt: kijk omlaag, niet naar het gemiddelde
John Rawls offered a test that cuts through much of the confusion. Imagine designing the system without knowing which position you will occupy in it, top or bottom, majority or minority. From behind that veil, you would not optimise the average. You would protect the worst-off, because you might be them. His difference principle judges any arrangement by a single question: how does it treat the people it treats worst?
John Rawls bood een toets die veel van de verwarring doorsnijdt. Stel u voor dat u het systeem ontwerpt zonder te weten welke positie u erin zult innemen, boven of onder, meerderheid of minderheid. Achter die sluier zou u niet het gemiddelde optimaliseren. U zou de slechtst af beschermen, want u zou het kunnen zijn. Zijn difference principle beoordeelt elke inrichting op één vraag: hoe behandelt ze de mensen die ze het slechtst behandelt?
For AI this is a sharp diagnostic. Stop reading the average outcome for a moment and read the outcome for the group the model serves worst. If that number is quietly terrible while the average glows, you have built exactly the kind of system the utilitarian lens cannot see and Rawls was designed to catch. The average is a comfort. The worst-off number is the truth.
Voor AI is dit een scherpe diagnose. Stop even met de gemiddelde uitkomst te lezen en lees de uitkomst voor de groep die het model het slechtst bedient. Als dat cijfer stilletjes verschrikkelijk is terwijl het gemiddelde straalt, heeft u precies het soort systeem gebouwd dat de utilitaristische bril niet kan zien en dat Rawls moest vangen. Het gemiddelde is een troost. Het slechtst-af-cijfer is de waarheid.
None of this hands you a single answer. It hands you a better question, and it insists you answer it deliberately rather than inherit whatever definition of fairness the vendor happened to code. Which is the whole reason to read these frameworks against each other rather than one at a time.
Niets hiervan geeft u één antwoord. Het geeft u een betere vraag, en het staat erop dat u haar bewust beantwoordt in plaats van welke definitie van eerlijkheid de leverancier toevallig codeerde te erven. Wat de hele reden is om deze kaders tegen elkaar te lezen in plaats van één voor één.
Do this in practice and something quietly changes in how your organisation argues. The debate stops being he says fair, she says unfair, an argument nobody can win, and becomes which of four named definitions do we owe these people, a question that has an answer. Naming the fairness is most of the work. Once it is named, you can test for it, and a claim you can test is a claim you can defend.
Doe dit in de praktijk en er verandert stilletjes iets in hoe uw organisatie argumenteert. Het debat houdt op hij zegt eerlijk, zij zegt oneerlijk te zijn, een discussie die niemand kan winnen, en wordt welke van vier benoemde definities zijn we deze mensen verschuldigd, een vraag die een antwoord heeft. Het benoemen van de eerlijkheid is het grootste deel van het werk. Eenmaal benoemd, kunt u erop toetsen, en een claim die u kunt toetsen is een claim die u kunt verdedigen.