Transparantie versus veiligheid: hoeveel moet u over uw AI onthullen Transparency Versus Security: How Much Should You Reveal About Your AI
Als u precies uitlegt hoe uw fraudemodel beslist, helpt u dan eerlijke mensen het te begrijpen of leert u oneerlijke het te verslaan? Dit is de tegenwerping die elke transparantie-eis ontmoet, en ze wordt niet altijd te kwader trouw gemaakt. Een volledig uitgelegd detectiesysteem kan in principe worden gereverse-engineerd door de mensen die het moet vangen. Maar de tegenwerping wordt gebruikt om veel meer geheimhouding te rechtvaardigen dan ze werkelijk verdient, en de echte veiligheidszorg scheiden van het handige excuus is het grootste deel van het werk.
If you explain exactly how your fraud model decides, do you help honest people understand it or teach dishonest ones to beat it? This is the objection every transparency requirement meets, and it is not always made in bad faith. A fully explained detection system can, in principle, be reverse-engineered by the people it is meant to catch. But the objection is used to justify far more secrecy than it actually earns, and separating the real security concern from the convenient excuse is most of the work.
The objection has a small true core
De tegenwerping heeft een kleine ware kern
Give the security argument its due first, because it is real in a narrow band. For systems whose job is to catch people trying to cheat, fraud detection, security screening, some content moderation, publishing the exact decision criteria genuinely does help the cheaters. If everyone knows the precise threshold that triggers a review, the people gaming the system simply stay one step under it. In that specific band, some opacity is a legitimate defence, not a dodge.
Geef het veiligheidsargument eerst zijn recht, want het is echt in een smalle band. Voor systemen wier taak is mensen te vangen die proberen vals te spelen, fraudedetectie, veiligheidsscreening, sommige contentmoderatie, helpt het publiceren van de exacte beslissingscriteria de valsspelers werkelijk. Als iedereen de precieze drempel kent die een controle triggert, blijven de mensen die het systeem misleiden simpelweg er net onder. In die specifieke band is enige ondoorzichtigheid een legitieme verdediging, geen ontwijking.
That is the whole of the true core. It covers exact thresholds and specific gameable parameters in adversarial systems. It does not stretch one inch further, and the trouble begins when organisations stretch it anyway.
Dat is de hele ware kern. Ze dekt exacte drempels en specifieke misleidbare parameters in vijandige systemen. Ze rekt geen centimeter verder, en de ellende begint wanneer organisaties haar toch oprekken.
It is worth being honest about why the objection is so popular. Secrecy is comfortable. It spares an organisation the work of explaining itself, the risk of criticism, and the awkwardness of a decision that looks worse in daylight. Dressed as security, that comfort acquires a respectable name, and a great deal of ordinary reluctance to be transparent gets to travel under a borrowed flag.
Het is de moeite waard eerlijk te zijn over waarom de tegenwerping zo populair is. Geheimhouding is comfortabel. Ze bespaart een organisatie het werk van zichzelf uitleggen, het risico van kritiek, en het ongemak van een beslissing die er bij daglicht slechter uitziet. Vermomd als veiligheid krijgt dat comfort een respectabele naam, en een hoop gewone tegenzin om transparant te zijn mag onder een geleende vlag reizen.
Almost everything else is safe to disclose
Bijna al het andere is veilig te onthullen
Now the part the objection conveniently obscures. Almost none of the transparency that people and regulators actually ask for touches the gameable core. Telling someone that AI was involved in a decision does not help them cheat. Telling them what factors mattered, that they have a right to a human review, how to appeal, what data was used, none of it hands an attacker anything. These are the disclosures that build trust and satisfy the law, and they are almost entirely separable from the narrow set of parameters worth protecting.
Nu het deel dat de tegenwerping handig verhult. Bijna niets van de transparantie die mensen en toezichthouders werkelijk vragen, raakt de misleidbare kern. Iemand vertellen dat AI betrokken was bij een beslissing, helpt hem niet vals te spelen. Hem vertellen welke factoren telden, dat hij recht heeft op een menselijke herbeoordeling, hoe bezwaar te maken, welke data gebruikt werd, niets ervan geeft een aanvaller iets. Dit zijn de onthullingen die vertrouwen bouwen en de wet naleven, en ze zijn bijna volledig scheidbaar van de smalle set parameters die het beschermen waard is.
De EU AI Act en het Nederlandse algoritmeregister, verplicht voor overheden sinds 2022, eisen beide de versterkende soort transparantie, niet de misleidbare. De wet maakte het onderscheid al dat de veiligheidstegenwerping doet alsof onmogelijk is.
The EU AI Act and the Dutch algorithm register, mandatory for public bodies since 2022, both demand the empowering kind of transparency, not the gameable kind. The law already made the distinction the security objection pretends is impossible.
So the honest line is drawn tightly. Protect the specific thresholds that would let someone game an adversarial system, and disclose everything else, because everything else was never the security risk. When you hear the security argument used to justify blanket secrecy, it has almost always stopped being a security argument and become a comfort. The real line is narrow. Most of what hides behind it does not belong there.
De eerlijke grens wordt dus strak getrokken. Bescherm de specifieke drempels die iemand een vijandig systeem zouden laten misleiden, en onthul al het andere, want al het andere was nooit het veiligheidsrisico. Wanneer u het veiligheidsargument hoort gebruiken om totale geheimhouding te rechtvaardigen, is het bijna altijd opgehouden een veiligheidsargument te zijn en een comfort geworden. De echte grens is smal. Het meeste wat zich erachter verbergt, hoort er niet.