Fairness

Einfach erklärt

Fairness bedeutet, dass ein KI-System alle Menschen gleich behandelt. Klingt einfach, ist aber in der Praxis komplex – denn es gibt verschiedene Definitionen von “gleich”, die sich mathematisch gegenseitig ausschließen können.

Demographic Parity fordert, dass ein Modell für alle Gruppen gleich oft positive Entscheidungen trifft. Equal Opportunity fordert, dass die True Positive Rate für alle Gruppen gleich ist. Calibration fordert, dass Wahrscheinlichkeitsaussagen für alle Gruppen gleich kalibriert sind. Das Problem: Man kann nicht alle drei gleichzeitig erfüllen, wenn die Basisraten zwischen Gruppen unterschiedlich sind – ein mathematisch bewiesenes Theorem. Fairness in KI erfordert deshalb immer eine bewusste Entscheidung, welche Definition in einem bestimmten Kontext gilt.

Fairness-Definitionen:

Definition	Bedeutung	Beispiel
Demographic Parity	Gleiche Annahmequote für alle Gruppen	50% Männer und 50% Frauen werden eingestellt
Equal Opportunity	Gleiche True-Positive-Rate	Qualifizierte werden unabhängig vom Geschlecht erkannt
Calibration	Gleiche Vorhersagegenauigkeit	”80% Wahrscheinlichkeit” bedeutet für alle Gruppen dasselbe
Individual Fairness	Ähnliche Personen → ähnliche Ergebnisse	Gleich qualifizierte Bewerber → gleiches Ergebnis

Technischer Deep Dive

Fairness messen

1. Geschützte Attribute definieren (Geschlecht, Alter, Herkunft)
2. Metriken pro Gruppe berechnen (Accuracy, FPR, FNR)
3. Disparitäten identifizieren (Unterschiede zwischen Gruppen)
4. Schwellenwerte festlegen (ab wann ist ein Unterschied unfair?)

Fairness-Interventionen

• Pre-Processing: Daten ausbalancieren, geschützte Attribute entfernen
• In-Processing: Fairness als Constraint im Training
• Post-Processing: Entscheidungsschwellen pro Gruppe anpassen

Trade-offs

• Fairness vs. Accuracy: Fairere Modelle können etwas weniger genau sein
• Verschiedene Fairness-Definitionen können sich widersprechen
• Gesellschaftliche Entscheidung, welche Fairness-Definition Priorität hat