Explainable AI (XAI)

Einfach erklärt

Explainable AI (XAI) ist die Antwort auf ein fundamentales Problem moderner KI: Die leistungsfähigsten Modelle sind Black Boxes. Ein Deep Neural Network mit Milliarden Parametern kann hervorragende Vorhersagen treffen – aber niemand weiß genau, warum. XAI-Methoden versuchen, diese Black Box zu öffnen.

Das ist nicht nur akademisch interessant. Wenn eine KI entscheidet, ob jemand einen Kredit bekommt, eine Stelle erhält oder medizinisch behandelt wird, haben Betroffene ein Recht auf Erklärung. Der EU AI Act macht das für Hochrisiko-Systeme zur Pflicht. XAI ist damit sowohl ein technisches als auch ein rechtliches und ethisches Thema.

Der Erklärbarkeits-Genauigkeits-Trade-off:

• Einfache Modelle (Entscheidungsbaum): Leicht erklärbar, aber oft weniger genau
• Komplexe Modelle (Deep Learning): Sehr genau, aber schwer erklärbar
• XAI-Methoden: Versuchen, komplexe Modelle nachträglich erklärbar zu machen
• Wichtig: Post-hoc-Erklärungen approximieren das Modell – sie sind nicht perfekt

Technischer Deep Dive

SHAP (SHapley Additive exPlanations)

SHAP basiert auf der Spieltheorie: Wie viel hat jedes Feature zur Vorhersage beigetragen?

import shap
import xgboost

model = xgboost.train(params, dtrain)
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_test)

# Visualisierung
shap.summary_plot(shap_values, X_test)
# → Zeigt: Feature "Alter" hat +0.3 zur Vorhersage beigetragen
#           Feature "Schulden" hat -0.5 beigetragen

LIME (Local Interpretable Model-agnostic Explanations)

LIME erklärt einzelne Vorhersagen durch ein lokales, einfaches Modell:

1. Nehme einen Datenpunkt, den du erklären willst
2. Erstelle leicht veränderte Versionen davon
3. Frage das Black-Box-Modell für alle Versionen
4. Trainiere ein einfaches Modell (lineare Regression) auf diesen Daten
5. Das einfache Modell erklärt die lokale Entscheidung

XAI-Methoden im Überblick

Methode	Typ	Für was	Modell-agnostisch
SHAP	Post-hoc	Feature-Wichtigkeit	Ja (mit Approximation)
LIME	Post-hoc	Einzelne Vorhersagen	Ja
Attention	Intrinsisch	Transformer-Modelle	Nein
Grad-CAM	Post-hoc	CNN-Bildklassifikation	Nein
Entscheidungsbaum	Intrinsisch	Regelbasierte Entscheidungen	Nein