Explainable AI (XAI)

Explainable AI im Überblick

Explainable AI (XAI) ist die Antwort auf ein fundamentales Problem moderner KI: Die leistungsfähigsten Modelle sind Black Boxes. Ein Deep Neural Network mit Milliarden Parametern kann hervorragende Vorhersagen treffen – aber niemand weiß genau, warum. XAI-Methoden versuchen, diese Black Box zu öffnen.

Das ist nicht nur akademisch interessant. Wenn eine KI entscheidet, ob jemand einen Kredit bekommt, eine Stelle erhält oder medizinisch behandelt wird, haben Betroffene ein Recht auf Erklärung. Der EU AI Act macht das für Hochrisiko-Systeme zur Pflicht. XAI ist damit sowohl ein technisches als auch ein rechtliches und ethisches Thema.

Der Erklärbarkeits-Genauigkeits-Trade-off:

• Einfache Modelle (Entscheidungsbaum): Leicht erklärbar, aber oft weniger genau
• Komplexe Modelle (Deep Learning): Sehr genau, aber schwer erklärbar
• XAI-Methoden: Versuchen, komplexe Modelle nachträglich erklärbar zu machen
• Wichtig: Post-hoc-Erklärungen approximieren das Modell – sie sind nicht perfekt

Technisch betrachtet

SHAP (SHapley Additive exPlanations)

SHAP basiert auf der Spieltheorie: Wie viel hat jedes Feature zur Vorhersage beigetragen?

import shap
import xgboost

model = xgboost.train(params, dtrain)
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_test)

# Visualisierung
shap.summary_plot(shap_values, X_test)
# → Zeigt: Feature "Alter" hat +0.3 zur Vorhersage beigetragen
#           Feature "Schulden" hat -0.5 beigetragen

LIME (Local Interpretable Model-agnostic Explanations)

LIME erklärt einzelne Vorhersagen durch ein lokales, einfaches Modell:

1. Nehme einen Datenpunkt, den du erklären willst
2. Erstelle leicht veränderte Versionen davon
3. Frage das Black-Box-Modell für alle Versionen
4. Trainiere ein einfaches Modell (lineare Regression) auf diesen Daten
5. Das einfache Modell erklärt die lokale Entscheidung

XAI-Methoden im Überblick