Explainable UI

Explainable UI im Überblick

Explainable UI macht KI-Entscheidungen für Nutzer verständlicher und besser überprüfbar.

UI-Patterns:

Technisch betrachtet

Beispiel-UI

<div class="prediction-card">
  <h3>Empfehlung: Produkt X</h3>
  <div class="confidence">
    <span class="score">Hohe Sicherheit</span>
  </div>
  
  <details>
    <summary>Warum diese Empfehlung?</summary>
    <ul class="factors">
      <li>Ähnlichkeit zu bisherigen Käufen</li>
      <li>Beliebt bei ähnlichen Nutzern</li>
      <li>Passt zu deinem Budgetrahmen</li>
    </ul>
  </details>
</div>

SHAP-Werte visualisieren

import shap

explainer = shap.Explainer(model)
shap_values = explainer(X)

# Für UI: wichtigste Faktoren auswählen
top_factors = sorted(
    zip(feature_names, shap_values[0]),
    key=lambda x: abs(x[1]),
    reverse=True
)[:top_n]

Explainable UI in KI-Produkten

Auch generative KI-Produkte setzen Erklär-Patterns ein – oft subtiler als klassische XAI-Dashboards:

Bei LLM-Produkten haben Erklärungen eine Besonderheit: Vom Modell formulierte Begründungen sind selbst generierter Text und können plausibel klingen, ohne den tatsächlichen Entscheidungsweg abzubilden. Verlässlicher sind nachprüfbare Artefakte wie Quellen, Logs oder markierte Textstellen.

Do & Don’t

Abgrenzung zu verwandten Begriffen

• Explainable UI vs. Explainability: Explainability (XAI) ist die technische Disziplin, die Erklärungen erzeugt (SHAP, LIME, Attention-Analysen). Explainable UI entscheidet, wie diese Erklärungen dargestellt werden. Eine perfekte technische Erklärung nützt nichts, wenn das UI sie unverständlich präsentiert.
• Explainable UI vs. Transparenz: Transparenz umfasst auch Meta-Informationen (Trainingsdaten, Modellversion, Betreiber). Explainable UI fokussiert auf die einzelne Entscheidung im Nutzungsmoment.
• Explainable UI vs. Trust Calibration: Erklärungen sind ein Werkzeug, kalibriertes Vertrauen das Ziel. Schlechte Erklärungen können Vertrauen sogar fehlleiten – etwa wenn sie Sicherheit suggerieren, wo keine ist.

Messbarkeit

Ob ein Explainable UI funktioniert, zeigt sich an Verständnis und Verhalten:

• Nutzung der Erklärungen: Werden „Warum?”-Elemente überhaupt geöffnet?
• Verständnistests: Können Nutzer nach der Erklärung vorhersagen, wie das System in einem ähnlichen Fall entscheiden würde?
• Angemessenes Folgen und Widersprechen: Erkennen Nutzer mit Erklärung häufiger, wann die KI falsch liegt – ohne korrekte Ergebnisse öfter abzulehnen?
• Einspruchs- und Beschwerdequalität: In regulierten Bereichen (Kredit, Bewerbung) zeigen fundiertere Rückfragen, dass Betroffene die Entscheidung nachvollziehen konnten.

Vorsicht vor dem Selbstberichts-Bias: Dass Nutzer eine Erklärung als „hilfreich” bewerten, heißt nicht, dass sie die Entscheidung korrekt verstanden haben. Verhaltensmetriken sind aussagekräftiger als Zufriedenheitswerte.