Explainable UI

Einfach erklärt

Explainable UI macht KI-Entscheidungen für Nutzer verständlicher und besser überprüfbar.

UI-Patterns:

Pattern	Beispiel
Confidence Score	”hohe/mittlere/niedrige Sicherheit”
Top Factors	”Hauptgründe: A, B, C”
Counterfactual	”Wäre X anders, dann…”
Similar Cases	”Ähnliche Fälle waren…”
Uncertainty	”Unsicher bei: …”

Technischer Deep Dive

Beispiel-UI

<div class="prediction-card">
  <h3>Empfehlung: Produkt X</h3>
  <div class="confidence">
    <span class="score">Hohe Sicherheit</span>
  </div>
  
  <details>
    <summary>Warum diese Empfehlung?</summary>
    <ul class="factors">
      <li>Ähnlichkeit zu bisherigen Käufen</li>
      <li>Beliebt bei ähnlichen Nutzern</li>
      <li>Passt zu deinem Budgetrahmen</li>
    </ul>
  </details>
</div>

SHAP-Werte visualisieren

import shap

explainer = shap.Explainer(model)
shap_values = explainer(X)

# Für UI: wichtigste Faktoren auswählen
top_factors = sorted(
    zip(feature_names, shap_values[0]),
    key=lambda x: abs(x[1]),
    reverse=True
)[:top_n]

Explainable UI in KI-Produkten

Auch generative KI-Produkte setzen Erklär-Patterns ein – oft subtiler als klassische XAI-Dashboards:

Produkt-Kontext	Erklär-Pattern
Chatbots mit Websuche	Quellenangaben und Zitate direkt an der Aussage
Coding-Assistenten (Copilot)	Begleitender Kommentar, warum der Code so strukturiert ist
Agenten (Claude Code u. a.)	Sichtbares Arbeitsprotokoll: welche Dateien gelesen, welche Schritte ausgeführt
Empfehlungssysteme	„Weil du X angesehen hast” als Ein-Satz-Begründung
Spam-/Moderationsfilter	Markierung der Textstellen, die zur Einstufung führten

Bei LLM-Produkten haben Erklärungen eine Besonderheit: Vom Modell formulierte Begründungen sind selbst generierter Text und können plausibel klingen, ohne den tatsächlichen Entscheidungsweg abzubilden. Verlässlicher sind nachprüfbare Artefakte wie Quellen, Logs oder markierte Textstellen.

Do & Don’t

Do	Don’t
Erklärung an der Entscheidung platzieren	Erklärungen in ein separates Hilfe-Center auslagern
Sprache der Zielgruppe verwenden	SHAP-Werte oder Logits an Endnutzer durchreichen
Erklärtiefe staffeln (Progressive Disclosure)	Alle Details dauerhaft einblenden
Nachprüfbare Belege verlinken (Quellen, Daten)	Nur behaupten statt belegen
Auch Unsicherheit und Gegenargumente zeigen	Nur bestätigende Faktoren auflisten

Abgrenzung zu verwandten Begriffen

• Explainable UI vs. Explainability: Explainability (XAI) ist die technische Disziplin, die Erklärungen erzeugt (SHAP, LIME, Attention-Analysen). Explainable UI entscheidet, wie diese Erklärungen dargestellt werden. Eine perfekte technische Erklärung nützt nichts, wenn das UI sie unverständlich präsentiert.
• Explainable UI vs. Transparenz: Transparenz umfasst auch Meta-Informationen (Trainingsdaten, Modellversion, Betreiber). Explainable UI fokussiert auf die einzelne Entscheidung im Nutzungsmoment.
• Explainable UI vs. Trust Calibration: Erklärungen sind ein Werkzeug, kalibriertes Vertrauen das Ziel. Schlechte Erklärungen können Vertrauen sogar fehlleiten – etwa wenn sie Sicherheit suggerieren, wo keine ist.

Messbarkeit

Ob ein Explainable UI funktioniert, zeigt sich an Verständnis und Verhalten:

• Nutzung der Erklärungen: Werden „Warum?”-Elemente überhaupt geöffnet?
• Verständnistests: Können Nutzer nach der Erklärung vorhersagen, wie das System in einem ähnlichen Fall entscheiden würde?
• Angemessenes Folgen und Widersprechen: Erkennen Nutzer mit Erklärung häufiger, wann die KI falsch liegt – ohne korrekte Ergebnisse öfter abzulehnen?
• Einspruchs- und Beschwerdequalität: In regulierten Bereichen (Kredit, Bewerbung) zeigen fundiertere Rückfragen, dass Betroffene die Entscheidung nachvollziehen konnten.

Vorsicht vor dem Selbstberichts-Bias: Dass Nutzer eine Erklärung als „hilfreich” bewerten, heißt nicht, dass sie die Entscheidung korrekt verstanden haben. Verhaltensmetriken sind aussagekräftiger als Zufriedenheitswerte.