Sicherheit Grundlagen
Bias (Verzerrung)
Systematische Verzerrungen in KI-Systemen, die zu unfairen oder diskriminierenden Ergebnissen führen – verursacht durch einseitige Trainingsdaten, Algorithmen oder Designentscheidungen.
Einfach erklärt
Explainability (Erklärbarkeit) ist die Fähigkeit eines KI-Systems, seine Entscheidungen und Vorhersagen in für Menschen verständlicher Form zu begründen. Sie ist nicht nur ein technisches Feature, sondern eine ethische und rechtliche Anforderung: Der EU AI Act schreibt für Hochrisiko-KI-Systeme vor, dass Entscheidungen erklärbar sein müssen. Ein Kreditantrag, der von einer KI abgelehnt wird, muss begründet werden können – “das Modell hat es so entschieden” reicht nicht.
Explainability (Erklärbarkeit) bedeutet, dass ein KI-System nicht nur eine Entscheidung trifft, sondern auch erklären kann, warum. Das klingt selbstverständlich, ist aber bei modernen Deep-Learning-Modellen technisch schwierig – sie sind von Natur aus “Black Boxes”.
Explainability ist nicht nur ein technisches Problem, sondern ein rechtliches und ethisches. Der EU AI Act fordert Erklärbarkeit für Hochrisiko-KI-Systeme. Wenn ein Kredit abgelehnt, eine Bewerbung aussortiert oder eine medizinische Diagnose gestellt wird, haben Betroffene das Recht zu verstehen, warum. Methoden wie SHAP und LIME versuchen, diese Black Box nachträglich zu öffnen – sie erklären, welche Features die Entscheidung am stärksten beeinflusst haben.
Interpretierbarkeit vs. Erklärbarkeit:
| Aspekt | Interpretierbare Modelle | Erklärbare Modelle |
|---|---|---|
| Ansatz | Modell ist von Natur aus verständlich | Nachträgliche Erklärung eines komplexen Modells |
| Beispiele | Entscheidungsbäume, lineare Regression | SHAP/LIME für neuronale Netze |
| Genauigkeit | Oft niedriger | Kann hoch sein |
| Vertrauen | Direkt nachvollziehbar | Erklärung ist Approximation |
Technischer Deep Dive
Methoden
SHAP (SHapley Additive exPlanations):
- Basiert auf Spieltheorie (Shapley Values)
- Berechnet den Beitrag jedes Features zur Vorhersage
- Konsistent und theoretisch fundiert
LIME (Local Interpretable Model-agnostic Explanations):
- Erstellt ein einfaches Modell, das die Vorhersage lokal approximiert
- Funktioniert mit jedem Modell (model-agnostic)
- Schneller als SHAP, aber weniger konsistent
Attention Visualization:
- Zeigt, auf welche Eingabe-Teile das Modell “achtet”
- Nützlich für Transformer-Modelle
- Vorsicht: Attention ≠ Erklärung (Korrelation, nicht Kausalität)
Regulatorische Anforderungen
- EU AI Act: Transparenzpflichten für Hochrisiko-KI
- DSGVO Art. 22: Recht auf Erklärung bei automatisierten Entscheidungen
- US Equal Credit Opportunity Act: Erklärungspflicht bei Kreditablehnungen