Model Risk Management: ML-Modelle sicher betreiben

ERKLÄRUNG

Einfach erklärt

Model Risk Management identifiziert und kontrolliert Risiken von ML-Modellen – bevor sie Schaden anrichten.

Risiko-Kategorien:

Risiko	Beschreibung	Beispiel
Bias	Unfaire Behandlung von Gruppen	Kreditablehnung nach Geschlecht
Drift	Modell wird ungenau über Zeit	Veraltete Muster nach COVID
Fehler	Falsche Vorhersagen	Falsch-positive Fraud-Alerts
Compliance	Regulatorische Verstöße	DSGVO, AI Act

Technischer Deep Dive

MRM-Framework

1. Inventar
   └── Alle Modelle dokumentieren

2. Risiko-Assessment
   └── Kritikalität bewerten

3. Validierung
   └── Vor Go-Live prüfen

4. Monitoring
   └── Laufende Überwachung

5. Governance
   └── Rollen, Prozesse, Audits

Risiko-Klassifizierung

Tier	Kritikalität	Beispiel	Kontrollen
Tier 1	Hoch	Kredit-Scoring	Volle Validierung, Audit
Tier 2	Mittel	Empfehlungen	Standard-Monitoring
Tier 3	Niedrig	Interne Tools	Basis-Checks

ANALOGIE

Model Risk Management ist wie TÜV für Autos: Regelmäßige Prüfung, ob das Modell noch sicher funktioniert, bevor es Schaden anrichtet.

WICHTIGSTE PUNKTE

Risiken identifizieren: Bias, Drift, Fehler, Compliance

Kontrollen implementieren: Monitoring, Validierung, Audits

Dokumentation für Regulatoren und interne Governance

ANWENDUNGSFÄLLE

Finanzbranche

Kreditscoring, Fraud Detection unter Aufsicht

Healthcare

Diagnose-Modelle mit Patientensicherheit

HR

Recruiting-Modelle ohne Diskriminierung

HÄUFIGE FRAGEN

Welche Risiken haben ML-Modelle?

Bias/Fairness, Data Drift, Concept Drift, Fehlerhafte Vorhersagen, Datenschutz, Adversarial Attacks, Compliance-Verstöße.

Ist MRM nur für regulierte Branchen?

Nein, aber dort am wichtigsten. Jedes Unternehmen mit ML in kritischen Prozessen sollte MRM haben.

TOOLS & RESSOURCEN

Fiddler AI

Model Performance Management

Arthur AI

ML Observability und Governance

VERWANDTE BEGRIFFE

Business Digital

AI Governance Board

Ein unternehmensinternes Gremium zur Steuerung von KI-Initiativen – verantwortlich für Strategie, Ethik und Risikomanagement.

Sicherheit Grundlagen

Responsible AI

Ein übergreifendes Framework für die ethische, faire und transparente Entwicklung und Nutzung von KI-Systemen – von Bias-Erkennung bis Umweltauswirkungen.

Sicherheit Grundlagen

Bias (Verzerrung)

Systematische Verzerrungen in KI-Systemen, die zu unfairen oder diskriminierenden Ergebnissen führen – verursacht durch einseitige Trainingsdaten, Algorithmen oder Designentscheidungen.