Sicherheit Grundlagen
Bias (Verzerrung)
Systematische Verzerrungen in KI-Systemen, die zu unfairen oder diskriminierenden Ergebnissen führen – verursacht durch einseitige Trainingsdaten, Algorithmen oder Designentscheidungen.
Einfach erklärt
Die DSGVO (Datenschutz-Grundverordnung) ist die europäische Datenschutzverordnung, die seit 2018 gilt und weltweit den strengsten Datenschutzstandard setzt. Für KI-Projekte ist die DSGVO allgegenwärtig: Trainingsdaten dürfen keine personenbezogenen Daten ohne Rechtsgrundlage enthalten. Automatisierte Entscheidungen mit erheblichen Auswirkungen auf Personen erfordern besondere Schutzmaßnahmen. Verstöße können mit bis zu 4% des weltweiten Jahresumsatzes bestraft werden.
Die DSGVO (Datenschutz-Grundverordnung) regelt, wie personenbezogene Daten in der EU verarbeitet werden dürfen. Für KI-Systeme hat das weitreichende Konsequenzen – von der Datenerhebung über das Training bis zur Nutzung in Produktion.
Das Kernproblem: KI-Modelle lernen aus Daten, und diese Daten enthalten oft personenbezogene Informationen. Die DSGVO fordert einen Rechtsgrund für jede Verarbeitung, Transparenz gegenüber Betroffenen und das Recht auf Löschung. Für LLMs ist das besonders heikel: Wenn ein Modell auf persönlichen Daten trainiert wurde, kann es diese unter Umständen reproduzieren – ein klarer DSGVO-Verstoß. Unternehmen müssen daher sorgfältig prüfen, welche Daten für KI-Training verwendet werden dürfen.
DSGVO-Grundprinzipien für KI:
| Prinzip | Bedeutung für KI |
|---|---|
| Zweckbindung | Daten nur für den angegebenen Zweck nutzen |
| Datenminimierung | Nur nötige Daten verarbeiten |
| Speicherbegrenzung | Daten nicht länger als nötig speichern |
| Transparenz | Nutzer über KI-Einsatz informieren |
| Richtigkeit | Daten aktuell und korrekt halten |
Betroffenenrechte:
- Recht auf Auskunft (welche Daten werden verarbeitet?)
- Recht auf Löschung (“Recht auf Vergessenwerden”)
- Recht auf Widerspruch gegen automatisierte Entscheidungen
- Recht auf menschliche Überprüfung
Technischer Deep Dive
Privacy by Design für KI
- Datenminimierung: Nur notwendige Features verwenden
- Anonymisierung/Pseudonymisierung: PII vor dem Training entfernen
- Differential Privacy: Mathematische Garantien für Privatsphäre
- Federated Learning: Modell kommt zu den Daten, nicht umgekehrt
- PII Detection: Automatische Erkennung personenbezogener Daten
EU AI Act + DSGVO
Der EU AI Act ergänzt die DSGVO um KI-spezifische Anforderungen:
- Risikokategorien für KI-Systeme (minimal, begrenzt, hoch, inakzeptabel)
- Transparenzpflichten für generative KI
- Pflicht zur Datenschutz-Folgenabschätzung für Hochrisiko-KI