Die wichtigsten Erkenntnisse
- Persönliche KI-Konten sind keine Abkürzung für eine Datenschutzprüfung im Unternehmen
- Ein Geschäftstarif und ein Vertrag helfen, ersetzen aber keine Prüfung von Zweck, Rechtsgrundlage, Datenfluss und Zugriffen
- Kein Name, keine E-Mail, keine Kundendaten in Prompts ohne Datenschutzprüfung
- Ein Auftragsverarbeitungsvertrag kann erforderlich sein, wenn ein Anbieter Daten im Auftrag verarbeitet; Rollen und Vertrag müssen geprüft werden
- Lokale Modelle können Datenflüsse reduzieren, erfordern aber eigene Sicherheits- und Zugriffskontrollen
Warum Datenschutz bei KI ein echtes Problem ist
KI-Tools wie ChatGPT sind so einfach zu nutzen, dass Mitarbeiter sie oft ohne Nachdenken für alle möglichen Aufgaben einsetzen – inklusive der Eingabe von Kundendaten, Mitarbeiterinformationen oder vertraulichen Geschäftsdaten. Das ist ein ernstes Datenschutzproblem.
Die DSGVO gilt sobald personenbezogene Daten verarbeitet werden – und das passiert schnell: Ein Name in einem Prompt, eine E-Mail-Adresse in einem Entwurf, Kundenfeedback in einer Zusammenfassung.
Das Problem mit kostenlosen KI-Tools
Ein persönlicher, kostenloser KI-Zugang ist nicht für jede Unternehmensverarbeitung geeignet. Vor der Nutzung mit personenbezogenen Daten müssen insbesondere Kontoeinstellung, Datenfluss, Aufbewahrung, Vertrag und Rechtsgrundlage geprüft werden:
| Problem | Details |
|---|---|
| Datenkontrollen | Persönliche Tarife und Produktfunktionen können andere Voreinstellungen als Geschäftstarife haben |
| Datenfluss | Region, Subprozessoren, Websuche, Konnektoren und Aufbewahrung sind produkt- und konfigurationsabhängig |
| Vertrag | Prüfe, ob die vorgesehenen Vertragsunterlagen und Rollen zu deiner Verarbeitung passen |
| Governance | Ohne zentralen Workspace fehlen oft Freigaben, Protokollierung und administrative Kontrollen |
Wichtig: Ein Geschäftstarif kann zusätzliche Kontrollen und Vertragsoptionen bieten. Er ersetzt weder Datenminimierung noch eine Prüfung des konkreten Einsatzfalls.
Die Lösung: Enterprise-Verträge und AVV
Geschäftstarife und APIs
- Datenverwendung für Modelltraining, Aufbewahrung, Datenresidenz und Zugriffskontrollen unterscheiden sich je Produkt und Vertrag
- OpenAI nutzt Geschäftsdaten bei Business-, Enterprise- und API-Angeboten standardmäßig nicht für Modelltraining; individuelle Einstellungen und Vertragsunterlagen bleiben maßgeblich
- Prüfe aktuelle Auftragsverarbeitungs- und Sicherheitsunterlagen vor dem Einsatz
Microsoft- und andere Cloud-Angebote
- Können in vorhandene Vertrags-, Berechtigungs- und Compliance-Strukturen eingebunden werden
- Copilot-Dokumentation beschreibt, dass Prompts, Antworten und Microsoft-Graph-Daten nicht zum Training der zugrunde liegenden Modelle verwendet werden
- Region, verwendete Modelle, angeschlossene Dienste, Aufbewahrung und Administratorfreigaben konkret prüfen
Anbieter neutral bewerten
- Ein europäischer Unternehmenssitz oder ein bestimmter Tarif ist kein automatischer DSGVO-Nachweis.
- Prüfe bei jedem Anbieter die aktuelle Produktdokumentation, das Data Processing Addendum, Datenresidenz, Subprozessoren, Trainings-/Feedback-Einstellungen und die zulässige Nutzung.
Lokale Modelle – Maximale Kontrolle
Für maximale Datenschutz-Kontrolle: Open-Source-Modelle lokal betreiben.
# Ein lokal verfügbares Modell starten
# Verfügbaren Modellnamen und Lizenz vorher prüfen
ollama run <modellname>Vorteile: Datenflüsse können auf die eigene Umgebung begrenzt werden. Nachteile: Hardware, Patch-Management, Berechtigungen, Protokollierung und Ausfallsicherheit liegen vollständig beim Unternehmen.
Was darf in Prompts – und was nicht?
Niemals ohne Datenschutzprüfung eingeben
- Vollständige Namen von Kunden, Mitarbeitern oder Dritten
- E-Mail-Adressen, Telefonnummern, Adressen
- Sozialversicherungsnummern, Steuernummern, Bankdaten
- Gesundheitsdaten, biometrische Daten
- Politische Meinungen, religiöse Überzeugungen
- Vertrauliche Geschäftsdaten, Betriebsgeheimnisse
Mit Enterprise-Vertrag und AVV möglich
- Anonymisierte oder pseudonymisierte Kundendaten
- Allgemeine Geschäftsprozesse ohne personenbezogene Details
- Interne Dokumente (wenn Datenschutzprüfung erfolgt ist)
Datenarme Beispiele bevorzugen
- Allgemeine Fragen ohne Personenbezug
- Öffentlich verfügbare Informationen
- Eigene, dafür freigegebene Texte ohne Drittdaten
- Code ohne personenbezogene Daten
Der Auftragsverarbeitungsvertrag (AVV)
Wenn ein Dienstleister personenbezogene Daten in deinem Auftrag verarbeitet, ist in der Regel ein AVV nach Art. 28 DSGVO erforderlich. Ob diese Rollenverteilung vorliegt, muss für Produkt und Einsatzfall geprüft werden.
Was muss ein AVV regeln?
- Gegenstand und Dauer der Verarbeitung
- Art und Zweck der Verarbeitung
- Kategorien der betroffenen Personen und Daten
- Pflichten und Rechte des Verantwortlichen
- Technische und organisatorische Maßnahmen (TOMs)
- Regelungen zu Subunternehmern
- Löschung oder Rückgabe der Daten nach Vertragsende
Wo bekomme ich einen AVV?
- Nutze die aktuellen Vertrags- und Datenschutzunterlagen des Anbieters sowie die Beschaffungs- oder Datenschutzstelle deines Unternehmens.
- Prüfe auch verbundene Dienste wie Websuche, Konnektoren, Agenten und Telemetrie.
Drittlandtransfer: Das USA-Problem
Die meisten führenden KI-Anbieter sitzen in den USA. Datentransfers in die USA sind nach DSGVO nur unter bestimmten Bedingungen erlaubt:
Zulässige Grundlagen:
- EU-US Data Privacy Framework (DPF): Seit Juli 2023 wieder gültig. OpenAI, Google und Microsoft sind zertifiziert.
- Standardvertragsklauseln (SCC): Vertragliche Absicherung des Transfers
- Binding Corporate Rules (BCR): Für konzerninterne Transfers
Praktisch: Ein Drittlandtransfer braucht eine dokumentierte Prüfung der tatsächlich genutzten Dienste, Regionen und Garantien. Bei besonders sensiblen Daten kann eine stärker kontrollierte Architektur sinnvoll sein; sie ersetzt aber ebenfalls keine Sicherheits- und Datenschutzmaßnahmen.
Technische und organisatorische Maßnahmen (TOMs)
Unternehmen müssen geeignete TOMs implementieren und dokumentieren:
Technische Maßnahmen
- Datenmaskierung: Personenbezogene Daten vor der KI-Eingabe automatisch ersetzen
- Zugriffskontrolle: Nur autorisierte Mitarbeiter können KI-Tools mit sensiblen Daten nutzen
- Logging: Protokollierung welche Daten in KI-Systeme eingegeben wurden
- Verschlüsselung: Daten in Transit und at Rest verschlüsseln
import re
def anonymize_for_llm(text: str) -> tuple[str, dict]:
"""Ersetzt personenbezogene Daten durch Platzhalter."""
replacements = {}
counter = {"name": 0, "email": 0, "phone": 0}
# E-Mails ersetzen
emails = re.findall(r'\b[A-Za-z0-9._%+-]+@[A-Za-z0-9.-]+\.[A-Z|a-z]{2,}\b', text)
for email in set(emails):
counter["email"] += 1
placeholder = f"[EMAIL_{counter['email']}]"
replacements[placeholder] = email
text = text.replace(email, placeholder)
# Telefonnummern ersetzen
phones = re.findall(r'\b(\+49|0)[0-9\s\-\/]{8,}\b', text)
for phone in set(phones):
counter["phone"] += 1
placeholder = f"[PHONE_{counter['phone']}]"
replacements[placeholder] = phone
text = text.replace(phone, placeholder)
return text, replacements
# Verwendung
original = "Bitte analysiere die E-Mail von max.mustermann@firma.de"
anonymized, mapping = anonymize_for_llm(original)
print(anonymized)
# "Bitte analysiere die E-Mail von [EMAIL_1]"Organisatorische Maßnahmen
- KI-Nutzungsrichtlinie: Schriftliche Regelung was erlaubt ist und was nicht
- Mitarbeiterschulung: Regelmäßige Schulungen zu Datenschutz bei KI-Nutzung
- Datenschutz-Folgenabschätzung (DSFA): Bei Hochrisiko-Verarbeitungen Pflicht
- Verzeichnis der Verarbeitungstätigkeiten: KI-Nutzung dokumentieren
Besondere Kategorien: Gesundheit, HR, Finanzen
Für besondere Kategorien personenbezogener Daten (Art. 9 DSGVO) gelten verschärfte Anforderungen:
- Gesundheitsdaten: Arztbriefe, Krankenakten, Diagnosen → besondere Kategorien; Rechtsgrundlage, Schutzmaßnahmen und gegebenenfalls Einwilligung prüfen
- HR-Daten: Leistungsbeurteilungen, Gehaltsinfos → arbeitsrechtliche Beteiligung, Zweckbindung und Risiken für Betroffene früh prüfen
- Finanzdaten: Kontonummern, Kreditkarten → Zugriff, Übermittlung, Sicherheit und einschlägige Branchenanforderungen prüfen
AI Act + DSGVO: KI für Beschäftigung und Personalmanagement kann unter die Hochrisiko-Kategorien des AI Act fallen. Die einschlägigen Hochrisiko-Pflichten greifen für diese Kategorie grundsätzlich ab Dezember 2027; prüfe dennoch bereits jetzt Risikobewertung, menschliche Aufsicht, Dokumentation und Transparenz.
Häufige Fehler und wie du sie vermeidest
Problem: „Mitarbeiter nutzen ChatGPT Free mit Kundendaten”
Ursache: Keine klare Nutzungsrichtlinie, Mitarbeiter kennen die Risiken nicht. Lösung: Schriftliche KI-Nutzungsrichtlinie erstellen und kommunizieren. Enterprise-Lösung bereitstellen damit Mitarbeiter eine datenschutzkonforme Alternative haben. Schulungen durchführen.
Problem: „Wir haben keinen AVV mit unserem KI-Anbieter”
Ursache: KI-Tool wurde ohne Datenschutzprüfung eingeführt. Lösung: Sofort prüfen ob personenbezogene Daten verarbeitet werden. Wenn ja: Enterprise-Plan mit AVV abschließen oder auf datenschutzkonformes Tool wechseln. Bis dahin: Keine personenbezogenen Daten eingeben.
Problem: „Wir wissen nicht was Mitarbeiter in KI eingeben”
Ursache: Keine Governance, keine Logging-Lösung. Lösung: KI-Nutzung über zentral verwaltete Enterprise-Accounts kanalisieren. Logging aktivieren. Regelmäßige Audits. Klare Meldepflicht bei versehentlicher Eingabe sensibler Daten.