Was Unternehmen beim Einsatz von KI-Tools datenschutzrechtlich beachten müssen – konkret und praxisnah.
Wie du KI-Tools wie ChatGPT, Claude und Copilot DSGVO-konform im Unternehmen einsetzt. Welche Daten dürfen in Prompts, was ist ein AVV und wie schützt du personenbezogene Daten.
KI-Tools wie ChatGPT sind so einfach zu nutzen, dass Mitarbeiter sie oft ohne Nachdenken für alle möglichen Aufgaben einsetzen – inklusive der Eingabe von Kundendaten, Mitarbeiterinformationen oder vertraulichen Geschäftsdaten. Das ist ein ernstes Datenschutzproblem.
Die DSGVO gilt sobald personenbezogene Daten verarbeitet werden – und das passiert schnell: Ein Name in einem Prompt, eine E-Mail-Adresse in einem Entwurf, Kundenfeedback in einer Zusammenfassung.
Die kostenlose Version von ChatGPT ist für Unternehmen mit personenbezogenen Daten praktisch nicht DSGVO-konform nutzbar:
| Problem | Details |
|---|---|
| Training auf Eingaben | OpenAI kann Eingaben zur Modellverbesserung nutzen (opt-out möglich, aber nicht Standard) |
| Datenspeicherung außerhalb der EU | Server in den USA, kein ausreichender Drittlandtransfer-Schutz |
| Kein AVV verfügbar | Für die kostenlose Version gibt es keinen Auftragsverarbeitungsvertrag |
| Keine Datenschutzgarantien | Keine vertraglichen Zusicherungen für Unternehmen |
Wichtig: Das gilt für die kostenlose Version. Enterprise-Lösungen lösen diese Probleme weitgehend.
Für maximale Datenschutz-Kontrolle: Open-Source-Modelle lokal betreiben.
# Ollama installieren und Llama 4 lokal starten
curl -fsSL https://ollama.ai/install.sh | sh
ollama run llama4
# Oder Mistral
ollama run mistral-largeVorteile: Keine Daten verlassen das Unternehmen, kein Cloud-Anbieter, volle Kontrolle. Nachteile: Eigene Hardware/Server nötig, kleinere Modelle weniger leistungsfähig.
Ein AVV ist Pflicht (Art. 28 DSGVO) sobald ein Dienstleister personenbezogene Daten in deinem Auftrag verarbeitet. Das gilt auch für KI-Anbieter.
Was muss ein AVV regeln?
Wo bekomme ich einen AVV?
Die meisten führenden KI-Anbieter sitzen in den USA. Datentransfers in die USA sind nach DSGVO nur unter bestimmten Bedingungen erlaubt:
Zulässige Grundlagen:
Praktisch: Wer Enterprise-Verträge mit großen Anbietern nutzt, ist durch DPF-Zertifizierung und SCCs in der Regel ausreichend abgesichert. Für sehr sensible Daten: EU-Anbieter (Mistral) oder lokale Modelle.
Unternehmen müssen geeignete TOMs implementieren und dokumentieren:
import re
def anonymize_for_llm(text: str) -> tuple[str, dict]:
"""Ersetzt personenbezogene Daten durch Platzhalter."""
replacements = {}
counter = {"name": 0, "email": 0, "phone": 0}
# E-Mails ersetzen
emails = re.findall(r'\b[A-Za-z0-9._%+-]+@[A-Za-z0-9.-]+\.[A-Z|a-z]{2,}\b', text)
for email in set(emails):
counter["email"] += 1
placeholder = f"[EMAIL_{counter['email']}]"
replacements[placeholder] = email
text = text.replace(email, placeholder)
# Telefonnummern ersetzen
phones = re.findall(r'\b(\+49|0)[0-9\s\-\/]{8,}\b', text)
for phone in set(phones):
counter["phone"] += 1
placeholder = f"[PHONE_{counter['phone']}]"
replacements[placeholder] = phone
text = text.replace(phone, placeholder)
return text, replacements
# Verwendung
original = "Bitte analysiere die E-Mail von max.mustermann@firma.de"
anonymized, mapping = anonymize_for_llm(original)
print(anonymized)
# "Bitte analysiere die E-Mail von [EMAIL_1]"Für besondere Kategorien personenbezogener Daten (Art. 9 DSGVO) gelten verschärfte Anforderungen:
AI Act + DSGVO: Wenn KI für Personalentscheidungen genutzt wird (Hochrisiko nach AI Act), kommen zusätzliche Pflichten hinzu: menschliche Aufsicht, Dokumentation, Transparenz gegenüber Betroffenen.
Ursache: Keine klare Nutzungsrichtlinie, Mitarbeiter kennen die Risiken nicht. Lösung: Schriftliche KI-Nutzungsrichtlinie erstellen und kommunizieren. Enterprise-Lösung bereitstellen damit Mitarbeiter eine datenschutzkonforme Alternative haben. Schulungen durchführen.
Ursache: KI-Tool wurde ohne Datenschutzprüfung eingeführt. Lösung: Sofort prüfen ob personenbezogene Daten verarbeitet werden. Wenn ja: Enterprise-Plan mit AVV abschließen oder auf datenschutzkonformes Tool wechseln. Bis dahin: Keine personenbezogenen Daten eingeben.
Ursache: Keine Governance, keine Logging-Lösung. Lösung: KI-Nutzung über zentral verwaltete Enterprise-Accounts kanalisieren. Logging aktivieren. Regelmäßige Audits. Klare Meldepflicht bei versehentlicher Eingabe sensibler Daten.
Datenschutz-Audit für KI-Tools
Führe einen schnellen Datenschutz-Check für alle KI-Tools durch die dein Unternehmen nutzt.
Ja, aber mit Einschränkungen. Die kostenlose Version ist für die Verarbeitung personenbezogener Daten praktisch nicht DSGVO-konform. Mit einem Enterprise-Vertrag (OpenAI Enterprise oder Azure OpenAI) und einem AVV ist die Nutzung datenschutzrechtlich absicherbar. Grundregel: Keine Kundendaten, Mitarbeiterdaten oder andere personenbezogene Informationen in die kostenlose Version eingeben.
Ein AVV ist ein Vertrag zwischen dir (Verantwortlicher) und dem KI-Anbieter (Auftragsverarbeiter), der regelt wie personenbezogene Daten verarbeitet werden. Du brauchst einen AVV sobald du personenbezogene Daten in ein KI-System eingibst. OpenAI, Anthropic und Google bieten AVVs für ihre Business/Enterprise-Pläne an.
Ja, deutlich. Azure OpenAI bietet EU-Datenspeicherung, einen AVV, keine Nutzung der Daten für Modelltraining und DSGVO-Konformität. Für Unternehmen die Microsoft 365 nutzen, ist Azure OpenAI oft die einfachste datenschutzkonforme Lösung.
Nur mit entsprechender Rechtsgrundlage und wenn ein AVV mit dem KI-Anbieter besteht. Für HR-Aufgaben (Leistungsbeurteilungen, Bewerbungen) ist besondere Vorsicht geboten – hier greift auch der AI Act (Hochrisiko-KI). Im Zweifel: Daten anonymisieren oder pseudonymisieren bevor sie in KI-Systeme eingegeben werden.