DSGVO-konforme LLM-Integration: Was 2026 wirklich erlaubt ist

Wer 2026 einen LLM-Use-Case in einem deutschen Unternehmen produktiv stellen will, muss mindestens vier regulatorische Fragen sauber beantworten: Rechtsgrundlage, Auftragsverarbeitung, Drittstaaten-Transfer, Betroffenenrechte. Dieser Leitfaden behandelt genau diese Fragen, mit der Primärquellen-Ausstattung, die Ihre Datenschutzbeauftragte oder externe Kanzlei in der Regel erwartet: EDPB Opinion 28/2024, DSK-Orientierungshilfe KI und Datenschutz (Version 1.0, 06.05.2024), DSK-Orientierungshilfe zu RAG-Systemen, EuGH Schrems II und die konsolidierte DSGVO.

Zielleser: IT-Leiter, Geschäftsführer und AI-Verantwortliche in Unternehmen mit 50 bis 500 Personen, die ChatGPT Enterprise, Claude API, Google Gemini, Microsoft Copilot oder einen lokal betriebenen Ollama-Stack einsetzen wollen und verlässlich wissen müssen, welche davon für ihren konkreten Use Case zulässig sind.

Der Rechtsrahmen in einer Tabelle

Quelle	Was sie regelt	Relevant ab
DSGVO (Verordnung (EU) 2016/679)	Gesamter Datenschutz-Rahmen. Art. 6 Rechtsgrundlage, Art. 22 automatisierte Einzelentscheidung, Art. 30 Verzeichnis, Art. 32 TOMs, Art. 35 DSFA, Art. 44 bis 49 Drittstaaten-Transfer.	Seit 25.05.2018
EuGH Schrems II (C-311/18)	Invalidierung des Privacy Shield, Anforderung zusätzlicher Maßnahmen bei Standardvertragsklauseln für US-Transfers.	Seit 16.07.2020
EU-US Data Privacy Framework (DPF)	Nachfolger des Privacy Shield, aktuelle Rechtsgrundlage für Transfers an DPF-zertifizierte US-Empfänger.	Seit 10.07.2023
DSK-Orientierungshilfe KI und Datenschutz	Praktischer Leitfaden der deutschen Datenschutzaufsichten für LLM-Einsatz in Unternehmen.	Seit 06.05.2024
EDPB Opinion 28/2024	Europaweite Auslegung zu Anonymität von Modellen, berechtigtem Interesse und Folgen unrechtmäßiger Trainings-Daten.	Seit 17.12.2024
EU AI Act Art. 50	Transparenzpflichten für Chatbots, synthetische Inhalte, Emotionserkennung.	Ab 02.08.2026

Die DSGVO ist und bleibt der Rahmen. Alles andere sind Konkretisierungen, mit teilweise unterschiedlichen Sichtweisen. Die wichtigste Klarstellung der letzten 18 Monate ist die EDPB Opinion 28/2024: seither ist „der Modellbetreiber kennt die Trainingsdaten nicht, also ist das Modell anonym” nicht mehr tragfähig. Anonymität ist im Einzelfall zu beweisen.

Die fünf Entscheidungspunkte eines LLM-Use-Cases

1. Rechtsgrundlage nach Art. 6 DSGVO

Jede Verarbeitung braucht eine. Für LLM-Einsätze im Unternehmen kommen praktisch in Frage:

• Art. 6 Abs. 1 lit. b: Erfüllung eines Vertrags (z. B. Chatbot, der eine vom Nutzer explizit angestoßene Aufgabe erledigt)
• Art. 6 Abs. 1 lit. c: gesetzliche Verpflichtung (selten)
• Art. 6 Abs. 1 lit. f: berechtigtes Interesse (häufigste Basis)
• Art. 6 Abs. 1 lit. a: Einwilligung (wenn sonst nichts trägt, aber fragil)

Die EDPB Opinion 28/2024 widmet dem berechtigten Interesse den Hauptteil und etabliert einen Drei-Stufen-Test:

1. Legitimes Interesse benannt?: Effizienz-Steigerung allein reicht nicht; konkreter Business-Nutzen muss dokumentiert sein.
2. Notwendigkeit geprüft?: Gibt es ein milderes Mittel, das den Zweck erfüllt?
3. Abwägung gegen Betroffenen-Rechte?: Vernünftige Erwartung der Betroffenen, Schutz von Minderjährigen, Sensibilität der Daten.

Praktisch: Ein internes Recherche-LLM mit öffentlichen Daten passiert den Test leicht. Ein automatisierter Bewerber-Vorfilter eher nicht, da ist Einwilligung oder strukturelle Umgestaltung nötig.

2. Auftragsverarbeitung bei externen LLM-APIs

Wer OpenAI, Anthropic, Google oder Azure OpenAI nutzt, setzt einen Auftragsverarbeiter ein. Ohne Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ist die Verarbeitung rechtswidrig. Das gilt auch, wenn der Vertrag im Self-Service-Portal per Mausklick angenommen wird, Hauptsache er ist abgeschlossen und im Verarbeitungsverzeichnis nachweisbar.

Drei typische Fehlerquellen:

• ChatGPT Free / Plus: kein AV-Vertrag, Trainings-Nutzung standardmäßig an. Verarbeitung personenbezogener Unternehmensdaten in diesen Tarifen ist in der Regel unzulässig.
• API ohne „zero retention”: viele Anbieter speichern Prompts standardmäßig 30 Tage. Abschalten, dokumentieren.
• Azure OpenAI in einem US-Region-Deployment: trotz Microsoft-Vertrag datenschutzrechtlich ein US-Transfer, nicht EU-intern.

3. Drittstaaten-Transfer nach Schrems II

Der EuGH hat mit Schrems II (C-311/18, Urteil vom 16.07.2020) klargestellt: Standardvertragsklauseln sind weiterhin zulässig, erfordern aber zusätzliche Maßnahmen, wenn das Empfängerland keinen vergleichbaren Datenschutz bietet. Für US-Anbieter gilt seit 10.07.2023 das EU-US Data Privacy Framework, ein Angemessenheitsbeschluss, der Transfers an DPF-zertifizierte Empfänger erlaubt.

Praktisch:

• OpenAI, Anthropic, Google Cloud, Microsoft sind DPF-zertifiziert. Prüfen vor dem Kontrakt, die Zertifizierung kann aussetzen.
• Selbst mit DPF gilt: weniger Daten > mehr Daten. Prompt-Hygiene (keine unnötigen personenbezogenen Felder) ist Pflicht.
• Anbieter mit EU-Region-Option (Anthropic EU, Azure EU, Google EU) vermeiden den US-Transfer komplett. Das ist die sauberere Variante, wo verfügbar.
• Ollama on-premise oder EU-gehostete Open-Source-Modelle (z. B. Mistral in französischem RZ) eliminieren das Transfer-Thema vollständig.

4. Automatisierte Einzelentscheidung (Art. 22)

Eine ausschließlich auf automatisierter Verarbeitung beruhende Entscheidung mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung ist grundsätzlich verboten, mit wenigen Ausnahmen (explizite Einwilligung, Vertragserfüllung, Spezialgesetz).

LLM-Use-Cases, die typischerweise Art. 22 berühren:

• Automatische Ablehnung eines Kreditantrags
• Automatische Kündigung eines Vertrags
• HR-Vorauswahl ohne menschliche Nachprüfung
• Preisdifferenzierung im Vertrieb ohne Review-Pflicht

Lösung meist: Human in the Loop mit echter, nicht nur formaler Entscheidungskompetenz. Der LLM liefert eine Empfehlung mit Begründung, ein Mensch entscheidet. Das muss dokumentiert sein und vom Ablauf her funktionieren, ein Schein-Human, der in 0,3 Sekunden abnickt, zählt nicht.

5. Betroffenenrechte bei Embeddings und RAG

Die DSK hat am 04.10.2024 eine eigene Orientierungshilfe zu RAG-Systemen veröffentlicht, weil die Betroffenenrechte hier besonders knifflig sind. Zwei Hauptfragen:

Art. 15 Auskunft. Eine Person fragt: „Welche Daten über mich speichert euer RAG-System?” Antwort muss möglich sein. Das bedeutet: Embeddings müssen rückwärts auf ursprüngliche Dokumente mappbar sein, und Dokumente müssen nach Betroffenem durchsuchbar sein.

Art. 17 Löschung. Eine Person verlangt Löschung. Das bedeutet: Quell-Dokument löschen und die daraus abgeleiteten Embeddings aus der Vektor-Datenbank entfernen. Technisch ein Hard-Delete, kein Soft-Delete, kein „das läuft beim nächsten Re-Index”. Wer nicht nachweisen kann, dass personenbezogene Embeddings verschwunden sind, erfüllt Art. 17 nicht.

Die Konsequenz: Vektor-Datenbank-Auswahl ist eine Datenschutz-Entscheidung, nicht nur eine technische. Systeme, die effizient gezieltes Delete unterstützen (qdrant, pgvector mit eigenen Metadaten), sind klar im Vorteil gegenüber reinen Streaming-Indices.

Der Anbieter-Vergleich aus DSGVO-Sicht

Option	Datentransfer	AV-Vertrag	Trainings-Opt-out	Zusätzliche Maßnahmen nötig?
Ollama on-prem (Llama, Mistral, Qwen)	Kein	Nicht erforderlich (keine Auftragsverarbeitung)	Entfällt	Nein
Anthropic Claude (EU-Region)	Intra-EU	DPA verfügbar	Per Konfiguration	Standard-TOMs
Azure OpenAI (EU-Region)	Intra-EU	MS-DPA	Per Konfiguration	Standard-TOMs
OpenAI API (US, mit zero retention)	US-Transfer	DPA verfügbar	Per API-Flag	DPF-Zertifizierung + zero retention + SCC-Fallback
ChatGPT Free/Plus	US-Transfer	Nicht für B2B	Standardmäßig AUS	Für personenbezogene Unternehmensdaten in der Regel ungeeignet
Lokaler Custom-Stack mit EU-Inferenz (z. B. Mistral bei OVHcloud)	Intra-EU	DPA beim Hoster	N/A (kein Training bei Inference-Only)	Standard-TOMs

Für hochsensible Daten (Gesundheit, Finanzen, HR): Ollama on-prem oder EU-Inferenz ohne Training. Für alltägliche Textverarbeitung ohne besondere Kategorien: Anthropic EU oder Azure EU. Für Entwicklung und Tests mit synthetischen Daten: OpenAI API via DPF mit zero retention. Die Free-Tarife bleiben privat.

Die DSK-Checkliste in sechs Schritten

Die DSK-Orientierungshilfe empfiehlt Verantwortlichen einen sechsstufigen Bewertungspfad, den ich hier leicht praxisnäher formuliert habe:

1. Zweck und Verarbeitungsvorgänge sauber beschreiben: so konkret, dass ein Außenstehender versteht, was mit welchen Daten warum passiert.
2. Rechtsgrundlage für jede Verarbeitung benennen (Training separat von Deployment, Prompts separat von Logs).
3. Transparenzinformationen aktualisieren: Datenschutzerklärung ergänzen, Mitarbeitende informieren.
4. Technische und organisatorische Maßnahmen nach Art. 32: Zugriffskontrolle, Verschlüsselung, Protokollierung, Backup-Strategie.
5. DSFA nach Art. 35, wenn hohes Risiko vorliegt; DSK-Whitelist / Blacklist der Aufsichten beachten.
6. Verarbeitungsverzeichnis aktualisieren: eigener Eintrag je LLM-Use-Case, nicht alles in einem Sammeleintrag.

Was Sie jetzt konkret tun sollten

1. LLM-Use-Case-Inventar erstellen. Listen Sie alle produktiven und in Planung befindlichen LLM-Anwendungen auf: welche Abteilung, welches Modell, welcher Anbieter, welche Daten, welche Rechtsgrundlage. Für die meisten Mittelständler ist das eine Excel-Tabelle von 10 bis 30 Einträgen. Was nicht drin steht, existiert aus Compliance-Sicht nicht, und wenn es doch existiert, ist es Schatten-IT.

2. Verträge prüfen. Für jeden externen LLM-Einsatz: AV-Vertrag vorhanden? Drittstaaten-Transfer dokumentiert? Zero retention gesetzt? Trainings-Opt-out aktiv? Die Prüfung dauert realistisch 30 Minuten je Anbieter, wenn man es ernst nimmt.

3. Shadow-IT-Amnestie ausrufen. Einmal intern kommunizieren: Wer Free-ChatGPT mit Kundendaten nutzt, hat zwei Wochen, um das ohne Konsequenzen offenzulegen. Danach gilt die freigegebene Referenzarchitektur als der Weg, auf dem neue Use Cases schnell durchgehen. Diese Übung spart später monatelange forensische Arbeit.

4. Referenzarchitektur für sensible Use Cases setzen. Der Satz „Team X will schnell einen Prototyp bauen, wir nehmen ChatGPT, Details klären wir später” kostet am Ende die meiste Zeit. Eine vorgegebene Referenzarchitektur (z. B. Ollama on-prem für PII, Anthropic EU für Rest) nimmt diese Entscheidung aus dem Einzelfall heraus und macht jedes neue Vorhaben schneller startklar.

Weiterführend

Konkrete Umsetzung dieser Referenzarchitektur zeigt die Fallstudie zur AI-Lead-Qualifizierung: Lead-Scoring mit Ollama on-prem, HubSpot-Sync, ohne dass personenbezogene Daten die EU-VM verlassen. Für einen strukturierten Audit Ihrer bestehenden LLM-Einsätze ist der DSGVO-KI-Audit ab € 4.500 der schnellste Weg von „wir glauben, es passt” zu einem Bericht, den Sie der Aufsichtsbehörde vorzeigen könnten.

Falls Ihr Use Case gleichzeitig unter den EU AI Act fällt (high-risk Anhang III, GPAI, oder Transparenzpflichten nach Art. 50), liefert der Risikoklassifikator in drei Minuten die Ersteinschätzung und verweist anschließend auf die vollständige EU-AI-Act-Beratung.

Hinweis

Dieser Text ist eine fachliche Einordnung, keine Rechtsberatung. Die DSGVO-Auslegung entwickelt sich fortlaufend, insbesondere durch neue EDPB-Leitlinien und Entscheidungen der Aufsichtsbehörden. Für verbindliche Aussagen zu konkreten Use Cases wenden Sie sich an Ihre betriebliche Datenschutzbeauftragte, eine spezialisierte Kanzlei oder direkt an die zuständige Aufsichtsbehörde (für Bayern: BayLDA).