DSK-Orientierungshilfe KI und RAG: was Unternehmen jetzt umsetzen sollten
Die
Stand: 4. November 2026 · keine Rechtsberatung
Das Wichtigste in Kürze
- Die DSK hat zu KI
drei Orientierungshilfen veröffentlicht: Mai 2024 für Anwender, Juni 2025 zu technischen und organisatorischen Maßnahmen, Oktober 2025 speziell zu RAG. - Die Papiere sind
kein Gesetz , zeigen aber, wie die Aufsichtsbehörden die DSGVO beim KI-Einsatz auslegen. - Für RAG sagt die DSK: Daten im Index lassen sich
gezielt korrigieren und löschen , Zugriffe lassen sich steuern. Im Sprachmodell selbst bleiben Löschung und Berichtigung weitgehend ungelöst. - Eine
Datenschutz-Folgenabschätzung wird beim KI-Einsatz nach Ansicht der DSK vielfach nötig sein, etwa bei Chatbots in der Kundenberatung.
Was ist die DSK, und wie verbindlich sind ihre Papiere?
Die
Eine Orientierungshilfe ist
Drei Orientierungshilfen zu KI und eine Muss-Liste.
Die drei Papiere ergänzen sich. Für ein Unternehmen, das einen KI-Assistenten einführt, ist das Papier vom Mai 2024 der Einstieg. Das RAG-Papier vom Oktober 2025 ist das einzige, das die Architektur „KI auf eigenen Dokumenten“ direkt behandelt.
| Papier | Richtet sich an | Kern für Ihren KI-Assistenten |
|---|---|---|
| OH „Künstliche Intelligenz und Datenschutz“, 6. Mai 2024 | Verantwortliche, die KI-Anwendungen einsetzen | Prüfpunkte in drei Phasen: Konzeption und Auswahl, Implementierung, Nutzung. Mit Randnummern (Rn.) 1 bis 69. |
| OH technische und organisatorische Maßnahmen, Juni 2025 | Vor allem Hersteller und Entwickler; Anwender für die Beschaffung | Maßnahmen je Lebenszyklusphase, geordnet nach den sieben Gewährleistungszielen des Standard-Datenschutzmodells (SDM). |
| OH generative KI-Systeme mit RAG-Methode, Oktober 2025 | Verantwortliche, die RAG-Systeme betreiben (eigene Einordnung; das Papier nennt keine Zielgruppe) | Wie RAG Richtigkeit, Transparenz, Vertraulichkeit, Zweckbindung, Löschung und Betroffenenrechte verändert. Szenario: alles beim Verantwortlichen betrieben. |
| DSFA-Muss-Liste, Version 1.1, 17.10.2018 | Nicht-öffentliche Stellen | Nr. 11: KI, die personenbezogene Daten verarbeitet, um die Interaktion mit Betroffenen zu steuern oder persönliche Aspekte zu bewerten. |
OH = Orientierungshilfe. Für den öffentlichen Bereich haben die Aufsichtsbehörden eigene Muss-Listen veröffentlicht. Die DSK hat außerdem am 12. Dezember 2025 eine Entschließung zur DSGVO-Reform veröffentlicht, in der sie für KI-Modelle neue Rechtsgrundlagen und Ersatzlösungen für schwer umsetzbare Betroffenenrechte fordert.
Die Kernanforderungen in acht Gruppen.
Zusammengefasst aus den drei Orientierungshilfen. Die Fundstellen stehen jeweils dabei, damit Ihre Datenschutzbeauftragte sie nachlesen kann.
Zweck und Rechtsgrundlage
Einsatzfelder und Zwecke vorab festlegen. Für jeden Verarbeitungsschritt mit personenbezogenen Daten braucht es eine Rechtsgrundlage, auch für Embedding und Vektordatenbank. (OH KI 2024 Rn. 1, 9; OH RAG 2025 Abschn. 3.6)
Auswahl des KI-Systems
Technisch geschlossene Systeme sind laut DSK vorzugswürdig. Bevorzugt Anwendungen, die Ein- und Ausgaben nicht zum Training nutzen. Der Anbieter muss genug Informationen für Transparenz und DSFA liefern. (OH KI 2024 Rn. 20, 24, 40)
Transparenz
Betroffene über die Verarbeitung informieren. Bei RAG macht die Angabe der genutzten Quellen nachvollziehbar, worauf eine Antwort beruht. Das Innenleben des Sprachmodells wird dadurch nicht transparenter. (OH KI 2024 Rn. 21 ff.; OH RAG 2025 Abschn. 3.2)
Betroffenenrechte
Berichtigung und Löschung müssen technisch und organisatorisch umsetzbar sein. Filter sind nicht generell eine Löschung. Im RAG-Index sind Einträge gezielt löschbar, im Sprachmodell bleibt das weitgehend ungelöst. (OH KI 2024 Rn. 26 bis 30; OH RAG 2025 Abschn. 3.5, 3.7)
Richtigkeit und Halluzinationen
Ergebnisse mit Personenbezug vor der Weiterverwendung prüfen. RAG kann Halluzinationen verringern, aber nicht ausschließen. Die Qualität hängt an aktuellen, vollständigen Referenzdokumenten. (OH KI 2024 Rn. 64 f.; OH RAG 2025 Abschn. 3.1)
Technische und organisatorische Maßnahmen
Datenschutz durch Technikgestaltung und Voreinstellungen, IT-Sicherheit, Rollen- und Berechtigungskonzept, Protokollierung, Löschkonzept. Bei RAG: Mandantentrennung und Rechte je Bereich der Vektordatenbank. (OH KI 2024 Rn. 43 f.; OH TOM 2025 Abschn. 1.4; OH RAG 2025 Abschn. 3.3)
Beschäftigte und Betriebsrat
Klare interne Regeln, betriebliche Accounts statt privater, Schulungen. Datenschutzbeauftragte einbinden, Beteiligung von Betriebs- oder Personalrat prüfen, Betriebsvereinbarung erwägen. (OH KI 2024 Rn. 31, 36 f., 41, 46)
Datenschutz-Folgenabschätzung
Vorab das Risiko bewerten. Hat die Verarbeitung voraussichtlich ein hohes Risiko zur Folge, ist eine DSFA nach Art. 35 DSGVO Pflicht, beim KI-Einsatz laut DSK „vielfach“. Die Muss-Liste nennt KI ausdrücklich unter Nr. 11. (OH KI 2024 Rn. 38 bis 40; Muss-Liste Nr. 11)
Was die Anforderungen für einen KI-Assistenten mit RAG konkret heißen.
Die linke Spalte nennt die Anforderung mit Fundstelle. Die übrigen Spalten sind unsere Übersetzung in den Alltag eines Unternehmens, das einen KI-Assistenten auf eigenen Dokumenten betreibt. Zuständigkeiten und Nachweise sind Vorschläge; passen Sie sie an Ihre Organisation an.
| Anforderung | Was das beim KI-Assistenten mit RAG heißt | Wer | Nachweis |
|---|---|---|---|
| Zweck festlegen OH KI 2024 Rn. 1 | Je Assistent festhalten, welche Dokumentensammlungen er nutzt und welche Fragen er beantworten soll. Ein HR-Assistent und ein Vertriebsassistent sind getrennte Zwecke. | Fachbereich mit Datenschutzbeauftragter | Zweckbeschreibung im Verzeichnis der Verarbeitungstätigkeiten (VVT) |
| Rechtsgrundlage, auch für den Index OH KI 2024 Rn. 9; OH RAG 2025 Abschn. 3.6 | Das Zerlegen personenbezogener Dokumente in Textabschnitte, das Embedding und die Speicherung in der Vektordatenbank sind eigene Verarbeitungsschritte. Für jeden braucht es eine Rechtsgrundlage. | Datenschutzbeauftragte, Rechtsabteilung | Rechtsgrundlage je Schritt im VVT, ggf. dokumentierte Interessenabwägung |
| Geschlossenes System, kein Training OH KI 2024 Rn. 20, 24 f., 43 | Eingaben und Ausgaben nicht zum Training nutzen. Verläufe standardmäßig nicht über die Sitzung hinaus speichern; Nutzer entscheiden selbst, ob ihr Verlauf gespeichert wird (Rn. 25, 43). Möglichst in einer abgegrenzten Umgebung betreiben. | IT-Betrieb | Konfigurationsnachweis, bei externem Betrieb Auftragsverarbeitungsvertrag (AVV) |
| Nur nötige Daten in den Index OH RAG 2025 Abschn. 3.1, 3.5 | Bewusst entscheiden, welche Quellen indexiert werden. Personenbezogene Daten, die für den Zweck nicht nötig sind, vor dem Indexieren entfernen oder anonymisieren. | Fachbereich als Datenverantwortlicher | Freigegebene Quellenliste je Index |
| Zugriffsrechte je Dokument OH RAG 2025 Abschn. 3.3, 3.4; OH TOM 2025 Abschn. 2.4.7 | Der Assistent darf nur Textabschnitte aus Dokumenten verwenden, die die fragende Person sehen darf. Bereiche trennen, Rollen je Zweck vergeben. Bei jeder neuen Datenquelle prüfen, ob alle Nutzer darauf zugreifen dürfen. | IT-Administration, Fachbereich | Rollen- und Berechtigungskonzept, Prüfvermerk je neuer Quelle |
| Quellen bei jeder Antwort OH RAG 2025 Abschn. 3.2 | Antworten zeigen, aus welchem Dokument und welcher Textstelle sie stammen. Das macht nachvollziehbar, worauf die Antwort beruht, und erleichtert die Prüfung. | Produktverantwortliche | Screenshot oder Testprotokoll mit Quellenangaben |
| Richtigkeit sichern OH RAG 2025 Abschn. 3.1; OH KI 2024 Rn. 64 f. | Systemanweisung: nur auf Basis der Quellen antworten. Referenzdokumente regelmäßig auf Aktualität prüfen. Externe Quellen nur einbinden, wenn Rechtmäßigkeit, Eignung und Richtigkeit geprüft sind; eine Websuche erfüllt diese Anforderungen laut DSK regelmäßig nicht. Ergebnisse mit Personenbezug vor der Weiterverwendung prüfen lassen. | Fachbereich, Produktverantwortliche | Prüfturnus der Dokumente, Testfragen mit Ergebnissen |
| Berichtigung OH KI 2024 Rn. 27; OH RAG 2025 Abschn. 3.1 | Falsche Angaben im Quelldokument korrigieren und den Index neu aufbauen lassen. Danach prüfen, ob die alte Fassung nicht mehr in Antworten auftaucht. | Datenverantwortlicher, IT | Ticket mit Zeitpunkt der Neuindexierung |
| Löschung bis in den Index OH RAG 2025 Abschn. 3.5; OH KI 2024 Rn. 28 f. | Eine Löschung im Quellsystem muss auch die Textabschnitte, ihre Embeddings, Zwischenspeicher und gespeicherte Verläufe erfassen. Löschfristen gelten für Dokumente und Vektordatenbank gleichermaßen. Ein Ausgabefilter allein ist keine Löschung. | IT-Betrieb, Datenschutzbeauftragte | Löschkonzept, Löschprotokoll mit Datum |
| Auskunft OH RAG 2025 Abschn. 3.7 | Personenbezogene Daten in Prompts, Antworten, Referenzdokumenten und Vektordatenbank auffinden und beauskunften können. | Datenschutzbeauftragte, IT | Beschriebener Auskunftsprozess, Probelauf |
| Protokollierung OH TOM 2025 Abschn. 1.4, 2.4.1 | Festhalten, welche Daten durch welches KI-System verarbeitet wurden, wer Quellen, Modelle und Rechte geändert hat. Protokolle selbst brauchen eine Löschfrist. | IT-Sicherheit | Protokollkonzept, Auszug aus dem Änderungsprotokoll |
| Mensch entscheidet OH KI 2024 Rn. 12 f.; OH TOM 2025 Abschn. 2.4.4 | Der Assistent liefert Entwürfe und Fundstellen. Entscheidungen mit Rechtswirkung, etwa über Bewerbungen, trifft ein Mensch mit echtem Spielraum. | Fachbereich | Prozessbeschreibung mit Freigabeschritt |
| Beschäftigte und Betriebsrat OH KI 2024 Rn. 31, 36 f., 41, 46 | Nutzungsrichtlinie mit erlaubten und verbotenen Beispielen, betriebliche Accounts, Schulung. Beteiligung des Betriebsrats prüfen, Betriebsvereinbarung erwägen. | Personalabteilung, Betriebsrat, Datenschutzbeauftragte | Freigegebene Richtlinie, Betriebsvereinbarung, Schulungsnachweise |
| DSFA OH KI 2024 Rn. 38 bis 40; Muss-Liste Nr. 11 | Vorabprüfung für jeden Assistenten. Steuert der Assistent die Interaktion mit Kunden oder bewertet er Personen, ist nach der Muss-Liste eine DSFA durchzuführen. Informationen zur Funktionsweise beim Anbieter anfordern. | Datenschutzbeauftragte | Vorabprüfung bzw. DSFA-Bericht |
| Änderungen verfolgen OH KI 2024 Rn. 47; OH TOM 2025 Abschn. 2.4.1 | Bei Modellwechsel, Updates und neuen Quellen Tests wiederholen und Ergebnisse dokumentieren. Prüfen, welche Pflichten aus der KI-Verordnung zusätzlich gelten. | IT, Datenschutzbeauftragte | Änderungs- und Testprotokoll |
Eigene Darstellung auf Basis von: DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0, 6. Mai 2024; DSK, Orientierungshilfe zu empfohlenen technischen und organisatorischen Maßnahmen bei der Entwicklung und beim Betrieb von KI-Systemen, Version 1.0, Juni 2025; DSK, Orientierungshilfe zu datenschutzrechtlichen Besonderheiten generativer KI-Systeme mit RAG-Methode, Version 1.0, Oktober 2025; DSK, Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist (nicht-öffentlicher Bereich), Version 1.1 vom 17.10.2018. Rn. = Randnummer, Abschn. = Abschnitt.
Warum Löschen und Berichtigen mit RAG leichter ist als mit einem nachtrainierten Modell.
Wer einem Sprachmodell Unternehmenswissen beibringen will, hat zwei Wege: das Modell nachtrainieren (Fine-Tuning) oder es mit einer Dokumentensuche verbinden (RAG). Die DSK beschreibt den Unterschied so: Die Inhalte der Vektordatenbank werden bei jeder Anfrage neu herangezogen und verändern das Modell nicht. Anders als im Modell erlernte Informationen lassen sie sich „einfach aktualisieren, löschen und beauskunften“.
Enthält ein trainiertes Modell die zu löschende Information, verlangt die Orientierungshilfe zu technischen Maßnahmen regelmäßig ein neues Training oder ein geeignetes Nachtraining (Machine Unlearning), dessen Erfolg nachgewiesen werden muss. Filter gelten dort nur als Übergangslösung. Das heißt nicht, dass RAG alles löst: Was das Sprachmodell selbst aus seinem Training enthält, bleibt unberührt.
| Aspekt | Wissen im Index (RAG) | Wissen im Modell (Fine-Tuning) |
|---|---|---|
| Löschen | Einträge in Vektordatenbank und Dokumenten gezielt löschbar, auch per Löschfrist (OH RAG 2025, 3.5) | Regelmäßig neues Training oder Machine Unlearning mit Erfolgsnachweis; Filter nur als Übergang (OH TOM 2025, 2.4.4) |
| Berichtigen | Quelldokument korrigieren oder löschen (OH RAG 2025, 3.1) | Etwa durch Korrektur von Daten oder Nachtraining (OH KI 2024, Rn. 27) |
| Zugriffsrechte | Über Rollen und getrennte Bereiche der Vektordatenbank steuerbar (OH RAG 2025, 3.3) | Im Sprachmodell selbst nicht steuerbar (OH RAG 2025, 3.3) |
| Nachvollziehbarkeit | Genutzte Quellen dokumentierbar; das Modell bleibt intransparent (OH RAG 2025, 3.2) | Herkunft einer Aussage kaum nachvollziehbar |
Die letzte Zelle ist eine eigene Einschätzung, die übrigen geben die genannten Fundstellen wieder.
Wie eine selbst gehostete RAG-Plattform bei den Nachweisen hilft.
Viele Nachweise aus der Tabelle entstehen dort, wo der Assistent läuft. Eine selbst gehostete RAG-Plattform wie RAGSuite nennt zu jeder Antwort die Quelle, trennt Inhalte über Projekte mit jeweils eigenen Quellen, löscht automatisch mit Löschnachweis und hält Änderungen im Audit-Log fest (Community Edition: letzte 15 Tage). Rollen und Projektzugriff, Aufbewahrungsrichtlinien mit Legal Hold sowie die vollständige Audit-Historie mit Export bietet die Enterprise Edition. Berechtigungen einzelner Dokumente übernimmt RAGSuite nicht automatisch aus den Quellsystemen; Zugriffe steuern Sie über Projekte. Ob Ihr Einsatz den Anforderungen genügt, entscheiden aber Zweck, Rechtsgrundlage und Konfiguration; das bleibt Aufgabe Ihrer Organisation und Ihrer Datenschutzbeauftragten.
Ist Ihr KI-Assistent bereit für eine Prüfung nach den DSK-Papieren?
Haken Sie ab, was erledigt ist. Nichts wird gespeichert.
Fragen zur DSK-Orientierungshilfe KI.
Was ist die DSK-Orientierungshilfe KI?
Gemeint ist meist die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz (DSK) vom 6. Mai 2024. Sie richtet sich vor allem an Unternehmen und Behörden, die KI-Anwendungen einsetzen, und führt in drei Schritten durch Auswahl, Einführung und Nutzung. Ergänzt wird sie durch eine Orientierungshilfe zu technischen und organisatorischen Maßnahmen (Juni 2025) und eine zu RAG-Systemen (Oktober 2025).
Ist die Orientierungshilfe der DSK verbindlich?
Nein, sie ist kein Gesetz. Verbindlich sind die DSGVO und das BDSG, ihre letztverbindliche Auslegung liegt bei den Gerichten. Die Orientierungshilfe zeigt aber, wie die deutschen Aufsichtsbehörden die DSGVO beim KI-Einsatz verstehen. Sie bezeichnet sich selbst als Leitfaden und ausdrücklich nicht als abschließenden Anforderungskatalog. Wer davon abweicht, sollte gut begründen können, warum.
Gibt es eine DSK-Orientierungshilfe speziell zu RAG?
Ja. Im Oktober 2025 hat die DSK die „Orientierungshilfe zu datenschutzrechtlichen Besonderheiten generativer KI-Systeme mit RAG-Methode“ veröffentlicht. Sie betrachtet RAG-Systeme mit Embeddings und Vektordatenbank, die vollständig beim Verantwortlichen betrieben werden. Ergebnis: RAG kann Richtigkeit, Vertraulichkeit und die Umsetzung von Betroffenenrechten erleichtern, löst aber die Probleme des Sprachmodells selbst nicht.
Brauche ich für einen KI-Assistenten eine Datenschutz-Folgenabschätzung?
Häufig ja. Nach der Orientierungshilfe vom Mai 2024 wird eine DSFA beim Einsatz von KI „vielfach“ erforderlich sein. Die Muss-Liste der DSK nennt unter Nr. 11 den Einsatz von KI, die personenbezogene Daten verarbeitet, um die Interaktion mit Betroffenen zu steuern oder persönliche Aspekte zu bewerten, etwa einen Kundenberatungs-Chatbot. Ein interner Assistent auf Handbüchern ohne Personenbezug kann anders zu bewerten sein. Eine dokumentierte Vorabprüfung brauchen Sie in jedem Fall.
Wie lösche ich personenbezogene Daten in einem RAG-System?
Im Quelldokument und im Index: Nach der RAG-Orientierungshilfe sind Einträge in der Vektordatenbank direkt adressierbar und damit gezielt löschbar, auch über normale Löschfristen. Achten Sie darauf, dass eine Löschung im Quellsystem auch die Textabschnitte (Chunks), ihre Embeddings und gespeicherte Verläufe erfasst. Was ein Sprachmodell aus seinem Training enthält, lässt sich so nicht löschen. Dieses Problem bleibt laut DSK bestehen.
Muss der Betriebsrat bei KI-Assistenten beteiligt werden?
Das hängt vom Einsatz ab. Die DSK empfiehlt, Datenschutzbeauftragte stets einzubinden und die Beteiligung von Betriebs- oder Personalrat zu prüfen. Sie hält eine Dienst- oder Betriebsvereinbarung für sinnvoll und weist darauf hin, dass die Einführung einer KI-Anwendung in einigen Fällen ein Mitbestimmungsrecht auslöst. Unabhängig von den DSK-Papieren wird in der Praxis meist § 87 Abs. 1 Nr. 6 BetrVG geprüft: Mitbestimmungspflichtig sind technische Einrichtungen, die objektiv geeignet sind, Verhalten oder Leistung zu überwachen, etwa über Protokolle. Für Personalräte gilt das Personalvertretungsrecht.
Löst RAG die Datenschutzprobleme großer Sprachmodelle?
Nur teilweise. Die DSK stellt klar, dass ein rechtswidrig trainiertes Modell auch im RAG-System rechtswidrig trainiert bleibt und dass die Umsetzung von Betroffenenrechten im Modell weitgehend ungelöst ist. RAG kann aber Risiken mindern: Antworten stützen sich auf geprüfte Dokumente, Zugriffe lassen sich steuern, Daten im Index lassen sich korrigieren und löschen. Die DSK sieht RAG je nach Gestaltung als eine von mehreren risikomindernden Maßnahmen.
Nachweise für die Datenschutzprüfung, direkt aus dem KI-Assistenten.
Stefan geht mit Ihnen die Umsetzungstabelle durch und zeigt, welche Nachweise die Plattform liefert und wo Ihre Organisation selbst ansetzen muss.