KI-Governance und Datenschutz
Was sind LLM-Datenkontrollen? Definition und Praxisbeispiel
Auch: No Training, Zero Data Retention, DPA, Allowlist, Log-Hygiene
Kurz erklärt
LLM-Datenkontrollen sind die technischen und vertraglichen Massnahmen, die festlegen, was mit euren Daten in einem Sprachmodell geschieht. Sechs Bausteine beantworten drei Fragen: Was tut der Anbieter damit, wo und unter welchem Recht, und was bleibt im eigenen System?
Warum es zählt: Sie geben eine belastbare Antwort auf die Frage «Was passiert mit unseren Daten?».
- Beim AnbieterNo Training, Zero Data Retention
- Recht und OrtDPA, Datenresidenz
- Im eigenen SystemTechnische Allowlist, Log-Hygiene
Warum ist LLM-Datenkontrollen wichtig für dein Unternehmen?
An dieser Frage bleiben KI-Projekte oft im Security-Review hängen, gerade in der Schweiz und in Deutschland. Eine einzelne Zusage reicht nicht: Ein Anbieter kann auf Training verzichten und die Daten trotzdem speichern.
Die sechs Bausteine wirken in drei Paaren. No Training und Zero Data Retention regeln, was der Anbieter mit den Daten tut. DPA und Datenresidenz regeln Recht und Ort, technische Allowlist und Log-Hygiene das eigene System.
LLM-Datenkontrollen im Detail
No Training
No Training heisst: Der Anbieter eines Sprachmodells nutzt eure Prompts, Dateien und Antworten nicht, um seine Modelle zu trainieren. Die Zusage sagt nichts darüber, ob die Daten trotzdem gespeichert werden. Dafür braucht es Zero Data Retention.
Viele Gratis- und Privatkonten von KI-Tools nutzen Eingaben standardmässig zum Training, solange niemand widerspricht. Geschäftsangebote schliessen das meist vertraglich aus. Welche Variante gilt, entscheidet, ob Kundendaten oder Strategiepapiere in ein Modell einfliessen können.
Zero Data Retention
Zero Data Retention (ZDR) heisst: Der Anbieter speichert Prompts und Antworten nach der Verarbeitung nicht, ausser in klar definierten Ausnahmen. ZDR geht weiter als No Training, weil es nicht nur die Nutzung, sondern auch die Speicherung ausschliesst.
Viele Anbieter speichern Prompts eine Zeit lang, etwa zur Missbrauchserkennung oder Fehlersuche. Jede gespeicherte Kopie ist ein zusätzlicher Ort, an dem Daten kompromittiert oder von Behörden angefordert werden können.
DPA
Ein DPA (Data Processing Agreement) ist der Vertrag, der regelt, wie ein Anbieter personenbezogene Daten in eurem Auftrag bearbeitet. Er legt Schutzmassnahmen, Subprozessoren und Löschung fest und macht technische Zusagen einklagbar.
In der EU verlangt Art. 28 DSGVO einen solchen Vertrag, sobald ein Dienstleister personenbezogene Daten in eurem Auftrag verarbeitet; in Deutschland heisst er Auftragsverarbeitungsvertrag (AVV). In der Schweiz regelt das revidierte Datenschutzgesetz (revDSG) die Auftragsbearbeitung: Ihr müsst sicherstellen, dass der Anbieter die Datensicherheit gewährleistet, und Subunternehmer brauchen eure vorgängige Genehmigung.
Datenresidenz
Datenresidenz legt fest, in welcher Region Daten gespeichert und verarbeitet werden, etwa nur in der Schweiz oder in der EU. Sie regelt den Ort, nicht automatisch den Zugriff: Auch Daten in Europa können für Support-Teams oder Behörden anderer Länder erreichbar sein.
Technische Allowlist
Eine technische Allowlist ist die Liste der erlaubten KI-Modelle, Schnittstellen und Tools; alles andere wird technisch blockiert. Sie macht aus einer Richtlinie eine Kontrolle, die im Audit nachweisbar ist.
Ohne Allowlist ist jede Datenzusage nur eine Richtlinie. Wer schnell ein neues Modell testet oder einen Agenten mit Speicherfunktion anbindet, hebelt No Training, Zero Data Retention und den DPA aus, oft ohne es zu merken.
Log-Hygiene
Log-Hygiene ist der bewusste Umgang mit Logs, Monitoring und Fehlerdaten, damit Prompts und Personendaten nicht ungefiltert im eigenen System landen. Sie ist der Baustein der Datenkontrollen, der nicht beim Anbieter liegt, sondern bei euch.
KI-Anwendungen erzeugen nebenbei viele Daten: Anfragen in Application Logs, Fehlermeldungen mit vollem Prompt, Nutzungsdaten in Analytics. Dort liegen sie oft monatelang, für viele Personen lesbar und ohne Löschfrist.
Praxisbeispiel: Die Frage des Datenschutzbeauftragten
Die Geschäftsleitung will die Strategie 2027 mit einem KI-Assistenten in Massnahmen für jedes Team übersetzen. Der Datenschutzbeauftragte fragt: Wo landet das Papier, wer kann es lesen, wird damit trainiert? Bisher gibt es dazu nur eine Marketingseite des Anbieters.
Mit LLM-Datenkontrollen passt die Antwort auf eine Seite, Baustein für Baustein und mit Belegen aus Vertrag und Technik. Der Datenschutzbeauftragte gibt das Projekt frei, und das Team startet mit einem Tool, das alle sechs Bausteine erfüllt.
3 häufige Fehler, die du vermeiden solltest
Nur auf «No Training» achten
Kein Training heisst nicht keine Speicherung. Wer nur diesen Punkt prüft, hat die halbe Antwort.
Vertrag ohne Technik
Ein DPA hindert niemanden daran, schnell ein anderes Modell anzubinden. Erst eine technische Allowlist setzt die Zusage durch.
Das eigene System vergessen
Zero Data Retention beim Anbieter bringt wenig, wenn Prompts monatelang in euren eigenen Logs liegen.
Schritt für Schritt
- 1
Datenklassen festlegen
Klärt, welche Daten öffentlich, intern oder vertraulich sind und was in ein Sprachmodell darf.
- 2
Anbieter prüfen
Holt No Training, Zero Data Retention und Datenresidenz schriftlich ein, mit den Ausnahmen.
- 3
Vertrag abschliessen
Schliesst einen DPA mit Liste der Subprozessoren und Löschfristen ab.
- 4
Technisch absichern
Lasst nur geprüfte Modelle über eine Allowlist zu und maskiert Prompts in euren Logs.
Wo steht eure Firma bei KI?
Der AI Readiness Check zeigt in wenigen Minuten, wo ihr in den sechs Dimensionen des AI Monitor steht.
AI Readiness Check startenWeiterlesen im PM Lab
Artikel, die das Thema vertiefen.
Verwandte Begriffe
- KI-Governance →KI-Governance ist das Regelwerk, mit dem eine Firma steuert, wer KI wofür einsetzen darf, mit welchen Daten und unter wessen Verantwortung.
- Datenresidenz →Datenresidenz legt fest, in welcher Region Daten gespeichert und verarbeitet werden, etwa nur in der Schweiz oder in der EU.
- Schatten-KI →Schatten-KI ist der Einsatz von KI-Tools, die die Firma weder freigegeben hat noch kennt, etwa private Chatbot-Konten für Arbeitsdaten.