Welcher Model-Host sieht die Dokumente Ihrer Kunden?

Früher oder später stellt Ihnen der Datenschutzbeauftragte Ihres Kunden eine Frage: Wenn Ihr Produkt Richtlinien, Verträge und Lieferantendateien liest, wer sieht diese sonst noch? Wenn Ihre Antwort lautet: „Wir nutzen einen LLM-Anbieter“, verlangsamt sich der Deal. Die Antwort, die der Kunde benötigt, benennt jedes Unternehmen in der Kette, wo es betrieben wird, wie lange es den Text speichert und welcher Vertrag dies abdeckt. Dieser Leitfaden zeigt, wie Sie zu dieser Antwort gelangen und wie wir uns selbst daran halten, bevor eine Funktion, die Dokumente liest, einen Kunden erreicht.

Beginnen Sie mit Ihrer Rolle

Bei den meisten Compliance-Produkten ist Ihr Kunde der Verantwortliche für die Dokumente, die er hochlädt, und Sie verarbeiten diese im Auftrag. Damit sind Sie ein Auftragsverarbeiter und jedes Unternehmen, das Sie mit der Verarbeitung dieser Dokumente beauftragen, ein Subunternehmer, der im Auftrag Ihres Kunden handelt. Wenn Sie die Dokumente auch für eigene Zwecke nutzen – etwa zur Verbesserung Ihrer Modelle –, werden Sie für diese Verarbeitung selbst zum Verantwortlichen, und der Rest dieses Leitfadens ändert sich. Entscheiden Sie, welche Rolle Sie einnehmen, und halten Sie dies in Ihrer Datenverarbeitungsvereinbarung (DPA) fest.

Die Kette ist länger, als Sie denken

Ein Dokument, das Ihr Produkt an ein Modell sendet, durchläuft in der Regel drei Unternehmen. Ihr eigenes Hosting empfängt es zunächst. Anschließend erhält möglicherweise ein Router das Dokument, wenn Sie einen solchen nutzen, um über eine einzige API auf mehrere Modelle zuzugreifen (OpenRouter ist ein gängiger Fall). Schließlich führt ein Inferenz-Host das Modell aus und sieht den vollständigen Text. Bei Modellen mit offenen Gewichten ist der Host oft nicht das Unternehmen, das das Modell trainiert hat: Ein Modell kann von mehreren Hosts in verschiedenen Ländern bereitgestellt werden, und der Router wählt möglicherweise bei jeder Anfrage einen anderen aus, es sei denn, Sie weisen ihn an, dies nicht zu tun.

Jeder dieser Hosts, der den Text sehen kann, ist ein Subunternehmer. Richtlinien und Lieferantenverträge enthalten oft personenbezogene Daten: Ein Firmenname allein ist es nicht, aber die Unterzeichner, Genehmiger und benannten Ansprechpartner dahinter schon – selbst wenn dies rein beruflich erfolgt.

Vier Aufzeichnungen pro Host

Er befindet sich auf Ihrer Subunternehmerliste, inklusive Standort, Rolle und Transfermechanismus. Wenn Ihre Kunden Ihnen in Ihrer DPA eine allgemeine schriftliche Genehmigung für diese Liste erteilen (Art. 28 Abs. 2 DSGVO), bedeutet das Hinzufügen eines Hosts, der nicht auf der Liste steht, dass Sie sie im Voraus informieren müssen, damit sie innerhalb der in Ihrer DPA festgelegten Frist Widerspruch einlegen können. Gemäß Art. 28 Abs. 4 haften Sie gegenüber Ihrem Kunden in vollem Umfang für die Leistung jedes Hosts.

Sie kennen den Vertrag, der ihn bindet, und können ihn vorlegen. Dabei handelt es sich entweder um Ihre eigene Vereinbarung mit dem Host oder um die Vereinbarung des Routers, die dieselben Verpflichtungen nach Art. 28 Abs. 3 auf ihn überträgt. Prüfen Sie diese auf folgende Punkte: dokumentierte Anweisungen, Vertraulichkeit, Sicherheit, Unterstützung bei Betroffenenanfragen und Datenschutzverletzungen, Löschung am Ende der Dienstleistung sowie Audit-Rechte. Fordern Sie zudem dessen ISO-27001-Zertifikat oder SOC-2-Bericht an; Datenschutzbeauftragte von Kunden verlangen diese häufig vor dem Vertragstext. Befindet sich der Host außerhalb des EWR, prüfen Sie die Rechtsgrundlage für den Transfer: zunächst eine Angemessenheitsentscheidung (für einen US-Host, ob dieser unter dem EU-US Data Privacy Framework zertifiziert ist) oder andernfalls die Standardvertragsklauseln (SCC) 2021 (Modul 3 zwischen Auftragsverarbeitern), jeweils mit einer Transfer Impact Assessment (TIA) für die SCCs.

Sie kennen dessen Aufbewahrungs- und Trainingsrichtlinien sowie deren Herkunft. Zero Data Retention (ZDR) bedeutet, dass der Host keine Kopie des Prompts oder der Antwort nach der Verarbeitung speichert. Prüfen Sie, ob dies aus einem Vertrag, einer Kontoeinstellung auf dem Router oder einem Flag in jeder Anfrage stammt. Alle drei sind nützlich, aber nicht dasselbe Beweismittel – ein Prüfer wird nach der Klausel fragen. Gleiches gilt für „kein Training mit Ihren Daten“. Zero Retention ist zudem eine der ergänzenden Maßnahmen, die Ihre Transfer Impact Assessment anführen kann.

Er ist in Ihren Verzeichnissen der Verarbeitungstätigkeiten (Art. 30 Abs. 2 DSGVO für einen Auftragsverarbeiter, inklusive etwaiger Transfers außerhalb des EWR und deren Schutzmaßnahmen) abgebildet, sodass die Aufzeichnungen, die Subunternehmerliste und die Verträge dieselbe Geschichte erzählen.

Route festlegen, dann den Nachweis erbringen

Die meisten Router wählen einen Host für Sie aus und wechseln zu einem anderen, wenn der erste ausgelastet ist. Das ist gut für die Verfügbarkeit, aber schlecht für die vier Aufzeichnungen oben: Ein Wechsel zu einem Host, den Sie nie auf Ihre Liste gesetzt haben, ist eine Verarbeitung durch einen nicht autorisierten Subunternehmer – nicht nur eine unordentliche Protokollierung. Drei Einstellungen schließen diese Lücke bei einem Router wie OpenRouter: Festlegung der Anbieter, die Sie geprüft haben, Deaktivierung von Fallbacks auf andere Anbieter und Senden der Datenkontrollen in jeder Anfrage (keine Datensammlung für Training, nur Endpunkte mit Zero Retention), sodass eine Anfrage, die nicht unter diesen Bedingungen bedient werden kann, fehlschlägt, statt an anderer Stelle verarbeitet zu werden.

Belegen Sie die Festlegung dann dort, wo es zählt: in der Produktion. Ihre Konfiguration gibt an, was Sie beabsichtigt haben; der im Response oder in Ihren eigenen Call-Logs genannte Anbieter zeigt, was tatsächlich passiert ist. Notieren Sie, welchen Sie geprüft haben und wann.

Wie wir es umsetzen, bevor eine Funktion Kunden erreicht

Diese Woche haben wir die Dokumentenprüfung in ISMS Copilot für unser eigenes Testkonto aktiviert – noch vor Kunden: Sie laden eine Richtlinie hoch, ein Modell prüft sie, und jeder Befund, der nicht wortwörtlich aus Ihrem Dokument zitiert, wird verworfen. Da die Funktion den gesamten Text eines Dokuments an ein Modell sendet, durchläuft sie zwei Kontrollen, bevor sie ein Kundenkonto erreicht. Die erste läuft auf dem exakten Release-Commit: Jeder Model-Host, der für die Prüf-Route konfiguriert ist, muss bereits in unserer Subunternehmerliste der DPA, unseren Verzeichnissen der Verarbeitungstätigkeiten und unserer DPA-Inventur aufgeführt sein – andernfalls stoppt der Release, und die Frage geht an den CEO. Die zweite prüft für jeden Host, der Kundendokumente erhält, welcher Vertrag ihn abdeckt und ob wir ihn auf Anfrage vorlegen können. Die Prüfmodelle sind auf einen Host festgelegt, dessen Data Processing Addendum (DPA) in unseren Unterlagen liegt; der erste Modellaufruf in der Produktion wurde als von diesem Host bedient protokolliert, und eine Änderung der Route bedeutet, dass die erste Kontrolle erneut durchlaufen wird.

Wir haben diese Kontrolle mit Claude entworfen und ISMS Copilot gebeten, sie wie ein Prüfer zu überprüfen. Es hinterfragte eine Zeile: Eine dokumentierte Risikoentscheidung erklärt, warum eine Lücke akzeptiert wird, ist aber kein Vertrag und keine Transfer-Schutzmaßnahme. Diese Unterscheidung ist nun in die Kontrolle aufgenommen.

Wenn Ihre Kunden eine EU-exklusive Verarbeitung benötigen

Einige Kunden akzeptieren keinen Transfer außerhalb der EU für diese Art von Inhalten (wir haben beschrieben, wie diese Frage für einen Audit-Berater aussieht). Die saubere Antwort ist ein in der EU ansässiger Anbieter auf einem Endpunkt, dessen EU-Verarbeitungszusage im Vertrag steht – nicht nur auf einer Webseite – mit Zero Retention. Eine Falle: Ein Anbieter kann zwar in der EU ansässig sein, sein Standard-Endpunkt jedoch keine Zusage zur Inferenz-Verarbeitung enthalten. Mistral beispielsweise bietet einen globalen Endpunkt und einen EU-gebundenen (api.eu.mistral.ai); nur der zweite ist eine EU-Verarbeitungsantwort. Richten Sie Ihren Code auf den Endpunkt aus, dessen Region Sie schriftlich festhalten können, und schlagen Sie laut fehl, wenn jemand dies ändert.

Und senden Sie weniger. Wo die Aufgabe es zulässt, entfernen oder ersetzen Sie Namen, bevor ein Dokument Ihr System verlässt (Pseudonymisierung, Art. 25 und Art. 32 DSGVO). Dies ist oft die günstigste Methode, um einen Transfer leichter vertretbar zu machen.

Was die ISMS Copilot API für Sie tut

Wir haben die ISMS Copilot API für Teams entwickelt, die Compliance-konforme Antworten in ihrem eigenen Produkt nutzen möchten, ohne diese Kette neu aufbauen zu müssen (wie Compliance-Plattformen sie nutzen). Sie wählen den Verarbeitungsweg anhand des Modellnamens, den Sie aufrufen:

• EU-Modus (isms-fast-eu, isms-thinking-eu): Verarbeitung durch Mistral AI auf dessen EU-gebundenem Inferenz-Host unter unserer kommerziellen Zero-Data-Retention-Vereinbarung mit Mistral, ohne Transfer der Modellverarbeitung außerhalb des EWR.
• Globaler Modus (isms-fast, isms-thinking, isms-mini): Routing über OpenRouter zu einer geschlossenen Menge von Inferenz-Hosts mit Zero Retention und ohne Training.

Jede erfolgreiche Antwort enthält einen Header x-isms-processing-region (eu oder global), sodass Sie den Verarbeitungsmodus jeder Anfrage protokollieren und darauf hinweisen können (wie Zero Retention in der API funktioniert). Die Subunternehmerliste der API und die Datenverarbeitungsvereinbarung der API sind öffentlich in unserem Trust Center einsehbar, sodass Sie die benötigten Fakten direkt in Ihre eigene Liste übernehmen können, anstatt uns zu fragen. Berechtigte neue API-Konten erhalten kostenlose Credits, während das Angebot läuft.

Eine kurze Checkliste

1. Definieren Sie Ihre Rolle: Auftragsverarbeiter für Ihre Kunden oder Verantwortlicher für alles, was Sie mit deren Dokumenten für eigene Zwecke tun.
2. Zeichnen Sie die Kette für jede Funktion auf, die Dokumente an ein Modell sendet: Ihr Hosting, der Router, jeder Host, den der Router auswählen kann.
3. Für jeden Host finden Sie die vier Aufzeichnungen: in Ihrer Liste, dem Vertrag, der ihn bindet (inklusive Rechtsgrundlage für den Transfer), seiner Aufbewahrungs- und Trainingsrichtlinie mit Quelle sowie in Ihren Verzeichnissen der Verarbeitungstätigkeiten.
4. Legen Sie die Hosts fest, die Sie geprüft haben, deaktivieren Sie Router-Fallbacks, senden Sie die Datenkontrollen in jeder Anfrage und lesen Sie die Festlegung in der Produktion zurück.
5. Bieten Sie einen EU-exklusiven Pfad auf einem EU-gebundenen Endpunkt für Kunden an, die dies benötigen, machen Sie den Pfad pro Anfrage sichtbar und senden Sie weniger personenbezogene Daten, wo möglich.

Wenn Sie mit Claude entwickeln, ist ein guter erster Schritt, Claude x ISMS Copilot zu fragen: Claude liest Ihren Code und entwirft die Subunternehmerliste, dann überprüft ISMS Copilot diese und hinterfragt sie wie ein Prüfer. Sie entscheiden, was in die Liste aufgenommen wird.