DSGVO und KI: Wo liegen Ihre Kundendaten wirklich?
Kurz gesagt: Bei den meisten schnell gebauten KI-Anwendungen liegen personenbezogene Daten an mindestens zwei Stellen, die niemand bewusst gewählt hat: in einer US-Datenbank und in den Logs eines KI-Anbieters außerhalb der EU. Beides ist DSGVO-relevant, sobald echte Kundendaten im Spiel sind. Die gute Nachricht: Man findet es in wenigen Minuten heraus, und man bekommt es fast immer in den Griff, ohne die KI-Funktion aufzugeben, entweder über EU-Hosting oder über selbst gehostete Modelle.
Wenn Sie eine App gebaut haben, die mit echten Personendaten arbeitet, und ein leises ungutes Gefühl haben, ob das so darf: Dieses Gefühl ist berechtigt. Lesen Sie weiter.
Warum das Problem gerade bei KI so leicht übersehen wird
Bei klassischer Software wissen Sie meist, wo Ihre Datenbank steht. Bei KI-gebauten Anwendungen entsteht die Infrastruktur nebenbei. Die schnellste, nächstliegende Option gewinnt, und die schnellste Option ist fast immer ein US-Dienst. Das ist keine böse Absicht, sondern die Physik des Prototypings: Man nimmt, was in drei Klicks läuft.
Der entscheidende Unterschied zu früher ist ein zweiter Datenpfad, den es bei klassischer Software nicht gab. Jede Eingabe, die an ein Sprachmodell geht, verlässt Ihre Anwendung. Wenn dort ein Kundenname, eine Adresse, eine Krankengeschichte oder eine Vertragsklausel steht, haben Sie personenbezogene Daten an einen Dritten übermittelt, oft ohne Vertrag und oft über den Atlantik.
Die zwei Stellen, an denen Ihre Daten wahrscheinlich liegen
Stelle 1: Die Datenbank
Supabase, Firebase und die meisten Baukasten-Backends laufen in der Standardkonfiguration in US-Regionen. Wenn Sie beim Anlegen des Projekts nicht bewusst eine EU-Region gewählt haben, liegen Ihre Kundendaten in den USA. Das prüfen Sie in unter einer Minute in den Projekteinstellungen unter „Region“. Steht dort etwas mit us-east oder us-west, haben Sie die Antwort.
Stelle 2: Die Modell-Logs
Das ist die Stelle, die fast niemand kennt. Wenn Ihre Anwendung Eingaben an ein Sprachmodell schickt, kann der Anbieter diese Eingaben speichern, zur Missbrauchserkennung und teils zur Modellverbesserung, je nach Vertrag und Einstellung. Für private Tests ist das folgenlos. In dem Moment, in dem echte Personendaten durchlaufen, ist es eine Datenübermittlung, die einen Auftragsverarbeitungsvertrag und eine Rechtsgrundlage braucht, und beides haben Sie in der Regel nicht, wenn niemand aktiv daran gedacht hat.
Ein 20-Minuten-Selbsttest, bevor Sie jemanden fragen
Sie müssen für den ersten Überblick keinen Entwickler bezahlen. Drei Fragen bringen Sie weit.
Erstens: In welcher Region läuft meine Datenbank? Projekteinstellungen öffnen, Region ablesen, EU oder nicht. Zweitens: Welche echten Personendaten gehen an ein KI-Modell? Gehen Sie eine typische Nutzung durch und schreiben Sie mit, was Sie eintippen. Steht da ein Name, eine E-Mail, ein Gesundheits- oder Vertragsdetail? Drittens: Habe ich mit meinen Anbietern einen Auftragsverarbeitungsvertrag? Wenn Sie sich diese Frage zum ersten Mal stellen, ist die Antwort fast sicher nein.
Drei Mal „ungut“? Dann haben Sie kein Wissensproblem mehr, sondern eine To-do-Liste. Das ist ein Fortschritt.
Was „DSGVO-konforme KI“ konkret heißt, jenseits des Marketing-Worts
Der Begriff wird inflationär benutzt. Konkret bedeutet er vier nachprüfbare Dinge.
Datenlokalität heißt, dass Personendaten in der EU liegen und dort verarbeitet werden, mit Datenbank in EU-Region und Hosting in der EU (Hetzner, Scaleway, AWS Frankfurt). Ein kontrollierter KI-Pfad heißt, dass Sie entweder einen KI-Anbieter mit EU-Verarbeitung und sauberem Vertrag nutzen, bei dem Ihre Daten nicht ins Training fließen, oder ein selbst gehostetes Modell, bei dem die Daten Ihre Infrastruktur gar nicht erst verlassen. Verträge heißt, dass mit jedem Dienstleister, der Personendaten berührt, ein Auftragsverarbeitungsvertrag besteht. Und Datensparsamkeit by Design heißt, dass die Anwendung nur die Daten ans Modell schickt, die sie wirklich braucht, und nicht den ganzen Kundendatensatz „zur Sicherheit“.
Wer eines dieser vier Dinge nicht benennen kann, hat keine DSGVO-konforme KI, sondern eine Hoffnung.
Der Denkfehler, der teuer wird: „Wir sind zu klein, das prüft niemand“
Ich höre das oft, und es stimmt nicht in der Art, wie es gemeint ist. Es geht selten um die Behörde, die morgens vor der Tür steht. Es geht um den Moment, in dem etwas schiefläuft, also ein Datenabfluss, eine Beschwerde, ein Kunde, der Auskunft verlangt. In diesem Moment ist die Frage nicht „Wer hätte uns kontrolliert?“, sondern „Können wir belegen, dass wir es richtig gemacht haben?”. Datenschutz ist eine Versicherung, die man vor dem Schaden abschließt, nicht danach.
Bei B2B-Kunden im Mittelstand ist es oft noch einfacher. Ihr Kunde fragt im Einkaufsprozess nach dem Auftragsverarbeitungsvertrag und dem Serverstandort. Wer da nicht sauber antworten kann, verliert den Deal, lange bevor eine Behörde ins Spiel kommt.
Die Lösung wirft Ihre KI nicht weg
Das Missverständnis, das ich am häufigsten ausräume: DSGVO-Konformität heißt nicht, auf KI zu verzichten. Es heißt, den Datenpfad zu kontrollieren. In der Praxis ist das ein Umzug. Die Datenbank kommt in eine EU-Region, US-Dienste werden durch europäische Äquivalente ersetzt, wo es geht, und für die KI nutzen Sie entweder einen europäischen Anbieter mit sauberem Vertrag oder ein selbst gehostetes Modell. Die Funktion bleibt, nur der Weg der Daten ändert sich. Bei uns ist das kein Zusatzpaket, sondern Standard: Jedes Projekt läuft auf Servern in der EU.
Zwei häufige Missverständnisse noch: Ein Cookie-Banner ersetzt das nicht, denn er regelt das Tracking im Browser und sagt nichts darüber, wo Ihre Kundendaten liegen. Und „intern“ ist keine Ausnahme. Sobald Personendaten von Mitarbeitern oder Kunden verarbeitet werden, gilt die DSGVO, auch für ein selbstgebautes internes Tool.
Unsicher, wo Ihre Daten liegen? Wir schauen im Rahmen des Vibecode-Audits genau hin: Datenbank-Region, KI-Datenpfad, fehlende Verträge, und liefern einen priorisierten Plan, wie Sie es geraderücken, ohne Ihre KI-Funktion aufzugeben.