DSGVO-konforme KI: Woran du erkennst, welche Tools wirklich sicher sind

“Ist dieses KI-Tool DSGVO-konform?” ist die Frage, die im Mittelstand vor fast jedem KI-Projekt steht. Die Antworten im Netz sind meistens Marketing: Ein Anbieter klebt sich “DSGVO-konform” auf die Startseite, ein Vergleichsportal reicht das weiter. Das Problem ist, dass DSGVO-Konformität gar keine Eigenschaft eines Tools ist. Sie hängt davon ab, wie du das Tool einsetzt, welche Daten hineingehen und welche Verträge dahinterstehen. Hier bekommst du die Kriterien für DSGVO-konforme KI, mit denen du jedes Tool selbst beurteilst, statt einem Sticker zu vertrauen.

Das Wichtigste in Kürze:

• Keine KI ist “von sich aus” DSGVO-konform. Konform oder nicht ist immer der konkrete Einsatz, nicht die Software.
• Ob dein Einsatz sauber ist, entscheiden fünf Dinge: Datenort, Auftragsverarbeitungsvertrag, Drittlandübermittlung, Training auf deinen Daten und die Betroffenenrechte.
• Bei US-Anbietern wie OpenAI, Microsoft oder Google verlässt du dich auf Verträge und das Data Privacy Framework. Bei einem self-hosted Modell in deiner eigenen EU-Umgebung entfällt die Drittlandfrage von vornherein, das ist oft die einfachste sichere Antwort.

Was bedeutet “DSGVO-konforme KI” überhaupt?

DSGVO-konform ist nicht das Tool, sondern die Verarbeitung. Die DSGVO regelt, wie personenbezogene Daten verarbeitet werden dürfen, und ein KI-Tool ist dabei nur eines von mehreren Gliedern: Es kommt darauf an, welche Daten du hineingibst, wo sie verarbeitet werden, wer sie sonst noch sieht und ob du die nötigen Verträge hast. Ein und dasselbe Tool kann in einem Unternehmen sauber laufen und im nächsten ein klarer Verstoß sein.

Deshalb ist die ehrliche Antwort auf “Ist ChatGPT DSGVO-konform?” immer: Kommt darauf an. Wer dir etwas anderes verspricht, verkauft dir einen Aufkleber, keine Rechtssicherheit. Nützlicher als ein Ja oder Nein ist eine Liste von Kriterien, die du an jedes Tool anlegen kannst.

Gibt es eine KI, die von sich aus DSGVO-konform ist?

Nein, aber es gibt Setups, die es dir deutlich leichter machen. Ein Sprachmodell, das in deiner eigenen Umgebung in der EU läuft und keine Daten nach außen gibt, erfüllt die schwierigsten Punkte fast von allein. Ein US-Cloud-Dienst, der jeden Prompt in die USA schickt, zwingt dich dagegen durch die volle Prüfung aus Verträgen, Standardvertragsklauseln und Dokumentation.

Mit anderen Worten: “DSGVO-konform” ist kein Zustand, den ein Tool mitbringt, sondern einer, den du herstellst. Manche Werkzeuge machen dir diese Arbeit leicht, andere schwer. Genau diese Unterscheidung nehmen die meisten Vergleichslisten nicht vor, deshalb hier die Kriterien im Klartext.

Woran erkenne ich, ob ein KI-Tool DSGVO-konform einsetzbar ist?

Leg an jedes Tool dieselben fünf Fragen an. Wenn du alle sauber beantworten kannst, ist der Einsatz in der Regel vertretbar. Bleibt eine offen, ist das Tool für personenbezogene Daten noch nicht bereit.

1. Wo werden die Daten verarbeitet?

Liegen die Server in der EU, ist die halbe Miete bezahlt. Sitzt der Anbieter in den USA oder verarbeitet er dort, kommst du in den Bereich der Drittlandübermittlung (dazu gleich mehr). Der Serverstandort allein reicht aber nicht, entscheidend ist, wer rechtlich Zugriff hat.

2. Gibt es einen Auftragsverarbeitungsvertrag?

Sobald ein Dienstleister personenbezogene Daten in deinem Auftrag verarbeitet, brauchst du einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO (Art. 28 DSGVO). Verantwortlicher bist du, der Anbieter ist dein Auftragsverarbeiter. Wie diese Rollen und der AVV in der Praxis zusammenspielen, zeigen wir am Beispiel von n8n und der Auftragsverarbeitung. Seriöse Anbieter stellen einen AVV bereit, oft direkt im Konto. Fehlt er, ist das ein Ausschlusskriterium.

3. Werden Daten in Drittländer übermittelt?

Jede Verarbeitung außerhalb der EU, vor allem in den USA, ist eine Übermittlung nach Art. 44 ff. DSGVO (Art. 44 DSGVO) und braucht eine Rechtsgrundlage. Für die USA ist das aktuell das EU-US Data Privacy Framework, sofern der Anbieter zertifiziert ist, sonst Standardvertragsklauseln. Das Framework steht unter rechtlicher Kritik, deshalb ist es kein Freibrief, sondern ein Punkt, den du bewusst prüfen und dokumentieren musst.

4. Werden deine Daten zum Training verwendet?

Das ist der Punkt, der im Consumer-Bereich am häufigsten schiefgeht. In den kostenlosen Varianten vieler Tools fließen Eingaben in das Modelltraining. Für Geschäftsdaten ist das in aller Regel unzulässig. In den Geschäfts- und Enterprise-Tarifen lässt sich das Training meist vertraglich ausschließen, genau das musst du aber nachweisen können.

5. Kannst du die Betroffenenrechte erfüllen?

Auskunft, Löschung und die Dokumentation im Verarbeitungsverzeichnis nach Art. 30 DSGVO (Art. 30 DSGVO) gelten auch für KI-Verarbeitung. Wenn ein Tool dir nicht erlaubt, Daten gezielt zu löschen oder Auskunft zu geben, hast du ein Problem, das kein AVV heilt.

Welche KI ist DSGVO-konform? ChatGPT, Copilot und Gemini richtig einordnen

Die ehrliche Antwort ist eine Einordnung, kein Ranking. Die großen Anbieter sind US-Konzerne, und das prägt die Prüfung. OpenAI (ChatGPT), Microsoft (Copilot) und Google (Gemini) bieten für ihre Geschäftskunden inzwischen AVV, teils EU-Datenhaltung und einen vertraglichen Ausschluss des Trainings an. Der Konzern dahinter sitzt aber in den USA, und damit bleibt die Drittlandfrage präsent, auch wenn einzelne Rechenzentren in Europa stehen.

Der entscheidende Unterschied liegt fast nie am Tool, sondern am Tarif und an der Konfiguration:

Kriterium	Kostenlose/Consumer-Variante	Geschäfts-/Enterprise-Variante	Self-hosted Modell (EU)
AVV verfügbar	meist nein	in der Regel ja	nicht nötig (läuft bei dir)
Training auf deinen Daten	oft aktiviert	vertraglich ausschließbar	findet nicht statt
Datenort	intransparent	teils EU wählbar	deine EU-Umgebung
Drittlandübermittlung	in der Regel USA	USA, per DPF/SCC abgesichert	keine
Aufwand für Konformität	ungeeignet für Geschäftsdaten	mittel, Verträge und Prüfung	gering, weil Daten im Haus bleiben

Die praktische Regel: Die kostenlosen Consumer-Versionen der US-Tools gehören nicht an personenbezogene Geschäftsdaten. Die Geschäfts- und Enterprise-Tarife lassen sich mit AVV und sauberer Konfiguration DSGVO-konform einsetzen, verlangen dir aber die volle Prüfung ab. Und je sensibler die Daten, desto attraktiver wird die dritte Spalte.

Warum Self-Hosting oft die einfachste DSGVO-Antwort ist

Der schnellste Weg, die schwierigen Kriterien loszuwerden, ist, die Daten gar nicht erst außer Haus zu geben. Ein offenes Sprachmodell, das in deiner eigenen Infrastruktur in der EU läuft, hat keine Drittlandübermittlung, braucht keinen AVV mit einem Modellanbieter und trainiert nicht auf deinen Eingaben. Aus fünf Prüfpunkten werden faktisch zwei: dein Hoster und deine eigene Dokumentation. Wann sich eine eigene, self-hosted KI überhaupt lohnt und was du dafür brauchst, klärt unser Beitrag KI selbst hosten.

Genau deshalb ist Self-Hosting für datenschutzkritische Anwendungen so interessant. Du tauschst etwas Betriebsaufwand gegen den Wegfall der schwierigsten Rechtsfragen. Wie sich ein self-hosted Werkzeug in der Praxis aufsetzen lässt, zeigen wir am Beispiel der Automatisierungsplattform n8n in unserer Schritt-für-Schritt-Anleitung zum Self-Hosting. Und warum “self-hosted” allein noch nicht “automatisch sicher” heißt, haben wir am Zusammenspiel mit Drittanbieter-Diensten in einem eigenen Beitrag zu n8n und DSGVO aufgeschlüsselt.

Für den häufigsten Fall im Mittelstand, das interne Chatten mit dem eigenen Firmenwissen, bauen wir genau solche Lösungen self-hosted auf, sodass die Daten im Haus bleiben. Das ist der Kern unseres Wissensmanagements mit RAG und unserer individuellen KI-Anwendungen.

Die häufigsten Fehler bei DSGVO und KI

Drei Muster tauchen in fast jeder ersten Bestandsaufnahme auf. Sie kosten nichts in der Vermeidung und viel in der Aufarbeitung.

• Die kostenlose KI für echte Daten nutzen: Mitarbeitende kippen Kundendaten in die Gratis-Version eines US-Tools, weil es praktisch ist. Genau dort ist das Training oft aktiv und der AVV nicht vorhanden.
• “Self-hosted” mit “sicher” verwechseln: Ein Modell in der EU zu betreiben und dann per Schnittstelle doch jeden Prompt an einen US-Dienst weiterzureichen, hebt den Vorteil wieder auf.
• Die Dokumentation vergessen: Kein Eintrag im Verarbeitungsverzeichnis, keine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO (Art. 35 DSGVO) bei risikoreicher Verarbeitung. Das fällt spätestens bei der ersten Prüfung auf.

Checkliste: Ist dein KI-Einsatz DSGVO-konform?

• Datenort geklärt: Wo werden die Eingaben tatsächlich verarbeitet?
• AVV abgeschlossen mit jedem Anbieter, der Daten für dich verarbeitet (Art. 28 DSGVO).
• Drittlandübermittlung geprüft: Data Privacy Framework oder Standardvertragsklauseln, wo Daten in die USA gehen.
• Training ausgeschlossen: Vertraglich abgesichert, dass deine Eingaben nicht ins Modelltraining fließen.
• Betroffenenrechte erfüllbar: Auskunft und Löschung sind technisch möglich.
• Verarbeitung dokumentiert: Eintrag im Verarbeitungsverzeichnis (Art. 30), bei Bedarf Datenschutz-Folgenabschätzung (Art. 35).
• Sensible Daten: Wo möglich ein self-hosted Modell statt eines US-Dienstes.

Diese Liste ist ein Startpunkt, kein Freibrief. Den konkreten Fall klärst du mit deinem Datenschutzbeauftragten.

Häufige Fragen

Welche KI ist DSGVO-konform?

Keine ist es von allein. DSGVO-konform ist immer der konkrete Einsatz: die richtige Tarifstufe mit AVV, ein geklärter Datenort, ausgeschlossenes Training und saubere Dokumentation. Am einfachsten wird es mit einem Modell, das in deiner eigenen EU-Umgebung läuft, weil dann die Drittlandfrage entfällt.

Ist ChatGPT DSGVO-konform?

In der kostenlosen Version für personenbezogene Geschäftsdaten in der Regel nicht, weil Training und fehlender AVV dagegensprechen. In den Geschäfts- und Enterprise-Tarifen lässt sich ChatGPT mit AVV und passender Konfiguration DSGVO-konform einsetzen, du musst dann aber die Drittlandübermittlung in die USA absichern und dokumentieren.

Ist eine self-hosted KI automatisch DSGVO-konform?

Nein, aber sie erfüllt die schwierigsten Punkte fast von allein: keine Drittlandübermittlung, kein AVV mit einem Modellanbieter, kein Training auf deinen Daten. Übrig bleiben dein Hoster und deine Dokumentation. Sobald ein self-hosted Setup wieder externe US-Dienste aufruft, gilt für diese Aufrufe die volle Prüfung.

Reicht ein AVV für DSGVO-Konformität?

Nein. Der AVV ist notwendig, aber nur einer von mehreren Bausteinen. Ohne geklärte Drittlandübermittlung, ausgeschlossenes Training und Dokumentation bist du trotz AVV nicht sauber aufgestellt.

Fazit

“Welche KI ist DSGVO-konform?” ist die falsche Frage. Die richtige lautet: Welche Daten gebe ich hinein, wo werden sie verarbeitet und welche Verträge und Nachweise habe ich dafür? Prüf jedes Tool an den fünf Kriterien, dann brauchst du keinen Aufkleber, sondern hast eine belastbare Entscheidung. Und wenn die Daten sensibel sind, ist der self-hosted Weg oft nicht der aufwendigere, sondern der ruhigere.

Wenn du wissen willst, welcher Weg zu deinem konkreten Fall passt und was die Umsetzung kostet, findest du die Einstiege auf unserer Preisseite. Und wenn du lieber direkt sprechen willst, buch dir ein kostenloses Erstgespräch.

Dies ist keine Rechtsberatung. Der Beitrag ordnet die Praxis ein und ersetzt nicht die Prüfung durch deinen Datenschutzbeauftragten oder eine Anwältin.