KI und DSGVO: was Unternehmen prüfen müssen

Datenschutz ist das meistgenannte Hindernis nach fehlendem Wissen: 60 % (Destatis, 2025) der Unternehmen ohne KI-Einsatz nennen Datenschutzbedenken als Grund, 62 % (Destatis, 2025) Unklarheit über rechtliche Folgen. Beides lässt sich auflösen, wenn man die DSGVO nicht als Verbot, sondern als Prüfliste liest. Dieser Text ordnet die Prüfpunkte; er ist keine Rechtsberatung — lassen Sie die Einordnung für Ihren Fall prüfen.

Welche Rechtsgrundlage brauchen wir für KI-Tools?

Jede Verarbeitung personenbezogener Daten braucht eine der Rechtsgrundlagen aus Art. 6 Abs. 1 DSGVO. Für den internen Einsatz eines Assistenten durch Mitarbeitende kommt je nach Zweck das berechtigte Interesse (lit. f) mit dokumentierter Abwägung in Betracht; für die Bearbeitung von Kundenanfragen die Vertragserfüllung (lit. b); die Einwilligung (lit. a) ist im Beschäftigtenkontext wegen der Freiwilligkeitsfrage meist die schwächste Wahl. Wichtig ist die Zweckbindung: Ein Werkzeug, das für E-Mail-Entwürfe eingeführt wurde, darf nicht stillschweigend zur Bewertung von Mitarbeitenden werden. Halten Sie je Anwendungsfall Zweck, Datenarten und Rechtsgrundlage in einer Zeile Ihres Verarbeitungsverzeichnisses fest.

Warum ist der AV-Vertrag Pflicht — und was muss drinstehen?

Weil der KI-Anbieter in Ihrem Auftrag Daten verarbeitet, ist er Auftragsverarbeiter, und Art. 28 DSGVO erlaubt die Zusammenarbeit nur mit Anbietern, die hinreichende Garantien bieten — auf Grundlage eines Vertrags. Der AV-Vertrag regelt Gegenstand und Dauer, Art und Zweck, Weisungsbindung, Vertraulichkeit, technische und organisatorische Maßnahmen, die Einschaltung weiterer Auftragsverarbeiter und die Löschung nach Vertragsende. Achten Sie besonders auf zwei Punkte: Erstens, ob der Anbieter Ihre Eingaben zum Training seiner Modelle nutzt (das sollte ausgeschlossen sein). Zweitens, wie Sie über neue Subprozessoren informiert werden. In unserer Auswahl weisen wir je Lösung aus, ob der AV-Vertrag auf der Anbieter-Website verlinkt oder benannt ist — bei mehreren Anbietern war er beim Prüflauf nicht öffentlich auffindbar, was Sie vor Vertragsschluss anfragen müssen.

Wo laufen die Sprachmodelle wirklich?

Meist nicht dort, wo die Plattform steht — und genau das übersehen die meisten Prüfungen. Ein KI-Assistent besteht aus zwei Schichten: der Plattform (Oberfläche, Nutzerverwaltung, Speicherung der Chats) und den Sprachmodellen, die die Antworten erzeugen. Die Plattform kann in Frankfurt oder Magdeburg gehostet sein, während jede Eingabe zur Verarbeitung an ein Modell von OpenAI, Anthropic oder Google geschickt wird — in eine EU-Region eines US-Hyperscalers oder in die USA. Das steht nicht in der Überschrift „Server in Deutschland“, sondern in der Subprozessorenliste. Lesen Sie sie vor der Entscheidung und stellen Sie dem Anbieter eine konkrete Frage: Für welches Modell findet die Inferenz in welcher Region statt, und ist das vertraglich zugesichert? Unser Vergleich der KI-Assistenten unserer Auswahl dokumentiert die Hosting-Angaben je Lösung mit Quelle.

On-Premise, Private Cloud oder EU-Region: Was ist der Unterschied?

Drei Begriffe, die Anbieter gern vermischen, bezeichnen drei verschiedene Datenflüsse. On-Premise heißt: Software und Modelle laufen auf Ihrer eigenen Hardware oder in Ihrem eigenen Rechenzentrum; kein Dritter sieht die Daten. Private Cloud oder dedizierte Instanz heißt: Der Anbieter betreibt eine nur für Sie reservierte Umgebung, meist bei einem Hyperscaler — die Daten bleiben getrennt, aber der Betreiber ist weiterhin ein Dritter. EU-Region eines US-Hyperscalers heißt: Ihre Daten liegen in einem Rechenzentrum in der EU, der Betreiber unterliegt aber als US-Unternehmen auch US-Recht. Für viele Mittelständler ist die dritte Variante mit AV-Vertrag und Data Privacy Framework vertretbar; wer „On-Premise“ verlangt, sollte nachfragen, ob auch die Modelle lokal laufen oder nur die Oberfläche.

Was gilt für Anbieter außerhalb der EU?

Übermittlungen in Drittländer sind nur unter den Bedingungen des Kapitels V der DSGVO zulässig (Art. 44 ff.). Für die USA gilt der Angemessenheitsbeschluss der EU-Kommission zum EU-US Data Privacy Framework vom 10.07.2023; Anbieter, die sich darunter haben listen lassen, gelten als angemessen geschützt. Das Gericht der EU hat eine Nichtigkeitsklage gegen diesen Beschluss am 03.09.2025 abgewiesen (Rs. T-553/23); nach Sekundärquellen ist ein Rechtsmittel beim Gerichtshof anhängig (Stand 08/2026). Die Rechtslage ist also stabiler als nach den Vorgängerabkommen, aber nicht endgültig. Praxisempfehlung: Data Privacy Framework als erste Grundlage, Standardvertragsklauseln als zweite, und Subprozessoren im Blick behalten. Für die Schweiz besteht ein eigener Angemessenheitsbeschluss.

Wann ist eine Datenschutz-Folgenabschätzung nötig?

Art. 35 DSGVO verlangt sie, wenn eine Verarbeitung — insbesondere bei Verwendung neuer Technologien — voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. KI-Systeme gelten als neue Technologie, erfüllen die Schwelle aber nicht automatisch. Ein interner Schreibassistent, in den laut Richtlinie keine Kundendaten eingegeben werden, liegt anders als ein Chatbot, der Beschwerden mit Gesundheitsbezug entgegennimmt, oder ein System, das Bewerbungen vorsortiert. Die Folgenabschätzung beschreibt die Verarbeitung, bewertet Notwendigkeit und Risiken und legt Abhilfemaßnahmen fest. Auch wenn sie nicht zwingend ist: Eine kurze, dokumentierte Risikoprüfung je Anwendungsfall spart später Diskussionen mit Aufsicht und Betriebsrat.

Gibt es eine DSGVO-Zertifizierung für KI-Tools?

Nein — nicht im Sinn einer pauschalen Produktbescheinigung. Art. 42 DSGVO fördert datenschutzspezifische Zertifizierungsverfahren, Siegel und Prüfzeichen, die freiwillig sind und sich auf konkrete Verarbeitungsvorgänge beziehen; zuständig sind akkreditierte Stellen. Ein Anbieter kann also ein Verfahren nach Art. 42 für einen bestimmten Dienst durchlaufen haben. Die Werbeaussage „DSGVO-konformes KI-Tool“ ist dagegen eine Behauptung, kein Nachweis, und sagt nichts darüber, ob Ihre Nutzung rechtmäßig ist. Deshalb schreiben wir auf unseren Seiten „Anbieter gibt EU-Hosting an (Stand, Quelle)“ statt „DSGVO-konform“ — und nennen ISO 27001 oder SOC 2 nur, wenn der Anbieter sie wörtlich auf seiner Website angibt. Beide Nachweise betreffen das Sicherheitsmanagement des Anbieters, nicht die Rechtmäßigkeit Ihrer Verarbeitung.

Was sollten Mitarbeitende eingeben dürfen?

So wenig Personenbezug wie möglich — festgelegt in einer KI-Richtlinie, nicht im Einzelfall. Bewährt haben sich drei Stufen: frei erlaubt (allgemeine Texte, öffentliche Informationen, eigene Notizen ohne Personenbezug), erlaubt mit Pseudonymisierung (Vorgänge, bei denen Namen und Kennungen vorher entfernt werden) und verboten (Gesundheitsdaten, Bewerbungsunterlagen, Vertragsdaten Dritter, Zugangsdaten). Die Stufen hängen davon ab, welche Plattform mit welchem AV-Vertrag und welchen Subprozessoren freigegeben ist. Wie eine solche Richtlinie aufgebaut ist, zeigt KI-Richtlinie im Unternehmen.

Prüfliste vor dem Vertragsschluss

Häufige Fehler

• „Server in Deutschland“ als vollständige Antwort nehmen — und die Subprozessoren der Modelle nicht lesen.
• Private Konten dulden. Ohne AV-Vertrag gibt es keine Grundlage; das Risiko trägt das Unternehmen.
• Einwilligung der Mitarbeitenden als Allheilmittel. Im Beschäftigungsverhältnis ist die Freiwilligkeit schwer zu belegen.
• ISO 27001 mit Rechtmäßigkeit verwechseln. Der Nachweis beschreibt das Sicherheitsmanagement des Anbieters, nicht Ihre Verarbeitung.
• Den Betriebsrat aus dem Datenschutz heraushalten. Beide Themen gehören zusammen; KI einführen mit Betriebsrat zeigt den Ablauf.

Wo Ihr Unternehmen bei diesen Punkten steht, zeigt der KI-Readiness-Check in acht Fragen.