„Ist das Tool DSGVO-konform?“ Diese Frage hören wir in fast jedem Erstgespräch zum Thema KI. Die ehrliche Antwort lautet: Kein KI-Tool ist von sich aus DSGVO-konform. Entscheidend ist, wie Du es einsetzt, welche Verträge dahinterstehen und welche Regeln in Deinem Unternehmen gelten.
Das klingt erst einmal unbequem. Es ist aber eine gute Nachricht, denn damit liegt es in Deiner Hand. Wenn Du die richtigen Punkte prüfst, kannst Du KI im Mittelstand rechtssicher nutzen, auch mit Kundendaten, Angeboten und internen Dokumenten.
In diesem Artikel bekommst Du eine Checkliste mit zehn Punkten, die Geschäftsführung, IT-Leitung und Datenschutzbeauftragte gemeinsam durchgehen können. Du kannst sie auch direkt als PDF zum Ausdrucken herunterladen. Dazu ordnen wir sachlich ein, was das für ChatGPT und Microsoft Copilot bedeutet, welche Pflichten der EU AI Act für KI-Nutzer mit sich bringt und wie eine DSGVO-konforme KI-Plattform die Punkte in der Praxis umsetzt.
Einen breiteren Überblick, der auch Website und Cloud abdeckt, findest Du in unserem Beitrag DSGVO-konform digitalisieren. Hier geht es ausschließlich um KI.
Hinweis: Dieser Artikel gibt Dir einen fundierten Überblick, ersetzt aber keine Rechtsberatung. Für die verbindliche Bewertung Deines Einsatzszenarios ziehst Du am besten Deine:n Datenschutzbeauftragte:n hinzu.
Was „DSGVO-konforme KI“ wirklich bedeutet
Die DSGVO kennt keine Zertifizierung, die ein KI-Tool pauschal „konform“ macht. Sie regelt die Verarbeitung personenbezogener Daten. Und für diese Verarbeitung bist Du als Unternehmen verantwortlich, nicht der Anbieter des Tools.
Ein Beispiel: Zwei Unternehmen nutzen dasselbe KI-System. Das eine lässt damit Marketingtexte ohne Personenbezug formulieren. Das andere lädt Bewerbungsunterlagen hoch und lässt Kandidaten bewerten. Gleiches Werkzeug, völlig unterschiedliche datenschutzrechtliche Lage.
Die Datenschutzkonferenz (DSK) hat das in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom Mai 2024 klar formuliert: Wer KI einsetzt, muss vorab Einsatzzweck, Rechtsgrundlage, Datenflüsse und Risiken prüfen. Die Auswahl des Tools ist nur ein Teil davon.
DSGVO-konforme KI heißt also: ein Tool mit passenden technischen und vertraglichen Voraussetzungen, eingesetzt für klar definierte Zwecke, mit Regeln, Rechten und Dokumentation. Genau das prüft die folgende Checkliste.
Die Checkliste: 10 Punkte für datenschutzkonforme KI
1. Serverstandort und Datenfluss
Wo werden Deine Eingaben verarbeitet und gespeichert? Und wer hat darauf Zugriff? Prüfe nicht nur den Speicherort, sondern den gesamten Weg: Wo läuft das KI-Modell, wo liegen Chatverläufe und hochgeladene Dateien, welche Unterauftragsverarbeiter sind beteiligt?
Verarbeitung in der EU vereinfacht vieles, weil kein Drittlandtransfer nach Art. 44 ff. DSGVO geprüft werden muss. Bei US-Anbietern brauchst Du eine tragfähige Grundlage für den Transfer, etwa das EU-US Data Privacy Framework oder Standardvertragsklauseln.
Prüffrage: Liegt eine Liste der Unterauftragsverarbeiter mit Standorten vor?
2. Auftragsverarbeitungsvertrag nach Art. 28 DSGVO
Sobald personenbezogene Daten in ein KI-Tool gelangen, verarbeitet der Anbieter sie in Deinem Auftrag. Dafür brauchst Du einen Auftragsverarbeitungsvertrag (AVV). Er regelt, was der Anbieter mit den Daten tun darf, welche technischen und organisatorischen Maßnahmen (TOM) gelten und wie Löschung funktioniert.
Bei kostenlosen Consumer-Accounts gibt es in der Regel keinen AVV. Das ist einer der Hauptgründe, warum private Accounts für dienstliche Daten tabu sind.
Prüffrage: Ist der AVV unterschrieben und abgelegt, bevor die erste echte Anfrage läuft?
3. Kein Training mit Deinen Daten
Viele KI-Anbieter nutzen Eingaben aus Consumer-Tarifen, um ihre Modelle weiterzuentwickeln. Für Unternehmensdaten ist das ein No-Go: Was einmal in Trainingsdaten eingeflossen ist, lässt sich nicht gezielt wieder entfernen.
Achte darauf, dass der Ausschluss vertraglich zugesichert ist und nicht nur über eine Einstellung läuft, die jede:r Nutzer:in selbst setzen muss.
Prüffrage: Steht im Vertrag ausdrücklich, dass Eingaben und Dateien nicht zum Training verwendet werden?
4. Zugriffsrechte und Rollen
Nicht jede:r im Unternehmen braucht Zugriff auf alles. Wenn die KI auf Firmenwissen zugreift, etwa auf Dokumente aus SharePoint, muss sie dieselben Berechtigungen respektieren wie Dein Dateisystem. Sonst fasst die KI plötzlich Gehaltslisten oder Personalakten für Mitarbeitende zusammen, die diese Dateien nie sehen durften.
Prüffrage: Übernimmt das System bestehende Berechtigungen, und lassen sich Rollen für Admins, Fachbereiche und Nutzer:innen sauber trennen?
5. Protokollierung
Wer hat wann welche Einstellungen geändert, wer hat welche Wissensquelle angebunden, wer hat Rechte vergeben? Ein Audit-Log hilft Dir, Verantwortlichkeiten nachzuweisen und Sicherheitsvorfälle aufzuklären.
Wichtig ist die Balance: Protokollierung soll Administration nachvollziehbar machen, nicht die Inhalte einzelner Chats überwachen. Dazu mehr bei Punkt 7.
Prüffrage: Gibt es ein Audit-Log für administrative Aktionen, und ist geregelt, wer es einsehen darf?
6. Datenschutz-Folgenabschätzung (Art. 35 DSGVO)
Eine Datenschutz-Folgenabschätzung (DSFA) ist Pflicht, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Betroffene mit sich bringt. Beim KI-Einsatz ist das häufig der Fall, zum Beispiel bei der Auswertung von Bewerbungen, Leistungsdaten oder Gesundheitsinformationen.
Für einen allgemeinen KI-Assistenten, der Texte formuliert und Dokumente zusammenfasst, kommt Dein:e Datenschutzbeauftragte:r vielleicht zu einem anderen Ergebnis. Entscheidend ist, dass Du die Prüfung durchführst und dokumentierst.
Prüffrage: Gibt es eine dokumentierte Schwellwertanalyse, ob eine DSFA nötig ist?
7. Betriebsrat einbinden
Wenn ein KI-System dazu geeignet ist, Verhalten oder Leistung von Mitarbeitenden zu überwachen, hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht. Bei KI-Tools mit Nutzungsprotokollen ist das praktisch immer der Fall.
Der beste Weg ist frühe Transparenz: Zeig dem Betriebsrat, welche Daten erfasst werden und welche nicht. Ein System, bei dem Admins die Chatinhalte nicht mitlesen können, macht diese Gespräche deutlich leichter. Am Ende steht idealerweise eine Betriebsvereinbarung zum KI-Einsatz.
Prüffrage: Ist der Betriebsrat informiert, und gibt es eine Betriebsvereinbarung oder zumindest eine abgestimmte Regelung?
8. KI-Richtlinie
Eine KI-Richtlinie regelt, welche Tools erlaubt sind, welche Daten hinein dürfen und wie Ergebnisse geprüft werden. Sie muss nicht lang sein. Zwei Seiten, die jede:r versteht, sind besser als zwanzig Seiten, die niemand liest.
Bewährte Inhalte:
- Freigegebene Tools: welches System für welchen Zweck
- Datenklassen: was öffentlich, intern, vertraulich oder streng vertraulich ist und was davon in die KI darf
- Prüfpflicht: KI-Ergebnisse werden vor Weitergabe fachlich geprüft
Prüffrage: Ist die Richtlinie veröffentlicht, und wissen die Mitarbeitenden, wo sie sie finden?
9. Schulung und KI-Kompetenz (EU AI Act, Art. 4)
Seit dem 2. Februar 2025 verlangt der EU AI Act von Unternehmen, die KI einsetzen, Maßnahmen für ausreichende KI-Kompetenz ihrer Mitarbeitenden. Was genau dazugehört, schreibt das Gesetz nicht vor. Sinnvoll ist eine kurze Schulung zu Funktionsweise, Grenzen und Risiken der eingesetzten Tools, zugeschnitten auf die jeweilige Rolle.
Dokumentiere, wer wann geschult wurde. Das ist Dein Nachweis gegenüber Aufsicht und Kunden.
Prüffrage: Haben alle Nutzer:innen vor dem Start eine Einweisung erhalten, und ist sie dokumentiert?
10. Schatten-KI verhindern
Die beste Checkliste nützt nichts, wenn Mitarbeitende nebenbei private ChatGPT-Accounts nutzen. Laut einer Bitkom-Umfrage vom Oktober 2025 ist die private KI-Nutzung in 8 Prozent der Unternehmen weit verbreitet, in weiteren 17 Prozent gibt es Einzelfälle. Weitere 17 Prozent vermuten es, ohne es sicher zu wissen.
Verbote allein helfen wenig. Wirksamer ist ein freigegebenes Tool, das mindestens so gut funktioniert wie die private Variante. Mehr dazu liest Du in unserem Artikel über Schatten-KI im Unternehmen.
Prüffrage: Gibt es eine offiziell freigegebene KI-Lösung, die den Bedarf der Teams tatsächlich abdeckt?
Die Checkliste auf einen Blick
| Nr. | Punkt | Wer prüft | Erledigt |
|---|---|---|---|
| 1 | Serverstandort und Datenfluss | IT-Leitung | ☐ |
| 2 | AVV nach Art. 28 DSGVO | Datenschutz | ☐ |
| 3 | Kein Training mit Deinen Daten | Datenschutz | ☐ |
| 4 | Zugriffsrechte und Rollen | IT-Leitung | ☐ |
| 5 | Protokollierung | IT-Leitung | ☐ |
| 6 | Datenschutz-Folgenabschätzung | Datenschutz | ☐ |
| 7 | Betriebsrat | Geschäftsführung | ☐ |
| 8 | KI-Richtlinie | Geschäftsführung | ☐ |
| 9 | Schulung nach Art. 4 AI Act | HR / Geschäftsführung | ☐ |
| 10 | Schatten-KI verhindern | alle | ☐ |
Checkliste zum Ausfüllen: Alle zehn Punkte mit Prüffragen, Zuständigkeiten und Auswertung findest Du in unserer Checkliste „DSGVO-konforme KI“ als PDF.
Sind ChatGPT und Copilot DSGVO-konform nutzbar?
Kurz gesagt: Es kommt auf den Tarif und die Einstellungen an. Die folgenden Angaben beruhen auf den Unterlagen der Anbieter, Stand November 2026. Anbieter ändern ihre Bedingungen regelmäßig, prüfe deshalb vor einer Entscheidung die aktuellen Dokumente.
ChatGPT
Bei den kostenlosen und privaten ChatGPT-Tarifen können Eingaben zur Verbesserung der Modelle genutzt werden, sofern Nutzer:innen das nicht in den Einstellungen abschalten. Einen AVV gibt es für diese Tarife nicht. Für Unternehmensdaten sind private ChatGPT-Accounts deshalb nicht geeignet.
Für die Business-Tarife (ChatGPT Business, ChatGPT Enterprise) gibt OpenAI an, dass Daten standardmäßig nicht zum Training verwendet werden, und bietet einen AVV (Data Processing Addendum) an. Für Enterprise- und Edu-Kunden hat OpenAI eine Datenresidenz in Europa eingeführt. Ob und in welchem Umfang das auch für ChatGPT Business gilt, solltest Du direkt bei OpenAI prüfen. Vertragspartner bleibt ein US-Konzern, was Fragen zum US CLOUD Act aufwirft, die Dein:e Datenschutzbeauftragte:r bewerten sollte.
Microsoft 365 Copilot
Microsoft gibt in seiner Dokumentation zu Microsoft 365 Copilot an, dass Prompts, Antworten und Daten aus Microsoft Graph nicht zum Training der Basismodelle genutzt werden. Für EU-Kunden fällt Copilot unter die EU-Datengrenze (EU Data Boundary). Microsoft nennt dort aber auch Ausnahmen, etwa für einzelne Modelle oder die Websuche. Prüfe also, welche Funktionen in Deinem Tenant aktiv sind.
Ein praktisches Risiko liegt woanders: Copilot sieht alles, was der jeweilige Nutzer in Microsoft 365 sehen darf. Sind Berechtigungen in SharePoint über Jahre zu großzügig vergeben worden, macht Copilot das schlagartig sichtbar. Ein Berechtigungs-Check vor dem Start ist deshalb Pflicht. Wie Du SharePoint sauber aufräumst, erfährst Du auf unserer Seite zur SharePoint-Entwicklung.
Was die Aufsicht sagt
Die DSK-Orientierungshilfe empfiehlt unter anderem: dienstliche statt privater Accounts, geschlossene Systeme bevorzugen, Training mit eigenen Daten ausschließen, Beschäftigte einbinden und Ergebnisse auf Richtigkeit prüfen. Damit deckt sie sich weitgehend mit der Checkliste oben. Auch der Landesbeauftragte für den Datenschutz Niedersachsen verweist Unternehmen auf diese Orientierungshilfe als Grundlage.
EU AI Act: Was für Unternehmen gilt, die KI nutzen
Der EU AI Act (Verordnung (EU) 2024/1689) unterscheidet zwischen Anbietern, die KI-Systeme entwickeln, und Betreibern, die sie im eigenen Unternehmen einsetzen. Die meisten Mittelständler sind Betreiber.
Was für Dich als Betreiber gilt:
- KI-Kompetenz (Art. 4): gilt seit Februar 2025 für alle Unternehmen, die KI einsetzen, unabhängig vom Risiko. Mitarbeitende müssen befähigt werden, die Tools sachkundig zu nutzen.
- Transparenz (Art. 50): Wenn Du KI-generierte Inhalte veröffentlichst oder Kunden mit einem Chatbot sprechen lässt, können Kennzeichnungspflichten greifen.
- Betreiberpflichten bei Hochrisiko-KI (Art. 26): menschliche Aufsicht, Nutzung gemäß Betriebsanleitung, Aufbewahrung von Protokollen, Information der Beschäftigten. Das betrifft nur Hochrisiko-Systeme, etwa KI zur Auswahl von Bewerber:innen oder zur Leistungsbewertung.
Mit dem sogenannten Digital Omnibus haben sich EU-Parlament und Rat im Mai 2026 darauf verständigt, die Hochrisiko-Pflichten für eigenständige Systeme auf Dezember 2027 zu verschieben. Inhaltlich bleiben die Pflichten aus Art. 26 bestehen, sie greifen nur später.
Für den typischen KI-Assistenten im Büroalltag, der Texte schreibt, Dokumente zusammenfasst und Wissen durchsucht, ist Art. 4 die wichtigste Pflicht. Sobald Du KI für Personalentscheidungen einsetzt, ändert sich das Bild deutlich.
Praxisbeispiel: So erfüllt snutig.ai die Checkliste
Wir haben mit snutig.ai eine KI-Plattform für Unternehmen entwickelt, die genau diese Anforderungen von Anfang an mitdenkt. So sieht die Umsetzung Punkt für Punkt aus:
| Punkt der Checkliste | Umsetzung in snutig.ai |
|---|---|
| Serverstandort und Datenfluss | Verarbeitung in der EU, Daten und Logs in Frankfurt (DE) |
| AVV nach Art. 28 DSGVO | AVV wird mit jedem Kunden abgeschlossen |
| Kein Training mit Deinen Daten | Eingaben und Dateien werden nicht zum Training verwendet |
| Zugriffsrechte und Rollen | Rollen und Rechte pro Organisation, Microsoft-365-Berechtigungen bleiben erhalten |
| Protokollierung | Audit-Log für administrative Aktionen (in allen Abos) |
| Datenschutz-Folgenabschätzung | Klare Angaben zu Datenstandort, Training und Rechten als Grundlage für Deine DSFA |
| Betriebsrat | Admins lesen Chats nicht mit, das erleichtert die Abstimmung |
| KI-Richtlinie | Ein freigegebenes Tool für alle, Rollen und Rechte zentral steuerbar |
| Schulung | Einführung mit Pilotgruppe und Workshops auf Wunsch |
| Schatten-KI verhindern | Ein Tool, das im Alltag überzeugt: Office-Dateien aus eigenen Vorlagen, Wissenssammlungen mit Quellenangabe, eigene Agenten |
Dazu kommt die organisatorische Seite: Jede Organisation ist technisch von anderen Kunden getrennt, und den Betrieb übernehmen wir als snutig. Du hast also einen festen Ansprechpartner in OWL statt eines anonymen Support-Formulars. Die Anmeldung läuft über Microsoft Entra, SharePoint, OneDrive und Outlook lassen sich anbinden.
Wenn Du statt einer fertigen Plattform eine komplett eigene Lösung brauchst, etwa mit speziellen Schnittstellen zu Deinem ERP, schau Dir unsere Leistung unternehmenseigene KI an. Was beim Eigenbau zu bedenken ist, erklären wir im Beitrag eigene KI im Unternehmen aufbauen.
Häufige Fragen zu DSGVO-konformer KI
Ist ChatGPT DSGVO-konform?
Nicht pauschal. Private ChatGPT-Accounts sind für personenbezogene oder vertrauliche Unternehmensdaten nicht geeignet, weil es keinen AVV gibt und Eingaben zum Training genutzt werden können. Die Business-Tarife bieten einen AVV und schließen Training standardmäßig aus. Ob der Einsatz DSGVO-konform ist, hängt dann von Deinem Anwendungsfall, den Einstellungen und der Bewertung des Drittlandtransfers ab.
Darf ich personenbezogene Daten in eine KI eingeben?
Ja, wenn eine Rechtsgrundlage besteht, ein AVV vorliegt und die Daten nicht für fremde Zwecke wie Training verwendet werden. Halte Dich an das Prinzip der Datenminimierung: Gib nur ein, was für die Aufgabe nötig ist. Besonders sensible Daten, etwa Gesundheitsdaten, erfordern eine genauere Prüfung.
Brauche ich für KI im Unternehmen eine Datenschutz-Folgenabschätzung?
Das hängt vom Einsatz ab. Bei Verarbeitungen mit hohem Risiko für Betroffene ist sie Pflicht, zum Beispiel bei der Bewertung von Beschäftigten oder Bewerber:innen. Für einen allgemeinen Schreibassistenten reicht oft eine dokumentierte Schwellwertanalyse. Die Entscheidung trifft Dein Unternehmen gemeinsam mit dem oder der Datenschutzbeauftragten.
Was ist der Unterschied zwischen DSGVO und EU AI Act?
Die DSGVO schützt personenbezogene Daten, egal mit welcher Technik sie verarbeitet werden. Der EU AI Act regelt KI-Systeme selbst: wie sicher, transparent und kontrolliert sie sein müssen. Beim KI-Einsatz gelten beide Regelwerke nebeneinander.
Ist eine KI mit Servern in der EU automatisch sicher?
Nein. Der Serverstandort ist ein wichtiger Baustein, aber nur einer von zehn. Ohne AVV, Rechtekonzept, Richtlinie und Schulung bleibt auch eine EU-gehostete KI ein Risiko. Sichere KI entsteht aus Technik und Organisation zusammen.
Fazit: DSGVO-konforme KI ist eine Frage der Umsetzung
Kein Tool nimmt Dir die Verantwortung ab. Aber mit den richtigen Voraussetzungen ist KI im Mittelstand rechtssicher machbar. Die wichtigsten Punkte:
- Technik: EU-Verarbeitung, kein Training, sauberes Rechtekonzept
- Verträge: AVV, Liste der Unterauftragsverarbeiter, dokumentierte TOM
- Organisation: Richtlinie, Schulung nach Art. 4 AI Act, Betriebsrat an Bord
Wer diese Punkte abarbeitet, kann KI produktiv nutzen und muss Schatten-KI nicht mehr fürchten.
Du willst sehen, wie eine DSGVO-konforme KI-Plattform im Alltag aussieht? Vereinbare eine Demo von snutig.ai. Wir zeigen Dir, wie die Checkliste in der Praxis umgesetzt ist, und beantworten die Fragen Deiner IT und Deines Datenschutzes direkt.
Markenhinweis: ChatGPT ist eine Marke der OpenAI OpCo, LLC. Microsoft, Microsoft 365, Copilot, SharePoint, OneDrive, Outlook, Entra und Azure sind Marken der Microsoft Corporation. Die Nennung erfolgt ausschließlich zu Vergleichs- und Informationszwecken. Alle Angaben zu Produkten Dritter beruhen auf öffentlich zugänglichen Informationen der Anbieter, Stand November 2026.
