Schulung & RechtAktualisiert am Von Johanna Neuron
KI und Datenschutz: So nutzt du KI im Unternehmen DSGVO-konform

KI lässt sich im Unternehmen DSGVO-konform nutzen, wenn vier Dinge stimmen: Für jede Verarbeitung personenbezogener Daten gibt es eine Rechtsgrundlage, mit dem Anbieter besteht ein Vertrag zur Auftragsverarbeitung, Übermittlungen in Länder außerhalb der EU sind abgesichert, und dein Team weiß, welche Daten in die KI dürfen. Das größte Risiko im Alltag sind private Konten bei ChatGPT, Claude und Co., in die Beschäftigte Kunden- oder Personaldaten kopieren. Mit betrieblichen Business- oder Enterprise-Konten, den richtigen Einstellungen und einer kurzen KI-Richtlinie bekommst du die meisten Risiken in den Griff.
Dieser Beitrag erklärt, wann die DSGVO greift, worauf es bei Anbieter, Vertrag und Datenübermittlung ankommt und was der EU AI Act zusätzlich verlangt. Er gibt den Stand vom 15. Oktober 2026 wieder und ersetzt keine Rechtsberatung.
Das Wichtigste in Kürze
- Die DSGVO gilt unverändert. Die geplante Reform durch den „Digital Omnibus“ ist noch nicht beschlossen.
- Keine Personendaten in private KI-Konten. Nutze betriebliche Business- oder Enterprise-Versionen mit AV-Vertrag und ausgeschaltetem Training.
- Das EU-US Data Privacy Framework gilt weiter, steht aber unter Druck. Nach einem Urteil des US Supreme Court vom 29. Juni 2026 soll die EU-Kommission prüfen, ob es noch trägt. Halte einen Plan B bereit.
- Der EU AI Act kommt hinzu. Seit dem 2. August 2026 gelten Transparenzpflichten, etwa für Chatbots. Pflichten für Hochrisiko-KI wie die Bewerberauswahl gelten erst ab dem 2. Dezember 2027.
- Der Betriebsrat gehört an den Tisch. Führst du betriebliche KI-Konten ein, hat er in aller Regel ein Mitbestimmungsrecht.
Wann greift die DSGVO beim KI-Einsatz?
Die Datenschutz-Grundverordnung gilt, sobald personenbezogene Daten verarbeitet werden, also Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen. Beim KI-Einsatz ist das häufiger der Fall, als man denkt:
- Eine Mitarbeiterin lässt eine Kundenbeschwerde mit Name und Bestellnummer von ChatGPT beantworten.
- Ein KI-Agent liest Eingangsrechnungen mit Ansprechpartnern, Adressen und Bankverbindungen aus.
- Ein Chatbot auf der Website speichert die Fragen und E-Mail-Adressen von Besuchern.
- Ein Tool transkribiert ein Teams-Meeting und hält fest, wer was gesagt hat.
Nutzt du KI dagegen nur für allgemeine Inhalte, etwa einen Blogentwurf, eine Produktbeschreibung oder eine Excel-Formel, spielt die DSGVO kaum eine Rolle. Dann geht es eher um den Schutz von Geschäftsgeheimnissen.
Ein einfacher Schutz im Alltag: Ersetze Namen, Kundennummern und Kontaktdaten durch Platzhalter, bevor du einen Text in ein KI-Tool gibst. Das senkt das Risiko deutlich. Für dein Unternehmen bleiben solche pseudonymisierten Daten aber personenbezogen, weil du sie wieder zuordnen kannst. Der Europäische Gerichtshof hat im Urteil EDSB gegen SRB vom 4. September 2025 zwar entschieden, dass sie für einen Empfänger ohne Zuordnungsmöglichkeit nicht personenbezogen sein müssen. Deine eigenen Pflichten, etwa die Information der Betroffenen, bleiben davon aber unberührt.
Die wichtigste Entscheidung: betriebliche statt private Konten
Den größten Unterschied macht die Wahl der richtigen Version. Die Datenschutzkonferenz (DSK) empfiehlt in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ ausdrücklich, Beschäftigten betriebliche Geräte und Konten bereitzustellen. Wer mit privaten Konten arbeitet, erzeugt Profile über sich selbst, und das Unternehmen verliert die Kontrolle über die Daten. Die DSK rät außerdem, das Training mit Eingaben und einen dauerhaften Verlauf schon beim Einrichten abzuschalten und bei Diensten, die nicht auf eigenen Servern laufen, Funktions-E-Mail-Adressen statt Klarnamen zu verwenden.
| Private oder kostenlose Version | Business- oder Enterprise-Version | |
|---|---|---|
| Training mit deinen Eingaben | oft voreingestellt, nur per Opt-out abschaltbar | laut den großen Anbietern standardmäßig ausgeschlossen |
| Vertrag zur Auftragsverarbeitung | nicht verfügbar | verfügbar |
| Verwaltung durch die IT | keine | zentrale Konten, Rechte, Löschfristen |
| Für Kunden- und Personaldaten | nicht geeignet | mit Vertrag und Regeln geeignet |
Bei den Verbraucherversionen ist Training häufig der Normalfall. Bei ChatGPT Free und Plus ist die Nutzung deiner Chats für das Training voreingestellt und lässt sich in den Einstellungen abschalten. Anthropic fragt Nutzer von Claude Free, Pro und Max seit Herbst 2025, ob ihre Chats für das Training verwendet werden dürfen. Wer zustimmt, dessen Daten speichert Anthropic bis zu fünf Jahre, und der Schalter dafür war bei der Abfrage bereits eingeschaltet.
Was die großen Anbieter für Unternehmen zusagen
Stand Oktober 2026, laut den Angaben der Anbieter und der offiziellen DPF-Liste:
| ChatGPT Business / Enterprise | Claude Team / Enterprise | Microsoft Copilot | |
|---|---|---|---|
| Training mit euren Daten | standardmäßig nein | nein, vertraglich ausgeschlossen | nein |
| Vertrag zur Auftragsverarbeitung | ja, für Business, Enterprise und API | ja, Teil der kommerziellen Bedingungen | ja, Teil der Microsoft-Vertragsbedingungen |
| Daten in der EU | wählbar bei Enterprise, Edu und API, nicht bei Business | nicht direkt bei Anthropic; EU-Verarbeitung über AWS Bedrock oder Google Vertex AI möglich | ja, über die EU Data Boundary; ausgenommen sind Anthropic-Modelle innerhalb von Copilot |
| Grundlage für Übermittlungen in die USA | Standardvertragsklauseln, keine DPF-Zertifizierung | Standardvertragsklauseln, keine DPF-Zertifizierung | DPF-Zertifizierung, zusätzlich Standardvertragsklauseln |
Quellen: OpenAI Enterprise-Datenschutz, OpenAI Preise für Business, Anthropic Commercial Terms, Microsoft Learn, OpenAI AV-Vertrag, Anthropic DPA, Microsoft zu Standardvertragsklauseln, DPF-Liste.
Prüfe bei jedem Tool, ob der Vertrag tatsächlich geschlossen ist und nicht nur angeboten wird. Bei OpenAI schließt du ihn zum Beispiel aktiv über ein Formular ab. Welcher Assistent zu deinem Team passt, vergleicht unser Beitrag ChatGPT vs. Claude für Unternehmen.
Die Rechtsgrundlage: Der Zweck entscheidet, nicht das Werkzeug
Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Dabei kommt es auf den Zweck an: Beantwortet ein KI-Agent eine Kundenanfrage, gilt dieselbe Grundlage wie für eine Antwort von Hand. Infrage kommen vor allem:
- Vertragserfüllung (Art. 6 Abs. 1 lit. b): Die KI bearbeitet eine Bestellung oder Anfrage, die zur Abwicklung eines Vertrags gehört.
- Berechtigtes Interesse (Art. 6 Abs. 1 lit. f): Du nutzt KI, um Abläufe effizienter zu machen, und die Interessen der Betroffenen überwiegen nicht. Die Abwägung musst du dokumentieren.
- Einwilligung (Art. 6 Abs. 1 lit. a): Sie muss freiwillig, informiert und jederzeit widerrufbar sein. Im Arbeitsverhältnis ist sie wegen der Abhängigkeit oft keine tragfähige Grundlage.
Für besondere Kategorien wie Gesundheitsdaten, religiöse Überzeugungen oder Gewerkschaftszugehörigkeit gelten nach Art. 9 DSGVO strengere Regeln. Solche Daten haben in einem allgemeinen KI-Assistenten nichts verloren.
Ein Sonderfall ist das Training: Verwendet der Anbieter eure Eingaben, um seine Modelle zu verbessern, ist das ein eigener Zweck, für den es ebenfalls eine Rechtsgrundlage bräuchte. Die DSK hält deshalb Dienste für vorzugswürdig, die Ein- und Ausgaben nicht für das Training verwenden.
Auftragsverarbeitung: Der Vertrag mit dem Anbieter
Verarbeitet ein externer Anbieter personenbezogene Daten in deinem Auftrag, ist er Auftragsverarbeiter. Dann brauchst du einen Vertrag zur Auftragsverarbeitung (AV-Vertrag) nach Art. 28 DSGVO. Er regelt unter anderem, dass der Anbieter die Daten nur nach deinen Weisungen verarbeitet, welche Sicherheitsmaßnahmen gelten und welche Unterauftragnehmer beteiligt sind.
Prüfe drei Dinge: ob der Vertrag für deine Version überhaupt angeboten wird, ob er tatsächlich geschlossen ist und welche Unterauftragnehmer in welchen Ländern mitarbeiten. Gerade Plattformen mit mehreren KI-Modellen behandeln einzelne Modelle unterschiedlich, wie das Beispiel der Anthropic-Modelle in Microsoft Copilot zeigt.
Datenübermittlung in die USA: Was seit dem Sommer 2026 gilt
Viele KI-Anbieter sitzen in den USA oder verarbeiten Daten dort. Für Übermittlungen in Länder außerhalb der EU gelten Art. 44 ff. DSGVO. Drei Wege sind üblich:
- EU-US Data Privacy Framework (DPF): ein Angemessenheitsbeschluss der EU-Kommission für US-Unternehmen, die sich nach dem DPF zertifiziert haben. Ob ein Anbieter dabei ist, zeigt die offizielle Liste.
- Standardvertragsklauseln: Musterverträge der EU-Kommission, die viele Anbieter in ihren AV-Vertrag aufnehmen.
- Verarbeitung in der EU: Die Daten bleiben in Rechenzentren in der EU. Das ist der sicherste Weg, wenn der Anbieter ihn ohne Ausnahmen zusagt.
Um das DPF ist es 2026 unruhig geworden. Die wichtigsten Daten:
- 10. Juli 2023: Die EU-Kommission erlässt den Angemessenheitsbeschluss.
- 3. September 2025: Das Gericht der EU weist die Klage des französischen Abgeordneten Philippe Latombe ab. Sein Rechtsmittel beim Gerichtshof (C-703/25 P) ist seit Oktober 2025 anhängig, ein Termin steht noch nicht fest.
- 29. Juni 2026: Der US Supreme Court entscheidet im Fall Trump v. Slaughter mit sechs zu drei Stimmen, dass der US-Präsident die Mitglieder der Handelsaufsicht FTC jederzeit entlassen darf. Der Angemessenheitsbeschluss verweist aber ausdrücklich auf die Unabhängigkeit der FTC.
- 30. Juni 2026: Die Datenschutzorganisation noyb fordert die Kommission auf, den Beschluss geordnet zurückzunehmen, und kündigt an, andernfalls vor den Gerichtshof zu ziehen.
- 31. Juli 2026: Der Europäische Datenschutzausschuss bittet die Kommission, genau zu prüfen, ob das Urteil das Funktionieren des Beschlusses beeinträchtigt.
Stand Mitte Oktober 2026 hat die Kommission den Beschluss weder geändert noch ausgesetzt, und eine Klage von noyb ist nach unserem Kenntnisstand noch nicht eingereicht. Das DPF gilt also weiter, bis die Kommission es aufhebt oder der Gerichtshof es für ungültig erklärt. Genau so hat der Gerichtshof die Vorgänger Safe Harbor (2015) und Privacy Shield (2020) gekippt.
Wichtig für ChatGPT und Claude: OpenAI und Anthropic stehen nicht auf der offiziellen DPF-Liste (geprüft am 15. Oktober 2026). Übermittlungen an sie in die USA laufen deshalb über die Standardvertragsklauseln in ihren AV-Verträgen. Microsoft ist dagegen DPF-zertifiziert und bietet die Klauseln zusätzlich an.
Was du jetzt tun solltest:
- Dokumentieren: Halte fest, welche Übermittlungen sich allein auf das DPF stützen.
- Plan B bereithalten: Achte darauf, dass dein AV-Vertrag zusätzlich Standardvertragsklauseln enthält. Ein Allheilmittel sind sie nicht, weil sie bei Übermittlungen in die USA teils auf dieselben US-Schutzmechanismen setzen.
- Sensible Daten in der EU verarbeiten: Für Personal-, Gesundheits- oder vertrauliche Kundendaten wählst du am besten Dienste mit zugesagter Verarbeitung in der EU.
Datenschutz-Folgenabschätzung
Birgt eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen, ist vorher eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO nötig. Laut DSK wird das beim Einsatz von KI-Anwendungen „vielfach der Fall sein“. Typische Auslöser sind die Bewertung von Personen, Beschäftigtendaten in größerem Umfang, sensible Daten und neue Technologien. Welche Verarbeitungen immer eine DSFA brauchen, steht in der Muss-Liste der DSK.
Für die DSFA brauchst du Informationen des Anbieters, wie das System funktioniert. Achte deshalb schon bei der Auswahl darauf, dass er sie bereitstellt. Für einfache Anwendungen, etwa einen Textassistenten ohne Personendaten, reicht oft eine dokumentierte Vorabprüfung, die begründet, warum keine DSFA nötig ist.
Transparenz, Betroffenenrechte und automatisierte Entscheidungen
Wer personenbezogene Daten mit KI verarbeitet, muss die Betroffenen informieren (Art. 13 und 14 DSGVO). Ergänze deine Datenschutzerklärung und die Informationen für Beschäftigte um die eingesetzten Tools, ihre Zwecke und die Empfänger der Daten.
Auch die Rechte der Betroffenen gelten uneingeschränkt: Auskunft, Berichtigung, Löschung und Widerspruch (Art. 15 bis 21 DSGVO). KI-Ergebnisse können falsche Angaben über Personen enthalten. Du brauchst also einen Weg, solche Anfragen auch für Daten in KI-Systemen zu beantworten, etwa über protokollierte Verläufe und feste Löschfristen.
Besonders streng ist Art. 22 DSGVO: Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung dürfen grundsätzlich nicht allein automatisiert fallen. Die DSK nennt als Beispiel eine KI, die alle Bewerbungen auswertet und selbstständig zu Vorstellungsgesprächen einlädt. Ein Mensch muss tatsächlich entscheiden können, ein bloßes Abnicken reicht nicht. Der Europäische Gerichtshof hat außerdem klargestellt, dass schon ein automatisch berechneter Score, auf den es maßgeblich ankommt, eine solche Entscheidung sein kann (SCHUFA, C-634/21, Dezember 2023). Und Betroffene haben Anspruch darauf, nachvollziehbar erklärt zu bekommen, nach welchem Verfahren entschieden wurde (Dun & Bradstreet Austria, C-203/22, Februar 2025).
Beschäftigte und Betriebsrat
Wird KI im Unternehmen offiziell eingeführt, ist meist der Betriebsrat gefragt. Nach § 87 Abs. 1 Nr. 6 BetrVG bestimmt er mit, wenn technische Einrichtungen eingeführt werden, die geeignet sind, Verhalten oder Leistung zu überwachen. Das Arbeitsgericht Hamburg hat 2024 ein Mitbestimmungsrecht verneint, als Beschäftigte ChatGPT nur im Browser mit eigenen Konten nutzen durften, weil der Arbeitgeber dabei keine Nutzungsdaten erhielt (Beschluss vom 16. Januar 2024, 24 BVGa 1/24). Stellst du dagegen, wie von der DSK empfohlen, betriebliche Konten mit Admin-Zugriff und Protokollen bereit, ist die Mitbestimmung in aller Regel ausgelöst. Eine Rahmen-Betriebsvereinbarung für KI-Tools erspart dir, jedes neue Tool einzeln zu verhandeln.
Zwei Punkte aus dem EU AI Act betreffen Beschäftigte direkt: Emotionserkennung am Arbeitsplatz ist seit dem 2. Februar 2025 verboten, außer aus medizinischen oder Sicherheitsgründen. Und KI für Einstellung, Beförderung, Aufgabenverteilung oder Leistungsbewertung gilt als Hochrisiko-KI, mit eigenen Pflichten ab dem 2. Dezember 2027.
EU AI Act: Was wann gilt
DSGVO und KI-Verordnung (EU AI Act) gelten nebeneinander. Die DSGVO schützt personenbezogene Daten, die KI-Verordnung regelt KI-Systeme nach ihrem Risiko. Im Juli 2026 hat die EU die KI-Verordnung mit dem Digital Omnibus (Verordnung 2026/1744) in mehreren Punkten geändert. Für Unternehmen, die KI einsetzen, ergibt sich daraus folgender Zeitplan:
| Ab | Was gilt | Was du tun solltest |
|---|---|---|
| 2. Februar 2025 | Verbote bestimmter KI-Praktiken, Pflicht zur KI-Kompetenz (Art. 4) | verbotene Anwendungen ausschließen, Team schulen |
| 27. Juli 2026 | neue Fassung von Art. 4: Maßnahmen zur KI-Kompetenz bleiben Pflicht, ein bestimmtes Niveau muss aber nicht garantiert werden | Schulungen fortführen und dokumentieren |
| 2. August 2026 | Transparenzpflichten (Art. 50) | Chatbots als KI erkennbar machen, Deepfakes kennzeichnen |
| 2. Dezember 2026 | maschinenlesbare Kennzeichnung KI-erzeugter Inhalte auch für generative Systeme, die schon vor August 2026 auf dem Markt waren | betrifft vor allem Anbieter; prüfe, ob deine Tools das umsetzen |
| 2. Dezember 2027 | Pflichten für Hochrisiko-KI nach Anhang III, etwa für Personalentscheidungen | Risikomanagement, menschliche Aufsicht, Dokumentation |
| 2. August 2028 | Pflichten für Hochrisiko-KI in Produkten nach Anhang I | betrifft vor allem Hersteller |
Bei Chatbots trifft die Pflicht, Menschen auf die KI hinzuweisen, zunächst den Anbieter des Systems. Wer einen Chatbot entwickeln lässt und unter eigenem Namen in Betrieb nimmt, kann aber selbst Anbieter im Sinne der KI-Verordnung sein. Kennzeichne KI-Chats deshalb in jedem Fall klar. Was die Schulungspflicht genau verlangt, erklärt unser Beitrag zur KI-Schulungspflicht.
In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur nach dem neuen Durchführungsgesetz (KI-MIG) zentrale Marktüberwachungsbehörde für die KI-Verordnung. Für den Datenschutz bleiben die Datenschutzaufsichtsbehörden zuständig. Wie beide Regelwerke im Detail zusammenspielen, sollen gemeinsame Leitlinien des Europäischen Datenschutzausschusses und der EU-Kommission klären, die bis Ende 2026 erwartet werden.
Kommt eine neue DSGVO?
Die EU-Kommission hat im November 2025 mit dem Digital Omnibus auch Änderungen an der DSGVO vorgeschlagen, unter anderem zur Definition personenbezogener Daten und zur Nutzung von Daten für die Entwicklung von KI. Anders als der KI-Teil ist dieser Teil noch nicht beschlossen. Die Mitgliedstaaten ringen noch um eine gemeinsame Position: Bis zum 12. Oktober 2026 war kein Verhandlungsmandat des Rates bestätigt, und auch das Europäische Parlament hatte im September noch keine Position. Bis zu einer Einigung gilt die DSGVO unverändert. Plane also nicht mit Erleichterungen, die noch nicht beschlossen sind.
Typische Fälle: Risiko und Maßnahme
| Fall | Risiko | Maßnahme |
|---|---|---|
| ChatGPT oder Claude mit privaten Konten | hoch: Kundendaten landen ohne Vertrag beim Anbieter und eventuell im Training | betriebliche Konten mit AV-Vertrag, Training aus, KI-Richtlinie mit klaren Tabus |
| ChatGPT oder Claude mit Business-Lizenz | mittel: Daten werden eventuell in den USA verarbeitet, Nutzung oft ungeregelt | AV-Vertrag abschließen, EU-Verarbeitung wo möglich, Richtlinie, Schulung, Betriebsrat einbinden |
| KI-Agent für Rechnungen | mittel: Kontaktdaten und Bankverbindungen werden verarbeitet | Rechtsgrundlage dokumentieren, AV-Vertrag, Freigabe durch Menschen, Protokoll jedes Schritts |
| Chatbot auf der Website | mittel: Eingaben von Besuchern, eventuell sensible Angaben | Hinweis auf KI, Datenschutzerklärung ergänzen, Antworten nur aus freigegebenem Wissen, Löschfristen |
| Meeting-Transkription | mittel bis hoch: Beschäftigtendaten, Mitschnitt von Gesprächen | alle Teilnehmenden informieren, Betriebsrat einbinden, Speicherdauer begrenzen |
| KI-Vorauswahl von Bewerbungen | hoch: Art. 22 DSGVO, ab Dezember 2027 Hochrisiko-KI | DSFA, Mensch entscheidet, Transparenz gegenüber Bewerbern |
Checkliste: KI DSGVO-konform einführen
- Bestandsaufnahme machen: Welche KI-Tools nutzt dein Team bereits, auch inoffiziell?
- Zwecke festlegen: Wofür wird jedes Tool eingesetzt, und sind personenbezogene Daten im Spiel?
- Rechtsgrundlage dokumentieren: für jede Verarbeitung mit Personenbezug, bei berechtigtem Interesse mit Abwägung.
- Datenschutzbeauftragten und Betriebsrat einbinden: früh, nicht erst kurz vor dem Start.
- Betriebliche Konten bereitstellen: Business- oder Enterprise-Versionen statt privater Accounts.
- AV-Vertrag abschließen: und die Unterauftragnehmer prüfen.
- Datenübermittlung klären: Verarbeitung in der EU, DPF-Zertifizierung oder Standardvertragsklauseln, mit dokumentiertem Plan B.
- Datenschutzfreundlich einstellen: Training aus, Verlauf begrenzen, Zugriffsrechte vergeben, Funktionsadressen statt Klarnamen.
- DSFA prüfen: Vorabprüfung dokumentieren, bei hohem Risiko eine vollständige DSFA durchführen.
- Transparenz herstellen: Datenschutzerklärung und Beschäftigteninformationen ergänzen, KI-Chatbots kennzeichnen.
- KI-Richtlinie schreiben: erlaubte Tools, verbotene Daten, Platzhalter statt Klarnamen, Prüfpflicht für Ergebnisse, Ansprechpartner.
- Team schulen: damit die Regeln im Alltag ankommen und Art. 4 der KI-Verordnung erfüllt ist.
Wenn ihr eigene KI-Systeme entwickelt
Wer selbst KI-Systeme baut, etwa einen Assistenten, der auf Firmendokumente zugreift, findet bei der DSK zwei weitere Papiere: zu technischen und organisatorischen Maßnahmen (Juni 2025) und zu KI-Systemen mit RAG-Methode (Oktober 2025). Wer Modelle mit personenbezogenen Daten trainiert oder nachtrainiert, sollte die Stellungnahme 28/2024 des Europäischen Datenschutzausschusses kennen: Ein berechtigtes Interesse kann als Rechtsgrundlage tragen, wenn eine dreistufige Prüfung gelingt, und ob ein Modell anonym ist, muss im Einzelfall geprüft werden.
Wie aiworx Projekte datenschutzbewusst umsetzt
Wir bauen KI-Agenten, die als digitale Kollegen Aufgaben wie die Rechnungsverarbeitung übernehmen. Bei unserer KI-Automatisierung gibt der Mensch frei, wo ihr es wünscht, und jeder Schritt wird protokolliert. So bleibt nachvollziehbar, was der Agent mit welchen Daten getan hat. Das hilft bei Auskunftsanfragen und bei der Dokumentation für euren Datenschutzbeauftragten.
Für den KI-Kundenservice setzen wir unser eigenes Produkt pingo ein. pingo antwortet nur aus Wissen, das ihr freigegeben habt. Das senkt das Risiko, dass die KI falsche Angaben macht oder Inhalte preisgibt, die sie nicht nennen soll.
Weil Datenschutz im Alltag vor allem an den Menschen hängt, behandeln wir den sicheren Umgang mit Firmendaten auch in unseren Workshops und Schulungen zu ChatGPT und Claude, inklusive KI-Richtlinie und der Pflichten aus dem EU AI Act. Unser Tipp: Hol deinen Datenschutzbeauftragten von Anfang an mit an den Tisch.
Häufige Fragen
Darf ich ChatGPT im Unternehmen DSGVO-konform nutzen? Ja, mit ChatGPT Business oder Enterprise, einem abgeschlossenen AV-Vertrag und klaren Regeln, welche Daten eingegeben werden dürfen. Laut OpenAI werden Daten aus diesen Versionen standardmäßig nicht für das Training genutzt. Für Kunden- und Personaldaten sind private Konten dagegen nicht geeignet.
Darf ich Claude im Unternehmen DSGVO-konform nutzen? Ja, mit Claude Team, Enterprise oder der API. Anthropic schließt das Training mit Kundeninhalten in seinen kommerziellen Bedingungen aus, der AV-Vertrag ist Teil dieser Bedingungen, und Vertragspartner in der EU ist Anthropic Ireland. Eine Datenhaltung in der EU bietet Anthropic direkt nicht an. Wer sie braucht, nutzt Claude-Modelle über AWS Bedrock oder Google Vertex AI in europäischen Regionen.
Brauche ich für jedes KI-Tool einen AV-Vertrag? Immer dann, wenn der Anbieter in deinem Auftrag personenbezogene Daten verarbeitet. Nutzt du ein Tool nur mit Inhalten ohne Personenbezug, ist keiner nötig. In der Praxis lässt sich das aber selten sicher ausschließen.
Ist eine Datenschutz-Folgenabschätzung bei KI immer Pflicht? Nicht immer, aber oft. Sie ist nötig, wenn voraussichtlich ein hohes Risiko für Betroffene besteht, und die Datenschutzkonferenz geht davon aus, dass das beim KI-Einsatz vielfach der Fall ist. Dokumentiere in jedem Fall die Vorabprüfung.
Ist das EU-US Data Privacy Framework noch gültig? Ja, Stand Mitte Oktober 2026. Seit dem US-Urteil zur FTC vom 29. Juni 2026 soll die EU-Kommission auf Bitten des Europäischen Datenschutzausschusses prüfen, ob der Beschluss noch trägt, und noyb hat eine Klage angekündigt. OpenAI und Anthropic sind nicht DPF-zertifiziert und nutzen ohnehin Standardvertragsklauseln. Bei zertifizierten Anbietern solltest du diese Klauseln als Rückfall bereithalten. Für sensible Daten ist eine Verarbeitung in der EU in jedem Fall die sicherste Wahl.
Muss der Betriebsrat zustimmen? Wenn du betriebliche KI-Konten einführst, deren Nutzung sich auswerten lässt, in aller Regel ja (§ 87 Abs. 1 Nr. 6 BetrVG). Eine Rahmen-Betriebsvereinbarung für KI-Tools macht spätere Einführungen deutlich einfacher.
Was droht bei Verstößen gegen die DSGVO? Bußgelder nach Art. 83 DSGVO von bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Dazu kommen Schadensersatzansprüche Betroffener nach Art. 82 DSGVO. Laut Europäischem Gerichtshof gibt es dafür keine Erheblichkeitsschwelle, der Schaden muss aber nachgewiesen werden.
Ersetzt der EU AI Act die DSGVO bei KI? Nein. Beide gelten nebeneinander. Die DSGVO regelt den Umgang mit personenbezogenen Daten, die KI-Verordnung Pflichten rund um KI-Systeme wie KI-Kompetenz, Transparenz und Hochrisiko-Anwendungen.
Du willst KI einsetzen und den Datenschutz von Anfang an richtig aufsetzen? Lass uns in einem kostenlosen Erstgespräch über dein Vorhaben sprechen.



