ChatGPT im Unternehmen datenschutzkonform nutzen: Der Leitfaden für kleine und mittlere Unternehmen

Ein Mitarbeiter im Kundenservice will eine schwierige Beschwerde schnell beantworten. Er kopiert die komplette E-Mail des Kunden in ChatGPT, samt Name, Adresse, Kundennummer und Bestellhistorie, und bittet um einen freundlichen Antwortentwurf. Das Ergebnis ist gut, der Kunde zufrieden. Was der Mitarbeiter nicht bedacht hat: Er hat gerade personenbezogene Daten an einen externen Anbieter übermittelt, über ein privates Konto, ohne vertragliche Grundlage und möglicherweise mit der Folge, dass die Eingaben zum Training des Modells verwendet werden.

Solche Situationen passieren in vielen Unternehmen täglich, meist ohne dass es jemand bemerkt. Das Problem ist selten böser Wille, sondern fehlendes Wissen. Dabei lassen sich ChatGPT, Microsoft Copilot und vergleichbare Werkzeuge durchaus datenschutzkonform einsetzen, wenn ein paar Grundregeln feststehen.

Wir sind die Novus Seminare GmbH, ein nach AZAV zugelassener Bildungsträger mit Schwerpunkt auf KI-Weiterbildungen für Beschäftigte. Die rechtssichere Nutzung von KI einschließlich Datenschutz ist fester Bestandteil unserer Kurse. Dieser Leitfaden fasst zusammen, worauf kleine und mittlere Unternehmen achten sollten, und gibt Ihnen konkrete Schritte für die Umsetzung an die Hand.

Das Wichtigste im Überblick

• Sobald personenbezogene Daten in ein KI-Werkzeug eingegeben werden, gilt die Datenschutz-Grundverordnung. Das Unternehmen bleibt verantwortlich.
• Private oder kostenlose Konten sind für den Umgang mit Kunden- oder Personaldaten ungeeignet. Geschäftsversionen bieten in der Regel einen Auftragsverarbeitungsvertrag und schließen das Training mit Ihren Eingaben standardmäßig aus.
• Nicht nur personenbezogene Daten sind sensibel. Auch Geschäftsgeheimnisse verdienen Schutz.
• Eine interne KI-Richtlinie legt fest, welche Werkzeuge erlaubt sind und welche Daten eingegeben werden dürfen.
• Gibt es einen Betriebsrat, sollte er früh eingebunden werden.
• Regeln wirken nur, wenn das Team sie versteht. Schulung ist deshalb der wichtigste Baustein.

Warum Datenschutz bei KI-Werkzeugen ein Thema ist

Wer einen Text in ChatGPT oder ein vergleichbares Werkzeug eingibt, schickt diese Informationen an die Server des Anbieters. Dort werden sie verarbeitet, um eine Antwort zu erzeugen. Je nach Version und Einstellung werden die Eingaben gespeichert und können zur Verbesserung der Modelle verwendet werden. Viele große Anbieter haben ihren Sitz außerhalb der Europäischen Union, häufig in den USA.

Für Unternehmen ergeben sich daraus drei Fragen:

• Werden personenbezogene Daten verarbeitet? Dann gelten die Regeln der Datenschutz-Grundverordnung.
• Werden vertrauliche Unternehmensinformationen preisgegeben? Dann geht es um den Schutz von Geschäftsgeheimnissen.
• Ist die Nutzung im Unternehmen geregelt? Dann geht es um interne Vorgaben und gegebenenfalls um die Rechte des Betriebsrats.

Die Folgen eines Verstoßes können erheblich sein. Die Datenschutz-Grundverordnung sieht Bußgelder von bis zu 20 Millionen Euro oder bis zu 4 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Hinzu kommen mögliche Schadensersatzansprüche betroffener Personen und ein Vertrauensverlust bei Kunden, der sich kaum beziffern lässt.

Der rechtliche Rahmen in Kürze

Datenschutz-Grundverordnung

Personenbezogen sind alle Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen. Dazu gehören Namen, E-Mail-Adressen, Telefonnummern und Kundennummern, aber auch Angaben, die erst in Kombination eine Person erkennbar machen. Werden solche Daten in ein KI-Werkzeug eingegeben, muss das Unternehmen als Verantwortlicher sicherstellen, dass die Verarbeitung rechtmäßig ist.

Wichtige Punkte sind dabei:

• Rechtsgrundlage: Für jede Verarbeitung braucht es eine Rechtsgrundlage nach Art. 6 DSGVO, etwa die Erfüllung eines Vertrags oder ein berechtigtes Interesse.
• Auftragsverarbeitung: Verarbeitet der KI-Anbieter Daten im Auftrag des Unternehmens, ist ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO erforderlich.
• Übermittlung in Drittländer: Bei Anbietern außerhalb der EU müssen die Voraussetzungen der Art. 44 ff. DSGVO erfüllt sein, etwa durch eine Zertifizierung unter dem EU-US Data Privacy Framework oder durch Standardvertragsklauseln.
• Transparenz: Betroffene Personen müssen in der Datenschutzerklärung über die Verarbeitung informiert werden.
• Datenschutz-Folgenabschätzung: Bei Verarbeitungen mit voraussichtlich hohem Risiko, etwa bei umfangreicher Auswertung sensibler Daten, kann eine Folgenabschätzung nach Art. 35 DSGVO erforderlich sein.

Schutz von Geschäftsgeheimnissen

Nach dem Geschäftsgeheimnisgesetz genießen Informationen nur dann rechtlichen Schutz als Geschäftsgeheimnis, wenn das Unternehmen angemessene Maßnahmen zu ihrer Geheimhaltung ergreift. Wer zulässt, dass Kalkulationen, Strategiepapiere oder Kundenlisten unkontrolliert in KI-Werkzeuge eingegeben werden, riskiert nicht nur ein Datenleck, sondern im Streitfall auch den Schutz dieser Informationen.

KI-Verordnung

Nach Art. 4 der europäischen KI-Verordnung müssen Unternehmen, die KI beruflich einsetzen, Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Dazu gehört auch das Bewusstsein für Risiken, etwa beim Umgang mit Daten. Datenschutzschulung und KI-Schulung greifen hier ineinander.

Private Konten oder Geschäftsversionen?

Der wichtigste Hebel für mehr Datenschutz ist die Wahl der richtigen Version. Viele Anbieter unterscheiden zwischen Angeboten für Privatpersonen und für Unternehmen.

Bei OpenAI ist das Training mit Eingaben in den Geschäftsversionen wie ChatGPT Business und Enterprise nach Angaben des Anbieters standardmäßig ausgeschlossen, und es kann ein Auftragsverarbeitungsvertrag abgeschlossen werden. Für Microsoft 365 Copilot gibt Microsoft an, dass Eingaben und Antworten bei Geschäftskonten nicht zum Training der zugrunde liegenden Basismodelle verwendet werden. Prüfen Sie die aktuellen Bedingungen des jeweiligen Anbieters vor der Einführung, denn Angebote und Vertragsbedingungen ändern sich regelmäßig.

Die Geschäftsversion allein macht die Nutzung aber noch nicht automatisch datenschutzkonform. Sie schafft die technische und vertragliche Grundlage. Ob die Nutzung im Einzelfall zulässig ist, hängt weiterhin davon ab, welche Daten zu welchem Zweck verarbeitet werden.

Welche Daten dürfen in ein KI-Werkzeug?

Eine einfache Ampel hilft Mitarbeitenden im Alltag, schnell die richtige Entscheidung zu treffen.

• Grün: Öffentlich verfügbare Informationen, allgemeine Fachfragen, eigene Texte ohne Personenbezug und vollständig anonymisierte Inhalte. Diese können in freigegebenen Werkzeugen genutzt werden.
• Gelb: Interne Informationen ohne besondere Vertraulichkeit sowie pseudonymisierte Daten. Diese dürfen nur in vom Unternehmen freigegebenen Geschäftsversionen mit Auftragsverarbeitungsvertrag verarbeitet werden.
• Rot: Besondere Kategorien personenbezogener Daten wie Gesundheitsdaten, vollständige Personalakten, Bankdaten, Zugangsdaten und Passwörter sowie streng vertrauliche Geschäftsgeheimnisse. Diese gehören grundsätzlich nicht in allgemeine KI-Werkzeuge, es sei denn, das Unternehmen hat dies nach sorgfältiger Prüfung ausdrücklich geregelt.

Anonymisieren und Pseudonymisieren in der Praxis

Viele Aufgaben lassen sich erledigen, ohne echte Personendaten einzugeben. Statt „Herr Max Müller aus Lübeck, Kundennummer 4711, beschwert sich über eine verspätete Lieferung„ genügt „Ein Kunde beschwert sich über eine verspätete Lieferung“. Namen lassen sich durch Platzhalter wie „Kunde A“ ersetzen, Zahlen durch Beispielwerte. Wichtig ist, dass auch aus dem Zusammenhang keine Rückschlüsse auf die Person möglich sind. Eine pseudonymisierte Angabe bleibt datenschutzrechtlich ein personenbezogenes Datum, eine wirklich anonymisierte nicht.

Typische Datenschutzfehler im KI-Alltag

Die meisten Verstöße entstehen nicht aus Nachlässigkeit, sondern weil Mitarbeitende die Risiken nicht kennen. Diese Situationen sind besonders häufig:

• Kundenkorrespondenz kopiert: Ganze E-Mails mit Namen, Adressen und Vertragsdetails werden in ein KI-Werkzeug eingefügt, um eine Antwort zu formulieren.
• Tabellen hochgeladen: Excel-Listen mit Kunden- oder Mitarbeiterdaten werden zur Auswertung an ein KI-Werkzeug übergeben.
• Protokolle zusammengefasst: Besprechungsnotizen mit Namen und vertraulichen Inhalten werden über ein privates Konto zusammengefasst.
• Bewerbungen sortiert: Lebensläufe werden zur Vorauswahl in einen allgemeinen Chatbot geladen. Neben dem Datenschutz berührt das auch die Anforderungen der KI-Verordnung an Anwendungen im Personalbereich.
• Verträge geprüft: Vertragsentwürfe mit Konditionen und Geschäftspartnern werden zur Überarbeitung eingegeben, ohne dass geklärt ist, wo diese Daten landen.

All diese Aufgaben lassen sich mit KI sinnvoll unterstützen. Der Unterschied liegt in der Art der Eingabe und im verwendeten Werkzeug.

Wem gehören KI-Ergebnisse?

Neben dem Datenschutz taucht oft die Frage nach dem Urheberrecht auf. Nach deutschem Recht schützt das Urheberrecht persönliche geistige Schöpfungen eines Menschen. Texte oder Bilder, die ausschließlich von einer KI erzeugt werden, sind deshalb in der Regel nicht urheberrechtlich geschützt. Umgekehrt können KI-Ergebnisse fremde Rechte verletzen, etwa wenn sie geschützte Texte oder Bilder sehr ähnlich wiedergeben. Prüfen Sie KI-Ergebnisse deshalb vor einer Veröffentlichung, besonders bei Bildern, Logos und längeren Texten.

Die interne KI-Richtlinie: Was hineingehört

Eine KI-Richtlinie schafft Klarheit für alle Beteiligten. Sie muss nicht umfangreich sein. Für kleine und mittlere Unternehmen genügen oft zwei bis drei Seiten. Folgende Punkte sollten geregelt sein:

• Erlaubte Werkzeuge: Welche KI-Werkzeuge in welcher Version dürfen genutzt werden? Private Konten für dienstliche Zwecke sollten ausgeschlossen oder klar begrenzt werden.
• Datenregeln: Welche Daten dürfen eingegeben werden und welche nicht? Die Ampel ist hierfür ein guter Ausgangspunkt.
• Prüfpflicht: KI-Ergebnisse werden vor der Verwendung geprüft. Das gilt besonders für Fakten, Zahlen und rechtliche Aussagen.
• Kennzeichnung: Wann muss offengelegt werden, dass Inhalte mit KI erstellt wurden?
• Verantwortlichkeiten: Wer entscheidet über neue Werkzeuge, wer beantwortet Fragen, wer ist bei Vorfällen zu informieren?
• Schulung: Wer KI nutzt, nimmt an einer Schulung teil.

Rolle des Betriebsrats

Gibt es im Unternehmen einen Betriebsrat, stellt sich die Frage nach seinen Mitbestimmungsrechten. Besonders relevant ist § 87 Abs. 1 Nr. 6 BetrVG, der die Einführung technischer Einrichtungen betrifft, die geeignet sind, Verhalten oder Leistung der Beschäftigten zu überwachen.

Das Arbeitsgericht Hamburg hat mit Beschluss vom 16. Januar 2024 (Az. 24 BVGa 1/24) entschieden, dass in einem konkreten Fall kein Mitbestimmungsrecht bestand. Dort durften Beschäftigte ChatGPT über private Konten im Browser nutzen, das Werkzeug war nicht auf den Systemen des Arbeitgebers installiert, und der Arbeitgeber hatte keinen Zugriff auf die Nutzungsdaten. Stellt das Unternehmen dagegen eigene Konten bereit oder integriert KI-Funktionen in seine Systeme, kann die Bewertung anders ausfallen. Unabhängig von der rechtlichen Einordnung schafft eine frühe Einbindung des Betriebsrats Vertrauen und Akzeptanz.

In acht Schritten zur datenschutzkonformen KI-Nutzung

1. Bestandsaufnahme: Erfassen Sie, welche KI-Werkzeuge im Unternehmen genutzt werden, offiziell und inoffiziell.
2. Werkzeuge auswählen: Entscheiden Sie sich für Geschäftsversionen, die einen Auftragsverarbeitungsvertrag bieten und das Training mit Ihren Daten ausschließen.
3. Verträge abschließen: Schließen Sie den Auftragsverarbeitungsvertrag ab und prüfen Sie die Regelungen zur Drittlandübermittlung.
4. Datenschutzbeauftragte einbinden: Falls vorhanden, beziehen Sie Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten frühzeitig ein.
5. Richtlinie erstellen: Halten Sie die Regeln in einer kurzen KI-Richtlinie fest.
6. Dokumentation ergänzen: Nehmen Sie die Verarbeitung in Ihr Verzeichnis der Verarbeitungstätigkeiten auf und passen Sie bei Bedarf die Datenschutzhinweise an.
7. Team schulen: Vermitteln Sie die Regeln und zeigen Sie an praktischen Beispielen, wie Daten anonymisiert und Ergebnisse geprüft werden.
8. Regelmäßig überprüfen: Kontrollieren Sie in festen Abständen, ob die Regeln eingehalten werden und ob neue Werkzeuge hinzugekommen sind.

Warum Schulung der entscheidende Faktor ist

Technik und Verträge schaffen den Rahmen. Ob Daten tatsächlich geschützt werden, entscheidet sich aber am Arbeitsplatz, in dem Moment, in dem jemand einen Text in ein Eingabefeld kopiert. Eine Richtlinie, die niemand kennt oder versteht, schützt nicht.

In unseren KI-Weiterbildungen üben die Teilnehmenden deshalb nicht nur den produktiven Einsatz von ChatGPT, Copilot und anderen Werkzeugen, sondern auch den sicheren Umgang mit Daten. Sie lernen, Aufgaben so zu formulieren, dass keine sensiblen Informationen nötig sind, Inhalte zu anonymisieren und Ergebnisse kritisch zu prüfen. So wird Datenschutz vom Hindernis zur Selbstverständlichkeit. Eine umfassende KI-Weiterbildung bei einem zugelassenen Träger kann über das Qualifizierungschancengesetz gefördert werden, wenn die Voraussetzungen erfüllt sind.

FAQ: Häufige Fragen zu ChatGPT und Datenschutz im Unternehmen

Ist ChatGPT im Unternehmen grundsätzlich verboten?

Nein. ChatGPT und vergleichbare Werkzeuge dürfen im Unternehmen genutzt werden. Entscheidend ist, welche Daten eingegeben werden und auf welcher Grundlage. Mit einer Geschäftsversion, einem Auftragsverarbeitungsvertrag und klaren internen Regeln lässt sich der Einsatz datenschutzkonform gestalten.

Dürfen Mitarbeitende ihr privates ChatGPT-Konto dienstlich nutzen?

Davon ist abzuraten, sobald es um personenbezogene oder vertrauliche Daten geht. Bei privaten Konten fehlt in der Regel ein Auftragsverarbeitungsvertrag, und das Unternehmen hat keine Kontrolle über die Einstellungen. Legen Sie in Ihrer KI-Richtlinie fest, ob und wofür private Konten genutzt werden dürfen.

Werden meine Eingaben zum Training der KI verwendet?

Das hängt von der Version und den Einstellungen ab. Bei vielen kostenlosen und privaten Konten ist das Training mit Eingaben standardmäßig aktiv und muss einzeln deaktiviert werden. In Geschäftsversionen ist es nach Angaben der Anbieter in der Regel standardmäßig ausgeschlossen. Prüfen Sie die aktuellen Bedingungen des jeweiligen Anbieters.

Brauche ich einen Auftragsverarbeitungsvertrag mit dem KI-Anbieter?

Wenn der Anbieter personenbezogene Daten im Auftrag Ihres Unternehmens verarbeitet, ist ein Vertrag nach Art. 28 DSGVO erforderlich. Geschäftsversionen bieten diesen Vertrag in der Regel an. Ohne einen solchen Vertrag sollten keine personenbezogenen Daten eingegeben werden.

Ist Microsoft Copilot datenschutzfreundlicher als ChatGPT?

Das lässt sich nicht pauschal beantworten. Microsoft 365 Copilot arbeitet in der Microsoft-365-Umgebung des Unternehmens, und Microsoft gibt an, dass Eingaben bei Geschäftskonten nicht zum Training der Basismodelle verwendet werden. Auch für ChatGPT gibt es Geschäftsversionen mit vergleichbaren Zusagen. Entscheidend sind die konkrete Version, der Vertrag und die Einstellungen.

Was gilt für Personaldaten?

Personaldaten sind besonders schutzbedürftig. Vollständige Personalakten, Gesundheitsangaben oder Leistungsbeurteilungen gehören grundsätzlich nicht in allgemeine KI-Werkzeuge. Wer KI im Personalbereich einsetzen möchte, etwa für Stellenanzeigen, sollte ohne personenbezogene Daten arbeiten oder den Einsatz sorgfältig prüfen und dokumentieren.

Muss der Betriebsrat zustimmen, wenn wir ChatGPT einführen?

Das hängt vom Einzelfall ab. Das Arbeitsgericht Hamburg hat 2024 entschieden, dass bei der Nutzung über private Konten im Browser ohne Zugriff des Arbeitgebers auf die Nutzungsdaten kein Mitbestimmungsrecht bestand. Bei Firmenkonten oder integrierten KI-Funktionen kann das anders sein. Eine frühe Einbindung des Betriebsrats ist in jedem Fall empfehlenswert.

Was passiert, wenn ein Mitarbeitender versehentlich sensible Daten eingibt?

Prüfen Sie zunächst, welche Daten betroffen sind und ob eine Verletzung des Schutzes personenbezogener Daten vorliegt. Unter bestimmten Voraussetzungen muss eine solche Verletzung innerhalb von 72 Stunden an die Aufsichtsbehörde gemeldet werden. Legen Sie in Ihrer Richtlinie fest, wen Mitarbeitende in einem solchen Fall sofort informieren.

Reicht eine KI-Richtlinie ohne Schulung aus?

In der Praxis nicht. Eine Richtlinie wirkt nur, wenn die Mitarbeitenden sie kennen, verstehen und im Alltag anwenden können. Schulungen zeigen an konkreten Beispielen, wie Daten anonymisiert und Ergebnisse geprüft werden. Zudem verlangt Art. 4 der KI-Verordnung Maßnahmen zur Förderung der KI-Kompetenz.

Warum mit einem AZAV-Bildungsträger wie Novus?

In unseren KI-Weiterbildungen verbinden wir den praktischen Einsatz von ChatGPT, Copilot und weiteren Werkzeugen mit den rechtlichen Grundlagen, die für einen sicheren Umgang nötig sind, vom Datenschutz bis zur KI-Verordnung. Als nach AZAV zugelassener Träger können wir Weiterbildungen anbieten, die über das Qualifizierungschancengesetz förderfähig sind. Die Teilnehmenden üben an Aufgaben aus ihrem eigenen Arbeitsalltag. So entsteht Kompetenz, die Ihr Team produktiver und den KI-Einsatz sicherer macht.

Jetzt Ihr Team für den sicheren KI-Einsatz schulen

Datenschutz und KI schließen sich nicht aus. Mit der richtigen Version, klaren Regeln und einem geschulten Team lassen sich ChatGPT, Copilot und andere Werkzeuge sicher und gewinnbringend einsetzen. Der größte Risikofaktor ist nicht die Technik, sondern fehlendes Wissen.

Sprechen Sie uns an. Wir beraten Sie kostenlos zu einer KI-Weiterbildung für Ihr Team und prüfen, ob eine Förderung über das Qualifizierungschancengesetz infrage kommt. Sie erreichen uns telefonisch unter 040 771 850 090 oder über unseren Fördercheck auf der Website. Eine Rückmeldung erhalten Sie in der Regel innerhalb von 24 Stunden.