ChatGPT Datenschutz & Recht

Worum geht's?

Egal ob bei der Recherche, Automatisierung von Prozessen oder Kundenkommunikation - ChatGPT ist schnell, effizient und rund um die Uhr verfügbar. Daher ist es kein Wunder, dass ChatGPT in den letzten Jahren zunehmend den Unternehmensalltag erobert hat. Zeit- und Kostenersparnisse bringen allerdings wenig, wenn rechtliche Risiken bestehen. Erfahren Sie in diesem Beitrag, welche rechtlichen Aspekte Sie beim Einsatz von ChatGPT unbedingt beachten müssen.

1. Welche Möglichkeiten bietet die Nutzung von ChatGPT für Unternehmen?

ChatGPT steht für „Chat Generative Pre-trained Transformer“ und wurde von OpenAI entwickelt. Das KI-Sprachmodell basiert auf der „Transformer“-Technologie und ist ein sogenanntes Large Language Model, also ein Modell, das mit einer riesigen Textmenge trainiert wurde.

Aus diesem Grund kann ChatGPT für die unterschiedlichsten Unternehmensbereiche genutzt werden. Das Problem ist: Bei fast jeder dieser Anwendungsmöglichkeiten von ChatGPT gibt es rechtliche Risiken. Darauf werden wir im nächsten Kapitel eingehen. 

Sie setzten ChatGPT und andere KI ein? Prüfen Sie mit unserem KI-Check mit wenigen Klicks, wie rechtssicher Sie KI einsetzen.

ChatGPT: 3 Praxisbeispiele

Wir haben mit ChatGPT-4o, Team-Version im Mai 2025 drei Praxisbeispiele erstellt, in denen ersichtlich wird, wie ChatGPT Unternehmen unterstützen kann.

1. Erstellung eines Social-Media Beitrags: „Erstelle einen Instagram-Post für ein Yogastudio zur Eröffnung eines neuen Kurses – freundlich, mit Emoji und Call-to-Action.“

2. Kundenkommunikation: „Schreibe eine professionelle Antwort auf eine Reklamation, in der ein Kunde ein defektes Produkt erhalten hat. Biete Rücksendung und Ersatz an.“

3. Erstellung von Code: „Erstelle ein einfaches JavaScript-Formular, das prüft, ob eine E-Mail-Adresse korrekt eingegeben wurde.”

Weitere Einsatzfelder von ChatGPT in Unternehmen:

• Alltägliche Aufgaben: Internetrecherche und Verfassen von E-Mails, Zusammenfassungen oder Texten.
• Marketing und Kommunikation: Verfassen von Social-Media-Beiträgen, Newslettern, Web-Inhalten, Slogans, Durchführung von Marktforschung oder Datenauswertung.
• Kundenservice: Analyse von Kundenanfragen, Verwendung als Chatbots und Formulierung von FAQs oder Standardantworten.
• Management: Erstellen von Arbeitsabläufen, Prozessbeschreibungen, Projektplänen, Präsentationen oder Entscheidungsvorlagen.
• Personalwesen: Erstellen von Stellenausschreibungen, Arbeitszeugnissen, Onboarding-Materialien oder Mitarbeiterkommunikation.
• IT und Entwicklung: Generierung von Codesnippets, Testing und Hilfe beim Debugging.

2. ChatGPT & Recht: Rechtliche Risiken beim Einsatz von ChatGPT

Unternehmensdaten in einen Chat-Roboter einspeisen? Nutzerdaten von einer externen Künstlichen Intelligenz verarbeiten lassen? Ist der Chatbot denn rechtskonform? Bei dem ein oder anderen klingeln schon die Alarmglocken - und das ist verständlich. Denn trotz der vielen Möglichkeiten, die ChatGPT bietet, gibt es auch rechtliche Risiken. Wir geben Ihnen einen Überblick über den Rechtsrahmen:

Urheberrecht und Markenrecht bei ChatGPT

Fragen Sie sich, wer der Urheber von KI-Inhalten ist und ob Sie diese einfach verwenden können? Nach dem deutschen Urheberrechtsgesetz sind KI-generierte Inhalte nicht geschützt, da sie nicht das Ergebnis einer menschlichen, persönlichen geistigen Schöpfung sind. Weder die KI noch deren Entwickler oder Sie als Nutzer sind Urheber vom Output.

Deshalb können KI-Logos, KI-Texte, KI-Software-Code und Co., die Sie mit ChatGPT erstellen, grundsätzlich frei verwendet werden. Es besteht jedoch immer das Risiko, dass die von Ihnen generierten Inhalte einem bestehenden urheberrechtlichen Werk ähneln und Sie eine Urheberrechtsverletzung begehen. Schließlich lernen KI-Tools durch das Training mit Massen an bereits existierenden und teils urheberrechtlich geschützten Inhalten. Aus diesem Grund sollten Sie KI-Inhalte nur als Inspiration verwenden.

Auch das Markenrecht sollten Sie nicht vernachlässigen. So können Ihre KI-Inhalte auch fremde Markenrechte verletzen, z. B. indem bekannte Logos oder Slogans verwendet werden.

Übrigens: Open AI bietet auch einen Generator für Bilder: DALL-E. Ob und wie Sie sich damit ein eigenes Logo erstellen können, erfahren Sie in unserem Beitrag: “Was Sie rechtlich beachten sollten, wenn Sie sich mit künstlicher Intelligenz ein Logo erstellen“

KI-Verordnung

Wenn Sie ChatGPT nutzen, müssen Sie auch die neue europäische KI-Verordnung beachten.Hier sind 5 wichtige Punkte, die Sie als ChatGPT-Nutzer hinsichtlich der KI-Verordnung beachten müssen.

• Einsatz von Hochrisiko-KI: Je nachdem, in welchem Unternehmensbereich Sie KI einsetzen, kommen durch die KI-Verordnung strenge Pflichten auf Sie zu. Wenn Sie KI beispielsweise bei der Bewerberauswahl einsetzen, hat das umfangreiche Dokumentations- und Prüfpflichten für Sie zur Folge.
• Verwendung von GPT-Versionen: GPTs sind individuell anpassbare Versionen des KI-Sprachmodells, die eine bestimmte Aufgabe besonders gut erfüllen können. Wenn Sie eine solche maßgeschneiderte GPT-Version unter eigenem Namen oder eigener Handelsmarke in Betrieb genommen oder in Verkehr gebracht haben, gelten Sie als Anbieter von KI. Das sollten Sie vermeiden, da umfangreiche Dokumentations- und Transparenzpflichten auf Sie zukommen.
• KI-Kennzeichnung: Durch die KI-Verordnung wird es ab August 2026 eine KI-Kennzeichnungspflicht geben. KI-Inhalte werden dann z. B. durch Wasserzeichen oder in den Metadaten vom KI-System bereits gekennzeichnet sein. ChatGPT ist also dann dafür verantwortlich, KI-Inhalte als solche zu kennzeichnen. Als Nutzer von KI müssen Sie lediglich Deep Fakes und Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, als KI-generiert kennzeichnen.
• KI-Chatbots: Sie können ChatGPT als KI-Chatbot auf Ihrer Webseite verwenden. Nach der KI-Verordnung müssen Nutzer von Chatbots darüber informiert werden, dass sie mit einer KI interagieren. Dieser Pflicht müsste OpenAI als Anbieter des Chatbots nachkommen. Dennoch empfiehlt es sich, dass auch Sie Ihre Website-Besucher vor Interaktion mit dem Chatbot auf die KI-Kommunikation hinweisen. Denken Sie außerdem daran, ChatGPT in Ihre Datenschutzerklärung aufzunehmen, einen AV-Vertrag abzuschließen und sicherzustellen, dass ChatGPT Kundendaten nicht zum Training verwendet.
• Sicherstellung von KI-Kompetenz: Durch die KI-Verordnung müssen Sie die KI-Kompetenz im Unternehmen sicherstellen. Das heißt, Sie müssen seit dem 2. Februar 2025 dafür sorgen, dass jeder in Ihrer Firma über ausreichendes technisches und rechtliches Wissen verfügt, um Künstliche Intelligenz kompetent einzusetzen. Das bedeutet im ersten Schritt, dass jeder in Ihrem Unternehmen, der KI nutzt, eine KI-Schulung durchlaufen muss.

Weiterhin sollten Sie Ihren Mitarbeitern eine KI-Richtlinie zur Verfügung stellen. Dadurch können Sie sicherstellen, dass Ihre Mitarbeiter verantwortungsvoll und rechtssicher mit KI-Systemen umgehen. Bei eRecht24 Premium bieten wir Ihnen eine branchenübergreifende KI-Mitarbeiter-Richtlinie.

Datenschutz & ChatGPT

Dem Thema Datenschutz sollten Sie besondere Aufmerksamkeit widmen. Sobald Sie personenbezogene Daten in ein KI-System eingeben wollen, müssen Sie die Datenschutz-Grundverordnung (DSGVO) beachten.

Der Landesbeauftragte für den Datenschutz (LfD) Niedersachsen hat sich zusammen mit anderen Aufsichtsbehörden bereits 2023 mit ChatGPT beschäftigt und eine datenschutzrechtliche Bewertung des Chatbots vorgenommen (LfD Niedersachsen, Tätigkeitsbericht 2023). Problematisch wird es insbesondere dann, wenn Sie den Betroffenenrechten der DSGVO, wie dem Auskunftsrecht nachkommen wollen.

Indem Sie personenbezogene Daten in den Chatbot von Open AI eingeben, verlieren Sie die Kontrolle über diese Daten und können Betroffenen im Nachhinein keine exakte Auskunft geben. Auch dem Recht auf Datenberichtigung und Datenlöschung können Sie nur eingeschränkt nachkommen. Die Betroffenenrechte stehen einer DSGVO-konformen Nutzung also im Weg.

Sören SiebertRechtsanwalt

Grundsätzlich sollten Sie keine personenbezogenen Daten in ChatGPT eingeben. Falls Sie das dennoch tun wollen, gilt Folgendes:

• Sie benötigen immer eine Rechtsgrundlage, z. B. in Form einer Einwilligung der betroffenen Personen.
• Sie müssen überprüfen, ob die Funktion “Das Modell für alle verbessern” in den Einstellungen ausgeschaltet ist. Dadurch untersagen Sie dem KI-System die Verarbeitung der eingegebenen Inhalte zu Trainingszwecken. 
• Weiterhin müssen Sie einen AV-Vertrag mit ChatGPT abschließen, sobald ChatGPT in Ihrem Auftrag personenbezogene Daten verarbeitet. Open AI stellt den AV-Vertrag jedoch nur für die Business-Anwendungen zur Verfügung. Das heißt: Sie brauchen ChatGPT Enterprise, ChatGPT Team oder müssen die API Platform nutzen, um ChatGPT möglichst datenschutzkonform zu nutzen. Bei ChatGPT Free, Plus oder Pro können Sie keinen AV-Vertrag abschließen.

Insgesamt gilt: ChatGPT lässt sich nur bedingt datenschutzkonform einsetzen und Sie sollten möglichst keine personenbezogenen Daten oder ausschließlich anonymisierte Daten eingeben. Auch sensible unternehmensinterne Daten, Mitarbeiterdaten oder Daten Dritter sollten Sie auf jeden Fall anonymisieren, bevor Sie diese in den Chatbot eingeben. 

Wenn Sie ChatGPT über eine API-Schnittstelle mit Ihrer Webseite verknüpfen, dürfen Sie nicht vergessen, ChatGPT als Tool in Ihre Datenschutzerklärung aufzunehmen. Ob nun Chatbot, Ticketsystem oder CRM-Tool für die Kundenkommunikation - Bei eRecht24 Premium erhalten Sie einen ChatGPT-Passus für Ihre Datenschutzerklärung. Zusätzlich empfehlen wir dringend, auch eine Einwilligung – beispielsweise über Ihr Cookie Consent Tool - einzuholen. So sind Sie in Ihrem Unternehmen auch mit KI datenschutzkonform unterwegs.

3. Checkliste für ChatGPT im Unternehmen

4. Häufig gestellte Fragen

• Zurück zur Übersicht: "Datenschutz"
• KI & Datenschutz
• Datenschutz und ChatBots
• KI-Verordnung
• Kann mir ChatGPT meine Datenschutzerklärung und mein Impressum erstellen?
• KI-Weiterbildung
• ChatGPT & Datenschutz
• Copilot & Datenschutz
• DeepSeek & Datenschutz
• Gemini & Datenschutz

• Zurück zur Übersicht: "Künstliche Intelligenz (KI)"