ChatGPT und Claude im Unternehmen: Vertrag, Daten und Verantwortung
Rechtliche Orientierung für Deutschland und die EU mit aktuellem Änderungsstand, klaren Zuständigkeiten und einem begrenzten fiktiven Redaktionsablauf.
ChatGPT und Claude lassen sich im Unternehmen erst sinnvoll rechtlich einordnen, wenn der konkrete Einsatz feststeht. Ein Entwurf aus öffentlichen Produktinformationen ist etwas anderes als die Auswertung von Bewerbungen oder der Zugriff auf ein Kundenpostfach. Auch ein kostenpflichtiges Konto beantwortet noch nicht, welcher Vertrag gilt, welche Daten verarbeitet werden und wer das Ergebnis verwenden darf. Dieser Beitrag übersetzt diese Unterschiede in einen prüfbaren Einführungsablauf für deutsche Unternehmen.
Zuerst den Arbeitsauftrag statt das Modell benennen
Schreiben Sie den beabsichtigten Vorgang in einem Satz auf: „Die Redaktion erstellt aus freigegebenen technischen Produktdaten einen ersten Beschreibungstext.“ Dieser Satz ist brauchbarer als „Wir führen KI ein“. Er benennt eine Aufgabe, eine Datenquelle und einen begrenzten Ergebniszweck. Anschließend ergänzen Sie, wer den Text prüft und ob das Werkzeug ausschließlich entwerfen oder auch selbst veröffentlichen soll.
Für die weitere Planung müssen die Grenzen genauso konkret sein. Im beschriebenen Vorgang werden keine Kundenmails, Personalakten oder unveröffentlichten Lieferantenverträge benötigt. Das ist zunächst eine Entscheidung für diesen Arbeitsablauf. Daraus folgt keine allgemeine Behauptung, dass solche Daten unter keinen Umständen mit KI verarbeitet werden dürften. Ein anderer Einsatz braucht eine eigene Prüfung mit den dafür zuständigen Fachleuten.
Behalten Sie diese Beschreibung während der Einführung sichtbar. Wenn später ein Postfach, eine Dateisammlung oder ein automatischer Versand hinzukommt, ändert sich der Gegenstand der Prüfung. Ein zuvor besprochener Schreibentwurf deckt diese Erweiterungen nicht stillschweigend ab.
Vertragspartner, Produkt und Kontotyp erfassen
Dokumentieren Sie den tatsächlichen Zugang: Produkt, Kontotyp, Vertragspartner, Arbeitsbereich und nutzende Organisation. Eine private Bezahlstufe wird nicht allein durch die berufliche Verwendung zu einem verwalteten Unternehmensarbeitsbereich. Ebenso ist der Zugang über eine Schnittstelle nicht automatisch derselbe Vertrag wie die Bedienung einer Chatoberfläche. Für die Beschaffung zählt die konkrete Vereinbarung, nicht nur der bekannte Markenname.
Anthropic erläutert die Unterscheidung in seinen Commercial Terms. Die geöffnete Fassung nennt den Geltungsbeginn 17. Juni 2025 und verweist für Verbraucherdienste auf andere Bedingungen. Für Ihre Einführung muss feststehen, welche Fassung tatsächlich vereinbart wurde und welche ergänzenden Dokumente einbezogen sind. Ein Link auf die heute erreichbare Seite ist dafür allein kein vollständiger Vertragsnachweis.
Notieren Sie außerdem, wem die Verwaltung gehört und wie Zugänge bei einem Austritt entzogen werden. Ein gemeinsam weitergegebenes Passwort macht diese Verantwortung unklar. Ein personenbezogener Geschäftszugang mit geregelter Zuständigkeit ist organisatorisch leichter zu steuern. Welche Verwaltungsfunktionen verfügbar sind, muss im gewählten Angebot geprüft werden.
Vier Ebenen auseinanderhalten
| Ebene | Leitfrage | Passender Nachweis |
|---|---|---|
| Aufgabe | Was soll das Werkzeug tatsächlich tun? | Beschriebener Arbeitsablauf und ausgeschlossene Erweiterungen |
| Vertrag | Welche Bedingungen gelten für diesen Zugang? | Vereinbarte Dokumente mit Fassung und Organisation |
| Daten | Welche Informationen gelangen wohin? | Datenfluss mit Quellen, Empfängern und Speicherorten |
| Ergebnis | Wer prüft und verwendet die Ausgabe? | Fachliche Verantwortung und definierter Übergabeschritt |
Die Tabelle ist eine Arbeitsstruktur für das Einführungsgespräch. Sie verhindert insbesondere, dass eine einzelne Anbieterzusage als Antwort auf sämtliche Fragen verwendet wird. Ein Vertrag kann bestimmte Nutzungen erlauben, während eine konkrete Eingabe zusätzliche Rechte Dritter berührt. Eine fachlich richtige Ausgabe kann gleichzeitig auf Daten beruhen, die für diesen Zweck nicht hätten verarbeitet werden sollen.
Personenbezogene Daten erkennen und begrenzen
Bei Personenbezug sind insbesondere Zweck und Rechtsgrundlage nach der DSGVO zu prüfen. Für Auftragsverarbeitung ist Artikel 28 relevant, für mögliche Drittlandübermittlungen Kapitel V. Bei voraussichtlich hohem Risiko kann Artikel 35 eine Datenschutz-Folgenabschätzung verlangen. Die konsolidierte DSGVO-Fassung bei der Hamburger Aufsichtsbehörde stellt den Normtext bereit. Ein Auftragsverarbeitungsvertrag ersetzt die Prüfung des eigenen Verarbeitungszwecks nicht.
Im Redaktionsbeispiel beginnt die Datenarbeit deshalb vor dem Hochladen. Eine Produktliste wird darauf geprüft, ob sie wirklich nur freigegebene Sachinformationen enthält. In einer zusätzlichen Notizspalte könnten noch Namen, individuelle Kundenpreise oder interne Beschwerden stehen. Die sichtbare Überschrift „Produktdaten“ sagt darüber wenig aus. Erstellen Sie für den Versuch eine ausdrücklich dafür vorbereitete Auswahl.
Das Entfernen von Namen macht einen Vorgang nicht automatisch anonym. Eine seltene Kombination aus Funktion, Ort und Ereignis kann eine Person weiterhin erkennbar machen. Für eine erste Funktionsprüfung sind frei erfundene Datensätze häufig die übersichtlichere Grundlage. Wenn Echtdaten fachlich erforderlich werden, wird die dafür vorgesehene Prüfung nachgeholt.
Kein Modelltraining bedeutet nicht keine Verarbeitung
Die aktuelle OpenAI-Dokumentation für Unternehmensadministratoren beschreibt für ChatGPT Enterprise standardmäßig keine Verwendung von Geschäftsdaten zum Training. Sie betont gleichzeitig Unterschiede nach Tarif, Konfiguration, Funktion und Region. Für verbundene Dienste gelten zusätzliche eigene Bedingungen. Leiten Sie daraus keine pauschale Eigenschaft jedes ChatGPT-Kontos oder jeder Erweiterung ab.
Anthropics Hinweise zu kommerziellen Produkten nennen ebenfalls standardmäßig kein Training mit Ein- und Ausgaben. Die am 18. August 2026 datierte Seite beschreibt aber auch die gesonderte Behandlung ausdrücklich übermittelten Feedbacks. Prüfen Sie deshalb, welche Rückmeldungen Beschäftigte abgeben dürfen und welche Verwaltungseinstellungen dafür bestehen.
Für den Arbeitsablauf folgen daraus getrennte Fragen: Wird die Eingabe für die Antwort verarbeitet? Wird ein Verlauf gespeichert? Werden Dateien in einem Projekt behalten? Können Administratoren oder verbundene Systeme auf weitere Daten zugreifen? Eine einzelne Trainingsoption beantwortet diese Punkte nicht. Halten Sie die Antworten neben dem jeweiligen Produktmerkmal fest, statt einen einzigen grünen Datenschutzstatus zu vergeben.
Speicherung pro Funktion untersuchen
Die OpenAI-Dokumentation zu API-Datenkontrollen unterscheidet Missbrauchsüberwachungsprotokolle und gespeicherten Anwendungszustand. Besondere Aufbewahrungskontrollen haben Voraussetzungen und funktionsbezogene Grenzen. Eine Schnittstellennutzung ist deshalb nicht allein wegen ihres technischen Zugangs speicherfrei. Die konkrete Funktion und ihre aktuelle Dokumentation sind entscheidend.
Erstellen Sie für Ihr Vorhaben eine kleine Speicherliste: Unterhaltung, Upload, Projektdatei, verbundene Quelle, exportierter Entwurf und internes Prüfprotokoll. Schreiben Sie daneben, wer eine Löschung auslösen kann und welche Kopien anschließend separat bestehen bleiben. Ein im Chat gelöschter Entwurf kann bereits in einer Redaktionsablage oder im Dateisystem eines anderen Dienstes liegen.
Testen Sie diesen Ablauf mit künstlichen Beispieldaten. Dabei geht es nicht darum, eine Anbieterinfrastruktur von außen vollständig zu beweisen. Prüfen Sie die tatsächlich nutzbaren Verwaltungswege und vergleichen Sie sie mit den vereinbarten Angaben. Unklare Punkte bleiben als offene Frage stehen, bis ein belastbarer Nachweis vorliegt.
Verantwortlichkeit nicht an eine Tarifbezeichnung auslagern
Anthropic beschreibt in seinem Artikel zu Verantwortlichem und Auftragsverarbeiter die Rolle des kommerziellen Kunden für eingereichte Nutzerdaten. Für Ihre Einordnung ist trotzdem der konkrete Datenfluss maßgeblich. Eigene Zwecke eines Dienstes, zusätzliche Empfänger und angeschlossene Produkte müssen getrennt betrachtet werden. Eine pauschale Aussage über „den Anbieter“ bildet diese Vorgänge nicht immer ausreichend ab.
Benennen Sie im Unternehmen eine fachlich verantwortliche Person für den Anwendungsfall. Die IT kann Zugänge und Einstellungen betreuen. Die Redaktion kann Tatsachenbehauptungen prüfen. Datenschutz und Recht können die jeweilige Fragestellung bewerten. Diese Beiträge sollten zusammengeführt werden, ohne dass ein Fachbereich stillschweigend die vollständige Verantwortung aller anderen übernimmt.
Für kleinere Teams muss daraus kein großes Gremium entstehen. Eine knappe Entscheidungsnotiz mit offenen Punkten, Zuständigkeiten und Geltungsumfang kann genügen, um die Arbeit geordnet zu beginnen. Ihr Wert liegt in der Nachvollziehbarkeit und nicht in der Anzahl der Unterschriften.
Geschäftsgeheimnisse und Kundenverträge berücksichtigen
Nach § 2 GeschGehG gehören angemessene Geheimhaltungsmaßnahmen zu den Merkmalen eines Geschäftsgeheimnisses. Ob bestimmte Informationen geschützt sind und welche Maßnahmen passen, ist einzelfallabhängig. Eine KI-Richtlinie kann Teil der organisatorischen Maßnahmen sein. Sie erzeugt aber nicht automatisch den rechtlichen Schutz jeder als vertraulich bezeichneten Datei.
Prüfen Sie zusätzlich die Vereinbarungen mit Kunden und Geschäftspartnern. Ein Dokument kann vertragliche Weitergabebeschränkungen enthalten, auch wenn darin keine personenbezogenen Daten stehen. Die Zusage eines Dienstes, nicht zu trainieren, erweitert diese Rechte nicht. Für ein Angebot an einen Kunden ist deshalb zu klären, ob die erforderlichen Informationen an den konkret vorgesehenen Dienst übermittelt werden dürfen.
Als Einstieg im Redaktionsbeispiel werden ausschließlich bereits freigegebene technische Eigenschaften verwendet. Unveröffentlichte Einkaufskonditionen gehören nicht dazu. Das Team muss diese Grenze an tatsächlichen Beispielen erkennen können. Eine abstrakte Anweisung „Keine vertraulichen Daten“ hilft weniger, wenn niemand weiß, welche Arbeitsdatei welche Inhalte enthält.
Ausgaben fachlich und auf Rechte prüfen
Vertragliche Aussagen zu Nutzungsrechten sind von gesetzlichem Schutz und Rechten Dritter zu unterscheiden. Das deutsche Urheberrechtsgesetz knüpft den Werkbegriff an persönliche geistige Schöpfungen. Ob eine konkrete menschliche Bearbeitung diese Voraussetzung erfüllt, lässt sich nicht aus der bloßen Verwendung eines KI-Werkzeugs ablesen. Eine Anbietervereinbarung beseitigt außerdem keine fremden Rechte an übernommenen Bestandteilen.
Die Redaktion prüft daher im Beispiel jede technische Aussage gegen das freigegebene Datenblatt. Unbelegte Zertifizierungen, erfundene Lieferzeiten und fremde Kundenstimmen werden nicht übernommen. Wo eine Formulierung auffällig nah an einer bekannten Quelle liegt, wird die Herkunft geklärt und der Text gegebenenfalls neu ausgearbeitet. Eine flüssige Sprache ist kein Nachweis für sachliche Richtigkeit oder zulässige Übernahme.
Bewahren Sie die verwendete Datenblattfassung und den freigegebenen Endtext so auf, dass spätere Änderungen nachvollziehbar bleiben. Dafür müssen nicht sämtliche Zwischenantworten unbegrenzt gesammelt werden. Legen Sie gezielt fest, welcher Nachweis für die eigene redaktionelle Arbeit tatsächlich benötigt wird.
KI-Verordnung nach tatsächlichem Einsatzzweck einordnen
Der offizielle AI Act Explorer benennt die Änderung durch Verordnung (EU) 2026/1744 und seinen konsolidierten Stand vom 27. Juli 2026. Es handelt sich damit beim hier verwendeten geänderten Artikeltext nicht lediglich um einen unzugeordneten Vorschlag. Für den rechtlich authentischen Wortlaut verweist die Plattform auf die veröffentlichten Rechtsakte.
Die Kommission erläutert auf ihrer Übersicht zur KI-Verordnung das Inkrafttreten der Änderung am 27. Juli 2026. Inkrafttreten und Anwendbarkeit einzelner Pflichten sind zu unterscheiden. Der geänderte Artikel 113 nennt für die betreffenden Hochrisikoregeln nach Anhang III den 2. Dezember 2027 und für Anhang I den 2. August 2028. Daraus folgt keine allgemeine Aussetzung anderer geltender Vorschriften.
Ordnen Sie daher nicht einfach die Marke einer Risikostufe zu. Ein allgemeiner Schreibassistent und eine Anwendung zur Bewerberbewertung haben unterschiedliche Zwecke. Anhang III nennt unter anderem bestimmte Anwendungen für Personalauswahl und Beschäftigtenmanagement. Ein solches Vorhaben benötigt eine gesonderte Einordnung einschließlich Voraussetzungen und Ausnahmen.
Kompetenzmaßnahmen an der Arbeit ausrichten
Der aktuelle Artikel 4 verlangt Maßnahmen zur Unterstützung der Entwicklung von KI-Kompetenz. Er verpflichtet nicht dazu, ein bestimmtes individuelles Niveau zu garantieren. Auch die Kommissionsfragen zur KI-Kompetenz erläutern die Änderung. Eine pauschale gesetzliche Pflicht zu einem bestimmten kommerziellen Zertifikat lässt sich daraus nicht ableiten.
Für unsere Produktredaktion bietet sich eine konkrete Übung an: Eine künstliche Eingabetabelle enthält eine unzulässige Kundenbemerkung. Der erzeugte Beispielentwurf enthält zusätzlich eine nicht belegte technische Zusage. Die Teilnehmenden müssen beide Probleme erkennen und den richtigen nächsten Schritt benennen. So wird sichtbar, ob Datenbegrenzung und Ergebnisprüfung im tatsächlichen Arbeitsablauf verstanden werden.
Dokumentieren Sie Thema, Zielgruppe und den vermittelten Umgang mit Unsicherheit. Diese organisatorische Empfehlung ist keine Behauptung, dass genau dieses Übungsformat gesetzlich vorgeschrieben wäre. Bei anderen Funktionen benötigen Beschäftigte andere Kenntnisse, etwa zur Kontrolle von Werkzeugaktionen oder zum Umgang mit verbundenen Datenquellen.
Beschäftigte und ihre Interessenvertretung einbeziehen
§ 87 Absatz 1 Nummer 6 BetrVG betrifft die Mitbestimmung bei entsprechenden technischen Einrichtungen zur Überwachung von Verhalten oder Leistung. Ob eine konkrete Einführung darunter fällt, muss anhand ihrer Funktionen geprüft werden. Nutzungsprotokolle, Auswertungen und Administrationsmöglichkeiten gehören deshalb frühzeitig in das Gespräch mit einer vorhandenen Interessenvertretung.
Erklären Sie Beschäftigten nachvollziehbar, welche Arbeitsbereiche eingerichtet werden, wer Zugriff hat und wofür Protokolle verwendet werden sollen. Vermeiden Sie unklare Nebenwirkungen wie eine spätere individuelle Rangliste aus ursprünglich zur Betriebsbeobachtung erhobenen Daten. Ein Team kann nur verantwortlich arbeiten, wenn die erwartete Nutzung und die tatsächlichen Kontrollmöglichkeiten verständlich sind.
Verbundene Werkzeuge verändern den Prüfgegenstand
Eine freigegebene Chatfunktion bedeutet nicht automatisch, dass auch der gesamte Dateibestand angebunden werden sollte. Für jede Verbindung notieren Sie Quelle, verwendete Identität, lesbare Bereiche und mögliche Schreibaktionen. Prüfen Sie ausdrücklich gemeinsame Verbindungen, bei denen die Berechtigung der verwendeten Dienstidentität weiter reichen kann als die eines einzelnen Teammitglieds.
Die DSK-Orientierungshilfe zu technischen und organisatorischen Maßnahmen vom Juni 2025 bietet dafür einen übergreifenden Rahmen über den Lebenszyklus eines KI-Systems. Für unser Redaktionsbeispiel lautet die engere Umsetzung: keine Postfachverbindung im ersten Schritt und kein automatischer Veröffentlichungszugriff. Soll das später erweitert werden, beginnt eine neue Prüfung der zusätzlichen Daten und Handlungen.
Ein fiktiver Einführungsfall mit klaren Übergaben
| Schritt | Arbeit der Produktredaktion | Kontrollpunkt |
|---|---|---|
| Vorbereiten | Freigegebenes Datenblatt auswählen | Keine Kunden- oder Einkaufsnotizen enthalten |
| Entwerfen | Beschreibung im geprüften Zugang erstellen | Nur Entwurf, keine Veröffentlichung |
| Prüfen | Aussagen einzeln mit Datenblatt vergleichen | Fehlende Belege und fremde Bestandteile klären |
| Übernehmen | Freigegebenen Text in die Redaktion übertragen | Verantwortliche Person bestätigt Endfassung |
| Ändern | Neue Funktion oder Datenquelle beantragen | Geltungsumfang erneut beurteilen |
Das Beispiel beschreibt einen erfundenen Arbeitsablauf und keine durchgeführte Kundenfreigabe. Sein Nutzen liegt in der begrenzten Aufgabe. Wenn der Entwurf unbrauchbar ist, bleibt die bestehende Fachredaktion handlungsfähig. Das Werkzeug trifft weder eine Personalentscheidung noch versendet es eine Zusage an einen Kunden.
Vorfall, Ausstieg und erneute Prüfung vorbereiten
Beschäftigte benötigen einen klaren Meldeweg, wenn versehentlich eine falsche Datei hochgeladen wurde oder eine Ausgabe bereits unzutreffend weitergegeben wurde. Legen Sie fest, wer den Vorgang beurteilt und welche Informationen dafür erforderlich sind. Fordern Sie nicht dazu auf, den problematischen Inhalt zur Meldung wahllos an weitere Empfänger zu kopieren. Ein eingegrenzter Verweis kann für die erste Zuordnung ausreichen.
Planen Sie auch den Ausstieg: Zugänge entziehen, Verbindungen lösen, benötigte Arbeitsergebnisse übernehmen und die vereinbarten Löschwege nutzen. Ein Produktwechsel sollte nicht daran scheitern, dass nur ein einzelner privater Zugang die Arbeitsgrundlagen enthält. Prüfen Sie bei wesentlichen Produkt- oder Vertragsänderungen, welche bisherige Entscheidung neu bewertet werden muss.
Die Entscheidung verständlich dokumentieren
Die DSK-Orientierungshilfe zu KI und Datenschutz vom Mai 2024 gliedert die Betrachtung in Auswahl, Einführung und Nutzung. Übertragen Sie diesen Blick auf eine kurze eigene Entscheidungsakte. Darin steht nicht nur ein Ergebnis, sondern auch die begrenzte Aufgabe, die geprüfte Produktfassung und die noch ausgeschlossenen Erweiterungen. Ein später hinzukommendes Teammitglied sollte daraus verstehen können, warum eine bestimmte Datei verwendet werden darf und eine andere zuvor geprüft werden muss.
Trennen Sie belegte Feststellungen von organisatorischen Entscheidungen. „Die geöffnete Dokumentation beschreibt diese Speicherfunktion“ ist eine Feststellung mit Quelle und Datum. „Wir verwenden sie für diese Aufgabe nicht“ ist Ihre Entscheidung. Diese Trennung erleichtert die erneute Bewertung, wenn sich das Produkt verändert. Sie verhindert außerdem, dass eine sinnvolle interne Begrenzung versehentlich als allgemeines gesetzliches Verbot weitergegeben wird.
Checkliste für eine belastbare Einführung
- Aufgabe, Datenquellen und ausgeschlossene Erweiterungen sind beschrieben.
- Kontotyp, Organisation und vereinbarte Vertragsfassungen sind bekannt.
- Personenbezug, Geheimhaltung und Nutzungsrechte wurden getrennt betrachtet.
- Training, Speicherung und verbundene Systeme sind nicht gleichgesetzt.
- Rechtliche Einordnung und offene Fragen haben zuständige Ansprechpartner.
- Die Ergebnisprüfung besitzt einen konkreten fachlichen Maßstab.
- Kompetenzmaßnahmen passen zum tatsächlichen Arbeitsablauf.
- Beschäftigte kennen Zugriffe, Regeln und Meldewege.
- Neue Quellen oder Aktionen lösen eine erneute Beurteilung aus.
- Ein Ausstieg ist ohne Verlust notwendiger Arbeitsunterlagen vorbereitet.
Häufige Fragen zum betrieblichen Einsatz
Reicht ein Vertrag zur Auftragsverarbeitung? Er beantwortet nicht automatisch alle Fragen zum eigenen Zweck, zu Datenquellen und weiteren Verpflichtungen. Betrachten Sie ihn als Teil der konkreten Vereinbarungen und nicht als universelle Nutzungserlaubnis.
Ist öffentlich auffindbarer Inhalt immer frei verwendbar? Öffentliche Zugänglichkeit ist keine allgemeine Rechtefreigabe. Prüfen Sie für Ihre Aufgabe weiterhin Personenbezug, Verwendungszweck und Rechte an den benötigten Materialien.
Muss jedes interne Ergebnis ein KI-Etikett erhalten? Eine pauschale Antwort passt nicht zu den unterschiedlichen Rollen und Tatbeständen. Artikel 50 unterscheidet unter anderem Anbieterpflichten, direkte Interaktion und bestimmte Veröffentlichungen. Für Texte zur Information über Angelegenheiten öffentlichen Interesses enthält er eine Ausnahme bei menschlicher Prüfung oder redaktioneller Kontrolle mit redaktioneller Verantwortung. Weitere Transparenzpflichten bleiben gesondert zu prüfen.
Was ist der sinnvollste erste Schritt? Wählen Sie einen abgegrenzten Vorgang mit geeigneten Daten und einer fachlich verantwortlichen Person. Klären Sie die offenen Punkte für genau diesen Vorgang. Eine nachvollziehbare begrenzte Einführung liefert eine bessere Entscheidungsgrundlage als eine pauschale Freigabe für jedes denkbare Werkzeugverhalten.
