Kundendaten und vertrauliche Informationen bei KI-Nutzung prüfen

Eine Kundennachricht lässt sich schnell in ein KI-Fenster kopieren. In derselben Nachricht können jedoch Kontaktdaten, Vertragsdetails, eine interne Kalkulation und Informationen über weitere Menschen stehen. Für die gewünschte Formulierungshilfe wird davon häufig nur ein kleiner Teil benötigt. Die entscheidende Frage lautet deshalb nicht allein, ob ein bestimmtes Werkzeug grundsätzlich verwendet werden darf. Es geht um den konkreten Auftrag, die notwendigen Informationen und ihren tatsächlichen weiteren Weg.

Dieser Leitfaden behandelt den betrieblichen Einsatz generativer KI in Deutschland und der EU. Rechtsstand und Quellenprüfung: 9. November 2026. Er trennt Datenschutz, vertragliche Vertraulichkeit und Geschäftsgeheimnisse von organisatorischen Umsetzungsvorschlägen. Die Beispiele sind erfundene Lernfälle. Sie erteilen keine pauschale Freigabe für Kundendaten und ersetzen weder die Prüfung konkreter Verträge noch die Bewertung besonderer Berufs- oder Branchenpflichten.

Die Aufgabe vor dem Dokument beschreiben

Beginne mit dem gewünschten Ergebnis. Soll ein öffentlich freigegebener Hilfetext verständlicher formuliert werden? Soll ein Einzelfall bewertet werden? Soll eine Nachricht nur sprachlich freundlicher werden? Diese Aufgaben brauchen unterschiedliche Informationen. Die pauschale Anweisung „Bearbeite diese Kundenakte“ macht den notwendigen Umfang nicht erkennbar.

Im fiktiven Beispiel möchte ein Serviceteam eine verständliche Antwort zur Änderung eines Liefertermins vorbereiten. Die KI soll keine Vertragsentscheidung treffen und keine Nachricht versenden. Dafür können eine freigegebene allgemeine Lieferinformation und eine knapp beschriebene Kommunikationssituation genügen. Vollständiger Name, Anschrift, Kontoverbindung und die gesamte bisherige Korrespondenz sind nicht schon deshalb erforderlich, weil sie in derselben Akte liegen.

Halte diese Grenze in einem kurzen Auftrag fest. So kann eine Kollegin später beurteilen, ob ein beigefügtes Dokument tatsächlich zur Aufgabe gehört. Die Begrenzung erleichtert zugleich die Qualitätsprüfung: Ein Entwurf darf keine Zusage oder individuelle Berechtigung erfinden, wenn nur eine allgemeine Formulierungshilfe beauftragt war.

Drei unterschiedliche Schutzfragen auseinanderhalten

Personenbezogene Daten, vertrauliche Vertragsinformationen und Geschäftsgeheimnisse sind keine deckungsgleichen Kategorien. Eine technische Zeichnung kann ohne Personenbezug vertraulich sein. Eine öffentlich bekannte Kontaktperson bleibt eine Person. Ein interner Preis kann besonderen Schutz verdienen, ohne dass damit bereits jede gesetzliche Voraussetzung eines Geschäftsgeheimnisses bewiesen wäre.

§ 2 GeschGehG definiert das Geschäftsgeheimnis anhand mehrerer Voraussetzungen einschließlich angemessener Geheimhaltungsmaßnahmen. § 4 betrifft unter anderem unzulässiges Erlangen, Nutzen und Offenlegen. Eine datenschutzrechtliche Prüfung ersetzt deshalb nicht die Prüfung einer Geheimhaltungsvereinbarung oder der Befugnis, fremde Unternehmensinformationen zu übermitteln.

Den gesamten Datenweg skizzieren

Betrachte nicht nur den sichtbaren Chat. Der Auftrag kann über eine Benutzeroberfläche, einen Vermittlungsdienst und mehrere Werkzeuge laufen. Hochgeladene Dateien können zusätzlich in einer Wissenssammlung, einem Suchindex oder einem Arbeitsbereich liegen. Eine Ausgabe kann anschließend als Freigabelink, Download oder E-Mail-Entwurf weitergegeben werden.

Zeichne für den konkreten Einsatz die Stationen auf: Quelle, Vorbereitung, KI-Anwendung, gegebenenfalls Modellanbieter, zusätzliche Werkzeuge und Ergebnisablage. Ergänze die Stellen, an denen Menschen oder andere Systeme Zugriff erhalten. Eine einfache Skizze mit tatsächlichen Namen und Zuständigkeiten ist hier hilfreicher als eine allgemeine Grafik des Internets.

Für das Serviceteam könnte der Weg zunächst auf einen vorbereiteten Text und einen betrieblich eingerichteten Arbeitsbereich begrenzt bleiben. Wird später eine Verbindung zum gesamten Ticketsystem ergänzt, ist das eine wesentliche Erweiterung. Die ursprüngliche Bewertung eines einzelnen Texteingabefelds trägt dann nicht automatisch den Zugriff auf alle Kundenfälle.

Personenbezug nicht nur über Namen suchen

Eine Kundennummer, eine seltene Kombination aus Ort und Auftrag oder ein ausführlich beschriebener Einzelfall kann Menschen auch ohne ausgeschriebenen Namen erkennbar machen. Das Ersetzen eines Namens durch „Person A“ bedeutet daher nicht automatisch, dass anonyme Daten entstanden sind. Bei pseudonymisierten Angaben bleibt die Zuordnung unter den jeweiligen Voraussetzungen möglich.

Prüfe auch Dateinamen, Betreffzeilen, Kommentare und eingebettete Inhalte. Ein scheinbar bereinigter Brief kann im Dateinamen noch die Person nennen. Eine Tabelle kann ausgeblendete Spalten oder weitere Arbeitsblätter enthalten. Bei einem Screenshot können Kundennamen im Randbereich sichtbar bleiben. Die Auswahl muss die tatsächlich übertragene Fassung betreffen und nicht nur den sichtbaren Haupttext.

Die DSK-Orientierungshilfe vom 6. Mai 2024 behandelt den Personenbezug über den Lebenszyklus einer KI-Anwendung. Sie ist eine aufsichtsbehördliche Orientierung und kein vollständiger Freigabekatalog. Ein kurzer Blick auf die ersten Zeilen eines Dokuments erfüllt diese umfassendere Betrachtung noch nicht.

Informationen aufgabenbezogen reduzieren

Reduzieren heißt zunächst auswählen, was für die konkrete Aufgabe gebraucht wird. Das ist etwas anderes als ein vollständiges Dokument hochzuladen und anschließend um Vertraulichkeit zu bitten. Bei einer sprachlichen Überarbeitung lässt sich häufig ein kurzer sachlicher Auszug vorbereiten. Bei einer fachlichen Einzelfallbewertung können dagegen andere Daten erforderlich sein und eine strengere Prüfung verlangen.

Diese Tabelle trifft keine automatische Zulässigkeitsentscheidung. Sie zeigt, wie aus einer großen Datenmenge eine überprüfbare Frage wird. Wenn die Bearbeitung ohne einen bestimmten Inhalt nicht möglich ist, wird diese Notwendigkeit beschrieben. Sie darf nicht lediglich mit dem Wunsch nach einem ausführlicheren Prompt begründet werden.

Eine geeignete Lernanfrage von einer echten Akte unterscheiden

Für eine Schulung kann ein ausdrücklich erfundener Auftrag lauten: „Formuliere eine sachliche Antwort auf eine allgemeine Nachfrage zu einer Terminänderung. Verwende nur die beigefügte freigegebene Lieferinformation. Erfinde keine Termine, Erstattungsansprüche oder persönlichen Umstände. Der Text bleibt ein Entwurf zur menschlichen Prüfung.“

Dieser Auftrag benötigt keine echte Kundenakte. Die Übung kann eine vollständig synthetische Situationsbeschreibung verwenden, etwa eine Kundin, die eine verständliche Erklärung zum weiteren Ablauf wünscht. Eine echte Nachricht mit ausgetauschten Namen wäre dagegen nicht allein durch diesen Austausch ein unabhängig erfundener Schulungsfall.

Vergleiche das Ergebnis mit der freigegebenen Information. Wenn die Antwort eine Kulanzzusage oder ein festes Datum ergänzt, liegt ein Qualitätsfehler vor. Die passende Reaktion ist eine Korrektur des Entwurfs und des Auftrags. Das Nachreichen weiterer personenbezogener Details ist keine automatische Lösung für eine unzulässige oder unbelegte Aussage.

Rechtsgrundlage, Rolle und Vertrag gesondert bestimmen

Für eine Verarbeitung personenbezogener Daten muss die passende Grundlage bestimmt werden. Ein Auftragsverarbeitungsvertrag ist dafür kein universeller Ersatz. Ebenso klärt ein allgemeiner Dienstleistungsvertrag nicht automatisch alle datenschutzrechtlichen Rollen. Entscheidend sind die tatsächlichen Zwecke, Entscheidungen und Tätigkeiten der beteiligten Stellen.

Der EDPB-Leitfaden zu Verantwortlichen und Auftragsverarbeitern erläutert diese Rollen und die Bedeutung der verbindlichen Vereinbarung bei einer Verarbeitung im Auftrag. Prüfe insbesondere, wer zu welchen Zwecken handelt und ob zusätzliche Empfänger oder Unterauftragnehmer beteiligt sind. Die Rollen können für unterschiedliche Verarbeitungsschritte unterschiedlich ausfallen.

Für die praktische Vorbereitung sollte eine verantwortliche Stelle diese Einordnung dokumentieren. Die Redaktion oder das Serviceteam erhält daraus eine klare Beschreibung des erlaubten Einsatzes. Ein Mitarbeitender soll nicht während einer dringenden Kundenantwort aus mehreren widersprüchlichen Vertragsseiten eine eigene Rechtsposition ableiten müssen.

Training und Aufbewahrung als verschiedene Fragen behandeln

Ob Eingaben für ein Modelltraining verwendet werden, ist nicht dieselbe Frage wie die Dauer ihrer Speicherung. Ein Dienst kann Angaben für die Ausführung eines Auftrags, einen Verlauf, technische Protokolle oder andere erklärte Zwecke verarbeiten. Die konkrete Ausgestaltung muss anhand der geltenden Unterlagen und Einstellungen geprüft werden. Eine einzelne Werbeaussage reicht für diese Trennung nicht aus.

Dokumentiere die verwendete Vertragsfassung, den überprüften Funktionsumfang und das Datum. Wenn eine Einstellung geändert oder eine neue Funktion eingeschaltet wird, muss erkennbar sein, welche Bewertung davon betroffen ist. Eine ältere Dokumentation bleibt als Nachweis erhalten, ist aber keine unveränderliche Beschreibung des späteren Dienstes.

Ort und Empfänger der Verarbeitung konkret prüfen

Eine Angabe zum Rechenzentrumsstandort beantwortet nicht jede Frage über Empfänger, Supportzugriffe und weitere Verarbeitung. Betrachte die tatsächlichen beteiligten Stellen und den vereinbarten Umfang. Wenn personenbezogene Daten an eine andere Stelle außerhalb des Europäischen Wirtschaftsraums übermittelt werden, sind zusätzlich die einschlägigen Bedingungen für Drittlandübermittlungen zu prüfen.

Der EDPB-Leitfaden zu internationalen Datenübermittlungen trennt diese Anforderungen von der sonstigen Zulässigkeit der Verarbeitung. Die Prüfung einer Übermittlungsgrundlage ersetzt die übrigen Datenschutzpflichten nicht. Umgekehrt ist eine vermeintliche europäische Produktbezeichnung kein belastbarer Nachweis für alle tatsächlichen Datenwege.

Lege im Beschaffungsprozess fest, wer die dafür notwendigen Informationen einholt und bewertet. Das Team benötigt anschließend eine verwendbare Vorgabe für die freigegebenen Funktionen. Eine Sammlung ungeprüfter Länderlisten ohne Bezug zum konkreten Dienst hilft bei der täglichen Entscheidung wenig.

Zugänge und angebundene Quellen eng begrenzen

Ein KI-Arbeitsbereich sollte nicht aus Bequemlichkeit die umfassendsten verfügbaren Berechtigungen erhalten. Für die Formulierung eines allgemeinen Servicetextes ist ein schreibender Zugriff auf das gesamte Kundenverwaltungssystem nicht erforderlich. Auch ein nur lesender Zugang kann sehr viele vertrauliche Inhalte erschließen. Die tatsächliche Reichweite muss zur Aufgabe passen.

Trenne Vorbereitung und Ausführung. Ein Entwurf kann zunächst ohne Versandberechtigung entstehen. Eine angebundene Dokumentensuche kann auf einen geeigneten, überprüften Bestand beschränkt bleiben. Wenn der Einsatz später erweitert wird, werden neue Datenquellen und Aktionen ausdrücklich betrachtet statt stillschweigend unter eine alte Freigabe geschoben.

Die DSK-Orientierungshilfe zu technischen und organisatorischen Maßnahmen mit Stand Juni 2025 betrachtet den Lebenszyklus von KI-Systemen. Ihre Zielgruppe umfasst insbesondere Entwicklung und Betrieb. Für die Beschaffung liefert sie Anhaltspunkte, ersetzt aber keine vollständige Bewertung einer konkreten Kombination aus Anwendung, Modell und zusätzlichen Diensten.

Vertrauliche Inhalte auch am Ausgang erkennen

Eine Ausgabe kann dieselben geschützten Informationen enthalten wie die Eingabe. Sie kann außerdem unzutreffende Aussagen über Kunden oder Beschäftigte erzeugen. Eine sprachlich glatte Zusammenfassung wird nicht dadurch veröffentlichbar, dass ihr Text neu formuliert ist. Prüfe daher Inhalt, Empfänger und vorgesehenen Versandweg vor der Weitergabe.

Das Serviceteam kontrolliert im Beispiel, ob der Entwurf ausschließlich die freigegebene Lieferinformation wiedergibt. Es ergänzt notwendige individuelle Angaben erst im dafür geeigneten Bearbeitungsschritt. Die Entscheidung über eine konkrete Kulanzleistung bleibt bei der zuständigen Person. Ein KI-Text soll keinen nicht erteilten Auftrag zu einer solchen Leistung vortäuschen.

Auch Bildschirmaufnahmen für Schulungen oder öffentliche Demonstrationen brauchen eine geeignete Auswahl. Ein scheinbar harmloser Ergebnistext kann am Rand eine Kundennummer, den Arbeitsbereich oder einen anderen Fall offenlegen. Nutze dafür möglichst eigens vorbereitete Lernansichten statt eines hektisch unkenntlich gemachten produktiven Verlaufs.

Aufbewahrung und Auskunft praktisch ausführbar machen

Eine Organisation muss wissen, wo die verwendeten Informationen liegen. Das betrifft nicht nur die ursprüngliche Datei, sondern gegebenenfalls hochgeladene Kopien, Ergebnisse, Freigabelinks und betreute Ablagen. Eine nachvollziehbare Zuordnung hilft, Anfragen der betroffenen Personen und interne Löschvorgaben tatsächlich zu bearbeiten.

Dokumentation darf dabei nicht zu einer zusätzlichen unkontrollierten Vollsammlung werden. Für den Nachweis eines erlaubten Anwendungsfalls sind häufig Zweck, geprüfter Dienstumfang, Zuständigkeit und ausgewählte Nachweise hilfreicher als die dauerhafte Speicherung sämtlicher Eingaben. Welche Inhalte aus welchem Grund wie lange aufzubewahren sind, muss zum konkreten Vorgang passen.

Die beim Hamburger Datenschutzbeauftragten bereitgestellte DSGVO-Fassung enthält die einschlägigen Regelungen zu Datenverarbeitung, Auftragsverarbeitung und Sicherheit. Die amtlichen Rechtsakte sind maßgeblich. Ein Löschknopf in einer Oberfläche ist allein noch kein Nachweis für die vollständige Behandlung aller betroffenen Inhalte.

Unbeabsichtigte Eingaben vorbereitet behandeln

Wenn versehentlich eine ungeeignete Datei übertragen wurde, sollte ein klarer interner Meldeweg bestehen. Beschäftigte brauchen eine ansprechbare Stelle und konkrete erste Schritte. Ein bloßes Verbot mit anschließender Schuldzuweisung fördert eher verspätete Meldungen als eine sachliche Bearbeitung.

Halte zunächst fest, was tatsächlich geschehen ist: welches Konto, welcher Dienst, welche Funktion, welcher Inhalt und welche weiteren Empfänger betroffen waren. Begrenze weitere Verarbeitung und sichere geeignete Nachweise, ohne den Vorfall durch zusätzliche unkontrollierte Kopien zu vergrößern. Die zuständigen Stellen bewerten anschließend rechtliche Folgen und notwendige Maßnahmen.

Ein versehentlicher Upload ist nicht automatisch in jeder Konstellation eine meldepflichtige Datenschutzverletzung. Eine solche Bewertung darf aber auch nicht allein deshalb unterbleiben, weil der Verlauf inzwischen gelöscht erscheint. Datenschutz, Informationssicherheit und vertragliche Melderegeln sind anhand der konkreten Tatsachen einzubeziehen. Dieser Ablauf gehört vor den ersten ernsthaften Einsatz geklärt.

Die Entscheidung in einem knappen Einsatzprofil festhalten

Ein brauchbares Einsatzprofil benennt die Aufgabe, die erlaubten Informationsarten, den überprüften Dienstumfang und die zuständige Freigabe. Es erklärt außerdem die Grenzen: welche Datenquellen nicht angeschlossen werden, welche Inhalte eine besondere Prüfung verlangen und wer einen neuen Anwendungsfall beurteilt. So entsteht eine praktische Arbeitsgrundlage statt einer allgemeinen Aussage über „KI im Unternehmen“.

Für das fiktive Serviceteam kann das Profil die Vorbereitung allgemeiner Antwortentwürfe anhand freigegebener Informationen beschreiben. Der Zugriff auf vollständige Kundenakten, die Bewertung besonderer persönlicher Umstände und der selbstständige Versand bleiben eigene Vorgänge mit eigenem Prüfbedarf. Diese Abgrenzung ist eine organisatorische Beispielentscheidung und keine gesetzlich vorgeschriebene Standardkonfiguration.

Prüfe das Profil bei Änderungen. Ein neuer Vermittlungsdienst, eine zusätzliche Dokumentenquelle oder eine automatische Aktion kann den Datenweg erheblich verändern. Der frühere erfolgreiche Test eines kurzen Textentwurfs ist dafür keine ausreichende neue Freigabe.

Fremde Unterlagen nicht zu eigenen Daten erklären

Eine Agentur kann Zugriff auf Informationen haben, ohne über deren Weitergabe frei entscheiden zu dürfen. Im erfundenen Beispiel stellt ein Kunde eine noch unveröffentlichte Produktplanung für die Gestaltung einer Webseite bereit. Daraus folgt zunächst der vereinbarte Gestaltungsauftrag. Ob und in welchem Umfang ein zusätzlicher KI-Dienst diese Planung erhalten darf, muss anhand der tatsächlichen Befugnisse und Vereinbarungen geklärt werden.

Auch die Zustimmung einer Kontaktperson beantwortet nicht automatisch jede weitere Frage. Die Unterlage kann Informationen eines Zulieferers, Daten von Beschäftigten oder zusätzliche vertraglich geschützte Inhalte enthalten. Für einen sprachlichen Entwurf lässt sich möglicherweise eine freigegebene sachliche Beschreibung verwenden, die diese Inhalte gar nicht benötigt. Diese Alternative sollte geprüft werden, bevor ein umfassendes Dokument durch mehrere Dienste gereicht wird.

Dokumentiere daher, für welche konkrete Informationsart und Aufgabe eine Entscheidung getroffen wurde. Ein nachvollziehbarer Verweis auf die zuständige Stelle ist belastbarer als die informelle Notiz „Kunde ist einverstanden“. Bleiben Umfang oder Befugnis offen, wird die Übertragung zurückgestellt und die Frage gezielt geklärt. Der Zeitdruck einer laufenden Gestaltung ändert diese Unklarheit nicht.

Checkliste vor der ersten echten Übertragung

• Die konkrete Aufgabe und das erwartete Ergebnis sind beschrieben.
• Es ist geklärt, welche Informationen dafür tatsächlich benötigt werden.
• Personenbezug, vertragliche Vertraulichkeit und mögliche Geschäftsgeheimnisse wurden getrennt betrachtet.
• Die übertragene Dateifassung wurde einschließlich Namen, Metadaten und zusätzlicher Inhalte geprüft.
• Eine Umbenennung wird nicht mit vollständiger Anonymisierung verwechselt.
• Rollen, Rechtsgrundlage und erforderliche Vereinbarungen sind für den Datenweg geklärt.
• Training, Speicherung, Zugriff und Löschung wurden als unterschiedliche Fragen bewertet.
• Empfänger und mögliche Drittlandübermittlungen sind nicht nur aus einer Produktbezeichnung abgeleitet.
• Werkzeuge und Datenquellen besitzen nur den für den Zweck vorgesehenen Zugriff.
• Ergebnisse werden vor weiterer Verwendung fachlich und auf geschützte Inhalte geprüft.
• Anfragen, Löschvorgaben und versehentliche Übertragungen können tatsächlich bearbeitet werden.
• Für Erweiterungen des Einsatzes ist eine zuständige Stelle benannt.

Mit einer kleinen, klar begrenzten Aufgabe beginnen

Wähle einen Anwendungsfall, dessen Informationsbedarf nachvollziehbar ist. Prüfe ihn zunächst mit unabhängig erfundenen Daten und freigegebenen allgemeinen Inhalten. Kläre anschließend die noch offenen tatsächlichen und rechtlichen Fragen für den vorgesehenen produktiven Einsatz. Eine gelungene Formulierung im Lernfall beantwortet diese Fragen nicht von selbst.

Verantwortliche KI-Nutzung entsteht durch passende Aufgaben, klare Zuständigkeiten und einen überprüfbaren Datenweg. Das Ziel ist kein möglichst großes Verbotsschild und auch keine pauschale Erlaubnis. Es ist eine belastbare Entscheidung darüber, welche konkrete Verarbeitung unter welchen Voraussetzungen stattfinden soll. Diese Entscheidung bleibt überprüfbar, wenn Informationsumfang, Empfänger und spätere Änderungen nachvollziehbar dokumentiert sind.