Vertrauliche Daten in KI-Tools: Risiken und sicherer Weg

Wer einen Vertrag oder eine Kundenliste in einen kostenlosen KI-Chatbot im Browser lädt, gibt diese Daten an einen externen Anbieter weiter. Mit diesem Anbieter hat das Unternehmen in der Regel keinen Vertrag, und je nach Nutzungsbedingungen wird der Inhalt gespeichert, außerhalb der EU verarbeitet oder zum Training künftiger Modelle verwendet. Sicher wird der KI-Einsatz, wenn das Unternehmen selbst ein Werkzeug mit Auftragsverarbeitungsvertrag bereitstellt, klare Regeln festlegt und sein Team schult.

Die Frage stellt sich inzwischen in der Mehrheit der Betriebe. 57 Prozent der Unternehmen ab 20 Beschäftigten setzen KI ein, ein Jahr zuvor waren es 36 Prozent (Bitkom, Präsentation vom 14. September 2026, 603 Unternehmen). Zugleich beobachten oder vermuten 42 Prozent, dass Beschäftigte private KI-Zugänge für ihre Arbeit nutzen, und nur 23 Prozent hatten Regeln dafür aufgestellt (Bitkom, Presseinformation vom 21. Oktober 2025, 604 Unternehmen).

Mit dem Hochladen verlässt das Dokument den Einflussbereich Ihres Unternehmens

Wer ein Dokument in einen KI-Chatbot hochlädt, gibt es an einen Dritten weiter. Was danach mit den Daten geschieht, bestimmen die Nutzungsbedingungen des Anbieters. Bei einem privaten Zugang hat diese Bedingungen der Beschäftigte akzeptiert, geprüft hat sie im Unternehmen niemand.

Bei vielen kostenlosen Zugängen lohnt der Blick auf vier Punkte.

• Training: Eingaben können in das Training künftiger Modelle einfließen, solange niemand aktiv widerspricht.
• Speicherung: Der Verlauf bleibt im Konto des Beschäftigten gespeichert. Die Löschfristen legt der Anbieter fest, das Unternehmen hat darauf keinen Zugriff.
• Verarbeitungsort: Die Rechenzentren stehen häufig außerhalb der EU. Für solche Übermittlungen gelten die zusätzlichen Anforderungen der Art. 44 ff. DSGVO.
• Vertrag: Für private Konten gibt es keinen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO.

Namen zu schwärzen löst das Problem selten. Nach der Orientierungshilfe der Datenschutzkonferenz vom Mai 2024 reicht es regelmäßig nicht, Namen und Anschriften zu entfernen, weil sich der Personenbezug aus dem Zusammenhang ergeben kann. Ihr Beispiel ist die Bitte, ein Arbeitszeugnis für einen Kundenberater in einem bestimmten Autohaus zu entwerfen.

Das größte Risiko liegt im Alltag, in vielen kleinen Kopiervorgängen, von denen im Unternehmen niemand weiß. Die Datenschutzkonferenz geht selbst davon aus, dass die unkontrollierte Nutzung „derzeit Realität in vielen Unternehmen und Behörden ist“. Unter den Unternehmen, die KI bereits einsetzen, nennen 66 Prozent die Anforderungen an den Datenschutz als Hemmnis und 45 Prozent die Sorge, dass Unternehmensdaten in falsche Hände gelangen (Bitkom, September 2026, Folie 12).

Für vertrauliche Daten gelten Datenschutz, Geheimnisschutz und KI-Verordnung zugleich

Sobald personenbezogene Daten im Spiel sind, greift die Datenschutz-Grundverordnung. Setzt ein Unternehmen einen externen KI-Dienst ein, braucht es in der Regel einen Auftragsverarbeitungsvertrag nach Art. 28. Für eine Verarbeitung außerhalb der EU müssen zusätzlich die Voraussetzungen der Art. 44 ff. erfüllt sein.

Als Geschäftsgeheimnis gilt eine Information nach § 2 Nr. 1 b GeschGehG nur, wenn ihr Inhaber angemessene Maßnahmen zu ihrer Geheimhaltung getroffen hat. Wer vertrauliche Unterlagen ungeregelt in externe Dienste wandern lässt, schwächt diese Position im Streitfall. Wie die Haftung beim Versand vertraulicher Dateien aussieht, lesen Sie im Beitrag Vertrauliche Dateien per E-Mail: wer haftet, und wofür.

Art. 4 der KI-Verordnung verpflichtet Unternehmen, die KI-Systeme einsetzen, seit dem 2. Februar 2025 zu Maßnahmen für die KI-Kompetenz ihres Personals. In der seit dem 27. Juli 2026 geltenden Fassung müssen sie die Entwicklung dieser Kompetenz unterstützen, ein bestimmtes Niveau schreibt das Gesetz nicht vor. Für die Aufsicht ist in Deutschland seit dem 29. Juli 2026 grundsätzlich die Bundesnetzagentur zuständig (KI-MIG).

Für Berufsgeheimnisträger wie Kanzleien, Steuerberatung und Arztpraxen kommt § 203 StGB hinzu. Externe Dienstleister dürfen dort nur eingebunden werden, soweit es erforderlich ist, und sie müssen zur Geheimhaltung verpflichtet werden. Die Bundesrechtsanwaltskammer weist darauf hin, dass es dabei nicht darauf ankommt, ob der KI-Anbieter die Daten tatsächlich liest, schon die Möglichkeit dazu genügt (BRAK, Hinweise zum KI-Einsatz, Dezember 2024).

Mit acht Schritten bringen Sie den KI-Einsatz unter Kontrolle

1. Bestand aufnehmen. Fragen Sie im Team, welche KI-Werkzeuge bereits genutzt werden und wofür. Wer ohne Sanktionsdrohung fragt, bekommt ehrlichere Antworten und sieht den tatsächlichen Bedarf.
2. Daten einstufen. Legen Sie Stufen fest, etwa öffentlich, intern und vertraulich. Bestimmen Sie für jede Stufe, welches Werkzeug sie verarbeiten darf.
3. Verarbeitungsort und Modell prüfen. Achten Sie auf einen Auftragsverarbeitungsvertrag, eine Verarbeitung in der EU und den schriftlichen Ausschluss des Trainings mit Ihren Daten. Fragen Sie nicht nur, wo der Anbieter sitzt, sondern auch, wo das Sprachmodell läuft, das Ihre Anfragen verarbeitet. Das BSI empfiehlt feste Kriterien für die Auswahl eines Modells und seines Betreibers, darunter die garantierten rechtlichen Anforderungen und die Art des Betriebs.
4. Zugriffsrechte übernehmen. Greift ein KI-Assistent auf Firmendokumente zu, darf er nur zeigen, was die jeweilige Person auch ohne KI sehen dürfte. Dafür sollten die bestehenden Rollen und Freigaben gelten. Das BSI nennt das gezielte Abfragen angebundener Wissensbestände als eigenen Angriffsweg (Generative KI-Modelle, Version 2.0, Januar 2025).
5. Antworten an der Quelle prüfen. Sprachmodelle können sich irren, auch ohne jeden Angriff. Nutzen Sie Werkzeuge, die zu jeder Antwort die Fundstelle im eigenen Dokument zeigen, damit Ihr Team das Ergebnis selbst prüfen kann. Für Kanzleien verlangt die BRAK ausdrücklich eine eigenverantwortliche Endkontrolle jedes KI-Ergebnisses.
6. Aufgaben nur mit Freigabe ausführen lassen. KI-Agenten lesen nicht nur, sie versenden E-Mails, legen Dateien an und erteilen Freigaben. Von den Unternehmen, die KI nutzen oder sich mit dem Einsatz befassen, setzen 11 Prozent solche Agenten bereits ein, 29 Prozent planen es (Bitkom, September 2026, Folie 7). Das BSI rät, vor kritischen Aktionen eine menschliche Kontrolle und Autorisierung vorzusehen (BSI, Juli 2023).
7. Regeln festhalten und das Team schulen. Eine Seite reicht für den Anfang, mit erlaubten Werkzeugen, Zwecken und den Daten, die dort nie hineingehören. Das BSI rät, solche Regeln technisch zu stützen, etwa indem bestimmte Dienste gesperrt oder freigeschaltet werden. Üben Sie an Beispielen aus dem eigenen Alltag, dokumentieren Sie die Schulung für Art. 4 der KI-Verordnung und binden Sie den Betriebsrat früh ein. Ein Viertel der Unternehmen (25 Prozent) schult bisher gar nicht (Bitkom, September 2026, Folie 13).
8. Eine erlaubte Alternative bereitstellen. Ein Verbot allein verlagert die Nutzung ins Verborgene, erst ein freigegebenes Werkzeug macht Schatten-KI überflüssig. Auch die Datenschutzkonferenz empfiehlt, dass Arbeitgeber für die berufliche Nutzung eigene Konten bereitstellen.

Auf der it-sa 2026 haben wir SecureCloud kAI vorgestellt

Schritt acht braucht ein Werkzeug, das Ihr Team mit Freigabe nutzen darf. Dafür haben wir auf der it-sa 2026 in Nürnberg SecureCloud kAI erstmals öffentlich gezeigt, den KI-Assistenten für Ihr ganzes Team.

kAI beantwortet Fragen aus Ihren eigenen Unterlagen und nennt zu jeder Antwort die Fundstelle. Durchsucht wird nur, was die angemeldete Person selbst öffnen darf. Die Plattform betreibt SecureCloud in Deutschland, die Modelle rechnen in der EU, und Ihre IT legt je Gruppe fest, welche Modelle zur Verfügung stehen.

E-Mails, Termine und Nachrichten verschickt kAI erst nach Ihrer Freigabe. Mehr dazu lesen Sie in unserem Beitrag zum Start von SecureCloud kAI.

Sie möchten kAI an einem Ablauf aus Ihrem Haus sehen? Dann fragen Sie eine Demo an. Sie nutzen SecureCloud bereits? Dann buchen Sie Ihre kAI-Demo direkt in unserem Terminkalender für Bestandskunden.

Mit Schritt eins können Sie schon heute beginnen. Eine kurze, anonyme Umfrage im Team zeigt in wenigen Tagen, welche KI-Werkzeuge bei Ihnen bereits im Einsatz sind.

Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine Rechtsberatung im Einzelfall. Stand: November 2026.

Häufige Fragen

Welche Risiken entstehen, wenn Mitarbeiter vertrauliche Firmendaten in öffentliche KI-Tools kopieren?

Die Daten gehen an einen externen Anbieter, mit dem das Unternehmen meist keinen Vertrag hat. Je nach Nutzungsbedingungen werden sie gespeichert, außerhalb der EU verarbeitet oder zum Training von Modellen genutzt.

Reicht es, Namen zu schwärzen, bevor man ein Dokument in ein KI-Tool lädt?

Meist nicht. Laut Datenschutzkonferenz kann sich der Personenbezug aus dem Zusammenhang ergeben, auch wenn Namen und Anschriften entfernt sind.

Wie können Unternehmen KI-Assistenten sicher mit eigenen Firmendaten verbinden?

Mit einem Werkzeug, das einen Auftragsverarbeitungsvertrag, eine Verarbeitung in der EU und den Ausschluss des Trainings bietet. Der Assistent sollte die bestehenden Zugriffsrechte übernehmen.

Müssen Unternehmen ihre Beschäftigten im Umgang mit KI schulen?

Art. 4 der KI-Verordnung verpflichtet sie, die KI-Kompetenz ihres Personals zu fördern, seit 27. Juli 2026 ohne festes Niveau. Dokumentierte Schulungen sind der übliche Nachweis.

Welche KI-Lösungen können Kanzleien und Kliniken nutzen, ohne Berufsgeheimnis und Patientendaten zu gefährden?

Lösungen mit Auftragsverarbeitungsvertrag, Verpflichtung zur Geheimhaltung nach § 203 StGB und Verarbeitung in der EU ohne Training mit den Daten. Die Nachweise prüft vorab der Datenschutzbeauftragte.

Wie erkennen Unternehmen Schatten-KI und führen eine KI-Richtlinie ein?

Eine anonyme Umfrage im Team zeigt, welche Werkzeuge wofür genutzt werden. Darauf baut eine kurze Richtlinie zu erlaubten Werkzeugen, Zwecken und Daten auf, zusammen mit einer freigegebenen Alternative.

Was sollten Unternehmen beim Einsatz von KI-Agenten beachten?

Agenten handeln selbstständig, etwa beim Versand von E-Mails oder bei Freigaben. Das BSI rät, vor kritischen Aktionen eine menschliche Kontrolle und Autorisierung vorzusehen.

Welche KI-Assistenten durchsuchen interne Firmendokumente und zeigen zu jeder Antwort die Quelle an?

Zum Beispiel SecureCloud kAI, vorgestellt auf der it-sa 2026. kAI nennt zu jeder Antwort aus Ihren Unterlagen die Fundstelle und durchsucht nur, was die angemeldete Person öffnen darf. Die Plattform betreibt SecureCloud in Deutschland.