Serverschrank im Rechenzentrum, ein Einschub leuchtet cyan
Alle Beiträge

Souveräne KI: Wo verarbeitet Ihr KI-Modell Ihre Daten?

Alexander Burba 11 Min. Lesezeit

Wo ein KI-Werkzeug Ihre Daten verarbeitet, entscheidet das Sprachmodell dahinter. Genauer gesagt entscheiden das Unternehmen, das dieses Modell betreibt, das Rechenzentrum, in dem es rechnet, und das Recht, dem dieser Betreiber unterliegt. Ein Anbieter mit Sitz in Deutschland kann Ihre Anfragen an ein Modell in den USA weiterreichen, und ein Modell eines amerikanischen Herstellers kann in einem europäischen Rechenzentrum laufen. Wer KI mit vertraulichen Unterlagen einsetzen will, prüft deshalb jedes Modell einzeln und legt fest, welches Modell welche Daten sehen darf.

Die Herkunft spielt bei der Auswahl inzwischen eine große Rolle. Für 87 Prozent der Unternehmen ab 20 Beschäftigten ist das Herkunftsland wichtig, wenn sie einen KI-Anbieter auswählen. 96 Prozent würden bevorzugt KI-Anwendungen deutscher Anbieter nutzen, für Anbieter aus den USA sagen das nur noch 41 Prozent, ein Jahr zuvor waren es 51 Prozent (Bitkom, Presseinformation vom 2. November 2026, 603 Unternehmen). Welche Risiken entstehen, wenn vertrauliche Daten in frei verfügbare KI-Tools wandern, beschreiben wir in unserem Beitrag zu vertraulichen Daten in KI-Tools.

Souveränität bei KI umfasst mehr als den Serverstandort

Was „souverän“ bei einem digitalen Dienst bedeutet, hat die EU-Kommission für ihren eigenen Einkauf genau festgelegt. Ihr Cloud Sovereignty Framework (Version 1.2.1, Oktober 2025) bewertet Cloud-Dienste nach acht Zielen. Neben Recht, Betrieb, Lieferkette und Technik gibt es ein eigenes Ziel für Daten und KI.

Für dieses Ziel prüft die Kommission unter anderem drei Punkte. Speicherung und Verarbeitung müssen strikt auf europäische Rechtsräume begrenzt sein, ohne Ausweichen in Drittstaaten. Der Kunde soll sehen können, wann, wo und von wem auf seine Daten zugegriffen wird, auch bei der Nutzung von KI-Modellen. Und es zählt, wie weit KI-Modelle unter europäischer Kontrolle betrieben und gesteuert werden.

Wie souverän ein Dienst ist, misst der Rahmen auf einer Skala von SEAL-0 bis SEAL-4. Auf der ersten Stufe gilt EU-Recht nur formal und lässt sich praktisch kaum durchsetzen, weil Dienst und Betrieb vollständig von Unternehmen außerhalb der EU kontrolliert werden. Auf der zweiten Stufe ist EU-Recht anwendbar und durchsetzbar, es bleiben aber wesentliche Abhängigkeiten von Drittstaaten. Die höchste Stufe verlangt Technik und Betrieb vollständig unter europäischer Kontrolle. Bei ihrer Ausschreibung im April 2026 hat die Kommission nur Anbieter ab der Stufe SEAL-2 zugelassen.

Für die Auswahl eines KI-Modells heißt das: Der Standort des Rechenzentrums ist ein Kriterium unter mehreren. Ebenso zählen, wer das Modell kontrolliert, welches Recht sich gegen den Betreiber durchsetzen lässt und ob Sie die Nutzung nachvollziehen können.

Den Verarbeitungsort bestimmt das Sprachmodell hinter dem Werkzeug

Ein KI-Werkzeug besteht aus zwei Teilen. Die Oberfläche, in der Ihr Team Fragen stellt und Dokumente hochlädt, stammt oft von einem anderen Unternehmen als das Sprachmodell, das die Antwort berechnet. Viele Werkzeuge reichen jede Anfrage über eine Schnittstelle an einen Modellbetreiber weiter. Dort wird der Text verarbeitet, und je nach Vertrag wird er für eine gewisse Zeit gespeichert.

Für jede Anfrage gibt es deshalb eine Kette mit drei Gliedern, die Sie kennen sollten.

  • Betreiber: Welches Unternehmen stellt die Rechenleistung bereit, auf der das Modell läuft? Das kann der Hersteller sein, ein Cloud-Konzern oder ein spezialisierter Rechenzentrumsbetreiber.
  • Ort: In welchem Land steht das Rechenzentrum, in dem die Anfrage verarbeitet wird?
  • Recht: Welcher Rechtsordnung unterliegen der Betreiber und seine Muttergesellschaft?

An das Modell geht dabei mehr als die Frage selbst. Ein KI-Assistent, der in Ihren Unterlagen sucht, schickt zu jeder Frage die passenden Textstellen mit, damit das Modell daraus eine Antwort formulieren kann. Fragt jemand nach den Kündigungsfristen in einem Rahmenvertrag, verarbeitet das Modell also Auszüge aus diesem Vertrag. Je stärker ein Werkzeug mit Firmendokumenten arbeitet, desto wichtiger wird die Wahl des Modells.

Wer welche Anfragen verarbeitet, zeigt die Liste der Unterauftragnehmer. Ein Modellbetreiber, an den das Werkzeug Ihre Anfragen weitergibt, ist in der Regel ein solcher Unterauftragnehmer. Nach Art. 28 Abs. 2 DSGVO darf der Anbieter ihn nur mit Ihrer Genehmigung einsetzen, und er muss ihm dieselben Datenschutzpflichten auferlegen, die er Ihnen gegenüber übernommen hat (Abs. 4).

Die Datenschutzkonferenz unterscheidet in ihrer Orientierungshilfe zu KI und Datenschutz (Mai 2024) zwischen geschlossenen und offenen Systemen. In einem geschlossenen System läuft die Verarbeitung in einer abgegrenzten Umgebung, die Kontrolle über Ein- und Ausgaben bleibt beim Anwender, und die Daten fließen nicht ins Training. Bei offenen Systemen verlassen die Eingaben den geschützten Bereich, und häufig werden sie in Drittstaaten übermittelt. Technisch geschlossene Systeme hält die Datenschutzkonferenz für vorzugswürdig.

Ein Rechenzentrum in der EU beantwortet nicht jede Rechtsfrage

Viele große Modellanbieter bieten inzwischen eine Verarbeitung in europäischen Rechenzentren an. Das ist ein Fortschritt, denn für Übermittlungen in Drittstaaten gelten nach Art. 44 ff. der DSGVO zusätzliche Anforderungen. Der Standort des Servers ist aber nur ein Teil der Antwort.

Gehört der Betreiber zu einem Konzern mit Sitz in den USA, gilt für ihn auch amerikanisches Recht. Nach dem CLOUD Act (18 U.S.C. § 2713) müssen US-Anbieter Daten, die sie in Besitz, Verwahrung oder Kontrolle haben, auf behördliche Anordnung herausgeben, unabhängig davon, ob die Daten in den USA oder im Ausland gespeichert sind.

Die DSGVO setzt dem eine eigene Regel entgegen. Nach Art. 48 wird ein Urteil oder eine Behördenentscheidung aus einem Drittstaat, die eine Herausgabe personenbezogener Daten verlangt, in der EU nur anerkannt, wenn sie auf einer geltenden internationalen Übereinkunft beruht, etwa einem Rechtshilfeabkommen. Ein US-Betreiber in einem europäischen Rechenzentrum kann also zwischen zwei Rechtsordnungen geraten. Wie er sich in diesem Fall verhält, liegt nicht in Ihrer Hand.

Übermittlungen in die USA stützen sich derzeit auf den Angemessenheitsbeschluss zum EU-US Data Privacy Framework. Das Gericht der EU hat ihn im September 2025 bestätigt (Rechtssache T-553/23). Gegen dieses Urteil ist ein Rechtsmittel beim Gerichtshof der EU anhängig (C-703/25 P). Wie lange die heutige Grundlage trägt, ist also offen. Seine Vorgänger hat der Gerichtshof zweimal für ungültig erklärt, 2015 die Safe-Harbor-Entscheidung und 2020 den Privacy Shield.

Auch die Speicherung lohnt einen Blick. Manche Modellbetreiber bewahren Anfragen für eine begrenzte Zeit auf, etwa um Missbrauch zu erkennen. Die genaue Frist steht in den Vertragsbedingungen des jeweiligen Modells.

Offene Modelle lassen sich bei europäischen Betreibern betreiben

Bei vielen Sprachmodellen veröffentlicht der Hersteller die Modellgewichte. Solche offenen Modelle kann jedes Rechenzentrum selbst betreiben. Eine Anfrage an ein offenes Modell bei einem europäischen Betreiber geht deshalb nicht an den Hersteller, auch wenn dieser seinen Sitz außerhalb der EU hat. Damit kommen Sie dem geschlossenen System im Sinne der Datenschutzkonferenz deutlich näher.

Welches Modell passt, hängt von der Aufgabe und von den Daten ab. Für manche Aufgaben wählt ein Unternehmen bewusst ein großes Modell eines US-Herstellers, für vertrauliche Unterlagen ein offenes Modell bei einem europäischen Betreiber. Wichtig ist, dass Ihr Unternehmen diese Wahl selbst trifft.

Die Wahl des Modells folgt der Datenklasse

Am einfachsten wird die Entscheidung, wenn Sie Ihre Daten in Klassen einteilen und jeder Klasse die Modelle zuordnen, die sie verarbeiten dürfen. Drei Klassen reichen für den Anfang.

  • Öffentlich: Texte, die ohnehin veröffentlicht werden, etwa der Entwurf einer Pressemitteilung oder eine Stellenanzeige. Hier kann jedes Modell arbeiten, das Ihr Unternehmen grundsätzlich freigegeben hat.
  • Intern: Protokolle, Projektpläne und interne Anleitungen. Dafür eignen sich Modelle mit Verarbeitung in der EU, einem Auftragsverarbeitungsvertrag und einem schriftlich ausgeschlossenen Training.
  • Vertraulich: Personalakten, Verträge, Kunden- und Mandantendaten, Gesundheitsdaten. Hier sollte kein Konzern aus einem Drittstaat in der Kette stehen, und der Betrieb sollte in der EU oder in Deutschland liegen.

Für Berufsgeheimnisträger wie Kanzleien, Steuerberatung und Arztpraxen gilt zusätzlich § 203 StGB. Was das für den KI-Einsatz bedeutet, haben wir in unserem Beitrag zu vertraulichen Daten in KI-Tools beschrieben.

Planen Sie außerdem eine Datenschutz-Folgenabschätzung ein. Vor jeder Verarbeitung personenbezogener Daten steht eine Risikobewertung, und ergibt sie ein voraussichtlich hohes Risiko, ist eine Folgenabschätzung nach Art. 35 DSGVO Pflicht. Beim Einsatz von KI-Anwendungen wird das nach Einschätzung der Datenschutzkonferenz „vielfach der Fall sein“. Die Angaben zu Betreiber, Ort und Speicherung jedes Modells brauchen Sie dafür ohnehin.

Mit sieben Fragen prüfen Sie ein KI-Modell vor dem Einsatz

Das BSI empfiehlt, feste Kriterien für die Auswahl eines generativen KI-Modells und seines Betreibers zu erarbeiten (Generative KI-Modelle, Version 2.0, Januar 2025, Maßnahme M1). Dazu gehören unter anderem die garantierten rechtlichen Anforderungen und die Möglichkeiten der Bereitstellung und des Betriebs. Für den Einsatz mit Firmendaten lassen sich daraus sieben Fragen ableiten.

  1. Wer betreibt das Modell? Lassen Sie sich für jedes angebotene Modell den Betreiber nennen, nicht nur den Hersteller.
  2. Wo rechnet es? Fragen Sie nach dem Land oder der Region des Rechenzentrums, und zwar je Modell.
  3. Welchem Recht unterliegt der Betreiber? Prüfen Sie, ob ein Konzern aus einem Drittstaat in der Kette steht.
  4. Werden Anfragen gespeichert? Klären Sie, ob und wie lange der Betreiber Ein- und Ausgaben aufbewahrt.
  5. Ist das Training mit Ihren Daten ausgeschlossen? Verlangen Sie den Ausschluss schriftlich. Die Datenschutzkonferenz rät, das zu prüfen, bevor personenbezogene Daten eingegeben werden.
  6. Gibt es einen Auftragsverarbeitungsvertrag? Setzen Sie einen externen KI-Dienst ein, brauchen Sie in der Regel einen Vertrag nach Art. 28 DSGVO. Die Modellbetreiber sollten in der Liste der Unterauftragnehmer stehen.
  7. Kann Ihre IT Modelle steuern? Ihre IT sollte festlegen können, welche Gruppe welche Modelle nutzen darf, und einzelne Modelle ganz abschalten können.

Halten Sie die Antworten in einer einfachen Tabelle fest, mit einer Zeile je Modell. Verbinden Sie die Tabelle dann mit Ihren Datenklassen. So sieht jeder im Team, welches Modell für öffentliche, interne und vertrauliche Daten freigegeben ist.

In SecureCloud kAI legt Ihre IT fest, welche Modelle Ihr Team nutzt

Diese Wahl haben wir in SecureCloud kAI eingebaut, dem KI-Assistenten, den wir auf der it-sa 2026 vorgestellt haben. Die Plattform betreibt SecureCloud in Deutschland, die Modelle rechnen in der EU. Bei der Modellwahl zeigt kAI zu jedem Modell, wo es betrieben wird. Den Betreiber jedes Modells nennen wir auf unserer kAI-Seite.

Die offenen Modelle laufen bei europäischen Betreibern, eines davon laut Anbieter bei IONOS in Berlin. Anfragen an diese Modelle gehen nicht an den Hersteller. Bei den Modellen der beiden US-Hersteller weist kAI darauf hin, dass ein US-Konzern in der Kette steht. Ihre IT legt je Gruppe fest, welche Modelle zur Verfügung stehen, und kann die Modelle der US-Anbieter abschalten. So lässt sich die Zuordnung aus Ihren Datenklassen direkt in den Gruppen abbilden.

Mehr dazu lesen Sie in unserem Beitrag zum Start von SecureCloud kAI. Sie möchten kAI an einem Ablauf aus Ihrem Haus sehen? Dann fragen Sie eine Demo an. Sie nutzen SecureCloud bereits? Dann buchen Sie Ihre kAI-Demo direkt in unserem Terminkalender für Bestandskunden.

Mit Frage eins können Sie heute beginnen. Fragen Sie bei den KI-Werkzeugen, die Ihr Team schon nutzt, nach dem Betreiber jedes Modells und nach der Liste der Unterauftragnehmer.

Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine Rechtsberatung im Einzelfall. Stand: November 2026.

Häufige Fragen

Was ist souveräne KI?

Souveräne KI bedeutet, dass ein Unternehmen selbst bestimmt, welches Modell seine Daten verarbeitet, wer dieses Modell betreibt und wo es rechnet. Dazu gehört, Modelle je Aufgabe auswählen und einzelne Modelle abschalten zu können.

Wie bewertet die EU-Kommission die Souveränität von Cloud- und KI-Diensten?

Mit dem Cloud Sovereignty Framework (Oktober 2025). Es prüft acht Ziele, darunter Daten und KI, und ordnet Dienste auf einer Skala von SEAL-0 bis SEAL-4 ein. Entscheidend sind Kontrolle, durchsetzbares EU-Recht und die Abhängigkeit von Drittstaaten.

Reicht ein KI-Anbieter mit Sitz in Deutschland für den Datenschutz aus?

Nicht automatisch. Viele Werkzeuge reichen Anfragen an ein Sprachmodell eines anderen Unternehmens weiter. Entscheidend ist, wer dieses Modell betreibt, wo es rechnet und welchem Recht der Betreiber unterliegt.

Sind US-KI-Modelle in europäischen Rechenzentren DSGVO-konform nutzbar?

Eine Verarbeitung in der EU vermeidet die Übermittlung in einen Drittstaat. Der Betreiber kann aber als Teil eines US-Konzerns nach dem CLOUD Act zur Herausgabe von Daten verpflichtet sein. Prüfen Sie außerdem Speicherfristen, den Ausschluss des Trainings und den Auftragsverarbeitungsvertrag.

Was ist der Unterschied zwischen offenen und geschlossenen KI-Systemen?

Nach der Datenschutzkonferenz läuft ein geschlossenes System in einer abgegrenzten Umgebung, die Kontrolle über Ein- und Ausgaben bleibt beim Anwender, und die Daten fließen nicht ins Training. Bei offenen Systemen verlassen die Eingaben den geschützten Bereich.

Braucht man für den Einsatz von KI eine Datenschutz-Folgenabschätzung?

Häufig ja. Ergibt die Risikobewertung ein voraussichtlich hohes Risiko, ist sie nach Art. 35 DSGVO Pflicht, und das wird beim Einsatz von KI-Anwendungen laut Datenschutzkonferenz vielfach der Fall sein.

Welche Fragen sollte man einem KI-Anbieter zum Modell stellen?

Wer betreibt das Modell, wo rechnet es, welchem Recht unterliegt der Betreiber, werden Anfragen gespeichert, ist das Training ausgeschlossen, gibt es einen Auftragsverarbeitungsvertrag mit Liste der Unterauftragnehmer, und kann die IT Modelle je Gruppe freigeben oder abschalten?

Welche KI-Assistenten zeigen an, wo das Modell betrieben wird?

SecureCloud kAI zeigt bei der Modellwahl zu jedem Modell, wo es betrieben wird. Die Plattform betreibt SecureCloud in Deutschland, die Modelle rechnen in der EU, und die IT legt je Gruppe fest, welche Modelle zur Verfügung stehen.

Dateien, Signaturen oder KI: Was braucht Ihr Team?

Im Beratungsgespräch klären wir mit Ihnen, was zu Ihren Abläufen passt: Dateien speichern und teilen, Verträge digital unterschreiben oder KI mit Ihren Firmendaten nutzen.

Foto von Alexander Burba

Alexander Burba

Alexander Burba ist Marketing Manager bei SecureCloud und verantwortet Markenbekanntheit und Positionierung online. Er beobachtet den deutschen Markt für sichere Cloud-Infrastruktur und die regulatorischen Entwicklungen, die ihn verändern, von NIS2 und DORA bis zu den Souveränitätsanforderungen der öffentlichen Hand. In seinen Beiträgen übersetzt er diese Entwicklungen in die Anforderungen, die in regulierten Branchen konkret gelten, und in die Entscheidung, die als nächste ansteht.

Newsletter

Produktneuheiten und Security-Updates per E-Mail

Abonnieren Sie unseren Newsletter

Verwandte Artikel

Compliance

Vertrauliche Daten in KI-Tools: Risiken und sicherer Weg

Was passiert, wenn Beschäftigte vertrauliche Daten in KI-Chatbots laden? Risiken, DSGVO, KI-Verordnung und acht Schritte zum sicheren...

Messen & Events

it-sa 2026: Diese Fragen stellten IT-Entscheider an unserem Stand

KI-Verarbeitung, NIS-2, Virenscan, Signatur und Links für Externe: die Fragen von unserem it-sa-Stand und unsere Antworten.

Compliance

Digitale Personalakte in der Cloud: was das Recht verlangt

Darf die Personalakte in die Cloud? Rechtsgrundlage, Aufbewahrungsfristen, Betriebsrat, Scannen und was sich 2027 für...