Eine Reihe umgekippter Dominosteine wird von einem einzelnen leuchtend türkisfarbenen Stein      aufgehalten
Alle Beiträge

KI-Agenten: Aufgaben abgeben, die Freigabe behalten

Alexander Burba 10 Min. Lesezeit

Ein KI-Chatbot, der sich irrt, liefert eine falsche Antwort. Ein KI-Agent, der sich irrt, tut etwas Falsches. Er verschickt eine E-Mail, ändert eine Datei oder legt einen Termin an, und das mit den Rechten der Person, für die er arbeitet.

Mit Agenten lautet die wichtigste Frage deshalb: Was darf die KI tun, und wer gibt es frei?

Viele Unternehmen stehen gerade vor dieser Entscheidung. Von den Unternehmen, die KI nutzen, den Einsatz planen oder darüber diskutieren, setzen 11 Prozent bereits KI-Agenten ein, 29 Prozent planen es und 31 Prozent diskutieren darüber (Bitkom Research, September 2026). Dieser Beitrag zeigt, welche Risiken erst mit dem Handeln entstehen, was DSGVO und KI-Verordnung dazu sagen und wie Sie Agenten so einsetzen, dass die Freigabe bei Ihnen bleibt.

Ein KI-Agent erledigt Aufgaben mit Ihren Rechten

Laut Bitkom erledigt ein KI-Agent Aufgaben selbstständig, „anders als ein Chatbot, der lediglich auf Fragen antwortet“. Aus einem Auftrag wie „Werte das Kundenfeedback aus und schick dem Team eine Präsentation“ macht der Agent einen Plan. Er durchsucht Quellen, wertet Dateien aus, erstellt die Präsentation und bereitet die E-Mail vor.

Für jeden dieser Schritte braucht der Agent Zugriff auf Ihre Systeme. Er liest in der Dateiablage, im Postfach oder im Ticketsystem und nutzt dafür ein Konto, meist Ihr eigenes oder ein eigenes Dienstkonto. Was ein Agent anrichten kann, hängt deshalb weniger am Sprachmodell als an den Werkzeugen und Rechten, die er bekommt.

Zu viel Spielraum ist das Kernrisiko von KI-Agenten

Die OWASP Foundation führt in ihrer Liste der zehn größten Risiken für KI-Anwendungen (2025) ein eigenes Risiko für Agenten, die „Excessive Agency“, also übermäßige Handlungsfreiheit. Als Ursachen nennt sie drei Punkte.

  • Zu viele Funktionen: Der Agent hat Werkzeuge, die er für seine Aufgabe nicht braucht, etwa eine Löschfunktion, wo Lesen genügen würde.
  • Zu viele Rechte: Er greift mit einem Konto zu, das mehr darf, als die Aufgabe verlangt.
  • Zu viel Selbstständigkeit: Folgenreiche Schritte laufen ohne Prüfung durch einen Menschen.

Ernst wird das, sobald ein Agent Inhalte von außen verarbeitet. Das BSI bezeichnet sogenannte Indirect Prompt Injections als intrinsische Schwachstelle von Sprachmodellen, die in Anwendungen eingebunden sind (Juli 2023). Angreifende platzieren Anweisungen in einer Webseite, einem Dokument oder einer E-Mail. Liest das Modell diese Inhalte, führt es die Anweisungen unter Umständen aus, und laut BSI können die Befehle für Menschen unsichtbar sein.

Ein Beispiel zeigt, worauf es ankommt. Ein Agent sortiert eingehende Kundenanfragen, und eine Anfrage enthält in weißer Schrift die Anweisung, alle Rechnungen des Monats an eine externe Adresse zu schicken. Ob daraus ein Schaden wird, hängt davon ab, ob der Agent E-Mails nach außen schicken darf und ob vorher ein Mensch freigibt.

Lesen und Handeln gehören getrennt

Die wirksamste Maßnahme ist zugleich die einfachste. Geben Sie einem Agenten nur die Werkzeuge und Rechte, die seine Aufgabe braucht. Ein Agent, der Ausschreibungen auswertet, muss Vergabeunterlagen lesen können, aber keine Verträge ändern.

Lesende Zugriffe sind das kleinere Risiko, wenn auch kein geringes. Schreibende und versendende Aktionen sollten Sie einzeln freischalten, je Werkzeug und je Gruppe.

Das entspricht den datenschutzfreundlichen Voreinstellungen nach Art. 25 Abs. 2 DSGVO. Danach werden durch Voreinstellung nur die Daten verarbeitet, die für den jeweiligen Zweck erforderlich sind, und das gilt ausdrücklich auch für ihre Zugänglichkeit.

Ebenso wichtig ist das Konto, mit dem der Agent liest. Arbeitet er mit den Rechten der Person, die ihn nutzt, sieht er nur, was diese Person ohnehin sehen darf. Ein zentrales Dienstkonto mit Zugriff auf alle Ablagen hebelt Ihr Berechtigungskonzept dagegen aus.

Was nach außen geht, gibt ein Mensch frei

Eine Freigabe für jeden Schritt wäre zu viel. Wer jede Suche bestätigen muss, schaltet den Agenten bald ab. Eine Freigabe gehört dorthin, wo eine Handlung Folgen außerhalb des Systems hat oder sich nicht zurücknehmen lässt.

  • Eine E-Mail, Nachricht oder Einladung verlässt das Haus.
  • Daten werden gelöscht oder überschrieben.
  • Ein Auftrag, eine Zahlung oder eine Zusage wird ausgelöst.
  • Eine Entscheidung betrifft eine einzelne Person, etwa eine Bewerbung oder einen Antrag.

Die Freigabe wirkt nur, wenn der Mensch sieht, was er freigibt. Die OWASP nennt als Gegenmaßnahme, dass Nutzer jede vom Modell entworfene E-Mail selbst prüfen und den Versand selbst auslösen. Zeigen Sie deshalb Empfänger und vollständigen Text, bevor jemand bestätigt.

Für Entscheidungen über Menschen gilt zusätzlich Art. 22 DSGVO. Jede Person hat das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt, von engen Ausnahmen wie einer ausdrücklichen Einwilligung abgesehen. Sortiert ein Agent Bewerbungen vor, sollte deshalb ein Mensch entscheiden, der die Unterlagen selbst prüft.

Ein Protokoll macht Agenten nachprüfbar

Nach Art. 5 Abs. 2 DSGVO müssen Sie nachweisen können, dass Ihre Verarbeitung den Grundsätzen der Verordnung entspricht. Bei Agenten heißt das, Sie sollten nachvollziehen können, welcher Agent in wessen Auftrag gehandelt hat und wer was freigegeben hat.

Halten Sie für jeden Agenten fest, wofür er da ist, welche Quellen und Werkzeuge er nutzt, mit welchem Modell er arbeitet und wer ihn verantwortet. Veröffentlichen Sie neue Agenten und Änderungen bewusst und in Versionen, damit klar ist, welche Fassung wann im Einsatz war. Diese Übersicht hilft auch beim Verzeichnis der Verarbeitungstätigkeiten und, wo nötig, bei einer Datenschutz-Folgenabschätzung.

Die KI-Verordnung verlangt heute vor allem Kompetenz und Transparenz

Die meisten Agenten im Büroalltag sind keine Hochrisiko-Systeme im Sinne der KI-Verordnung. Für Hochrisiko-Systeme, etwa in der Personalauswahl, gelten die Pflichten zur menschlichen Aufsicht nach dem Digital-Omnibus ab dem 2. Dezember 2027 (Art. 113 KI-VO). Zwei Pflichten betreffen aber schon heute fast jedes Unternehmen, das KI einsetzt.

  • KI-Kompetenz: Nach Art. 4 KI-VO ergreifen Anbieter und Betreiber Maßnahmen, um die KI-Kompetenz ihres Personals zu unterstützen. Seit der Neufassung im Juli 2026 müssen sie dabei kein bestimmtes Niveau garantieren. Wer Agenten baut oder nutzt, sollte wissen, was ein Agent darf und wie Freigaben funktionieren.
  • Transparenz: Seit dem 2. August 2026 müssen KI-Systeme, die direkt mit Menschen interagieren, so gebaut sein, dass diese erfahren, dass sie mit einer KI zu tun haben (Art. 50 Abs. 1 KI-VO). Das betrifft etwa einen Agenten, der Anfragen von Kunden beantwortet. Die Pflicht trifft den Anbieter des Systems. Bauen Sie einen solchen Agenten selbst, klären Sie, ob Sie dadurch als Anbieter gelten.

Vier Fragen klären den Einsatz eines Agenten

Vier Fragen sollten Sie vor dem Einsatz beantworten. Die ersten beiden betreffen das Handeln, die anderen beiden die Daten und das Modell.

  1. Mit wessen Rechten arbeitet der Agent? Am besten mit den Rechten der Person, die ihn nutzt, und nur mit den Werkzeugen, die seine Aufgabe braucht.
  2. Wer gibt frei, was nach außen geht? E-Mails, Nachrichten, Löschungen und Entscheidungen über Personen brauchen eine Freigabe mit sichtbarem Inhalt.
  3. Wo arbeitet die KI mit Ihren Daten? Klären Sie, auf welchen Servern Aufgaben laufen und welche Daten dabei an Dritte gehen. Worauf Sie bei vertraulichen Daten achten, lesen Sie in unserem Beitrag zu vertraulichen Daten in KI-Tools.
  4. Wer betreibt das Modell, und wo? Betreiber, Ort und Recht des Modells entscheiden, wo Ihre Daten verarbeitet werden. Mehr dazu in unserem Beitrag zur Wahl des KI-Modells.

Halten Sie die Antworten für jeden Agenten schriftlich fest, bevor er live geht.

In SecureCloud kAI bleibt die Freigabe bei Ihnen

So beantwortet SecureCloud kAI diese Fragen, der KI-Assistent, den wir auf der it-sa 2026 vorgestellt haben. Einen Agenten beschreiben Sie in einem Satz, und kAI schlägt Anweisungen, Wissen, Werkzeuge und Modell vor. Sie testen den Agenten und veröffentlichen ihn bewusst. Jede Version bleibt erhalten.

Wer einen Agenten nutzt, arbeitet mit den eigenen Rechten. kAI prüft jeden Treffer gegen die Rechte der Person, die fragt, und neue Quellentypen bleiben gesperrt, bis Ihre IT sie je Gruppe freigibt. Eine E-Mail, einen Termin oder eine Nachricht legt kAI Ihnen vorher vor, mit Empfänger und vollständigem Text. Verschickt wird erst nach Ihrem Klick.

Ihre IT legt je Gruppe fest, welche Modelle und Werkzeuge zur Verfügung stehen, bis zur einzelnen Aktion. Ob kAI jeden Schritt mit Ihnen abstimmt oder im Auto-Modus arbeitet, legen Sie pro Chat fest, sofern Ihre IT den Auto-Modus für Ihre Gruppe freigibt. Das Audit-Log hält Freigabe-Entscheidungen fest, ohne deren Inhalte.

Sie möchten kAI an einem Ablauf aus Ihrem Haus sehen? Dann fragen Sie eine Demo an. Sie nutzen SecureCloud bereits? Dann buchen Sie Ihre kAI-Demo direkt in unserem Terminkalender für Bestandskunden.

Mit Frage eins können Sie heute beginnen. Prüfen Sie bei den KI-Werkzeugen, die Ihr Team schon nutzt, mit welchem Konto sie arbeiten und welche Aktionen sie ohne Rückfrage ausführen dürfen.

Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine Rechtsberatung im Einzelfall. Stand: November 2026.

Häufige Fragen

Was ist ein KI-Agent?

Ein KI-Agent erledigt Aufgaben selbstständig. Er zerlegt einen Auftrag in Schritte, nutzt dafür Werkzeuge wie Dateiablage, Postfach oder Websuche und liefert ein Ergebnis, etwa eine fertige Datei oder einen E-Mail-Entwurf.

Was unterscheidet einen KI-Agenten von einem Chatbot?

Ein Chatbot beantwortet Fragen. Ein Agent handelt, er liest Quellen, erstellt Dokumente und kann E-Mails oder Nachrichten vorbereiten oder versenden, je nachdem, welche Werkzeuge und Rechte er hat.

Welche Risiken haben KI-Agenten?

Die OWASP Foundation nennt als Ursachen zu viele Funktionen, zu viele Rechte und zu viel Selbstständigkeit. Hinzu kommen versteckte Anweisungen in Webseiten, Dokumenten oder E-Mails, die das BSI als Indirect Prompt Injection beschreibt.

Was ist eine Indirect Prompt Injection?

Angreifende platzieren Anweisungen in Inhalten, die ein KI-System verarbeitet, etwa in einer Webseite oder einer E-Mail. Liest das System diese Inhalte, führt es die Anweisungen unter Umständen aus. Die Befehle können für Menschen unsichtbar sein.

Dürfen KI-Agenten Entscheidungen über Personen treffen?

Nach Art. 22 DSGVO hat jede Person das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Ausnahmen gibt es nur in engen Fällen, etwa mit ausdrücklicher Einwilligung. In der Praxis sollte ein Mensch entscheiden.

Was verlangt die KI-Verordnung beim Einsatz von KI-Agenten?

Unternehmen ergreifen Maßnahmen, um die KI-Kompetenz ihrer Beschäftigten zu unterstützen (Art. 4 KI-VO). KI-Systeme, die direkt mit Menschen interagieren, müssen seit dem 2. August 2026 erkennbar machen, dass es sich um KI handelt (Art. 50). Pflichten für Hochrisiko-Systeme gelten je nach Art des Systems ab Dezember 2027 oder August 2028.

Wann sollte ein KI-Agent auf eine Freigabe warten?

Immer dann, wenn eine Handlung Folgen außerhalb des Systems hat oder sich nicht zurücknehmen lässt, etwa beim Versand von E-Mails, beim Löschen von Daten, bei Aufträgen und bei Entscheidungen über Personen.

Wie behält man bei SecureCloud kAI die Kontrolle über Agenten?

Agenten arbeiten mit den Rechten der Person, die sie nutzt. E-Mails, Termine und Nachrichten legt kAI vorher mit Empfänger und vollständigem Text vor, verschickt wird erst nach dem Klick. Die IT legt je Gruppe fest, welche Modelle und Werkzeuge zur Verfügung stehen und ob der Auto-Modus erlaubt ist.

Dateien, Signaturen oder KI: Was braucht Ihr Team?

Im Beratungsgespräch klären wir mit Ihnen, was zu Ihren Abläufen passt: Dateien speichern und teilen, Verträge digital unterschreiben oder KI mit Ihren Firmendaten nutzen.

Foto von Alexander Burba

Alexander Burba

Alexander Burba ist Marketing Manager bei SecureCloud und verantwortet Markenbekanntheit und Positionierung online. Er beobachtet den deutschen Markt für sichere Cloud-Infrastruktur und die regulatorischen Entwicklungen, die ihn verändern, von NIS2 und DORA bis zu den Souveränitätsanforderungen der öffentlichen Hand. In seinen Beiträgen übersetzt er diese Entwicklungen in die Anforderungen, die in regulierten Branchen konkret gelten, und in die Entscheidung, die als nächste ansteht.

Newsletter

Produktneuheiten und Security-Updates per E-Mail

Abonnieren Sie unseren Newsletter

Verwandte Artikel

Compliance

Souveräne KI: Wo verarbeitet Ihr KI-Modell Ihre Daten?

Wo KI Ihre Daten verarbeitet, entscheidet das Modell: Betreiber, Rechenzentrum und Recht. Mit EU-Souveränitätsrahmen, CLOUD Act und...

Compliance

Vertrauliche Daten in KI-Tools: Risiken und sicherer Weg

Was passiert, wenn Beschäftigte vertrauliche Daten in KI-Chatbots laden? Risiken, DSGVO, KI-Verordnung und acht Schritte zum sicheren...

Messen & Events

it-sa 2026: Diese Fragen stellten IT-Entscheider an unserem Stand

KI-Verarbeitung, NIS-2, Virenscan, Signatur und Links für Externe: die Fragen von unserem it-sa-Stand und unsere Antworten.