Ein KI-Chatbot, der sich irrt, liefert eine falsche Antwort. Ein KI-Agent, der sich irrt, tut etwas Falsches. Er verschickt eine E-Mail, ändert eine Datei oder legt einen Termin an, und das mit den Rechten der Person, für die er arbeitet.
Mit Agenten lautet die wichtigste Frage deshalb: Was darf die KI tun, und wer gibt es frei?
Viele Unternehmen stehen gerade vor dieser Entscheidung. Von den Unternehmen, die KI nutzen, den Einsatz planen oder darüber diskutieren, setzen 11 Prozent bereits KI-Agenten ein, 29 Prozent planen es und 31 Prozent diskutieren darüber (Bitkom Research, September 2026). Dieser Beitrag zeigt, welche Risiken erst mit dem Handeln entstehen, was DSGVO und KI-Verordnung dazu sagen und wie Sie Agenten so einsetzen, dass die Freigabe bei Ihnen bleibt.
Laut Bitkom erledigt ein KI-Agent Aufgaben selbstständig, „anders als ein Chatbot, der lediglich auf Fragen antwortet“. Aus einem Auftrag wie „Werte das Kundenfeedback aus und schick dem Team eine Präsentation“ macht der Agent einen Plan. Er durchsucht Quellen, wertet Dateien aus, erstellt die Präsentation und bereitet die E-Mail vor.
Für jeden dieser Schritte braucht der Agent Zugriff auf Ihre Systeme. Er liest in der Dateiablage, im Postfach oder im Ticketsystem und nutzt dafür ein Konto, meist Ihr eigenes oder ein eigenes Dienstkonto. Was ein Agent anrichten kann, hängt deshalb weniger am Sprachmodell als an den Werkzeugen und Rechten, die er bekommt.
Die OWASP Foundation führt in ihrer Liste der zehn größten Risiken für KI-Anwendungen (2025) ein eigenes Risiko für Agenten, die „Excessive Agency“, also übermäßige Handlungsfreiheit. Als Ursachen nennt sie drei Punkte.
Ernst wird das, sobald ein Agent Inhalte von außen verarbeitet. Das BSI bezeichnet sogenannte Indirect Prompt Injections als intrinsische Schwachstelle von Sprachmodellen, die in Anwendungen eingebunden sind (Juli 2023). Angreifende platzieren Anweisungen in einer Webseite, einem Dokument oder einer E-Mail. Liest das Modell diese Inhalte, führt es die Anweisungen unter Umständen aus, und laut BSI können die Befehle für Menschen unsichtbar sein.
Ein Beispiel zeigt, worauf es ankommt. Ein Agent sortiert eingehende Kundenanfragen, und eine Anfrage enthält in weißer Schrift die Anweisung, alle Rechnungen des Monats an eine externe Adresse zu schicken. Ob daraus ein Schaden wird, hängt davon ab, ob der Agent E-Mails nach außen schicken darf und ob vorher ein Mensch freigibt.
Die wirksamste Maßnahme ist zugleich die einfachste. Geben Sie einem Agenten nur die Werkzeuge und Rechte, die seine Aufgabe braucht. Ein Agent, der Ausschreibungen auswertet, muss Vergabeunterlagen lesen können, aber keine Verträge ändern.
Lesende Zugriffe sind das kleinere Risiko, wenn auch kein geringes. Schreibende und versendende Aktionen sollten Sie einzeln freischalten, je Werkzeug und je Gruppe.
Das entspricht den datenschutzfreundlichen Voreinstellungen nach Art. 25 Abs. 2 DSGVO. Danach werden durch Voreinstellung nur die Daten verarbeitet, die für den jeweiligen Zweck erforderlich sind, und das gilt ausdrücklich auch für ihre Zugänglichkeit.
Ebenso wichtig ist das Konto, mit dem der Agent liest. Arbeitet er mit den Rechten der Person, die ihn nutzt, sieht er nur, was diese Person ohnehin sehen darf. Ein zentrales Dienstkonto mit Zugriff auf alle Ablagen hebelt Ihr Berechtigungskonzept dagegen aus.
Eine Freigabe für jeden Schritt wäre zu viel. Wer jede Suche bestätigen muss, schaltet den Agenten bald ab. Eine Freigabe gehört dorthin, wo eine Handlung Folgen außerhalb des Systems hat oder sich nicht zurücknehmen lässt.
Die Freigabe wirkt nur, wenn der Mensch sieht, was er freigibt. Die OWASP nennt als Gegenmaßnahme, dass Nutzer jede vom Modell entworfene E-Mail selbst prüfen und den Versand selbst auslösen. Zeigen Sie deshalb Empfänger und vollständigen Text, bevor jemand bestätigt.
Für Entscheidungen über Menschen gilt zusätzlich Art. 22 DSGVO. Jede Person hat das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt, von engen Ausnahmen wie einer ausdrücklichen Einwilligung abgesehen. Sortiert ein Agent Bewerbungen vor, sollte deshalb ein Mensch entscheiden, der die Unterlagen selbst prüft.
Nach Art. 5 Abs. 2 DSGVO müssen Sie nachweisen können, dass Ihre Verarbeitung den Grundsätzen der Verordnung entspricht. Bei Agenten heißt das, Sie sollten nachvollziehen können, welcher Agent in wessen Auftrag gehandelt hat und wer was freigegeben hat.
Halten Sie für jeden Agenten fest, wofür er da ist, welche Quellen und Werkzeuge er nutzt, mit welchem Modell er arbeitet und wer ihn verantwortet. Veröffentlichen Sie neue Agenten und Änderungen bewusst und in Versionen, damit klar ist, welche Fassung wann im Einsatz war. Diese Übersicht hilft auch beim Verzeichnis der Verarbeitungstätigkeiten und, wo nötig, bei einer Datenschutz-Folgenabschätzung.
Die meisten Agenten im Büroalltag sind keine Hochrisiko-Systeme im Sinne der KI-Verordnung. Für Hochrisiko-Systeme, etwa in der Personalauswahl, gelten die Pflichten zur menschlichen Aufsicht nach dem Digital-Omnibus ab dem 2. Dezember 2027 (Art. 113 KI-VO). Zwei Pflichten betreffen aber schon heute fast jedes Unternehmen, das KI einsetzt.
Vier Fragen sollten Sie vor dem Einsatz beantworten. Die ersten beiden betreffen das Handeln, die anderen beiden die Daten und das Modell.
Halten Sie die Antworten für jeden Agenten schriftlich fest, bevor er live geht.
So beantwortet SecureCloud kAI diese Fragen, der KI-Assistent, den wir auf der it-sa 2026 vorgestellt haben. Einen Agenten beschreiben Sie in einem Satz, und kAI schlägt Anweisungen, Wissen, Werkzeuge und Modell vor. Sie testen den Agenten und veröffentlichen ihn bewusst. Jede Version bleibt erhalten.
Wer einen Agenten nutzt, arbeitet mit den eigenen Rechten. kAI prüft jeden Treffer gegen die Rechte der Person, die fragt, und neue Quellentypen bleiben gesperrt, bis Ihre IT sie je Gruppe freigibt. Eine E-Mail, einen Termin oder eine Nachricht legt kAI Ihnen vorher vor, mit Empfänger und vollständigem Text. Verschickt wird erst nach Ihrem Klick.
Ihre IT legt je Gruppe fest, welche Modelle und Werkzeuge zur Verfügung stehen, bis zur einzelnen Aktion. Ob kAI jeden Schritt mit Ihnen abstimmt oder im Auto-Modus arbeitet, legen Sie pro Chat fest, sofern Ihre IT den Auto-Modus für Ihre Gruppe freigibt. Das Audit-Log hält Freigabe-Entscheidungen fest, ohne deren Inhalte.
Sie möchten kAI an einem Ablauf aus Ihrem Haus sehen? Dann fragen Sie eine Demo an. Sie nutzen SecureCloud bereits? Dann buchen Sie Ihre kAI-Demo direkt in unserem Terminkalender für Bestandskunden.
Mit Frage eins können Sie heute beginnen. Prüfen Sie bei den KI-Werkzeugen, die Ihr Team schon nutzt, mit welchem Konto sie arbeiten und welche Aktionen sie ohne Rückfrage ausführen dürfen.
Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine Rechtsberatung im Einzelfall. Stand: November 2026.
Ein KI-Agent erledigt Aufgaben selbstständig. Er zerlegt einen Auftrag in Schritte, nutzt dafür Werkzeuge wie Dateiablage, Postfach oder Websuche und liefert ein Ergebnis, etwa eine fertige Datei oder einen E-Mail-Entwurf.
Ein Chatbot beantwortet Fragen. Ein Agent handelt, er liest Quellen, erstellt Dokumente und kann E-Mails oder Nachrichten vorbereiten oder versenden, je nachdem, welche Werkzeuge und Rechte er hat.
Die OWASP Foundation nennt als Ursachen zu viele Funktionen, zu viele Rechte und zu viel Selbstständigkeit. Hinzu kommen versteckte Anweisungen in Webseiten, Dokumenten oder E-Mails, die das BSI als Indirect Prompt Injection beschreibt.
Angreifende platzieren Anweisungen in Inhalten, die ein KI-System verarbeitet, etwa in einer Webseite oder einer E-Mail. Liest das System diese Inhalte, führt es die Anweisungen unter Umständen aus. Die Befehle können für Menschen unsichtbar sein.
Nach Art. 22 DSGVO hat jede Person das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Ausnahmen gibt es nur in engen Fällen, etwa mit ausdrücklicher Einwilligung. In der Praxis sollte ein Mensch entscheiden.
Unternehmen ergreifen Maßnahmen, um die KI-Kompetenz ihrer Beschäftigten zu unterstützen (Art. 4 KI-VO). KI-Systeme, die direkt mit Menschen interagieren, müssen seit dem 2. August 2026 erkennbar machen, dass es sich um KI handelt (Art. 50). Pflichten für Hochrisiko-Systeme gelten je nach Art des Systems ab Dezember 2027 oder August 2028.
Immer dann, wenn eine Handlung Folgen außerhalb des Systems hat oder sich nicht zurücknehmen lässt, etwa beim Versand von E-Mails, beim Löschen von Daten, bei Aufträgen und bei Entscheidungen über Personen.
Agenten arbeiten mit den Rechten der Person, die sie nutzt. E-Mails, Termine und Nachrichten legt kAI vorher mit Empfänger und vollständigem Text vor, verschickt wird erst nach dem Klick. Die IT legt je Gruppe fest, welche Modelle und Werkzeuge zur Verfügung stehen und ob der Auto-Modus erlaubt ist.