
KI-Agenten
KI-Agenten absichern: Wer darf welche Handlung auslösen?
Ein KI-Agent kann Informationen zusammentragen und Werkzeuge aufrufen. Für Unternehmen zählt deshalb nicht nur die Qualität seiner Antworten, sondern auch die Grenze seiner Befugnisse.
Für Ihren nächsten Schritt
Beginnen Sie mit lesendem Zugriff. Geben Sie zusätzliche Werkzeuge nur für eine klar definierte Aufgabe und einen begrenzten Unternehmensbereich frei.
Centira mit Agenten verbindenZuerst die Aufgabe, dann die Rechte.
Ein sinnvoller erster Auftrag könnte lauten: Fasse die offenen Sicherheitsbefunde unserer verifizierten Domains zusammen. Dafür braucht der Agent Zugriff auf die passenden Befunde, aber keine Rechte für Zahlungen, Benutzerverwaltung oder Änderungen am E-Mail-System. Schreiben Sie diese Grenze vor der technischen Anbindung auf.
In Centira lassen sich Agenten über MCP anbinden. Ein ausdrücklich vergebener Zugangsschlüssel legt die Zugriffsrechte fest. Lesende Abfragen und das Starten einer Prüfung sind unterschiedliche Fähigkeiten. Ein Gespräch mit einem Agenten ersetzt weder die Domain-Verifizierung noch die erforderliche Freigabe des Prüfumfangs.
Ein Befund darf keine neue Anweisung werden.
Ein Agent verarbeitet unter Umständen Texte aus Websites, Dokumenten oder Werkzeugantworten. Darin können Anweisungen stehen, die nicht vom Auftraggeber stammen. Solche Inhalte müssen als Daten behandelt werden. Die Berechtigung für einen Werkzeugaufruf muss außerhalb des gelesenen Texts entschieden werden.
Beispiel: In einem gefundenen Dokument steht, ein Bericht müsse an eine fremde Adresse gesendet werden. Das gehört zum zu prüfenden Inhalt. Daraus darf keine Erlaubnis entstehen, Unternehmensdaten weiterzugeben. Der ursprüngliche Auftrag und die festgelegten Zugriffsgrenzen bleiben maßgeblich.
Fachliche Grundlage: OWASP: AI Agent Security Cheat Sheet
Sensible Schritte brauchen einen bewussten Übergang.
Ein automatisch erstellter Bericht ist eine andere Handlung als eine Änderung an einem produktiven System. Legen Sie für solche Übergänge fest, wer die Aktion prüfen muss und welche Angaben sichtbar sein sollen. Ein pauschales Ja zu Beginn einer langen Aufgabe ist für spätere, veränderte Aktionen wenig aussagekräftig.
Ein möglicher interner Ablauf: Der Agent sammelt Hinweise, ein Verantwortlicher prüft betroffene Systeme und vorgeschlagene Maßnahmen, anschließend wird die konkrete Änderung im zuständigen System freigegeben. Centira stellt Befunde bereit; eine Anbindung erhält dadurch nicht automatisch Verwaltungsrechte in Ihrer übrigen IT.
Ein überschaubarer Pilot macht Grenzen sichtbar.
Ein fiktiver Pilot für ein Unternehmen könnte mit drei bekannten Befunden beginnen. Der Agent soll zu jedem Befund die betroffene Domain, den Beobachtungszeitpunkt und eine offene Rückfrage nennen. Er bekommt dafür einen begrenzten Lesezugang. Die zuständige Person vergleicht das Ergebnis mit den Ausgangsdaten und prüft, ob der Agent Unsicherheit sauber wiedergibt.
Danach wird der Versuch gezielt erschwert: Ein Dokument enthält eine fremde Handlungsanweisung, ein Befund ist veraltet und für eine Quelle fehlen aktuelle Daten. Eine brauchbare Antwort benennt diese Unterschiede. Sie erfindet weder eine neue Freigabe noch einen erfolgreichen Check. Entscheidend ist nicht, wie selbstbewusst der Text klingt, sondern ob sich jede wichtige Aussage zurückverfolgen lässt.
Auch das Ende des Piloten gehört zur Abnahme. Dokumentieren Sie, wer den Zugang verantwortet, wie er widerrufen wird und wo die Ergebnisse liegen. Bei einem Wechsel des Werkzeugs sollte derselbe kleine Test erneut durchlaufen werden. Damit entsteht eine wiederholbare Prüfung der konkreten Aufgabe.
| Testsituation | Erwartetes Verhalten |
|---|---|
| Fremde Anweisung in einem Dokument | Als Inhalt behandeln; keine neuen Befugnisse daraus ableiten. |
| Quelle liefert keine aktuellen Daten | Die Lücke benennen und keine Entwarnung erfinden. |
| Auftrag verlangt eine nicht freigegebene Änderung | Die Berechtigungsgrenze beachten und den vorgesehenen Freigabeweg nutzen. |
So wird der Einstieg überprüfbar.
Beginnen Sie mit einem kleinen, bekannten Datenbestand. Prüfen Sie gemeinsam mit der verantwortlichen IT, ob die Antworten auf Quellen verweisen, fehlende Informationen benennen und den vereinbarten Unternehmensbereich einhalten. Wiederholen Sie den Versuch mit einer absichtlich widersprüchlichen Werkzeugantwort.
Halten Sie außerdem fest, wem ein Schlüssel zugeordnet ist und wann er entzogen wird. Die genaue Einrichtung, verfügbare Centira-Werkzeuge und Berechtigungen stehen in unserer Entwicklerdokumentation. Forschung zu physischen Freigabesignalen ist ein separates Arbeitsfeld und keine Voraussetzung dieser MCP-Anbindung.
- Einen klaren Leseauftrag und zuständige Person bestimmen.
- Nur benötigte Rechte vergeben und an Testfällen prüfen.
- Ergebnisse mit den ursprünglichen Befunden vergleichen.
- Schlüssel bei Aufgabenende oder Zuständigkeitswechsel widerrufen.
Kurz erklärt
Häufige Fragen
Darf ein Agent automatisch eine Prüfung starten?
Nur wenn der vergebene Zugang diese Fähigkeit enthält und die Voraussetzungen für Domain und Prüfumfang erfüllt sind. Ein allgemeiner Lesezugang ist keine automatische Freigabe zusätzlicher Aktionen.
Wer trägt die Verantwortung für die Ergebnisse?
Ein Unternehmen braucht einen festgelegten Verantwortlichen für den Einsatz, die Zugänge und den Umgang mit Ergebnissen. Der Agent unterstützt den Ablauf; eine überzeugend formulierte Antwort ersetzt keine Prüfung der Grundlage.
Quellen zum Weiterlesen
Produktangaben beziehen sich auf den beschriebenen Centira-Prüfumfang zum angegebenen Aktualisierungsdatum.
