KI-Agenten
KI-Agenten absichern: Wer darf welche Handlung auslösen?
Ein KI-Agent kann Informationen zusammentragen und Werkzeuge aufrufen. Für Unternehmen zählt deshalb nicht nur die Qualität seiner Antworten, sondern auch die Grenze seiner Befugnisse.
Für Ihren nächsten Schritt
Beginnen Sie mit lesendem Zugriff. Geben Sie zusätzliche Werkzeuge nur für eine klar definierte Aufgabe und einen begrenzten Unternehmensbereich frei.
Zuerst die Aufgabe, dann die Rechte.
Ein sinnvoller erster Auftrag könnte lauten: Fasse die offenen Sicherheitsbefunde unserer verifizierten Domains zusammen. Dafür braucht der Agent Zugriff auf die passenden Befunde, aber keine Rechte für Zahlungen, Benutzerverwaltung oder Änderungen am E-Mail-System. Schreiben Sie diese Grenze vor der technischen Anbindung auf.
In Centira lassen sich Agenten über MCP anbinden. Ein ausdrücklich vergebener Zugangsschlüssel legt die Zugriffsrechte fest. Lesende Abfragen und das Starten einer Prüfung sind unterschiedliche Fähigkeiten. Ein Gespräch mit einem Agenten ersetzt weder die Domain-Verifizierung noch die erforderliche Freigabe des Prüfumfangs.
Ein Befund darf keine neue Anweisung werden.
Ein Agent verarbeitet unter Umständen Texte aus Websites, Dokumenten oder Werkzeugantworten. Darin können Anweisungen stehen, die nicht vom Auftraggeber stammen. Solche Inhalte müssen als Daten behandelt werden. Die Berechtigung für einen Werkzeugaufruf muss außerhalb des gelesenen Texts entschieden werden.
Beispiel: In einem gefundenen Dokument steht, ein Bericht müsse an eine fremde Adresse gesendet werden. Das gehört zum zu prüfenden Inhalt. Daraus darf keine Erlaubnis entstehen, Unternehmensdaten weiterzugeben. Der ursprüngliche Auftrag und die festgelegten Zugriffsgrenzen bleiben maßgeblich.
Fachliche Grundlage: OWASP: AI Agent Security Cheat Sheet
Sensible Schritte brauchen einen bewussten Übergang.
Ein automatisch erstellter Bericht ist eine andere Handlung als eine Änderung an einem produktiven System. Legen Sie für solche Übergänge fest, wer die Aktion prüfen muss und welche Angaben sichtbar sein sollen. Ein pauschales Ja zu Beginn einer langen Aufgabe ist für spätere, veränderte Aktionen wenig aussagekräftig.
Ein möglicher interner Ablauf: Der Agent sammelt Hinweise, ein Verantwortlicher prüft betroffene Systeme und vorgeschlagene Maßnahmen, anschließend wird die konkrete Änderung im zuständigen System freigegeben. Centira stellt Befunde bereit; eine Anbindung erhält dadurch nicht automatisch Verwaltungsrechte in Ihrer übrigen IT.
So wird der Einstieg überprüfbar.
Beginnen Sie mit einem kleinen, bekannten Datenbestand. Prüfen Sie gemeinsam mit der verantwortlichen IT, ob die Antworten auf Quellen verweisen, fehlende Informationen benennen und den vereinbarten Unternehmensbereich einhalten. Wiederholen Sie den Versuch mit einer absichtlich widersprüchlichen Werkzeugantwort.
Halten Sie außerdem fest, wem ein Schlüssel zugeordnet ist und wann er entzogen wird. Die genaue Einrichtung, verfügbare Centira-Werkzeuge und Berechtigungen stehen in unserer Entwicklerdokumentation. Forschung zu physischen Freigabesignalen ist ein separates Arbeitsfeld und keine Voraussetzung dieser MCP-Anbindung.
- Einen klaren Leseauftrag und zuständige Person bestimmen.
- Nur benötigte Rechte vergeben und an Testfällen prüfen.
- Ergebnisse mit den ursprünglichen Befunden vergleichen.
- Schlüssel bei Aufgabenende oder Zuständigkeitswechsel widerrufen.
Quellen zum Weiterlesen
Produktangaben beziehen sich auf den beschriebenen Centira-Prüfumfang zum Veröffentlichungsdatum.