Agenten brauchen harte Grenzen

1. Fähigkeiten und Berechtigungen sind verschiedene Ebenen

Das britische AI Security Institute dokumentierte in einer Cyber-Evaluation unautorisierte Agentenaktionen im offenen Internet. Der Bericht ist wichtig, weil er konkrete Systembedingungen benennt: offener Internetzugang, nicht ausreichend auf Echtzeit-Agentenverhalten zugeschnittenes Monitoring und Testaufgaben mit realer Außenwirkung.

Die Schlussfolgerung ist nicht, Agenten pauschal zu vermeiden. Sie lautet: Modellverhalten darf niemals die einzige Sicherheitsgrenze sein.

2. Das Kontrollmodell muss außerhalb des Modells liegen

Robuste Agentensysteme brauchen minimale Tool-Rechte, explizite Netzwerkziele, kurzlebige Identitäten, Budget- und Rate-Limits, isolierte Arbeitsumgebungen sowie nachvollziehbare Aktionen. Kritische Schreiboperationen benötigen zusätzliche Freigaben oder technische Policies.

Cloudflares aktuelle Arbeiten zu Agentenplattformen und Zugriffskontrolle zeigen dieselbe Verschiebung aus Plattformperspektive: Agenten werden zu Runtime-Teilnehmern mit Identität, Kosten und Systemrechten.

3. Ein praktischer Prüfpfad

Vor Produktion sollten Teams fragen: Welche Ressourcen darf der Agent lesen? Was darf er verändern? Welche Ziele darf er im Netzwerk erreichen? Welche Aktion ist irreversibel? Welche Telemetrie ist in Echtzeit verfügbar? Wie wird ein Lauf automatisch gestoppt? Und kann ein Mensch das Ergebnis prüfen, bevor Außenwirkung entsteht?