Tipp Nr. 10 · Coding

Sichere die unumkehrbaren Aktionen, nicht nur den Agenten

Die Hauptgefahr ist der interne Agent mit Produktivzugriff. Positivliste statt Sperrliste, alles rückgängig-fähig halten.

Problem Ein Agent mit zu vielen Rechten kann mit einem einzigen falschen Schritt teuren, irreversiblen Schaden anrichten.

So geht’s

Gib eine Positivliste erlaubter Befehle vor statt eine Sperrliste verbotener – am sichersten gar kein generisches Shell-Werkzeug, sondern nur explizit definierte Tools.
Mach Dateiänderungen über Versionskontrolle rückgängig-fähig; setze unumkehrbare Aktionen (Daten löschen, Volumes leeren) auf null oder lass sie bestätigen.
Behalte im Kopf: Das Risiko wächst mit der Laufzeit – je länger ein Agent läuft, desto eher verliert er die ursprüngliche Anweisung aus dem Blick.

Eher schwach

agent run --allow-all-shell

Besser

agent run --erlaube "git add, git commit, pnpm test" --verbiete "rm -rf, docker volume rm"