Ein Forschungsprojekt von Frank Csehan
AgenticAEGIS
prüft Aktionen.
AEGIS steht für Architectural Ethics Guard for Intelligent Systems.
AgenticAEGIS prüft Aktionen und Pläne von KI-Agenten anhand formaler Regeln. Bevor ein Agent ein Werkzeug nutzt, fragt die aufrufende Software beim Guard an, ob die vorgesehene Aktion nach den für diesen Fall hinterlegten Regeln erlaubt ist.
01Regeln explizit formulieren
02Vor der Ausführung prüfen
03Entscheidungen begründen
01Regeln erstellen
Regeln im
Webeditor erstellen.
Du gibst im Webeditor eine Regel in eigenen Worten ein. Daraus entwirft ein lokales Sprachmodell strukturierte Vorschläge, die der Editor in die Regelsprache MELD übersetzt und dir als Entwürfe für die fachliche Prüfung vorlegt.
DEVOPS / NEUE REGELN
Regeln beschreiben
- 1Beschreiben
- 2Übersetzen
- 3Prüfen & freigeben
1(aegis-schema-version 1)2(case DevOpsDeonticRulesMt)34(permittedToDo-WRT5 DevSecOps opencodeAgent6 (readFile sourceFile))78(forbiddenToDo-WRT9 DevSecOps opencodeAgent10 (readFile sensitiveConfig))Die Animation zeigt zwei Regelentwürfe aus der DevOps-Domain und ruft kein Modell auf. Nach der fachlichen Prüfung und den Tests gibst du den Entwurf im Webeditor frei und aktivierst die freigegebene Fassung anschließend in einem eigenen Schritt für die Runtime des Editors.
Quellcode auf GitHub02Vor jeder Aktion
Aktionen
vorab prüfen.
Der Guard wertet die Regeln deterministisch aus. PERMITTED gibt den Werkzeugaufruf frei. FORBIDDEN bezeichnet ein Verbot, UNDECIDABLE eine Anfrage, über die der Guard nicht entscheiden konnte.
BEISPIELAKTION WÄHLEN
PERMITTED
Die DevOps-Regelbasis erlaubt dem Agenten, diese Quelldatei zu lesen.
(permittedToDo-WRT DevSecOps opencodeAgent (readFile
sourceFile))Diese Beispiele zeigen fest vorgegebene Ergebnisse. Im Einsatz ordnet die aufrufende Software reale Werkzeugaufrufe den Aktionen in der Regelbasis zu und fragt den Guard vor jedem Aufruf, ob diese Aktion erlaubt ist. Bei FORBIDDEN oder UNDECIDABLE muss sie den Aufruf blockieren. Aufrufe am Guard vorbei werden nicht geprüft.
03Den ganzen Plan prüfen
Reihenfolge
im Plan prüfen.
Selbst wenn Build, Test und Deploy jeweils erlaubt sind, verletzt ein Plan die gezeigte Regel, sobald er das Deployment vor dem Test des Artefakts vorsieht.
Der Agent oder ein anderes Programm liefert den Plan. Weitere Planregeln betreffen die Zahl der Aktionen, Zeitvorgaben und Vorbedingungen.
(obligateSequence
testArtifact deployArtifact)Reihenfolge verletzt. testArtifact muss vor deployArtifact stehen.
Das Beispiel prüft nur die Reihenfolge. Die übrigen Regeln und Vorbedingungen müssen ebenfalls erfüllt sein, bevor der Guard den Plan freigibt.
04Zum Projekt
Beiträge zu AgenticAEGIS
Wenn die KI die Regeln schreibt
Wie aus einer fachlichen Vorgabe eine formal prüfbare Regel wird.
Artikel lesenDer Algorithmus: Wie DDIC Konflikte löst
DDIC prüft, welche der widersprüchlichen Regeln Vorrang hat.
Artikel lesenWo der Agent die Wand berührt
Die Prüfung am Übergang vom Agenten zum Werkzeug.
Artikel lesenForschung mit offenem Quellcode
Quellcode und Beispiele
AgenticAEGIS ist ein Forschungsprototyp. Auf GitHub findest du den Quellcode und die MELD-Dateien der Beispiele.
Projekt auf GitHub