Agenten · Compliance · Entwurf
Wie man eine AI World zum Laufen bringt und konform hält
Wer einem Agenten eine Aufgabe gibt, kann nachlesen, was er getan hat. Wer zwanzig Agenten langlaufende Schleifen gibt, dazu mehrere Hosts und eine Handvoll Menschen, die weiter die Verantwortung behalten müssen, kann nicht mehr alles lesen. Die Welt hält nur zusammen, wenn drei Dinge zutreffen: Jede Aktion durchläuft ein Gate, jeder Agent ist isoliert, und jeder Schritt hinterlässt einen Nachweis.
Die gute Nachricht: Es sind dieselben Bausteine. Die Kontrollen, die eine solche Welt funktionieren lassen, sind der Nachweis, den ein Compliance-Prüfer sehen will. Compliance ist kein zweites System obendrauf.
Eine Regel, vier Ebenen
Jede Ebene geht davon aus, dass die darüberliegende Ebene sich irren kann, und begrenzt, was ein Fehler erreichen kann.
- Menschen besitzen die Entscheidungen: Sie geben Merges frei, legen den Umfang fest und akzeptieren Risiken.
- Agenten erledigen die Arbeit in getrennten Schleifen mit messbaren Fortschrittsregeln.
- Hosts und Plattformen sind darauf ausgelegt, klein, isoliert und per Allow-List begrenzt zu sein: kein eingehender Port, signierte Nachrichten.
- Nachweis: Jeder Schritt hinterlässt eine Aufzeichnung, der jemand anderes folgen kann.
Es zum Laufen bringen: harte Kontrollen, keine guten Absichten
Core und Instanzen. Ein gemeinsames Core-Repository; jede Organisation erhält eine eigene Instanz. Arbeit trifft Branch für Branch ein, sodass sich nichts an Ort und Stelle ändert.
Unabhängige Prüf-Gates. Ein Prüfer ist an genau den Commit gebunden, den er geprüft hat, sodass ausgeliefert wird, was geprüft wurde. Ein Marker-Scan verhindert, dass Organisationsdaten in den gemeinsamen Core gelangen. Der Owner gibt den Merge frei.
Ein winziger Host-Agent (ein Entwurf, noch nicht im Einsatz). Er würde kein Modell enthalten. Er würde nur Allow-List-Befehle über git und signierte Nachrichten ausführen und an keinem eingehenden Port lauschen. Ein manipulierter Agent fände dort fast nichts, was er erreichen könnte.
Vier Schleifen gegen Drift. Lange autonome Arbeit schweift ab. Getrennte Schleifen, jede mit einer messbaren Fortschrittsregel, halten sie auf Kurs.
Eine Karte der Welt. Eine in Zonen gegliederte, anklickbare Übersicht über Agenten, Hosts und Plattformen ist in Entwicklung.
Schwere Aufträge nacheinander. Aufwendige Arbeit zu serialisieren hält gemeinsame Ressourcen berechenbar.
Was ein Gate durchläuft und was nur protokolliert wird
Zu sagen, jede Aktion durchlaufe ein Gate, wäre falsch, und es würde nicht funktionieren. Die Gates richten sich nach der Art der Aktion.
Mit Gate, ein Mensch entscheidet:
- alles, was den gemeinsamen Core ändert,
- alles, was nach außen geht, etwa Veröffentlichen, Folgen, Antworten oder Senden,
- Änderungen an Zugangsdaten, Berechtigungen oder Allow-Listen,
- jeder Schritt, der ein Geheimnis braucht.
Nur protokolliert, ohne dass jemand wartet:
- Lesen und Suchen,
- Entwerfen in lokalen Dateien,
- Analysen, Notizen und Berichte.
Das Protokoll wird anschließend geprüft. Lesen und Entwürfe lassen sich leicht rückgängig machen, daher bleiben sie frei; das Gate ist für das reserviert, was sich schwer zurücknehmen lässt.
Eine Grenze: Freigabemüdigkeit. Wenn alles um Freigabe bittet, lesen Menschen nicht mehr, was sie freigeben, und klicken sich durch. Ein Gate, das immer offen ist, schützt nichts. Das Gegenmittel sind weniger, klarere Gates, nach Risiko gesetzt, die jeweils genau zeigen, was freigegeben wird, während der Rest dem Protokoll überlassen bleibt.
Es konform machen: dieselben Kontrollen, als Nachweis gelesen
| Baustein | Was er belegt | Anknüpfungspunkte zu Rahmenwerken (Richtwerte) |
|---|---|---|
| Vom Owner genehmigter Merge | Ein Mensch entscheidet, bevor eine Änderung live geht | ISO 27001 Änderungsmanagement; EU AI Act menschliche Aufsicht (Hochrisiko-Systeme); NIST AI RMF Govern |
| Unabhängige, an einen Commit gebundene Prüfung | Funktionstrennung; geprüft heißt ausgeliefert | ISO 27001 sichere Entwicklung; SOC 2 Änderungsmanagement |
| Isolation und Allow-Lists | Minimale Rechte; begrenzter Schadensradius | ISO 27001 Zugangssteuerung und Konfigurationsmanagement; SOC 2 logischer Zugriff |
| Signierte Nachrichten und Protokolle | Wer hat wann was getan | ISO 27001 Protokollierung; EU AI Act Aufzeichnungspflichten (Hochrisiko-Systeme) |
| Risikoregister und Aufgabenverfolgung | Bekannte Risiken haben Verantwortliche und Termine | ISO 27001 Risikobehandlung; ISO/IEC 42001; NIST AI RMF Map und Manage |
| Verfolgung der Readiness | Lücken gegenüber dem EU AI Act und dem Cyber Resilience Act werden früh sichtbar | EU AI Act; EU Cyber Resilience Act |
Diese Anknüpfungspunkte sind Richtwerte, keine Zertifizierungsaussage und keine Rechtsberatung.
So fängt man an: fünf Schritte
- Erfassen. Jeden Agenten, jeden Host und jede Plattform auflisten und festhalten, was sie jeweils berühren können. Was man nicht sieht, kann man nicht steuern.
- Isolieren. Begrenzte Zugangsdaten, Sandboxes, Allow-Listen. Davon ausgehen, dass sich jeder Agent irren oder manipuliert werden kann.
- Mit Gate versehen. Unabhängige Prüfung und Freigabe durch den Owner, bevor etwas die Sandbox verlässt.
- Aufzeichnen. Nachweise zum Nebenprodukt machen: signierte Nachrichten, Commit-gebundene Prüfungen, Aufgabenverlauf.
- Auf Rahmenwerke abbilden. Jede Kontrolle mit der Erwartung verknüpfen, die sie beantwortet, die Readiness verfolgen und in einem festen Rhythmus prüfen.