Sieben Prinzipien
Die Methode hinter allem auf dieser Website: KI-Agenten so betreiben, dass Fehler klein bleiben, und dieselben Kontrollen die Nachweise liefern lassen, die Compliance braucht. Für einen ersten Schritt siehe Zusammenarbeit.
Agenten werden sich irren.
Gehen Sie davon aus, dass jeder Agent sich irren oder manipuliert werden kann, und gestalten Sie so, dass ein Fehler nicht weit reichen kann.
Sicherheitskritische Systeme werden so gebaut. Die Frage ist nicht, ob ein Agent irrt, sondern was der Fehler berühren darf.
Was es kostet. Aufwand für Kontrollen gegen Fehler, die vielleicht nie eintreten, und stellenweise langsamere Arbeit.
Artikel: eine AI World zum Funktionieren bringen und konform haltenDas Gate-Labor ausprobieren
Harte Kontrollen schlagen gute Absichten.
Sandboxing, Isolation und begrenzte Zugangsdaten schützen mehr als Prompts oder Anweisungsdateien.
Eine Regel in einem Prompt bittet einen Agenten, sich korrekt zu verhalten. Eine Kontrolle, die in den Betrieb des Agenten eingebaut ist, bittet nicht. Behandeln Sie Agenten als fähige, aber fehlbare Akteure.
Was es kostet. Weniger Freiheit für den Agenten: Was eine Kontrolle verbietet, braucht einen Menschen oder eine neue Regel.
Thema: harte Kontrollen zuerstEntwurf: der winzige Host-Agent
Gaten, isolieren, aufzeichnen.
Nichts Wichtiges ändert sich ohne Gate; was getrennt bleiben muss, bleibt getrennt; jeder Schritt hinterlässt eine Aufzeichnung, der jemand anderes folgen kann.
Dieselben drei Kontrollen gelten im Web, im Unternehmen und im Labor, das die Agenten baut. Ein Gate ist ein unabhängiges Review, das an die exakte Änderung gebunden ist, plus eine Person, die es freigibt.
Was es kostet. Verzögerung und Freigabemüdigkeit. Gaten Sie die folgenreichen Aktionen und protokollieren Sie den Rest.
Artikel: drei Ebenen, ein Satz KontrollenProjekt: Kern und InstanzenProjekt: Review- und Merge-Gates
Menschen verantworten Entscheidungen und Nachweise.
Agenten erledigen die Fleißarbeit; Menschen entscheiden und verantworten die Nachweise.
Die eigene Zusammenfassung eines Agenten sind Daten, kein Beweis. Prüfen Sie sie gegen das führende System, bevor Sie sie weitergeben, und lassen Sie jede Entscheidung bei einer Person, die dazu befragt werden kann.
Was es kostet. Menschen werden zum Engpass: Die Zeit des Owners bestimmt das Tempo.
Compliance ist ein Nebenprodukt guter Arbeit.
Betriebliche Nachweise sollten aus der Arbeit selbst entstehen, damit ihr Sammeln und Prüfen automatisiert werden kann.
Wenn die Kontrollen, die ein System am Laufen halten, dieselben sind, die ein Auditor sehen will, ist Compliance kein zweites System obendrauf mehr. Geltungsbereich, Risikobereitschaft und Verantwortung bleiben bei Menschen.
Was es kostet. Automatisches Sammeln ersetzt nicht das Urteil über Geltungsbereich und Risiko.
Leitfaden: die Wege zur ComplianceThema: Compliance als AutomatisierungPräsentation: die AI World
Beziehungen sind Daten.
Eine Anforderung, eine Kontrolle, ihr Nachweis, ein Risiko und eine Feststellung gehören als verknüpfte Datensätze mit Historie zusammen.
Schreiben Sie eine Kontrolle einmal und verknüpfen Sie sie mit jeder Anforderung, die sie beantwortet; eine Lücke zeigt sich als Anforderung ohne Kontrolle dahinter. Halten Sie Änderungen als Ereignisse fest, damit sich die Vergangenheit nachlesen lässt.
Was es kostet. Verknüpfungen müssen gepflegt werden, und eine veraltete Verknüpfung ist schlimmer als eine veraltete Zeile.
Artikel: Compliance als GraphProjekt: eine GRC-Plattform auf einem Graphen
Die Methode zeigen, nicht den Aufbau.
Die Methode wird offen geteilt; Namen, Hosts und Unternehmensdaten nicht.
Alles, was nicht von uns ist, ist ein Link, keine Datei. Was gezeigt wird, kann man prüfen und daraus lernen; was privat ist, bleibt privat, und nichts wird öffentlich, bevor sein Owner den exakten Text freigegeben hat.
Was es kostet. Leser können nicht prüfen, was sie nicht sehen; Vertrauen beruht daher auf der Methode und auf Nachweisen, die auf anderem Weg geteilt werden.
Die Bibliothek: Links, keine DateienThema: Daten innerhalb von Grenzen
Wo das nicht mehr trägt
Kein Satz von Kontrollen beseitigt diese Risiken. Dieser Ansatz verringert sie.
- Ein Agent kann innerhalb dessen, was er darf, weiterhin in die Irre geführt werden. Ein Gate begrenzt den Schaden; es macht den Agenten nicht richtig.
- Reviewer und Scanner können irren oder umgangen werden. Ein Marker-Scan übersieht, wofür er nicht gebaut wurde.
- Wer alles freigibt, liest irgendwann nicht mehr. Gaten Sie die folgenreichen Aktionen und protokollieren Sie den Rest.
- Funktionstrennung braucht echte Unabhängigkeit: Wer eine Änderung schreibt, darf sie nicht freigeben.
- Dem System, das die Nachweise aufzeichnet, muss ebenfalls vertraut werden. Unabhängige Stichproben und manipulationssichere Aufzeichnungen verringern diese Abhängigkeit; sie beseitigen sie nicht.
- Ein Entwurf im Labor ist keine Betriebsumgebung. Sagen Sie, was was ist.
Begriffe, die hier verwendet werden
- Agent
- Software, die im Auftrag von jemandem handelt und ein Sprachmodell nutzt, um ihre Schritte zu bestimmen.
- Gate
- Ein Punkt, an dem eine Änderung anhält, bis eine unabhängige Prüfung und eine Person sie freigeben.
- Isolation
- Getrennt halten, was getrennt bleiben muss: Zugangsdaten, Umgebungen, Daten.
- Nachweis
- Aufzeichnungen darüber, was geschah und wer entschied, standardmäßig geführt.
- Allowlist
- Eine kurze Liste der einzigen Dinge, die eine Komponente tun darf. Alles andere wird abgelehnt.
- Marker-Scan
- Eine automatische Prüfung, die eine Änderung blockiert, wenn sie Daten enthält, die nicht hinaus dürfen.
- Graph
- Miteinander verknüpfte Datensätze, sodass auch die Beziehungen Daten sind.
- Projektion
- Der Teil des Graphen, der einer Person gezeigt wird, bestimmt durch ihre Rolle.
- Kern und Instanz
- Ein gemeinsamer Werkzeugbestand und für jede Organisation eine eigene Arbeitskopie.
- Agentic Web
- Das Web, wie es von Software-Agenten im Auftrag von Menschen genutzt wird.
- Dev-Lab
- Die Umgebung, in der Agenten gebaut und betrieben werden.