Zeven principes
De methode achter alles op deze site: zet AI-agents zo in dat fouten klein blijven, en laat dezelfde beheersmaatregelen het bewijs opleveren dat compliance nodig heeft. Voor een eerste stap, zie Samenwerken.
Agents zullen fouten maken.
Ga ervan uit dat elke agent fout kan zitten of gemanipuleerd kan worden, en ontwerp zo dat een fout niet ver kan reiken.
Veiligheidskritieke systemen worden zo gebouwd. De vraag is niet of een agent zich vergist, maar waaraan de fout mag raken.
Wat het kost. Inspanning voor beheersmaatregelen tegen fouten die misschien nooit komen, en op sommige plaatsen trager werk.
Artikel: een AI World laten werken en compliant houdenProbeer het poortlab
Harde beheersmaatregelen winnen het van goede bedoelingen.
Sandboxing, isolatie en beperkte toegangsgegevens beschermen meer dan prompts of instructiebestanden.
Een regel in een prompt vraagt een agent zich te gedragen. Een beheersmaatregel die in de werking van de agent is ingebouwd, vraagt niets. Behandel agents als capabele maar feilbare uitvoerders.
Wat het kost. Minder vrijheid voor de agent: wat een beheersmaatregel verbiedt, vraagt een persoon of een nieuwe regel.
Thema: eerst harde beheersmaatregelenOntwerp: de kleine host-agent
Poort, isoleer, leg vast.
Niets belangrijks verandert zonder poort; wat gescheiden moet blijven, blijft gescheiden; elke stap laat een registratie na die iemand anders kan volgen.
Dezelfde drie beheersmaatregelen gelden op het web, binnen een onderneming en in het lab waar de agents worden gebouwd. Een poort is een onafhankelijke review, gebonden aan de exacte wijziging, plus een persoon die ze goedkeurt.
Wat het kost. Vertraging en goedkeuringsmoeheid. Zet poorten op de ingrijpende handelingen en log de rest.
Artikel: drie lagen, één set beheersmaatregelenProject: core en instantiesProject: review- en mergepoorten
Mensen zijn eigenaar van beslissingen en bewijs.
Agents doen het voorwerk; mensen beslissen en zijn eigenaar van het bewijs.
De eigen samenvatting van een agent is data, geen bewijs. Controleer ze tegen het systeem van registratie voordat u ze herhaalt, en laat elke beslissing bij een persoon die erover aangesproken kan worden.
Wat het kost. Mensen worden de bottleneck: de tijd van de eigenaar bepaalt het tempo.
Compliance is een bijproduct van goed werk.
Operationeel bewijs hoort uit het werk zelf te komen, zodat het verzamelen en controleren ervan geautomatiseerd kan worden.
Wanneer de beheersmaatregelen die een systeem laten werken dezelfde zijn die een auditor wil zien, is compliance geen tweede systeem meer bovenop het eerste. Reikwijdte, risicobereidheid en verantwoordelijkheid blijven bij mensen.
Wat het kost. Automatisch verzamelen vervangt het oordeel over reikwijdte en risico niet.
Gids: de wegen naar complianceThema: compliance als automatiseringPresentatie: de AI World
Relaties zijn gegevens.
Een vereiste, een beheersmaatregel, het bewijs ervoor, een risico en een bevinding horen bij elkaar als gekoppelde registraties met een geschiedenis.
Schrijf een beheersmaatregel één keer en koppel hem aan elke vereiste waarop hij een antwoord is; een hiaat zie je als een vereiste zonder iets erachter. Leg wijzigingen vast als gebeurtenissen, zodat het verleden teruggelezen kan worden.
Wat het kost. Koppelingen vragen onderhoud, en een verouderde koppeling is erger dan een verouderde rij.
Artikel: compliance als graafProject: een GRC-platform op één graaf
Toon de methode, niet de opzet.
De methode wordt openlijk gedeeld; namen, hosts en bedrijfsgegevens niet.
Alles wat niet van ons is, is een link, geen bestand. Wat getoond wordt, kan gecontroleerd worden en er kan van geleerd worden; wat privé is, blijft privé, en niets wordt openbaar voordat de eigenaar de exacte tekst heeft goedgekeurd.
Wat het kost. Lezers kunnen niet controleren wat ze niet kunnen zien, dus vertrouwen rust op de methode en op bewijs dat op andere wijze wordt gedeeld.
De bibliotheek: links, geen bestandenThema: gegevens binnen grenzen
Waar dit ophoudt te werken
Geen enkel geheel van beheersmaatregelen neemt deze risico’s weg. Deze aanpak beperkt ze.
- Een agent kan nog altijd misleid worden binnen wat hij mag doen. Een poort beperkt de schade; ze maakt de agent niet correct.
- Reviewers en scanners kunnen zich vergissen of omzeild worden. Een markeringsscan mist wat hij niet is gebouwd om te zoeken.
- Wie alles goedkeurt, leest niet meer. Zet poorten op ingrijpende handelingen en log de rest.
- Functiescheiding vraagt echte onafhankelijkheid: wie een wijziging schrijft, mag haar niet goedkeuren.
- Ook het systeem dat het bewijs vastlegt, moet vertrouwd kunnen worden. Onafhankelijke steekproeven en manipulatiebestendige registraties verminderen die afhankelijkheid; ze nemen haar niet weg.
- Een ontwerp in een lab is geen productieomgeving. Zeg welke van de twee het is.
Gebruikte woorden
- Agent
- Software die namens iemand handelt en een taalmodel gebruikt om haar stappen te bepalen.
- Poort
- Een punt waar een wijziging stopt tot een onafhankelijke controle en een persoon haar goedkeuren.
- Isolatie
- Gescheiden houden wat gescheiden moet blijven: toegangsgegevens, omgevingen, gegevens.
- Bewijs
- Registraties van wat er gebeurde en wie beslist heeft, standaard bewaard.
- Toelatingslijst
- Een korte lijst van de enige dingen die een component mag doen. Al het andere wordt geweigerd.
- Markeringsscan
- Een automatische controle die een wijziging blokkeert wanneer ze gegevens bevat die niet naar buiten mogen.
- Graaf
- Registraties die met elkaar verbonden zijn, zodat ook de relaties gegevens zijn.
- Projectie
- Het deel van de graaf dat een persoon te zien krijgt, bepaald door zijn rol.
- Core en instantie
- Eén gedeelde set tooling, en een aparte werkkopie voor elke organisatie.
- Agentic Web
- Het web zoals softwareagents het gebruiken wanneer ze voor mensen handelen.
- Dev-lab
- De omgeving waar agents worden gebouwd en uitgevoerd.