Agents · Compliance · Concept
Hoe u een AI World laat werken en compliant houdt
Geef één agent een taak en u kunt lezen wat ze deed. Geef twintig agents langlopende lussen, meerdere hosts en een handvol mensen die de leiding moeten houden, en niemand kan alles nog lezen. De wereld houdt alleen stand als drie dingen waar zijn: elke actie wordt afgeschermd met een poort, elke agent is geïsoleerd en elke stap laat bewijs achter.
Het goede nieuws: het zijn dezelfde bouwstenen. De beheersmaatregelen die zo'n wereld laten werken, zijn het bewijs dat een compliance-auditor wil zien. Compliance is geen tweede systeem bovenop het eerste.
Eén regel, vier lagen
Elke laag gaat ervan uit dat de laag erboven zich kan vergissen, en beperkt wat een fout kan bereiken.
- Mensen hebben de besluiten in handen: ze keuren merges goed, bepalen de reikwijdte en aanvaarden risico's.
- Agents doen het werk in afzonderlijke lussen met meetbare voortgangsregels.
- Hosts en platforms zijn ontworpen om klein, geïsoleerd en voorzien van een toestaanlijst te zijn: geen inkomende poort, ondertekende berichten.
- Bewijs: elke stap laat een spoor achter dat iemand anders kan volgen.
Laten werken: harde beheersmaatregelen, geen goede bedoelingen
Kern en instanties. Eén gedeelde kernrepository; elke organisatie krijgt een eigen instantie. Het werk komt branch voor branch binnen, zodat er niets ter plaatse verandert.
Onafhankelijke reviewpoorten. Een reviewer is gebonden aan de exacte commit die ze heeft beoordeeld, zodat wat is beoordeeld ook is wat wordt opgeleverd. Een markeringsscan blokkeert dat organisatiegegevens in de gedeelde kern lekken. De eigenaar keurt de merge goed.
Een kleine hostagent (een ontwerp, nog niet in gebruik). Ze zou geen model bevatten. Ze zou alleen commando's op een toestaanlijst uitvoeren, via git en ondertekende berichten, en op geen enkele inkomende poort luisteren. Een gemanipuleerde agent zou er bijna niets te bereiken vinden.
Vier lussen tegen afdrijven. Langdurig autonoom werk dwaalt af. Afzonderlijke lussen, elk met een meetbare voortgangsregel, houden het op koers.
Een kaart van de wereld. Een gezoneerd, aanklikbaar overzicht van agents, hosts en platforms is in ontwikkeling.
Zware taken één voor één. Dure taken na elkaar uitvoeren houdt gedeelde middelen voorspelbaar.
Wat een poort heeft en wat alleen wordt gelogd
Zeggen dat elke actie een poort heeft, zou onjuist zijn, en het zou niet werken. De poorten worden geplaatst per soort actie.
Met poort, waarbij een persoon beslist:
- alles wat de gedeelde kern wijzigt,
- alles wat naar buiten gaat, zoals plaatsen, volgen, antwoorden of versturen,
- wijzigingen in toegangsgegevens, rechten of toestaanlijsten,
- elke stap waarvoor een geheim nodig is.
Alleen gelogd, zonder dat iemand wacht:
- lezen en zoeken,
- concepten opstellen in lokale bestanden,
- analyses, notities en verslagen.
Het logboek wordt achteraf bekeken. Lezen en concepten zijn goedkoop terug te draaien en blijven daarom vrij; de poort is bewaard voor wat moeilijk terug te nemen is.
Een grens: goedkeuringsmoeheid. Als alles om goedkeuring vraagt, houden mensen op te lezen wat ze goedkeuren en klikken ze door. Een poort die altijd openstaat, beschermt niets. De remedie is minder en duidelijkere poorten, geplaatst op basis van risico, die elk precies tonen wat wordt goedgekeurd, terwijl de rest aan het logboek wordt overgelaten.
Compliant maken: dezelfde beheersmaatregelen, gelezen als bewijs
| Bouwsteen | Wat het aantoont | Aanknopingspunten in raamwerken (indicatief) |
|---|---|---|
| Merge goedgekeurd door de eigenaar | Een mens beslist voordat een wijziging live gaat | ISO 27001 wijzigingsbeheer; EU AI Act menselijk toezicht (hoogrisicosystemen); NIST AI RMF Govern |
| Onafhankelijke review gebonden aan een commit | Functiescheiding; beoordeeld is gelijk aan opgeleverd | ISO 27001 veilige ontwikkeling; SOC 2-wijzigingsbeheer |
| Isolatie en toegestane lijsten | Minimale rechten; beperkte impact bij een fout | ISO 27001 toegangsbeheer en configuratiebeheer; SOC 2 logische toegang |
| Ondertekende berichten en logs | Wie deed wat, wanneer | ISO 27001 logging; EU AI Act registratieplicht (hoogrisicosystemen) |
| Risicoregister en taakopvolging | Bekende risico's hebben eigenaars en data | ISO 27001 risicobehandeling; ISO/IEC 42001; NIST AI RMF Map en Manage |
| Opvolging van gereedheid | Hiaten ten opzichte van de EU AI Act en de Cyber Resilience Act zijn vroeg zichtbaar | EU AI Act; EU Cyber Resilience Act |
Deze aanknopingspunten zijn indicatief en vormen geen certificeringsclaim of juridisch advies.
Hoe u begint: vijf stappen
- Breng het in kaart. Som elke agent, host en elk platform op, en wat elk kan raken. U kunt niet besturen wat u niet ziet.
- Isoleer het. Beperkte toegangsgegevens, sandboxes, toestaanlijsten. Ga ervan uit dat elke agent zich kan vergissen of gemanipuleerd kan worden.
- Scherm het af met een poort. Onafhankelijke review en goedkeuring door de eigenaar voordat iets de sandbox verlaat.
- Leg het vast. Maak bewijs een bijproduct: ondertekende berichten, aan de commit gebonden reviews, taakgeschiedenis.
- Koppel het aan raamwerken. Verbind elke beheersmaatregel met de verwachting waarop ze een antwoord is, volg de gereedheid en toets in een vast ritme.