Agenter · Compliance · Utkast
Så får man en AI World att fungera och förbli regelefterlevande
Ge en agent en uppgift så kan du läsa vad den gjorde. Ge tjugo agenter långvariga slingor, flera värdar och en handfull människor som måste förbli ansvariga, så kan ingen läsa allt. Världen håller ihop bara om tre saker stämmer: varje åtgärd går genom en grind, varje agent är isolerad och varje steg lämnar bevis.
Det goda är att det är samma byggstenar. De kontroller som får en sådan värld att fungera är det underlag som en revisor ber att få se. Compliance är inte ett andra system ovanpå.
En regel, fyra lager
Varje lager utgår från att lagret ovanför kan ha fel, och begränsar vad ett misstag kan nå.
- Människor äger besluten: de godkänner sammanslagningar, sätter omfattningen och accepterar risk.
- Agenter gör arbetet i separata slingor med mätbara framstegsregler.
- Värdar och plattformar är utformade för att vara små, isolerade och ha tillåtelselista: ingen inkommande port, signerade meddelanden.
- Bevis: varje steg lämnar en post som någon annan kan följa.
Att få det att fungera: hårda kontroller, inte goda föresatser
Kärna och instanser. Ett delat kärnrepositorium; varje organisation får sin egen instans. Arbetet kommer in gren för gren, så ingenting ändras på plats.
Oberoende granskningsgrindar. En granskare är bunden till den exakta commit den granskade, så det som granskades är det som levereras. En markörskanning blockerar att organisationsdata läcker in i den delade kärnan. Ägaren godkänner sammanslagningen.
En liten värdagent (en design, ännu inte i bruk). Den skulle inte innehålla någon modell. Den skulle bara köra kommandon på tillåtelselistan, över git och signerade meddelanden, och inte lyssna på någon inkommande port. En manipulerad agent skulle hitta nästan ingenting att nå.
Fyra slingor mot avdrift. Långt autonomt arbete vandrar iväg. Separata slingor, var och en med en mätbar framstegsregel, håller det på spåret.
En karta över världen. En zonindelad, klickbar översikt över agenter, värdar och plattformar är under utveckling.
Tunga jobb ett i taget. Att köra dyrt arbete i serie gör delade resurser förutsägbara.
Vad som grindas och vad som bara loggas
Att säga att varje åtgärd grindas vore fel, och det skulle inte fungera. Grindarna placeras efter typ av åtgärd.
Grindas, med en människa som beslutar:
- allt som ändrar den delade kärnan,
- allt som går utåt, som att publicera, följa, svara eller skicka,
- ändringar av inloggningsuppgifter, behörigheter eller tillåtelselistor,
- varje steg som kräver en hemlighet.
Bara loggas, utan att någon väntar:
- läsning och sökning,
- utkast i lokala filer,
- analys, anteckningar och rapporter.
Loggen granskas i efterhand. Läsningar och utkast är billiga att ångra, så de får vara fria; grinden sparas för det som är svårt att ta tillbaka.
En gräns: godkännandetrötthet. Om allt ber om godkännande slutar människor läsa det de godkänner och klickar sig igenom. En grind som alltid står öppen skyddar ingenting. Botemedlet är färre, tydligare grindar, placerade efter risk, som var och en visar exakt vad som godkänns, medan resten lämnas åt loggen.
Att göra det compliant: samma kontroller, lästa som bevis
| Byggsten | Vad den ger bevis för | Kopplingar till ramverk (vägledande) |
|---|---|---|
| Sammanslagning godkänd av ägaren | En människa beslutar innan en ändring går live | ISO 27001 ändringshantering; EU AI Act mänsklig tillsyn (högrisksystem); NIST AI RMF Govern |
| Oberoende granskning knuten till en incheckning | Åtskillnad av arbetsuppgifter; granskat är detsamma som levererat | ISO 27001 säker utveckling; SOC 2 ändringshantering |
| Isolering och tillåtelselistor | Minsta möjliga behörighet; begränsad skadeverkan | ISO 27001 åtkomstkontroll och konfigurationshantering; SOC 2 logisk åtkomst |
| Signerade meddelanden och loggar | Vem gjorde vad, och när | ISO 27001 loggning; EU AI Act journalföring (högrisksystem) |
| Riskregister och uppgiftsspårning | Kända risker har ägare och datum | ISO 27001 riskbehandling; ISO/IEC 42001; NIST AI RMF Map och Manage |
| Uppföljning av beredskap | Luckor mot EU AI Act och Cyber Resilience Act syns tidigt | EU AI Act; EU Cyber Resilience Act |
Dessa kopplingar är vägledande, inte ett påstående om certifiering eller juridisk rådgivning.
Så kommer du igång: fem steg
- Kartlägg det. Lista varje agent, värd och plattform, och vad var och en kan röra vid. Man kan inte styra det man inte ser.
- Isolera det. Begränsade inloggningsuppgifter, sandlådor, tillåtelselistor. Utgå från att varje agent kan ha fel eller bli manipulerad.
- Sätt en grind på det. Oberoende granskning och ett godkännande från ägaren innan något lämnar sandlådan.
- Registrera det. Gör bevis till en biprodukt: signerade meddelanden, commit-bundna granskningar, uppgiftshistorik.
- Koppla det till ramverk. Länka varje kontroll till det förväntade krav den besvarar, följ beredskapen och granska i en jämn takt.