Sju principer
Metoden bakom allt på den här webbplatsen: kör AI-agenter så att misstag förblir små, och låt samma kontroller ge det underlag som regelefterlevnad kräver. Som ett första steg, se Arbeta med mig.
Agenter kommer att ha fel.
Utgå från att varje agent kan ha fel eller bli manipulerad, och utforma så att ett misstag inte kan nå långt.
Säkerhetskritiska system byggs så här. Frågan är inte om en agent gör fel utan vad felet får beröra.
Vad det kostar. Arbete med kontroller för fel som kanske aldrig kommer, och långsammare arbete på sina håll.
Artikel: få en AI World att fungera och förbli regelefterlevandeProva portlabbet
Hårda kontroller slår goda avsikter.
Sandlådor, isolering och begränsade behörigheter skyddar mer än promptar eller instruktionsfiler.
En regel i en prompt ber en agent att uppföra sig. En kontroll som är inbyggd i hur agenten körs ber inte. Behandla agenter som kapabla men felbara operatörer.
Vad det kostar. Mindre frihet för agenten: det en kontroll förbjuder kräver en person eller en ny regel.
Sätt portar, isolera, för register.
Inget viktigt ändras utan en port; det som ska hållas isär hålls isär; varje steg lämnar ett register som någon annan kan följa.
Samma tre kontroller gäller på webben, inom ett företag och i labbet där agenterna byggs. En port är en oberoende granskning knuten till exakt den aktuella ändringen, plus en person som godkänner den.
Vad det kostar. Fördröjning och godkännandetrötthet. Sätt portar på de konsekvensfulla åtgärderna och logga resten.
Artikel: tre lager, en uppsättning kontrollerProjekt: kärna och instanserProjekt: granskningsportar och sammanfogningsportar
Människor äger besluten och underlaget.
Agenter gör grovjobbet; människor beslutar och äger underlaget.
En agents egen sammanfattning är data, inte bevis. Kontrollera den mot källsystemet innan den upprepas, och låt varje beslut ligga hos en person som går att fråga om det.
Vad det kostar. Människor blir flaskhalsen: ägarens tid sätter takten.
Regelefterlevnad är en biprodukt av gott arbete.
Operativt underlag bör komma ur själva arbetet, så att insamling och kontroll kan automatiseras.
När de kontroller som får ett system att fungera är desamma som en revisor ber att få se är regelefterlevnad inte längre ett andra system ovanpå. Omfattning, riskaptit och ansvar ligger kvar hos människor.
Vad det kostar. Automatisk insamling ersätter inte omdömet om omfattning och risk.
Guide: vägarna till regelefterlevnadTema: regelefterlevnad som automationPresentation: AI World
Relationer är data.
Ett krav, en kontroll, dess underlag, en risk och en avvikelse hör ihop som länkade poster med en historik.
Skriv en kontroll en gång och länka den till varje krav den besvarar; en lucka syns som ett krav utan något bakom sig. Registrera ändringar som händelser, så att det förflutna kan läsas tillbaka.
Vad det kostar. Länkar kräver underhåll, och en inaktuell länk är värre än en inaktuell rad.
Artikel: regelefterlevnad som grafProjekt: en GRC-plattform på en enda graf
Visa metoden, inte uppsättningen.
Metoden delas öppet; namn, värdar och företagsdata delas inte.
Allt som inte är vårt är en länk, inte en fil. Det som visas kan kontrolleras och läras av; det privata förblir privat, och inget blir offentligt innan ägaren har godkänt den exakta texten.
Vad det kostar. Läsare kan inte kontrollera det de inte ser, så förtroendet vilar på metoden och på underlag som delas på andra sätt.
Där det slutar fungera
Ingen uppsättning kontroller tar bort dessa risker. Metoden minskar dem.
- En agent kan fortfarande föras vilse inom det den får göra. En port begränsar skadan; den gör inte agenten riktig.
- Granskare och skannrar kan ha fel eller kringgås. En markörskanning missar det den inte byggdes för att leta efter.
- Den som godkänner allt slutar läsa. Sätt portar på de konsekvensfulla åtgärderna och logga resten.
- Uppdelning av ansvar kräver verkligt oberoende: den som skriver en ändring får inte godkänna den.
- Systemet som registrerar underlaget måste också vara tillförlitligt. Oberoende stickprov och manipulationssäkra register minskar det beroendet; de tar inte bort det.
- En design i ett labb är inte en driftmiljö. Säg vilket som är vilket.
Ord som används här
- Agent
- Programvara som agerar för någons räkning och använder en språkmodell för att bestämma sina steg.
- Port
- En punkt där en ändring stannar tills en oberoende kontroll och en person godkänner den.
- Isolering
- Att hålla isär det som måste hållas isär: behörigheter, miljöer, data.
- Underlag
- Register över vad som hände och vem som beslutade, förda som standard.
- Tillåtelselista
- En kort lista över det enda en komponent får göra. Allt annat nekas.
- Markörskanning
- En automatisk kontroll som stoppar en ändring när den innehåller data som inte får lämna organisationen.
- Graf
- Poster som är länkade till varandra, så att även relationerna är data.
- Projektion
- Den del av grafen som en person får se, bestämd av personens roll.
- Kärna och instans
- En gemensam uppsättning verktyg och en separat arbetskopia för varje organisation.
- Agentic Web
- Webben så som den används av programvaruagenter som agerar för människors räkning.
- Utvecklingslabb
- Miljön där agenter byggs och körs.