Agenti · Usklađenost · Nacrt
Kako napraviti da AI svet radi i ostane usklađen
Dajte jednom agentu zadatak i možete da pročitate šta je uradio. Dajte dvadesetorici dugotrajne petlje, nekoliko hostova i šačicu ljudi koji moraju ostati zaduženi, i niko ne može da pročita sve. Svet se drži na okupu samo ako su tri stvari istinite: svaka radnja je iza kapije, svaki agent je izolovan i svaki korak ostavlja dokaz.
Dobra vest: to su isti gradivni elementi. Kontrole zbog kojih takav svet radi jesu dokazi koje revizor usklađenosti traži da vidi. Usklađenost nije drugi sistem povrh toga.
Jedno pravilo, četiri sloja
Svaki sloj pretpostavlja da sloj iznad njega može da pogreši i ograničava do čega greška može da dopre.
- Ljudi poseduju odluke: odobravaju spajanja, određuju obim i prihvataju rizik.
- Agenti rade posao u odvojenim petljama sa merljivim pravilima napretka.
- Hostovi i platforme su projektovani da budu mali, izolovani i sa listom dozvola: bez dolaznog porta, sa potpisanim porukama.
- Dokaz: svaki korak ostavlja zapis koji neko drugi može da prati.
Da bi radilo: čvrste kontrole, a ne dobre namere
Jezgro i instance. Jedan zajednički repozitorijum jezgra; svaka organizacija dobija sopstvenu instancu. Rad stiže granu po granu, tako da se ništa ne menja na licu mesta.
Nezavisne kapije recenzije. Recenzent je vezan za tačan commit koji je pregledao, pa je ono što je pregledano ono što se isporučuje. Skeniranje markera blokira curenje podataka organizacije u zajedničko jezgro. Spajanje odobrava vlasnik.
Sićušan host agent (projekat, još nije u upotrebi). Ne bi sadržao model. Izvršavao bi samo komande sa liste dozvola preko gita i potpisanih poruka, i ne bi slušao ni na jednom dolaznom portu. Izmanipulisani agent našao bi gotovo ništa do čega može da dopre.
Četiri petlje protiv odstupanja. Dugotrajan autonoman rad luta. Odvojene petlje, svaka sa merljivim pravilom napretka, drže ga na putu.
Mapa sveta. Zonirani pregled agenata, hostova i platformi na koji se može kliknuti je u izradi.
Teški poslovi jedan po jedan. Serijalizacija skupog rada održava zajedničke resurse predvidivim.
Šta je iza kapije, a šta se samo beleži
Tvrditi da je svaka radnja iza kapije bilo bi netačno, a i ne bi funkcionisalo. Kapije se postavljaju prema vrsti radnje.
Iza kapije, uz osobu koja odlučuje:
- sve što menja zajedničko jezgro,
- sve što ide prema spolja, poput objavljivanja, praćenja, odgovaranja ili slanja,
- izmene kredencijala, dozvola ili lista dozvola,
- svaki korak kojem je potrebna tajna.
Samo se beleži, bez ikoga ko čeka:
- čitanje i pretraga,
- izrada nacrta u lokalnim datotekama,
- analiza, beleške i izveštaji.
Dnevnik se pregleda naknadno. Čitanje i nacrte je lako poništiti, pa ostaju slobodni; kapija se čuva za ono što je teško vratiti.
Ograničenje: zamor od odobravanja. Ako sve traži odobrenje, ljudi prestanu da čitaju šta odobravaju i samo klikću. Kapija koja je uvek otvorena ne štiti ništa. Lek su manje i jasnije kapije, postavljene prema riziku, od kojih svaka prikazuje tačno ono što se odobrava, dok ostalo prepuštamo dnevniku.
Da bude usklađeno: iste kontrole, čitane kao dokaz
| Gradivni blok | Šta dokazuje | Veze sa okvirima (okvirno) |
|---|---|---|
| Merge uz odobrenje vlasnika | Čovek odlučuje pre nego što izmena krene u rad | ISO 27001 upravljanje promenama; EU AI Act ljudski nadzor (sistemi visokog rizika); NIST AI RMF Govern |
| Nezavisan pregled vezan za commit | Podela dužnosti; pregledano jednako isporučeno | ISO 27001 bezbedan razvoj; SOC 2 upravljanje izmenama |
| Izolacija i liste dozvoljenog | Najmanje privilegija; ograničen domet štete | ISO 27001 kontrola pristupa i upravljanje konfiguracijom; SOC 2 logički pristup |
| Potpisane poruke i evidencija | Ko je šta uradio i kada | ISO 27001 evidentiranje; EU AI Act vođenje evidencije (sistemi visokog rizika) |
| Registar rizika i praćenje zadataka | Poznati rizici imaju vlasnike i rokove | ISO 27001 tretman rizika; ISO/IEC 42001; NIST AI RMF Map i Manage |
| Praćenje spremnosti | Praznine u odnosu na EU AI Act i Cyber Resilience Act vide se rano | EU AI Act; EU Cyber Resilience Act |
Ove veze su okvirne, nisu tvrdnja o sertifikaciji niti pravni savet.
Kako početi: pet koraka
- Mapirajte. Navedite svakog agenta, host i platformu i čega se svaki može dotaći. Ne možete upravljati onim što ne vidite.
- Izolujte. Ograničeni kredencijali, izolovana okruženja, liste dozvola. Pretpostavite da svaki agent može da pogreši ili da bude izmanipulisan.
- Postavite kapiju. Nezavisna recenzija i odobrenje vlasnika pre nego što bilo šta napusti izolovano okruženje.
- Zabeležite. Učinite dokaz usputnim proizvodom: potpisane poruke, recenzije vezane za commit, istorija zadataka.
- Povežite sa okvirima. Povežite svaku kontrolu sa očekivanjem na koje odgovara, pratite spremnost i pregledajte u ritmu.