Mark Emelianov

Prezentacija · AI svet

Svet agenata koji radi i ostaje usklađen.

Mnogo AI agenata, mnogo hostova, mnogo ljudi: sve se drži na okupu samo ako je svaka bitna radnja pod kapijom (gate), izolovana i ostavlja dokaz.

Kako se takav svet gradi da radi i kako isti gradivni blokovi odgovaraju na ono što traže ISO 27001, EU AI Act i slični okviri.

01

Slika

Četiri sloja, jedno pravilo

Svaki sloj pretpostavlja da agent iznad njega može da pogreši i ograničava dokle greška može da dopre.

  1. LjudiPoseduju odluke: odobravaju merge, određuju obim, prihvataju rizik.
  2. AgentiRade posao u odvojenim petljama sa merljivim pravilima napretka.
  3. Hostovi i platformeMali, izolovani, na listi dozvoljenog: bez dolaznog porta, sa potpisanim porukama.
  4. DokazSvaki korak ostavlja zapis koji revizor može da prati.
Zone poverenja sveta agenata Tri zone sleva udesno: sandbox agenata sa ograničenim akreditivima, kapija sa pregledom, skeniranjem i odobrenjem vlasnika, i zajedničko jezgro. Ispod su mali hostovi do kojih se stiže samo preko komandi sa liste dozvoljenog i potpisanih poruka, bez dolaznog porta. Traka dokaza ispod beleži svaki prelaz. Sandboxagenti rade ovdeograničeni akreditivibez izlaza samostalno Kapijanezavisan pregledskeniranje markerimaodobrenje vlasnika Zajedničko jezgroizmene stižu grana po granajedna instanca po organizaciji Mali hostovi: komande sa liste dozvoljenog, potpisane poruke, bez dolaznog porta Dokaz: svaki prelaz ostavlja zapis koji neko drugi može da prati
Slika: zone poverenja sveta agenata, prikazane samo kroz uloge.

02

Neka radi

Čvrste kontrole, a ne dobre namere

Četiri robota kao uloge na putu kroz kapije: agent radi posao, pregledač je vezan za commit, skener blokira podatke organizacije, vlasnik odobrava merge. Svaki korak ostavlja zapis koji neko drugi može da prati.
Slika: uloge na putu kroz kapije, prikazane kao roboti.
Put kroz kapije od rada agenta do produkcije Pet koraka u nizu: agent radi na grani, nezavisan pregled vezan za tačan commit, skeniranje markerima koje blokira podatke organizacije, vlasnik odobrava merge, i svaki korak ostavlja zapis. Agentradi na grani Pregledativezan za commit Skeniranjeblokira podatke org. Vlasnikodobrava merge Zapisdokaz sačuvan Ništa ne stiže u produkciju bez prolaska kroz svaku kapiju Svaka strelica pretpostavlja da prethodni korak može da pogreši
Slika: put kroz kapije od rada agenta do produkcije.

Tema: rad agenata bez skretanja → Tema: čvrste kontrole →

03

Neka bude usklađeno

Iste kontrole, čitane kao dokaz

Usklađenost nije drugi sistem: kapije i zapisi zbog kojih svet radi jesu ono što revizori traže da vide.

Koji gradivni blok odgovara kom očekivanju (okvirno: ISO 27001:2022 Aneks A, kriterijumi SOC 2 i EU AI Act za visokorizične sisteme po analogiji)
Gradivni blokŠta dokazujeVeze sa okvirima
Merge uz odobrenje vlasnikaČovek odlučuje pre nego što izmena krene u radISO 27001 upravljanje izmenama; obrazac nadzora uporediv sa ljudskim nadzorom prema EU AI Act (visokorizični sistemi); NIST AI RMF Govern
Nezavisan pregled vezan za commitPodela dužnosti; ono što je pregledano jeste ono što je isporučenoISO 27001 bezbedan razvoj; SOC 2 upravljanje izmenama
Izolacija i liste dozvoljenogNajmanje privilegija; ograničen domet šteteISO 27001 kontrola pristupa i upravljanje konfiguracijom; SOC 2 logički pristup
Potpisane poruke i evidencijaSledljivost ko je šta uradio i kadaISO 27001 evidentiranje; uporedivo sa vođenjem zapisa prema EU AI Act (visokorizični sistemi)
Registar rizika i praćenje zadatakaPoznati rizici imaju vlasnike i rokoveISO 27001 postupanje sa rizicima; ISO/IEC 42001 sistem upravljanja veštačkom inteligencijom; NIST AI RMF Map i Manage
Praćenje spremnostiPraznine u odnosu na EU AI Act i Cyber Resilience Act vide se ranoEU AI Act; EU Cyber Resilience Act

Veze sa okvirima su okvirne; nisu tvrdnja o sertifikaciji niti pravni savet. Brojeve klauzula i datume primene proverite prema važećim tekstovima pre nego što se na njih oslonite.

04

Kako početi

Pet koraka

  1. Mapirajte

    Navedite svakog agenta, host i platformu i do čega svako može da dopre. Ne možete upravljati onim što ne vidite.

  2. Izolujte

    Ograničeni akreditivi, sandboxovi, liste dozvoljenog. Pretpostavite da svaki agent može da pogreši ili da bude izmanipulisan.

  3. Postavite kapiju

    Nezavisan pregled i odobrenje vlasnika pre nego što bilo šta napusti sandbox.

  4. Zabeležite

    Neka dokaz bude usputni proizvod: potpisane poruke, pregledi vezani za commit, istorija zadataka.

  5. Povežite sa okvirima

    Povežite svaku kontrolu sa očekivanjem na koje odgovara, pratite spremnost i pregledajte u redovnom ritmu.

Pročitajte članke → Ko stoji iza ovoga → Saradnja sa mnom →