Agentes · Cumplimiento · Borrador
Cómo hacer que un AI World funcione y cumpla
Dé una tarea a un agente y podrá leer lo que hizo. Dé a veinte agentes bucles de larga duración, varios hosts y un puñado de personas que deben seguir al mando, y nadie puede leerlo todo. El mundo se sostiene solo si se cumplen tres condiciones: cada acción tiene compuerta, cada agente está aislado y cada paso deja evidencia.
La buena noticia: son los mismos bloques de construcción. Los controles que hacen funcionar un mundo así son la evidencia que pide ver un auditor de cumplimiento. El cumplimiento no es un segundo sistema encima.
Una regla, cuatro capas
Cada capa parte de que la capa superior puede equivocarse, y limita hasta dónde puede llegar un error.
- Las personas son dueñas de las decisiones: aprueban los merges, fijan el alcance y aceptan el riesgo.
- Los agentes hacen el trabajo en bucles separados con reglas de progreso medibles.
- Los hosts y las plataformas están diseñados para ser pequeños, aislados y con lista de permitidos: sin puerto de entrada, con mensajes firmados.
- Evidencia: cada paso deja un registro que otra persona puede seguir.
Hacerlo funcionar: controles estrictos, no buenas intenciones
Núcleo e instancias. Un repositorio núcleo compartido; cada organización tiene su propia instancia. El trabajo llega rama por rama, de modo que nada cambia sobre la marcha.
Compuertas de revisión independiente. Un revisor queda ligado al commit exacto que revisó, de modo que lo revisado es lo que se publica. Un escaneo de marcadores impide que los datos de la organización se filtren al núcleo compartido. El responsable aprueba el merge.
Un agente de host diminuto (un diseño, aún no en uso). No contendría ningún modelo. Ejecutaría solo comandos de una lista de permitidos mediante git y mensajes firmados, y no escucharía en ningún puerto de entrada. Un agente manipulado encontraría casi nada a su alcance.
Cuatro bucles contra la deriva. El trabajo autónomo largo se desvía. Bucles separados, cada uno con una regla de progreso medible, lo mantienen en el camino.
Un mapa del mundo. Una vista general por zonas y con clics de agentes, hosts y plataformas está en desarrollo.
Trabajos pesados de uno en uno. Serializar el trabajo costoso mantiene predecibles los recursos compartidos.
Qué lleva compuerta y qué solo se registra
Decir que toda acción tiene compuerta sería incorrecto, y no funcionaría. Las compuertas se colocan según el tipo de acción.
Con compuerta, y una persona decide:
- todo lo que cambia el núcleo compartido,
- todo lo que sale hacia el exterior, como publicar, seguir, responder o enviar,
- los cambios en credenciales, permisos o listas de permitidos,
- cualquier paso que requiera un secreto.
Solo se registra, sin que nadie espere:
- leer y buscar,
- redactar en archivos locales,
- análisis, notas e informes.
El registro se revisa después. Leer y redactar es barato de deshacer, así que queda libre; la compuerta se reserva para lo que cuesta revertir.
Un límite: la fatiga de aprobación. Si todo pide aprobación, la gente deja de leer lo que aprueba y hace clic sin mirar. Una compuerta siempre abierta no protege nada. El remedio son menos compuertas, más claras, colocadas según el riesgo, cada una mostrando exactamente lo que se aprueba, y el resto confiado al registro.
Hacerlo conforme: los mismos controles, leídos como evidencia
| Bloque | Qué evidencia | Puntos de enlace con los marcos (orientativos) |
|---|---|---|
| Merge aprobado por el responsable | Una persona decide antes de que el cambio entre en producción | Gestión de cambios de ISO 27001; supervisión humana del EU AI Act (sistemas de alto riesgo); Govern de NIST AI RMF |
| Revisión independiente ligada a un commit | Separación de funciones; lo revisado es lo publicado | Desarrollo seguro de ISO 27001; gestión de cambios de SOC 2 |
| Aislamiento y listas de permitidos | Mínimo privilegio; radio de impacto limitado | Control de acceso y gestión de la configuración de ISO 27001; acceso lógico de SOC 2 |
| Mensajes firmados y registros | Quién hizo qué y cuándo | Registro de eventos de ISO 27001; conservación de registros del EU AI Act (sistemas de alto riesgo) |
| Registro de riesgos y seguimiento de tareas | Los riesgos conocidos tienen responsables y fechas | Tratamiento del riesgo de ISO 27001; ISO/IEC 42001; Map y Manage de NIST AI RMF |
| Seguimiento de la preparación | Las brechas frente al EU AI Act y el Cyber Resilience Act se ven pronto | EU AI Act; EU Cyber Resilience Act |
Estos puntos de enlace son orientativos; no son una afirmación de certificación ni asesoramiento jurídico.
Cómo empezar: cinco pasos
- Mapéelo. Enumere cada agente, host y plataforma, y a qué puede acceder cada uno. No se puede gobernar lo que no se ve.
- Aíslelo. Credenciales limitadas, sandboxes, listas de permitidos. Parta de que cualquier agente puede equivocarse o ser manipulado.
- Póngale compuerta. Revisión independiente y aprobación del responsable antes de que nada salga del sandbox.
- Regístrelo. Haga de la evidencia un subproducto: mensajes firmados, revisiones ligadas al commit, historial de tareas.
- Vincúlelo con los marcos. Relacione cada control con la expectativa a la que responde, siga la preparación y revise con un ritmo regular.