# Generando confianza en IA agéntica mediante marcos de gobernanza

- Link: https://auditoriainteligente.com/generando-confianza-en-ia-agentica-mediante-marcos-de-gobernanza/
- Published: 2026-08-17T00:25:08-04:00
- Author: Christian Vargas

**_Serie: Gobernanza en la era de la IA _**

**TL;DR**

Las organizaciones requieren nuevos marcos de gobernanza para auditar la inteligencia
artificial agéntica ante la insuficiencia de controles tradicionales. Los estándares
globales como ISO/IEC 42001, NIST AI RMF y COSO IC GenAI ofrecen marcos para manejar
riesgos éticos, garantizar la claridad y ajustar el control interno a modelos autónomos.

Un modelo táctico basado en razonamiento, conocimiento y acción permite evaluar 
de forma integral a los agentes digitales. La auditoría debe centrarse en las reglas
lógicas, la integridad de los datos contextuales y la realización segura de transacciones
utilizando arquitecturas de confianza cero para disminuir los riesgos operativos
sistémicos.

En [nuestro artículo anterior,](https://auditoriainteligente.com/el-nuevo-mapa-de-riesgos-de-la-ia-agentica/)
delineamos un panorama que, para muchos líderes de riesgo, puede resultar inquietante.
Examinamos cómo la empresa agéntica trae nuevos tipos de riesgo: desde el exceso
de agencia y la automatización que no se ve, hasta la amenaza general de comportamientos
que surgen. Hemos concluido que los tradicionales marcos de control, diseñados para
software estático, son insuficientes frente a algoritmos que razonan y actúan de
forma autónoma.

Ante este escenario, es natural que los Directores de Auditoría (CAE) se pregunten,“
Si las metodologías de ayer ya no nos protegen, ¿cómo comenzamos a construir las
de mañana?_ ¿Por dónde empezamos a auditar lo imprevisible?"_

La excelente noticia es que no tenemos que reinventar la rueda; solo necesitamos
reinterpretarla y aplicarla con un rigor sin precedentes. La confianza digital en
la era de la IA agéntica no se decreta por mandato corporativo ni se asume por la
buena reputación de nuestro proveedor tecnológico. **La confianza se diseña, se 
orquesta y se operacionaliza.**

Para lograrlo, la función de auditoría moderna debe anclarse en los nuevos estándares
globales y, posteriormente, traducirlos en un modelo táctico de evaluación.

## Los cimientos normativos

Cuando nos enfrentamos a una tecnología disruptiva, el primer paso para mitigar 
el pánico operativo es adoptar un lenguaje común y una estructura de gobernanza 
probada. Dos pilares fundamentales han emergido a nivel global para guiar a las 
organizaciones en este complejo viaje.

#### 1. ISO/IEC 42001: El Sistema de Gestión de IA (AIMS)

Publicado a finales de 2023, el [estándar ISO/IEC 42001 (Artificial Intelligence Management System)](https://www.iso.org/standard/81230.html)
es el primer marco certificable del mundo para sistemas de gestión de IA. A diferencia
de las normativas que regulan la seguridad de la información tradicional (como la
ISO 27001), este estándar está diseñado específicamente para abordar los desafíos
éticos, de transparencia y de adaptabilidad continua que exige la inteligencia artificial.

Para un auditor interno en una empresa agéntica, el valor de la ISO 42001 reside
en dos requerimientos críticos:

 * **La Evaluación de Impacto de IA (AIA):** Antes de que un agente autónomo sea
   desplegado para negociar contratos o ajustar precios, la organización debe haber
   documentado exhaustivamente el impacto potencial de sus decisiones.
 * **El Inventario Dinámico de Agentes:** Históricamente, TI mantenía un inventario
   de _software_ o _hardware_. En los tiempos actuales, sería recomendable que el
   auditor solicite un inventario de roles agénticos, respetando límites y responsabilidades.¿
   Cuántos "empleados digitales" tienen capacidad de decisión en este momento? ¿
   Qué límites jurisdiccionales tienen dentro de la empresa? Sin este inventario,
   auditar la IA es caminar sin ver hacia dónde se dirige.

#### 2. NIST AI RMF (Risk Management Framework)

Mientras que la ISO proporciona el marco de gestión corporativa, el [NIST AI RMF (Risk Management Framework del Instituto Nacional de Estándares y Tecnología de EE. UU.)](https://www.nist.gov/itl/ai-risk-management-framework)
nos brinda la anatomía funcional para gestionar el riesgo en la práctica.

Este marco se divide en cuatro funciones centrales: _Map_ (Mapear), _Measure_ (Medir),
_Manage_ (Gestionar) y _Govern_ (Gobernar). En el contexto de la acción autónoma,
el auditor debe utilizar el NIST RMF para exigir métricas comprobables de **confiabilidad**
y **explicabilidad**.

Pensemos en el problema de la "caja negra". Si un agente autónomo de abastecimiento
decide cancelar un pedido de un proveedor habitual y dárselo a uno nuevo en Asia,
usando predicciones sobre el riesgo, _¿puede el sistema recrear el pensamiento matemático
y lógico que motivó esa decisión?_ Si un regulador toca a nuestra puerta mañana,¿
podemos explicar la decisión de la máquina? El NIST nos respalda normativamente 
para exigir que solo se pongan en producción los modelos que **pueden ser auditados
semánticamente**.

#### 3. COSO IC GenAI

Para mejorar la gestión corporativa y de riesgos, conviene incorporar el lenguaje
natural utilizado por los auditores. Recientemente, se ha publicado la guía de [COSO sobre Control Interno sobre IA Generativa (COSO IC ](https://ab5bd07f-8066-4a33-869e-6f82d80ee59a.filesusr.com/ugd/719ba0_08f358f2c8f946fa9d26bd51d37b7117.pdf)
[GenAI](https://ab5bd07f-8066-4a33-869e-6f82d80ee59a.filesusr.com/ugd/719ba0_08f358f2c8f946fa9d26bd51d37b7117.pdf)
[)](https://ab5bd07f-8066-4a33-869e-6f82d80ee59a.filesusr.com/ugd/719ba0_08f358f2c8f946fa9d26bd51d37b7117.pdf).

Este marco une la nueva tecnología con las normas tradicionales de auditoría. Adapta
los cinco elementos básicos del control interno (Entorno de Control, Evaluación 
de Riesgos, Actividades de Control, Información y Comunicación, y Monitoreo) al 
contexto de los modelos generativos y agénticos.

## Los 3 pilares de la IA agéntica

![Persona armando un rompecabezas con iconos de gobernanza y seguridad que rodean
un núcleo de inteligencia artificial.](https://auditoriainteligente.com/wp-content/
uploads/2026/08/gobernanza_ia_4_imagen2-1024x579.png)

Tener el respaldo de la ISO y el NIST es crucial en la Junta Directiva, pero los
auditores de campo necesitan un enfoque práctico para desarmar y evaluar un sistema
autónomo. Para auditar eficazmente a un "agente", debemos deconstruirlo en sus tres
componentes fundamentales: su capacidad de pensar, su capacidad de recordar y su
capacidad de actuar.

Propongo a las funciones de Auditoría Interna adoptar el marco de evaluación de 
tres pilares: **Sabiduría, Conocimiento y Acción.**

#### Pilar 1: Sabiduría (El razonamiento del modelo)

Este pilar evalúa el "motor cerebral" del agente. Se refiere a la habilidad del 
modelo básico (LLM/LMM) para entender un problema difícil, dividirlo en tareas más
pequeñas (descomposición de tareas) y analizar las opciones de manera lógica antes
de tomar una decisión.

 * **¿Dónde están los riesgos?** El modelo puede sufrir "alucinaciones" durante 
   cadenas de pensamiento prolongadas, llegando a conclusiones lógicas impecables
   pero basadas en premisas falsas o sesgadas.
 * **El Punto de Control del Auditor:** Debemos auditar las instrucciones base del
   sistema (los _System Prompts_) que dictan las directrices éticas de la máquina.
   Además, debemos rsería conveniente que los equipos de ingeniería realizaranos
   de **_Red Teaming_**** algorítmico**. Esto significa simular ataques maliciosos
   o escenarios de estrés extremo de manera intencional para ver si la lógica del
   agente se quiebra o si logra mantener sus restricciones de seguridad (_Guardrails_).

#### Pilar 2: Conocimiento (El conocimiento y el contexto)

Por más inteligente que sea el motor de razonamiento (Conocimiento), un agente será
inútil —o peligroso— si no tiene acceso al contexto interno de la empresa. Este 
pilar evalúa la "memoria" del agente, que normalmente se implementa mediante bases
de datos. Estas bases de datos permiten que el modelo revise manuales, historiales
financieros o políticas de la empresa antes de tomar una decisión. Este proceso 
se llama _RAG_, que significa _Retrieval-Augmented Generation._

 * **¿Dónde están los riesgos?** Si un empleado humano malicioso altera un documento
   interno de políticas financieras, el agente leerá esa información corrupta y 
   tomará decisiones perjudiciales creyendo que está cumpliendo las reglas. A esto
   se le llama "envenenamiento de datos" (_Data Poisoning_). Otro riesgo masivo 
   es la falta de segregación: un agente diseñado para redactar reportes operativos
   no debería poder "leer" la base de datos de salarios de la junta directiva.
 * **El Punto de Control del Auditor:** El auditor debe verificar la integridad 
   y seguridad de los datos que alimentan al agente. Es imperativo auditar la **
   Seguridad a Nivel de Registros (Row-Level Security)**. La identidad de la máquina
   debe estar sometida a los mismos controles de confidencialidad que un usuario
   humano de alto perfil.

#### Pilar 3: Acción (La ejecución y uso de herramientas)

Este es el pilar más crítico para el riesgo sistémico. El pilar de "Acción" representa
las "manos" del agente: sus capacidades para interactuar con otras aplicaciones,
enviar correos electrónicos, modificar bases de datos, aprobar transacciones o firmar
contratos de forma autónoma a través de integraciones de software (APIs).

 * **¿Dónde están los riesgos?** Un agente que solo "piensa" y "lee" puede equivocarse,
   pero el daño se limita a la pantalla de un usuario. Un agente que "actúa" de 
   forma autónoma y se equivoca puede transferir fondos, borrar bases de datos o
   desencadenar una crisis de relaciones públicas en milisegundos.
 * **El Punto de Control del Auditor:** Aquí es donde entra en juego la **arquitectura
   de confianza cero (Zero-Trust)**. El auditor debe exigir que la capa de "razonamiento"
   esté estrictamente segregada de la capa de "ejecución de transacciones críticas".
   Cada vez que el agente intente usar sus "manos" para ejecutar una acción, el 
   sistema debe autenticar criptográficamente la identidad de la máquina y verificar
   si esa acción específica está dentro de sus límites de autoridad preaprobados.

## Preparando el terreno para el futuro

Al diseccionar la IA agéntica en Wisdom, Knowledge y Action, el auditor interno 
desmitifica la "caja negra" de la inteligencia artificial. Ya no estamos intentando
auditar magia algorítmica incomprensible; estamos auditando reglas de lógica, controles
de acceso a datos y políticas de ejecución de transacciones, disciplinas en las 
que nuestra profesión es experta indiscutible.

Armados con la legitimidad de estándares globales como la ISO 42001 y un marco táctico
de 3 pilares, los auditores pueden sentarse a la mesa de innovación corporativa 
no como detractores o bloqueadores. En cambio, pueden ser los ingenieros de control
que aseguran que el vehículo de la IA corra rápido porque tiene frenos excelentes.

_Pero, ¿cómo se cuantifica exactamente el valor de este esfuerzo? En el quinto y
último artículo de esta serie, abordaremos la "Hoja de Ruta hacia la Visión 2035
del IIA". Presentaremos la nueva Ecuación del Valor de la Auditoría y revelaremos
un checklist definitivo de controles críticos (como los "Kill Switches" y el HITL
dinámico) que todo líder de riesgos debe exigir por diseño para sobrevivir en la
era de la empresa agentica._
