Serie: Gobernanza en la era de la IA 

En nuestro artículo anterior, delineamos un panorama que, para muchos líderes de riesgo, puede resultar inquietante. Examinamos cómo la empresa agéntica trae nuevos tipos de riesgo: desde el exceso de agencia y la automatización que no se ve, hasta la amenaza general de comportamientos que surgen. Hemos concluido que los tradicionales marcos de control, diseñados para software estático, son insuficientes frente a algoritmos que razonan y actúan de forma autónoma.

Ante este escenario, es natural que los Directores de Auditoría (CAE) se pregunten, “Si las metodologías de ayer ya no nos protegen, ¿cómo comenzamos a construir las de mañana? ¿Por dónde empezamos a auditar lo imprevisible?"

La excelente noticia es que no tenemos que reinventar la rueda; solo necesitamos reinterpretarla y aplicarla con un rigor sin precedentes. La confianza digital en la era de la IA agéntica no se decreta por mandato corporativo ni se asume por la buena reputación de nuestro proveedor tecnológico. La confianza se diseña, se orquesta y se operacionaliza.

Para lograrlo, la función de auditoría moderna debe anclarse en los nuevos estándares globales y, posteriormente, traducirlos en un modelo táctico de evaluación.

Los cimientos normativos

Cuando nos enfrentamos a una tecnología disruptiva, el primer paso para mitigar el pánico operativo es adoptar un lenguaje común y una estructura de gobernanza probada. Dos pilares fundamentales han emergido a nivel global para guiar a las organizaciones en este complejo viaje.

1. ISO/IEC 42001: El Sistema de Gestión de IA (AIMS)

Publicado a finales de 2023, el estándar ISO/IEC 42001 (Artificial Intelligence Management System) es el primer marco certificable del mundo para sistemas de gestión de IA. A diferencia de las normativas que regulan la seguridad de la información tradicional (como la ISO 27001), este estándar está diseñado específicamente para abordar los desafíos éticos, de transparencia y de adaptabilidad continua que exige la inteligencia artificial.

Para un auditor interno en una empresa agéntica, el valor de la ISO 42001 reside en dos requerimientos críticos:

• La Evaluación de Impacto de IA (AIA): Antes de que un agente autónomo sea desplegado para negociar contratos o ajustar precios, la organización debe haber documentado exhaustivamente el impacto potencial de sus decisiones.
• El Inventario Dinámico de Agentes: Históricamente, TI mantenía un inventario de software o hardware. En los tiempos actuales, sería recomendable que el auditor solicite un inventario de roles agénticos, respetando límites y responsabilidades. ¿Cuántos "empleados digitales" tienen capacidad de decisión en este momento? ¿Qué límites jurisdiccionales tienen dentro de la empresa? Sin este inventario, auditar la IA es caminar sin ver hacia dónde se dirige.

2. NIST AI RMF (Risk Management Framework)

Mientras que la ISO proporciona el marco de gestión corporativa, el NIST AI RMF (Risk Management Framework del Instituto Nacional de Estándares y Tecnología de EE. UU.) nos brinda la anatomía funcional para gestionar el riesgo en la práctica.

Este marco se divide en cuatro funciones centrales: Map (Mapear), Measure (Medir), Manage (Gestionar) y Govern (Gobernar). En el contexto de la acción autónoma, el auditor debe utilizar el NIST RMF para exigir métricas comprobables de confiabilidad y explicabilidad.

Pensemos en el problema de la "caja negra". Si un agente autónomo de abastecimiento decide cancelar un pedido de un proveedor habitual y dárselo a uno nuevo en Asia, usando predicciones sobre el riesgo, ¿puede el sistema recrear el pensamiento matemático y lógico que motivó esa decisión? Si un regulador toca a nuestra puerta mañana, ¿podemos explicar la decisión de la máquina? El NIST nos respalda normativamente para exigir que solo se pongan en producción los modelos que pueden ser auditados semánticamente.

3. COSO IC GenAI

Para mejorar la gestión corporativa y de riesgos, conviene incorporar el lenguaje natural utilizado por los auditores. Recientemente, se ha publicado la guía de COSO sobre Control Interno sobre IA Generativa (COSO IC GenAI).

Este marco une la nueva tecnología con las normas tradicionales de auditoría. Adapta los cinco elementos básicos del control interno (Entorno de Control, Evaluación de Riesgos, Actividades de Control, Información y Comunicación, y Monitoreo) al contexto de los modelos generativos y agénticos.

Los 3 pilares de la IA agéntica

Tener el respaldo de la ISO y el NIST es crucial en la Junta Directiva, pero los auditores de campo necesitan un enfoque práctico para desarmar y evaluar un sistema autónomo. Para auditar eficazmente a un "agente", debemos deconstruirlo en sus tres componentes fundamentales: su capacidad de pensar, su capacidad de recordar y su capacidad de actuar.

Propongo a las funciones de Auditoría Interna adoptar el marco de evaluación de tres pilares: Sabiduría, Conocimiento y Acción.

Pilar 1: Sabiduría (El razonamiento del modelo)

Este pilar evalúa el "motor cerebral" del agente. Se refiere a la habilidad del modelo básico (LLM/LMM) para entender un problema difícil, dividirlo en tareas más pequeñas (descomposición de tareas) y analizar las opciones de manera lógica antes de tomar una decisión.

• ¿Dónde están los riesgos? El modelo puede sufrir "alucinaciones" durante cadenas de pensamiento prolongadas, llegando a conclusiones lógicas impecables pero basadas en premisas falsas o sesgadas.
• El Punto de Control del Auditor: Debemos auditar las instrucciones base del sistema (los System Prompts) que dictan las directrices éticas de la máquina. Además, debemos rsería conveniente que los equipos de ingeniería realizaranos de Red Teaming algorítmico. Esto significa simular ataques maliciosos o escenarios de estrés extremo de manera intencional para ver si la lógica del agente se quiebra o si logra mantener sus restricciones de seguridad (Guardrails).

Pilar 2: Conocimiento (El conocimiento y el contexto)

Por más inteligente que sea el motor de razonamiento (Conocimiento), un agente será inútil —o peligroso— si no tiene acceso al contexto interno de la empresa. Este pilar evalúa la "memoria" del agente, que normalmente se implementa mediante bases de datos. Estas bases de datos permiten que el modelo revise manuales, historiales financieros o políticas de la empresa antes de tomar una decisión. Este proceso se llama RAG, que significa Retrieval-Augmented Generation.

• ¿Dónde están los riesgos? Si un empleado humano malicioso altera un documento interno de políticas financieras, el agente leerá esa información corrupta y tomará decisiones perjudiciales creyendo que está cumpliendo las reglas. A esto se le llama "envenenamiento de datos" (Data Poisoning). Otro riesgo masivo es la falta de segregación: un agente diseñado para redactar reportes operativos no debería poder "leer" la base de datos de salarios de la junta directiva.
• El Punto de Control del Auditor: El auditor debe verificar la integridad y seguridad de los datos que alimentan al agente. Es imperativo auditar la Seguridad a Nivel de Registros (Row-Level Security). La identidad de la máquina debe estar sometida a los mismos controles de confidencialidad que un usuario humano de alto perfil.

Pilar 3: Acción (La ejecución y uso de herramientas)

Este es el pilar más crítico para el riesgo sistémico. El pilar de "Acción" representa las "manos" del agente: sus capacidades para interactuar con otras aplicaciones, enviar correos electrónicos, modificar bases de datos, aprobar transacciones o firmar contratos de forma autónoma a través de integraciones de software (APIs).

• ¿Dónde están los riesgos? Un agente que solo "piensa" y "lee" puede equivocarse, pero el daño se limita a la pantalla de un usuario. Un agente que "actúa" de forma autónoma y se equivoca puede transferir fondos, borrar bases de datos o desencadenar una crisis de relaciones públicas en milisegundos.
• El Punto de Control del Auditor: Aquí es donde entra en juego la arquitectura de confianza cero (Zero-Trust). El auditor debe exigir que la capa de "razonamiento" esté estrictamente segregada de la capa de "ejecución de transacciones críticas". Cada vez que el agente intente usar sus "manos" para ejecutar una acción, el sistema debe autenticar criptográficamente la identidad de la máquina y verificar si esa acción específica está dentro de sus límites de autoridad preaprobados.

Preparando el terreno para el futuro

Al diseccionar la IA agéntica en Wisdom, Knowledge y Action, el auditor interno desmitifica la "caja negra" de la inteligencia artificial. Ya no estamos intentando auditar magia algorítmica incomprensible; estamos auditando reglas de lógica, controles de acceso a datos y políticas de ejecución de transacciones, disciplinas en las que nuestra profesión es experta indiscutible.

Armados con la legitimidad de estándares globales como la ISO 42001 y un marco táctico de 3 pilares, los auditores pueden sentarse a la mesa de innovación corporativa no como detractores o bloqueadores. En cambio, pueden ser los ingenieros de control que aseguran que el vehículo de la IA corra rápido porque tiene frenos excelentes.

Pero, ¿cómo se cuantifica exactamente el valor de este esfuerzo? En el quinto y último artículo de esta serie, abordaremos la "Hoja de Ruta hacia la Visión 2035 del IIA". Presentaremos la nueva Ecuación del Valor de la Auditoría y revelaremos un checklist definitivo de controles críticos (como los "Kill Switches" y el HITL dinámico) que todo líder de riesgos debe exigir por diseño para sobrevivir en la era de la empresa agentica.