La frontera importante no separa el software antiguo del nuevo. Separa el software que recomienda una acción del que puede ejecutarla. En cuanto un sistema de IA puede planificar, invocar herramientas, modificar registros o activar un flujo de trabajo, revisar únicamente la aplicación deja de ser suficiente. La empresa también necesita derechos de decisión, supervisión, gestión de excepciones y responsabilidad operativa sobre el ciclo completo de la acción.
El trabajo de OWASP sobre amenazas agénticas publicado en febrero de 2025 fue una señal temprana de este cambio. El problema es más amplio que la inyección de prompts o la fuga de datos, porque un agente puede combinar instrucciones, datos, credenciales y herramientas hasta producir un efecto operativo. La seguridad de aplicaciones de siempre sigue siendo necesaria, pero no responde quién aprobó la acción ni qué debe ocurrir cuando el agente se encuentra con una excepción desconocida.
Un modelo viable se apoya en las vías respaldadas que ofrece la ingeniería de plataformas, la infraestructura que sostiene la IA empresarial y un enfoque disciplinado para gestionar la incertidumbre y los guardrails en la nube.
De responder a actuar
Para entender el alcance del cambio hay que distinguir entre un chatbot y un agente. Un chatbot responde; se detiene cuando termina la conversación o concluye el prompt. Un agente planifica: inicia secuencias, utiliza herramientas externas, consume datos, ejecuta acciones y gestiona excepciones por su cuenta. Esa capacidad convierte a TI, que deja de limitarse a prestar apoyo, en participante activo de las operaciones del negocio.
Cuando una aplicación se limita a recuperar información, la persona sigue siendo quien toma las decisiones principales a lo largo del ciclo. El riesgo permanece dentro de los límites de la intención del usuario. Cuando un agente actúa a partir de esa intención —para pedir inventario, negociar contratos o automatizar comprobaciones de cumplimiento—, la persona se aleja del plano de control inmediato. Se abre entonces una brecha en la que el gobierno tradicional falla: ya no hay alguien dentro del ciclo que pueda detectar los errores en tiempo real.
El perfil de IA generativa que NIST publicó en julio de 2024 aplica las funciones Govern, Map, Measure y Manage durante todo el ciclo de vida. En un sistema agéntico, ese trabajo debe abarcar también la autoridad delegada, el acceso a herramientas, las aprobaciones, la supervisión y la recuperación. Aunque actúe el software, el negocio sigue necesitando un responsable con nombre y apellidos cuando el sistema se equivoca o rebasa sus límites previstos.
El ciclo de autonomía y los derechos de decisión
Un agente autónomo recorre un ciclo concreto: identifica una intención, selecciona herramientas, consume datos, ejecuta acciones y gestiona excepciones. En cada etapa hay un posible punto de fallo que exige supervisión humana. Si el sistema da por sentado que siempre habrá criterio humano disponible de inmediato, terminará fallando: ninguna persona puede responder al instante a todas las anomalías.
De ahí surge la necesidad de una nueva estructura de derechos de decisión. Debemos definir con claridad qué decisiones pueden tomarse de forma autónoma y cuáles requieren aprobación humana. Esto suele conducir a niveles de autonomía. En el nivel uno, un agente podría realizar sin intervención tareas de bajo impacto, como programar reuniones o dar formato a documentos. El nivel dos podría permitir acciones hasta cierto umbral económico o de riesgo, con aprobación previa y ejecución posterior por el agente. El nivel tres abarcaría decisiones de alto impacto que deben escalarse a una persona en tiempo real antes de actuar.
Estos niveles permiten hablar de la tensión con precisión. Demasiada autoridad puede exponer datos, gastar dinero o cambiar un sistema de negocio sin una vía adecuada de recuperación. Demasiado poca puede dejar un flujo caro que no aporta ninguna ventaja frente a la automatización convencional. El límite apropiado depende de las consecuencias, la reversibilidad y la calidad de las pruebas disponibles en el momento de actuar.
Supervisión y gestión de excepciones
El aspecto más crítico de un modelo operativo agéntico es cómo gestiona las excepciones. En los sistemas tradicionales, un mensaje de error detiene el proceso o avisa a un administrador. En un entorno agéntico, la excepción puede ser una transacción fallida, una infracción de política detectada a mitad del proceso o una incoherencia en los datos que rompe el flujo planificado.
Supervisar en este contexto significa diseñar pensando en lo inesperado. Hay que construir buenos ciclos de feedback que permitan a los agentes corregirse, dejar trazas de auditoría detalladas y escalar a las personas patrones concretos de fallo, en lugar de reaccionar individualmente a cada error. El papel humano pasa de ejecutar tareas a revisar informes agregados sobre el rendimiento de los agentes e intervenir solo cuando el sistema encuentra un tipo de fallo nuevo o supera sus parámetros de riesgo.
Gestionar bien las excepciones exige pasar del soporte reactivo al gobierno proactivo. Eso implica establecer límites claros a lo que puede hacer un agente, vigilar desviaciones en su comportamiento y garantizar la trazabilidad de cada acción. Si un agente actúa fuera de su mandato, la organización debe saber de inmediato quién era responsable y cómo corregir la situación.
Rediseñar la responsabilidad organizativa
No basta con añadir funciones de IA a la estructura organizativa existente: hay que rediseñar la responsabilidad alrededor del nuevo ciclo operativo. Cuando una persona ejecuta una tarea, responde personalmente del resultado. Cuando la ejecuta un agente, ¿quién responde si falla? ¿La persona que lo programó, el responsable que autorizó su despliegue o la empresa propietaria de la infraestructura?
El modelo debe hacer explícitos esos roles. Un piloto puede pertenecer a una división, pero sus decisiones sobre identidad, datos, seguridad e incidentes afectan a toda la empresa. Por tanto, el modelo operativo debe permitir velocidad local sin que el éxito de un equipo genere riesgos o costes que todos los demás tengan que asumir.
Esto obliga a cambiar cómo medimos el rendimiento. En vez de medir únicamente el tiempo de actividad o de respuesta de cada agente, la dirección debe seguir resultados de negocio, reducción significativa del riesgo y mejoras en la operación del cliente. La tecnología debe generar resultados de negocio, reducir riesgos relevantes, aumentar capacidades o mejorar los resultados para clientes y operaciones. Si un sistema agéntico gana eficiencia pero multiplica los errores de cumplimiento, ha fracasado en su propósito principal a pesar de su éxito técnico.
La curiosidad acotada necesita un lugar seguro para fallar
Las prohibiciones generales tienden a sacar la experimentación fuera de la vista. La autonomía sin límites crea el problema contrario. Un punto de partida mejor es un sandbox con datos sintéticos o de baja sensibilidad, permisos estrechos, llamadas a herramientas observables y una vía explícita de escalado humano. Los equipos pueden aprender en qué destaca el agente sin colocar un proceso crítico de negocio dentro de su radio de impacto.
También es una decisión sobre las personas. Si los líderes quieren que sus equipos prueben flujos de trabajo agénticos, deben financiar el entorno de prueba, definir qué fallos son aceptables y participar en la revisión de lo aprendido. La curiosidad funciona cuando el límite es creíble y comunicar un fallo aporta pruebas en lugar de poner una carrera profesional en peligro.
Pasos prácticos para la dirección
Para avanzar, los líderes deberían concentrarse en tres áreas: definir niveles de autonomía, establecer un modelo de escalado humano y aclarar la responsabilidad organizativa. Empiece por trazar los procesos actuales e identificar cuáles son adecuados para que los ejecute un agente porque siguen reglas claras y tienen poco riesgo. Diseñe después la capa de gobierno que permitirá a esos agentes operar de forma segura dentro de sus límites. Por último, asegúrese de que la estructura directiva respalda esta nueva realidad: redefina cómo se mide el éxito y cómo se afrontan los fallos.
El modelo operativo solo debería ampliar su alcance al ritmo que lo hacen las pruebas. Comience con acciones reversibles, demuestre que funcionan la supervisión y el escalado, y aumente la autonomía cuando lo justifiquen el resultado de negocio y las pruebas de control.
