Los agentes de inteligencia artificial ya pueden consultar bases de conocimiento, redactar respuestas, ejecutar código, abrir tickets o llamar APIs. Esa capacidad explica el interés, pero también cambia el modelo de riesgo: una salida incorrecta deja de ser solo texto y puede convertirse en una acción real.

El reporte DORA 2025, construido a partir de respuestas de casi 5,000 profesionales y más de 100 horas de investigación cualitativa, resume una señal decisiva: la IA amplifica la calidad del sistema de trabajo que ya existe. Equipos con plataformas claras, pruebas y retroalimentación rápida obtienen más valor; procesos frágiles aceleran también sus defectos. En paralelo, OWASP publicó riesgos específicos para aplicaciones agénticas, confirmando que permisos, memoria, herramientas y cadenas de acciones deben tratarse como superficie de ataque.

Primero: distinguir asistencia de autonomía

Conviene pensar en una escala, no en una elección binaria. Cada nivel exige controles adicionales:

  1. Asistente: propone contenido o una acción; una persona decide y ejecuta.
  2. Copiloto: prepara el trabajo dentro de una aplicación, pero solicita aprobación antes de confirmar.
  3. Agente supervisado: completa una secuencia acotada y se detiene ante excepciones, importes altos o datos sensibles.
  4. Agente autónomo: decide y actúa dentro de políticas predefinidas, con monitoreo y capacidad de reversión.

En la mayoría de las empresas, el nivel tres ofrece la mejor relación entre valor y riesgo. Automatiza el recorrido repetitivo sin delegar decisiones irreversibles. Por ejemplo, un agente puede clasificar una solicitud, consultar inventario, preparar una propuesta y pedir aprobación antes de enviarla o comprometer existencias.

La arquitectura mínima de un agente confiable

Un despliegue serio separa responsabilidades. El modelo interpreta y propone; otros componentes aplican las reglas que no deben depender de una respuesta probabilística.

Identidad propia

Cada agente utiliza una cuenta de servicio única. Así se puede limitar, auditar o revocar sin afectar a otros procesos.

Herramientas permitidas

Una lista explícita define qué APIs puede usar, con qué parámetros y sobre qué recursos.

Contexto controlado

La recuperación de información filtra por usuario, clasificación y vigencia; no entrega toda la base documental.

Trazas completas

Se registran entrada, modelo, versión de instrucciones, fuentes, llamadas, resultado, latencia y costo.

Entre el agente y cada sistema debe existir una capa de políticas. Allí se validan esquemas, montos, horarios, separación de funciones y reglas regulatorias. El agente puede solicitar “reembolsar esta compra”; la capa determinista comprueba identidad, límite, estado de la operación y aprobación antes de ejecutar.

Los riesgos que cambian cuando la IA puede actuar

1. Inyección de instrucciones

Un correo, documento o página consultada puede contener texto diseñado para desviar al agente. El contenido recuperado debe considerarse dato no confiable, nunca una nueva instrucción del sistema. Separar canales, reducir herramientas y validar cada operación evita que una frase escondida se convierta en una orden.

2. Uso excesivo de privilegios

Una credencial administrativa convierte un error pequeño en un incidente grande. El principio de mínimo privilegio debe llegar hasta filas, campos, importes y frecuencia. Si el agente solo necesita leer pedidos pendientes, no debe poder exportar clientes ni modificar pagos.

3. Memoria contaminada

Guardar todo “para que aprenda” introduce datos obsoletos, personales o maliciosos. La memoria necesita caducidad, procedencia, clasificación y mecanismos de corrección. Los hechos críticos deben venir de sistemas de registro, no de recuerdos generados por el modelo.

4. Acciones en cascada

Una decisión razonable de forma aislada puede producir una cadena no deseada. Defina un máximo de pasos, presupuesto, tiempo, reintentos y operaciones por sesión. Las acciones irreversibles requieren confirmación humana o una segunda política independiente.

Regla práctica

Si una acción no puede deshacerse de forma segura, no debe ser el primer paso autónomo de un agente. Diseña primero vista previa, aprobación, ejecución idempotente y compensación.

Cómo elegir el primer caso de uso

Un buen candidato combina volumen suficiente, datos disponibles y bajo costo de reversión. Evalúalo con cinco preguntas:

  • ¿Ocurre con frecuencia y consume tiempo experto?
  • ¿Existe un resultado correcto que pueda comprobarse?
  • ¿Las fuentes están identificadas y tienen permisos claros?
  • ¿Se puede probar en modo lectura o “sombra” antes de actuar?
  • ¿El beneficio se expresa en una métrica operativa?

La clasificación de tickets, conciliación de documentos, preparación de expedientes y diagnóstico inicial suelen ser mejores comienzos que pagos, despidos, cambios de precios o administración de infraestructura crítica.

Una ruta de 90 días sin saltarse controles

Días 1–30 · Observar

Definir proceso, base y riesgo

Mapea entradas, decisiones y excepciones. Mide tiempo y errores actuales. Ejecuta el agente en sombra, sin permisos de escritura, y compara sus propuestas con decisiones reales.

Días 31–60 · Asistir

Integrar con aprobación

Entrega herramientas mínimas, registros completos y evaluaciones automáticas. Una persona aprueba las acciones y etiqueta los motivos de rechazo.

Días 61–90 · Delegar lo reversible

Automatizar el camino seguro

Permite solo decisiones de bajo riesgo que superaron umbrales definidos. Mantén interruptor de emergencia, límites de gasto y revisión periódica.

Las métricas que separan valor de espectáculo

La precisión aislada no basta. Un tablero útil combina cuatro capas:

  • Negocio: tiempo de ciclo, resolución al primer contacto, conversión o costo por operación.
  • Calidad: aceptación humana, retrabajo, exactitud por tipo de caso y excepciones.
  • Riesgo: acciones bloqueadas, accesos denegados, incidentes y datos sensibles expuestos.
  • Operación: disponibilidad, latencia, consumo, costo por resultado y dependencia por proveedor.

Compare siempre contra una línea base. Si el agente ahorra dos minutos pero aumenta devoluciones o requiere revisión exhaustiva, la automatización no creó valor: desplazó el trabajo.

Checklist antes de producción

  • Dueño de negocio, responsable técnico y criterio de apagado definidos.
  • Cuenta, secretos y permisos exclusivos del agente.
  • Validación determinista de argumentos antes de cada herramienta.
  • Evaluaciones con casos normales, adversariales y de excepción.
  • Trazabilidad de modelo, instrucciones, fuentes y acciones.
  • Presupuestos de pasos, tiempo, costo y reintentos.
  • Aprobación para acciones sensibles y mecanismo de reversión probado.
  • Métricas comparadas con la operación anterior.

Conclusión

La ventaja no provendrá del agente con más autonomía, sino del sistema que convierta autonomía limitada en resultados repetibles. La arquitectura correcta mantiene al modelo donde aporta —interpretación y planificación— y reserva las reglas críticas a controles verificables. Así, la IA deja de ser una demo llamativa y se vuelve una capacidad operativa que la empresa puede medir, auditar y mejorar.

Fuentes y lectura adicional

Última revisión editorial y técnica: 31 de julio de 2026. El contenido es informativo; la arquitectura debe ajustarse al riesgo, datos y regulación de cada organización.