Guardrails para agentes de IA en pymes: autorizaciones y trazabilidad

Un agente de IA conectado al correo, al CRM o a un sistema de tickets puede ahorrar trabajo, pero también puede ejecutar una instrucción equivocada con permisos reales. La solución no es confiar ciegamente en el modelo ni bloquear toda automatización. Es diseñar guardrails: límites técnicos y operativos que reduzcan el impacto de un error, una instrucción maliciosa o un dato incompleto.

• Definir una identidad propia para cada agente, separada de las cuentas personales.
• Conceder solo las acciones necesarias y separar lectura de escritura.
• Exigir aprobación humana para pagos, borrados, cambios de permisos y mensajes externos.
• Limitar dominios, destinatarios, importes, frecuencia y volumen de operaciones.
• Registrar petición, herramientas llamadas, resultado, usuario aprobador y errores.

Un botón genérico de ‘aceptar’ no aporta suficiente control. La pantalla de aprobación debería mostrar qué va a cambiar, sobre qué recurso, con qué datos y qué identidad lo ejecutará. Para una pyme, esto puede empezar con una cola sencilla de acciones pendientes y evolucionar hacia políticas por tipo de operación. Lo importante es que el agente no pueda convertir una recomendación en una escritura irreversible sin una decisión explícita.

Guardar solo el texto final de la respuesta no basta. El registro debe conservar el identificador de ejecución, la fuente consultada, las herramientas utilizadas, los parámetros relevantes sin secretos, la decisión humana y el resultado. Así se puede reconstruir un incidente, detectar bucles y medir qué automatizaciones necesitan ajustes. Los secretos y datos personales deben quedar fuera del log o estar protegidos con controles adecuados.

• Fase 1: modo observación, con herramientas simuladas y revisión de las decisiones.
• Fase 2: lectura real y escrituras de bajo impacto con límites estrictos.
• Fase 3: ampliación gradual solo después de revisar fallos, evidencias y métricas.