Cuanta más autonomía recibe un agente de inteligencia artificial, más importante resulta definir el momento exacto en el que debe detenerse. André de Barros Faria, CEO de Vert Analytic y líder en hiperautomatización, señala que la frase puede parecer contradictoria, pero resume el aspecto más delicado para quienes implementan agentes autónomos de IA en operaciones reales. El beneficio de estos sistemas no consiste en eliminar a las personas del proceso, sino en decidir con precisión en qué momento deben intervenir.
A diferencia de un robot de automatización tradicional, que repite una secuencia fija, un agente interpreta el contexto, selecciona herramientas y encadena acciones para cumplir un objetivo. Esta flexibilidad lo hace útil en tareas variables, como la clasificación de solicitudes o el análisis de documentos. Sin embargo, también le permite cometer errores de formas que nadie había previsto.
¿Por qué la autonomía total suele ser un error de diseño?
Pensemos en un agente que analiza solicitudes de reembolso. En la gran mayoría de los casos, la regla es clara y puede resolverlas por sí solo en cuestión de segundos. Sin embargo, en una pequeña proporción, la solicitud implica un contrato fuera de lo habitual, un importe elevado o un historial de disputas.
Es en estos casos excepcionales donde se concentran los errores, y su costo es asimétrico. Resolver correctamente mil reembolsos sencillos genera eficiencia operativa; equivocarse en un solo caso delicado puede provocar pérdidas económicas, deteriorar la relación con el cliente y debilitar la confianza en el propio sistema. Una automatización inteligente bien diseñada reconoce esta realidad y trata las excepciones como parte del producto, no como fallos que deban ocultarse.
Las señales que indican cuándo devolver la decisión a una persona
La primera señal es un bajo nivel de confianza. Los modelos de aprendizaje automático (machine learning) pueden estimar su grado de confianza en una respuesta, y establecer un umbral mínimo funciona como un mecanismo de seguridad sencillo y eficaz. Por debajo de ese límite, el agente no toma la decisión: prepara el caso y lo deriva.
La segunda señal es la irreversibilidad. Según André Faria, este criterio merece especial atención, porque un pago realizado, un registro eliminado o una comunicación enviada a un ciudadano no pueden deshacerse con un simple clic. Este tipo de acciones requiere aprobación humana, incluso cuando el modelo presenta un alto nivel de confianza.
La tercera señal es la presencia de datos fuera de lo habitual. Cuando la información de entrada difiere considerablemente de aquella con la que el sistema suele trabajar, la experiencia acumulada deja de ser una referencia fiable y la decisión requiere una evaluación adicional.
¿Cómo diseñar la transferencia de responsabilidades sin paralizar la operación?
Derivar un caso a una persona no soluciona nada si esta tiene que repetir todo el trabajo desde cero. Una transferencia eficaz debe incluir contexto: qué intentó hacer el agente, qué datos consultó, qué regla entró en conflicto y por qué se detuvo. De esta manera, el análisis humano puede llevar minutos en lugar de horas.
La segunda precaución, según André Faria, consiste en cerrar el ciclo. Cada decisión tomada por el equipo debe regresar al sistema como una oportunidad de aprendizaje, ya sea para recalibrar el umbral de confianza o para convertir una excepción recurrente en una nueva regla. Sin esta retroalimentación, la lista de casos derivados aumenta y el agente nunca alcanza un mayor nivel de madurez.
También es fundamental contar con un registro de auditoría. Con formación en gobierno corporativo por el IBGC, el ejecutivo considera que este registro es una cuestión de responsabilidad de la gestión, no un simple detalle técnico, ya que permite explicar cualquier decisión automatizada a quienes necesiten comprenderla.
La autonomía se gana con un historial de resultados
La pregunta que diferenciará a las empresas en los próximos años no será qué puede hacer la IA, sino qué estamos dispuestos a confiarle para que haga por sí sola. Son preguntas distintas. La primera es técnica; la segunda pertenece al ámbito de la gobernanza, y su respuesta cambia con el tiempo.
Un agente puede comenzar simplemente sugiriendo decisiones, pasar después a ejecutar casos sencillos y, a medida que acumula resultados correctos y auditables, asumir mayores responsabilidades dentro de la operación. Esta es la lógica gradual que André de Barros Faria describe como la base para implementar agentes autónomos de manera responsable, tanto en empresas como en servicios públicos: la autonomía deja de ser una apuesta y se convierte en una consecuencia de la evidencia.
