Human-in-the-loop: cómo supervisar agentes IA sin frenar la automatización

Una distribuidora de Alicante montó su primer agente IA para gestionar devoluciones. Funcionaba: leía el correo del cliente, comprobaba el pedido en el ERP, decidía si procedía el abono y lo emitía. Tres semanas de alegría. Hasta que un cliente escribió «me habéis mandado 400 unidades y solo pedí 40» y el agente, obediente, emitió un abono de 4.800 € por un error de tecleo del propio cliente.

Nadie revisó nada porque nadie tenía que revisar nada. El agente estaba diseñado para ejecutar, no para preguntar. Y ahí está el problema que casi ninguna empresa se plantea antes de automatizar: no es si la IA se equivoca —se equivoca, como cualquiera—, sino qué pasa cuando se equivoca y no hay nadie mirando.

La supervisión humana de agentes IA es exactamente eso: diseñar dónde, cuándo y con qué criterio una persona entra en el proceso. Bien planteada no frena la automatización. Mal planteada —o ausente— es la razón por la que muchos proyectos de IA terminan desenchufados.

Por qué la autonomía total es el error más caro

Gartner prevé que más del 40 % de los proyectos de IA agéntica se cancelarán antes de que termine 2027, y no por limitaciones técnicas: las causas son costes descontrolados, valor de negocio poco claro y controles de riesgo insuficientes (Gartner, 2025). Traducido: no fallan los modelos, falla el gobierno del proceso.

Lo que ocurre en la práctica es un péndulo. Una empresa arranca con un agente atado en corto, comprueba que acierta y le va soltando cuerda hasta que ejecuta de punta a punta. Todo bien durante meses. Entonces llega el caso raro —el que no estaba en las pruebas— y el agente actúa con la misma seguridad con la que acierta: emite el abono, manda el correo, aprueba la factura.

El daño no suele ser el error en sí, sino que es irreversible y silencioso. Un asiento contable mal imputado se corrige. Un correo enviado a un cliente, no. Una transferencia, tampoco. Por eso el criterio de diseño no es «¿acierta mucho el agente?», sino «¿esta acción concreta se puede deshacer?».

Y hay una capa más: desde el 2 de agosto de 2026 las obligaciones del Reglamento Europeo de IA para sistemas de alto riesgo son exigibles, y su artículo 14 impone supervisión humana efectiva: quien supervisa debe poder entender los límites del sistema, interpretar su salida, ignorarla o revertirla, y detener el sistema mediante un botón de parada o procedimiento equivalente. Si tu automatización toca selección de personal, concesión de crédito o evaluación de trabajadores, esto ya no es una buena práctica: es una obligación. Lo desarrollamos en la guía del EU AI Act para pymes.

Los tres niveles de supervisión humana de agentes IA

No existe «supervisar o no supervisar». Existen tres grados, y lo normal es que un mismo proceso use los tres en distintos puntos.

• Human-in-the-loop (aprueba antes): el agente prepara la acción y espera el visto bueno de una persona. Nada sale sin un clic. Reservado a lo irreversible: pagos, abonos, contratos, comunicaciones a clientes, altas y bajas.
• Human-on-the-loop (supervisa y puede parar): el agente ejecuta solo, pero deja rastro visible y una persona revisa por muestreo o por excepción, con capacidad de detenerlo. Es el punto óptimo para volumen medio: clasificación de documentos, imputación contable, asignación de incidencias.
• Human-out-of-the-loop (autónomo con límites): el agente actúa sin intervención dentro de un perímetro cerrado. Solo para acciones reversibles y de bajo impacto: etiquetar correos, mover ficheros, actualizar un campo interno, generar borradores.

El error clásico es aplicar un único nivel a todo el proceso. Si pones aprobación humana en los 40 pasos, has creado un cuello de botella y la gente acabará aprobando en bloque sin mirar —que es peor que no supervisar, porque genera una falsa sensación de control—. Si no la pones en ninguno, tienes el abono de 4.800 €.

Cómo diseñar los puntos de aprobación, paso a paso

Este es el método que aplicamos al implantar agentes en empresas que ya tienen sus sistemas montados:

1. Inventaria las acciones, no las tareas. Lista todo lo que el agente puede hacer hacia fuera: enviar, pagar, borrar, publicar, modificar un registro maestro. Esas son las únicas que necesitan decisión de gobierno.
2. Clasifica cada acción por reversibilidad e impacto. Dos preguntas: ¿se puede deshacer en menos de una hora? ¿cuánto cuesta si sale mal? Lo irreversible y caro va a in-the-loop; lo reversible y barato, a autónomo.
3. Pon umbrales, no reglas binarias. «Abonos por debajo de 200 € automáticos, por encima requieren aprobación» funciona mucho mejor que «todos los abonos requieren aprobación». El umbral concentra la atención humana donde está el dinero.
4. Añade el umbral de confianza. Cuando el agente no está seguro de su propia respuesta, debe escalar. Un agente que reconoce «no sé» y pregunta vale más que uno que acierta el 95 % y falla en silencio el 5 %.
5. Haz que aprobar cueste 5 segundos. Si la aprobación llega por WhatsApp o por correo con dos botones y el contexto resumido, se aprueba al momento. Si obliga a entrar en una plataforma, se acumula y el proceso se atasca.
6. Registra todo. Quién aprobó qué, cuándo, con qué datos a la vista y qué propuso el agente. Sin trazabilidad no hay auditoría posible ni forma de mejorar los umbrales.
7. Revisa los umbrales cada trimestre. La supervisión se gradúa: lo que hoy exige aprobación, con tres meses de histórico limpio puede pasar a muestreo. Se suelta cuerda con datos, no con intuición.

Conviene distinguir esto de la gobernanza de datos en IA, que responde a «qué información ve el agente». Aquí hablamos de lo otro: qué le dejamos hacer. Son dos controles distintos y hacen falta los dos.

Qué se gana cuando la supervisión está bien diseñada

El resultado que buscamos no es «menos automatización con más control», sino más automatización precisamente porque hay control:

• Se automatiza más, no menos. Con puntos de aprobación acotados, la dirección se atreve a soltar procesos que jamás habría dejado en manos de un agente sin frenos.
• El coste del error deja de ser una lotería. El fallo se detiene en la cola de aprobación, donde cuesta un minuto, en lugar de llegar al cliente.
• Cumples sin rehacer nada. Los puntos de control y el registro de decisiones son justo lo que exige la normativa para los procesos de alto riesgo.
• El equipo confía en el sistema. Un agente que consulta las tres decisiones importantes al día genera adopción; uno que actúa a ciegas genera resistencia y acaba desconectado.

¿Cuándo tiene sentido cada nivel?

Criterios prácticos para decidir sin darle vueltas:

• Aprobación previa si la acción mueve dinero, sale de la empresa, afecta a personas (contratación, evaluación, crédito) o modifica un dato maestro.
• Supervisión por muestreo si el volumen es alto, el error se detecta después y se puede corregir: clasificación, imputación, enrutado, priorización.
• Autonomía plena si la acción es interna, reversible y su peor consecuencia es tener que repetirla.
• Y una regla de arranque: los primeros 30 días, todo con aprobación previa. Ese periodo no es burocracia, es la fuente de datos con la que después decides qué soltar. Cuando el proceso implica varios agentes coordinados, esta capa de control es directamente imprescindible: lo vemos en sistemas multi-agente.

Preguntas frecuentes

¿La supervisión humana no anula la ventaja de automatizar?

Solo si supervisas todo. En un proceso bien diseñado, entre el 3 % y el 10 % de las ejecuciones llegan a un humano; el resto va sola. La persona pasa de hacer 200 tareas a decidir sobre 8, que además son las importantes.

¿Qué diferencia hay entre human-in-the-loop y human-on-the-loop?

In-the-loop significa que el agente se detiene y espera aprobación antes de actuar. On-the-loop significa que actúa solo, pero una persona supervisa la actividad y puede intervenir o pararlo. El primero protege lo irreversible; el segundo escala en volumen.

¿El EU AI Act obliga a supervisar todos mis agentes?

No. La obligación de supervisión humana efectiva del artículo 14 aplica a los sistemas clasificados como de alto riesgo —criba de currículos, evaluación de empleados, scoring crediticio, biometría, entre otros—. Un agente que clasifica facturas o responde dudas internas no entra ahí, aunque supervisarlo sigue siendo recomendable.

¿Cómo evito que aprobar se convierta en pulsar «OK» sin leer?

Reduciendo el número de aprobaciones y mejorando su contexto. Si a alguien le llegan 80 aprobaciones al día, dejará de leerlas: hay que subir los umbrales. Cada solicitud debe mostrar qué propone el agente, con qué datos y qué pasa si se rechaza.

¿Cuánto cuesta añadir esta capa a una automatización existente?

Es la parte barata del proyecto: se trata de insertar puntos de decisión y notificación en el flujo que ya tienes, no de rehacerlo. Suele resolverse en días, y evita el tipo de incidente que cuesta miles de euros y la confianza del cliente.

Un agente IA sin supervisión no es una empresa más automatizada: es una empresa con más superficie de error y menos gente mirando. La diferencia entre las automatizaciones que sobreviven y las que se desenchufan a los seis meses casi nunca está en el modelo, sino en si alguien se sentó a decidir qué acciones podía ejecutar solo. Si ya tienes agentes trabajando —o estás a punto de ponerlos—, ese es el ejercicio pendiente.

Nivel	Como actua el agente	Revision humana
In-the-loop (aprueba antes)	Se detiene y espera el visto bueno	Antes de cada accion sensible
On-the-loop (supervisa y puede parar)	Ejecuta solo y deja rastro visible	Por muestreo o por excepcion
Out-of-the-loop (autonomo con limites)	Ejecuta sin intervencion	Ninguna (solo acciones reversibles)

Contacta con nosotros y analizamos tu caso gratuitamente →