Una distribuidora de Alicante mont\u00f3 su primer agente IA para gestionar devoluciones. Funcionaba: le\u00eda el correo del cliente, comprobaba el pedido en el ERP, decid\u00eda si proced\u00eda el abono y lo emit\u00eda. Tres semanas de alegr\u00eda. Hasta que un cliente escribi\u00f3 \u00abme hab\u00e9is mandado 400 unidades y solo ped\u00ed 40\u00bb y el agente, obediente, emiti\u00f3 un abono de 4.800 \u20ac por un error de tecleo del propio cliente.<\/p>\n\n
Nadie revis\u00f3 nada porque nadie ten\u00eda que revisar nada. El agente estaba dise\u00f1ado para ejecutar, no para preguntar. Y ah\u00ed est\u00e1 el problema que casi ninguna empresa se plantea antes de automatizar: no es si la IA se equivoca \u2014se equivoca, como cualquiera\u2014, sino qu\u00e9 pasa cuando se equivoca y no hay nadie mirando<\/strong>.<\/p>\n\n La supervisi\u00f3n humana de agentes IA<\/strong> es exactamente eso: dise\u00f1ar d\u00f3nde, cu\u00e1ndo y con qu\u00e9 criterio una persona entra en el proceso. Bien planteada no frena la automatizaci\u00f3n. Mal planteada \u2014o ausente\u2014 es la raz\u00f3n por la que muchos proyectos de IA terminan desenchufados.<\/p>\n\n\n Respuesta r\u00e1pida:<\/strong> Human-in-the-loop es dise\u00f1ar puntos de aprobaci\u00f3n humana solo en las acciones sensibles de un agente IA (pagos, env\u00edos, comunicaciones externas). El resto se ejecuta solo. Supervisas el 5 % que importa, no el 100 %.<\/p>\n<\/div>\n\n\n Gartner prev\u00e9 que m\u00e1s del 40 % de los proyectos de IA ag\u00e9ntica se cancelar\u00e1n antes de que termine 2027<\/strong>, y no por limitaciones t\u00e9cnicas: las causas son costes descontrolados, valor de negocio poco claro y controles de riesgo insuficientes<\/em> (Gartner, 2025). Traducido: no fallan los modelos, falla el gobierno del proceso.<\/p>\n\n Lo que ocurre en la pr\u00e1ctica es un p\u00e9ndulo. Una empresa arranca con un agente atado en corto, comprueba que acierta y le va soltando cuerda hasta que ejecuta de punta a punta. Todo bien durante meses. Entonces llega el caso raro \u2014el que no estaba en las pruebas\u2014 y el agente act\u00faa con la misma seguridad con la que acierta: emite el abono, manda el correo, aprueba la factura.<\/p>\n\n El da\u00f1o no suele ser el error en s\u00ed, sino que es irreversible y silencioso<\/strong>. Un asiento contable mal imputado se corrige. Un correo enviado a un cliente, no. Una transferencia, tampoco. Por eso el criterio de dise\u00f1o no es \u00ab\u00bfacierta mucho el agente?\u00bb, sino \u00ab\u00bfesta acci\u00f3n concreta se puede deshacer?\u00bb.<\/p>\n\n Y hay una capa m\u00e1s: desde el 2 de agosto de 2026<\/strong> las obligaciones del Reglamento Europeo de IA para sistemas de alto riesgo son exigibles, y su art\u00edculo 14<\/strong> impone supervisi\u00f3n humana efectiva: quien supervisa debe poder entender los l\u00edmites del sistema, interpretar su salida, ignorarla o revertirla, y detener el sistema mediante un bot\u00f3n de parada o procedimiento equivalente. Si tu automatizaci\u00f3n toca selecci\u00f3n de personal, concesi\u00f3n de cr\u00e9dito o evaluaci\u00f3n de trabajadores, esto ya no es una buena pr\u00e1ctica: es una obligaci\u00f3n. Lo desarrollamos en la gu\u00eda del EU AI Act para pymes<\/a>.<\/p>\n\n No existe \u00absupervisar o no supervisar\u00bb. Existen tres grados, y lo normal es que un mismo proceso use los tres en distintos puntos.<\/p>\n\n El error cl\u00e1sico es aplicar un \u00fanico nivel a todo el proceso. Si pones aprobaci\u00f3n humana en los 40 pasos, has creado un cuello de botella y la gente acabar\u00e1 aprobando en bloque sin mirar \u2014que es peor que no supervisar, porque genera una falsa sensaci\u00f3n de control\u2014. Si no la pones en ninguno, tienes el abono de 4.800 \u20ac.<\/p>\n\n Este es el m\u00e9todo que aplicamos al implantar agentes en empresas que ya tienen sus sistemas montados:<\/p>\n\n Conviene distinguir esto de la gobernanza de datos en IA<\/a>, que responde a \u00abqu\u00e9 informaci\u00f3n ve el agente\u00bb. Aqu\u00ed hablamos de lo otro: qu\u00e9 le dejamos hacer<\/strong>. Son dos controles distintos y hacen falta los dos.<\/p>\n\n El resultado que buscamos no es \u00abmenos automatizaci\u00f3n con m\u00e1s control\u00bb, sino m\u00e1s automatizaci\u00f3n precisamente porque hay control:<\/p>\n\n Criterios pr\u00e1cticos para decidir sin darle vueltas:<\/p>\n\n Solo si supervisas todo. En un proceso bien dise\u00f1ado, entre el 3 % y el 10 % de las ejecuciones llegan a un humano; el resto va sola. La persona pasa de hacer 200 tareas a decidir sobre 8, que adem\u00e1s son las importantes.<\/p>\n\n In-the-loop<\/em> significa que el agente se detiene y espera aprobaci\u00f3n antes de actuar. On-the-loop<\/em> significa que act\u00faa solo, pero una persona supervisa la actividad y puede intervenir o pararlo. El primero protege lo irreversible; el segundo escala en volumen.<\/p>\n\n No. La obligaci\u00f3n de supervisi\u00f3n humana efectiva del art\u00edculo 14 aplica a los sistemas clasificados como de alto riesgo \u2014criba de curr\u00edculos, evaluaci\u00f3n de empleados, scoring crediticio, biometr\u00eda, entre otros\u2014. Un agente que clasifica facturas o responde dudas internas no entra ah\u00ed, aunque supervisarlo sigue siendo recomendable.<\/p>\n\n Reduciendo el n\u00famero de aprobaciones y mejorando su contexto. Si a alguien le llegan 80 aprobaciones al d\u00eda, dejar\u00e1 de leerlas: hay que subir los umbrales. Cada solicitud debe mostrar qu\u00e9 propone el agente, con qu\u00e9 datos y qu\u00e9 pasa si se rechaza.<\/p>\n\n Es la parte barata del proyecto: se trata de insertar puntos de decisi\u00f3n y notificaci\u00f3n en el flujo que ya tienes, no de rehacerlo. Suele resolverse en d\u00edas, y evita el tipo de incidente que cuesta miles de euros y la confianza del cliente.<\/p>\n\n Un agente IA sin supervisi\u00f3n no es una empresa m\u00e1s automatizada: es una empresa con m\u00e1s superficie de error y menos gente mirando. La diferencia entre las automatizaciones que sobreviven y las que se desenchufan a los seis meses casi nunca est\u00e1 en el modelo, sino en si alguien se sent\u00f3 a decidir qu\u00e9 acciones pod\u00eda ejecutar solo. Si ya tienes agentes trabajando \u2014o est\u00e1s a punto de ponerlos\u2014, ese es el ejercicio pendiente.<\/p>\n\n\n\nPor qu\u00e9 la autonom\u00eda total es el error m\u00e1s caro<\/h2>\n\n
Los tres niveles de supervisi\u00f3n humana de agentes IA<\/h2>\n\n
\n
C\u00f3mo dise\u00f1ar los puntos de aprobaci\u00f3n, paso a paso<\/h2>\n\n
\n
Qu\u00e9 se gana cuando la supervisi\u00f3n est\u00e1 bien dise\u00f1ada<\/h2>\n\n
\n
\u00bfCu\u00e1ndo tiene sentido cada nivel?<\/h2>\n\n
\n
Preguntas frecuentes<\/h2>\n\n
\u00bfLa supervisi\u00f3n humana no anula la ventaja de automatizar?<\/h3>\n
\u00bfQu\u00e9 diferencia hay entre human-in-the-loop y human-on-the-loop?<\/h3>\n
\u00bfEl EU AI Act obliga a supervisar todos mis agentes?<\/h3>\n
\u00bfC\u00f3mo evito que aprobar se convierta en pulsar \u00abOK\u00bb sin leer?<\/h3>\n
\u00bfCu\u00e1nto cuesta a\u00f1adir esta capa a una automatizaci\u00f3n existente?<\/h3>\n