El riesgo real de los agentes de IA no está en que fallen, sino en que funcionen tan bien durante tanto tiempo que nadie en el equipo recuerde —o necesite— saber hacerlo sin ellos. Miriam Martín Muñoz desplaza el foco desde la supervisión del agente hacia la preservación de la capacidad organizativa: qué debe conservar el área —en criterio, conocimiento y autoridad de intervención— para seguir siendo responsable de lo que ha decidido delegar.
- El problema no es que la IA falle, sino que funcione bien demasiado tiempo. Cuando un agente acierta casi siempre, la supervisión se convierte en trámite y el área pierde, sin advertirlo, la capacidad de comprender y cuestionar lo que delega.
- Mantener a una persona «en el circuito» no garantiza control real. Supervisar adecuadamente exige poder detectar errores, comprenderlos e intervenir: capacidades que se deterioran por la complacencia, el sesgo de automatización o la falta de conocimiento suficiente.
- La delegación genera una deuda invisible. Alguien puede seguir figurando como responsable de una decisión y haber perdido el criterio necesario para cuestionarla. Esa distancia permanece oculta hasta que el sistema falla o el regulador llama.
- Las cinco capacidades que el líder debe preservar son interdependientes. Comprender sin capacidad de intervenir no garantiza el control; intervenir sin evaluar puede llevar a decisiones inadecuadas; recuperar la actividad no evita que el problema se repita si el agente no se rediseña.
- La madurez no se mide por cuánto se delega, sino por cuánto se conserva. El verdadero indicador es si el área puede reconstruir una decisión, advertir que algo no encaja y recuperar el control cuando el agente deja de estar disponible.
Imagine un departamento de siniestros que lleva tres años apoyándose en un agente de IA para resolver reclamaciones. Al principio, alguien revisaba cada propuesta del sistema línea por línea. Con el tiempo, la revisión se volvió un trámite: el agente acertaba casi siempre, y cuestionarlo empezó a parecer una pérdida de tiempo. Hoy, un regulador pide explicar por qué se rechazaron cien reclamaciones similares en un mismo trimestre. El responsable del área abre el expediente y descubre algo incómodo: nadie en su equipo sabe ya explicar, sin acudir al proveedor del sistema, cómo se tomó cada decisión.
Esta escena, con variantes, se repite en banca, seguros, recursos humanos y atención al cliente. No es un fallo de la IA. Es el coste silencioso de delegar bien durante demasiado tiempo.
El problema: cuando delegar también erosiona capacidad
La inteligencia artificial ha irrumpido con fuerza en el mundo empresarial, rediseñando formas de trabajar que hace apenas unos años parecían impensables. Su adopción está generando importantes ahorros de tiempo y costes, al tiempo que abre nuevas oportunidades, modelos de negocio y posibilidades de crecimiento.
La IA resuelve tareas que antes exigían tiempo, experiencia y atención constante y, poco a poco, se convierte en una pieza central del funcionamiento cotidiano.
Sin embargo, este avance también plantea un riesgo menos visible. Mientras el sistema aprende a hacer más, puede ocurrir que las personas dejen de hacer (y, con el tiempo, de saber hacer) aquello que han delegado.
El riesgo no surge necesariamente cuando la IA falla, sino también cuando funciona bien durante demasiado tiempo. La confianza en sus resultados puede convertir la supervisión en un trámite: los profesionales pasan de analizar los casos a validar respuestas ya elaboradas, ejercitan menos su criterio y pierden progresivamente la visión completa del proceso. Al mismo tiempo, quienes se incorporan de nuevas a la organización aprenden a utilizar el sistema, pero no siempre a comprender el conocimiento y los razonamientos que lo sustentan.
Así, mientras los indicadores de productividad mejoran, puede acumularse una deuda difícil de detectar: una distancia creciente entre la responsabilidad formal y la capacidad real para ejercerla. Una persona puede seguir figurando como responsable de una decisión y, sin embargo, haber perdido parte del conocimiento, el criterio o la práctica necesarios para cuestionarla.
Esa distancia permanece oculta hasta que ocurre algo inesperado: la IA produce un resultado incorrecto, deja de estar disponible o se enfrenta a una situación que no encaja en sus patrones conocidos. Entonces surge la pregunta que la organización había pospuesto: ¿quién conserva la capacidad para detectar el error, explicar lo sucedido y recuperar el control?
Lo que sabemos sobre supervisión humana y pérdida de capacidades
La literatura sobre IA responsable ha abordado distintas dimensiones de esta cuestión. Novelli, Taddeo & Floridi entienden la rendición de cuentas como una relación que exige reconocer una autoridad, permitir que las decisiones y actuaciones sean cuestionadas y establecer límites al poder ejercido mediante la IA (Novelli, Taddeo & Floridi, 2024).
Los trabajos sobre supervisión humana advierten, además, que mantener a una persona «en el circuito» no garantiza un control efectivo. Para supervisar adecuadamente, esta debe ser capaz de detectar los errores, comprenderlos e intervenir ante ellos; capacidades que pueden verse debilitadas por la complacencia, el sesgo de automatización, la opacidad del sistema o la falta de conocimientos suficientes (Langer, Baum y Schlicker, 2025).
La evidencia empírica más reciente confirma el riesgo desde el ángulo de las capacidades. Un estudio de Shen y Tamkin (2026) muestra que apoyarse en IA mejora el rendimiento inmediato, pero deteriora la comprensión conceptual y la capacidad de depurar errores sin ayuda. El resultado de hoy mejora; el conocimiento de mañana se debilita.
Desde la perspectiva del control, Tsamados, Floridi y Taddeo recuerdan que intervenir de verdad exige autoridad, información, acceso y mecanismos para modificar o detener el sistema (2025). Y el NIST ya incorpora la supervisión, la resiliencia y la recuperación como pilares de la gestión del riesgo de la IA, no como un añadido opcional (2024).
Del control del sistema a la capacidad del área
Cuando la IA asume una parte estable de un proceso, el problema cambia de escala. Ya no basta con preguntar quién revisará al agente: también importa qué ocurre con la capacidad del área que deja de realizar parte del trabajo.
La aportación de este artículo consiste en trasladar el foco desde la supervisión del agente hacia la preservación de la capacidad organizativa. Para ello, articula cinco capacidades —comprender, evaluar, intervenir, recuperar y rediseñar— como un sistema de gestión que el líder debe identificar, asignar, mantener y comprobar en cada proceso delegado. Su valor reside en integrar estas capacidades en un marco operativo que permita evitar que la automatización erosione el criterio, el control y la autonomía del área.
Comprender significa conservar una visión suficiente del proceso de principio a fin. No basta con utilizar la interfaz del agente o leer su resultado. Alguien debe conocer qué información emplea, qué decisiones puede tomar, cuáles son sus límites y qué señales indicarían que algo funciona mal.
También debe poder reconstruirse una decisión: qué datos recibió el agente, qué reglas o modelos intervinieron y qué versión estaba activa. No todos necesitan dominar cada detalle técnico, pero el área sí debe poder explicar el proceso y detectar inconsistencias.
¿Tenemos a alguien capaz de explicar cómo se ha llegado a esta decisión?Comprender cómo se genera un resultado no significa saber si es adecuado. El área debe conservar criterio profesional para interpretarlo en su contexto.
Un agente puede aplicar correctamente una regla y producir una respuesta poco razonable, como rechazar una devolución tardía cuando el retraso se debe a un error de la empresa. Evaluar exige reconocer estas situaciones y decidir cuándo una respuesta correcta no es la más apropiada.
¿Quién puede determinar si una decisión, además de cumplir las reglas, resulta apropiada?Cuando una decisión no es adecuada, el área debe poder actuar. La supervisión pierde valor si la persona responsable detecta un problema, pero carece de autoridad, información, acceso o mecanismos técnicos para corregirlo.
Alguien debe poder suspender la actuación del agente, reducir sus permisos, modificar temporalmente sus umbrales, revertir una decisión o devolver ciertos casos a revisión humana. Además, la intervención debe producirse a tiempo.
Si algo se desvía ahora mismo, ¿quién puede intervenir y cuánto tardará?Incluso con una supervisión adecuada, el agente puede dejar de estar disponible, perder fiabilidad o tener que retirarse temporalmente. El área debe mantener sus actividades esenciales durante ese periodo.
Para ello necesita un mínimo humano operativo: personas que conozcan el procedimiento, acceso a la información, criterios documentados y una modalidad simplificada para atender los casos críticos. No se trata de reproducir toda la productividad del agente, sino de evitar que la dependencia paralice la operación.
Si mañana el agente deja de funcionar, ¿podemos seguir prestando el servicio esencial?La última capacidad consiste en modificar el mandato del agente cuando cambian las circunstancias. Una nueva regulación, una decisión estratégica o un riesgo reputacional pueden hacer que una configuración antes adecuada deje de serlo.
El área debe revisar qué actividades siguen siendo delegables, cuáles requieren mayor supervisión y qué decisiones deben volver a reservarse a personas. El agente no puede convertirse en una política empresarial congelada dentro de una configuración que solo comprende el área de tecnología o un proveedor.
¿Podemos adaptar su comportamiento sin depender completamente de un tercero?Estas cinco capacidades son interdependientes: comprender sin capacidad de intervenir no garantiza el control; intervenir sin evaluar puede llevar a decisiones inadecuadas; y recuperar la actividad no evita que el problema se repita si el agente no se rediseña.
Para aplicar el marco, el área debe definir qué capacidades humanas conservar, comprobar que puede operar sin el agente y vigilar su deterioro con indicadores como el número de personas capaces de ejecutar el proceso, el tiempo necesario para reconstruir una decisión o la concentración del conocimiento.
El panel de control del líder ante un proceso delegado en IA
| Capacidad | Pregunta para el equipo | Señal de alerta |
|---|---|---|
| Comprender | ¿Podemos explicar cómo se llegó a esta decisión? | Solo el proveedor puede reconstruir un caso |
| Evaluar | ¿Sabemos distinguir una decisión correcta de una apropiada? | Las excepciones razonables se tratan como casos estándar |
| Intervenir | Si algo se desvía ahora, ¿quién actúa y en cuánto tiempo? | Detectar el problema y corregirlo dependen de personas distintas, sin protocolo entre ambas |
| Recuperar | Si el agente cae mañana, ¿seguimos operando? | El plan de contingencia existe en un documento, pero nunca se ha probado |
| Rediseñar | ¿Podemos cambiar su comportamiento sin depender de terceros? | Modificar una regla de negocio requiere semanas |
Conclusiones: delegar sin dejar de saber
La llegada de los agentes de inteligencia artificial no hace desaparecer la necesidad de liderazgo. La desplaza hacia un terreno más profundo y, quizás, más exigente. El líder deberá no solo aportar criterio y orquestar el trabajo entre humanos y agentes, sino también preservar los conocimientos y las capacidades necesarios para comprender, supervisar y recuperar el control, evitando que la delegación termine convirtiéndose en dependencia.
Cuando un agente lleve años realizando una actividad, la cuestión decisiva será si todavía habrá alguien capaz de reconstruir una decisión, advertir que algo no encaja y recuperar el control.
Cómo empezar el lunes
- Elija un proceso crítico ya delegado en IA y aplíquele esta semana las cinco preguntas del cuadro anterior.
- Nombre a una persona como custodia de cada proceso automatizado (no solo de la herramienta que lo ejecuta).
- Fije un indicador simple: el tiempo máximo aceptable para reconstruir cualquier decisión del agente, y mídalo.
- Revise trimestralmente, junto con tecnología y riesgos, qué actividades siguen siendo delegables y cuáles deben volver a manos humanas.
En definitiva, cuanto más capaces sean los agentes, más consciente deberá ser la organización de aquello que no puede permitirse dejar de comprender, cuestionar y saber.
Langer, M., Baum, K. y Schlicker, N. (2025). Effective human oversight of AI-based systems: A signal detection perspective on the detection of inaccurate and unfair outputs. Minds and Machines, 35, artículo 1. https://doi.org/10.1007/s11023-024-09701-0
National Institute of Standards and Technology (NIST). (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile (NIST AI 600-1). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.600-1
Novelli, C., Taddeo, M. y Floridi, L. (2024). Accountability in artificial intelligence: What it is and how it works. AI & Society, 39, 1871–1882. https://doi.org/10.1007/s00146-023-01635-y
Shen, J. H. y Tamkin, A. (2026). How AI impacts skill formation [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2601.20245
Tsamados, A., Floridi, L. y Taddeo, M. (2025). Human control of AI systems: From supervision to teaming. AI and Ethics, 5, 1535–1548. https://doi.org/10.1007/s43681-024-00489-4
Nota: Este artículo refleja únicamente las opiniones de su autora y no representa necesariamente la posición oficial, las políticas ni los puntos de vista de IBM.
