La formación corporativa lleva años prometiendo personalización y la tecnología cada vez afina más el concepto en un entorno corporativo cada vez más basado en datos. La obsesíón por hacer de la relación con cada empleado una propuesta de valor única obliga a segmentar los datos hasta un nivel que empieza a generar dudas razonables sobre su encaje en lo que el Reglamento Europeo de IA y el propio RGPD entienden por perfilado e inferencia emocional. El riesgo de la personalización parte de los datos con los que se trabaja, y en las experiencias de aprendizaje, cuanto más inmersivas, lúdicas e interactivas sean, más riesgo corren de cruzar la línea de lo que la normativa no admite. Los límites están en vigor desde el 2 de febrero de 2025, y con consecuencias que cualquier responsable de Formación y Desarrollo debería conocer antes de decidir sobre nuevas herramientas.
Ideas clave
- No toda personalización plantea el mismo problema regulatorio. Adaptar la formación a resultados, ritmos y comportamientos observables tiene un riesgo regulatorio reducido, pero inferir el estado emocional del empleado para modificar su experiencia formativa activa un marco normativo diferente.
- Desde el 2 de febrero de 2025 está en vigor el artículo 5(1)(f) del Reglamento de IA, que prohíbe inferir emociones en el trabajo. La única excepción es médica o de seguridad. La formación corporativa no encaja en ninguna de las dos.
- La ambigüedad biométrico/textual no es una salida segura. Algunos proveedores argumentan que la prohibición solo aplica a datos biométricos, pero la redacción del artículo 5(1)(f) no limita expresamente el mecanismo de inferencia. La incertidumbre jurídica no equivale a garantía de cumplimiento.
- El artículo 22 del RGPD puede aplicar. Cuando la adaptación del itinerario formativo a partir de una inferencia emocional produzca efectos significativos sobre el desarrollo profesional del empleado o forme parte de decisiones relevantes para su carrera, se activan garantías específicas que la mayoría de las plataformas no documentan.
- El desplegador responde, no solo el proveedor. La garantía contractual del proveedor no exime al desplegador de sus propias obligaciones regulatorias. Ante la autoridad de control, ambas partes responden en el ámbito de sus obligaciones respectivas.
Tres niveles de personalización que no plantean los mismos riesgos
La personalización adaptativa no es un concepto único. Bajo esa etiqueta conviven tratamientos con perfiles de riesgo muy distintos:
Nivel 1
Adaptar al aprendizaje
El sistema ajusta dificultad, ritmo o secuencia a partir de resultados de evaluación, progreso en módulos o competencias adquiridas. Opera sobre evidencias objetivas. Sigue aplicando el RGPD en lo relativo a información, minimización y seguridad, pero no activa restricciones adicionales.
Riesgo regulatorio reducidoNivel 2
Adaptar al comportamiento
El sistema analiza patrones: abandono de cursos, posposición sistemática, baja participación. Puede constituir perfilado en el sentido del RGPD si se usa para evaluar aspectos personales o tomar decisiones sobre el desarrollo profesional.
Requiere base jurídica claraNivel 3
Inferir el estado emocional
El sistema intenta deducir frustración, motivación, estrés o cansancio a partir de señales —textuales, vocales, faciales o fisiológicas— para decidir qué mostrar, cómo presentarlo o qué tono usar. Actúan el RIA y, cuando los efectos afectan al desarrollo profesional, el artículo 22 del RGPD.
Marco normativo restrictivo¿Qué prohíbe el RIA que afecta a la personalización de la formación?
El Reglamento de Inteligencia Artificial (Reglamento UE 2024/1689) establece en su artículo 5(1)(f) una prohibición directa:
«La comercialización, la puesta en servicio para este fin específico o el uso de sistemas de IA para inferir emociones de una persona física en los ámbitos del lugar de trabajo y de las instituciones educativas, excepto cuando el uso del sistema de IA esté destinado a ser puesto en funcionamiento o en el mercado por razones médicas o de seguridad.»
Art. 5(1)(f), Reglamento UE 2024/1689 — En vigor desde el 2 de febrero de 2025
El Considerando 44 explica que el legislador ha llegado ahí no solo por razones de privacidad, sino por la fiabilidad científica de los propios sistemas:
«Existen serias preocupaciones sobre la base científica de los sistemas de IA que pretenden identificar o inferir emociones, particularmente porque la expresión de las emociones varía considerablemente entre culturas y situaciones, e incluso dentro de un mismo individuo. Entre los principales defectos de tales sistemas se encuentran la fiabilidad limitada, la falta de especificidad y la generalización limitada. […] Teniendo en cuenta el desequilibrio de poder en el contexto laboral o educativo, combinado con la naturaleza intrusiva de estos sistemas, tales sistemas podrían conducir a un tratamiento perjudicial o desfavorable de determinadas personas físicas o de grupos enteros.»
Considerando 44, Reglamento UE 2024/1689
Así pues, el argumento del legislador es doble: estos sistemas no son fiables y aplicarlos donde existe desequilibrio de poder convierte la impreción técnica en daño potencial a derechos fundamentales.
Una posible ambigüedad que algunos proveedores invocan
La definición del artículo 3(34) vincula el reconocimiento de emociones a datos biométricos: «sistema de IA destinado a distinguir o deducir las emociones o las intenciones de las personas físicas a partir de sus datos biométricos». Algunos proveedores usan esa definición para sostener que si la inferencia se hace mediante análisis de texto —sin voz, sin imagen, sin biometría— la prohibición del artículo 5(1)(f) no aplica.
La ambigüedad es real y no tiene jurisprudencia que la cierre, pero eso no equivale a certeza de cumplimiento: la redacción del artículo 5(1)(f) no limita expresamente el mecanismo de inferencia. Un proveedor que afirma cumplir el RIA mientras publicita la detección del estado de ánimo como funcionalidad diferencial está navegando una zona no resuelta, sujeta a la interpretación más o menos estricta o laxa de los tribunales.
La incertidumbre jurídica nunca es garantía de legalidad, sino todo lo contrario: es exposición a riesgo regulatorio sin fecha de resolución conocida. Un riesgo que el RIA y el RGPD distribuyen entre quien desarrolla la herramienta y quien la despliega, sin que ninguno pueda trasladar al otro las obligaciones que le corresponden.
El RGPD también tiene su palabra al respecto
Independientemente de cómo se resuelva la ambigüedad del RIA, el RGPD opera en paralelo. La inferencia vinculada a un empleado identificado o identificable constituye un dato personal, y si esa inferencia modifica su experiencia formativa —el sistema cambia el tono, reduce la dificultad o altera la secuencia en función de lo que ha deducido sobre su estado interno—, estamos ante elaboración de perfiles en el sentido del artículo 4(4) del RGPD.
El artículo 22 puede activar garantías específicas cuando esa adaptación produzca efectos significativos sobre el desarrollo profesional del empleado o forme parte de decisiones relevantes para su carrera —acceso a certificaciones, formación obligatoria, evaluación de competencias—. En esos casos, el empleado tiene derecho a no ser objeto de una decisión basada únicamente en tratamiento automatizado, y la organización tiene la obligación de documentarlo y garantizar la posibilidad de intervención humana.
El sistema detecta que un empleado está «frustrado» —a partir de sus tiempos de respuesta, de la formulación de sus preguntas en el chat o de sus interacciones con el contenido— y reduce automáticamente la dificultad del módulo siguiente. El empleado no lo ha pedido. No sabe que el sistema ha inferido su estado. No puede contestar esa inferencia. Y el itinerario formativo que recibirá de ahí en adelante habrá sido modificado en base a un estado interno no verificable.
Si además el sistema reduce sistemáticamente la exigencia para determinados perfiles —por edad, por idioma, por patrones de respuesta asociados a colectivos concretos—, puede estar consolidando un sesgo sin que ninguna persona revise esa decisión. El problema no es solo de privacidad: es de gobernanza algorítmica.
Si la inferencia emocional podría llegar a revelar información relativa a la salud mental del empleado —y un «nivel de frustración elevado» o un «estado de ánimo bajo» pueden hacerlo—, el tratamiento puede quedar sujeto a las categorías especiales del artículo 9, con el listón de legitimidad considerablemente más alto. En el entorno laboral, el consentimiento como base jurídica es estructuralmente frágil: difícilmente puede considerarse libre en una relación de dependencia entre quien consiente y quien despliega el sistema.
Cualquier sistema que infiera estados emocionales de empleados a escala debería ir acompañado de una Evaluación de Impacto sobre Protección de Datos (DPIA), obligatoria bajo el artículo 35 del RGPD cuando el tratamiento implica evaluación sistemática y exhaustiva de aspectos personales basada en tratamiento automatizado. Esto afecta a los LMS o plataformas de formación que incorporen inferencia emocional como funcionalidad, no a los que operan solo sobre datos de aprendizaje observables.
El frente interno: comité de empresa y riesgo sindical
El análisis regulatorio tiende a centrarse en el cumplimiento externo, pero hay un frente interno que los departamentos de L&D raramente anticipan al evaluar estas herramientas.
Un sistema de formación que infiere y registra el estado emocional de los empleados es una herramienta pedagógica, pero puede convertirse, en la práctica, en un mecanismo continuo de evaluación del estado psicológico en el trabajo. Que esa evaluación se presente como personalización no cambia su naturaleza. Los representantes sindicales y los comités de empresa tienen legitimidad para ser informados y consultados cuando la organización introduce sistemas que afectan de forma significativa a las condiciones de trabajo. Implantar esta funcionalidad sin abrir ese proceso es un riesgo que puede materializarse antes de que llegue cualquier autoridad de control.
Hay un último riesgo que no por estar a la cola es insustancial: si el sistema acumula inferencias emocionales vinculadas al perfil del empleado a lo largo del tiempo, ese historial existe y puede ser accesible. Un registro acumulado de «alta frustración», «baja motivación» o «engagement reducido» en determinados períodos puede convertirse en un perfil psicológico informal que trasciende el uso formativo para el que fue recogido y que podría utilizarse para tomar decisiones de promoción, movilidad o desvonculación.
2025
2026
La tabla que separa personalización de inferencia
| Tipo de personalización | Datos que usa | Marco normativo |
|---|---|---|
| Ajustar dificultad según resultados de evaluación | Respuestas, puntuaciones | Riesgo reducido |
| Reordenar contenidos por historial de aprendizaje | Progreso, módulos completados | Riesgo reducido |
| Detectar patrones de abandono o baja participación | Comportamiento en plataforma | Requiere base jurídica / DPIA |
| Inferir motivación o frustración y adaptar el tono | Señales textuales / conversacionales | Zona no resuelta · Art. 22 puede aplicar |
| Detectar estado emocional por voz, imagen o biometría | Datos biométricos | Práctica prohibida · Art. 5(1)(f) RIA |
Qué puede seguir haciendo una plataforma sin conflicto normativo
- Adaptar la dificultad en función de los resultados de evaluación del empleado, sin inferir nada sobre su estado interno.
- Recomendar contenidos según el historial de aprendizaje, las competencias adquiridas o los objetivos formativos asignados.
- Espaciar repasos mediante algoritmos de repetición espaciada basados en tasas de retención observadas, no en estados emocionales inferidos.
- Detectar lagunas competenciales a partir de errores recurrentes o módulos no superados, y proponer itinerarios de refuerzo.
- Recomendar recursos adicionales según el desempeño en evaluaciones o el tiempo dedicado a determinadas áreas.
Ninguna de estas funcionalidades necesita inferir cómo se siente el empleado. La innovación pedagógica no depende de conocer el estado emocional del trabajador, sino de utilizar correctamente los datos de aprendizaje disponibles.
Siete preguntas antes de contratar una plataforma de formación con IA
- ¿Qué datos usa el sistema para personalizar? ¿Resultados y comportamiento observables, o inferencias sobre el estado interno del empleado? La respuesta define el nivel de exposición regulatoria.
- ¿Mediante qué señales detecta el «estado de ánimo»? Texto conversacional, voz, imagen, datos fisiológicos. Cada mecanismo tiene un encaje normativo diferente y una fiabilidad científica diferente.
- ¿El dato inferido se almacena vinculado al perfil del empleado? Un sistema que opera en sesión sin persistencia es diferente a uno que acumula inferencias emocionales a lo largo del tiempo. Pedir documentación técnica, no solo declaraciones.
- ¿Esas inferencias pueden influir en otros procesos de talento? Evaluación del desempeño, promoción, movilidad interna. Si la respuesta es ambigua, el riesgo existe aunque no esté diseñado así.
- ¿Qué base jurídica ampara el tratamiento bajo el artículo 6 del RGPD? En el entorno laboral, el consentimiento es estructuralmente frágil. Si la base es el interés legítimo, pedir la evaluación ponderada que lo justifica.
- ¿El proveedor ha realizado una DPIA sobre esta funcionalidad concreta? No sobre el producto en general: sobre la inferencia emocional en particular. Si no existe o no puede compartirse, es un indicador sobre la madurez regulatoria del proveedor.
- ¿Cómo y cuándo se informa al empleado? La transparencia no es solo una obligación del RGPD: es una condición para que el tratamiento sea legítimo y para que el sistema no deteriore la confianza que hace eficaz a cualquier herramienta formativa.
La personalización de la formación con IA puede llegar muy lejos sin necesidad de inferir cómo se siente el empleado mientras aprende. Adaptar contenidos, ritmos y secuencias a partir del comportamiento observable dentro de la plataforma es suficiente para hacer la experiencia formativa más relevante para cada persona, sin cruzar ninguna de las líneas que el marco normativo europeo ha trazado.
El propio legislador europeo considera que la evidencia científica disponible no ofrece un grado de fiabilidad suficiente para justificar el uso de estos sistemas en contextos caracterizados por un desequilibrio de poder, como el laboral. Un sistema que no puede inferir con precisión lo que promete inferir no mejora la formación: la condiciona en base a un error. Y ese error lo pagan el empleado —con un itinerario formativo que nadie ha revisado— y la organización, con una exposición regulatoria, un frente sindical y un pasivo reputacional que ningún proveedor va a compartir cuando llegue el momento de rendir cuentas.
La demo es convincente. El contrato no distribuye el riesgo. Y la pregunta que el responsable de Formación y Desarrollo debería haber hecho antes de la firma —¿mediante qué señales, con qué persistencia, con qué base legal y a quién afecta si el sistema se equivoca?— sigue siendo válida después de ella.
