Por tercer año consecutivo, MIT Sloan Management Review y Boston Consulting Group han reunido a un grupo internacional de expertos en IA, formado por académicos y profesionales, para debatir sobre cómo se está aplicando la inteligencia artificial responsable (RAI) en las organizaciones de todo el mundo. Este año, la discusión se ha centrado en la capacidad de las organizaciones para hacer frente a los riesgos relacionados con la IA en un panorama que incluye la Ley de IA de la Unión Europea.
El debate se inicia con una pregunta directa y sencilla: ¿Están las organizaciones preparadas para cumplir los requisitos de la Ley europeas de la IA a medida que vaya entrando en vigor en los próximos 12 meses? Los expertos están divididos. Mientras que casi la mitad (47%) está en desacuerdo o muy en desacuerdo con la afirmación, un tercio (33%) ni está de acuerdo ni en desacuerdo, y sólo una quinta parte (20%) está de acuerdo o muy de acuerdo.
Aunque los requisitos de la Ley de IA se irán introduciendo progresivamente, el calendario para su cumplimiento es agresivo. La primera fase de la Ley de IA, correspondiente a los sistemas de IA prohibidos, entra en vigor en seis meses, los sistemas de IA generativa en 12 meses y los requisitos para la mayoría de los sistemas de alto riesgo en dos años. Este es el periodo que aplica a la IA, generativa o no, aplicada a los procesos de recursos humanos. Recordemos que el uso de la IA en el ámbito laboral ha sido calificada como de «alto riesgo».
Como norma general, las empresas necesitan dos años para prepararse cuando se producen cambios normativos de alto impacto, como pasará con la Ley de Compliance Laboral o la de Transparencia Retributiva. Además, los expertos recuerdan que algunas obligaciones básicas empezarán a aplicarse en 2024, para lo que algunas organizaciones pueden no estar preparadas y el plazo de seis meses para el cumplimiento de las aplicaciones de alto riesgo planteará retos a los desarrolladores.
Una norma compleja y «agresiva» para grandes, medianas y pequeñas
Algunos expertos consultados en el panel organizado por MIT Sloan afirman que organizaciones de todos los tamaños se enfrentarán a diferentes desafíos dada la complejidad del proceso de cumplimiento y los entresijos que implica navegar por el panorama normativo. Las empresas medianas y pequeñas no tienen recursos para adaptarse a la normativa en un plazo de 12 meses; y las grandes, con importantes despliegues de IA pueden tener dificultades para lograr la transparencia en una miríada de casos de uso de la IA en toda la organización, discernir qué sistemas entrarán en el ámbito de aplicación de la Ley, interpretar y adaptarse a unos requisitos todavía ambiguos y crear un mecanismo de supervisión para evaluar sistemáticamente la conformidad de cada nueva introducción de IA.
La buena noticia, según los expertos, es que habrá un período de gracia para su aplicación. La Oficina Europea de Inteligencia Artificial ha dejado claro que adoptará un enfoque similar al del cumplimiento del RGPD [Reglamento General de Protección de Datos], en el que concedió un periodo de gracia antes de imponer multas y tomar medidas coercitivas. El Oxford Internet Institute recuerda que el GDPR tardó años en aumentar su mecanismo de aplicación, lo que, si algo similar ocurre con la Ley de IA, podría dar a las empresas más tiempo para navegar por un enfoque de cumplimiento. Por eso es importante que las organizaciones utilicen el período de gracia de dos años entre la entrada en vigor de la Ley de IA y su aplicabilidad, y busquen información concreta sobre la interpretación de la Ley de IA relevante para sus operaciones.
Conocimientos técnicos
Varios expertos citan la interpretación de los requisitos de la Ley como un obstáculo para el cumplimiento oportuno. Es probable que interpretar y traducir estos requisitos en características de ingeniería procesables suponga un reto importante para las organización, que se enfrentarán a una incertidumbre significativa sobre lo que la Ley de IA les exige, y lucharán por traducir los requisitos legales de la Ley de IA en llamadas a la acción ejecutables para los proveedores e implantadores de sistemas de IA.
Según la Harvard Business School, uno de los requisitos más difíciles de cumplir será el de la transparencia de los algoritmos de IA porque, en la clasificación de riesgos, pueden haber sistemas considerados de riesgo limitado porque aún no entendemos sus consecuencias, lo que puede convertirlos en potencialmente de alto riesgo.
La competencia y la experiencia en IA serán fundamentales para llevar a la práctica los ambiguos requisitos de la ley. Comprender y cumplir un marco tan enormemente complicado requiere no solo conocimientos jurídicos y éticos, sino también la capacidad de integrar estas consideraciones en los propios sistemas de IA. Las organizaciones presentan actualmente distintos niveles de madurez no sólo en sus capacidades tecnológicas, sino también en la comprensión de la IA por parte de sus empleados, lo que influirá en su preparación para cumplir los requisitos de la Ley de IA de la UE.
Y existe otro riesgo evidente: no hay suficientes personas cualificadas en el mundo que estén a la altura de la tarea. Por este motivo, el camino hacia el pleno cumplimiento será probablemente iterativo y complejo, evolucionando a medida que las organizaciones comprendan mejor tanto la tecnología como la legislación.
Una base de gobernanza
Es probable que las organizaciones que cuenten con una base de gobernanza obtengan mejores resultados a la hora de cumplir los plazos de la Ley de IA. La preparación de una organización depende de cómo esté implantando los campos de cumplimiento subyacentes, como la privacidad y la ciberseguridad, y de que sea capaz de basarse en las estructuras de gobierno existentes. Las empresas que van retrasadas en estas materias, pueden encontrar desalentador navegar por estas nuevas regulaciones. Sin embargo, las organizaciones líderes en materia de Gobernanza cuentan con las bases para cumplir los requisitos de la Ley de IA de la UE, como gobernanza, definiciones y herramientas y en sectores muy regulados, los actores establecidos con equipos de cumplimiento deberían estar bien.
Sin embargo, las entidades más grandes, aunque se beneficien de estructuras de gobernanza más sólidas, seguirán necesitando llevar a cabo modificaciones significativas para cumplir las estipulaciones detalladas de la ley, como mejorar la calidad de los datos, realizar auditorías algorítmicas y aplicar una supervisión continua.
1.- Determine su ritmo de cumplimiento. Las organizaciones tendrán que sopesar la urgencia de cumplir la próxima normativa, el reconocimiento de que dispondrán de un periodo de transición antes de que se intensifique la aplicación de la normativa y la cantidad de trabajo necesaria para alcanzar el cumplimiento. Es probable que las partes interesadas tengan diferentes puntos de vista sobre el ritmo de cumplimiento en función de cómo perciban el período de transición de dos años, durante el cual se escalonan los requisitos de aplicación. Crear un consenso y un propósito compartido entre las partes interesadas resulta crucial para alinearse con los plazos de cumplimiento y lograr el ritmo de implantación necesario para cumplirlos. Las organizaciones cuyos comités de dirección se extienden más allá de la función de cumplimiento pueden ser más eficaces para lograr este equilibrio que aquellas en las que la función de cumplimiento es el único árbitro que dicta edictos al resto de la organización.
2.- Implantar un programa de IA responsable. El agresivo calendario para el cumplimiento, unido a la incertidumbre de los requisitos de la Ley de IA y la necesidad de experiencia para traducirlos, pone de relieve las ventajas de contar con una base de RAI. La gobernanza, en este caso, no significa únicamente la función de cumplimiento. Los enlaces gubernamentales, los tecnólogos, los expertos en privacidad de datos, los profesionales jurídicos y las partes interesadas responsables de la IA deben participar para garantizar respuestas oportunas y eficaces a la normativa. Cree un proceso para determinar la estructura de gobierno, los procesos y las herramientas y recursos adecuados para su organización, tanto si se trata de ampliar las estructuras de gobierno existentes como de desarrollar nuevos mecanismos. Cualquiera que sea su forma, es probable que este proceso produzca información valiosa sobre cómo su estrategia para la IA refleja y promueve el propósito y los valores generales de su empresa.
3.- Formar a los equipos de IA. Cumplir la normativa sobre IA requiere conocimientos especializados. Pero la experiencia en IA ya escasea, es cara y suele centrarse en oportunidades de creación de valor. Reasignar los conocimientos de IA al cumplimiento de la normativa puede considerarse una costosa desviación de recursos. Sin embargo, puede que no sea una compensación tan grande como parece. Educar a los equipos de IA sobre la ley y sus implicaciones permite a los expertos en IA garantizar el cumplimiento normativo desde el diseño en sus soluciones de IA. Esto hará avanzar la agenda de IA de la empresa y enriquecerá su enfoque ético. Adoptar una mentalidad que reconozca que las regulaciones de IA son tanto impuestas externamente como valiosas internamente puede ampliar la forma en que las organizaciones ven sus inversiones en cumplimiento regulatorio.
4.- Crear capacidades de prueba y evaluación. Un aspecto clave de los requisitos de la Ley de IA es garantizar que las soluciones de IA se prueben y evalúen adecuadamente. Esto incluye la evaluación de los datos subyacentes y la comprobación de la precisión, solidez, daños y vulnerabilidades de ciberseguridad de los sistemas de IA. Las pruebas y la evaluación de la IA, en particular de los sistemas de IA generativa, siguen siendo un área incipiente, y muchas organizaciones carecerán de la experiencia, las herramientas y los procesos necesarios. Las organizaciones deberían empezar a tomar medidas para mejorar las competencias de los equipos de IA, contratar a expertos adicionales e identificar las herramientas y procesos adecuados como parte de la implantación de sus programas de RAI más amplios.
Si quieres saber más sobre normativa laboral e inteligencia artificial puedes consultar el ciclo de webinars de IA+Igual y en concreto:
- Protección de datos e inteligencia artificial: puntos de fricción entre el RGPD y el RIA (webinar + noticia + video).
- Algoritmos, sesgos y normativa, la ecuación necesaria para una IA ética, confiable e inclusiva (webinar + noticia + video).
Las seis decisiones que definen la alfabetización en IA
Las seis decisiones que sostienen el juicio humano ante un sistema de IA, con la evidencia observable que permite acreditar que un trabajador sabe tomarlas.
Frankenstein y la IA: una metáfora vigente doscientos años después
Dos siglos más tarde, la novela no ha perdido ni un ápice de su vigencia, al contrario; en plena era de la inteligencia artificial, su metáfora central resulta más pertinente que nunca. No se trata de ciencia ficción gótica sobre monstruos y laboratorios, sino de una pregunta filosófica que sigue sin respuesta definitiva: ¿Qué ocurre […]
Cuando la formación empieza a conversar, L&D ha de gobernar otro sistema
Gobernar la formación con IA no es gestionar contenidos sino gobernar cómo se comporta el sistema. Cinco decisiones que RRHH debe cerrar antes de firmar.
Del tutor al copiloto: el mapa funcional de la IA generativa en el aprendizaje corporativo
Tutor, simulador, coach, evaluador, recomendador y copiloto: seis aplicaciones de IA generativa en formación, qué gobernar en cada una y cómo falla.
AI Act: no todas las obligaciones empiezan el 2 de agosto, aunque hayas leído que sí
El Ómnibus aplaza a diciembre de 2027 las obligaciones de alto riesgo, pero el Estatuto de los Trabajadores obliga desde 2021. Mapa de lo que obliga hoy a RRHH.
Diseño instruccional: si la IA escribe tus cursos, diseña antes el error
Cuando producir cursos deja de ser difícil, lo decisivo es qué error debe cometer el alumno. Cómo diseñar formación con IA y qué preguntar antes de comprarla.
Gobernar la IA empieza por gobernar las decisiones del CEO
Ford, Klarna e IBM revelan un patrón común: los errores más costosos de la IA nacen antes de implantarla, cuando el CEO toma decisiones con evidencia insuficiente.
¿Hasta dónde se puede personalizar el aprendizaje sin perfilar ni inferir emociones?
Adaptar la formación al aprendizaje es legítimo. Inferir el estado emocional del empleado puede ser una práctica prohibida. Análisis normativo.
Lo que un agente de IA no debe sustituir es la capacidad organizativa de discernir
Supervisar un agente de IA no es lo mismo que conservar la capacidad de controlarlo. El marco que el líder necesita antes de que la delegación se convierta en dependencia.
¿ChatGPT, Copilot, Gemini o Claude para RR. HH? Dos capas de decisión
La IA va de personas, pero también de tecnología. La plantilla debe utilizar una solución cuya elección es la segunda decisión estratégica a tomar, justo después de definir para qué y cómo se quiere aplicar. En ese proceso se libra la diferencia entre las organizaciones que progresan con paso firme y las que se atascan en un ROI que no llega porque no se ha buscado bien.
¿Por qué la gestión del cambio va a fracasar otra vez, ahora con la IA?
La gestión del cambio vuelve a fallar en la adopción de la IA por las mismas razones estructurales de siempre. Los programas de transformación confunden comunicación con rediseño organizativo, miden adopción en lugar de impacto y dejan intactas las arquitecturas de decisión, trabajo e incentivos. El problema no es la tecnología ni las personas: es que las organizaciones están diseñadas para absorber el cambio, no para transformarse.
Primero el dato, luego la IA
La IA no corrige datos deficientes: los amplifica. Este webinar ORH con Nubhora explica cómo construir una base de información fiable en RR. HH. (trazable, homogénea y auditable) para que la analítica y la inteligencia artificial generen valor real en la toma de decisiones.
El flujo de trabajo entre el DRH y el DPO para que éste no diga “no” a los casos de uso de IA
Por qué el DPO dice no a los casos de uso de IA en RRHH y cómo cambiar ese orden: flujo de trabajo, cinco datos clave y tres condiciones de gobernanza.
Por qué la elaboración de perfiles “condena” a los ATS de selección al alto riesgo
Las Directrices del AI Act dejan casi sin salida a los ATS de selección: si hay perfilado, son de alto riesgo. Claves y pasos para el deployer antes de 2027
La IA tiene un nuevo código de conducta (y no lo ha escrito una tecnológica)
León XIV publica su primera encíclica sobre IA y define tres riesgos laborales, cinco principios y una cadena de responsabilidad que deberían ser leídos por quienes dirigen personas.
El cambio empieza por el tejado (los líderes) en la adopción de la IA
El cuello de botella de la IA no es tecnológico, sino humano, y por eso la cultura, el liderazgo y el trabajador del pensamiento son las claves para escalar su valor competitivo.
10 fricciones que alejan a la IA de su implantación efectiva en RR. HH.
El informe «La inteligencia artificial y su impacto en la gestión del talento» revela la radiografía de una tecnología que se está incorporando con fricción.
La empresa ya usa IA, pero no está aprendiendo con ella
Uno de los efectos más invisibles de la adopción desestructurada de la IA es que cada empleado que aprende a usar IA desarrolla un conocimiento valioso que rara vez se comparte en la orgnización.
Agentes de IA: un copiloto activo que transforma el modelo de productividad organizativa
La narrativa corporativa en torno a la inteligencia está dejando atrás la «IA de consulta» y está adoptando la de los Agentes de IA. El valor ya no está en procesar información sino en actuar, ejecutar y facilitar decisiones complejas en tiempo real. Este cambio de paradigma no es una evolución lineal sino exponencial, porque rompe con el concepto de productividad del último siglo, y no sólo para las empresas y los empleados, sino también y muy especialmente para la propia función de RR. HH. No se trata ya de «qué puede hacer la tecnología por ella», sino de cómo la arquitectura de agentes inteligentes está redefiniendo su propósito mismo.
Cuatro niveles para transitar desde el dato descriptivo hasta el dato explicativo, la simulación y los patrones de IA
People analytics sin atajos — ORH People Analytics Cuatro niveles para transitar desde el dato descriptivo hasta el dato explicativo, la simulación y los patrones de IA La conversación sobre people analytics se ha desplazado hacia la inteligencia artificial a una velocidad muy superior a la capacidad real de absorción de personas y organizaciones. ¿Modelos […]
¿Sabías que transcribir con IA las reuniones tiene riesgos legales?
La transcripción automática de reuniones mediante inteligencia artificial se ha convertido en una funcionalidad estándar en plataformas como Microsoft Teams, Zoom o Google Meet. Su adopción ha sido rápida y, en muchos casos, acrítica. El problema es que detrás de un clic en «grabar» hay un tratamiento de datos personales que activa obligaciones concretas del RGPD.
IA y Recursos Humanos: La transformación que no llega porque el compliance importa
Que los profesionales de RRHH usan la IA cada vez más es un hecho difícil de rebatir, pero que eso esté transformando sus trabajos de manera sustancial es una promesa que se renueva cada año sin terminar de cumplirse. Así se desprende de la tercera edición del estudio «Los profesionales de RRHH ante los desafíos de la IA», de Future for Work Institute
Steve Cadigan: «Si sustituyes tu cantera de talento por IA pierdes capacidad de adaptación»
Si sustituyes tu cantera de talento por IA, no solo pierdes producción: pierdes memoria organizativa, criterio y capacidad de adaptación.
Webinar IA + Igual 8/04
Diversidad, inclusión y equidad. Los departamentos de RRHH llevan trabajando décadas en el desarrollo de implantación de políticas que contribuyan a cumplir con la normativa, respetar los ODS y garantizar la productividad, la motivación y el engagement. La irrupción de la IA supone un nuevo reto. Los colectivos vulnerables son un agujero negro para esta […]
El dilema de Aquiles (11): ¿Evaluados por una IA neutral?
La posibilidad de implantar un sistema de evaluación basado en IA que procesa datos masivos es seductora, pero a medida que se observa su funcionamiento, se percibe algo inquietante: lo que no se puede medir deja de existir, no computa.
La IA ética plantea cómo prevenir riesgos reputacionales y reforzar la confianza empresarial
La rápida expansión de la inteligencia artificial está transformando el tejido empresarial a gran velocidad. Sin embargo, junto con las oportunidades emergen riesgos éticos, legales y reputacionales que pueden comprometer la confianza pública. En este contexto, Setesca subraya la necesidad de incorporar un nuevo rol estratégico: el Oficial Ético de IA, figura clave para garantizar […]
IA en el trabajo: el reto pendiente de los Consejos de Administración
La IA en el trabajo avanza con fuerza, pero aún plantea grandes retos en los Consejos de Administración.
Cuando la IA se contrató a sí misma: el juego de espejos en la selección moderna
Candidato y empresa no se miran: se reflejan, a través de la inteligencia artificial. El primero afina su currículum y carta de presentación con ella hasta parecer perfecto, mientras la empresa la usa para filtrarlo. El resultado: un proceso de selección que deja de ser un baile a dos para convertirse en un solitario donde […]
IA en Recursos Humanos: nace el Co-HR Manager y cambia las reglas del talento
Un Co-HR Manager es un concepto emergente en el sector de los Recursos Humanos que describe a una IA capaz de actuar como socio estratégico del departamento.
Desafíos operativos de la IA: hitos normativos en vigor y su complejidad en la práctica
Descubre con este pack de webinar y artículo los desafíos operativos que provoca el actual marco normativo en el despliegue de sistemas de IA en procesos de RR.HH.
AI Autopilot: la IA que convierte cualquier idea en un curso completo en minutos
IsEazy ha desarrollado AI Autopilot, una tecnología que automatiza la creación de cursos e-learning completos.
La industria del engaño: deepfakes y fraude asistido por IA
Este artículo examina cómo la combinación de tecnología avanzada y la explotación sistemática de sesgos cognitivos crea un escenario sin precedentes para el fraude y la manipulación.
La IA redefine el ciclo del talento: retos y oportunidades para RR.HH.
La IA se ha consolidado como uno de los factores más influyentes en la transformación del mercado laboral. Su alcance abarca todas las fases del ciclo del talento.
Un asistente de IA guía al empleado de Siemens Healthineers en el cumplimiento normativo
Siemens Healthineers España ha puesto en marcha el primer asistente de IA para sus empleados, diseñado para guiar y facilitar el acceso al conocimiento en materia de compliance.
IBM y Experis transforman la gestión de RR.HH. con agentes de IA
IBM y Experis han puesto en marcha un programa innovador para transformar la gestión de recursos humanos mediante agentes de inteligencia artificial.
Guerra global por el talento en IA: salarios al alza y escasez de perfiles especializados
La IA ha desatado una competencia sin precedentes por el talento especializado. La escasez de perfiles cualificados y la creciente demanda han disparado los salarios y tensionado los mercados laborales
El despliegue de la IA cortocircuita ante los compromisos DEI
¿Lideras la estrategia de diversidad e inclusión en tu organización? Entonces deberías estar en primera línea de otra estrategia, la de la adopción de la IA.
La IA convierte la asesoría jurídica en socio estratégico del negocio
La IA está transformando la asesoría jurídica empresarial, que deja de ser un área centrada únicamente en el cumplimiento normativo para convertirse en un verdadero socio estratégico del negocio.
La IA redefine la gestión por competencias
Las competencias son hoy el activo más volátil y estratégico de las organizaciones. Si en 1990 una habilidad podía tener una vida útil de 30 años, hoy apenas dura dos.
La IA en RR.HH.: del entusiasmo a la aplicación práctica
La IA promete revolucionar la gestión de personas, pero su adopción aún tropieza con resistencias culturales y falta de formación.
