Por tercer año consecutivo, MIT Sloan Management Review y Boston Consulting Group han reunido a un grupo internacional de expertos en IA, formado por académicos y profesionales, para debatir sobre cómo se está aplicando la inteligencia artificial responsable (RAI) en las organizaciones de todo el mundo. Este año, la discusión se ha centrado en la capacidad de las organizaciones para hacer frente a los riesgos relacionados con la IA en un panorama que incluye la Ley de IA de la Unión Europea.
El debate se inicia con una pregunta directa y sencilla: ¿Están las organizaciones preparadas para cumplir los requisitos de la Ley europeas de la IA a medida que vaya entrando en vigor en los próximos 12 meses? Los expertos están divididos. Mientras que casi la mitad (47%) está en desacuerdo o muy en desacuerdo con la afirmación, un tercio (33%) ni está de acuerdo ni en desacuerdo, y sólo una quinta parte (20%) está de acuerdo o muy de acuerdo.
Aunque los requisitos de la Ley de IA se irán introduciendo progresivamente, el calendario para su cumplimiento es agresivo. La primera fase de la Ley de IA, correspondiente a los sistemas de IA prohibidos, entra en vigor en seis meses, los sistemas de IA generativa en 12 meses y los requisitos para la mayoría de los sistemas de alto riesgo en dos años. Este es el periodo que aplica a la IA, generativa o no, aplicada a los procesos de recursos humanos. Recordemos que el uso de la IA en el ámbito laboral ha sido calificada como de «alto riesgo».
Como norma general, las empresas necesitan dos años para prepararse cuando se producen cambios normativos de alto impacto, como pasará con la Ley de Compliance Laboral o la de Transparencia Retributiva. Además, los expertos recuerdan que algunas obligaciones básicas empezarán a aplicarse en 2024, para lo que algunas organizaciones pueden no estar preparadas y el plazo de seis meses para el cumplimiento de las aplicaciones de alto riesgo planteará retos a los desarrolladores.
Una norma compleja y «agresiva» para grandes, medianas y pequeñas
Algunos expertos consultados en el panel organizado por MIT Sloan afirman que organizaciones de todos los tamaños se enfrentarán a diferentes desafíos dada la complejidad del proceso de cumplimiento y los entresijos que implica navegar por el panorama normativo. Las empresas medianas y pequeñas no tienen recursos para adaptarse a la normativa en un plazo de 12 meses; y las grandes, con importantes despliegues de IA pueden tener dificultades para lograr la transparencia en una miríada de casos de uso de la IA en toda la organización, discernir qué sistemas entrarán en el ámbito de aplicación de la Ley, interpretar y adaptarse a unos requisitos todavía ambiguos y crear un mecanismo de supervisión para evaluar sistemáticamente la conformidad de cada nueva introducción de IA.
La buena noticia, según los expertos, es que habrá un período de gracia para su aplicación. La Oficina Europea de Inteligencia Artificial ha dejado claro que adoptará un enfoque similar al del cumplimiento del RGPD [Reglamento General de Protección de Datos], en el que concedió un periodo de gracia antes de imponer multas y tomar medidas coercitivas. El Oxford Internet Institute recuerda que el GDPR tardó años en aumentar su mecanismo de aplicación, lo que, si algo similar ocurre con la Ley de IA, podría dar a las empresas más tiempo para navegar por un enfoque de cumplimiento. Por eso es importante que las organizaciones utilicen el período de gracia de dos años entre la entrada en vigor de la Ley de IA y su aplicabilidad, y busquen información concreta sobre la interpretación de la Ley de IA relevante para sus operaciones.
Conocimientos técnicos
Varios expertos citan la interpretación de los requisitos de la Ley como un obstáculo para el cumplimiento oportuno. Es probable que interpretar y traducir estos requisitos en características de ingeniería procesables suponga un reto importante para las organización, que se enfrentarán a una incertidumbre significativa sobre lo que la Ley de IA les exige, y lucharán por traducir los requisitos legales de la Ley de IA en llamadas a la acción ejecutables para los proveedores e implantadores de sistemas de IA.
Según la Harvard Business School, uno de los requisitos más difíciles de cumplir será el de la transparencia de los algoritmos de IA porque, en la clasificación de riesgos, pueden haber sistemas considerados de riesgo limitado porque aún no entendemos sus consecuencias, lo que puede convertirlos en potencialmente de alto riesgo.
La competencia y la experiencia en IA serán fundamentales para llevar a la práctica los ambiguos requisitos de la ley. Comprender y cumplir un marco tan enormemente complicado requiere no solo conocimientos jurídicos y éticos, sino también la capacidad de integrar estas consideraciones en los propios sistemas de IA. Las organizaciones presentan actualmente distintos niveles de madurez no sólo en sus capacidades tecnológicas, sino también en la comprensión de la IA por parte de sus empleados, lo que influirá en su preparación para cumplir los requisitos de la Ley de IA de la UE.
Y existe otro riesgo evidente: no hay suficientes personas cualificadas en el mundo que estén a la altura de la tarea. Por este motivo, el camino hacia el pleno cumplimiento será probablemente iterativo y complejo, evolucionando a medida que las organizaciones comprendan mejor tanto la tecnología como la legislación.
Una base de gobernanza
Es probable que las organizaciones que cuenten con una base de gobernanza obtengan mejores resultados a la hora de cumplir los plazos de la Ley de IA. La preparación de una organización depende de cómo esté implantando los campos de cumplimiento subyacentes, como la privacidad y la ciberseguridad, y de que sea capaz de basarse en las estructuras de gobierno existentes. Las empresas que van retrasadas en estas materias, pueden encontrar desalentador navegar por estas nuevas regulaciones. Sin embargo, las organizaciones líderes en materia de Gobernanza cuentan con las bases para cumplir los requisitos de la Ley de IA de la UE, como gobernanza, definiciones y herramientas y en sectores muy regulados, los actores establecidos con equipos de cumplimiento deberían estar bien.
Sin embargo, las entidades más grandes, aunque se beneficien de estructuras de gobernanza más sólidas, seguirán necesitando llevar a cabo modificaciones significativas para cumplir las estipulaciones detalladas de la ley, como mejorar la calidad de los datos, realizar auditorías algorítmicas y aplicar una supervisión continua.
1.- Determine su ritmo de cumplimiento. Las organizaciones tendrán que sopesar la urgencia de cumplir la próxima normativa, el reconocimiento de que dispondrán de un periodo de transición antes de que se intensifique la aplicación de la normativa y la cantidad de trabajo necesaria para alcanzar el cumplimiento. Es probable que las partes interesadas tengan diferentes puntos de vista sobre el ritmo de cumplimiento en función de cómo perciban el período de transición de dos años, durante el cual se escalonan los requisitos de aplicación. Crear un consenso y un propósito compartido entre las partes interesadas resulta crucial para alinearse con los plazos de cumplimiento y lograr el ritmo de implantación necesario para cumplirlos. Las organizaciones cuyos comités de dirección se extienden más allá de la función de cumplimiento pueden ser más eficaces para lograr este equilibrio que aquellas en las que la función de cumplimiento es el único árbitro que dicta edictos al resto de la organización.
2.- Implantar un programa de IA responsable. El agresivo calendario para el cumplimiento, unido a la incertidumbre de los requisitos de la Ley de IA y la necesidad de experiencia para traducirlos, pone de relieve las ventajas de contar con una base de RAI. La gobernanza, en este caso, no significa únicamente la función de cumplimiento. Los enlaces gubernamentales, los tecnólogos, los expertos en privacidad de datos, los profesionales jurídicos y las partes interesadas responsables de la IA deben participar para garantizar respuestas oportunas y eficaces a la normativa. Cree un proceso para determinar la estructura de gobierno, los procesos y las herramientas y recursos adecuados para su organización, tanto si se trata de ampliar las estructuras de gobierno existentes como de desarrollar nuevos mecanismos. Cualquiera que sea su forma, es probable que este proceso produzca información valiosa sobre cómo su estrategia para la IA refleja y promueve el propósito y los valores generales de su empresa.
3.- Formar a los equipos de IA. Cumplir la normativa sobre IA requiere conocimientos especializados. Pero la experiencia en IA ya escasea, es cara y suele centrarse en oportunidades de creación de valor. Reasignar los conocimientos de IA al cumplimiento de la normativa puede considerarse una costosa desviación de recursos. Sin embargo, puede que no sea una compensación tan grande como parece. Educar a los equipos de IA sobre la ley y sus implicaciones permite a los expertos en IA garantizar el cumplimiento normativo desde el diseño en sus soluciones de IA. Esto hará avanzar la agenda de IA de la empresa y enriquecerá su enfoque ético. Adoptar una mentalidad que reconozca que las regulaciones de IA son tanto impuestas externamente como valiosas internamente puede ampliar la forma en que las organizaciones ven sus inversiones en cumplimiento regulatorio.
4.- Crear capacidades de prueba y evaluación. Un aspecto clave de los requisitos de la Ley de IA es garantizar que las soluciones de IA se prueben y evalúen adecuadamente. Esto incluye la evaluación de los datos subyacentes y la comprobación de la precisión, solidez, daños y vulnerabilidades de ciberseguridad de los sistemas de IA. Las pruebas y la evaluación de la IA, en particular de los sistemas de IA generativa, siguen siendo un área incipiente, y muchas organizaciones carecerán de la experiencia, las herramientas y los procesos necesarios. Las organizaciones deberían empezar a tomar medidas para mejorar las competencias de los equipos de IA, contratar a expertos adicionales e identificar las herramientas y procesos adecuados como parte de la implantación de sus programas de RAI más amplios.
Si quieres saber más sobre normativa laboral e inteligencia artificial puedes consultar el ciclo de webinars de IA+Igual y en concreto:
- Protección de datos e inteligencia artificial: puntos de fricción entre el RGPD y el RIA (webinar + noticia + video).
- Algoritmos, sesgos y normativa, la ecuación necesaria para una IA ética, confiable e inclusiva (webinar + noticia + video).
Desafíos operativos de la IA: hitos normativos en vigor y su complejidad en la práctica
Descubre con este pack de webinar y artículo los desafíos operativos que provoca el actual marco normativo en el despliegue de sistemas de IA en procesos de RR.HH.
AI Autopilot: la IA que convierte cualquier idea en un curso completo en minutos
IsEazy ha desarrollado AI Autopilot, una tecnología que automatiza la creación de cursos e-learning completos.
La industria del engaño: deepfakes y fraude asistido por IA
Este artículo examina cómo la combinación de tecnología avanzada y la explotación sistemática de sesgos cognitivos crea un escenario sin precedentes para el fraude y la manipulación.
La IA redefine el ciclo del talento: retos y oportunidades para RR.HH.
La IA se ha consolidado como uno de los factores más influyentes en la transformación del mercado laboral. Su alcance abarca todas las fases del ciclo del talento.
Un asistente de IA guía al empleado de Siemens Healthineers en el cumplimiento normativo
Siemens Healthineers España ha puesto en marcha el primer asistente de IA para sus empleados, diseñado para guiar y facilitar el acceso al conocimiento en materia de compliance.
IBM y Experis transforman la gestión de RR.HH. con agentes de IA
IBM y Experis han puesto en marcha un programa innovador para transformar la gestión de recursos humanos mediante agentes de inteligencia artificial.
Guerra global por el talento en IA: salarios al alza y escasez de perfiles especializados
La IA ha desatado una competencia sin precedentes por el talento especializado. La escasez de perfiles cualificados y la creciente demanda han disparado los salarios y tensionado los mercados laborales
El despliegue de la IA cortocircuita ante los compromisos DEI
¿Lideras la estrategia de diversidad e inclusión en tu organización? Entonces deberías estar en primera línea de otra estrategia, la de la adopción de la IA.
La IA convierte la asesoría jurídica en socio estratégico del negocio
La IA está transformando la asesoría jurídica empresarial, que deja de ser un área centrada únicamente en el cumplimiento normativo para convertirse en un verdadero socio estratégico del negocio.
La IA redefine la gestión por competencias
Las competencias son hoy el activo más volátil y estratégico de las organizaciones. Si en 1990 una habilidad podía tener una vida útil de 30 años, hoy apenas dura dos.
La IA en RR.HH.: del entusiasmo a la aplicación práctica
La IA promete revolucionar la gestión de personas, pero su adopción aún tropieza con resistencias culturales y falta de formación.
¿Y si no es ética lo que hay que aplicarle a la IA sino deontología?
No queremos que nos sustituya pero poco a mucho la vamos tratando como si fuera uno de los nuestros. A la generativa le damos los buenos días, le pedimos por favor y le damos las gracias; no llegamos al beso de buenas noches pero todo se andará, si es que no anda ya descabellada la […]
La IA generativa multiplica la productividad, los salarios y la seguridad laboral
Quienes emplean IA generativa de manera habitual no solo son más productivos, sino que también disfrutan de mayor seguridad en el trabajo y mejores salarios.
El ciclo del sesgo de la IA en compensación y beneficios
Cuando se trata de definir un bonus, un variable, una promoción o un benchmark retributivo interno, los riesgos de los sesgos son tan elevados que los sistemas de IA tienden a no ser neutrales ni objetivos por defecto.
IA en el diseño de políticas retributivas: cuando los empleados se sienten -y con razón- discriminados
A unos meses de que la directiva europea de transparencia retributiva sea efectiva, las empresas miran a la inteligencia artificial esperando que sea la herramienta definitiva que les ayude a gestionar los datos de compensación desde una cuádruple perspectiva: la equidad, la brecha salarial, la explicabilidad y la eficiencia de los costes salariales. Estamos hablando […]
¿Ser supervisado por un agente de IA? La mitad de los trabajadores españoles dice sí
Según el último estudio de Workday, el 48% de los empleados en España no ve inconveniente en ser gestionado por un agente de IA, una cifra que supera ampliamente la media global (30%).
FindHR, el proyecto europeo que impulsa una IA ética en la selección de personal
Tras tres años de investigación interdisciplinar, el proyecto europeo FindHR concluye con un conjunto de herramientas y recomendaciones para mitigar los riesgos de discriminación algorítmica en procesos de selección.
El futuro empresarial de Valencia se da cita en el primer Foro Impulso IA para pymes y autónomos
El próximo miércoles 12 de noviembre marcará un hito para el ecosistema empresarial valenciano con la celebración del primer Foro de la IA, impulsado por la Asociación Viver Creatiu y respaldado por la Generalitat Valenciana en el marco del Pla Recuperem València, en colaboración con la Mancomunitat Intercomarcal. La jornada reunirá a empresas, autónomos y […]
Guía práctica para cumplir con el deber de transparencia en el uso de sistemas de IA
La IA está llegando a la negociación colectiva y las partes implicadas (RR.HH., abogados laboralistas y representantes sindicales) se enfrentan a la obligación de entenderse hablando el lenguaje de la transparencia algorítmica. ¿Pero qué es este concepto? Y sobre todo, ¿cómo se puede reflejar en un modelo o guía de trabajo? La normativa (RIA, RGPD, […]
¿Tienen l@s emplead@s el acceso y control de sus datos cuando usan la IA generativa?
Incluso las herramientas de IA clasificadas como de «riesgo limitado», como el típico chatbot de Recursos Humanos, presentan peligros significativos para la protección de tus datos. La IA generativa, definida como una tecnología disruptiva por su capacidad de producir contenido a una escala sin precedentes, funciona de una manera muy particular. Se nutre constantemente de […]
¿Está la IA realmente al servicio del bienestar laboral o se está convirtiendo en un generador de presión?
En plena expansión de la inteligencia artificial en el entorno laboral, surgen señales de alerta que invitan a la reflexión. Aunque la IA promete eficiencia y optimización, según Forbes, el 77% de los empleados que la utilizan afirma que su carga de trabajo ha aumentado. Esta paradoja se agrava en un contexto regulatorio cada vez […]
La desconexión entre empleados y empresas en el uso de IA pone en riesgo la competitividad
Mientras la IA se integra cada vez más en la rutina laboral de los empleados, las empresas españolas siguen sin reaccionar. Según datos de 2024 del Observatorio Nacional de Tecnología y Sociedad, el 58% de los trabajadores europeos ya utiliza herramientas de IA de forma habitual, frente a un escaso 11,4% de adopción empresarial en […]
Aggity lanza Dalia Analytics y se alía con infoDirect para liderar el negocio Data & IA
La compañía tecnológica española Aggity ha dado un impulso estratégico a su división especializada en analítica de datos e Inteligencia Artificial (IA), con el objetivo de expandir sus soluciones integradas en todos los ámbitos operativos de la empresa. En este contexto, ha formalizado una alianza con infoDirect, también de origen español, que se incorpora como […]
Formación en IA, una urgencia estratégica para los departamentos de RR.HH.
La Inteligencia Artificial ha dejado de ser una novedad para convertirse en un fenómeno ampliamente reconocido entre los profesionales españoles. Sin embargo, su integración efectiva en los entornos laborales sigue avanzando a un ritmo desigual y más lento que en otros países europeos. Esta es una de las principales conclusiones del informe “Inteligencia Artificial y […]
Nace WorkétIcA, el primer foro sobre la aplicación ética de la IA en el ámbito del trabajo
La Fundación Máshumano ha puesto en marcha WorkétIcA, el primer foro en España para analizar y dar respuesta a los problemas éticos que plantea la aplicación de la inteligencia artificial (IA) en el mundo del trabajo y, en particular, en la gestión de personas. WorkétIcA nace como una iniciativa innovadora que combina un enfoque […]
IA en recursos humanos: del experimento individual a la estrategia corporativa
La Inteligencia Artificial (IA) empieza a irrumpir en la gestión de personas, pero su adopción en recursos humanos aún es desigual. Mientras la mayoría de los directivos europeos la utiliza a nivel personal, pocos la integran en procesos de selección, desarrollo o gestión del talento, frenados por dudas operativas, riesgos percibidos y falta de formación. […]
La IA dispara la demanda de talento híbrido y coloca a los recursos humanos ante un reto sin precedentes
La Inteligencia Artificial (IA) se ha consolidado como el motor que impulsa el crecimiento en los empleos TIC, pero la especialización técnica ya no es suficiente. Habilidades humanas como el liderazgo, la comunicación y la colaboración emergen como factores decisivos para asegurar un uso ético y responsable de la tecnología en un entorno en rápida […]
El Proyecto IA+Igual llega a su fin y su primer impacto deberían ser sus conclusiones
Hoy finaliza el plazo de ejecución del proyecto IA+Igual y empieza el de su impacto. Ese es el compromiso de todo proyecto financiado con fondos públicos, el de demostrar que la inversión que les ha sido otorgada no es el fin sino el recurso inicial para realizar una contribución tangible a la sociedad y sostenida […]
InclunIA, la apuesta de una IA inclusiva para la intermediación laboral de la Fundación Once
Recursos Humanos lleva años trabajando para hacer avanzar a las organizaciones en diversidad, inclusión, equidad, y la irrupción de la IA abre un nuevo reto relacionado con los datos y cómo deben reflejar las aptitudes, habilidades y potencialidades de los trabajadores y de los candidatos en un marco de equidad. ¿Cómo garantizar que esa tecnología […]
Maite Sáenz, directora de ORH: «La insignia del Campus IA+Igual acreditará a un profesional con una visión 360º de la IA, habilitado para entender el razonamiento algorítmico y también el humano»
El uso de la inteligencia artificial en recursos humanos no se dicta con líneas de código ni se recita con algoritmos o procesando datos en frío. Su verdadero idioma ha de ser otro para asegurar aspectos tales como la transparencia en los procesos de selección, la inclusión en la gestión del talento o la seguridad […]
El Campus IA+igual estrena su último módulo: IA, sesgos y procesos de RR.HH.
Del spoiler al estreno. Tal y como anunciamos la semana pasada, hoy abrimos el último de los módulos del Campus IA+Igual: “IA, sesgos y procesos de RR.HH. Primeros pasos”, en el que ofrecemos una visión amplia y práctica de lo que todos los retos que plantea el uso de aplicaciones de inteligencia artificial en la […]
Fórmate gratuitamente en las bases de una IA ética y responsable en RR.HH con el Campus IA+Igual
El Campus IA+Igual abre oficialmente sus puertas de manera gratuita a toda la comunidad de profesionales de recursos humanos, orientadores de empleo, representantes sindicales y también a las personas trabajadoras que quieran acceder a un espacio de aprendizaje que les permita entender, confiar y aprovechar el valor de una inteligencia artificial en RR.HH. ética y […]
¿Quién ‘alucina’ más, la IA o los profesionales de RR. HH?
Hablamos con el doctor Andrés Arenas, investigador experto en inteligencia artificial (IA) y relaciones laborales. El objetivo de la entrevista a este embajador de IA+Igual es doble: trazar un perfil actual de la implantación de la inteligencia artificial en el área de RR. HH. y acercarnos al futuro que nos espera. Imposible no alucinar ante […]
La inteligencia artificial, catalizador del crecimiento personal y profesional
Rubén Fernández Heredero se describe como “entusiasta de la inteligencia artificial» y lo demuestra en esta entrevista. Técnico de Sistemas de Talento y Aprendizaje en la Unión de Créditos Inmobiliarios (UCI), explica cómo convertir la revolución de la inteligencia artificial en una experiencia positiva y segura para clientes y empleados. UCI es una entidad […]
Webinar IA+IGUAL 26/05: Formación en IA ética e inclusiva al alcance de todos
En este webinar presentaremos el Campus Abierto Online IA+IGUAL, una iniciativa formativa gratuita creada para impulsar el conocimiento sobre la aplicación ética, inclusiva y legalmente responsable de la inteligencia artificial, especialmente en el ámbito de los Recursos Humanos y el empleo. Con un enfoque práctico y accesible, el campus ofrece distintos módulos a los […]
RR.HH. no es líder del cambio asociado a la IA, es parte de él
“De aquí a tres años haré lo mismo en menos tiempo, dejaré de hacer cosas que hago ahora, y podré hacer tareas que antes no era capaz de hacer, pero no correré riesgo de perder mi trabajo”. La edición 2025 del estudio “Los profesionales de RR.HH ante los retos de la IA”, elaborada por Future […]
Expertos en RR. HH. recomiendan usar la IA con visión crítica para detectar posibles riesgos en materia de equidad e inclusión
El informe de Future for Work Institute recoge: 2 de cada 3 profesionales de Talento ya la utilizan y se espera que en 2027 la cifra llegue al 81 %. En el evento organizado por IA+Igual y FFW, expertos en RR. HH. alertaron sobre la necesidad de preservar los avances en diversidad e inclusión, evitando […]
El equilibrio entre el fomento de la innovación y la protección de los derechos fundamentales son dos de las claves en la era de la IA
En las últimas semana se ha abierto un gran debate a nivel europeo sobre la necesidad de eliminar burocracia en la aplicación del RIA. No es menor la polémica que genera en España la futura ley para el buen uso y gobernanza de la Inteligencia Artificial (IA) en España y el Código de Buenas Prácticas […]
La implantación de la IA exige una nueva estrategia empresarial y una cultura más participativa
La implantación de nuevas tecnologías como la inteligencia artificial requiere replantearse la cultura y estrategia de la empresa, explica Paúl Rosillón Ruiz, director del Centro de Estudios de la Persona y de la Empresa en la Universidad Monteávila de Caracas (Venezuela). “Es una responsabilidad ineludible de la empresa adoptar aceleradamente nuevas tecnologías sin deshumanizar, y […]
España lanza el primer sandbox de IA de la UE con especial foco en empleo y Recursos Humanos
España da un nuevo paso de liderazgo en el desarrollo tecnológico responsable al poner en marcha el primer sandbox de inteligencia artificial (IA) de la Unión Europea. Esta iniciativa pionera no solo posiciona al país a la vanguardia de la innovación digital, sino que también pone el foco en un área crítica para el futuro […]
