Por tercer año consecutivo, MIT Sloan Management Review y Boston Consulting Group han reunido a un grupo internacional de expertos en IA, formado por académicos y profesionales, para debatir sobre cómo se está aplicando la inteligencia artificial responsable (RAI) en las organizaciones de todo el mundo. Este año, la discusión se ha centrado en la capacidad de las organizaciones para hacer frente a los riesgos relacionados con la IA en un panorama que incluye la Ley de IA de la Unión Europea.
El debate se inicia con una pregunta directa y sencilla: ¿Están las organizaciones preparadas para cumplir los requisitos de la Ley europeas de la IA a medida que vaya entrando en vigor en los próximos 12 meses? Los expertos están divididos. Mientras que casi la mitad (47%) está en desacuerdo o muy en desacuerdo con la afirmación, un tercio (33%) ni está de acuerdo ni en desacuerdo, y sólo una quinta parte (20%) está de acuerdo o muy de acuerdo.
Aunque los requisitos de la Ley de IA se irán introduciendo progresivamente, el calendario para su cumplimiento es agresivo. La primera fase de la Ley de IA, correspondiente a los sistemas de IA prohibidos, entra en vigor en seis meses, los sistemas de IA generativa en 12 meses y los requisitos para la mayoría de los sistemas de alto riesgo en dos años. Este es el periodo que aplica a la IA, generativa o no, aplicada a los procesos de recursos humanos. Recordemos que el uso de la IA en el ámbito laboral ha sido calificada como de «alto riesgo».
Como norma general, las empresas necesitan dos años para prepararse cuando se producen cambios normativos de alto impacto, como pasará con la Ley de Compliance Laboral o la de Transparencia Retributiva. Además, los expertos recuerdan que algunas obligaciones básicas empezarán a aplicarse en 2024, para lo que algunas organizaciones pueden no estar preparadas y el plazo de seis meses para el cumplimiento de las aplicaciones de alto riesgo planteará retos a los desarrolladores.
Una norma compleja y «agresiva» para grandes, medianas y pequeñas
Algunos expertos consultados en el panel organizado por MIT Sloan afirman que organizaciones de todos los tamaños se enfrentarán a diferentes desafíos dada la complejidad del proceso de cumplimiento y los entresijos que implica navegar por el panorama normativo. Las empresas medianas y pequeñas no tienen recursos para adaptarse a la normativa en un plazo de 12 meses; y las grandes, con importantes despliegues de IA pueden tener dificultades para lograr la transparencia en una miríada de casos de uso de la IA en toda la organización, discernir qué sistemas entrarán en el ámbito de aplicación de la Ley, interpretar y adaptarse a unos requisitos todavía ambiguos y crear un mecanismo de supervisión para evaluar sistemáticamente la conformidad de cada nueva introducción de IA.
La buena noticia, según los expertos, es que habrá un período de gracia para su aplicación. La Oficina Europea de Inteligencia Artificial ha dejado claro que adoptará un enfoque similar al del cumplimiento del RGPD [Reglamento General de Protección de Datos], en el que concedió un periodo de gracia antes de imponer multas y tomar medidas coercitivas. El Oxford Internet Institute recuerda que el GDPR tardó años en aumentar su mecanismo de aplicación, lo que, si algo similar ocurre con la Ley de IA, podría dar a las empresas más tiempo para navegar por un enfoque de cumplimiento. Por eso es importante que las organizaciones utilicen el período de gracia de dos años entre la entrada en vigor de la Ley de IA y su aplicabilidad, y busquen información concreta sobre la interpretación de la Ley de IA relevante para sus operaciones.
Conocimientos técnicos
Varios expertos citan la interpretación de los requisitos de la Ley como un obstáculo para el cumplimiento oportuno. Es probable que interpretar y traducir estos requisitos en características de ingeniería procesables suponga un reto importante para las organización, que se enfrentarán a una incertidumbre significativa sobre lo que la Ley de IA les exige, y lucharán por traducir los requisitos legales de la Ley de IA en llamadas a la acción ejecutables para los proveedores e implantadores de sistemas de IA.
Según la Harvard Business School, uno de los requisitos más difíciles de cumplir será el de la transparencia de los algoritmos de IA porque, en la clasificación de riesgos, pueden haber sistemas considerados de riesgo limitado porque aún no entendemos sus consecuencias, lo que puede convertirlos en potencialmente de alto riesgo.
La competencia y la experiencia en IA serán fundamentales para llevar a la práctica los ambiguos requisitos de la ley. Comprender y cumplir un marco tan enormemente complicado requiere no solo conocimientos jurídicos y éticos, sino también la capacidad de integrar estas consideraciones en los propios sistemas de IA. Las organizaciones presentan actualmente distintos niveles de madurez no sólo en sus capacidades tecnológicas, sino también en la comprensión de la IA por parte de sus empleados, lo que influirá en su preparación para cumplir los requisitos de la Ley de IA de la UE.
Y existe otro riesgo evidente: no hay suficientes personas cualificadas en el mundo que estén a la altura de la tarea. Por este motivo, el camino hacia el pleno cumplimiento será probablemente iterativo y complejo, evolucionando a medida que las organizaciones comprendan mejor tanto la tecnología como la legislación.
Una base de gobernanza
Es probable que las organizaciones que cuenten con una base de gobernanza obtengan mejores resultados a la hora de cumplir los plazos de la Ley de IA. La preparación de una organización depende de cómo esté implantando los campos de cumplimiento subyacentes, como la privacidad y la ciberseguridad, y de que sea capaz de basarse en las estructuras de gobierno existentes. Las empresas que van retrasadas en estas materias, pueden encontrar desalentador navegar por estas nuevas regulaciones. Sin embargo, las organizaciones líderes en materia de Gobernanza cuentan con las bases para cumplir los requisitos de la Ley de IA de la UE, como gobernanza, definiciones y herramientas y en sectores muy regulados, los actores establecidos con equipos de cumplimiento deberían estar bien.
Sin embargo, las entidades más grandes, aunque se beneficien de estructuras de gobernanza más sólidas, seguirán necesitando llevar a cabo modificaciones significativas para cumplir las estipulaciones detalladas de la ley, como mejorar la calidad de los datos, realizar auditorías algorítmicas y aplicar una supervisión continua.
1.- Determine su ritmo de cumplimiento. Las organizaciones tendrán que sopesar la urgencia de cumplir la próxima normativa, el reconocimiento de que dispondrán de un periodo de transición antes de que se intensifique la aplicación de la normativa y la cantidad de trabajo necesaria para alcanzar el cumplimiento. Es probable que las partes interesadas tengan diferentes puntos de vista sobre el ritmo de cumplimiento en función de cómo perciban el período de transición de dos años, durante el cual se escalonan los requisitos de aplicación. Crear un consenso y un propósito compartido entre las partes interesadas resulta crucial para alinearse con los plazos de cumplimiento y lograr el ritmo de implantación necesario para cumplirlos. Las organizaciones cuyos comités de dirección se extienden más allá de la función de cumplimiento pueden ser más eficaces para lograr este equilibrio que aquellas en las que la función de cumplimiento es el único árbitro que dicta edictos al resto de la organización.
2.- Implantar un programa de IA responsable. El agresivo calendario para el cumplimiento, unido a la incertidumbre de los requisitos de la Ley de IA y la necesidad de experiencia para traducirlos, pone de relieve las ventajas de contar con una base de RAI. La gobernanza, en este caso, no significa únicamente la función de cumplimiento. Los enlaces gubernamentales, los tecnólogos, los expertos en privacidad de datos, los profesionales jurídicos y las partes interesadas responsables de la IA deben participar para garantizar respuestas oportunas y eficaces a la normativa. Cree un proceso para determinar la estructura de gobierno, los procesos y las herramientas y recursos adecuados para su organización, tanto si se trata de ampliar las estructuras de gobierno existentes como de desarrollar nuevos mecanismos. Cualquiera que sea su forma, es probable que este proceso produzca información valiosa sobre cómo su estrategia para la IA refleja y promueve el propósito y los valores generales de su empresa.
3.- Formar a los equipos de IA. Cumplir la normativa sobre IA requiere conocimientos especializados. Pero la experiencia en IA ya escasea, es cara y suele centrarse en oportunidades de creación de valor. Reasignar los conocimientos de IA al cumplimiento de la normativa puede considerarse una costosa desviación de recursos. Sin embargo, puede que no sea una compensación tan grande como parece. Educar a los equipos de IA sobre la ley y sus implicaciones permite a los expertos en IA garantizar el cumplimiento normativo desde el diseño en sus soluciones de IA. Esto hará avanzar la agenda de IA de la empresa y enriquecerá su enfoque ético. Adoptar una mentalidad que reconozca que las regulaciones de IA son tanto impuestas externamente como valiosas internamente puede ampliar la forma en que las organizaciones ven sus inversiones en cumplimiento regulatorio.
4.- Crear capacidades de prueba y evaluación. Un aspecto clave de los requisitos de la Ley de IA es garantizar que las soluciones de IA se prueben y evalúen adecuadamente. Esto incluye la evaluación de los datos subyacentes y la comprobación de la precisión, solidez, daños y vulnerabilidades de ciberseguridad de los sistemas de IA. Las pruebas y la evaluación de la IA, en particular de los sistemas de IA generativa, siguen siendo un área incipiente, y muchas organizaciones carecerán de la experiencia, las herramientas y los procesos necesarios. Las organizaciones deberían empezar a tomar medidas para mejorar las competencias de los equipos de IA, contratar a expertos adicionales e identificar las herramientas y procesos adecuados como parte de la implantación de sus programas de RAI más amplios.
Si quieres saber más sobre normativa laboral e inteligencia artificial puedes consultar el ciclo de webinars de IA+Igual y en concreto:
- Protección de datos e inteligencia artificial: puntos de fricción entre el RGPD y el RIA (webinar + noticia + video).
- Algoritmos, sesgos y normativa, la ecuación necesaria para una IA ética, confiable e inclusiva (webinar + noticia + video).
El flujo de trabajo entre el DRH y el DPO para que éste no diga “no” a los casos de uso de IA
Por qué el DPO dice no a los casos de uso de IA en RRHH y cómo cambiar ese orden: flujo de trabajo, cinco datos clave y tres condiciones de gobernanza.
Por qué la elaboración de perfiles “condena” a los ATS de selección al alto riesgo
Las Directrices del AI Act dejan casi sin salida a los ATS de selección: si hay perfilado, son de alto riesgo. Claves y pasos para el deployer antes de 2027
La IA tiene un nuevo código de conducta (y no lo ha escrito una tecnológica)
León XIV publica su primera encíclica sobre IA y define tres riesgos laborales, cinco principios y una cadena de responsabilidad que deberían ser leídos por quienes dirigen personas.
El cambio empieza por el tejado (los líderes) en la adopción de la IA
El cuello de botella de la IA no es tecnológico, sino humano, y por eso la cultura, el liderazgo y el trabajador del pensamiento son las claves para escalar su valor competitivo.
10 fricciones que alejan a la IA de su implantación efectiva en RR. HH.
El informe «La inteligencia artificial y su impacto en la gestión del talento» revela la radiografía de una tecnología que se está incorporando con fricción.
La empresa ya usa IA, pero no está aprendiendo con ella
Uno de los efectos más invisibles de la adopción desestructurada de la IA es que cada empleado que aprende a usar IA desarrolla un conocimiento valioso que rara vez se comparte en la orgnización.
Agentes de IA: un copiloto activo que transforma el modelo de productividad organizativa
La narrativa corporativa en torno a la inteligencia está dejando atrás la «IA de consulta» y está adoptando la de los Agentes de IA. El valor ya no está en procesar información sino en actuar, ejecutar y facilitar decisiones complejas en tiempo real. Este cambio de paradigma no es una evolución lineal sino exponencial, porque rompe con el concepto de productividad del último siglo, y no sólo para las empresas y los empleados, sino también y muy especialmente para la propia función de RR. HH. No se trata ya de «qué puede hacer la tecnología por ella», sino de cómo la arquitectura de agentes inteligentes está redefiniendo su propósito mismo.
Cuatro niveles para transitar desde el dato descriptivo hasta el dato explicativo, la simulación y los patrones de IA
People analytics sin atajos — ORH People Analytics Cuatro niveles para transitar desde el dato descriptivo hasta el dato explicativo, la simulación y los patrones de IA La conversación sobre people analytics se ha desplazado hacia la inteligencia artificial a una velocidad muy superior a la capacidad real de absorción de personas y organizaciones. ¿Modelos […]
¿Sabías que transcribir con IA las reuniones tiene riesgos legales?
La transcripción automática de reuniones mediante inteligencia artificial se ha convertido en una funcionalidad estándar en plataformas como Microsoft Teams, Zoom o Google Meet. Su adopción ha sido rápida y, en muchos casos, acrítica. El problema es que detrás de un clic en «grabar» hay un tratamiento de datos personales que activa obligaciones concretas del RGPD.
IA y Recursos Humanos: La transformación que no llega porque el compliance importa
Que los profesionales de RRHH usan la IA cada vez más es un hecho difícil de rebatir, pero que eso esté transformando sus trabajos de manera sustancial es una promesa que se renueva cada año sin terminar de cumplirse. Así se desprende de la tercera edición del estudio «Los profesionales de RRHH ante los desafíos de la IA», de Future for Work Institute
Steve Cadigan: «Si sustituyes tu cantera de talento por IA pierdes capacidad de adaptación»
Si sustituyes tu cantera de talento por IA, no solo pierdes producción: pierdes memoria organizativa, criterio y capacidad de adaptación.
Webinar IA + Igual 8/04
Diversidad, inclusión y equidad. Los departamentos de RRHH llevan trabajando décadas en el desarrollo de implantación de políticas que contribuyan a cumplir con la normativa, respetar los ODS y garantizar la productividad, la motivación y el engagement. La irrupción de la IA supone un nuevo reto. Los colectivos vulnerables son un agujero negro para esta […]
El dilema de Aquiles (11): ¿Evaluados por una IA neutral?
La posibilidad de implantar un sistema de evaluación basado en IA que procesa datos masivos es seductora, pero a medida que se observa su funcionamiento, se percibe algo inquietante: lo que no se puede medir deja de existir, no computa.
La IA ética plantea cómo prevenir riesgos reputacionales y reforzar la confianza empresarial
La rápida expansión de la inteligencia artificial está transformando el tejido empresarial a gran velocidad. Sin embargo, junto con las oportunidades emergen riesgos éticos, legales y reputacionales que pueden comprometer la confianza pública. En este contexto, Setesca subraya la necesidad de incorporar un nuevo rol estratégico: el Oficial Ético de IA, figura clave para garantizar […]
IA en el trabajo: el reto pendiente de los Consejos de Administración
La IA en el trabajo avanza con fuerza, pero aún plantea grandes retos en los Consejos de Administración.
Cuando la IA se contrató a sí misma: el juego de espejos en la selección moderna
Candidato y empresa no se miran: se reflejan, a través de la inteligencia artificial. El primero afina su currículum y carta de presentación con ella hasta parecer perfecto, mientras la empresa la usa para filtrarlo. El resultado: un proceso de selección que deja de ser un baile a dos para convertirse en un solitario donde […]
IA en Recursos Humanos: nace el Co-HR Manager y cambia las reglas del talento
Un Co-HR Manager es un concepto emergente en el sector de los Recursos Humanos que describe a una IA capaz de actuar como socio estratégico del departamento.
Desafíos operativos de la IA: hitos normativos en vigor y su complejidad en la práctica
Descubre con este pack de webinar y artículo los desafíos operativos que provoca el actual marco normativo en el despliegue de sistemas de IA en procesos de RR.HH.
AI Autopilot: la IA que convierte cualquier idea en un curso completo en minutos
IsEazy ha desarrollado AI Autopilot, una tecnología que automatiza la creación de cursos e-learning completos.
La industria del engaño: deepfakes y fraude asistido por IA
Este artículo examina cómo la combinación de tecnología avanzada y la explotación sistemática de sesgos cognitivos crea un escenario sin precedentes para el fraude y la manipulación.
La IA redefine el ciclo del talento: retos y oportunidades para RR.HH.
La IA se ha consolidado como uno de los factores más influyentes en la transformación del mercado laboral. Su alcance abarca todas las fases del ciclo del talento.
Un asistente de IA guía al empleado de Siemens Healthineers en el cumplimiento normativo
Siemens Healthineers España ha puesto en marcha el primer asistente de IA para sus empleados, diseñado para guiar y facilitar el acceso al conocimiento en materia de compliance.
IBM y Experis transforman la gestión de RR.HH. con agentes de IA
IBM y Experis han puesto en marcha un programa innovador para transformar la gestión de recursos humanos mediante agentes de inteligencia artificial.
Guerra global por el talento en IA: salarios al alza y escasez de perfiles especializados
La IA ha desatado una competencia sin precedentes por el talento especializado. La escasez de perfiles cualificados y la creciente demanda han disparado los salarios y tensionado los mercados laborales
El despliegue de la IA cortocircuita ante los compromisos DEI
¿Lideras la estrategia de diversidad e inclusión en tu organización? Entonces deberías estar en primera línea de otra estrategia, la de la adopción de la IA.
La IA convierte la asesoría jurídica en socio estratégico del negocio
La IA está transformando la asesoría jurídica empresarial, que deja de ser un área centrada únicamente en el cumplimiento normativo para convertirse en un verdadero socio estratégico del negocio.
La IA redefine la gestión por competencias
Las competencias son hoy el activo más volátil y estratégico de las organizaciones. Si en 1990 una habilidad podía tener una vida útil de 30 años, hoy apenas dura dos.
La IA en RR.HH.: del entusiasmo a la aplicación práctica
La IA promete revolucionar la gestión de personas, pero su adopción aún tropieza con resistencias culturales y falta de formación.
¿Y si no es ética lo que hay que aplicarle a la IA sino deontología?
No queremos que nos sustituya pero poco a mucho la vamos tratando como si fuera uno de los nuestros. A la generativa le damos los buenos días, le pedimos por favor y le damos las gracias; no llegamos al beso de buenas noches pero todo se andará, si es que no anda ya descabellada la […]
La IA generativa multiplica la productividad, los salarios y la seguridad laboral
Quienes emplean IA generativa de manera habitual no solo son más productivos, sino que también disfrutan de mayor seguridad en el trabajo y mejores salarios.
El ciclo del sesgo de la IA en compensación y beneficios
Cuando se trata de definir un bonus, un variable, una promoción o un benchmark retributivo interno, los riesgos de los sesgos son tan elevados que los sistemas de IA tienden a no ser neutrales ni objetivos por defecto.
IA en el diseño de políticas retributivas: cuando los empleados se sienten -y con razón- discriminados
A unos meses de que la directiva europea de transparencia retributiva sea efectiva, las empresas miran a la inteligencia artificial esperando que sea la herramienta definitiva que les ayude a gestionar los datos de compensación desde una cuádruple perspectiva: la equidad, la brecha salarial, la explicabilidad y la eficiencia de los costes salariales. Estamos hablando […]
¿Ser supervisado por un agente de IA? La mitad de los trabajadores españoles dice sí
Según el último estudio de Workday, el 48% de los empleados en España no ve inconveniente en ser gestionado por un agente de IA, una cifra que supera ampliamente la media global (30%).
FindHR, el proyecto europeo que impulsa una IA ética en la selección de personal
Tras tres años de investigación interdisciplinar, el proyecto europeo FindHR concluye con un conjunto de herramientas y recomendaciones para mitigar los riesgos de discriminación algorítmica en procesos de selección.
El futuro empresarial de Valencia se da cita en el primer Foro Impulso IA para pymes y autónomos
El próximo miércoles 12 de noviembre marcará un hito para el ecosistema empresarial valenciano con la celebración del primer Foro de la IA, impulsado por la Asociación Viver Creatiu y respaldado por la Generalitat Valenciana en el marco del Pla Recuperem València, en colaboración con la Mancomunitat Intercomarcal. La jornada reunirá a empresas, autónomos y […]
Guía práctica para cumplir con el deber de transparencia en el uso de sistemas de IA
La IA está llegando a la negociación colectiva y las partes implicadas (RR.HH., abogados laboralistas y representantes sindicales) se enfrentan a la obligación de entenderse hablando el lenguaje de la transparencia algorítmica. ¿Pero qué es este concepto? Y sobre todo, ¿cómo se puede reflejar en un modelo o guía de trabajo? La normativa (RIA, RGPD, […]
¿Tienen l@s emplead@s el acceso y control de sus datos cuando usan la IA generativa?
Incluso las herramientas de IA clasificadas como de «riesgo limitado», como el típico chatbot de Recursos Humanos, presentan peligros significativos para la protección de tus datos. La IA generativa, definida como una tecnología disruptiva por su capacidad de producir contenido a una escala sin precedentes, funciona de una manera muy particular. Se nutre constantemente de […]
¿Está la IA realmente al servicio del bienestar laboral o se está convirtiendo en un generador de presión?
En plena expansión de la inteligencia artificial en el entorno laboral, surgen señales de alerta que invitan a la reflexión. Aunque la IA promete eficiencia y optimización, según Forbes, el 77% de los empleados que la utilizan afirma que su carga de trabajo ha aumentado. Esta paradoja se agrava en un contexto regulatorio cada vez […]
La desconexión entre empleados y empresas en el uso de IA pone en riesgo la competitividad
Mientras la IA se integra cada vez más en la rutina laboral de los empleados, las empresas españolas siguen sin reaccionar. Según datos de 2024 del Observatorio Nacional de Tecnología y Sociedad, el 58% de los trabajadores europeos ya utiliza herramientas de IA de forma habitual, frente a un escaso 11,4% de adopción empresarial en […]
Aggity lanza Dalia Analytics y se alía con infoDirect para liderar el negocio Data & IA
La compañía tecnológica española Aggity ha dado un impulso estratégico a su división especializada en analítica de datos e Inteligencia Artificial (IA), con el objetivo de expandir sus soluciones integradas en todos los ámbitos operativos de la empresa. En este contexto, ha formalizado una alianza con infoDirect, también de origen español, que se incorpora como […]
