Algoritmos, sesgos y normativa, la ecuación necesaria para una IA ética, confiable e inclusiva

Carlos Blanco14 diciembre 20235min

Igual que la sociedad general, la IA no es neutral. Y no lo es porque las fuentes de datos de las que se alimenta contienen todos los sesgos con los que convivimos en nuestra vida cotidiana. El proyecto IA+IGUAL, financiado con fondos Next Generation, está analizando diez herramientas del ámbito de RRHH para identificar esos sesgos y crear una certificación que ayude a evitarlos y a trabajar en un entorno ético.

 

IA, sesgos y la legislación que viene de Europa fueron los focos del contenido del Webinar ORH “IA+IGUAL”, en el que se presentó este proyecto con la presencia de: Jesús Mercader, catedrático de Salud y Seguridad en el Trabajo de la Universidad Carlos III de Madrid; Nataly Buslón, consultora de IA en ONU Mujeres y experta en Igualdad, Tecnología y Sesgos; Marisa Cruzado, CEO de CVA, y Maite Sáenz, directora de RRHH, ambas impulsoras del proyecto.

Una primera definición necesaria para ubicar bien el proyecto. ¿Qué es la inteligencia artificial? En realidad, es un conjunto de algoritmos y operaciones matemáticas que intentan emular en los ordenadores la forma de pensar de los humanos. Lo que resulta relevante es para qué utilizar esta tecnología.

Mucho más allá de herramientas como ChatGPT, la IA ya está presente en el mundo de los RRHH de muy diversas formas. Fue Maite Sáenz la encargada de exponer algunos ejemplos del trabajo que se está haciendo, bien a través de sencillas aplicaciones como de herramientas más complejas que permiten crear servicios avanzados. El abanico de escenarios es amplio: reclutamiento y selección, aprendizaje y desarrollo, procesos administrativos, compensación, organización del trabajo o seguridad y salud son algunos de ellos.

Fuente: IA+IGUAL, 2023.

 

Marisa Cruzado, por su parte, destacó que esta tecnología no está suponiendo una transformación completa en el sector y señaló como frenos:

  • la inseguridad jurídica,
  • el desconocimiento
  • el riesgo reputacional
  • y el miedo al black mirror: la proyección catastrofista que se está generalizando sobre ella, en especial sobre sus efectos en el empleo.

A la espera de la nueva legislación que prepara la UE, IA+IGUAL es un proyecto piloto centrado en uno de los puntos más relevantes del desarrollo de estas herramientas, los sesgos. Vivimos en un mundo en que los sesgos están presentes en la sociedad y afectan de lleno a las fuentes de información de las que beben las herramientas de IA. De forma que los resultados que ofrece corren un elevado riesgo de estar sesgados.

 

IA+IGUAL analiza diez herramientas de IA aplicada a procesos de RRHH para determinar cómo influyen los sesgos en ellas

El proyecto está financiado con fondos Next Generation y busca desarrollar una certificación que garantice la igualdad de género, el trabajo decente y la reducción de desigualdades en las herramientas que se desarrollen en el sector.

Nataly Bulsón, por su parte, hizo un repaso sobre los sesgos más comunes con los que convivimos y cómo están presentes en todos los aspectos de nuestra vida y, de forma particular, en el ámbito de los RRHH: reclutamiento, evaluación de rendimiento, desarrollo, entrevistas virtuales y un largo etcétera.

Para terminar, el catedrático Jesús Mercader, resaltó la importancia de que por fin vaya a salir el reglamento de IA que prepara la UE para propiciar un equilibrio entre la innovación y el respeto de los derechos humanos y lo equiparó al impacto que provocó en su día el reglamento de Protección de Datos.

Las principales aportaciones de esta norma, en su opinión, son:

• la intervención y vigilancia humana,
• la seguridad técnica,
• un nuevo entorno de gobernanza para los datos,
• de creación y desarrollo de regulación,
• un enfoque basado en el riesgo que permite evaluar los que son inaceptables
• y, en definitiva, auténticas garantías de transparencia.

 


Observatorio de Recursos Humanos

ORH | Observatorio de Recursos Humanos

Desde 2006 trabajamos para ofrecer contenidos e información de valor para el profesional de la gestión de RRHH, con el convencimiento de que el conocimiento, en sus vertientes de creatividad, innovación y aprendizaje continuo, es el principal valor de una dirección eficaz.



Contacta con nosotros


Nuestros Otros Proyectos


Suscríbete al boletín

* campos obligatorios
Acepto las condiciones de uso y la política de privacidad


Síguenos en Redes Sociales