Verificación, equidad, explicabilidad y mitigar los sesgos son las claves para la implantación de la IA en RRHH

El uso de la Inteligencia Artificial (IA) en procesos de Recursos Humanos como la contratación o la evaluación de desempeño puede tener consecuencias directas sobre la vida de las personas. Elena Martín de Diego, del equipo de DATAI, señala la explicabilidad, la equidad, la transparencia o la identificación y mitigación de sesgos como algunos de los pilares fundamentales a tener en cuenta en la IA aplicada a RRHH.

Elena Martín de Diego es técnica de investigación en el Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra centrada en el desarrollo de aprendizaje automático confiable mediante métodos de equidad y explicabilidad aplicados a marcos empresariales.

ORH.- ¿Cómo describiría el papel de la inteligencia artificial en el futuro del trabajo y en la transformación de las empresas?

Elena Martín de Diego.- La inteligencia artificial está revolucionando el futuro del trabajo y la transformación de las empresas mediante la automatización de tareas rutinarias, la mejora en la toma de decisiones y la personalización de productos y servicios. La IA permitirá a las empresas analizar grandes volúmenes de datos en tiempo real, identificar patrones y tendencias, y proporcionar insights que guían estrategias comerciales.

Aprendizaje automático

ORH.- ¿En qué consiste el desarrollo de aprendizaje automático confiable y por qué es crucial para la aplicación de la IA en marcos comerciales?

E.M.- El aprendizaje automático confiable es una reciente línea de investigación que trata de desarrollar técnicas para asegurar que los modelos de inteligencia artificial sean (1) justos en cuanto a personas pertenecientes a diferentes grupos demográficos (e.g. etnia, género), (2) transparentes en cuanto a la explicación de la decisión ofrecida por el sistema de decisión, (3) robusto en las decisiones y (4) con la menor incertidumbre posible acerca de la predicción. Esto es crucial para su aplicación en marcos comerciales porque asegura que las decisiones basadas en IA sean consistentes y fiables, lo que a su vez genera confianza entre los usuarios y stakeholders.

ORH.- ¿Qué papel juega la explicabilidad en el desarrollo de sistemas de IA aplicados a la gestión de recursos humanos?

E.M.- La explicabilidad es fundamental en los sistemas de decisión basados en Inteligencia Artificial aplicados a la gestión de recursos humanos (RRHH) porque permite a los usuarios comprender cómo se toman las decisiones y en qué se basan estas. Esto es especialmente importante en RRHH, donde las decisiones pueden afectar directamente las carreras y vidas de los empleados. La explicabilidad ayuda a garantizar transparencia y equidad, y permite identificar y corregir posibles sesgos o errores en los algoritmos.

ORH.- ¿Qué importancia tiene la validación y verificación de modelos de IA en el contexto de recursos humanos? 

E.M.- La validación y verificación de modelos de IA son cruciales en RRHH porque aseguran que los modelos funcionen como se espera y proporcionen resultados justos y precisos. La validación implica probar el modelo con datos independientes para evaluar su desempeño, mientras que la verificación asegura que el modelo ha sido implementado correctamente y cumple con los requisitos especificados. Estos procesos ayudan a identificar errores, mejorar la precisión y mantener la confianza en las herramientas de IA utilizadas en RRHH.

ORH.- ¿Qué consideraciones éticas deben tenerse en cuenta al implementar sistemas de IA en la gestión de recursos humanos?

E.M.- Al implementar sistemas de IA en RRHH, es esencial considerar: (1) Equidad y no discriminación: Asegurar que los algoritmos no perpetúen sesgos existentes y traten a todos los empleados de manera justa. (2) Privacidad: Proteger los datos personales y sensibles de los empleados. (3) Transparencia: Mantener claridad en cómo se toman las decisiones y permitir que los empleados comprendan y cuestionen los resultados. (4) Responsabilidad: Definir claramente quién es responsable de las decisiones tomadas por sistemas de IA. (5) Consentimiento informado: Asegurar que los empleados sepan cómo se usan sus datos y para qué fines; entre otras.

ORH.- ¿Cómo se pueden identificar y mitigar los sesgos en los algoritmos de IA utilizados en RRHH?

E.M.- Para identificar y mitigar los sesgos en los algoritmos de IA en RRHH, los pasos que me vienen en mente son los siguientes:

1.- Evaluar los datos utilizados para entrenar los modelos para detectar y corregir posibles sesgos.

2.- Implementar pruebas específicas para identificar sesgos en los resultados del modelo, como métricas de discriminación algorítmica existentes.

3.- Revisar y actualizar los modelos regularmente para asegurarse de que sigan siendo confiables.

4.- Incluir a personas de diversos orígenes y perspectivas en el desarrollo y prueba de los algoritmos-

5.- Aplicar métodos específicos como la reponderación de datos o la modificación de algoritmos para reducir el sesgo.

Proyecto colaborativo

ORH.- Como parte del equipo del Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra y miembro de IA+Igual, ¿Cuál es la importancia de la colaboración entre DATAI y IA+Igual, y cómo cree que esta asociación contribuye a los avances en la implementación ética y efectiva de la IA en el ámbito de RRHH?

E.M.- La colaboración entre DATAI y IA+Igual es vital para promover el desarrollo e implementación de IA de manera ética y efectiva en RRHH. Esta asociación combina la experiencia técnica de DATAI con el enfoque empresarial de IA+Igual, lo que permite abordar los desafíos éticos y técnicos de manera integral. Juntas, las organizaciones pueden desarrollar herramientas y directrices que aseguren la transparencia, equidad y responsabilidad en el uso de IA en RRHH, y pueden influir en políticas y prácticas que beneficien tanto a empleados como a empleadores.

ORH.- Como mujer en el ámbito STEM y miembro DATAI, ¿Qué cree que se necesita para fomentar que más mujeres se decanten por estudiar y trabajar en el entorno tecnológico, y cómo pueden las instituciones educativas y las empresas apoyar esta iniciativa?

E.M.- Para fomentar que más mujeres estudien y trabajen en el entorno tecnológico, es esencial promover la visibilidad de mujeres exitosas en STEM, establecer programas de mentoría que conecten a estudiantes y profesionales jóvenes con mujeres experimentadas en el campo, crear ambientes laborales y educativos que sean inclusivos y apoyen la diversidad, ofrecer becas y programas específicos para mujeres en STEM, fomentar el interés por STEM desde edades tempranas a través de programas educativos y actividades extracurriculares. Es fundamental que tanto las instituciones educativas como las empresas trabajen juntas para crear una cultura que valore y apoye la participación de las mujeres en la tecnología.