El proyecto IA+Igual incorpora al Instituto de Ciencias de los Datos e IA (DATAI) de la Universidad de Navarra como partner académico. El acuerdo firmado por ambas entidades establece que el equipo de investigadores designado por DATAI trabajará en colaboración con el equipo auditor y el Consejo Asesor de IA+Igual para elaborar un Libro Blanco. Dicho documento académico, y realizado de forma empírica, servirá como recomendación para el desarrollo de un modelo de certificación de algoritmos de herramientas de IA aplicadas a procesos de recursos humanos y al mercado laboral. El objetivo es detectar y eliminar sesgos para garantizar un uso ético y confiable de esta tecnología en un ámbito, el del empleo, calificado como de ALTO RIESGO por la UE.
IA+Igual colaborará con el equipo de DATAI, que incluye investigadores expertos en equidad algorítmica (Rubén Armañanzas) y ética de la IA (Alejo Sisón e Ignacio Ferrero) y que dirige Jesús López-Fidalgo. “En línea con nuestro trabajo de investigación aplicada, vamos a colaborar con los ingenieros y los miembros del Consejo Asesor de IA+Igual para conseguir que el modelo de certificación de los algoritmos de IA en RR.HH garantice una digitalización ética, justa y confiable”, explica Jesús López-Fidalgo.
Auditoría empírica
IA+Igual ya ha empezado el trabajo de análisis empírico de algoritmos que se están utilizando en herramientas aplicadas a recursos humanos, con el objetivo de definir un modelo de auditoría que garantice el uso ético, confiable y eficiente de la IA en este ámbito. “Cuando se trata de procesos que afectan a la vida y carrera de las personas es crítico cumplir con los criterios de transparencia, explicabilidad y privacidad que garantizan el cumplimiento de la norma laboral y de la igualdad de oportunidades”, explica Marisa Cruzado, CEO promotora de IA+Igual.
“Hemos iniciado ya el trabajo de auditoría y este análisis empírico nos está abriendo las puertas a un mundo en transformación. Además de la ética, la transparencia y la confiabilidad, influyen otros parámetros como el normativo o el reputacional. Por eso, –concluye Cruzado-, trabajamos con un grupo multidisciplinar de expertos que aportan su conocimiento desde diferentes ámbitos. Para que nada se nos escape nada”.
La estrecha colaboración entre arquitectos e ingenieros de datos, desarrolladores, empresas usuarias y miembros del Consejo Asesor de IA+Igual es una propuesta pionera en Europa. Esta visión multidisciplinar se asocia ahora al potencial científico y académico de DATAI.
“El proyecto culminará con la elaboración de un Libro Blanco con recomendaciones para un modelo de certificación, y la propuesta de un sello de calidad específico para el ámbito laboral. Con este innovador proyecto, queremos contribuir a fortalecer la marca empleadora de las empresas y, por tanto, atraer el mejor talento -incluyendo a los colectivos más vulnerables- y generar confianza y motivación entre los profesionales y la sociedad”, concluye Marisa Cruzado.
Sobre IA+Igual
IA+Igual es un proyecto de innovación social cofinanciado por la Dirección General de Evaluación, Calidad e Innovación, de la Consejería de Familia, Juventud y Asuntos Sociales de la Comunidad de Madrid, a través del Plan de Recuperación, Transformación y Resiliencia de la Unión Europea. Desarrollado por CVA, IN2 y ORH tiene el objetivo de analizar y verificar los algoritmos de Inteligencia Artificial aplicados en el ámbito de Recursos Humanos para identificar los sesgos en su programación e impulsar una IA más ética e igualitaria dentro del ecosistema empresarial.
El Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) es un centro de investigación transversal, de innovación y formación de la Universidad de Navarra. Entre sus objetivos se encuentra la investigación en gran variedad de campos -Active Learning, Biología Computacional, Ética de la IA o Equidad Algorítmica, entre muchos otros-, así como la innovación y la transferencia de conocimiento al ámbito industrial, empresarial y social.
