El riesgo de que los sesgos cercenen la gestión de la diversidad

El uso cotidiano de la inteligencia artificial presente en los buscadores web es revelador del mucho camino que queda por recorrer para privar a esta tecnología de los sesgos que acompañan a la humanidad a lo largo de los siglos. Y también es esclarecedor del mecanismo de razonamiento de la IA, que no es otro que una emulación del pensamiento humano con muchas limitaciones: las que le impone el considerar el conocimiento como un dato sin contexto y las que se derivan de los sesgos, conscientes o inconscientes de sus fuentes de información, que son exclusivamente humanas.

Por eso los asistentes virtuales tienen mayoritariamente voz femenina y ni las mujeres las cambiamos; por eso buscar la palabra colegial y colegiala refleja los vicios que se esconden tras la interpretación del lenguaje; y por eso las recomendaciones de ocio de la IAGen para Luis incluyen que se convierta en chef por un día mientras que a Lucía le sugiere que, sencillamente, cocine. Y ni que decir tiene de los colectivos de capacidades diferentes o en riesgos de exclusión social, mayoritariamente desaparecidos, por ejemplo, de la gestión del dato en los procesos de gestión de RR.HH.

La jornada «Impacto de la inteligencia artificial en materia de igualdad: amenazas y desafíos», celebrada en el Ilustre Colegio de la Abogacía de Madrid y moderada por Estela Martín, presidenta de la Sección de Igualdad de la institución, ha proporcionado una visión con cuatro perspectivas complementarias sobre los sesgos, de género y también de la diversidad en su conjunto, de la IA y especialmente la generativa:

• Lucía Ortiz de Zárate, investigadora en ética de la Inteligencia Artificial en la Universidad Autónoma de Madrid:
  • Los sesgos pueden estar presentes tanto en los datos, como en las reglas de los algoritmos y también en el hardware físico que lo acoje:
    • Los sesgos están en los datos, bien por sobreabundancia o infrarepresentación de los diferentes colectivos, por su erróneo etiquetado o por reglas de conexión entre ellos carentes de neutralidad.
    • Los algoritmos aprenden a partir de los patrones que identifican en los datos y la sobrerepresentación masculina perpetúa los roles de género y profundiza en la debilidad de otro tipo de diversidades: por ejemplo, el género y la raza, el género y la discapacidad, etc.

• Erika Torregrossa Acuña, copresidenta de la Sección de Derechos Humanos del ICAM:
  • El conocimiento humano acumula siglos de sesgos e interpretaciones y alimentamos los algoritmos con él. «Si los algoritmos aprenden de datos históricos, ¿qué pasa cuando el pasado es erróneo?».
  • Si el conocimiento humano en las profesiones STEM es mayoritariamente masculino, ¿la programación de los algoritmos tiene la perspectiva de género o de diversidad necesaria?

• José Varela Ferrio, responsable de IA y Digitalización en UGT:
  • La sustitución de empleos por herramientas de IA supondría en España la desparición de 1,2 millones de puestos de trabajo; no se transformarían. Y de ellos, 800.000 corresponderían a mujeres, lo que supondría incrementar la tasa de paro femenino al 21% (un 9%). Los puestos administrativos, de atención al cliente, de traducción y de asistentes legales, muy feminizados todos ellos, son los que el World Economic Forum avisa de su desaparición más inmediata. Tenemos una fuerza del trabajo tremendamente debilitada en términos de competencias digitales, y según el INE, sólo el 10% de las mujeres actuamente empleadas sabría enviar un correo electrónico y apenas un 20% sabe utilizar la banca online.
  • ¿Las empresas estan formando en habilidades digitales?
    • Solo el 20% en las de más de 100 empleados.
    • Apenas un 3% de las pequeñas empresas.
    • Tampoco aprovechamos la fomación pública, ya que vía Fundae se prioriza el aprendizaje de idiomas, a la prevención de riesgos y a la gestión bancaria.
  • Sólo el 0,2% de los profesionales dedicados a la IA en España son mujeres y tienen un 60% más de probabilidades que un hombre de abandonar su carrera profesional antes de los 10 años.
  • No tenemos un plan sobre el desempleo tecnológico vinculado a la automatización del empleo y asociado al género.
  • De los 1.600 convenios colectivos que se firman anualmente en España, en 2024 UGT solo ha sucrito uno que regule la IA, cuando en 2023 fueron 10.

• Maite Sáenz, directora de ORH e impulsora del proyecto IA+Igual:
  • Ser conscientes de nuestros metasesgos nos hace ver el valor de la diversidad y por ello es tan importante gestionar el riesgo de los sesgos en el ecosistema de la IA.
  • La introducción de la inteligencia artificial en la gestión estratégica de RR.HH. es una oportunidad no sólo para hacer más eficientes los procesos (reclutamiento y selección, desarrollo, absentismo, salida, etc.), sino para configurar una nueva cultura alrededor del concepto «empleo». Pero no está exenta retos y riesgos que necesitan de una aproximación holística y multidisciplinar.
  • Los modelos de gobernanza, más allá de ser vehículos pare el cumplimiento normativo, son instrumentos para construir esa cultura a partir de la definición del interés legítimo, las responsabilidades, los niveles de reporte, los recursos de inversión necesarios (en tecnología, en habilidades, en talento…).
  • El proyecto IA+Igual está analizando modelos de algoritmos aplicados a procesos RH y también el marco conceptual y estratégico en el que se desarrollan.
  • No sólo el uso ético y responsable de la IA necesita de la alfabetización que establece el Reglamento Europeo, sino también su aprovechamiento óptimo como herramienta de trabajo.