Alerta roja acerca de la versión sesgada de la inteligencia artificial: aunque es pronto para determinar el impacto económico real de la inteligencia artificial, la implantación de la IA en la empresa requiere que recursos humanos actúe de forma proactiva para evitar un posible impacto negativo en materia de diversidad. Nos enfrentamos a un reto socio tecnológico.
Desde un punto de vista económico, los grandes expertos se están cuestionando si el impacto de la inteligencia artificial tendrá las dimensiones que se auguraban. Mientras el pasado mes de diciembre la consultora McKinsey cifraba en un estudio el impacto de la IA en 4.400 billones de euros anuales, la banca inversión Golmand Sachs se preguntaba hace unos días en otro informe “¿Demasiado gasto para tan poco beneficio?”, partiendo de la estimación de gasto de alrededor de 1.000 millones de dólares en los próximos años en centros de datos, semiconductores, actualizaciones de la red y otras infraestructuras de IA.
El futuro de la IA en España estará en manos de…
Un último informe: la Universidad de Stanford planteaba a finales de junio en Artificial Intelligence Index Report 2024 que las principales empresas de IA y los datos utilizados para el entrenamiento de modelos proceden de países occidentales, por lo que reflejan perspectivas occidentales. Utilizar modelos de IA con datos sesgados de género lleva a que la IA pueda propagar y reforzar estereotipos de género perjudiciales.
Standford incluye, por vez primera, datos procedentes de Informatics Europe que arrojan luz sobre las tendencias de la diversidad en la enseñanza europea de las ciencias de la computación. En todos los países europeos encuestados hay más licenciados que licenciadas en programas de grado, máster y doctorado en Informática, Ciencias de la Computación (CC), Ciencias de la Educación (CE) y Tecnologías de la Información (TI). Mientras que la brecha se ha ido ha reducido en la última década en la mayoría de los países, en España ha aumentado.
Si en 2011 el porcentaje de nuevas licenciadas en Informática, CC, CE y TI era de 21,66% en España, en 2022 descendió a 14,32%. Un dato preocupante, sin duda, en la medida en que apunta a un futuro en el que las mujeres seguirán siendo minoría a la hora de tomar decisiones sobre la IA, algo clave a la hora de supervisar los algoritmos como apunta el Reglamento de IA europeo (RIA). En el caso de nuevas doctoradas, la cifra descendió de 25,39% a 20,25% entre 2011 y 2022. Esta “falta de diversidad puede exacerbar las desigualdades y los prejuicios sociales”, asegura la prestigiosa universidad norteamericana en el capítulo 8 del Índice de inteligencia artificial Informe 2024, con el consiguiente impacto en los derechos fundamentales de la persona.
Enfoque proactivo para favorecer la diversidad
“La IA ha aumentado significativamente la eficiencia en diversos procesos de Recursos Humanos, especialmente en el reclutamiento y la gestión del talento. Sin embargo, es crucial abordar y mitigar los sesgos para garantizar la equidad”, explica Ambrosio Nguema, experto en LLM y miembro del Consejo Asesor de IA+Igual. Por eso, la empresa debe apostar por una inteligencia artificial centrada en personas, que sea justa y no discriminatoria, que evite o mitigue los sesgos en sus decisiones y que permita una explicabilidad, en la medida de lo posible, acerca de cómo se adoptan las decisiones basadas en IA.
Partiendo del respeto a los modelos de gobernanza basados en el RIA y la alineación al código de valores de cada empresa, los expertos del Consejo Asesor de IA+Igual proporcionan algunas recomendaciones que debe adoptar de forma proactiva el área de Talento para conseguirlo:
- Visión multidisciplinar: la inteligencia artificial es tan compleja como el ser humano y demanda un gran capital intelectual diverso para acometer los retos y los desafíos de nuestra propia creación de manera inteligente.
- Constante supervisión humana, evaluación y ajuste de los algoritmos: asegurar la precisión objetividad, privacidad y seguridad de los datos que usan los algoritmos para conseguir el anonimato y equilibrio de los datos y, por tanto, reducir las distorsiones.
- Sistemas transparentes y flexibles: deben adaptarse a las necesidades específicas de cada organización, sin dejar que prime exclusivamente la visión tecnológica.
- Evitar la brecha digital: fomentar que accedan a los beneficios de la incorporación de la IA a la empresa todos los profesionales y no solo aquellos más capacitados digitalmente y con mayor acceso a los recursos tecnológicos necesarios.
