La Inteligencia Artificial (IA) está ganando cada vez más relevancia en el entorno empresarial, ofreciendo a las empresas nuevas oportunidades para mejorar la eficiencia y la toma de decisiones. Los departamentos de recursos humanos se encuentran así, ante el desafío de adoptar herramientas de IAG para optimizar sus procesos y mejorar la gestión del talento. Ante este reto, ¿Cómo dar respuesta a las advertencias sobre el impacto negativo que están teniendo los sesgos en los algoritmos de IA?
Negro sobre blanco (Volumen 1), el último informe publicado por IA+Igual, desarrolla la tesis de que, a pesar de los riesgos existentes, los procesos de recursos humanos son un entorno en el que la aplicación de la IAG serviría para impulsar y optimizar resultados. Imaginemos, por ejemplo, un sistema público de empleo que cuente con una herramienta algorítmica alimentada con:
-
- Datos de las personas en búsqueda activa de empleo (perfil, formación, experiencia, habilidades, tiempo en desempleo, prestaciones que reciben, etc.)
- Las ofertas en activo del mercado laboral (requisitos de experiencia, habilidades, convocatorias de empleo público, etc.)
- La propuesta formativa existente para la recapacitación profesional
El resultado óptimo de este sistema sería un modelo de «predicción» que relacionaría al mejor candidato, con la mejor oferta. Y en su caso, desarrollaría itinerarios formativos a medida de cada desempleado, para que encajara con la oferta laboral. Ahora traslademos el ejemplo a un departamento de recursos humanos de una multinacional. En un entorno de escasez de talento, transformación y reeskilling, resulta cuanto menos interesante, ¿no?
Conocimiento básico
Sin embargo, a pesar del claro potencial de la IA en este ámbito, sólo un 14% de los profesionales del área trabajan actualmente con esta tecnología, según datos de una encuesta que IA+Igual difundirá el próximo mes de marzo. Los riesgos están claros. En primer lugar, está el riesgo de impacto reputacional. El uso de la IA en estos procesos sin la garantía de un funcionamiento ético y confiable puede llevar a demandas laborales por incumplimientos normativos relacionados con la igualdad y la diversidad, lo que podría afectar negativamente la reputación de la marca.
Además, los departamentos de RR.HH. carecen frecuentemente de perfiles tecnológicos especializados que supervisen la adquisición y el funcionamiento de herramientas de IAG. Se requiere una mayor capacitación y asesoramiento multidisciplinar para asegurar que los algoritmos sean entrenados con datos apropiados y adaptados a los objetivos de la compañía.
La comunicación también representa un desafío importante. La controversia generada por las informaciones difundidas por los medios de comunicación puede generar rechazo por parte de la ciudadanía hacia la adopción de estas herramientas. Por lo tanto, es fundamental implementar una campaña de información y sensibilización adecuada para garantizar su aceptación y usabilidad. Finalmente, es necesario que la legislación laboral acompañe el uso de la IA en RR.HH.
Un primer paso es entender qué es y qué no es la IA; en qué procesos puede aplicarse y cómo podemos evaluar el funcionamiento de una herramienta para garantizar que funciona de forma ética y confiable. No se trata, ni mucho menos de aprender a programar o convertirse en analista de datos. Se trata de adquirir un conocimiento básico que nos permita hacer las preguntas adecuadas para que otros, los técnicos especializados, nos den respuestas.
Uno de los problemas de partida en el funcionamiento de la IA son los sesgos. Al estar basada en matemática compleja, computacional y estadística, la IA se alimenta de datos. Los algoritmos son operaciones que gestionan el uso que el algoritmo hace de esos datos. Un algoritmo de IA necesita millones de datos para funcionar y normalmente esos datos, son los que están «en la nube». Son los históricos que durante años hemos ido almacenando y que ahora somos capaces de unir en grandes bases de datos de todo el mundo. En esos datos está implícita la realidad. Y puesto que en la realidad existen la discriminación, los sesgos, los prejuicios etc. también lo están en el big data.
Procesos y sesgos
La IA aplicada al ámbito de los recursos humanos y el mercado laboral ha sido catalogada por la UE como de alto riesgo. Es lógico. Llevamos décadas trabajando en la igualdad de oportunidades, la gestión de la diversidad y el derecho al empleo de todas las personas. Sería un error retroceder parte del camino que hemos avanzado porque, no solo los sesgos entran en la IA sino que, puesto que son herramientas muy eficientes, los llevan a sus máximas consecuencias. Recordemos que la IA no toma decisiones, no tiene moral y no es «inteligente» solo ejecutiva de una manera impecable las órdenes que les da su programación.
Estos son los cinco sesgos que más influyen en las herramientas del ámbito de RRHH.
1.- Sesgo de género. Es la asociación inconsciente de ciertos estereotipos con el género y la tendencia sexual. Este tipo de sesgo inconsciente afecta a las políticas de contratación, la dinámica de las relaciones en la empresa, las oportunidades laborales, el liderazgo o la política retributiva. En el ámbito de la RSC afecta a los objetivos de diversidad. Y desde el punto de vista normativo, se convierte en un problema legal por incumplimiento, en España por ejemplo, de la Ley de Igualdad. Hay que tener en cuenta, además, que el sesgo de género no es específicamente “femenino”. En aquellas profesiones feminizadas (enfermería, cuidado infantil y de mayores por ejemplo) un algoritmo podría sesgar las candidaturas masculinas. Afecta a todos los procesos, desde selección, hasta promoción y retención. Y será determinante en los procesos de transparencia retributiva que marca la nueva normativa.
2.- Sesgo de edad. El edadismo se refiere a estereotipos en función de la edad. Este sesgo afecta a las relaciones laborales, la gestión del talento y las políticas de empleo. El principal impacto está en las políticas de contratación y en la rescisión de contratos; influye en la diversidad de las organizaciones y atenta contra los ODS, además de afectar a las políticas de RSC. En materia de empleo público, puede suponer un freno al acceso de personas mayores a programas de formación, lo que debilita la empleabilidad. En RRHH afecta a las políticas de retención, análisis de riesgo de fuga de talento, selección, evaluación del desempeño, flexibilidad.
3.- Sesgo de apariencia. El lookismo se basa en un trato favorable hacia las personas que se ajustan a los prototipos de belleza establecido en cada cultura, lo que implica estatura, talla, color del cabello, capacidades diferentes. Afecta, directamente, a la decisión de contratación, lo que puede llegar a impactar en los resultados de negocio. También impacta en la forma en la que trabajamos en equipo, en las decisiones de promoción profesional y puede provocar problemas de acoso. Hay estudios que revelan, por ejemplo, que en nuestra cultura las personas altas y rubias son potencialmente más “aceptables” en los procesos de contratación. Este sesgo afecta a los procesos de selección, promoción e incluso, a los de transparencia retributiva.
4.- Sesgo de intuición. Sucede cuando nos dejamos llevar por la primera impresión, ya sea buena o mala: construimos el “todo” de una persona con información limitada. Afecta a las decisiones de contratación y promoción, así como en la toma de decisiones a la hora de despedir personal. Este es el sesgo más subjetivo de todos y se basa en la experiencia y aprendizaje de cada individuo. Si no detecta, puede afectar a todos los procesos y puede afectar, por ejemplo, a herramientas y políticas de gestión de la diversidad.
5.- Sesgo de confirmación. Selecciona y utiliza la información que confirme puntos de vista propios o expectativas. Todo aquello que es diferente a mí, es un potencial peligroso. Incide la raza, la cultura, la creencia religiosa, el origen, la clase social o la discapacidad. Puede afectar en la toma de decisiones de negocio porque todo aquello que es diferente, lejano o desconocido, produce un efecto inconsciente adverso que nos lleva a descartarlo. Internamente, produce fallos en la cultura de la organización, dificulta la gestión de la diversidad y afecta también a procesos de selección o de promoción.
