Ana Valera, experta en People Analytics, y Marc Altimiras, vicepresidente del sur de Europa de Cornerstone, han respondido al interrogante ¿qué preguntar a un proveedor para contratar IA confiable? planteado en el segundo webinar del ciclo del Campus IA+Igual. No es una cuestión intranscendente teniendo en cuenta que, según PWC, la inversión en esta tecnología se incrementó un 40% en 2023 y que el 90% de los directivos creen que tendrán que tomar decisiones sobre su uso durante este año. Para acertar primero hay que conocer y esta sesión facilitó el conocimiento necesario para navegar por la abundante oferta de aplicaciones de IA en RR.HH.
A lo largo de la conversación los ponentes fueron dando forma al decálogo de preguntas que, valga la paradoja, dan respuesta al título de la la sesión: ¿Qué preguntar a un proveedor para contratar IA confiable? La explicabilidad del modelo es una constante en los desarrollos legislativos que se avecinan y, por lo tanto, la elección del proveedor ha de estar presidida por los argumentos y las evidencias a que aporten para darla.
- Los datos que utiliza, su fuente, su tipología, su diversidad, su alojamiento… todo ello es básico para garantizar la eficacia y eficiencia en el cumplimiento del objetivo de proceso o proyecto realizado con IA.
- Cómo pondera los datos, las variables que los relacionan y la normativa vigente para evitar las alucinaciones o los sesgos.
- Cuál es el el modelo de LLM utilizado es importante para saber cómo procesa, cómo aprende y cómo concluye sus outputs el algoritmo.
- Cómo asegura el cumplimiento de la normativa en materia de protección de datos para controlar hasta dónde se puede llegar en la personalización a través de procesos de IA.
- Qué escalabilidad tiene en otros procesos y con qué impacto.
- Cómo integra la interacción con la inteligencia humana para mejorar el modelo.
Según Valera y Altimiras, ésta última también miembro del Consejo Asesor de IA+Igual, los departamentos de RR.HH. llevan más de un lustro utilizando herramientas de IA para identificación de habilidades de los empleados a través de sus CV, experiencia laboral en la empresa o información del departamento de gestión de personas; creación de chatbots o asistentes virtuales mediante IA Generativa que responden a preguntas frecuentes de los trabajadores de una manera más rápida; redacción de descripciones de empleo que alivien la carga de trabajo de RR. HH o la creación de cuestionarios, que permitan comprobar si se ha asimilado la formación al finalizar un curso.
Es frecuente que muchos directivos se planteen si la calidad un algoritmo depende del número de datos. Por eso, Altimiras ha explicado que, sin dejar de lado el volumen, la clave está en los modelos de lenguaje de gran tamaño, los LLM por su sigla en inglés (large languaje models), que se usan para desarrollar un algoritmo en función de su caso de uso. El directivo ha recomendado se pida al proveedor la posibilidad de cambiar de modelo si no es adecuado, respetando siempre la propiedad intelectual. «Es importante saber si el fabricante tiene un compromiso sobre el desarrollo del tipo de IA que genera, porque el lenguaje que se tiene que hablar en la empresa es el de las habilidades, por encima de cualquier otro criterio adicional”, afirmó.
La explicabilidad es la base de la confiabilidad de las aplicaciones de IA.
Auditoría de los sesgos
Ana Valera, por su parte, ha respondido de forma clara a la pregunta de si se pueden combatir los sesgos con el uso de la inteligencia artificial y cómo, por lo tanto, podemos asegurarnos de que nuestro proveedor cumple la normativa en esa materia. “A priori, no, pero se pueden mitigar. Tanto la IA como las personas tienen sesgos. Lo que resulta imprescindible es tener criterio y especificar cómo se regula su uso”, ha dicho Valera, quien ha ilustrado esta idea a través de ejemplos:
- es posible eliminar la edad para tratar de evitar un sesgo en selección pero se puede deducir directamente de la trayectoria profesional;
- si se opta por los curriculums ciegos para evitar el sesgo de género podemos encontrarnos con que otros muchos datos no evidentes evidencian si la persona es un hombre o una mujer.
Por eso, la clave para la miembro del Consejo Asesor de IA+Igual es auditar de forma constante los algoritmos para que funcionen de manera justa y equitativa y actuar de forma ética para decidir qué usos no son adecuados porque la IA ha va más rápido que la regulación. Por ello es inexusable preguntar a los proveedores con qué datos provee a la IA y cómo ésta aprende a correlacionarlos.
“En la era del pensamiento crítico -ha subrayado Valera- la clave es seguir formándose para discernir los resultados que ofrecen los algoritmos. Ahora disponemos de un ‘Ferrari’ para tomar mejores decisiones, pero la persona tiene la última palabra”. Lo cierto es que la IA ya está integrada en procesos de RRHH como la selección de candidatos, la predicción del éxito, la personalización de la compensación o la identificación de personas con alto potencial y mejor desempeño. La buena noticia es que se pueden mitigar los sesgos a través del entrenamiento continuo del algoritmo y la depuración cuando sea necesario. “El tiempo empleado en entrenar la IA es como el que se dedica a un becario: una inversión”, concluye Valera.
El modelo de auditoría algorítmica de IA+IGUAL es un ejercicio práctico y pionero para avanzar en la confiabilidad de los algoritmos de inteligencia artificial, ya sean éstos específicos o generativos. Se ha construido precisamente con preguntas, partiendo de diversos cuestionarios técnicos básicos y enriqueciéndolos con sucesivas iteraciones del Consejo Asesor con ellos.
Dado que el proyecto está auditando propuestas de IA para diferentes procesos de RR.HH., los resultados incorporarán la casuística adaptada a cada uno de ellos en materia de sesgos.
