Por qué la supervisión humana sigue siendo clave en la toma de decisiones con IA

El papel de la inteligencia artificial (IA) en el entorno empresarial es cada vez más importante. Es esencial que las decisiones que afectan a las personas cuenten con supervisión humana y que se informe claramente cuando se interactúa con sistemas de IA. Además, entrenar algoritmos con datos libres de sesgos y garantizar la privacidad de la información son pilares fundamentales para una aplicación responsable de la IA en el ámbito laboral.

Carlos Cabañas, embajador de IA+Igual y experto en consultoría tecnológica y recursos humanos, destaca la importancia de estos principios. Aunque los RRHH siempre han sido un poco «el patito feo» de las empresas a la hora de abordar la inversión en tecnología, Cabañas se alegra de que «cada vez está quedando más clara la importancia de contar con un potente Gestión del Talento». Con una amplia trayectoria en la intersección de tecnología y gestión de personas, Cabañas aboga por una integración de la IA que priorice la equidad y la transparencia, asegurando que la tecnología sirva como una herramienta para mejorar la experiencia humana en el entorno laboral.

ORH-. ¿Cómo considera que la inteligencia artificial está transformando los procesos en las áreas de recursos humanos?

Carlos Cabañas-. Creo que estamos todavía en un estadio muy incipiente en cuanto al impacto que la IA supondrá en el terreno de la gestión de personas; aunque ya hay experiencias muy significativas, tanto en el ámbito de la inteligencia artificial “tradicional” (sobre todo en áreas como las de Selección o Desempeño para identificar “perfiles ideales”, o para analizar datos históricos y colectivos actuales para predecir el riesgo de fuga de talento, por ejemplo), como en la aplicación de la más reciente IA Generativa (por ejemplo, para redactar atractivas descripciones de puestos en procesos de selección, o para apoyar el desarrollo de contenidos formativos, sin olvidar los ya famosos “asistentes virtuales”), sin duda su avance y su adopción masiva supondrán un antes y un después.

Bajo mi punto de vista, el impacto de la IA será fuerte bajo dos perspectivas: por un lado, la IA nos permitirá “automatizar” y simplificar tareas repetitivas y de poco valor añadido, facilitando así que los profesionales puedan dedicar su tiempo a esas otras actividades a las que a menudo “no llegan” precisamente porque su día a día actual no se lo permite; por otro, nos facilitará la toma de decisiones, incluso anticipándonos a situaciones no deseadas, gracias a sus capacidades en el ámbito de la analítica prescriptiva.

ORH-. A lo largo de su carrera, ¿cómo ha visto evolucionar el papel de la tecnología en la transformación digital de las empresas, especialmente en áreas como recursos humanos?

C.C.-. Al igual que el ámbito “no profesional”, en el que parece (¿sólo parece?) que no podemos vivir ya sin tecnología, su papel en el entorno empresarial es cada vez más importante.

La evolución, sin duda, ha sido tremenda: basta recordar cómo era la informática hace unos años, y cómo es ahora. Los que ya peinamos canas hemos trabajado en equipos en los que las actualizaciones llegaban por fax, porque eso del email todavía ni existía…

Sin embargo, creo que las áreas de RRHH (a pesar de que en ellas la transformación digital está siendo ya imparable) siempre han sido un poco “el patito feo” de las empresas a la hora de abordar la inversión en tecnología. Parecería que el dinero debiera ir siempre a áreas de impacto supuestamente más directo en el negocio, como producción o ventas porque, al fin y al cabo, eso de la gestión de personas ya iba tirando… muchas veces con un enfoque primario de “administración de personal”. Afortunadamente, cada vez está quedando más clara la importancia de contar con una potente Gestión del Talento, talento que al final puede suponer una ventaja estratégica para las organizaciones, y para ello la inversión y el uso correcto de la tecnología es imprescindible.

ORH-. ¿Qué ventajas aporta la inteligencia artificial en la gestión del talento y cuáles son los mayores retos que enfrentan las empresas al incorporar IA?

C.C.-. Además de lo ya mencionado, creo que la rapidez para elaborar determinados contenidos y la capacidad de facilitar las tareas de “autoservicio”, liberando mucho tiempo para los profesionales de RRHH, son dos puntos clave. Por ejemplo, los “chatbots con esteroides”, o agentes virtuales bien entrenados, sin duda supondrán una ventaja tanto para sus usuarios (que verán enriquecida su experiencia de empleado, al poder conseguir respuestas para sus dudas de forma ágil, precisa y sin esperas) como para los técnicos de RRHH, que ya no deberán responder una y otra vez a las mismas preguntas.

En cuanto a los retos, veo dos principalmente:

• Uno, el de responder a la pregunta de “por dónde y cómo empezar”. Aquí, como siempre suelo decir, “empieza por donde te apriete el zapato”: huye de modas, analiza tu caso concreto… y manos a la obra. Hay técnicas para determinar el camino ideal.
• Otro, el de asegurar el cumplimiento normativo y el uso correcto de la IA contemplando un uso ético y alejado de sesgos y malas prácticas que pudieran afectar negativamente a las personas. No olvidemos que la IA debe ser una herramienta que ayude… pero con personas siempre detrás en fases críticas en la toma de determinadas decisiones.

Incorporando la IA en RRHH

ORH-. ¿Qué beneficios ha observado en la colaboración entre perfiles técnicos y no técnicos en proyectos relacionados con la IA y RRHH?

C.C.-. Uno fundamental: el asegurar el enfoque correcto de las soluciones que se desarrollen y/o implanten.

Un tecnólogo puede y debe saber mucho de tecnología, pero quizá no de gestión de personas; un especialista de RRHH puede saber mucho de su área de actuación, pero no de tecnología. Lo mejor, sin duda, surge de la combinación de ambos mundos.

Si importante es siempre contar con “especialistas de negocio” al implantar tecnología (que debe ser siempre un medio, nunca un fin en sí misma), más importante aun lo es en el terreno de los RRHH.

ORH-. ¿De qué manera pueden las empresas que incorporan IA en RRHH poner la tecnología al servicio de las personas?

C.C.-. Me parece fundamental comenzar por identificar las carencias existentes en relación con la gestión de personas en la organización, incluso sin pensar en la tecnología en un primer momento. Después, establecidas las necesidades, es el momento de determinar en qué “casos de uso” la IA podrá convertirse en una valiosa aliada.

Se trata, una vez más, de definir el mejor uso de la tecnología, en este caso tecnología muy avanzada, para incidir positivamente en lo realmente importante: debemos conseguir que la IA nos permita avanzar en la senda de la atracción, fidelización y gestión del mejor talento.

Una pista: si al incorporar tecnología en tu entorno lo que estás consiguiendo es hacer la vida más difícil a tu gente… algo estás haciendo mal.

Más allá de la “paridad humana”

ORH-. ¿Qué principios éticos considera fundamentales para el desarrollo e implementación de sistemas de inteligencia artificial en RRHH?

C.C.-. Creo que hay uno básico que, afortunadamente, cada vez está teniéndose más en cuenta, quizá como consecuencia de la puesta en marcha de la reciente normativa europea ya en vigor: siempre debe haber personas detrás de la toma de decisiones que afecten a personas, y siempre debe informarse a las personas de que están interactuando con un sistema con IA cuando sea el caso.

Además, y quizá como corolario de la anterior asunción, ya no vale decir “es que lo ha dicho una máquina” para justificar vaya usted a saber qué tropelías.

Quizá haya que ir un paso más allá de la denominada “paridad humana” (que un sistema se comporte al menos tan bien como lo haría un humano), luchando por conseguir comportamientos excelentes. Porque, no lo olvidemos, sigue habiendo “inteligencias humanas” más perniciosas que la inteligencia artificial.

Y muy importante: resulta fundamental entrenar a los algoritmos con datos sin sesgos (o ser capaces de identificarlos, si existen), y garantizar la privacidad de la información especialmente en el terreno de la gestión de personas.

ORH-. ¿Cómo pueden las empresas garantizar que sus algoritmos no refuercen discriminaciones en los procesos de selección y evaluación?

C.C.-. No es algo sencillo, y me temo que una garantía del 100% no es fácil de conseguir de entrada. Los humanos llevamos toda la vida conviviendo con sesgos y estereotipos, y por tanto la información que generamos (y que sirve para entrenar los algoritmos) no está, seguro, exenta de ellos.

La única forma de garantizar que vamos por el buen camino pasa por la supervisión de los sistemas, y por llevar a cabo un seguimiento estricto de sus resultados antes de pasar “a producción”, esto es, antes de hacerlos funcionar en un entorno real. Porque seguro que nos encontramos con casos sospechosos en la fase de validación… que precisamente para eso está, para validar o para reconducir las pruebas en caso necesario.

Importante también: la IA es muy potente… pero no infalible. Es capaz de inventar mejor que el mejor de los “cuñaos”.

La IA, ¿libre de sesgos?

ORH-. ¿Qué papel puede desempeñar la inteligencia artificial para reducir las brechas de género, etnia u otras formas de discriminación en el lugar de trabajo?

C.C.-. Igual que antes decía que el tema de los sesgos es un reto importante para la IA… la IA puede ser una herramienta importante para actuar ante ellos.

¿Cuál suele ser el origen de la brecha de género, de etnia, o de muchas otras discriminaciones? En muchas ocasiones, los “sesgos humanos”, las ideas preconcebidas y los “filtros automáticos” que, de forma consciente o no, muchas veces guían nuestras decisiones.

¿Y si pudiéramos poner en marcha algoritmos que, teniendo en cuenta de dónde venimos, actuaran al margen de esas erróneas formas de hacer? La buena noticia es que podemos. Pero, eso sí, siempre que actuemos de forma precisa en el terreno del entrenamiento y la validación que también mencioné.

Con buen criterio, la IA puede ayudarnos a luchar contra cualquier forma de discriminación que hayamos identificado en el entorno laboral.

ORH-. ¿De qué manera cree que proyectos como IA+Igual pueden influir en la industria para garantizar que la inteligencia artificial sea inclusiva y libre de sesgos?

C.C.-. Sin duda, su papel como “altavoz de buenas prácticas” resulta imprescindible en un momento como el actual; no basta con informar sobre novedades en la industria de la IA (que aparecen muchas, casi cada día, con un ritmo frenético), sino que se hace necesario incidir en la vertiente humana y ética de sus posibles aplicaciones. (Y, ojo que no estoy hablando de lo mala o lo buena que puede ser una tecnología determinada; lo importante es pensar en sus posibles usos y hacer foco y análisis en ellos. Siempre comparo la situación con el análisis de un cuchillo jamonero: ¿es malo, o es bueno? Pues dependerá de su uso…).

Me parece fundamental contar con un altavoz que resalte lo positivo y alerte de lo negativo… y una organización como IA+IGUAL (a la que agradezco enormemente que me haya elegido para formar parte de su Red de Embajadores, lo que es un honor) puede desempeñar ese papel con calidad y garantía.