¿Lideras la estrategia de diversidad e inclusión en tu organización? Entonces deberías estar en primera línea de otra estrategia, la de la adopción de la IA. Qué menos que sea así con una tecnología cuya regulación gira en torno a la igualdad de derechos y a los riesgos que para ella tienen los sesgos en los algoritmos. Empero, la realidad es muy distinta y un estudio de Deloitte aflora las incongruencias entre los compromisos DEI declarados por las empresas y cómo los están trasladando a los procesos RH gestionados con IA.
Los autores de la investigación las llaman “desconexiones” y ciertamente han elegido bien el término, porque la falta de corriente entre ambos ámbitos cortocircuita el objetivo de un despliegue sin riesgo normativo. Con la participación de 71 CDEIO’s (responsables de DEI) han concluido una paradoja y tres desconexiones entre las intenciones organizacionales y las acciones reales, que plantean brechas de igualdad y diversidad que comprometen la construcción de una IA laboral sin washing equitativo.
La paradoja: el compromiso declarado vs. la realidad operativa
En la intersección de la IA y la DEI se constata, por un lado, un optimismo generalizado y un compromiso declarado con la equidad, y se observan, por otro lado, deficiencias significativas en las prácticas operativas que deberían sustentar dicho compromiso:
- El 78% de los CDEIOs encuestados está de acuerdo o totalmente de acuerdo en que su organización mantiene su compromiso con la DEI junto con las inversiones en IA.
- Sin embargo, menos del 40% de estas mismas organizaciones están aplicando métodos de evaluación del impacto de los sesgos, el 35% no implican a las áreas de diversidad e inclusión y apenas un 12% crea equipos de IA diversos.
Esta dicotomía sugiere que, aunque el «qué» y el «porqué» de la equidad en la IA son ampliamente aceptados, el «cómo» sigue siendo un territorio por explorar.
Desconexión 1: falta de implicación del liderazgo
Dato clave: Solo el 35% de los líderes de DEI informa que la alta dirección entiende la necesidad de que la estrategia de DEI evolucione junto con la IA.
Este dato es especialmente alarmante porque no se refiere a la mera participación táctica, sino a la comprensión estratégica por parte del liderazgo de que la DEI no puede permanecer estática mientras la IA transforma la organización. Además, sugiere una peligrosa falta de visión sobre cómo la equidad debe co-evolucionar con la tecnología.
¿Cómo se evidencia esta primera desconexión?
- Con decisiones de inversión en IA que no contemplan presupuestos específicos para auditorías de sesgos.
- Con falta de KPIs de equidad integrados en los objetivos estratégicos de transformación digital.
- Con ausencia de representación del área de DEI en los comités de gobernanza de IA.
- Proyectos de IA que avanzan sin evaluación de impacto en diversidad hasta fases muy tardías.
Desconexión 2: ausencia de diversidad en los equipos de IA
Dato Clave: Solo el 12% de las organizaciones están creando roles en IA específicamente para fomentar perspectivas diversas.
La diversidad ha de ser transversal a todo el ciclo de vida de la IA -desde la ideación y el desarrollo hasta el despliegue y la evaluación- para evitar los sesgos “se cuelen” en cualquier momento del proceso, ya sea algorítmico o humano. Y ello no es sólo cuestión de implicar a compliance, RR.HH. y a DEI; la gobernanza de la IA exige pensarla desde la representación diversa de todos los equipos implicados, también en el de los desarrolladores y programadores. Por ejemplo, pensemos en las barreas de acceso en los procesos de selección en los que interviene un un chatbot:
- Una persona con dificultades de accesibilidad para escribir puede no ser capaz de interactuar.
- Un usuario con una discapacidad auditiva puede tener problemas para entender las respuestas de voz.
- Alguien para quien el inglés es un segundo idioma podría encontrar el lenguaje coloquial del chatbot confuso y difícil de usar.
Un ejemplo de equipo conjunto DEI e IA es el del asistente cognitivo “dIAna”, desarrollado por Ilunion para su contact center con el objetivo de transcribir conversaciones en tiempo real que permitan una retroalimentación con el agente no sólo visual y textual sino también auditiva. Para ello, ha implicado en su diseño a profesionales con diferentes tipos de discapacidad que han trabajado en la accesibilidad desde el inicio.
Desconexión 3: Carencia de mecanismos de evaluación y rendición de cuentas
Dato Clave: Solo el 37% de las organizaciones implementan medidas de evaluación de impacto para contrarrestar sesgos potenciales en la IA.
Omitir salvaguardas éticas y mecanismos de rendición de cuentas está duramente penado por el Reglamento Europeo de IA, por no decir que, además, compromete la marca empleadora en caso de conflicto o error. Continuando con el ejemplo anterior, el marco corporativo de gobernanza de la IA debe establecer mecanismos de supervisión del funcionamiento del modelo a través de una clara jerarquía de responsabilidades que, en todos los casos, incorpore la perspectiva DEI en el diseño del modelo, en sus evaluaciones periódicas y en la interpretación y/o validación de las recomendaciones que proporcione. Por el momento, la investigación de Deloitte alerta sobre la realidad de unas pocas organizaciones con una estrategia clara al respecto, incluso en las Administraciones Públicas.
Este es el caso del sistema de IA de la Agencia Sueca de Seguridad Social y su homónimo en los Países Bajos, ambos denunciados por discriminar a franjas desfavorecidas de la sociedad al seleccionarlas injustamente para inspecciones de fraude en prestaciones sociales.
Construyendo puentes entre DEI e IA
DEI sabe de las sutilezas del sesgo humano porque la diversidad es el gran escenario en el que se manifiestan; ahora ha de entender también las del sesgo algorítmico. La IA necesita a la DEI por las razones expuestas anteriormente, pero la DEI también necesita a la IA, porque le ofrece una manera más eficiente y documentada para conseguir la diversidad efectiva llevada a todos los procesos (selección, formación, desarrollo, retribución…). Por ello, formarse en la intersección de DEI e IA es su reto y el 49% de los CDEIO’s ya están animando activamente a sus equipos a mejorar esta competencia.
