Un 65,8% de las personas con discapacidad encuestadas para un informe de la Fundación Adecco teme quedar excluido de las procesos de selección debido a los sesgos que incluye la IA. El estudio analiza la situación y propone claves para solucionarla, como la aplicación de principios de diseño universal que aseguren la accesibilidad, la introducción de ejemplos positivos de personas con discapacidad en los datos de entrenamiento o el monitoreo constante para consolidar modelos de aprendizaje inclusivos.
Quizá la clave para superar los recelos hacia lo que la IA nos puede ofrecer consista en incorporarle lo más posible componentes específicamente humanos. La inclusión, la voluntad de no dejar a ninguna persona atrás, es uno de ellos. Ahí superamos a cualquier algoritmo. Por eso resulta preocupante la visión de los trabajadores con discapacidad de los avances de la IA generativa.
El último informe «Tecnología y Discapacidad«, elaborado por el Observatorio de la Vulnerabilidad de la Fundación Adecco con la colaboración de Keysight Technologies Sales Spain, ha encuestado a 300 personas con discapacidad en búsqueda de empleo y ha trabajado con datos oficiales como las cifras de contratación publicadas mensualmente por el Servicio Público de Empleo Estatal.
El 55% destaca que la inteligencia artificial tiene un gran potencial para incrementar su rendimiento profesional y desempeñar su trabajo de forma más rápida y eficiente
Para situar la cuestión, el estudio recuerda que en lo que llevamos de año, las personas con discapacidad han firmado un total de 44.742 contratos en España, el 68% en el ámbito protegido (Centros Especiales de Empleo) y solo el 32% en empresas ordinarias, es decir, entornos convencionales de trabajo.
La encuesta se ha orientado a la percepción sobre el impacto de la IA en el ámbito de la inclusión labora.
Oportunidades de la IA para el empleo de las personas con discapacidad
En positivo, más de la mitad de las personas con discapacidad encuestadas (55,3%) considera que la IA tiene un inmenso potencial para impulsar su desempeño, ya que pueden facilitar su rendimiento laboral y mejorar su eficiencia, teniendo en cuenta algunas de sus aplicaciones. El estudio destaca las siguientes:
- Accesibilidad. Por ejemplo, desarrollando sistemas de reconocimiento de voz o del lenguaje, señas para facilitar la comunicación o soluciones de navegación para personas con discapacidad visual.
- Adaptación de entornos de trabajo. Por ejemplo, mediante ajustes automáticos de iluminación, temperatura y otras condiciones ambientales. Además, la irrupción de las tecnologías adaptadas y los productos de apoyo tecnológicos, facilitan las tareas y rutinas de las personas con discapacidad, a través de equipos y programas para aumentar la movilidad, la audición, la visión o las capacidades de comunicación.
- Capacitación y desarrollo profesional. La IA puede ofrecer programas de aprendizaje personalizados que se adapten a las necesidades de cada persona, brindando además retroalimentación y orientación constante para mejorar el desempeño laboral.
- Teletrabajo y flexibilidad laboral. Mayor acceso a trabajos remotos y flexibles, beneficiando a quienes encuentran barreras para desplazarse o trabajar en entornos tradicionales. Asimismo, la IA puede facilitar la colaboración en línea y la adaptación de tareas y horarios, según las necesidades individuales.
Riesgos de la IA para el empleo de las personas con discapacidad
Junto a estas oportunidades y beneficios, emergen también una serie de riesgos y desafíos.
- Sesgos y discriminación. Los sistemas de software ATS (Applicant Tracking System) son cada vez más usados por las empresas para agilizar el proceso de reclutamiento. El informe recuerda que “estas herramientas permiten comparar las diferentes candidaturas y descartar automáticamente aquellas que no cumplen con los requisitos, a través de palabras clave relacionadas con habilidades y competencias específicas para el puesto ofertado”. Y se pregunta: “¿Están entrenados estos sistemas en base a criterios inclusivos?” Si sus algoritmos no contemplan estos criterios, “pueden amplificar los sesgos inherentes en el conjunto de datos utilizados para su entrenamiento, dando lugar a resultados discriminatorios desde el punto de vista de la contratación laboral”. Sesgos que pueden perpetuarse y ampliar las desigualdades existentes en la sociedad y en el mercado laboral. De hecho, un 65,8% teme quedar excluido de los procesos de selección, debido a la existencia de estos sesgos.
- Barreras de acceso (económicas, accesibilidad, usabilidad). Un 45,1% encuentra barreras en el uso y manejo de las Nuevas Tecnologías. En cuanto el tipo de barreras, la mayor parte son de índole económico (el 75,3% refiere falta de poder adquisitivo para adquirir estas herramientas); seguido de un 58,2% que manifiesta problemas de usabilidad, por considerar muy complejo y avanzado su uso; un 52,4% que encuentra problemas de accesibilidad (barreras por su tipo de discapacidad) y un 15,5% que no confía en lo digital y teme ser víctima de engaños y fraudes.
- Automatización del empleo. La mayor parte (55,5%) no ve en la IA una amenaza para su inclusión laboral, un 44,5% sí teme que la robotización ocupe los trabajos que habitualmente desempeñan, dejándoles sin posibilidad de empleo.
- Necesidad de formación y habilidades actualizadas, Casi tres cuartas partes (73,1%) no ha recibido ningún tipo de formación en Nuevas Tecnologías para la mejora de su búsqueda de empleo y desempeño profesional.
- Pérdida de control humano en los procesos de selección. Francisco Mesonero, director general de la Fundación Adecco, explica que “existen labores imprescindibles, vinculadas a las emociones, que seguirán siendo realizadas por los seres humanos. De hecho, cuanto menos humanizado está un proceso de selección, menos engagement se consigue. Además, las estrategias de Diversidad, equidad e inclusión (DEI), cada vez más presentes en la agenda empresarial, exigen procesos de selección en los que la intervención humana se torna imprescindible, en aras de diseñar inclusion journeys que contemplen las necesidades de las personas con discapacidades intelectuales o aquellas más infrarrepresentadas en el mercado laboral, desvinculando el talento a lo estrictamente intelectual y valorando otras competencias que les permitan competir en condiciones de igualdad”.
Claves para una Inteligencia Artificial inclusiva con las personas con discapacidad
El informe advierte de que “la inclusión no es un proceso que surja de forma natural, sino que es necesario adoptar mecanismos para construirla, tanto entre las personas, como entre los sistemas inteligentes”. Aconseja las siguientes pautas para desarrollar una IA inclusiva:
- Accesibilidad y Diseño Universal. El estudio de Adecco considera «fundamental asegurarse de que la IA es accesible para las personas con diferentes tipos de discapacidad, proporcionando opciones de interfaz y modos de interacción alternativos, como comandos de voz, teclado o dispositivos de asistencia». Para ello, se les antoja imprescindible «aplicar los principios de diseño universal desde el momento en el que se desarrolla la tecnología o IA en cuestión, proporcionando opciones flexibles que se adapten a los diferentes tipos de discapacidad».
- Representación diversa en los equipos de desarrollo y en los ensayos, para asegurarse de que las muestras de datos utilizadas para entrenar la IA son inclusivas y representativas. «Si las propias personas con discapacidad participan y dan su visión sobre los nuevos desarrollos tecnológicos, éstos tendrán en cuenta sus necesidades y se adaptarán a las mismas desde el principio. En otras palabras, se evitan los sesgos, se identifican barreras y pueden proponerse mejoras adaptadas a las personas con discapacidad».
- Ejemplos positivos en los datos de entrenamiento de la IA. En línea con lo anterior, de modo que la discapacidad no se contemple como una condición que limita el desempeño, sino que pueda valorarse de una forma favorable, basándose en experiencias positivas.
- Retroalimentación y monitorización constante. Las personas con discapacidad deben recibir feedback e instrucciones claras que les guíen, constantemente, en su interacción con la IA. «La retroalimentación debe ser accesible en diferentes formatos como texto, audio o señales visuales, según las necesidades del usuario. Hay que tener en cuenta que la inclusión es un proceso continuo, por lo que es necesario que la IA esté en permanente ‘fase beta’, aprendiendo y mejorando su desarrollo, en aras de consolidar modelos de aprendizaje que contemplan las necesidades de las personas con discapacidad».
- Cumplimiento de estándares y regulaciones. Es necesario asegurar que la IA cumple con las normativas y estándares de accesibilidad relevantes, como las pautas de accesibilidad al contenido en la web (WCAG), así como las regulaciones específicas para la accesibilidad de productos tecnológicos. El estudio además recuerda que el Parlamento Europeo ha aprobado el nuevo texto de Ley de Inteligencia Artificial, con prohibiciones específicas sobre el uso de esta tecnología para recabar datos biométricos (información personal relativa a las características únicas de las personas, ya sean físicas o asociadas al comportamiento) a través de sistemas o procedimientos tecnológicos. Esta nueva normativa contempla medidas para limitar los sistemas de IA que presentan un nivel considerado inaceptable para la seguridad de las personas, o pueden resultar discriminatorios. Es por tanto fundamental que la innovación tecnológica tenga en cuenta esta premisa desde el principio, limitando los sesgos en la recopilación de datos biométricos y utilizándolos solo en los casos en los que su aplicación esté justificada y sea estrictamente necesaria.
- Colaboración con el tercer sector y asociaciones del ámbito de la discapacidad. El informe de Fundación Adecco sostiene que «es importante que el ámbito tecnológico trabaje en estrecha colaboración con organizaciones y comunidades de personas con discapacidad, escuchando sus necesidades, experiencias y recomendaciones, y considerando su perspectiva en el desarrollo y diseño de la IA».
Un 15% ya utiliza herramientas de IA para la búsqueda de empleo
El estudio de Fundación Adecco muestra que la digitalización en la búsqueda de empleo también está llegando a las personas con discapacidad. Así, el 79,3% ya utiliza los portales de empleo para la búsqueda de empleo y un 48,7% utiliza aplicaciones (apps) para ello. De forma más minoritaria, un 28,2% utiliza LinkedIn como red social para establecer contactos y acceder a ofertas de empleo; un 17% envía su candidatura a través de las webs corporativas y tan solo un 15% ha utilizado la Inteligencia Artificial como recurso en este proceso. Los que así han respondido, destacan que han usado ChatGPT como herramienta para optimizar su currículum, seguidos de Vmock y Kickresume.
