¿Y si la inteligencia artificial estuviera aprendiendo a discriminar?

Nos han presentado la IA como una tecnología sin emociones capaz de hacernos la vida más fácil, ahorrar tiempo y tomar decisiones basadas en datos. Pero hay un detalle importante: estos datos proceden de una sociedad en la que la igualdad entre mujeres y hombres todavía no es una realidad.

Y la IA también aprende de ello.

¿El resultado? Una tecnología que puede reproducir y amplificar los mismos prejuicios que queremos dejar atrás. Desde descartar candidatas en procesos de selección hasta perpetuar estereotipos de género.

La cuestión ya no es solo qué puede hacer la inteligencia artificial, sino qué ocurre cuando la dejamos decidir. Y las empresas tenemos mucho que decir sobre cómo podemos aprovechar las ventajas de la inteligencia artificial sin comprometer la igualdad de oportunidades.

¿De dónde surgen los sesgos de género en la inteligencia artificial?

La IA aprende a partir de grandes cantidades de datos. Pero ¿qué ocurre si esos datos ya contienen desigualdades entre mujeres y hombres?

Pues que el sistema puede acabar reproduciéndolas en sus resultados.

Pensemos, por ejemplo, en una herramienta de selección de personal entrenada con datos de contrataciones anteriores. Si históricamente una empresa ha contratado a más hombres para ocupar determinados cargos, el sistema podría interpretar que esos perfiles son los más adecuados y darles prioridad.

El problema no es que la herramienta esté programada expresamente para discriminar, sino que puede acabar reproduciendo patrones de desigualdad sin que la empresa se dé cuenta.

Una decisión automatizada puede parecer objetiva simplemente porque la toma un algoritmo. Y no siempre es así. Los sesgos pueden aparecer en los datos utilizados, en los criterios con los que se diseña el sistema o en la manera de interpretar sus resultados.

¿Cómo puede afectar a la igualdad dentro de las empresas?

Los procesos de selección de personal son uno de los ejemplos más claros, pero los sesgos de género también pueden aparecer en otros ámbitos de la gestión empresarial.

Por ejemplo:

• Selección de personal: una herramienta puede priorizar unos currículums frente a otros a partir de patrones que no están directamente relacionados con las competencias profesionales.
• Promociones internas: si un sistema analiza las trayectorias de las personas que históricamente han ocupado cargos directivos, podría favorecer perfiles similares y reproducir las desigualdades existentes.
• Evaluación del rendimiento: algunos sistemas pueden utilizar indicadores que no tienen suficientemente en cuenta situaciones como los permisos de maternidad o las reducciones de jornada.
• Comunicación y contenidos: las herramientas de IA generativa también pueden reproducir estereotipos, por ejemplo, asociando determinadas profesiones o cargos de responsabilidad con hombres y otras ocupaciones con mujeres.

Estos ejemplos no significan que todas las herramientas de IA actúen de esta manera, pero sí que es necesario revisar cómo actúan y qué resultados generan. Automatizar un proceso no elimina el riesgo de discriminación.

Te puede interesar: ¿Tu Plan de Igualdad caduca en 2026? Qué hay que saber para renovarlo

¿Qué dice la normativa sobre la IA y la igualdad?

La inteligencia artificial avanza rápidamente, pero eso no significa que su uso quede al margen de las obligaciones legales. De hecho, en España ya existen normas que protegen el derecho a la igualdad y la no discriminación, también cuando se utilizan herramientas tecnológicas.

La Ley 15/2022, integral para la igualdad de trato y la no discriminación, aborda expresamente los riesgos de los sistemas automatizados. En su artículo 23, prevé que las administraciones públicas favorezcan mecanismos para reducir los sesgos discriminatorios, mejorar la transparencia y evaluar el impacto de estos sistemas.

En el ámbito laboral, el Estatuto de los Trabajadores también establece un derecho importante: la representación legal de las personas trabajadoras debe recibir información sobre los parámetros, las reglas y las instrucciones de los algoritmos que pueden influir en decisiones relacionadas con las condiciones laborales, el acceso al empleo o el mantenimiento del puesto de trabajo.

A estas normas se añade el Reglamento europeo de inteligencia artificial (AI Act), que establece diferentes obligaciones según los riesgos de los sistemas. Por ejemplo, determinadas herramientas de IA utilizadas para seleccionar candidatos, evaluar a personas trabajadoras o tomar decisiones sobre promociones profesionales se consideran sistemas de alto riesgo.

Esto implica que estarán sujetos a requisitos específicos, como medidas de supervisión humana, control de los riesgos y garantías sobre su funcionamiento. Las disposiciones específicas para estos sistemas de alto riesgo del ámbito laboral serán aplicables, con las particularidades previstas en el Reglamento, a partir del 2 de diciembre de 2027.

Por tanto, las empresas que ya utilizan IA en la gestión de personas, o que tienen previsto incorporarla, deben conocer qué obligaciones les corresponden en cada caso.

Te puede interesar: Reglamento de Inteligencia Artificial: ¿qué debe revisar tu empresa para cumplir la normativa?

¿Qué pueden hacer las empresas para prevenir los sesgos de género?

Nadie dice que debamos demonizar la IA, pero antes de incorporar una herramienta en un proceso de selección o de gestión de personal conviene tener en cuenta algunas cuestiones:

• Conocer el funcionamiento de la herramienta. No todas las soluciones de IA son iguales. Es importante saber qué datos utilizan, qué criterios siguen y qué garantías ofrece el proveedor.
• Revisar sus resultados. Si una herramienta interviene en la selección de candidatos o en las promociones internas, hay que comprobar que sus resultados no generen discriminaciones injustificadas.
• Mantener un control humano adecuado. Las recomendaciones de la IA no deben aceptarse automáticamente, especialmente cuando pueden afectar a las oportunidades laborales de una persona.
• Formar a las personas que utilizan estas herramientas. Conocer las limitaciones de la inteligencia artificial es importante para detectar posibles errores o sesgos.
• Tener en cuenta la perspectiva de género. Los riesgos asociados a estas tecnologías también deben considerarse a la hora de revisar los procesos de selección, promoción y las políticas de igualdad de la empresa.

Además, cuando estos sistemas tratan datos personales, también hay que cumplir el Reglamento General de Protección de Datos (RGPD). Su artículo 22 establece garantías específicas frente a determinadas decisiones basadas exclusivamente en tratamientos automatizados que produzcan efectos jurídicos o afecten significativamente a las personas.

Te puede interesar: Novedades en igualdad y transparencia salarial: ¿qué deben tener en cuenta las empresas?

Hasta ahora hemos hablado de los riesgos, pero la IA también tiene aplicaciones positivas en el ámbito de la igualdad. Por ejemplo, puede ayudar a analizar datos, identificar posibles desigualdades en los procesos internos o revisar documentos para detectar expresiones que reproducen estereotipos de género.

Ahora bien, para aprovechar estas posibilidades, hay que asegurarse de que las herramientas funcionan correctamente y de que los resultados que proporcionan son fiables.

La cuestión no es si las empresas deben utilizar o no inteligencia artificial, sino cómo lo hacen.

Incorporar estas tecnologías sin valorar sus posibles efectos puede generar riesgos que no siempre son evidentes. Por eso, es importante que la igualdad y la no discriminación también formen parte de los criterios que las empresas tienen en cuenta a la hora de adoptar nuevas herramientas digitales.

En ON4 asesoramos a las empresas en materia de igualdad y cumplimiento normativo, también ante los retos que plantea la incorporación de la inteligencia artificial en la gestión de personas.