I si la intel·ligència artificial estigués aprenent a discriminar?
Ens han presentat la IA com una tecnologia sense emocions capaç de fer-nos la vida més fàcil, estalviar temps i prendre decisions basades en dades. Però hi ha un detall important: aquestes dades provenen d’una societat on la igualtat entre dones i homes encara no és una realitat.
I la IA també n’aprèn.
El resultat? Una tecnologia que pot reproduir i amplificar els mateixos prejudicis que volem deixar enrere. Des de descartar candidates en processos de selecció fins a perpetuar estereotips de gènere.
La qüestió ja no és només què pot fer la intel·ligència artificial, sinó què passa quan la deixem decidir. I les empreses hi tenim molt a dir en com podem aprofitar els avantatges de la intel·ligència artificial sense comprometre la igualtat d’oportunitats.
D’on surten els biaixos de gènere en la intel·ligència artificial?
La IA aprèn a partir de grans quantitats de dades. Però què passa si aquestes dades ja contenen desigualtats entre dones i homes?
Doncs que el sistema pot acabar reproduint-les en els seus resultats.
Pensem, per exemple, en una eina de selecció de personal entrenada amb dades de contractacions anteriors. Si històricament una empresa ha contractat més homes per ocupar determinats càrrecs, el sistema podria interpretar que aquests perfils són els més adequats i donar-los prioritat.
El problema no és que l’eina estigui programada expressament per discriminar, sinó que pot acabar reproduint patrons de desigualtat sense que l’empresa se n’adoni.
Una decisió automatitzada pot semblar objectiva simplement perquè la pren un algoritme. I no sempre és així. Els biaixos poden aparèixer en les dades utilitzades, en els criteris amb què es dissenya el sistema o en la manera d’interpretar-ne els resultats.
Com pot afectar la igualtat dins de les empreses?
Els processos de selecció de personal són un dels exemples més clars, però els biaixos de gènere també poden aparèixer en altres àmbits de la gestió empresarial.
Per exemple:
- Selecció de personal: una eina pot prioritzar uns currículums per davant d’altres a partir de patrons que no estan directament relacionats amb les competències professionals.
- Promocions internes: si un sistema analitza les trajectòries de les persones que històricament han ocupat càrrecs directius, podria afavorir perfils similars i reproduir les desigualtats existents.
- Avaluació del rendiment: alguns sistemes poden utilitzar indicadors que no tenen prou en compte situacions com els permisos de maternitat o les reduccions de jornada.
- Comunicació i continguts: les eines d’IA generativa també poden reproduir estereotips, per exemple, associant determinades professions o càrrecs de responsabilitat amb homes i altres ocupacions amb dones.
Aquests exemples no volen dir que totes les eines d’IA actuïn d’aquesta manera, però sí que cal revisar com actuen i quins resultats generen. Automatitzar un procés no elimina el risc de discriminació.
Et pot interessar: El teu Pla d’Igualtat caduca el 2026? Què cal saber per renovar-lo
Què diu la normativa sobre la IA i la igualtat?
La intel·ligència artificial avança ràpidament, però això no significa que el seu ús quedi al marge de les obligacions legals. De fet, a Espanya ja existeixen normes que protegeixen el dret a la igualtat i la no-discriminació, també quan s’utilitzen eines tecnològiques.
La Llei 15/2022, integral per a la igualtat de tracte i la no-discriminació, aborda expressament els riscos dels sistemes automatitzats. En el seu article 23, preveu que les administracions públiques afavoreixin mecanismes per reduir els biaixos discriminatoris, millorar la transparència i avaluar l’impacte d’aquests sistemes.
En l’àmbit laboral, l’Estatut dels Treballadors també estableix un dret important: la representació legal de les persones treballadores ha de rebre informació sobre els paràmetres, les regles i les instruccions dels algoritmes que poden influir en decisions relacionades amb les condicions laborals, l’accés a l’ocupació o el manteniment del lloc de treball.
A aquestes normes s’hi afegeix el Reglament europeu d’intel·ligència artificial (AI Act), que estableix diferents obligacions segons els riscos dels sistemes. Per exemple, determinades eines d’IA utilitzades per seleccionar candidats, avaluar persones treballadores o prendre decisions sobre promocions professionals es consideren sistemes d’alt risc.
Això implica que estaran subjectes a requisits específics, com ara mesures de supervisió humana, control dels riscos i garanties sobre el seu funcionament. Les disposicions específiques per a aquests sistemes d’alt risc de l’àmbit laboral seran aplicables, amb les particularitats previstes al Reglament, a partir del 2 de desembre de 2027.
Per tant, les empreses que ja utilitzen IA en la gestió de persones, o que tenen previst incorporar-la, han de conèixer quines obligacions els corresponen en cada cas.
Et pot interessar: Reglament d’Intel·ligència Artificial: què ha de revisar la teva empresa per complir la normativa?
Què poden fer les empreses per prevenir els biaixos de gènere?
Ningú diu que hàgim de demonitzar la IA, però abans d’incorporar una eina en un procés de selecció o de gestió de personal, convé tenir en compte algunes qüestions:
- Conèixer el funcionament de l’eina. No totes les solucions d’IA són iguals. És important saber quines dades utilitzen, quins criteris segueixen i quines garanties ofereix el proveïdor.
- Revisar-ne els resultats. Si una eina intervé en la selecció de candidats o en les promocions internes, cal comprovar que els seus resultats no generin discriminacions injustificades.
- Mantenir un control humà adequat. Les recomanacions de la IA no s’han d’acceptar automàticament, especialment quan poden afectar les oportunitats laborals d’una persona.
- Formar les persones que utilitzen aquestes eines. Conèixer les limitacions de la intel·ligència artificial és important per detectar possibles errors o biaixos.
- Tenir en compte la perspectiva de gènere. Els riscos associats a aquestes tecnologies també s’han de considerar a l’hora de revisar els processos de selecció, promoció i les polítiques d’igualtat de l’empresa.
A més, quan aquests sistemes tracten dades personals, també cal complir el Reglament General de Protecció de Dades (RGPD). El seu article 22 estableix garanties específiques davant determinades decisions basades exclusivament en tractaments automatitzats que produeixin efectes jurídics o afectin significativament les persones.
Et pot interessar: Novetats en igualtat i transparència salarial: què han de tenir en compte les empreses?
Fins ara hem parlat dels riscos, però la IA també té aplicacions positives en l’àmbit de la igualtat. Per exemple, pot ajudar a analitzar dades, identificar possibles desigualtats en els processos interns o revisar documents per detectar expressions que reprodueixen estereotips de gènere.
Ara bé, per aprofitar aquestes possibilitats, cal assegurar-se que les eines funcionen correctament i que els resultats que proporcionen són fiables.
La qüestió no és si les empreses han d’utilitzar o no intel·ligència artificial, sinó com ho fan.
Incorporar aquestes tecnologies sense valorar-ne els possibles efectes pot generar riscos que no sempre són evidents. Per això, és important que la igualtat i la no-discriminació també formin part dels criteris que les empreses tenen en compte a l’hora d’adoptar noves eines digitals.
A ON4 assessorem les empreses en matèria d’igualtat i compliment normatiu, també davant dels reptes que planteja la incorporació de la intel·ligència artificial en la gestió de persones.