Intel·ligència artificial i igualtat de gènere: el camí que estem vulnerant

L'ona d'intel·ligència artificial està arribant a tot l'àmbit social i, malgrat ser un conjunt de tecnologies imprescindibles per a accelerar la transformació digital, pot ser una espasa dual. Estem convençuts que, en una direcció adequada, els problemes estructurals i les esquerdes que es troben en el centre de la nostra societat tenen una gran potencialitat per a posar-los remei, però, al mateix temps, els riscos per a incrementar encara més les desigualtats i els estereotips no són pocs, per exemple entre dones i homes.

L'informe publicat per la UNESCO en 2020 [1] assenyala clarament els reptes, les amenaces i les oportunitats en matèria d'intel·ligència artificial i d'igualtat entre dones i homes. En Elhuyar treballem els dos àmbits de treball i des de fa anys comencem a conjuminar totes dues línies. Encara queda molt per fer, però ja estem fent un camí.

Mineria de textos per a mesurar la presència de dones

En aquest camí, per exemple, hem utilitzat tècniques relacionades amb la mineria de textos en diversos mitjans (Saralegi, 2019) [2], i hem posat en marxa projectes amb Observatori, Berria i Emakunde per a quantificar i mesurar la presència de les dones en textos publicats en mitjans de comunicació utilitzant tècniques d'intel·ligència artificial. De cara al futur, també volem fer passos per a mesurar la presència qualitativa de dones i homes. Entre altres coses, pretenem treballar tècniques per a identificar els rols que s'assignen a dones i homes, com l'expert, la simple ciutadania, l'autoritat o la víctima.

En el projecte GEPSA (Eina Intel·ligent basada en l'Anàlisi Semàntica de la premsa per a la Resposta als Reptes Socials i el Disseny de Polítiques Eficients) que tenim en marxa, es pretén analitzar les narratives digitals relacionades amb la igualtat de gènere en els mitjans digitals i les xarxes socials, amb la finalitat de millorar les polítiques públiques.

Evitar un llenguatge sexista

En general, sembla que gràcies a la intel·ligència artificial podrem superar una sèrie de reptes. I a més sembla senzill: que simple és traduir un text automàticament amb el mòbil, a més la traducció s'entén! Amb aquesta mena d'eines sembla que s'ha reinventat la roda, però no és així: la transformació social i tecnològica està canviant la llengua.

En pocs mesos s'ha produït el boom del traductor neuronal; l'eina que abans no volíem utilitzar s'ha convertit en la nostra eina diària de treball, i avui dia es desembolica perfectament en basc. L'eina és, sens dubte, perfecta i l'avanç tecnològic ha estat enorme, però no podem oblidar que els traductors neuronals són eines apreses de gegantesques masses de text, és a dir, que aprenen del que està en els textos escrits anteriorment.

El desenvolupament de la tecnologia va ràpid, no diguem de la societat i de la nostra manera de comunicar. Els traductors neuronals tenen molts textos de fa anys en les seves neurones, d'aquí les noves traduccions. Això porta a la manera d'escriure d'antany als suports actuals, i no ha de ser lingüista per a veure que genera problemes relacionats amb els estereotips de gènere i el masculí genèric, en concret en llengües amb gènere marcat. És habitual, per exemple, en textos relacionats amb les professions, traduir del basc al castellà, traduir metges com a homes i infermeres com a dones; en la majoria dels casos, informàtics i enginyers també consideren als traductors com a homes.

Graf de les comunitats de persones extretes per intel·ligència artificial de les notícies d'un periòdic. Homes en verd i dones en taronja. La distància entre nodes indica el grau de relació. Imatge: Saralegi, X. (2019) [2].

En Elhuyar ja hem començat a analitzar com influir en aquests textos que es creen automàticament, per exemple, en el text utilitzat per a aprendre si hi ha estereotips de gènere. La clau és que en aquestes tecnologies també es cuidin aquests aspectes per a influir en l'idioma del futur. La responsabilitat és compartida: hem de preparar la pròpia tecnologia per a allunyar-nos de la desigualtat de gènere i l'usuari ha d'estar atent a la lectura crítica del text generat automàticament i a les adaptacions necessàries.

Recursos lingüístics i eines de suport a l'escriptura

La cura de l'escriptura està en mans de cadascun d'ells, per la qual cosa cal oferir mitjans i eines per a això, i en això treballa Elhuyar durant molts anys. A tall d'exemple, en la pàgina web dels diccionaris Elhuyar (https://hiztegiak.elhuyar.eus) s'ha treballat per a evitar el lèxic discriminatori i el sexisme dels exemples del diccionari, entre ells el relacionat amb activitats professionals o esportives estereotipades. Per exemple, hem modificat l'exemple de l'entrada en castellà «pilot»: la pilot va esperar les ordres de la capitana: el pilot va estar a l'espera de les ordres del capità.

Amb el corrector ortogràfic i gramatical Xuxen (https://xuxen.eus) hem fet un treball similar, detectant professions estereotipades i estructures inadequades des del punt de vista del gènere, i proposant alternatives. Per exemple, si utilitzem la paraula «legislador», l'última versió de Xuxen ens indicarà que pot resultar inadequada, ja que si parlem d'un jurista masculí pot ser apropiat, però si no, es prefereix utilitzar la paraula «jurista».

Seguint amb els recursos que oferim a la societat, es troba el recentment publicat Diccionari Feminisme i Igualtat, projecte en el qual Elhuyar ha participat, entre altres coses, amb l'objectiu de promoure la igualtat entre dones i homes i unificar la terminologia en aquest àmbit.

El camí que hem començat a fer en les tecnologies de la parla: veus neutres

En la síntesi de la parla també treballem amb xarxes neuronals. I una de les línies importants que estem treballant és escapar de l'esquema binari de la veu. Volem desenvolupar sistemes de parla neutres per a evitar estereotips que puguin generar veus de dones i homes. Per exemple, utilitzarem aquestes veus en altaveus intel·ligents i altres dispositius que utilitzin la síntesi de la parla. Saniye Gülser Corat, Director d'Igualtat de Gènere de la UNESCO, va exposar amb claredat en una entrevista [3]: “Siri i Alex no haurien de tenir gènere”. Per a desenvolupar l'altaveu intel·ligent en basc (Mycrof.EUS) que Elhuyar té en marxa , intentarem utilitzar veus neutres i/o no estereotipades.

No són pocs els reptes que tenim entre mans i que hem de treballar juntament amb el desenvolupament de la intel·ligència artificial. En aquest camí ja hem fet els primers passos i continuarem treballant en Elhuyar per a aprofitar la potencialitat de la intel·ligència artificial i aconseguir una societat més igualitària.

Bibliografia