Intelixencia artificial e igualdade de xénero: o camiño que estamos a vulnerar

A onda de intelixencia artificial está a chegar a todo o ámbito social e, a pesar de ser un conxunto de tecnoloxías imprescindibles paira acelerar a transformación dixital, pode ser una espada dual. Estamos convencidos de que, nunha dirección adecuada, os problemas estruturais e as gretas que se atopan no centro da nosa sociedade teñen una gran potencialidade paira porlles remedio, pero, ao mesmo tempo, os riscos paira incrementar aínda máis as desigualdades e os estereotipos non son poucos, por exemplo entre mulleres e homes.

O informe publicado pola UNESCO en 2020 [1] sinala claramente os retos, as ameazas e as oportunidades en materia de intelixencia artificial e de igualdade entre mulleres e homes. En Elhuyar traballamos os dous ámbitos de traballo e desde hai anos comezamos a axuntar ambas as liñas. Aínda queda moito por facer, pero xa estamos a facer un camiño.

Minería de textos paira medir a presenza de mulleres

Neste camiño, por exemplo, utilizamos técnicas relacionadas coa minería de textos en diversos medios (Saralegi, 2019) [2], e puxemos en marcha proxectos con Observatorio, Berria e Emakunde paira cuantificar e medir a presenza das mulleres en textos publicados en medios de comunicación utilizando técnicas de intelixencia artificial. De face ao futuro, tamén queremos dar pasos paira medir a presenza cualitativa de mulleres e homes. Entre outras cousas, pretendemos traballar técnicas paira identificar os roles que se asignan a mulleres e homes, como o experto, a simple cidadanía, a autoridade ou a vítima.

No proxecto GEPSA (Ferramenta Intelixente baseada na Análise Semántico da prensa paira a Resposta aos Retos Sociais e o Deseño de Políticas Eficientes) que temos en marcha, preténdese analizar as narrativas dixitais relacionadas coa igualdade de xénero nos medios dixitais e as redes sociais, co fin de mellorar as políticas públicas.

Evitar unha linguaxe sexista

En xeral, parece que grazas á intelixencia artificial poderemos superar una serie de retos. E ademais parece sinxelo: que simple é traducir un texto automaticamente co móbil, ademais a tradución enténdese! Con este tipo de ferramentas parece que se ha reinventado a roda, pero non é así: a transformación social e tecnolóxica está a cambiar a lingua.

En poucos meses produciuse o boom do tradutor neuronal; a ferramenta que antes non queriamos utilizar converteuse na nosa ferramenta diaria de traballo, e hoxe en día desenvólvese perfectamente en eúscaro. A ferramenta é, sen dúbida, perfecta e o avance tecnolóxico foi enorme, pero non podemos esquecer que os tradutores neuronais son ferramentas apresas de xigantescas masas de texto, é dicir, que aprenden do que está nos textos escritos anteriormente.

O desenvolvemento da tecnoloxía vai rápido, non digamos da sociedade e da nosa forma de comunicar. Os tradutores neuronais teñen moitos textos de hai anos nas súas neuronas, de aí as novas traducións. Isto trae á forma de escribir de outrora aos soportes actuais, e non debe ser lingüista paira ver que xera problemas relacionados cos estereotipos de xénero e o masculino xenérico, en concreto en linguas con xénero marcado. É habitual, por exemplo, en textos relacionados coas profesións, traducir do eúscaro ao castelán, traducir médicos como homes e enfermeiras como mulleres; na maioría dos casos, informáticos e enxeñeiros tamén consideran aos tradutores como homes.

Grafo das comunidades de persoas extraídas por intelixencia artificial das noticias dun xornal. Homes en verde e mulleres en laranxa. A distancia entre nodos indica o grao de relación. Imaxe: Saralegi, X. (2019) [2].

En Elhuyar xa empezamos a analizar como influír neses textos que se crean automaticamente, por exemplo, no texto utilizado paira aprender si hai estereotipos de xénero. A clave é que nestas tecnoloxías tamén se coiden estes aspectos paira influír no idioma do futuro. A responsabilidade é compartida: temos que preparar a propia tecnoloxía paira afastarnos da desigualdade de xénero e o usuario debe estar atento á lectura crítica do texto xerado automaticamente e ás adaptacións necesarias.

Recursos lingüísticos e ferramentas de apoio á escritura

O coidado da escritura está en mans de cada un deles, polo que hai que ofrecer medios e ferramentas paira iso, e niso traballa Elhuyar durante moitos anos. A modo de exemplo, na páxina web dos dicionarios Elhuyar (https://hiztegiak.elhuyar.eus) traballouse paira evitar o léxico discriminatorio e o sexismo dos exemplos do dicionario, entre eles o relacionado con actividades profesionais ou deportivas estereotipadas. Por exemplo, modificamos o exemplo da entrada en castelán «piloto»: a piloto esperou as ordes da capitá: o piloto estivo á espera das ordes do capitán.

Na síntese da fala tamén traballamos con redes neuronais. E una das liñas importantes que estamos a traballar é escapar do esquema binario da voz. Queremos desenvolver sistemas de fala neutros paira evitar estereotipos que poidan xerar voces de mulleres e homes. Por exemplo, utilizaremos estas voces en altofalantes intelixentes e outros dispositivos que utilicen a síntese da fala. Saniye Gülser Corat, Director de Igualdade de Xénero da UNESCO, expuxo con claridade nunha entrevista [3]: “Siri e Alex non deberían ter xénero”. Paira desenvolver o altofalante intelixente en eúscaro (Mycrof.EUS) que Elhuyar ten en marcha, imos tentar utilizar voces neutras e/ou non estereotipadas.

Non son poucos os retos que temos entre mans e que debemos traballar xunto co desenvolvemento da intelixencia artificial. Neste camiño xa demos os primeiros pasos e seguiremos traballando en Elhuyar paira aproveitar a potencialidade da intelixencia artificial e conseguir una sociedade máis igualitaria.

Bibliografía