Inteligencia artificial e igualdad de género: el camino que estamos vulnerando

Aztiria Urtaran, Josu

Adimen Artifiziala Hizkuntzan Unitateko koordinatzailea Elhuyar Fundazioa

Cortes Etxabe, Itziar

Hizkuntza eta Teknologia Unitateko koordinatzailea Elhuyar Fundazioa

adimen-artifiziala-eta-genero-berdintasuna-urratze
Talaios, Skura y Elhuyar colaboran en el desarrollo de un altavoz inteligente. Se trata de dar una voz neutra al altavoz para evitar estereotipos que puedan generar voces de mujeres y hombres.

La ola de inteligencia artificial está llegando a todo el ámbito social y, a pesar de ser un conjunto de tecnologías imprescindibles para acelerar la transformación digital, puede ser una espada dual. Estamos convencidos de que, en una dirección adecuada, los problemas estructurales y las grietas que se encuentran en el centro de nuestra sociedad tienen una gran potencialidad para ponerles remedio, pero, al mismo tiempo, los riesgos para incrementar aún más las desigualdades y los estereotipos no son pocos, por ejemplo entre mujeres y hombres.

El informe publicado por la UNESCO en 2020 [1] señala claramente los retos, las amenazas y las oportunidades en materia de inteligencia artificial y de igualdad entre mujeres y hombres. En Elhuyar trabajamos los dos ámbitos de trabajo y desde hace años comenzamos a aunar ambas líneas. Todavía queda mucho por hacer, pero ya estamos haciendo un camino.

Minería de textos para medir la presencia de mujeres

En este camino, por ejemplo, hemos utilizado técnicas relacionadas con la minería de textos en diversos medios (Saralegi, 2019) [2], y hemos puesto en marcha proyectos con Observatorio, Berria y Emakunde para cuantificar y medir la presencia de las mujeres en textos publicados en medios de comunicación utilizando técnicas de inteligencia artificial. De cara al futuro, también queremos dar pasos para medir la presencia cualitativa de mujeres y hombres. Entre otras cosas, pretendemos trabajar técnicas para identificar los roles que se asignan a mujeres y hombres, como el experto, la simple ciudadanía, la autoridad o la víctima.

En el proyecto GEPSA (Herramienta Inteligente basada en el Análisis Semántico de la prensa para la Respuesta a los Retos Sociales y el Diseño de Políticas Eficientes) que tenemos en marcha, se pretende analizar las narrativas digitales relacionadas con la igualdad de género en los medios digitales y las redes sociales, con el fin de mejorar las políticas públicas.

Evitar un lenguaje sexista

En general, parece que gracias a la inteligencia artificial podremos superar una serie de retos. Y además parece sencillo: ¡qué simple es traducir un texto automáticamente con el móvil, además la traducción se entiende! Con este tipo de herramientas parece que se ha reinventado la rueda, pero no es así: la transformación social y tecnológica está cambiando la lengua.

En pocos meses se ha producido el boom del traductor neuronal; la herramienta que antes no queríamos utilizar se ha convertido en nuestra herramienta diaria de trabajo, y hoy en día se desenvuelve perfectamente en euskera. La herramienta es, sin duda, perfecta y el avance tecnológico ha sido enorme, pero no podemos olvidar que los traductores neuronales son herramientas aprendidas de gigantescas masas de texto, es decir, que aprenden de lo que está en los textos escritos anteriormente.

El desarrollo de la tecnología va rápido, no digamos de la sociedad y de nuestra forma de comunicar. Los traductores neuronales tienen muchos textos de hace años en sus neuronas, de ahí las nuevas traducciones. Esto trae a la forma de escribir de antaño a los soportes actuales, y no debe ser lingüista para ver que genera problemas relacionados con los estereotipos de género y el masculino genérico, en concreto en lenguas con género marcado. Es habitual, por ejemplo, en textos relacionados con las profesiones, traducir del euskera al castellano, traducir médicos como hombres y enfermeras como mujeres; en la mayoría de los casos, informáticos e ingenieros también consideran a los traductores como hombres.

Grafo de las comunidades de personas extraídas por inteligencia artificial de las noticias de un periódico. Hombres en verde y mujeres en naranja. La distancia entre nodos indica el grado de relación. Imagen: Saralegi, X. (2019) [2].

En Elhuyar ya hemos empezado a analizar cómo influir en esos textos que se crean automáticamente, por ejemplo, en el texto utilizado para aprender si hay estereotipos de género. La clave es que en estas tecnologías también se cuiden estos aspectos para influir en el idioma del futuro. La responsabilidad es compartida: tenemos que preparar la propia tecnología para alejarnos de la desigualdad de género y el usuario debe estar atento a la lectura crítica del texto generado automáticamente y a las adaptaciones necesarias.

Recursos lingüísticos y herramientas de apoyo a la escritura

El cuidado de la escritura está en manos de cada uno de ellos, por lo que hay que ofrecer medios y herramientas para ello, y en ello trabaja Elhuyar durante muchos años. A modo de ejemplo, en la página web de los diccionarios Elhuyar (https://hiztegiak.elhuyar.eus) se ha trabajado para evitar el léxico discriminatorio y el sexismo de los ejemplos del diccionario, entre ellos el relacionado con actividades profesionales o deportivas estereotipadas. Por ejemplo, hemos modificado el ejemplo de la entrada en castellano «piloto»: la piloto esperó las órdenes de la capitana: el piloto estuvo a la espera de las órdenes del capitán.

Con el corrector ortográfico y gramatical Xuxen (https://xuxen.eus) hemos hecho un trabajo similar, detectando profesiones estereotipadas y estructuras inadecuadas desde el punto de vista del género, y proponiendo alternativas. Por ejemplo, si utilizamos la palabra «legislador», la última versión de Xuxen nos indicará que puede resultar inadecuada, ya que si hablamos de un jurista masculino puede ser apropiado, pero si no, se prefiere utilizar la palabra «jurista».

Siguiendo con los recursos que ofrecemos a la sociedad, se encuentra el recientemente publicado Diccionario Feminismo e Igualdad, proyecto en el que Elhuyar ha participado, entre otras cosas, con el objetivo de promover la igualdad entre mujeres y hombres y unificar la terminología en este ámbito.

El camino que hemos empezado a hacer en las tecnologías del habla: voces neutras

En la síntesis del habla también trabajamos con redes neuronales. Y una de las líneas importantes que estamos trabajando es escapar del esquema binario de la voz. Queremos desarrollar sistemas de habla neutros para evitar estereotipos que puedan generar voces de mujeres y hombres. Por ejemplo, utilizaremos estas voces en altavoces inteligentes y otros dispositivos que utilicen la síntesis del habla. Saniye Gülser Corat, Director de Igualdad de Género de la UNESCO, expuso con claridad en una entrevista [3]: “Siri y Alex no deberían tener género”. Para desarrollar el altavoz inteligente en euskera (Mycrof.EUS) que Elhuyar tiene en marcha, vamos a intentar utilizar voces neutras y/o no estereotipadas.

No son pocos los retos que tenemos entre manos y que debemos trabajar junto con el desarrollo de la inteligencia artificial. En este camino ya hemos dado los primeros pasos y seguiremos trabajando en Elhuyar para aprovechar la potencialidad de la inteligencia artificial y conseguir una sociedad más igualitaria.

Bibliografía

[1] UNESCO, (2020). Artificial intelligence and gender equality: key findings of UNESCO’s Global Dialogue. https://unesdoc.unesco.org/ark:/48223/pf0000374174
[2] Saralegi, X. (2019): “Cuantificando la presencia de las mujeres en la prensa digital del País Vasco a través de la minería de textos”, Anuario de los Medios de Comunicación Vascos 2018, pp. 95-108. <http://behategia.eus/wp-content/uploads/2019/05/urtekaria2018web.pdf> <http://behategia.eus/wp-content/uploads/2019/05/urtekaria2018web.pdf>
[3] https://retina.elpais.com/retina/2020/01/26/talento/1580064193_681637.html

Gehitu iruzkin bat

Saioa hasi iruzkinak uzteko.

Babesleak
Eusko Jaurlaritzako Industria, Merkataritza eta Turismo Saila
MAIER Koop. Elk.
KIDE Koop. Elk.
ULMA Koop. Elk.
EIKA Koop. Elk.
LAGUN ARO Koop. Elk.
FAGOR ELECTRÓNICA Koop. Elk.