El mito de la AA: materia y autómata
Aisia eta Giza Potentzialean doktorea. Deustuko Unibertsitateko Euskal Gaien Institutuko ikertzaile elkartua. UEUko Komunikazio sailburua.
Texto leído en el encuentro Immaterial 2023 organizado por Tabakalera, Laura MM, Ekaitz Cancela Rodríguez, María D. Moreno, y la mesa redonda con Gorka Julio Hurtado.
400
DISCLAIMER
Me gustaría empezar con un disclaimer: No estoy en contra de las tecnologías de aprendizaje profundo (Deep learning) y de aprendizaje automático (Machine learning). Me parecen desarrollos muy importantes. Pero creo que estas plataformas que hoy llamamos Inteligencia Artificial se han construido sobre una ilusión fundacional y creo que es importante anticiparnos a la fascinación para ser capaces de comprender la importancia de estas tecnologías. Poniéndonos en positivo, creo que nos abren la oportunidad y la necesidad de repensar nuestras instituciones culturales y epistémicas, como el texto escrito, pero no sólo.
En este sentido, hoy me gustaría hacer mención a tres ideas: Hypea, Materialidad y Autómata.
HYPEA. Hypea y el mito
La Inteligencia Artificial es sin duda el hype de la época. Mito de la época. De hecho, la tecnología y el mito han mantenido una estrecha relación desde el principio. Recordemos que Prometeo nos dio a los seres humanos el robo de la tecnología para hacer fuego.
El mito es el relato. Relato. Relato colectivo con referencias de origen y destino. Tiene una relación compleja y singular con Egia. Por un lado, se cose y viste con elementos que pueden ser falseados (y que han sido frecuentes). Por otro lado, el mito se concibe como un indicador de una verdad más alta, más alta, más profunda que las objetivas. Por debajo de todas las mentiras, por encima de todas las verdades, como dicen las brujas de Akelarre cantaban.
Los mitos tienen una gran relación con Dios. Y en un mundo de dioses ausentes, superricos. Dicen que ahora los biliares controlan los oráculos. El dinero y los dioses. Y hablando del dinero, cómo olvidarse de las cripto-bras. En euskera los criptos. ChatGPTbros. Recordemos el momento Matt Damon (Fortune Favors the Brave). En un momento de gran hype, la recomendación del actor de invertir en bitcoines puede parecer desde hoy ridículo y patético (no era, por supuesto, el único personaje conocido que hizo esta recomendación).
Hypea no se hace solo, hay que hacerlo. “Más importante que el fuego o la electricidad” (Sundar Pichai), “Errobot lo harán todo mejor que nosotros” (Elon Muskiz), “Es el auténtico auténtico motor que represente a las personas” (Kai-Fu Lee). … Todo es una oportunidad, todo es una posibilidad, todo es un instrumento que sube la productividad.
El mito que estamos vendiendo tiene dos características:
1) La Inteligencia Artificial no es sólo real, es inevitable.
2) Puede acarrear riesgos y daños, pero no nos centremos ahora en ello, vamos a analizar las posibilidades (si no las utilizas otra persona).
¿Por qué esta insistencia para invertir en la idea y en el producto? Porque Hypea crea el futuro.
Encauzamos el destino a través del mito. En este caso, el mito de la Inteligencia Artificial cuenta con una larga y amplia novela, película, dibujos animados, cómics, series, etc., ZiFi. Cuando Frankenstein y Skynet, Matrix y Metropolis, HAL-9000 y Ash de Alien no nos hablan de “características emergentes” se nos despiertan.
Miedo y fascinación. Riesgo y promesa. Prometeo nos sentimos un momento moderno. ¿Y quién no quiere ser Prometeo moderno? ¿Quién se permitiría quedar fuera del proyecto del prometeo moderno? ¿Estás preparado para no subirte al hype-tren de la AA y quedarte con la cara tonto cuando TODO EL MUNDO ya está aprendiendo a hacer mejores prompt? Fear of missing out antiguo renovado. Nueva piel para la antigua ceremonia.
MATERIA (LIDAD). Cuatro apuntes de semiótica
Si bien toda comunicación humana tiene su materialidad, el discurso de la digital capitalista ha mostrado en las últimas décadas una fuerte tradición de olvido de la materialidad. Pensemos, por ejemplo, en expresiones como “realidad virtual” o “nube” o “metaverso”. La transcendencia digital eterna, que se deja atrás y abajo, parece ser una figura prometida. La compresa, al igual que la falta de sangre y color rojo en los anuncios, es sintomática.
Pero volvamos a la necesaria materialidad de las tecnologías de la comunicación y la información.
Recordando la semiología básica: el significado no se transporta. El significado nunca se transporta. Los seres humanos no somos telepatas, por lo que no podemos orientar un pensamiento o una emoción hacia la atención de otro, porque no tenemos la capacidad de hacerlo.
Ante esta incapacidad hemos desarrollado las tecnologías de la comunicación, que son las habilidades para transmitir algo diferente al pensamiento o la emoción (u objeto, o concepto, o denalo). Además de la Inteligencia Artificial, otras dos letras A: Indicador y significado. Uno (signo y mensaje, significante) se transmite y se recibe, el otro (significado, significado, significación) se crea en la negociación entre emisores y receptores.
Las tecnologías que hemos empezado a llamar Inteligencia Artificial pero no trabajan con el significado. No tienen acceso al referente o al significado. No tienen ni concepto de significado. Large Language Model trabaja sólo con indicadores, sólo con indicadores. Las AA existen en el mapa, no en el territorio. De alguna manera son cartógrafos que no pueden pisar la Tierra, que no saben que los mapas hacen referencia al territorio.
Los ingenieros informáticos que me acompañan me dicen que esto no tiene importancia. Que la máquina no tiene por qué entender a qué se refiere para que sea útil para nosotros. Además, estamos al principio y, por iteración, desde el entrenamiento al entrenamiento, con la ayuda de los nuevos pedagogos de las máquinas, estamos obligados a superar estos primeros errores. Que no es justo que estas revolucionarias tecnologías nos hagan arrojar a nuestros parámetros porque funcionan en otros parámetros y no nos importa en realidad mientras funciona.
Yo quiero plantear aquí lo contrario, que esa frontera entre mapa y territorio, entre indicador y significado, no se superará por iteración o entrenamiento humano, porque las tecnologías de la Inteligencia Artificial no desarrollarán el pensamiento o procesamiento simbólico con una singularidad espontánea. Que la casa va a estar ligada a las palabras de casa y a casa, a la maison y house, a la casa, así como a fotografías y dibujos de casas de todo tipo, pero no a la entidad habitable que asociamos a estos signos, ya que hemos programado máquinas para relacionar los nombres con los nombres (y verbos, adjetivos, etc.), y no para relacionarse con lo que él llama.
Y esto me lleva a la idea final. Quiero presentaros al autómata que no sabía leer pero que lo leía todo:
LECTOR DE AUTÓMATAS
La sensación del movimiento fue creada por la colección de tecnologías que hoy llamamos cine (kinema). Pero ha tenido otros nombres. Taumatropo. Rueda de Faraday. Fenaquisticopio. Zoótropo. Dibujos animados de Uhcatuis. Teatro óptico de Reynsund... Ahora que hablamos de cine decimos cosas, pero eso ha necesitado una cristalización socio-tecnológica relativamente larga de unos cien años.
Algo parecido ocurrirá con las tecnologías que seguramente estamos llamando “Inteligencia Artificial”. Tomarán otras formas, otros nombres, otras funciones sociales. Naturalizaremos los ritos y costumbres de su entorno, crearán nuevos hábitos y olvidos. No se puede saber exactamente qué formas y qué nombres van a tomar.
De momento, pero quiero haceros una propuesta para designar estas redes de algoritmos que “leen” corpus de texto enormes. Si el cinematógrafo produjo la sensación de movimiento creo que estos nuevos chatbots producen sensación de conocimiento. ¿Gnosigrafo? ¿Gnoseoscopio? ¿Epistemógrafo? ¿Cómo llamar a máquinas capaces de producir resultados que dan sensación de sentido pero que no tienen sentido?
Leen todo pero no han leído nada. Nos ofrecen respuestas pero no tienen concepto de significado. Veo dos posibles interpretaciones. Uno: las máquinas leen y podemos reivindicar el final de la lectura (lectores que no tienen tiempo para leer, espectadores que ven videos en el canal 1,5x o 2x y lectores de autómatas que pueden leer todo pero no han leído nada, ofreciendo planificaciones textuales sin dimensiones simbólicas). Dos: las máquinas no leen y necesitaremos nuevos diccionarios y mitologías para indexar y pensar, preguntar y promptear, mentir y alucinar, para decir y pensar mejor nuevas realidades relativamente nuevas como el glitch y la función.
En el juego de rol de Coriolis de Ciencia Ficción, basado en los cuentos de las mil y una noches, estas inteligencias artificiales reciben el nombre de “Db Jinn” (genios o genios de las mitologías semíticas). Me gusta porque sugiere una relación con la naturaleza profundamente distinta del dispositivo. Genio o no, los hemos sacado de la botella y los mitogadores están creando nuevos mitos sobre ellos. Creo que además de la tecnología, la propiedad de la tecnología y sus usos, se abre un espacio para cultivar, cuestionar y adivinar mitos sobre las tecnologías.
“La foto es verdad, y el cine es verdad 24 veces por segundo”, dijo Jean Luc Godard.
¿Cuántas verdades por segundo dice la Inteligencia Artificial?
Muchas gracias.
Zu idazle
Zientzia aldizkaria
