O mito da AA: materia e autómata
Aisia eta Giza Potentzialean doktorea. Deustuko Unibertsitateko Euskal Gaien Institutuko ikertzaile elkartua. UEUko Komunikazio sailburua.
Texto lido no encontro Immaterial 2023 organizado por Tabakalera, Laura MM, Ekaitz Cancela Rodríguez, María D. Moreno, e a mesa redonda con Gorka Julio Furtado.
400
DISCLAIMER
Gustaríame empezar cun disclaimer: Non estou en contra das tecnoloxías de aprendizaxe profunda (Deep learning) e de aprendizaxe automática (Machine learning). Parécenme desenvolvementos moi importantes. Pero creo que estas plataformas que hoxe chamamos Intelixencia Artificial construíronse sobre unha ilusión fundacional e creo que é importante anticiparnos á fascinación para ser capaces de comprender a importancia destas tecnoloxías. Póndonos en positivo, creo que nos abren a oportunidade e a necesidade de repensar as nosas institucións culturais e epistémicas, como o texto escrito, pero non só.
Neste sentido, hoxe gustaríame facer mención a tres ideas: Hypea, Materialidad e Autómata.
HYPEA. Hypea e o mito
A Intelixencia Artificial é sen dúbida o hype da época. Mito da época. De feito, a tecnoloxía e o mito mantiveron unha estreita relación desde o principio. Lembremos que Prometeo deunos aos seres humanos o roubo da tecnoloxía para facer lume.
O mito é o relato. Relato. Relato colectivo con referencias de orixe e destino. Ten unha relación complexa e singular con Egia. Por unha banda, cósese e viste con elementos que poden ser falseados (e que foron frecuentes). Doutra banda, o mito concíbese como un indicador dunha verdade máis alta, máis alta, máis profunda que as obxectivas. Por baixo de todas as mentiras, por encima de todas as verdades, como din as bruxas de Akelarre cantaban.
Os mitos teñen unha gran relación con Deus. E nun mundo de deuses ausentes, superricos. Din que agora os biliares controlan os oráculos. O diñeiro e os deuses. E falando do diñeiro, como esquecerse das cripto-bras. En eúscaro os criptos. ChatGPTbros. Lembremos o momento Matt Damon (Fortune Favors the Brave). Nun momento de gran hype, a recomendación do actor de investir en bitcoines pode parecer desde hoxe ridículo e patético (non era, por suposto, o único personaxe coñecido que fixo esta recomendación).
Hypea non se fai só, hai que facelo. “Máis importante que o lume ou a electricidade” (Sundar Pichai), “Errobot farano todo mellor que nós” (Elon Muskiz), “É o auténtico auténtico motor que represente ás persoas” (Kai-Fu Le). … Todo é unha oportunidade, todo é unha posibilidade, todo é un instrumento que sobe a produtividade.
O mito que estamos a vender ten dúas características:
1) A Intelixencia Artificial non é só real, é inevitable.
2) Pode carrexar riscos e danos, pero non nos centremos agora niso, imos analizar as posibilidades (si non as utilizas outra persoa).
Por que esta insistencia para investir na idea e no produto? Porque Hypea crea o futuro.
Canalizamos o destino a través do mito. Neste caso, o mito da Intelixencia Artificial conta cunha longa e ampla novela, película, debuxos animados, cómics, series, etc., ZiFi. Cando Frankenstein e Skynet, Matrix e Metropolis, HAL-9000 e Ash de Alien non nos falan de “características emerxentes” espértansenos.
Medo e fascinación. Risco e promesa. Prometeo sentimos un momento moderno. E quen non quere ser Prometeo moderno? Quen se permitiría quedar fóra do proxecto do prometeo moderno? Estás preparado para non subirche ao hype-tren da AA e quedarche coa cara parvo cando TODO O MUNDO xa está a aprender a facer mellores prompt? Fear of missing out antigo renovado. Nova pel para a antiga cerimonia.
MATERIA (LIDAD). Catro apuntes de semiótica
Aínda que toda comunicación humana ten a súa materialidad, o discurso da dixital capitalista ha mostrado nas últimas décadas unha forte tradición de esquecemento da materialidad. Pensemos, por exemplo, en expresións como “realidade virtual” ou “nube” ou “metaverso”. A transcendencia dixital eterna, que se deixa atrás e abaixo, parece ser unha figura prometida. A comprimida, do mesmo xeito que a falta de sangue e cor vermella nos anuncios, é sintomática.
Pero volvamos á necesaria materialidad das tecnoloxías da comunicación e a información.
Lembrando a semiología básica: o significado non se transporta. O significado nunca se transporta. Os seres humanos non somos telepatas, polo que non podemos orientar un pensamento ou unha emoción cara á atención doutro, porque non temos a capacidade de facelo.
Ante esta incapacidade desenvolvemos as tecnoloxías da comunicación, que son as habilidades para transmitir algo diferente ao pensamento ou a emoción (ou obxecto, ou concepto, ou denalo). Ademais da Intelixencia Artificial, outras dúas letras A: Indicador e significado. Un (signo e mensaxe, significante) transmítese e recíbese, o outro (significado, significado, significación) créase na negociación entre emisores e receptores.
As tecnoloxías que empezamos a chamar Intelixencia Artificial pero non traballan co significado. Non teñen acceso ao referente ou ao significado. Non teñen nin concepto de significado. Large Language Model traballa só con indicadores, só con indicadores. As AA existen no mapa, non no territorio. Dalgunha maneira son cartógrafos que non poden pisar a Terra, que non saben que os mapas fan referencia ao territorio.
Os enxeñeiros informáticos que me acompañan dinme que isto non ten importancia. Que a máquina non ten por que entender a que se refire para que sexa útil para nós. Ademais, estamos ao principio e, por iteración, desde o adestramento ao adestramento, coa axuda dos novos pedagogos das máquinas, estamos obrigados a superar estes primeiros erros. Que non é xusto que estas revolucionarias tecnoloxías fágannos arroxar aos nosos parámetros porque funcionan noutros parámetros e non impórtanos en realidade mentres funciona.
Eu quero expor aquí o contrario, que esa fronteira entre mapa e territorio, entre indicador e significado, non se superará por iteración ou adestramento humano, porque as tecnoloxías da Intelixencia Artificial non desenvolverán o pensamento ou procesamiento simbólico cunha singularidade espontánea. Que a casa vai estar ligada ás palabras de casa e a casa, á maison e house, á casa, así como a fotografías e debuxos de casas de todo tipo, pero non á entidade habitable que asociamos a estes signos, xa que programamos máquinas para relacionar os nomes cos nomes (e verbos, adxectivos, etc.), e non para relacionarse co que el chama.
E isto lévame á idea final. Quero presentarvos ao autómata que non sabía ler pero que o lía todo:
LECTOR DE AUTÓMATAS
A sensación do movemento foi creada pola colección de tecnoloxías que hoxe chamamos cine (kinema). Pero tivo outros nomes. Taumatropo. Roda de Faraday. Fenaquisticopio. Zoótropo. Debuxos animados de Uhcatuis. Teatro óptico de Reynsund... Agora que falamos de cine dicimos cousas, pero iso necesitou unha cristalización socio-tecnolóxica relativamente longa duns cen anos.
Algo parecido ocorrerá coas tecnoloxías que seguramente estamos a chamar “Intelixencia Artificial”. Tomarán outras formas, outros nomes, outras funcións sociais. Naturalizaremos os ritos e costumes da súa contorna, crearán novos hábitos e esquecementos. Non se pode saber exactamente que formas e que nomes van tomar.
De momento, pero quero facervos unha proposta para designar estas redes de algoritmos que “len” corpus de texto enormes. Se o cinematógrafo produciu a sensación de movemento creo que estes novos chatbots producen sensación de coñecemento. Gnosigrafo? Gnoseoscopio? Epistemógrafo? Como chamar a máquinas capaces de producir resultados que dan sensación de sentido pero que non teñen sentido?
Len todo pero non leron nada. Ofrécennos respostas pero non teñen concepto de significado. Vexo dúas posibles interpretacións. Un: as máquinas len e podemos reivindicar o final da lectura (lectores que non teñen tempo para ler, espectadores que ven vídeos na canle 1,5x ou 2x e lectores de autómatas que poden ler todo pero non leron nada, ofrecendo planificacións textuais sen dimensións simbólicas). Dous: as máquinas non len e necesitaremos novos dicionarios e mitoloxías para indexar e pensar, preguntar e promptear, mentir e alucinar, para dicir e pensar mellor novas realidades relativamente novas como o glitch e a función.
No xogo de rol de Coriolis de Ciencia Ficción, baseado nos contos das mil e unhas noites, estas intelixencias artificiais reciben o nome de “Db Jinn” (xenios ou xenios das mitoloxías semíticas). Gústame porque suxire unha relación coa natureza profundamente distinta do dispositivo. Xenio ou non, sacámolos da botella e os mitogadores están a crear novos mitos sobre eles. Creo que ademais da tecnoloxía, a propiedade da tecnoloxía e os seus usos, ábrese un espazo para cultivar, cuestionar e adiviñar mitos sobre as tecnoloxías.
“A foto é verdade, e o cine é verdade 24 veces por segundo”, dixo Jean Luc Godard.
Cantas verdades por segundo di a Intelixencia Artificial?
Moitas grazas.
Zu idazle
Zientzia aldizkaria
