El mite de l'AA: matèria i autòmat
Aisia eta Giza Potentzialean doktorea. Deustuko Unibertsitateko Euskal Gaien Institutuko ikertzaile elkartua. UEUko Komunikazio sailburua.
Text llegit en la trobada Immaterial 2023 organitzat per Tabakalera, Laura MM, Ekaitz Cancel·la Rodríguez, María D. Moreno, i la taula rodona amb Gorka Julio Hurtado.
400
DISCLAIMER
M'agradaria començar amb un disclaimer: No estic en contra de les tecnologies d'aprenentatge profund (Deep learning) i d'aprenentatge automàtic (Machine learning). Em semblen desenvolupaments molt importants. Però crec que aquestes plataformes que avui diem Intel·ligència Artificial s'han construït sobre una il·lusió fundacional i crec que és important anticipar-nos a la fascinació per a ser capaces de comprendre la importància d'aquestes tecnologies. Posant-nos en positiu, crec que ens obren l'oportunitat i la necessitat de repensar les nostres institucions culturals i epistèmiques, com el text escrit, però no sols.
En aquest sentit, avui m'agradaria fer esment a tres idees: Hypea, Materialitat i Autòmat.
HYPEA. Hypea i el mite
La Intel·ligència Artificial és sens dubte l'hype de l'època. Mite de l'època. De fet, la tecnologia i el mite han mantingut una estreta relació des del principi. Recordem que Prometeu ens va donar als éssers humans el robatori de la tecnologia per a fer foc.
El mite és el relat. Relat. Relat col·lectiu amb referències d'origen i destinació. Té una relació complexa i singular amb Egia. D'una banda, es cus i vesteix amb elements que poden ser falsejats (i que han estat freqüents). D'altra banda, el mite es concep com un indicador d'una veritat més alta, més alta, més profunda que les objectives. Per sota de totes les mentides, per sobre de totes les veritats, com diuen les bruixes d'Akelarre cantaven.
Els mites tenen una gran relació amb Déu. I en un món de déus absents, superricos. Diuen que ara els biliars controlen els oracles. Els diners i els déus. I parlant dels diners, com oblidar-se de les cripto-bras. En basc els criptos. ChatGPTbros. Recordem el moment Matt Damon (Fortune Favors the Brave). En un moment de gran hype, la recomanació de l'actor d'invertir en bitcoines pot semblar des d'avui ridícul i patètic (no era, per descomptat, l'únic personatge conegut que va fer aquesta recomanació).
Hypea no es fa només, cal fer-ho. “Més important que el foc o l'electricitat” (Sundar Pichai), “Errobot ho faran tot millor que nosaltres” (Elon Muskiz), “És l'autèntic autèntic motor que representi a les persones” (Kai-Fu Lee). … Tot és una oportunitat, tot és una possibilitat, tot és un instrument que puja la productivitat.
El mite que estem venent té dues característiques:
1) La Intel·ligència Artificial no és només real, és inevitable.
2) Pot implicar riscos i danys, però no ens centrem ara en això, analitzarem les possibilitats (si no les utilitzes una altra persona).
Per què aquesta insistència per a invertir en la idea i en el producte? Perquè Hypea crea el futur.
Canalitzem el destí a través del mite. En aquest cas, el mite de la Intel·ligència Artificial compta amb una llarga i àmplia novel·la, pel·lícula, dibuixos animats, còmics, sèries, etc., ZiFi. Quan Frankenstein i Skynet, Matrix i Metropolis, HAL-9000 i Ash d'Àlien no ens parlen de “característiques emergents” se'ns desperten.
Por i fascinació. Risc i promesa. Prometeu ens sentim un moment modern. I qui no vol ser Prometeu modern? Qui es permetria quedar fora del projecte del prometeo modern? Estàs preparat per a no pujar-te a l'hype-tren de l'AA i quedar-te amb la cara ximple quan TOTHOM ja està aprenent a fer millors prompt? Fear of missing out antic renovat. Nova pell per a l'antiga cerimònia.
MATÈRIA (LIDAD). Quatre anotacions de semiòtica
Si bé tota comunicació humana té la seva materialitat, el discurs de la digital capitalista ha mostrat en les últimes dècades una forta tradició d'oblit de la materialitat. Pensem, per exemple, en expressions com a “realitat virtual” o “núvol” o “metaverso”. La transcendència digital eterna, que es deixa enrere i a baix, sembla ser una figura promesa. La compresa, igual que la falta de sang i color vermell en els anuncis, és simptomàtica.
Però tornem a la necessària materialitat de les tecnologies de la comunicació i la informació.
Recordant la semiologia bàsica: el significat no es transporta. El significat mai es transporta. Els éssers humans no som telepatas, per la qual cosa no podem orientar un pensament o una emoció cap a l'atenció d'un altre, perquè no tenim la capacitat de fer-ho.
Davant aquesta incapacitat hem desenvolupat les tecnologies de la comunicació, que són les habilitats per a transmetre alguna cosa diferent del pensament o l'emoció (o objecte, o concepte, o denalo). A més de la Intel·ligència Artificial, altres dues lletres A: Indicador i significat. Un (signe i missatge, significant) es transmet i es rep, l'altre (significat, significat, significació) es crea en la negociació entre emissors i receptors.
Les tecnologies que hem començat a dir Intel·ligència Artificial però no treballen amb el significat. No tenen accés al referent o al significat. No tenen ni concepte de significat. Large Language Model treballa només amb indicadors, només amb indicadors. Les AA existeixen en el mapa, no en el territori. D'alguna manera són cartògrafs que no poden trepitjar la Terra, que no saben que els mapes fan referència al territori.
Els enginyers informàtics que m'acompanyen em diuen que això no té importància. Que la màquina no té per què entendre a què es refereix perquè sigui útil per a nosaltres. A més, estem al principi i, per iteració, des de l'entrenament a l'entrenament, amb l'ajuda dels nous pedagogs de les màquines, estem obligats a superar aquests primers errors. Que no és just que aquestes revolucionàries tecnologies ens facin llançar als nostres paràmetres perquè funcionen en altres paràmetres i no ens importa en realitat mentre funciona.
Jo vull plantejar aquí el contrari, que aquesta frontera entre mapa i territori, entre indicador i significat, no se superarà per iteració o entrenament humà, perquè les tecnologies de la Intel·ligència Artificial no desenvoluparan el pensament o processament simbòlic amb una singularitat espontània. Que la casa estarà lligada a les paraules de casa i a casa, a la maison i house, a la casa, així com a fotografies i dibuixos de cases de tota mena, però no a l'entitat habitable que associem a aquests signes, ja que hem programat màquines per a relacionar els noms amb els noms (i verbs, adjectius, etc.), i no per a relacionar-se amb el que ell crida.
I això em porta a la idea final. Vull presentar-vos a l'autòmat que no sabia llegir però que ho llegia tot:
LECTOR D'AUTÒMATS
La sensació del moviment va ser creada per la col·lecció de tecnologies que avui diem cinema (kinema). Però ha tingut altres noms. Taumatropo. Roda de Faraday. Fenaquisticopio. Zoótropo. Dibuixos animats d'Uhcatuis. Teatre òptic de Reynsund... Ara que parlem de cinema diem coses, però això ha necessitat una cristal·lització soci-tecnològica relativament llarga d'uns cent anys.
Alguna cosa semblança ocorrerà amb les tecnologies que segurament estem dient “Intel·ligència Artificial”. Prendran altres formes, altres noms, altres funcions socials. Naturalitzarem els ritus i costums del seu entorn, crearan nous hàbits i oblits. No es pot saber exactament quines formes i quins noms prendran.
De moment, però vull fer-vos una proposta per a designar aquestes xarxes d'algorismes que “llegeixen” corpus de text enormes. Si el cinematògraf va produir la sensació de moviment crec que aquests nous bots produeixen sensació de coneixement. Gnosigrafo? Gnoseoscopio? Epistemógrafo? Com anomenar a màquines capaces de produir resultats que donen sensació de sentit però que no tenen sentit?
Llegeixen tot però no han llegit res. Ens ofereixen respostes però no tenen concepte de significat. Veig dues possibles interpretacions. U: les màquines llegeixen i podem reivindicar el final de la lectura (lectors que no tenen temps per a llegir, espectadors que veuen vídeos en el canal 1,5x o 2x i lectors d'autòmats que poden llegir tot però no han llegit res, oferint planificacions textuals sense dimensions simbòliques). Dos: les màquines no llegeixen i necessitarem nous diccionaris i mitologies per a indexar i pensar, preguntar i promptear, mentir i al·lucinar, per a dir i pensar millor noves realitats relativament noves com el glitch i la funció.
En el joc de rol de Coriolis de Ciència-ficció, basat en els contes de les mil i una nits, aquestes intel·ligències artificials reben el nom de “Db Jinn” (genis o genis de les mitologies semíticas). M'agrada perquè suggereix una relació amb la naturalesa profundament diferent del dispositiu. Geni o no, els hem tret de l'ampolla i els mitogadores estan creant nous mites sobre ells. Crec que a més de la tecnologia, la propietat de la tecnologia i els seus usos, s'obre un espai per a conrear, qüestionar i endevinar mites sobre les tecnologies.
“La foto és veritat, i el cinema és veritat 24 vegades per segon”, va dir Jean Luc Godard.
Quantes veritats per segon diu la Intel·ligència Artificial?
Moltes gràcies.
Zu idazle
Zientzia aldizkaria
