Menú d'algorismes
El que ve de fa temps és utilitzar un algorisme per a decidir els resultats que un servei de la web ha de mostrar als usuaris. Google va utilitzar des del seu origen el conegut algorisme PageRank per a ordenar els seus resultats, basant-se en la importància assignada a cada web. Aquest algorisme va ser el que va caracteritzar a Google d'altres cercadors i el va portar a ser tot en l'actualitat. En el cas d'un cercador és necessari utilitzar un bon algorisme d'ordenació de resultats, ja que per a l'usuari seria una bogeria comprovar milers de resultats fins a trobar el més adequat.
Però també té les seves males coses. D'una banda, no podem assegurar que no hi hagi resultats realment interessants ocults darrere de darrere. D'altra banda, els resultats que es mostren més amunt són els més llegits, sent un dels factors perquè apareguin en les pròximes cerques, la qual cosa dificulta enormement l'ascens a resultats posteriors o a nous continguts.
Després, Google va començar a oferir resultats personalitzats a cada usuari. Per a això té en compte les nostres cerques anteriors, els resultats en els quals hem clicat, etc. però també la informació dels usuaris de la nostra xarxa social. Això també té dos desavantatges principals. Una, la falta de privacitat, Google guarda molta informació sobre nosaltres per a poder oferir aquests resultats personalitzats. L'altre, que sempre estigui rebent informació d'un entorn o tipus, és a dir, que visquem envoltats d'una bombolla feliç definida per nosaltres i el nostre entorn, sense saber què hi ha fora, enfortint les nostres opinions i afeblint el pensament crític. La preocupació per aquest tema és cada vegada major i prova d'això és l'èxit relatiu que està tenint el cercador de Duck, ja que el respecte a la privacitat i l'exposició dels mateixos resultats a tots els usuaris són les seves principals reivindicacions.
Fi de la línia de temps
Facebook, Twitter i Instagram, en origen, ens mostraven cronològicament les actualitzacions dels nostres contactes, els tuits i les fotos en l'anomenat timeline o línia de temps. Però Facebook fa uns anys, Twitter al febrer d'enguany i Instagram al març d'enguany ho han modificat i ara es mostren en la part superior els que, segons un algorisme, ens semblen més interessants per a nosaltres. És possible que es doni un millor servei, però també té els efectes negatius abans esmentats: el de la feliç bombolla, el fet que els autors i continguts populars siguin cada vegada més populars i els marginats cada vegada més marginats. Han rebut més protestes, la veritat és que som més fàcils d'acceptar que els milers de resultats de la font anònima dels cercadors siguin filtrats per una altra persona que decideixi sobre una llista no tan llarga dels nostres amics.
I bo, si els algorismes només decideixin la nostra lectura o cerca d'oci, mig malament. Però també en els processos crítics de la nostra vida s'utilitzen cada vegada més processos automàtics guiats per algorismes. Cada vegada hi ha menys emprats en els bancs, i els algorismes ja decideixen a qui donar crèdits i a qui no. Gràcies a les targetes de crèdit, els algorismes poden basar-se en tot el nostre historial de despeses, però també la nostra activitat en xarxes socials, les nostres relacions… Al mateix temps, l'algorisme d'ordenació de LinkedIn determina si nosaltres som adequats o no per a un lloc de treball.
I per a espiar-nos, Snowden ens va donar a conèixer que els governs espien tota la nostra activitat online, però és impossible que tota aquesta informació que perceben sigui tractada per l'ésser humà, els algorismes estudien i decideixen quin és el nostre índex de risc. Què voleu dir, a mi em fa sentir-me molt incòmode saber que un algorisme decideix si sóc terrorista, o sóc digne de crèdit, o adequat per al treball… I aquesta por es converteix en una eina de control social que ens empeny a censurar l'activitat en la nostra xarxa.
La principal preocupació que ens susciten aquests algorismes és que no sapiguem quina és la seva base darrere i que les empreses que els utilitzen tinguem massa poders en nosaltres. Per a mi hi ha una altra cosa més preocupant. Fins ara, almenys en la majoria dels casos, els algorismes són creats per éssers humans, és a dir, algú decideix quins factors té en compte l'algorisme i quin pes donar a cadascun d'ells. I també es poden canviar aquests pesos, introduir nous factors… Quan sembla que l'algorisme s'ha equivocat en una determinada decisió, es pot analitzar per què ha estat i per què ha canviat la decisió o, si moltes vegades s'equivoca, canviar l'algorisme. Però en l'anterior número de la revista, l'aprenentatge automàtic és cada vegada més utilitzat per a prendre decisions en processos complexos. En elles, un sistema s'entrena per a obtenir els resultats desitjats per a un gran nombre d'entrades, però el funcionament del sistema resultant és difús a causa de la seva complexitat. És a dir, l'empresa creadora de l'algorisme tampoc sap amb certesa per què l'algorisme ha pres una decisió concreta, ni com pot modificar-la o millorar-la, si no entrena amb més dades i, no obstant això, seguiria sense saber com funciona.
No hi ha dubte que en el futur els algorismes controlaran cada vegada més la nostra vida. Treballaran molt i prendran moltes decisions en el nostre lloc i serà, sens dubte, molt còmode. Però pot arribar a un moment en el qual estarem tan acostumats al fet que les decisions es prenguin pels algorismes i no sapiguem per què es prenen aquestes decisions, que no podrem plantejar-nos si aquesta és la millor via o decisió. Perquè si l'algorisme l'ha dit…
Zu idazle
Zientzia aldizkaria
