Que partim d'una intel·ligència artificial amb algoritmes esbiaixats no és secret per a ningú. S'ha demostrat i s'ha remarcat la perillositat d'utilitzar la IA sense regulació, sigui per finalitats personals, o per fer-ne ús en una empresa o una institució, o el que és més alarmant, divulgar contingut a les xarxes. Aconseguir algoritmes ètics, alineats amb els valors democràtics i que tinguin perspectiva de gènere és un objectiu que, sobretot a Europa, s'està intentant assolir. Dones expertes en aquesta matèria posen llum davant d'una tecnologia que avança molt ràpidament, que sembla difícil de controlar i en la qual, com passa al món de les big tech, hi falten dones.

“La veu de la democràcia no serà doblegada pels tecnooligarques de l'algoritme”, diu Pedro Sánchez en una nova i desafiant posada en escena. Fa quinze dies va ser la immigració, l'espantall preferit de les extremes dretes per mobilitzar la ciutadania. El president va anunciar la regularització de tots aquells que portin com a mínim cinc mesos aquí. Reconeixement dels drets i de la dignitat de les persones que, com era previsible, va provocar el rebot d'Abascal i Vox i la indignació del PP, amb l’argument patètic de sempre: venen a prendre la feina als ciutadans i a diluir els valors essencials de la pàtria. Tothom sap que l’economia els necessita i que seguiran venint perquè les empreses hi compten. Però, per a alguns, tot s'hi val si creuen que els dona vots.

Poques vegades he tingut una opinió tan clara sobre un personatge cinematogràfic com en el cas de Miranda Priestly, l’exigent directora d’una revista de moda que surt a El diable es vesteix de Prada: crec que ella és l’autèntica heroïna de la pel·lícula. No és una heroïna fàcil, esclar, ni tampoc gaire simpàtica, però sí que és digna d’elogi: una esteta dura i intransigent, amb unes decisions que reverberen en l’àmbit de la cultura en el seu sentit més ampli i amb un gust idiosincràtic que pot afectar la moda a tot el món.

Fa una setmana vaig anar al recinte d’una universitat de Barcelona per una tesi doctoral. Com sempre havia fet altres vegades, vaig aturar el cotxe a la barrera de l’accés, on hi ha el guàrdia de seguretat. Anava bé de temps: mitja hora llarga a l’avançada. Abaixo la finestreta del cotxe i aviso el guàrdia que vaig a un tribunal de tesi a la Facultat d’Educació. Em respon: “Ja veurem si és veritat. Acosti el cotxe a la barrera”. Al darrere hi havia una pantalla amb un sistema electrònic de reconeixement de matrícula. Falla. Surt una mena de semàfor vermell i fa un sorollet estrany. “Em sap greu –diu aquell senyor–, el sistema no reconeix la matrícula. No està autoritzada”. La mala sort d’aquell matí em va fer oblidar el mòbil. No podia telefonar en aquell moment a la directora de la tesi perquè intercedís al meu favor en aquelles circumstàncies adverses. Començava a sentir-me com una impostora, una persona sospitosa mirant de travessar la frontera per salvar la vida, fugint de la persecució. Vaig demanar al guàrdia si podia telefonar a la Facultat d’Educació. No. Si podia, almenys, trucar al seu supervisor. No. Marxi. El sistema no reconeix la matrícula. Em va començar a tremolar la veu, en un intent desesperat per defensar que jo era qui deia que era: “Hi ha el doctorand esperant, no sé on aparcar, arribaré tard, m’hauria de deixar passar”. “A mi em sap més greu que a vostè”, va contestar, impertorbable. Després de múltiples vicissituds absurdes que no venen al cas, i que no van fer precisament que cedís aquella barrera odiosa, vaig arribar trenta minuts tard a la tesi, a peu, pujant les escales fins a l’aula, al tercer pis de la Facultat d’Educació. Hi havia unes trenta persones esperant. Els altres dos membres del tribunal m’expliquen que havien passat pel mateix, però que, en rondinar i protestar, aquell senyor havia decidit, en el seu cas i excepcionalment, aixecar la barrera. Jo no vaig tenir aquesta sort. El guàrdia va pensar que era una mentidera. També va demostrar que la seva petita parcel·la de poder existia: calia acotar el cap. No era ell, era el sistema. Cal obeir el sistema, perquè no s’equivoca mai. Ja podia jurar que anava a una tesi: veurem si és veritat. Vostè potser no sap que la seva veritat queda impugnada per l’algoritme. Una veritat escarransida, de pa sucat amb oli, que fa pena davant la precisió inexpugnable de la maquinària. Com Josef K., el personatge principal del Procés de Kafka, em trobava en una situació d’inaccessibilitat absoluta, per la qual no podia donar cap raó ni tampoc argumentar al meu favor. Vaig a una tesi. Molt bé, demostri-ho. Preguntem-ho al sistema, l’oracle de Delfos de la postpandèmia.

“Fer que la maquinària es col·lapsi”. Aquest és el pla del Mateo i l’Olga, ell de 20 anys i ella de 60, quan decideixen presentar una sol·licitud a Google per poder accedir a una oferta de feina. El procés entre aquests dos possibles empleats i la seva entrada a la companyia està mediat per un algoritme. L’objectiu de tots dos és intentar hackejar-lo a través d’una carta de presentació en què hi han escrit tot el que creuen que la intel·ligència artificial no serà capaç d’entendre, fent servir un llenguatge filosòfic i literari. Els dos personatges i la seva història formen part del que narra Belén Gopegui a la novel·la Quédate este día y esta noche conmigo (Literatura Random House, 2017) i, malgrat que pot semblar el relat d’un món utòpic, el que planteja no s’allunya de la realitat del que està passant avui en moltes grans empreses, on aterren cada cop més aplicacions basades en algoritmes. Aquest software s’utilitza tant en els processos de selecció de futurs empleats com en el control i l’organització posteriors mentre treballen.

Els avenços tecnològics en el camp de la vigilància de persones, i la manca de control amb què s'implementen, ja fa temps que preocupen als experts. Però ha sigut arran de la pandèmia que s'ha detectat un augment en l'ús d'aquestes tecnologies, tant per part dels estats com dels privats. Així ho recull un informe, publicat per l’Observatori de Drets Humans i Empreses al Mediterrani, l’European Network of Corporate Observatories, el Multinationals Observatory i la cooperativa Shoal, i que és part d'un conjunt d'estudis que analitzen la situació d'altres països, com ara França o la Gran Bretanya.

A les persones ens mouen les emocions, però el món està cada cop més guiat per algoritmes, els programes que aprofiten els milions de rastres que deixem cada dia a la xarxa per buscar patrons de comportament i treure’n conclusions: escolta aquesta cançó (Spotify), mira aquesta sèrie (Netflix) o llegeix aquesta novel·la romàntica (Amazon). David Casacuberta (Barcelona, 1967) es dedica a la recerca de les implicacions socials, culturals i cognitives de les tecnologies digitals. Va ser convidat pel professor Daniel Gamper al Diàleg de Pedralbes dedicat a parlar de com esdevenir un ciutadà lliure a la xarxa i de l’ús dels algoritmes com a eines polítiques. De la política vam passar a la vida i a com l’algoritme ens pot denegar un crèdit, un llit a l’UCI o l’entrada a un país si els reguladors públics no es prenen molt seriosament la tendència al que el ponent anomena “solucionisme tecnològic”.

Tothom sap que un dels motius que expliquen l’auge de l’extrema dreta és el seu domini de les xarxes socials, i l’exemple més paradigmàtic és el de Donald Trump. Per això és important conèixer les seves tàctiques i estratagemes. Algú que les coneix molt bé és el professor de filosofia de la ciència de la UAB David Casacuberta, expert en funcionament dels algoritmes i les xarxes socials. En el marc dels Debats de Pedralbes, organitzats per l’ARA i el monestir, Casacuberta va donar ahir algunes claus per no caure en les seves trampes. “Una estratègia que els funciona molt bé és fer anuncis molt provocatius, perquè així la gent d’esquerres s’indigna molt i comença a reenviar el missatge als seus contactes dient «Mireu què han dit!», i no s’adonen que així estan amplificant el seu discurs perquè el fan arribar a persones a les quals ells no arribarien mai”. 

Els algoritmes com a eina política és el tema del debat que organitza el diari ARA juntament amb el Monestir de Pedralbes, dins el cicle Diàlegs de Pedralbes, coordinat pel filòsof Daniel Gamper. Serà aquest dijous, dia 29 d'abril, a les 18.30 hores. Com podem ser ciutadans lliures a la xarxa? El filòsof David Casacuberta, professor a la UAB i la UB, i a les escoles de disseny Elisava i Eina, provarà de respondre a aquesta pregunta, en una sessió moderada per Antoni Bassas.

Les màquines, tot i que pugui costar de creure, estan sotmeses a principis morals i ètics. I, com més sofisticades siguin, cosa que implica més graus de llibertat i més autonomia, més elevat és el component ètic. És el cas de robots i també de la intel·ligència artificial. En bona mesura, que es respectin aquests principis depèn de la seva programació, és a dir, dels algoritmes que es creen perquè les màquines facin la funció per a la qual estan dissenyades. Dit d’una altra manera, de la intervenció humana en la seva concepció. L’estudi d’aquestes normes i principis ètics, que va molt més enllà del que Isaac Asimov definia el 1950 com que de cap de les maneres un robot podia fer mal a un humà, rep el nom de roboètica. Una disciplina que creix cada dia que passa i que té en la programació de l’algoritme el seu punt central.

El terme algoritme es fa servir molt més ara que quan el matemàtic persa del segle IX del qual deriva, Muhammad ibn Musa al-Khwarizmi, dissenyava mètodes per resoldre equacions de primer i segon grau. Les raons són clares: ara hi ha més dades i més capacitat de càlcul. Però d’algoritmes, que no són més que un conjunt d’instruccions que tenen per objectiu executar una tasca, n’hi ha hagut sempre. La recepta d’un pastís de xocolata o d’una paella valenciana són algoritmes. La manera d’encendre foc amb dos bastons és un algoritme. La tècnica de caça que fan servir alguns grups d’orques, quan expulsen aire mentre giren sota les seves preses per atrapar-les en un cilindre de bombolles, és un algoritme, en aquest cas generat i transmès d’una manera prelingüística. També ho són les danses nupcials de l’au del paradís o les cançons de bressol.

Les tecnologies de la informació i de les comunicacions (TIC) estan modelant la nostra societat de manera substancial. Dins de les TIC hi ha dues tecnologies destacades pel seu impacte social i les implicacions ètiques que tenen: la intel·ligència artificial (IA) i la ciberseguretat. La IA es proposa nous horitzons i per això planteja nous dilemes ètics. Per la seva banda, la ciberseguretat pretén que el món virtual sigui almenys tan segur com el món físic.

Quan hi ha alerta d’huracà, pugen les vendes de llanternes a les botigues de la cadena de supermercats Walmart. Però també es venen més Pop-tarts, un tipus de galetes farcides. Quan els analistes de l’empresa ho van descobrir el 2004, cada cop que els meteoròlegs anunciaven tempesta, els encarregats situaven Pop-tarts a la part frontal de les botigues. Les vendes de Pop-tarts van esclatar.

Quan Xavi Escales va entrar a Asics, aquesta empresa japonesa ocupava una de les últimes posicions al rànquing de les 20 marques esportives més importants a Espanya. Part del seu objectiu era fer que la firma pugés esglaons, però no disposava de gaires recursos per aconseguir-ho, i ell i un company van decidir resoldre el trencaclosques invertint en fer feliç el personal d’atenció al client i els venedors. Facilitar-los l’accés al gimnàs o portar un fisioterapeuta a la feina va fer efecte, i el 2016 Asics entrava al podi de les grans companyies.

La llengua materna d’Isabel Castañeda és l'espanyol. Al seu centre –el Westminster High, de Colorado– sol obtenir la màxima puntuació en aquesta matèria. Però aquest any ha suspès l’examen d’espanyol del batxillerat internacional.

Twitter ha fet un pas enrere i ha recuperat l'algoritme original que permetia veure les piulades per ordre cronològic invers: de la més nova a la més antiga. Ho ha fet després de dos anys d'utilitzar un sistema que ofereix un recull dels tuits més rellevants segons les afinitats i els interessos de l'usuari sota el títol 'Per si t'ho has perdut'.