Durant molts anys, entre les dècades dels seixanta i els setanta del segle passat, el lema “La informació us farà lliures” va ser present en moltes manifestacions a favor dels drets civils i l’empoderament del ciutadà. Quan van arribar internet, els mòbils i la connexió permanent, la informació va passar a inundar la vida dels ciutadans. I ara és tan massiva que resulta impossible abastar-la, entendre-la i classificar-la correctament. Però la majoria de decisions, fins i tot en l’àmbit més quotidià, es prenen basant-se en aquesta informació present a les xarxes. D’això se n’ocupen els algoritmes, programes informàtics que recopilen i analitzen totes les dades disponibles i ofereixen a l’usuari les opcions d’elecció que consideren més adequades. Ara bé, lògicament, també limiten les possibilitats d’escollir. Per tant, tenir tota la informació, ¿ens ha donat més llibertat o bé més dependència dels algoritmes?

El nom pot semblar molt tècnic, però la realitat és que els algoritmes són habituals en la nostra vida digital més quotidiana. Martha Ivón Cárdenas, doctora en intel·ligència artificial i investigadora a l’Institut de Neurociències de la UAB, explica que són programes informàtics que es dediquen a “extreure regles de decisió, detectar irregularitats en les dades, classificar objectes, reconèixer cares, millorar les cerques per internet o les tècniques de màrqueting”, entre altres funcions. Quan busquem a la xarxa una casa rural per a les vacances, un radiodespertador per comprar o la millor ruta per anar d’una banda a una altra és un d’aquests programes el que ens facilita les opcions entre les quals escollir. Carme Torras, professora d’investigació a l’Institut de Robòtica del CSIC-UPC i reconeguda escriptora de ciència-ficció, afegeix un cas en què no solem pensar. “Els traductors automàtics: hi entres una frase, poses en quin idioma està i a quin el vols traduir, i et dona una traducció”. Quan l’usuari busca qualsevol informació a internet, les opcions que troba al cercador les decideix i limita algun d’aquests centenars d’algoritmes. És com si sempre caminéssim per una ciutat tan gran que ens sembla que és l’Univers sencer. Però que, en realitat, només n’és una part intencionadament petita.

Un dels exemples d’aquest nou ecosistema digital teledirigit és Facebook. Amb més de dos mil cent milions d’usuaris actius al mes, la xarxa social més gran del món s’ha convertit en una font d’informació prioritària. Estem al cas del que fan els nostres coneguts en gran mesura gràcies al Facebook. A més, gran part de la informació política i social també arriba a través del nostre mur. Per això les fake news s’han convertit en un problema tan important: sis de cada deu ciutadans a casa nostra reconeix que s’informa a través de les xarxes socials, segons dades del maig de l’empresa especialitzada Pew Research. I qui escull el que apareix al mur de cada usuari? Doncs una aplicació matemàtica, un algoritme, que decideix el que veiem a cada moment. La informació que se’ns serveix està dins d’un espectre escollit segons un criteri matemàtic. Només llegim al nostre mur el que decideix el programa, tret que anem a buscar específicament algun perfil concret. I això acaba sent molt important perquè en l’àmbit més personal, les xarxes es converteixen tot sovint en la principal font d’informació sobre què fan els nostres amics o, fins i tot, la nostra família, si no els tenim a prop.

Decisions complexes

Per decidir quina informació ens mostra i quina ens amaga, Facebook fa servir una fórmula matemàtica molt detallada. Quan es publica una entrada, el sistema l’analitza i la prioritza en funció de si porta elements audiovisuals, si porta enllaços externs a altres webs, si tracta d’un tema que és d’actualitat, si és un vídeo en directe o si qui l’escriu té credibilitat. En canvi, penalitza aquella informació si demana comentaris o “m’agrada”, entre altres criteris. Segons el resultat d’aquesta fórmula, l’algoritme ensenya aquella entrada a un 1% dels nostres seguidors. En funció de com reaccionin, la distribueix molt o poc. Això pot generar situacions contradictòries. Per exemple, imaginem que un amic escriu a Facebook que té una malaltia i ens demana que comentem què ha de fer, si s’ha d’operar o no. Ho publica de manera breu, sincera, sense fotos ni vídeos, com ens ho diria cara a cara. Amb tota probabilitat la xarxa no mostrarà aquella informació a la majoria dels seus amics. Primer, perquè demana expressament comentaris i, segon, perquè, com que creu que no cal fer-ne un gra massa, no ha posat fotos ni vídeo en el seu requeriment. El resultat és que una informació tan important d’un amic que necessita la nostra opinió, Facebook la considerarà poc rellevant per mostrar-nos-la al nostre mur. En termes purament educatius, els algoritmes encara no tenen ànima i són emocionalment inexperts.

Tot i això, els avantatges d’aquest sistema de recollida, classificació i selecció d’informació són molt clars. Martha Ivón Cardenas explica que “el fet de poder automatitzar molts processos quotidians, tenir algoritmes que ens recomanin viatges, pel·lícules o menús, entre d’altres, ens ha facilitat molt la vida”. Al mateix temps, però, també porta inconvenients perquè “el nostre cervell es comporta d’una manera tan complexa que seria difícil que les xarxes neuronals artificials les imitessin”.

A la pel·lícula Jo, robot, basada en els relats d’Isaac Asimov, el protagonista es lamenta que els androides, basant-se en una decisió lògica, li hagin salvat la vida a ell i no a una nena que ell mirava d’evitar que s’ofegués. Han considerat que ell tenia més possibilitats de sobreviure. Els algoritmes apliquen criteris racionals, però la raó no sempre és l’únic element que les persones tenen en compte quan decideixen. Conceptes com el sacrifici, la solidaritat o fins i tot la intuïció o la rauxa tenen una cabuda difícil en la lògica matemàtica que guia la manera d’actuar d’aquests programes. Carme Torras afirma que “hi ha una regla ètica d’or en robòtica i intel·ligència artificial, que és no enganyar l’usuari i que la presa de decisions automàtica no ha d’anar mai en detriment de la llibertat i la dignitat humanes”.

Aprenentatge erroni

Carme Torras recorda un cas que es va fer viral fa un parell d’anys, el de Tay, un robot virtual que Microsoft va crear a Twitter per participar en debats i converses i que “al cap de 16 hores va haver de retirar perquè s’havia tornat xenòfob, racista i misogin”. Tay aprenia dels altres usuaris, però els qui més el van influir van ser els que volien demostrar que un programa informàtic encara no pot aplicar criteris morals al seu comportament. “És el que tenen els algoritmes que aprenen, que els ensenyem entre tots, i la responsabilitat del que es converteixen ja no és només del programador o de l’empresa que els ha dissenyat, sinó compartida amb els usuaris”, explica Carme Torras. Potser hauríem de considerar que els algoritmes són com els fills, que han d’aprendre el que està bé i el que està malament abans de sortir sols al món.

De vegades, resulta difícil dimensionar la gran quantitat d’aquest tipus de programes que influeixen en les rutines quotidianes. Però des de les cançons que ens recomana l’Spotify fins al corrector ortogràfic o els resultats de les cerques que fem a internet estan determinats pels algoritmes. Cárdenas té clar que un dels perills és acostumar-nos-hi perquè “tanta dependència ens podria fer perdre autonomia”. Carme Torras hi coincideix perquè la proliferació d’aquests programes, “des dels de cerca implementats en els navegadors fins als que recopilen les nostres dades personals i ens posen publicitat a mida, el GPS o els jocs són molt addictius”. El que cada usuari veu a Facebook, Google, Instagram, Twitter, Amazon o Netflix està condicionat per la tria que fa una intel·ligència artificial. Fins i tot si busquem una relació personal esporàdica, els candidats que proposen els programes per conèixer gent estan basats en aquests tipus d’algoritmes.

La qüestió és què passa quan es creua tota aquesta immensa marea d’informació. Les empreses acaben tenint un compendi de dades sobre nosaltres que no som capaços d’imaginar. I això s’acaba convertint en el perfil comercial perfecte. Fins i tot hi ha llocs web “que ofereixen immortalitat digital a còpia de construir un avatar amb totes les nostres contribucions a les xarxes socials (els likes que ens defineixen, les fotos, els vídeos i comentaris que pengem, el que comprem, etc.)”, explica Carme Torras. Aquest és un dels temes que tracta en la seva novel·la Enxarxats (Males Herbes, 2017).

El control necessari

Si són tan importants per a la vida dels ciutadans, qui i com es controla l’activitat d’aquests programes informàtics? Ara mateix sembla una tasca complicada. La Unió Europea ho ha intentat fent entrar en vigor des del maig passat el nou reglament general de protecció de dades. Aquesta llei limita l’intrusisme agressiu de les empreses en la recopilació, emmagatzematge, transferència i ús de les dades sobre els usuaris. Ara mateix els serveis bàsics de la societat de la informació es paguen més amb privacitat que amb diners: amb les nostres dades bàsiques sobre costums, preferències i fins i tot moviments. I tota aquesta informació és el combustible que fa anar els algoritmes. Són els responsables, per exemple, que si fem una cerca sobre orquídies al cap de poc ens aparegui al correu de Google l’anunci d’una floristeria a prop d’on som. O també que, si fem un “m’agrada” en la publicació d’un amic que ha anat a Viena, al cap de poc se’ns ompli l’Instagram d’ofertes d’hotels i restaurants a la capital austríaca. Martha Ivón Cárdenas reflexiona dient que “els algoritmes creats pels experts d’una gran empresa, que l’usuari utilitza per al seu propi benefici, generen molts ingressos a la mateixa empresa que els ha facilitat”.

Al final, potser cal preguntar-se si l’arribada de la informació massiva a través d’internet ha generat més dependència que llibertat, tal com s’imaginava al segle XX. La solució, potser, és acotar com actuen els models matemàtics que subministren les opcions entre les quals triar. Martha Ivón Cárdenas creu que per aconseguir-ho “se li ha de donar una ètica a tots els algorismes, sobretot els que tracten perfils i recomanen productes, per evitar els abusos d’identitat.” Potser ha arribat el moment en què, igual que Asimov va formular les lleis de la robòtica, la societat segui a formular les lleis dels algoritmes.