Fa anys que la sociòloga Elisa García-Mingo se submergeix en l'estudi de la masclosfera, comunitats online que difonen contingut misogin, sigui en comentaris i missatges ridiculitzants o demanant a la intel·ligència artificial que reinventi fotografies de dones per despullar-les.

Commemorem el 8-M un altre any, gairebé amb les mateixes reivindicacions o encara pitjor, reivindicant que no volem fer passos enrere. El feminisme sembla Sísif intentant pujar una vegada i una altra una pedra que no para de rodolar costa avall. Avui dia una de les raons que fan més difícil el progrés de drets i la consolidació dels que s'han pogut assolir és el món digital. Perquè ja no és només que tingui un biaix masclista, sinó que per la seva pròpia naturalesa l'amplifica i el multiplica. Com expliquem avui al dossier, els exemples són múltiples i les raons evidents. Una és que l'univers digital està dominat per homes blancs heterosexuals, tant els propietaris de les principals empreses del sector com els que programen i treballen en aquestes companyies. Aquests homes entrenen els algoritmes amb el biaix que porten incorporat de gènere, a partir dels seus interessos i preocupacions, i ni tan sols troben estrany que hi hagi aquest biaix ni el saben detectar.

Sabeu que els algoritmes decideixen quina publicitat veiem a les xarxes? Sembla un fet sense importància, però no és així. “Si ets un jove en edat de decidir un grau universitari, el més probable és que si ets un noi les xarxes et mostrin graus d’enginyeria i informàtica, i si ets noia d’educació, infermeria i cures”, diu Liliana Arroyo Moliner, doctora en sociologia i directora de la Chair for Socially Responsible Digital Innovation. Milagros Sainz, investigadora i professora de la UOC, explica que la popular aplicació Google Maps "utilitza com a mesura per calcular les distàncies a peu els passos d'un home i això fa que moltes vegades les dones o les persones amb problemes de mobilitat tardin més". També hi ha discriminació a l’hora de buscar feina, en temes de salut i amb els algoritmes que s’utilitzen en entitats bancàries per decidir si es concedeix un préstec o no perquè els models matemàtics dels algoritmes s’apliquen en camps molt diferents i hi ha moltes decisions que es prenen tenint-los en compte. 

És la primera persona de la seva família que va estudiar a la universitat. Llicenciada en filologia anglesa, es va interessar en estudis de vigilància en la literatura moderna i una beca Fullbright la va portar el 2014 als Estats Units. Avui és professora al Barnard College de la Universitat de Colúmbia, un centre sobre estudis de gènere. La seva tesi porta per títol: Amor algorítmic, reorganització de l'amor romàntic.

L'estat de Nova York ha plantejat una proposta de llei perquè els menors no rebin cap contingut proporcionat per l'algoritme. És a dir, que els menors només puguin veure publicacions, fotos i vídeos de les persones que segueixen i no del que decideixi la xarxa social de torn. Per què? És molt senzill, perquè sigui avorrit. L'algoritme escull material que sap que serà interessant per a l'usuari i se li posa a la cara, perquè no abandoni l'aplicació. Aquesta mesura em sembla fantàstica, però em sembla que es queda curta. Em pregunto… No es podria ampliar també als adults?

Des que ha començat l'abril, un degoteig constant de novetats en el funcionament de Twitter mostra que el seu propietari s’està afanyant a complir moltes de les promeses que ha anat fent, de manera sovint anàrquica, des que va comprar la xarxa social. Aquests dies s’han publicat les tarifes detallades d’accés a les dades internes de la plataforma des d’aplicacions externes i s’ha confirmat que els usuaris abonats a la modalitat de pagament Twitter Blue tindran privilegis de visibilitat per als seus tuits i veuran la meitat d’anuncis que els usuaris gratuïts.

Ens disposem a comprar un producte online i se'ns anuncien articles que ja hem consultat abans. Fem like en una publicació a Instagram i, poc després, ens apareixen continguts similars. Spotify ens proposa escoltar l'últim disc d'un cantant i és el mateix artista que vam escoltar fa uns dies per primer cop. És el resultat dels algoritmes d'intel·ligència artificial (IA) que cercadors i aplicacions utilitzen per personalitzar els continguts. Però el problema arriba quan aquests processos de segmentació, majoritàriament opacs, provoquen un biaix en funció del gènere, la raça o la condició socioeconòmica. I no només a les xarxes: empreses privades i administracions públiques automatitzen amb algoritmes decisions sensibles com la concessió de préstecs, assegurances o prestacions socials, la preselecció de currículums per a llocs de treball o la identificació de ciutadans com a potencials delinqüents. Qui controla que no hi hagi errors tècnics o males praxis? ¿Es pot garantir que no es produeixen discriminacions? 

L'algoritme ha passat a ser un terme quasi màgic que pel que sembla, en el món digital, és al darrere de tot el que rebem o fem. Però darrere d'aquest nom endimoniat, no hi ha sinó un concepte que defineix un conjunt ordenat i finit d'operacions que permet trobar la resposta o la solució a un problema. De fet, cada un de nosaltres utilitza algoritmes en el moment que avalua una situació i decideix actuar en un sentit o un altre. El que passa és que aquest procés que fem de manera no conscient no el racionalitzem de manera explícita, ja que, si ho féssim, ja fa temps que ens hauríem tornat bojos. És una forma d'automatitzar el pensament i, alhora, de suplantar els humans en les decisions difícils. La utopia de construir un pensament mecànic es remunta al filòsof i matemàtic alemany Gottfried Wilhelm Leibniz, cap a finals del segle XVII. Aquest precursor de l'idealisme alemany va ser el primer que va convertir el pensament en formulacions matemàtiques. Tot coneixement es podia expressar com un còmput; això el converteix en qui va imaginar primer la possibilitat del món digital, encara que el seu plantejament quedés hibernat durant tres segles. La seva idea crucial sobre la possibilitat del pensament mecànic i l'automatització de la raó és la base de la disrupció tecnològica contemporània. El pensament mecànic és justament el plantejament al qual s'acull Alan Turing en els preàmbuls de la computació.

Diverses organitzacions socials han exigit la creació d'un registre públic d'algoritmes, tant per al sector públic com per al privat, per evitar qualsevol tipus de discriminació i garantir que la innovació tecnològica i la intel·ligència artificial respectin els drets humans. Aquesta ha estat una de les conclusions de les jornades Democràcia, Algoritmes i Resistències, que han tingut lloc aquest cap de setmana de forma online a Barcelona i a Madrid. La trobada ha estat organitzada per Algorights, Algorace i Lafede.cat.

Ja fa uns quants anys que les grans agències de notícies i alguns mitjans de comunicació optimitzen la producció de contingut encomanant a algoritmes la redacció de les peces informatives més rutinàries. Així, els comunicats sobre resultats empresarials o esportius, que solen respondre a patrons amb poca variació, es generen automàticament a partir de les dades originals (el nom de l’empresa, els milions de facturació o de benefici, la variació respecte al trimestre anterior, els noms dels jugadors que van marcar gols i en quin minut del partit...), incorporant-les a una plantilla dinàmica més o menys espavilada que respon al llibre d’estil de cada publicació. D’aquesta manera, se suposa que els redactors humans queden lliures per dedicar-se a tasques més creatives... tot i que en la pràctica la tecnologia acaba sent l’excusa de les empreses de premsa per reduir personal sense afectar el volum de peces publicades.

La intel·ligència artificial (IA) té un potencial extraordinari. Les oportunitats que s’obren són moltes, però també cal tenir en compte l’allau de qüestions ètiques que plantegen. Qüestions com el tractament de les dades personals o l’impacte ambiental del món digital ja s’estan fent lloc en el debat social.

Twitter va reconèixer fa unes setmanes que els seus algoritmes afavoreixen la difusió dels continguts de dretes. Twitter va dir que no sap per què passa. Aquesta segona afirmació només es pot acceptar si Twitter és dels que creuen en l’angelical objectivitat dels algoritmes. És possible que encara no sàpiga per què passa això, però té prou experiència, coneixements i eines per plantejar diverses opcions. Com ara la que apunten alguns tecnòlegs: potser la dreta, en general, utilitza de forma més eficient la inèrcia inherent als algoritmes, que recomanen els missatges que circulen més i, per això, circulen encara més.

Frances Haugen no és la primera extreballadora que ha trencat l’opacitat corporativa per parlar de les pràctiques secretes de Facebook, però ens ha donat exemples concrets de com la companyia explota les nostres vulnerabilitats per enriquir-se. Saber que una de cada tres noies amb baixa autoestima se sent pitjor quan fa servir Instagram, ens ha fet tocar de peus a terra en un moment en què la salut mental dels grups més joves és una preocupació global. Aquestes revelacions també estan tenint molt ressò per la campanya mediàtica de Jeff Horowitz, el periodista darrere dels Facebook Files al Wall Street Journal. Aquesta vegada sembla que el debat sobre com regular les plataformes és inevitable, per molt que de moment ens semblin cavalls ingovernables i desbocats.