Commemorem el 8-M un altre any, gairebé amb les mateixes reivindicacions o encara pitjor, reivindicant que no volem fer passos enrere. El feminisme sembla Sísif intentant pujar una vegada i una altra una pedra que no para de rodolar costa avall. Avui dia una de les raons que fan més difícil el progrés de drets i la consolidació dels que s'han pogut assolir és el món digital. Perquè ja no és només que tingui un biaix masclista, sinó que per la seva pròpia naturalesa l'amplifica i el multiplica. Com expliquem avui al dossier, els exemples són múltiples i les raons evidents. Una és que l'univers digital està dominat per homes blancs heterosexuals, tant els propietaris de les principals empreses del sector com els que programen i treballen en aquestes companyies. Aquests homes entrenen els algoritmes amb el biaix que porten incorporat de gènere, a partir dels seus interessos i preocupacions, i ni tan sols troben estrany que hi hagi aquest biaix ni el saben detectar.
Els algoritmes amplifiquen el biaix de gènere que existeix a la societat, per això cal més transparència i més control
Així, ens trobem per exemple que en la publicitat que reben nois i noies en edat d'anar a la universitat, als uns els arriben graus de carreres tècniques com ara enginyeria i informàtica i a les altres graus de cures com ara infermeria i serveis socials. O que les eines d'IA que fan servir algunes grans empreses per seleccionar els seus treballadors només es fixin en currículums d'homes, perquè l'algoritme l'havien entrenat només amb dades d'homes i va considerar que era el que tocava, de manera que discriminava tot el que semblés femení –com va passar a Amazon, cosa que va provocar un gran escàndol–. Hi ha coses anecdòtiques, com el fet que Google calculi les distàncies en funció dels passos i la velocitat estàndards dels homes, però d'altres són fonamentals, com els bancs que fent servir dades antigues –de quan les dones, discriminades, tenien més dificultat per trobar feina i per tenir diners– deneguen crèdits a les dones sense tenir en compte que avui en dia són tant o més solvents que els homes.
Tot plegat en un context, a més, en què la masclosfera s'està fent forta a les xarxes, difonent missatges que tenen molt ressò. I com que les xarxes tenen uns algoritmes que premiem la polarització i la interacció, aquests missatges es reprodueixin encara més. Els algoritmes no són fórmules matemàtiques pures i innocents, sinó que estan fets per persones i responen per tant al seu propi biaix i interès. És important saber què hi passa i mantenir-hi més control. Per això mateix és important que hi hagi més dones treballant en aquest context digital, que augmenti l'alfabetització digital de la població i, especialment, que sobre tot plegat hi hagi una mirada crítica i desconfiada. Ara mateix diversos estats, entre els quals Espanya, estan estudiant prohibir l'accés a les xarxes als menors de 16 anys. Alguns dels motius són, precisament, aquesta falta de control i aquest biaix masclista i violent, que s'amplifica i es difon a través de les xarxes socials. Però no és només aquí. Ara que ja comencem a tenir a sobre el tsunami de la IA és important controlar no només com s'utilitza sinó també qui la controla i com. Cal més transparència i més regulació. I no podem esperar gaire.
