Quan els ciutadans valen el seu pes en 'likes'

Els experts alerten del perill dels rànquings socials basats en el 'big data', com passa a la Xina

Té els seients d’avió vetats. No arriba a la nota exigida al sistema de rànquing social, en què els que són a prop del 5 poden viatjar en primera classe, accedir als recursos de la sanitat i llogar els apartaments més exclusius. Necessita més ‘likes’, més felicitat aparentada per pujar en l’ascensor de les xarxes socials. Aquesta escena, extreta de la sèrie ‘Black mirror’, podria passar a la Xina del 2020. La Lacie de la ficció distòpica d’aquesta sèrie es podria dir Lian o Wen i tenir els mateixos problemes: que se li barri el pas al tren o a l’educació perquè té una puntuació baixa al sistema de crèdit social que el Partit Comunista Xinès està testant i pretén generalitzar i fer obligatori d’aquí dos anys per als 1,3 bilions de persones que poblen el país. La realitat xinesa està a punt de superar la popular ficció britànica.

"'Black mirror' fa un retrat exagerat del que ja està passant", asseguren des de Criptica, un col·lectiu que promou la sobirania digital. El sistema de rànquing social del gegant asiàtic controla i avalua els seus ciutadans: els apuja la nota si compren productes amb el vistiplau del règim i els hi abaixa, per exemple, si tenen impagaments o critiquen l’estat. Els experts lamenten les nefastes conseqüències d’aquest sistema i alerten que, a Europa, sense que en siguem gaire conscients, ja hi ha mètodes similars. La doctora en sociologia i investigadora de l’Institut d’Innovació Social d’Esade Liliana Arroyo considera que aquesta iniciativa imposa el control social, genera pensament homogeni i coarta llibertats. ¿Caminem cap a una societat orwelliana 2.0? Per a Arroyo, "es tracta d’un sistema en què tothom és sospitós de partida i en què la cohesió social és una cosa fingida".

Controlar a través del plaer

"Retornem a una cosa molt tribal que és el càstig públic", indica Arroyo, ja que tothom podrà veure, per exemple, si algú es queda sense taula en un restaurant per baixa puntuació. Des de Criptica, insisteixen en la idea de control social a través de la intel·ligència artificial i el 'big data'. "La ludificació no és més que una disciplina 2.0, tal com la definia Michel Foucault. Amb petits calibratges disciplinaris, pots modificar la conducta. El que fa la ludificació és ben bé això”. Per a Criptica, aquests sistemes de ludificació creen addicció i estenen l’acceptació de determinats patrons i comportaments. L’única diferència entre la disciplina foucaultiana i els jocs digitals, assenyalen, és la substitució del càstig per la recompensa: "Quan et portaves malament, fins ara, et castigaven; ara et premien quan et portes bé. En comptes de generar por al càstig, generen l’ànsia pel plaer. Això és molt més poderós".

El nou sistema xinès no neix del no res. Té com a precursors rànquings ludificats de grans empreses privades com el 'Sesame Credit' d’AliPay, vinculat al gegant Alibaba, i el promogut per WeChat Pay, d’un altre gegant, Tencent. En aquests sistemes, es jutgen qüestions com ara els productes que es compren online o quant de temps es destina a jugar a videojocs. "Qui tingui la capacitat de mesurar, tindrà la capacitat de configurar la societat", reflexiona Arroyo. Per al Partit Comunista, aquest sistema encoratja la "confiança", construeix la cultura de la «sinceritat» i és una qüestió de seguretat nacional; diverses ONGs de defensa dels drets humans, però, ja han posat el crit al cel.

"Estem ingressant en una era en què les accions individuals seran jutjades per estàndards que no podem controlar i en què aquests judicis no podran ser esborrats", afirma amb contundència Rachel Botsman, autora del llibre 'Who can you trust?' i professora a la Universitat d’Oxford. I és que els algoritmes que fan les avaluacions són caixes negres en què no sabem ben bé què es valora i com. Per a aquesta experta en confiança digital, entrem en una època en què el dret a l’oblit i el dret a ser "joves i bojos" estaran prohibits. Així, desapareixerà la cultura de les segones oportunitats i els errors del sistema i dels algoritmes també condicionaran la vida quotidiana. Pierre Bourdin, professor dels estudis d’informàtica i multimèdia de la UOC, es nega a afirmar que aquests algoritmes no siguin ètics, considera que simplement "acumulen dades i calculen un valor".

Autocensura digital

Bourdin reconeix, però, que aquests sistemes imposen l’homogeneïtat: "El sistema tendeix a limitar la diversitat, perquè té tendència a fer una mitjana. Si vols tenir una bona valoració, has de tenir el comportament esperat. És important que els algoritmes integrin característiques per mantenir la llibertat i la diversitat". A Criptica discrepen de Bourdin i assenyalen que aquestes màquines el que fan és "estigmatitzar de manera que sembli neutralitat tecnològica». Assenyalen que en la nova «societat de la transparència, et converteixes en el teu propi policia". Això ja està passant. Ho demostra un estudi del mateix Facebook, en què un 71% dels usuaris de la xarxa social diuen que s’autocensuren. Com a 'Black mirror', en aquests sistemes el que fan els teus amics et marca a tu, i la teva reputació condiciona la teva nota. ¿Es perdran amistats per haver baixat al rànquing? Bostman pronostica l’emergència de mercats negres de la reputació.

¿I aquí què? ¿A Europa vivim ja la distopia de la sèrie britànica? "No estem tan lluny", assegura la investigadora d’Esade. Per als experts, les targetes client dels comerços, la valoració creditícia dels bancs o la valoració prèvia a contractar una assegurança de salut privada són sistemes de rànquing social similars. "Al banc, fan un escrutini de la teva salut econòmica. És una cosa que hem normalitzat i integrat, però és un problema. Sabem que estem condemnats al nostre històric, a les vegades que hem tingut números vermells, la nostra nòmina", lamenta Arroyo. "Les targetes de fidelització dels supermercats són ludificació pura i dura. No veus la nota que et posen, però les recompenses que n’obtens indiquen la teva classificació", afirmen des de Criptica. Les revelacions d’un extreballador de Cambridge Analytica sobre la utilització de les xarxes socials per manipular el vot en el cas de Trump ja reflecteixen el poder d’internet i les xarxes per modelar la societat.

"A la Xina, no et pots escapar d’aquest sistema. És molt difícil", assenyala Bourdin. Que l'hi diguin a la protagonista del primer capítol de la tercera temporada de 'Black mirror'. "Per no arribar a un sistema com el xinès, hem de començar a prendre consciència de les dades que estem repartint amb alegria i fer una crida per crear alternatives", adverteix Arroyo. Per la seva banda, el professor de la UOC assenyala: "Cal anar amb compte i educar la gent». Mentrestant, a Criptica, a l’hora d’identificar mètodes per impedir aquest rànquing social, remeten a l’obra 'La hipótesis cibernètica' de l’autor col·lectiu Tiqqun, en què es fa una crida a "esdevenir ingovernables, generar entropia", ser imprevisibles per als algoritmes, cosa que admeten, no està exempta de complexitat. "Si no estem atents, la confiança distribuïda podria convertir-se en la vergonya en xarxa", reflexiona al seu llibre Botsman.

Un mòbil que no parla de tu

Les dades que nosaltres mateixos generem i pugem a les xarxes socials són combustible per als algoritmes que ens classifiquen i ens discriminen. És possible trencar-ho, això? Entropic Lab, que es defineix com un col·lectiu d’investigació artística, ha fet un pas en aquest sentit. Impulsa un telèfon mòbil rotatiu que dificulti als algoritmes extreure conclusions valuoses. Critiquen que les companyies telefòniques, amb les dades dels aparells, puguin obtenir patrons dels usuaris. Falta veure si aquest tipus d’estratègies, de moment artístiques i de denúncia, es poden generalitzar com a mètodes de resistència social.

Més continguts de