Arthur Grimonpont: "Estem atrapats a les xarxes socials només perquè tots els altres les fan servir"

Enginyer de formació i consultor de professió, és responsable de l’oficina d’Intel·ligència Artificial i qüestions globals de Reporters Sense Fronteres (RSF), a més d'autor de l'assaig Algoritmocràcia. Viure en llibertat en el temps dels algoritmes, editat per Llibres del Segle. Ha visitat Barcelona, convidat per la Societat Catalana de Comunicació de l'IEC, on va parlar de la necessitat de posar límits a les xarxes socials.

Hi ha alguna manera de ser a les xarxes socials que resulti saludable?

— Això és com preguntar-te si hi ha una manera de dinar sa en un fast food. I la resposta és que aquests locals no estan dissenyats en absolut perquè mengis coses saludables. Avui 5.000 milions de persones fan servir les xarxes socials dues hores i mitja cada dia i si són tan populars no és per casualitat, sinó perquè són màquines perfectes de captar l’atenció. I l’algoritme sap que el contingut que ens captura més és el polaritzant, el que excita l’odi, el que desinforma, perquè ens sorprèn.

Puc limitar-me a seguir els meus amics i coneguts.

— Això era al principi, però ha deixat de ser així. A TikTok, gairebé el cent per cent de contingut que es veu el recomana l’algoritme i correspon a perfils aleatoris que l’usuari no coneix. A YouTube, fa un parell d’anys, la xifra era del 70% de vídeos plantificats per l’algoritme segons el seu criteri. És com si anessis al restaurant i no et servissin un menú sinó que t’alimentessin tan sols amb el que et fa addicte: sucre i hamburgueses.

Amb el menjar ràpid hi ha campanyes de conscienciació. Aquí la solució és l’alfabetització mediàtica?

— És un paral·lelisme interessant perquè hem vist que els programes de conscienciació sobre menjar saludable no funcionen en absolut: només cal voltar per les nostres ciutats per veure centenars d’anuncis de fast food. Amb les xarxes socials passa el mateix: l’alfabetització mediàtica no funciona perquè insisteix massa en solucions individuals per a un problema estructural. Són programes necessaris, però no una solució suficient, perquè no tothom pot ser un petit periodista durant el dia a dia per distingir el gra de la palla.

Ens queda, doncs, la via de les regulacions. Però quines?

— La primera, obligar les plataformes a amplificar el contingut de qualitat. Això, esclar, ens fa preguntar-nos com definim què és contingut de qualitat. Però avui som tan lluny d’aquest escenari que seria fàcil dissenyar qualsevol sistema millor que l’actual. Una manera, per exemple, seria recolzar-se en els ciutadans: deixar que votin democràticament què consideren contingut de qualitat.

Veient el que es vota a depèn quins llocs, glups, quina por.

— Doncs et sorprendria. La gent és perfectament conscient que consumeixen continguts que no són de qualitat. Igual que, amb el fast food, ningú pensa que està fent salut: senzillament els agrada, ni que sigui a curt termini. Amb les notícies passa el mateix. I no podem revisar cada contingut, perquè seria impossible i probablement no desitjable, però sí que podem examinar la qualitat del procés de producció d’aquestes notícies. ¿Segueixen els periodistes el codi deontològic? ¿Contrasten? ¿Protegeixen les seves fonts? Hi ha prou regles sobre les quals els periodistes tenen un gran consens.

Des dels mitjans, esclar, assenyalem les xarxes. Però que han fet malament ells?

— A mi em semblaria dur considerar-los responsables d’aquesta situació, fins i tot parcialment. Al final, van fer el que consideraven bo... en aquell moment. I com que els mitjans han estat patint els últims anys pels diners, no podien renunciar a l’audiència que aquests nous canals els oferien. Ara, tristament, veiem el mateix amb els xats d’IA. Hi ha grans mitjans fent acords amb els gegants d’internet sense cap garantia d’integritat o pluralisme.

Per què els polítics haurien de promoure regulacions, si en el fons es beneficien de les cambres d’eco de les xarxes que reforcen els prejudicis de cadascú?

— Sí, aquest és un dels motius pels quals hem regulat zero o molt poc. Però en diferents moments de la història hi ha hagut polítics que han fet accions valentes en contra del seu propi interès a curt termini. Perquè la gent, al final, està d’acord que les xarxes socials són tòxiques.

Però no prou d’acord per deixar-les massivament.

— Hi ha un estudi interessant de la Universitat de Chicago. Van preguntar a milers d’estudiants quants diners els haurien de pagar al mes perquè deixessin de fer servir TikTok. Va sortir que uns 50 euros al mes. Però aleshores van afegir una pregunta addicional: quant t’haurien de pagar si marxessis de TikTok... però els teus amics també ho fessin. El resultat va ser que aleshores estarien disposats a pagar 30 dòlars al mes. Això et demostra que estem atrapats a les xarxes socials només perquè tots els altres les fan servir. Si marxes, perds amics, audiència... així que ser-hi no vol dir que hi estiguis de gust. Vol dir que estàs atrapat. I que t’agradaria una llei que fes que la gent marxés massivament de les xarxes o, almenys, que les fes més segures i un lloc millor.

Parlem de com les xarxes polaritzen, però si mirem el mapa del món veiem que els populismes més forts que estan sorgint arreu són fonamentalment d’extrema dreta o assimilable.

— Efectivament, i això és així perquè els algoritmes, a gran escala, tendeixen a amplificar contingut fals, divisiu o ple d’odi. I dona la casualitat, o no, que els líders d’extrema dreta tendeixen a utilitzar molt més aquestes formes de comunicació que no els de l’altra banda. Només cal mirar Donald Trump.

Un discurs que se sent sovint per part de Musk i companyia és que ells són garants de la pluralitat, perquè regalen una àgora pública als ciutadans.

— Els líders de les xarxes socials diuen que fan àgores públiques, però en realitat són gegantins centres comercials on no tens cap llibertat per vagarejar al teu aire. Senzillament, hi entres i t’endollen tanta publicitat com són capaces de col·locar-te. Són exactament el contrari de l’àgora pública que diuen ser. Una àgora pública no està mantinguda per la publicitat, sinó per les autoritats públiques, operant sota drets democràtics. No les governa un únic actor, o un dictador, que decideix què hi passa i què hi deixa de passar. I una altra diferència: gairebé ningú té cap problema en passejar per una plaça pública a cara descoberta. El mateix hauria de ser cert per a internet. Facebook esborra cada any 6.000 milions de comptes falsos, la qual cosa fa pensar que hi ha més comptes falsos que veritables.

Com se soluciona, això?

— No hi ha manera de corregir-ho si no imposem un sistema estricte de verificació de la identitat. Sé al cent per cent que alguns protestaran, però per a la majoria de persones això seria una solució molt millor que no instal·lar cap tipus de verificació.

T’he sentit advocar en favor d’una xarxa social pública. Però, ¿funcionaria? Bluesky s’ha convertit en un refugi menys tòxic que X, però no li fa ombra.

— Tens raó i hi ha diversos motius que ho expliquen. Estic convençut que una solució tècnica no és suficient, perquè el problema és polític. Hi ha centenars de plataformes alternatives, però no guanyen la cursa de l’atenció perquè no estan dissenyades expressament per guanyar-la. Així que el primer que cal fer és precisament canviar les regles perquè puguin competir en igualtat de condicions.

Qui se'n beneficia, de tant de soroll a la xarxa?

— La vasta majoria de desinformació que campa a internet no ve d’agents que volen influir maliciosament en la gent. Això existeix, òbviament, i a gran escala, però no és el problema més gran, que segueix sent l’amplificació sistemàtica i estructural de contingut tòxic. Quan algú diu que la Terra és plana ho fa sense males intencions: només passa que estan convençuts del que diuen i pensen genuïnament que la resta del món s’equivoca. I tenen sort, perquè els algoritmes amplifiquen les seves teories mentre que els mitjans no ho feien.

Amb bona fe o sense, el resultat és que la veritat està en crisi.

— És el benefici del mentider, que se’n diu. Va bé recordar la cita de Hannah Arendt: “Tot aquest mentir constant no està orientat a fer que la gent es cregui una mentida, sinó a assegurar que ningú cregui ja en res”. Ella parlava, esclar, de l’auge de Hitler. Però és també l’estratègia de Donald Trump. No és com la propaganda xinesa, que vol forçar tothom a adherir-se a un relat concret, sinó que senzillament es basa en fer creure a la gent que no poden tenir cap idea d’on resideix la veritat.

I quin és l’antídot?

— Sabem per centenars d’anys de ciència espistemològica que ningú té la veritat. Que hem de confiar en institucions i regles que fan que la veritat emergeixi a poc a poc, com fa la ciència o intenta fer el periodisme de qualitat. Però anem a un món en el qual només confiem en individus. I és estrany, perquè com més menteixen aquests individus, més la gent confia en ells.

I com més gent confia en ells, més desapercebuts passen els continguts honestos o de valor.

— Són les que anomenem notícies i, de fet, són les que van fer que m’interessés per tot aquest món. No em considero un activista contra el canvi climàtic, però dedico bona part de la meva carrera professional a aquest assumpte i vaig fundar una ONG sobre canvi climàtic i producció d’aliments. Vam dedicar molts esforços a elaborar un estudi científic farcit de fonts i científicament contrastat de 3.000 pàgines sobre la qüestió. Cada xifra estava justificada i atribuïda a una font. Vam dedicar-hi temps i diners. Però als algoritmes, directament, no els va importar una merda el nostre estudi, perquè no captava l’atenció immediata del públic.

La dictadura del clic.

— Podries dir: oh, és que aquest tipus de contingut no és per a aquestes xarxes. Però també podries dir: oh, és que aquestes xarxes no estan preparades per fer prevaler el contingut important. Els continguts com aquest pateixen competició asimètrica. Així que si volem solucionar problemes com el canvi climàtic ara és com si intentéssim fer la travessa de l’Atlàntic sense mapa de navegació, durant una tempesta i amb un capità borratxo. No hi ha cap opció d’arribar a bon port, perquè ningú està accedint a la mateixa informació, fins i tot la més bàsica.

Cap a on ens dirigeix la nau, aleshores?

— La informació està girant cap a l’estupidesa a escala global i això ens està convertint en més i més estúpids també a marxes forçades. Però no és que a la gent, individualment, li preocupi menys la intel·ligència: en general tothom té bones intencions. És el sistema global de notícies, especialment amb les xarxes, el que ens està tornant més i més estúpids per la manera com funciona. I els mitjans tradicionals ho pateixen especialment. Entre 2018 i 2024 l’amplificació de notícies dels mitjans a Facebook s’ha dividit per quatre. Es podria dir que es tracta de l'acte de censura més gran de la història, perquè 3.000 milions de persones s’hi connecten cada dia.

Més enllà dels problemes que afecten la qualitat democràtica, a la conferència has assenyalat també com la IA interferirà en les relacions personals, amb gent enamorada de xats algorítmics.

— Ja és el cas de milers de persones al món. Un adolescent que es va suïcidar perquè es va enamorar d’un personatge d’IA amb el qual interactuava, a la plataforma character.ai, modelat a imatge i semblança de la Danaerys de Joc de Trons. Ell es va anar aïllant dels seus amics, del seu entorn. I, en un moment de la seva conversa, el personatge el va convidar a unir-se a ella en el seu món. No sabem a què es referia, però ell va decidir treure’s la vida per anar-hi. Aquest servei té uns 20 milions d’usuaris que dediquen una hora i mitja al dia a parlar amb diferents personatges. I, quan un inversor va comprar la companyia i va prohibir que els personatges entressin en converses sexuals, hi va haver una petició de 200.000 persones a Change.org demanant que revertissin la situació. Se sentien tristos, bàsicament, perquè havien perdut els seus amants.

Recorda aquella pel·lícula, Her.

— L’única diferència és que el film imaginava això amb una ambientació futurista, però ja està passant ara. De moment, la gent parla amb aquests xatbots principalment amb text, però aviat veurem l’auge de personatges amb aparença física, i podrem interactuar-hi en vídeo, amb una aparença molt més realista que l’actual.