Setge judicial als EUA contra l''scroll' infinit de Meta i YouTube

BarcelonaHa estat, segurament, la pitjor setmana de Mark Zuckerberg des de la fundació de Facebook. El magnat ha hagut d'anunciar el desmantellament del seu metavers en realitat virtual, després d'haver cremat 80.000 milions de dòlars en una aposta que el públic ha rebut amb indiferència. Mentre Meta fa un gir desesperat cap a la IA per salvar els mobles, el front judicial li ha obert una via d'aigua que amenaça tot el model de negoci de les xarxes socials. Dos jurats dels EUA han dictat sentències que consideren Meta i YouTube responsables directes de dissenyar productes deliberadament addictius.

Enginyeria de la dependència

La sentència de Los Angeles estableix el gran precedent. El jurat ha condemnat Meta i YouTube a pagar 6 milions de dòlars (70% una i 30% l'altra) en danys a una jove identificada com KGM, que va començar a utilitzar les plataformes als sis anys i va acabar desenvolupant depressió, autolesions i una obsessió patològica amb la pròpia imatge corporal. Un dia abans, a Nou Mèxic, el cop econòmic havia estat força més contundent: 375 milions de dòlars de multa per no protegir els nens contra els depredadors sexuals a Facebook i Instagram.

El pinyol de les demandes no és el contingut que els usuaris veien, sinó com estan construïdes les aplicacions per evitar que l'usuari les tanqui: l'amplificació de les notificacions, la reproducció automàtica de vídeos i, especialment, la perversitat de l'scroll infinit. Aquesta funció evita que el cervell digui prou. Fins i tot el seu inventor, Aza Raskin —fill de Jef Raskin, creador de Macintosh—, se n'ha penedit públicament en repetides ocasions. "Vaig fer possible que la indústria convertís la psicologia humana en una font d'ingressos", va declarar. De fet, a LinkedIn podeu comprovar que els gegants digitals tenen en plantilla centenars de doctors en psiquiatria. Raskin calcula que el mecanisme malbarata cada dia l'equivalent a 200.000 vides humanes, si ho traduïm en hores perdudes.

Les proves internes presentades als judicis han estat demolidores. Documents de la mateixa Meta revelen que l'empresa sabia que tenia quatre milions d'usuaris menors de 13 anys —l'edat mínima teòrica als EUA— i que el 85% dels experts clínics que ella mateixa va consultar consideraven addictives les xarxes. Malgrat tot, Meta va prioritzar el creixement.

Com esquivar el blindatge legal

Fins ara, les tecnològiques s'acollien a la Secció 230 de la llei de decència en les comunicacions del 1996, que eximeix les plataformes de responsabilitat per allò que els seus usuaris hi publiquen. Els advocats dels demandants han aconseguit una victòria jurídica brillant: no han exigit responsabilitats pel contingut, sinó per l'enginyeria del producte. L'argument acceptat és que la Secció 230 protegeix l'activitat editorial –és a dir, no les fa responsables del que publiquin tercers– però no de les decisions de disseny que fan perillós un producte. Si un cotxe té els frens defectuosos, el fabricant en respon; si una aplicació captura l'atenció dels menors per disseny, el responsable és l'enginyer.

El cas estableix un precedent que milers de demandes pendents aprofitaran. TikTok i Snap, també demandades, van arribar a acords extrajudicials perquè el cost d'un judici de sis setmanes és astronòmic fins i tot per a empreses de la seva mida. Però no tothom celebra les sentències sense reserves. L'analista Mike Masnick argumenta que la teoria jurídica guanyadora funcionarà bé contra empreses que ningú estima, però s'estendrà inevitablement a totes les altres. És ingenu distingir entre contingut i disseny: l'scroll infinit no fa mal perquè existeix, sinó perquè hi ha contingut que fa que la gent vulgui continuar fent scroll. "Eliminar el contingut de l'equació és com culpar les forquilles de l'obesitat", diu.

Si a més els documents interns on els empleats debaten riscos es converteixen en proves d'inculpació, cap empresa tornarà a permetre que ningú escrigui res en un correu. Tots els assessors jurídics de Silicon Valley han après la mateixa lliçó: la ignorància és preferible a la diligència. I, paradoxalment, Meta i Google poden assumir dècades de litigis multimilionaris, però els seus competidors més petits no: les sentències que pretenen castigar els gegants podrien acabar reforçant el seu monopoli.

Mesures correctores: massa poc i massa tard

Davant la pressió, les empreses ja havien aplicat correccions abans del judici. Meta va llançar els "comptes per a adolescents" d'Instagram el setembre del 2024. En la seva declaració, Zuckerberg va dir que hauria volgut actuar "abans", però va traslladar la responsabilitat a Apple i Google, demanant que fossin els fabricants dels sistemes operatius els que verifiquessin l'edat. És comprensible: si el negoci depèn de maximitzar el temps d'ús per vendre anuncis, qualsevol mesura que redueixi l'addicció ataca directament els ingressos.

El precedent tampoc no es quedarà en les xarxes socials: ja hi ha demandes contra OpenAI, Google i Character.AI per disseny perillós dels seus chatbots, i el principi jurídic guanyador a Los Angeles pot aplicar-se a qualsevol plataforma que prengui decisions de disseny que afecten la salut dels usuaris.

Mentre els EUA apliquen límits mitjançant litigis que duren anys, la Unió Europea ha optat per la regulació preventiva amb la llei de serveis digitals (DSA), que obliga les plataformes a avaluar i mitigar els riscos per al benestar físic i mental sota amenaça de multes que no depenen d'un cas individual. La Comissió exigeix transparència als algoritmes i prohibeix la publicitat segmentada per a menors. A tot això s'hi afegeix la IA Act, que en l'article 5 prohibeix explícitament els sistemes que explotin les febleses psicològiques dels usuaris per distorsionar-ne el comportament —una prohibició que apunta directament als algoritmes de recomanació dissenyats per maximitzar la retenció per sobre del benestar. La via europea és preventiva, però lenta de fiscalitzar; la via americana és reactiva i imprevisible, però pot generar canvis ràpids.

Com protegir els menors a casa

Cap sentència canviarà d'un dia per l'altre el que passa a les habitacions dels adolescents. Assumint que, a partir d'una certa edat, privar els fills d'un telèfon és pràcticament impossible, es recomana un enfocament gradual. El primer pas és la configuració estricta: "Temps d'ús" (iOS) i "Family Link" (Android) permeten establir límits per aplicació i períodes de descans en què el terminal queda inoperatiu. El segon és la regla de l'habitació: no carregar el mòbil al dormitori evita l'ús nocturn sense supervisió, el de risc documentat més elevat. El tercer és el filtratge al rúter domèstic per bloquejar contingut de risc. El quart és el "contracte tecnològic": un pacte familiar que defineixi les obligacions d'ús, evitant que el mòbil sigui moneda de canvi o instrument de càstig.

Queda el principi menys còmode: l'exemple. Difícilment un adolescent gestionarà l'scroll compulsiu si veu els seus pares mirant el mòbil a taula. Les plataformes han dissenyat el producte perquè sigui addictiu per a tothom. Reconèixer-ho en família és el primer pas per sortir de la trampa que Aza Raskin porta dues dècades lamentant haver construït.