Les grans tecnològiques haurien de pagar pel que ens han fet
Finalment ha passat: s'ha considerat que les companyies de xarxes socials són responsables de la toxicitat dels seus algoritmes. Dimecres passat, en la primera sentència d’aquest tipus, un jurat del Tribunal Superior de Califòrnia va concloure que Meta i YouTube havien perjudicat una usuària a causa de les decisions que havien pres al crear un disseny addictiu per a les seves aplicacions.
Les conseqüències per al sector podrien ser importants. Aquest cas és només un dels milers que hi haurà arreu del país, i els tribunals estan intentant agrupar-los. Aquesta situació podria acabar amb un gran acord únic, similar al que van signar el 1998 les quatre principals tabaqueres per resoldre unes demandes que ascendien a un valor estimat de 206.000 milions de dòlars, en el marc d’un acord general amb 46 estats.
Compensar les persones pels danys causats pels seus productes és només el costat positiu. La victòria real seria que els gegants de les xarxes socials es veiessin obligats, finalment, a dissenyar productes menys perjudicials.
Em refereixo a funcions com l’scroll o desplaçament infinit, que atrau les persones amb un contingut aparentment interminable, i la reproducció automàtica, que inicia els vídeos abans que ho decidim. I, per descomptat, als algoritmes que difonen la desinformació i amplifiquen barbaritats. Són tècniques que les grans tecnològiques fan servir per mantenir-nos mirant la pantalla el màxim de temps possible. Tant li fa si aquestes pràctiques –que els són rendibles– suposen un cost terrible per als usuaris i la societat.
Durant anys, les tecnològiques s’han defensat de les acusacions de dany recorrent repetidament a una carta d’exempció que els va concedir una llei del 1996. Coneguda com la Secció 230 de la Communications Decency Act [Llei de Decència en les Comunicacions], alliberava les empreses tecnològiques de la responsabilitat dels continguts publicats pels usuaris a les seves plataformes. Durant dècades, tota mena d’empreses tecnològiques l’han utilitzada per defensar-se, amb èxit, d’una llista creixent d’acusacions, com facilitar la venda de drogues, l’assetjament sexual o el comerç il·legal d’armes.
Una nova generació de demandes ha començat a perforar aquest escut. En comptes d’al·legar que el contingut és perjudicial, els demandants argumenten que són els dissenys i algoritmes de les empreses els que causen el dany. “La indústria tecnològica s’ha blindat històricament davant l’escrutini invocant la Secció 230, la Primera Esmena o totes dues. Però això s’ha acabat”, va dir Meetali Jain, fundadora de Tech Justice Law Project, una entitat sense ànim de lucre dedicada a l’activisme i el litigi.
En el cas de Califòrnia, el jurat ha dictaminat que Meta i YouTube han de pagar 6 milions de dòlars per danys i perjudicis a K.G.M., una jove anònima de 20 anys que va declarar que els filtres de bellesa de les xarxes socials li havien provocat una intensa ansietat sobre el seu aspecte físic i que funcions com la reproducció automàtica i els comptadors de “M’agrada”, que li permetien comprovar quantes persones reaccionaven a les seves publicacions, van contribuir a la seva depressió.
És probable que recorrin contra el veredicte. I és probable que, a mesura que altres casos es jutgin en tribunals d’arreu del país, vegem resolucions contradictòries. Però amb aquesta decisió ha començat el temps de responsabilitzar les tecnològiques de les seves decisions antisocials.
Costa recordar-ho, però quan va introduir el News Feed el 2006, Facebook només era una manera perquè la gent pogués veure les publicacions dels seus amics en un sol lloc, en comptes d’haver de visitar cadascuna de les seves pàgines.
Amb el temps, però, el feed algorítmic s’ha convertit en una cosa completament diferent i sobre la qual els usuaris tenen poc control. Les empreses van adonar-se que la gent passaria més temps a les aplicacions si quedava hipnotitzada per un flux interminable de contingut impactant i groller. El contingut que manté més temps els ulls enganxats és el que guanya.
En aquest món darwinià hi ha hagut poc espai perquè els algoritmes apel·lin a la part més noble de la nostra humanitat. Per què una empresa que busca beneficis ens animaria a deixar el mòbil, sortir a caminar, veure un amic o visitar l’avi? Per què ens hauria d’encoratjar a sentir-nos segurs de nosaltres mateixos, quan la baixa autoestima ens fa tornar una vegada i una altra a les aplicacions?
Aquestes empreses podrien continuar guanyant molts diners sense moltes de les seves funcions més tòxiques. No necessiten oferir filtres de bellesa (que generen ràpidament imatges idealitzades i irreals) ni notificacions constants que deixen els usuaris sotmesos a la por de perdre’s alguna cosa. Podrien deixar d’imposar contingut escandalós i tornar a donar a la gent més control sobre els seus feeds.
Les empreses que actuen mogudes per la recerca del màxim benefici difícilment decidiran guanyar menys diners. Per això podríem augmentar el cost del mal comportament. Va funcionar amb el tabac: encara es pot fumar, però, als Estats Units, cada paquet pot costar 15 dòlars, i sovint és difícil trobar un lloc on estigui permès.
De la mateixa manera, no cal prohibir les xarxes socials. Només cal que a les empreses els surti massa car continuar funcionant com fins ara.
Copyright 'The New York Times'
