Accionistes d'Amazon no volen que el programa de reconeixement facial es vengui a la policia

Una comunitat de monges, entre els inversors que impulsen la iniciativa contra "un estat policial"

NATASHA SINGER / THE NEW YORK TIMES

El programari de reconeixement facial està cada cop més sota sospita dels grups defensors dels drets humans. Ara Amazon, un dels proveïdors més visibles d'aquesta tecnologia, també s'enfronta a pressions, però aquest cop dels seus propis accionistes. A la reunió anual d’Amazon a Seattle d'aquest dimecres, els inversors votaran sobre si el gran esforç que està fent el gegant tecnològic per difondre el programari de vigilància, anomenat Amazon Rekognition, posa en perill els drets civils i, per tant, la reputació i els beneficis de la companyia. Els impulsors de la iniciativa qüestionen que l'empresa continuï oferint aquesta eina a la policia nord-americana. La vigilància facial es pot utilitzar per identificar i rastrejar les persones a distància sense el seu coneixement ni el seu consentiment.

El valor d'Amazon a la borsa supera per primer cop el bilió de dòlars

Els accionistes han introduït dues propostes de votació sobre el reconeixement facial. Una demana a la companyia que prohibeixi vendre el seu sistema de reconeixement facial a organismes governamentals, llevat que el seu consell conclogui que la tecnologia no facilita les violacions dels drets humans. L’altra demana a l'empresa que encarregui un informe independent que examini en quina mesura Rekognition pot amenaçar els drets civils, humans i de privacitat i les finances de la companyia.

"Aquest programari que Amazon ha desenvolupat no ens sembla que sigui el millor per al bé comú", assegura Pat Mahoney, membre de les Germanes de Sant Josep, una comunitat religiosa de Brentwood, Nova York, que inverteix a Amazon. "El reconeixement facial a tot arreu només fa que tothom visqui en un estat policial".

Les propostes no són vinculants, però augmenten la resistència a la tecnologia de vigilància facial entre els electors, els grups defensors de les llibertats civils i fins i tot entre el personal d’Amazon. La setmana passada, San Francisco va prohibir que la policia i altres organismes de la ciutat utilitzin tecnologia de vigilància facial. Oakland, Califòrnia i Somerville estan estudiant prohibicions similars. A principis d’any, els legisladors estatals a Massachusetts i Califòrnia van introduir projectes de llei que restringirien l'ús de tecnologies de reconeixement facial per part d’organismes governamentals. Dimecres el comitè de supervisió i reforma de la cambra té una audiència sobre les implicacions de la vigilància facial en els drets civils.

L'any passat els inversors van pressionar amb èxit Apple per endurir el control parental dels iPhones, advertint que el dispositiu podria ser massa addictiu per als nens petits. En les pròximes setmanes, els accionistes de Facebook, Twitter i Alphabet votaran sobre qüestions relacionades amb les interferències electorals, els discursos d'odi, la desinformació i la creació de serveis censurats per a la Xina.

"No som luddites, no som antitecnologia", va dir Michael Connor, director executiu d'Open MIC, un grup sense ànim de lucre que treballa amb inversors activistes del sector tecnològic i ha ajudat a elaborar propostes de vigilància facial amb els accionistes d'Amazon. "Però creiem que totes aquestes tecnologies s'han d'utilitzar de manera responsable".

Per a la reunió anual d’Amazon d’aquest dimecres, els empleats que són accionistes també han introduït una proposta sobre el canvi climàtic, que insta la companyia a adoptar compromisos ferms per reduir la seva petjada de carboni.

Però Amazon va lluitar especialment per evitar que es votés sobre vigilància facial. En una carta dirigida a la Comissió de Borsa i de Valors al gener, la companyia va dir que no tenia constància que la policia hagués fet un ús indegut d'aquesta tecnologia.

En un comunicat, Amazon al·lega que dona pautes clares sobre l’ús de Rekognition per a la seguretat pública, incloent-hi una recomanació que els organismes encarregats de fer complir la llei tinguin persones revisant les possibles coincidències facials suggerides pel seu sistema. La companyia afegeix que els seus clients havien utilitzat Rekognition per identificar més de 3.000 víctimes del tràfic de persones.

Com funciona?

El reconeixement facial utilitza intel·ligència artificial per escanejar una foto d'una persona desconeguda. El programari compara llavors la plantilla facial de la persona desconeguda amb una base de dades de plantilles de persones conegudes i, si les plantilles són molt similars, pot suggerir un nom o una coincidència.

Els defensors de la tecnologia argumenten que aquests sistemes ajuden els organismes encarregats d'aplicar la llei a identificar més fàcilment els sospitosos de crims, o persones desaparegudes. Els grups defensors de les llibertats civils adverteixen que la tecnologia es podria utilitzar fàcilment per perseguir de manera desproporcionada els immigrants, les persones negres i els manifestants, i infringir així els seus drets a la llibertat d'expressió i al moviment.

L’any passat Google va dir que no oferiria reconeixement facial per a finalitats generals fins que hagi estudiat més les seves implicacions polítiques. Aquest any el president de Microsoft, Bradford L. Smith, ha dit que la seva empresa ha decidit no vendre la tecnologia de vigilància als departaments de policia que volguessin utilitzar-lo lliurement per als ciutadans en general.

Uns quants grans inversors institucionals –incloent-hi els fons de pensions de la ciutat de Nova York, que tenen prop de 1.000 milions de dòlars invertits a Amazon– han anunciat que votaran a favor de la proposta d'un informe independent sobre vigilància facial.

"Volem que el consell d’Amazon controli i expliqui com la companyia tracta els riscos significatius que suposa la venda de tecnologia de reconeixement facial", alerta Scott Stringer, supervisor de l'Ajuntament de Nova Work i assessor dels fons d'inversió. Stringer descriu el programari com "un producte que podria provocar violacions de drets humans i civils a tot el món, especialment si es ven a governs autoritaris".

Potser no seran prou arguments per canviar la política d'Amazon. “Les tecnologies sempre tenen dues cares. Es poden fer servir malament”, va dir Jeff Bezos, primer executiu d’Amazon, en una conferència tecnològica la tardor passada, i va afegir: “Sempre ha sigut així i ho sabem. L’últim que voldria fer és aturar el progrés de les noves tecnologies, fins i tot quan tenen un ús dual".

Copyright The New York Times

Més continguts de