Amazon prohibirà durant un any a la policia fer servir Rekognition, el seu programa de reconeixement facial

Defensors de les llibertats civils denuncien que la tecnologia agreuja el biaix racista

Amazon ha anunciat aquesta matinada que prohibirà durant un any sencer que als cossos de policia usin el seu programa de reconeixement facial, Rekognition, en el marc de l'onada de protestes contra el racisme policial als Estats Units. I és que s'ha comprovat que aquesta tecnologia comet més errors amb les cares de pell negra i altres minories, de manera que pot agreujar el biaix racista de les actuacions policials.

Càmeres amb reconeixement facial: un Gran Germà que no és Matrix

En un concís missatge al seu blog oficial, l'empresa que dirigeix Jeff Bezos explica que farà una "moratòria" d'un any perquè el Congrés tingui temps d'"implementar les normes adequades" en l'ús policial d'aquesta tecnologia basada en la intel·ligència artificial. Amazon aclareix que podran continuar utilitzant el seu software el Centre per la Infància Desapareguda i Explotada i Marinus Analytics, que lluita contra el tràfic de persones.

L'any passat San Francisco va ser la primera gran ciutat dels Estats Units a prohibir a totes les agències locals, entre les quals la policia, l'ús de tècniques de reconeixement facial, cada vegada més utilitzades per les autoritats per identificar criminals però criticades per les organitzacions pro drets civils. L'ús d'intel·ligència artificial en el reconeixement facial està qüestionat per invasió de la privacitat i també pel fet que falla més amb les persones de pell negra o pertanyents a minories, de manera que contribueix a reforçar el biaix racista de les operacions policials.

En una prova que va fer el 2018 la Unió Nord-americana per a les Llibertats Civils, el sistema de reconeixement facial d'Amazon va confondre amb delinqüents 28 dels 535 membres del Congrés dels Estats Units. L'experiment també va evidenciar un biaix racial: el 40% d'identificacions errònies eren de congressistes negres, tot i que només representen el 20% de la cambra.

Gemma Galdon, directora d'Eticas Consulting, explica a l'ARA que en el fons hi ha un problema de fiabilitat d'aquesta tecnologia. "La decisió d'Amazon demostra que hi ha un secret del domini públic, que és que el reconeixement facial no funciona, és una tecnologia molt immadura que dona molts falsos positius i falsos negatius, sobretot en l'espai públic. I si hi sumem que la gent comença a fer servir massivament mascaretes, les càmeres no poden llegir res. El que veiem és que no serà un negoci a mitjà i a llarg termini senzillament perquè la tecnologia no funciona i no contribueix a res".

Amazon no aclareix com aplicarà la moratòria a l'ús policial de la seva tecnologia, però el més probable és que no ofereixi el seu servei a més cossos policials i que deixi de donar suport tècnic als que ja disposen del programari.

La decisió d'Amazon arriba només dos dies després que un altre gegant de la tecnologia, BM, anunciés que es retira del negoci de reconeixement facial, també com a resposta a les crítiques del suposat biaix racial que aquesta tècnica ha rebut.

Per a Galdon, també hi ha un problema d'incertesa jurídica que garanteixi les inversions en innovació per a aquestes grans plataformes: "Els estats han exigit a les plataformes que s'autoregulin. Demanar a Amazon que decideixi si ven reconeixement facial o no a la policia és traspassar-li la responsabilitat de decidir si compleix la llei. No volen seguir invertint en una tecnologia que pot acabar prohibida perquè ningú ha establert unes normes, cosa que representa una deixadesa per part de les institucions".