REPORTATGE

La misteriosa companyia que podria acabar amb la nostra privacitat

Una empresa emergent crea una eina que identifica persones desconegudes a través de fotografies extretes de les xarxes socials. ¿L’anonimat desapareixerà per sempre?
Hoan Ton-That, de 31 anys, va néixer a Austràlia i l’any 2007 es va traslladar als Estats Units per triomfar en el mercat de les aplicacions. Després de dos projectes fallits, l’any 2016 va posar en marxa Clearview AI. A la imatge, Ton-That mostrant els resultats de l’aplicació d’una fotografia d’ell mateix. / AMR ALFIKY_THE NEW YORK TIMES
TEXT: KASHMIR HILL / THE NEW YORK TIMES

F ins fa poc, l’èxit més gran de Hoan Ton-That era una aplicació que permet als usuaris afegir a les seves fotografies els característics cabells rossos de Donald Trump. Després, Ton-That -un empresari tecnològic australià- va fer una cosa transcendental: va inventar una eina que pot acabar amb els dies en què es camina pel carrer de manera anònima. I després va proporcionar aquesta creació a centenars d’agències que vetllen per l’ordre públic, des de policies locals a Florida fins a l’FBI i el departament de Seguretat Nacional dels Estats Units.

Clearview AI, la seva petita companyia, va idear una aplicació de reconeixement facial innovadora. Fas una foto a una persona i la carregues a l’aplicació, on pots trobar fotografies públiques d’aquesta persona amb enllaços que et porten a llocs on apareixen aquestes captures. El sistema -que depèn d’una base de dades de més de 3.000 milions d’imatges que, segons Clearview, van ser extretes de Facebook, YouTube, Venmo i milions de llocs web més- va molt més enllà de qualsevol altra cosa que hagin creat el govern dels Estats Units i els gegants tecnològics de Silicon Valley.

Alguns agents de la policia federal i estatal dels Estats Units van dir que, tot i que només tenien informació limitada sobre la manera com funciona Clearview i de qui la va crear, havien utilitzat l’aplicació per ajudar a resoldre casos de furts en botigues, robatoris d’identitat, fraus amb targetes de crèdit, assassinats i casos d’explotació sexual infantil.

Fins ara les tecnologies que identifiquen immediatament les persones a partir de la seva cara han sigut un tema tabú a conseqüència de l’erosió radical que provoquen en la privacitat.

Però, al marge de l’escrutini, més de 600 agències d’ordre públic van començar a utilitzar Clearview l’any passat segons la companyia, que ha rebutjat proporcionar una llista. El codi informàtic en què es basa la seva aplicació inclou llenguatge de programació que permet combinar-lo amb visors de realitat augmentada. Possiblement els usuaris serien capaços d’identificar totes les persones que veiessin. L’eina podria identificar activistes en una protesta o una persona al metro, i revelaria no només els seus noms, sinó també on viuen, què fan i amb qui es relacionen.

Clearview també ha autoritzat l’ús de l’aplicació a un grup d’empreses per motius de seguretat. “Les possibilitats de convertir-la en una arma són infinites”, explica Eric Goldman, codirector del High Tech Law Institute, a la Universitat de Santa Clara (Califòrnia). “Imaginem un agent de policia deshonest que vol assetjar possibles parelles romàntiques o un govern estranger que l’utilitza per revelar secrets sobre persones a les quals després podrà fer xantatge o enviar a la presó”.

“Les possibilitats de convertir l’aplicació en una arma són infinites”

Clearview s’ha envoltat d’hermetisme per evitar el debat sobre la seva tecnologia, que difumina els límits establerts de privacitat. Quan vaig començar a investigar la companyia al novembre, el seu lloc web era una pàgina austera que remetia a una direcció de Manhattan falsa com a seu de la seva oficina. L’únic treballador de la companyia que es pot trobar a LinkedIn, un gerent de vendes anomenat John Good, va resultar ser el mateix Ton-That, però amb un nom fals. Durant un mes les persones afiliades a l’empresa no van respondre als meus correus electrònics ni a les meves trucades.

Tot i que l’empresa m’estava evitant, també m’estava monitoritzant. Després de sol·licitar-ho, alguns policies van carregar la meva fotografia a l’aplicació de Clearview. Poc després van rebre trucades de representants de la companyia, que els van preguntar si estaven parlant amb els mitjans, un senyal que Clearview té la capacitat i, en aquest cas, les ganes de monitoritzar les persones que la policia busca.

La tecnologia de reconeixement facial sempre ha sigut controvertida. L’aplicació de Clearview comporta riscos addicionals, perquè les agències d’ordre públic estan carregant fotografies confidencials als servidors d’una empresa amb una capacitat de protegir les seves dades que no ha sigut posada a prova per organismes experts independents.

La companyia va acabar responent a les meves preguntes i va assenyalar que el seu silenci previ era típic d’una empresa emergent que comença. Ton-That va reconèixer haver dissenyat un prototip per fer servir amb visors de realitat augmentada, però va dir que l’empresa no tenia plantejat llançar-lo. A més, va dir que la meva fotografia havia fet saltar les alarmes perquè l’aplicació “identifica possibles comportaments anòmals de recerca” amb la finalitat d’evitar que els usuaris duguin a terme el que va descriure com a “recerques inapropiades”.

A més de per Ton-That, Clearview va ser fundada per Richard Schwartz -que va ser assessor de Rudolph W. Giuliani quan era alcalde de Nova York- i va rebre suport econòmic de Peter Thiel, l’inversor de capital de risc darrere de Facebook i Palantir, una eina d’espionatge.

Un altre primer inversor va ser una petita firma anomenada Kirenaga Partners. David Scazo, el seu fundador, va restar importància a les preocupacions que genera Clearview, que està fent que es puguin buscar persones per la seva cara a internet, i va dir que és una eina valuosa per resoldre crims. “He arribat a la conclusió que, com que la informació augmenta constantment, mai hi haurà privacitat”, va dir Scalzo. “Les lleis han de determinar el que és legal, però no pots prohibir la tecnologia. Podria portar-nos a un futur distòpic o alguna cosa així, però no pots prohibir-la”.

Addictes a la intel·ligència artificial

Ton-That, de 31 anys, va créixer molt lluny de Silicon Valley, a Austràlia, el seu país d’origen. El 2007 va abandonar la universitat i es va traslladar a San Francisco. L’iPhone acabava de sortir al mercat i el seu objectiu era entrar de manera primerenca en el que, segons esperava, seria un emocionant mercat d’aplicacions de xarxes socials.

El 2015 va crear Trump Hair, una aplicació que afegia el pentinat distintiu del president dels Estats Units a les persones que apareixien en una fotografia, i va concebre un programa d’intercanvi d’imatges. Els dos projectes van fracassar.

Desanimat, Ton-That es va traslladar a Nova York el 2016. Alt i prim, amb els cabells llargs i negres, va considerar dedicar-se a fer de model, recorda. Però després d’una sessió de fotos va tornar a intentar descobrir la pròxima gran novetat en el món de la tecnologia. Va començar a llegir articles acadèmics sobre intel·ligència artificial, reconeixement d’imatges i aprenentatge automàtic.

Schwartz i Ton-That es van conèixer el 2016 en un esdeveniment de llibres a l’Institut Manhattan, un centre de pensament conservador. Schwartz, que ara té 61 anys, havia reunit un nombre de contactes impressionant de l’època en què va treballar per a Rudolph Giuliani, exalcalde de Nova York, a la dècada dels noranta. Poc després, els dos van decidir fer incursions junts en el negoci del reconeixement facial: Ton-That construiria l’aplicació i Schwartz utilitzaria els seus contactes per activar l’interès comercial. Els departaments de policia han tingut accés a les eines de reconeixement facial durant gairebé vint anys, però històricament s’han limitat a buscar imatges proporcionades pel govern, com fotografies de promptuari i de llicències de conducció.

Ton-That volia anar més enllà i va començar el 2016 reclutant un parell d’enginyers. Un d’ells va ajudar a dissenyar un programa que automàticament pot recollir imatges de la cara de la gent a internet, a través de les xarxes socials i de pàgines web per trobar feina, per exemple. Els representants d’aquestes companyies van dir que les seves polítiques prohibeixen aquest tipus de recopilació de dades i Twitter va anunciar la prohibició explícita de l’ús de les seves dades en tecnologia de reconeixement facial.

Al segon enginyer el van contractar per perfeccionar un algoritme de reconeixement facial que es va crear a partir d’articles acadèmics. El resultat: un sistema que utilitza el que Ton-That descriu com una “xarxa neuronal d’avantguarda” per convertir totes les imatges en fórmules matemàtiques -o vectors- que tenen com a base la geometria facial, amb dades com la distància que hi ha entre els ulls d’una persona, per exemple. Clearview va crear un gran directori que agrupava totes les fotografies amb vectors similars en “veïnats”. Quan un usuari carrega la fotografia d’un rostre al sistema de Clearview, el sistema converteix el rostre en un vector i després mostra totes les fotografies extretes i emmagatzemades al veïnat d’aquests vectors, juntament amb els enllaços als llocs dels quals provenen aquestes imatges.

Clearview és una companyia diminuta fins i tot després d’haver recaptat 7 milions de dòlars d’inversionistes, segons Pitchbook, un lloc web que segueix les inversions de les empreses emergents. La companyia va rebutjar confirmar cap quantitat.

Un èxit viral

La policia estatal d’Indiana va començar a experimentar amb Clearview i va resoldre un cas només vint minuts després de començar a fer servir l’aplicació. Dos homes s’havien barallat en un parc i el conflicte va acabar quan un va disparar l’altre a l’estómac. Un vianant va gravar el delicte amb el mòbil, així que la policia tenia una imatge de la cara de l’atacant i la van poder carregar a l’aplicació de Clearview.

L’eina troba coincidències en un 75% dels casos, segons la companyia

Van trobar una coincidència immediatament: l’home apareixia en un vídeo que algú havia publicat a les xarxes socials, i el seu nom estava inclòs a la informació que acompanyava el vídeo. “No tenia carnet de conduir ni havia sigut detingut d’adult, així que no era a la base de dades del govern”, va dir Chuck Cohen, capità de la policia estatal d’Indiana en aquell moment.

L’home va ser detingut i acusat. Cohen va dir que potser no l’haurien identificat sense l’oportunitat de buscar la seva cara a les xarxes socials. La policia estatal d’Indiana es va convertir en el primer client comercial de Clearview, segons la companyia. (La policia va rebutjar fer comentaris més enllà d’assenyalar que havien provat l’aplicació de Clearview.)

La tècnica de vendes més eficaç de l’empresa va ser oferir períodes de prova de trenta dies als oficials. Ton-That per fi va tenir el seu primer èxit viral.

Les forces de seguretat federals, inclosos l’FBI i el departament de Seguretat Nacional dels Estats Units, l’estan provant, així com les autoritats de la policia del Canadà, segons la companyia i funcionaris de govern.

“Estem tots perduts”

Ton-That diu que l’eina no sempre funciona. La majoria de les fotografies de la base de dades de Clearview es fan al nivell dels ulls i gran part del material que carrega la policia està fet a escala aèria, perquè prové de càmeres de vigilància muntades en sostres o a la part superior de murs.

“Van posar les càmeres de vigilància massa amunt”, es va lamentar Ton-That. “L’angle no és el millor per a un bon reconeixement facial”.

Tot i això, va assenyalar la companyia, la seva eina troba coincidències en un 75% dels casos. Però no està clar amb quina freqüència ofereix coincidències falses, perquè no l’han provat instàncies expertes independents, com l’Institut Nacional d’Estàndards i Tecnologia, una agència federal dels Estats Units que qualifica el rendiment dels algoritmes de reconeixement facial.

“No tenim dades que suggereixin que aquesta aplicació sigui precisa”, diu Clare Garvie, investigadora del Centre de Privacitat i Tecnologia de la Universitat de Georgetown, que ha estudiat l’ús que el govern fa del reconeixement facial. “Com més gran sigui la base de dades, més gran és el risc d’identificació errònia per l’efecte doppelgänger (el mite segons el qual tots tenim un doble en alguna banda). Estan parlant d’una base de dades massiva de persones aleatòries que han trobat a internet”.

Però funcionaris policials retirats i en actiu han dit que l’aplicació és efectiva. “Per a nosaltres, la prova va ser si va funcionar o no”, diu Chuck Cohen, l’excapità de la policia estatal d’Indiana.

Una raó per la qual Clearview està tenint èxit és que el seu servei és únic: Facebook i altres xarxes socials prohibeixen que s’extreguin les imatges dels usuaris. Al fer-ho, Clearview està violant els termes de servei d’aquestes plataformes. “Molta gent ho està fent”, va dir Ton-That, arronsant les espatlles. “Facebook ho sap”.

Jay Nancarrow, un portaveu de Facebook, va dir que la companyia estava debatent la situació amb Clearview i que prendrien “les mesures apropiades” si descobrien que “estan violant” les seves regles.

Alguns agents de les forces de seguretat van dir que no es van adonar que les fotografies que van carregar s’havien enviat i emmagatzemat als servidors de Clearview. La companyia intenta anticipar-se a aquestes preocupacions amb un document de preguntes freqüents que proporciona als possibles clients, en el qual assenyala que els seus treballadors d’atenció al client no venen les fotografies que carrega la policia.

Clearview va contractar Paul Clement, fiscal general dels Estats Units durant el govern de George W. Bush, per dissipar preocupacions sobre la legalitat de l’aplicació.

En un memoràndum del mes d’agost que Clearview va proporcionar als seus possibles clients, inclòs el departament de Policia d’Atlanta, Clement va dir que les agències d’ordre públic “no violen la Constitució o les lleis rellevants i vigents de biomètrica i privacitat quan utilitzen Clearview com és degut”.

S’han envoltat d’hermetisme per evitar el debat sobre la seva tecnologia

Clement, ara soci de Kirkland & Ellis (un dels bufets d’advocats més grans del món), va escriure que les autoritats no han de comunicar als acusats que van ser identificats a través de Clearview, sempre que no sigui l’única raó per la qual van obtenir una ordre per arrestar-los. Clement no va respondre a diverses sol·licituds perquè parlés del tema.

Semblava que el memoràndum era eficaç: la policia d’Atlanta va començar a utilitzar Clearview poc després.

Com que la policia puja fotografies de persones que intenta identificar, Clearview posseeix una base de dades cada cop més gran de persones que han atret l’atenció de les autoritats. La companyia també té la capacitat de manipular els resultats que veu la policia. Després que la companyia s’adonés que vaig sol·licitar a agents que pugessin la meva foto a l’aplicació, els sistemes de Clearview no van mostrar coincidències de la meva cara durant força temps. Quan Ton-That va ser qüestionat per això, va esclatar a riure i ho va anomenar un “error de software”.

“Això que estan fent és esgarrifós. I crec que hi haurà moltes més empreses d’aquestes. No hi ha monopoli en matemàtiques”, va dir Al Gidari, professor de privacitat a la Facultat de Dret de Stanford. “En absència d’una llei federal de privacitat forta, estem tots perduts”.

Woodrow Hartzog, professor de dret i informàtica a la Universitat Northeastern a Boston, considera que Clearview és la prova més recent que el reconeixement facial s’ha de prohibir als Estats Units.

“Hem depès dels esforços de la indústria per autovigilar-se i no adoptar una tecnologia tan arriscada, però ara aquests controls s’estan desintegrant perquè hi ha molts diners sobre la taula”, va dir Hartzog. “No veig un futur en què aprofitem els beneficis de la tecnologia de reconeixement facial sense l’abús paralitzant de la vigilància que implica. L’única manera de frenar-la és prohibir-la”.

Tothom sap el teu nom

Durant una entrevista recent a les oficines de Clearview -en un espai de WeWork a Manhattan-, Ton-That va fer una prova de l’aplicació amb una foto seva. Es va fer una selfiei la va pujar. L’aplicació va trobar 23 fotografies seves. En una apareix sense camisa, amb un cigarret a la boca i cobert del que sembla sang.

Després Ton-That va pujar una foto meva a l’aplicació. L’anomenat “error de software” s’havia solucionat i aleshores la meva foto va donar molts resultats, alguns de fa més d’una dècada, incloses fotos que no havia vist mai abans. Després vaig tornar a fer-me una foto tapant-me el nas i la part inferior de la cara i, tot i així, l’aplicació encara va proporcionar set coincidències correctes.

Els oficials de policia i els inversors de Clearview preveuen que amb el temps l’aplicació estarà disponible per al públic. Però Ton-That va dir que no n’era partidari. “Sempre hi haurà una comunitat de persones dolentes que voldran utilitzar-la incorrectament”, va dir.

Fins i tot si Clearview no posa a disposició del públic general l’aplicació, alguna altra empresa podria fer-ho ara que el tabú s’ha trencat. Buscar una persona pel seu rostre podria ser tan fàcil com buscar el seu nom a Google. Els estranys podrien escoltar converses delicades, fer fotos dels que hi participen i conèixer secrets personals. Algú que camina pel carrer seria identificable immediatament i la direcció de casa seva estaria només a uns clics de distància. Seria el final de l’anonimat públic.

Quan Ton-That va ser qüestionat sobre les implicacions de portar aquest poder al món, l’empresari va semblar desconcertat. “Hi he de pensar -va dir-. Creiem que aquest és el millor ús de la tecnologia”.

El + vist

El + comentat