Beth Noveck: "Podem entrar en l'edat d'or de la participació democràtica"

Beth Noveck (Nova Jersey, EUA, 1971) deixa clar en cadascuna de les seves respostes que es nega a caure en el derrotisme. Ofereix solucions, posa exemples d'èxit i defensa que la IA pot ajudar a fer que el funcionament de les institucions millori. I sap de què parla, no només perquè és experta en com utilitzar la tecnologia per fer governs més oberts, sinó perquè coneix les institucions des de dins: va ser la primera directora de Tecnologia dels Estats Units durant el mandat de Barack Obama. Visita Barcelona per apadrinar la presentació de l'Estratègia 2026-2037 de la Universitat Pompeu Fabra.

Doni’ns una bona notícia.

— Els meus alumnes van utilitzar la IA per localitzar tots els nens amb dret a beca menjador de Nova Jersey que no estaven ben identificats en el sistema. Hi ha milers de nens que gràcies a això reben una ajuda.

A mi em venen altres casos.

— Digui.

Una dona que va estar cinc mesos a la presó. El reconeixement fàcil basat en IA la va confondre per error amb una altra persona. 

— La IA és una oportunitat i una amenaça. Hem de tenir formació, saber-la fer servir, però si només ens preocupem no estem parlant de tot el que podem fer bé amb aquestes eines. 

"I have a dream", deia Obama. Coneix bé la seva administració.

— Vaig ser la primera directora de Tecnologia dels Estats Units sota el seu mandat. I fundadora de la iniciativa de govern obert de la Casa Blanca.

Què la va sorprendre?

— Tenim una frase en anglès: mai atribueixis malícia al que es pot explicar amb incompetència. 

Eren incompetents…

— No, però de vegades hi ha canvis que pensem que no es fan perquè la gent és dolenta i no vol, i simplement no en saben. La IA canvia com hem de fer participació ciutadana. 

Com ho canvia?

— Facilitar que els ciutadans parlin no vol dir que les institucions escoltin. La IA és emocionant perquè les institucions poden escoltar. 

Un bon exemple d’escolta?

— A Hamburg han creat una eina amb què analitzen el que diuen els ciutadans. I el que abans era una feina de mesos ara ho tens gairebé en temps real i pots actuar en conseqüència. Totes les decisions sobre planificació urbana s’estan prenent amb participació ciutadana. 

I no s’allarga el procés?

— No, per això crec que podem estar entrant en una edat d’or de la participació democràtica si aprenem a fer-ho bé. 

Pot ser democràtica la IA en mans privades?

— Barcelona és el centre mundial del que s’anomena IA pública, amb el Barcelona Supercomputing Center. Hi ha diferents models, però la clau és tractar-ho com una infraestructura bàsica.

O sigui…

— Com l’electricitat o l’aigua. El que és important és que estiguin sota control públic. Veig molta preocupació a Europa per si la controla algú de Silicon Valley. 

No ens ha de preocupar?

— No és millor si algú seu a Brussel·les, París o Madrid i l’únic que li interessa és colar-me publicitat amb la IA. S’ha de regular com un bé públic. 

Els algoritmes haurien de ser públics?

— Sí, però el model canvia quan s’hi afegeixen més dades. Ha de ser un procés continu de transparència i proves. I en el cas de la IA el problema, a més a més, és que no sabem com funciona.

No ho sabem?

— No és explicable per què ChatGPT, quan li demano un poema, me n'escriu un dilluns i dimarts un altre. Però necessitem transparència i regulació per saber com s’utilitza un algoritme. 

Però com podem assegurar que se'n fa un bon ús si ni tan sols entenem com funciona?

— Hem de diferenciar dues coses: reconeixement de patrons passats i prediccions de futur.

A veure...

— L’aprenentatge automàtic consisteix en reconèixer grans patrons de dades. No té gaire misteri. Pots analitzar els problemes dels últims 15 anys per veure on tenen especialment problemes els alumnes. La IA és molt bona en això. 

El que és controvertit, per tant, és fer prediccions.

— El futur no és perfectament predictible. Podries tenir totes les dades del món i malgrat això no podries saber si l'endemà t’atropellarà un autobús. Aquí és on hem de ser curosos i aprendre quan podem confiar en la IA. Però ara, que no tenim educació sobre això, ho barregem tot.

Parlem d'IA per millorar les institucions en un moment en què sembla que les institucions han deixat d’importar a molta gent. 

— Perquè no saben què fan. Es diu que la política és Hollywood per a la gent lletja. 

No sé si ho entenc...

— És l’esport de la política. A la gent li agrada l’espectacularitat dels retrets, la lluita de guanyar o perdre eleccions. Però no parlem del que passa l’endemà, i com a resultat d'això a la gent no li importa. Pot sortir Trump i dir que es carrega milers de llocs de treball públics i la gent el vota. Però veig moltes persones que comencen a dir: espera't, què estic perdent exactament? Potser soc optimista, però crec que aquesta desestructuració pot servir perquè la gent reconegui que un govern gestionat és una cosa important. 

Com pot passar un país d’Obama a Trump?

— No és un trencament d’un lloc a l’altre. Hi ha una connexió amb les institucions que no són efectives per resoldre els problemes, i això no té a veure amb dreta o esquerra. Hem de centrar-nos en la feina de governança que millora la vida de les persones. I la IA, ben utilitzada, és una gran ajuda.