El Parlament Europeu vota contra el reconeixement facial amb IA en espais públics

EstrasburgPocs temes generen tant de consens a la Unió Europea com la conveniència i la urgència de regular la intel·ligència artificial (IA). Aquest dimecres el Parlament Europeu ha votat a favor, amb una majoria aclaparadora —499 vots a favor, 28 en contra i 93 abstencions— i amb aires de moment històric la primera llei de tot el món que vol controlar aquesta nova tecnologia. Ara bé, fins a l'últim moment el Partit Popular Europeu (PPE) ha intentat permetre sense èxit que es pugui utilitzar el reconeixement facial en espais públics a través de la intel·ligència artificial per prevenir possibles atacs terroristes o trobar persones desaparegudes, principalment menors d'edat.

"No només s'ha de parlar sobre com hem de protegir la ciutadania de la IA, sinó també de com la IA pot protegir la ciutadania", va argumentar en el debat d'aquest dimarts l'eurodiputat popular Jeroen Leaners. Finalment, una gran part de l'Eurocambra ha tombat entre aplaudiments les esmenes de la família política conservadora i ha optat per permetre només l'ús d'identificació biomètrica amb autorització judicial i per perseguir delictes molt greus.

Tot i això, el text legislatiu que ha aprovat aquest dimecres el Parlament Europeu no és definitiu perquè encara l'ha de negociar amb els estats membres, alguns dels quals ja s'han queixat de les intencions dels europarlamentaris de voler limitar en aquest sentit l'ús de la intel·ligència artificial en matèria de seguretat. De fet, la proposta de la Comissió Europea preveia que els cossos de seguretat dels Vint-i-set sí que poguessin utilitzar la identificació biomètrica en alguns casos i, segons el grau de risc, amb més o menys controls.

L'Eurocambra vol acabar amb la IA discriminatòria

Encara que només es pugui acabar utilitzant en casos excepcionals, el Parlament Europeu també vol acabar amb qualsevol mena de sistema de reconeixement facial que categoritzi per gènere, raça, ètnia, nacionalitat, estatus, creences religioses o orientacions polítiques, així com amb els mecanismes predictius policials basats en l'historial delictiu, el perfil de l'acusat i la ubicació, a més dels reconeixedors d'emocions, principalment en ambients laborals i en centres educatius.

Els eurodiputats també volen prohibir els sistemes que utilitzen tècniques subliminars per enganyar als usuaris, els models que permeten una mena de puntuació social dels ciutadans, o la recopilació indiscriminada de dades biomètriques procedents de les xarxes socials o càmeres de vigilància per crear bases de dades de reconeixement facial. D'altra banda, l'Eurocambra opta per acabar amb les tecnologies d'intel·ligència artificial que classifiquen currículums de feina per a procediments de contractació, que qualifiquen sobre la solvència de les persones que volen accedir a un préstec o que estimen la fiabilitat de les proves presentades en un procediment judicial.

Un altre dels punts destacats que els eurodiputats han impulsat és la potenciació de la transparència dels continguts creats a través de la intel·ligència artificial. D'aquesta manera, s'haurà d'advertir quan un producte s'ha generat a través d'eines i tecnologies com el ChatGPT. En la mateixa línia, l'Eurocambra vol que les empreses del sector dissenyin models d'intel·ligència artificial que garanteixin que no generaran continguts il·legals i que publiquin el resum de les fonts que han utilitzat i quins són els seus drets d'autor.