El centre de recerca Intelligent Data Science and Artificial Intelligence (IDEAI) de la UPC i el laboratori d’innovació digital SokoTech han posat en marxa el projecte Top Secret Rosies, una plataforma que pretén orientar les dones cap a l’exercici professional de la intel·ligència artificial, especialment en el sector de la salut, el benestar i la qualitat de vida. El projecte, amb inscripcions obertes fins al 25 de maig, consisteix en un curs i un repte. La formació ofereix eines per entendre la intel·ligència artificial des d’una perspectiva global, i el repte és un concurs d’idees per resoldre problemes reals d’empreses del sector. Els projectes guanyadors rebran una beca per cursar el màster oficial interuniversitari en intel·ligència artificial (UPC-URV-UB). Top Secret Rosies s’adreça tant a dones que cursin l’últim any d’un grau científico-tècnic com a dones graduades, i vol ser un homenatge a les pioneres de la computació que a la dècada dels 40 del segle passat van programar l’ENIAC, el primer ordinador completament digital.
Europa fa els primers passos per regular la intel·ligència artificial
La Comissió Europea ha publicat un esborrany de normativa en matèria d’intel·ligència artificial. “Es tracta del primer intent seriós de regular aquesta tecnologia i això per si sol ja té un interès històric”, considera Carles Sierra, director de l’Institut d’Investigació en Intel·ligència Artificial (IIIA-CSIC) i president de la Societat Europea d’Intel·ligència Artificial (EurAi).
L’objectiu d’aquesta iniciativa, tal com han explicat fonts de la Comissió, és garantir la seguretat i els drets fonamentals de persones i empreses, així com reforçar la inversió i la innovació en aquest camp. “Hem de poder confiar en els sistemes d’intel·ligència artificial i amb aquesta normativa Europa lidera el desenvolupament de noves normes globals per assegurar-ho, al mateix temps que continua sent competitiva”, ha explicat en un comunicat Margrethe Vestager, responsable de polítiques digitals de la Comissió.
La proposta comença amb una classificació dels diversos sistemes d’intel·ligència artificial en funció del seu risc. Els sistemes de risc inadmissible, que es consideren una amenaça per a la seguretat i els drets de les persones, es prohibiran directament. En aquest primer grup hi ha, per exemple, aplicacions que manipulen el comportament humà, com ara joguines que utilitzen l’assistència de veu per incitar els menors a comportaments perillosos, o sistemes que permetin als governs puntuar els ciutadans. A continuació, els sistemes d’alt risc comprenen tecnologies que s’utilitzen en el transport (conducció autònoma), en l’educació (puntuació d’exàmens), en la medicina (robots cirurgians), en la banca (concessió de crèdits) o en la gestió de la migració (verificació de documents), entre d’altres. Tots aquests sistemes haurien d’estar subjectes a obligacions com la traçabilitat de tota la cadena de presa de decisions o la utilització de dades de qualitat per minimitzar els resultats discriminatoris. Les dues categories restants estan formades pels sistemes de risc limitat, com els robots conversadors, i els de risc mínim, com els videojocs o els filtres de correu electrònic. En el primer cas, l’esborrany preveu que els usuaris tinguin la informació que estan interactuant amb una màquina per decidir si ho continuen fent, mentre que no intervé en el segon.
Una regulació polèmica
EDRi, una xarxa europea formada per 44 oenagés, experts i acadèmics en matèria de drets digitals, ha valorat positivament algunes de les regulacions, però s’ha mostrat en desacord que no es prohibeixi, entre altres usos, la vigilància massiva basada en el reconeixement biomètric. “És un primer intent de legislació que no deixa satisfet ningú”, diu Ulises Cortés, catedràtic i coordinador del grup d’intel·ligència artificial i supercomputació de la UPC. “Si la societat no entén els riscos d’aquesta tecnologia i no reclama els seus drets als polítics, no ens els donaran -diu-. I per això cal molta informació i educació”.
Segons Carles Sierra, “la classificació en nivells de risc portarà cua”. “Si un cotxe autònom es considera d’alt risc i hi ha l’obligació d’explicar com pren les decisions, això serà un problema per a la indústria automobilística -explica-, perquè les decisions les prenen sistemes d’aprenentatge automàtic de molt baix nivell que són impossibles d’entendre per a un humà”.
Per altra banda, tant Sierra com Cortés coincideixen en destacar que la proposta tampoc regula l’ús d’armes letals autònomes com els drons militars.
