Líders de la IA adverteixen del "risc d’extinció" que suposa

Un grup d'investigadors de la indústria tecnològica han advertit aquest dimarts que la intel·ligència artificial (IA) que estan desenvolupant pot suposar en un futur una amenaça existencial per a la humanitat, i que aquesta tecnologia s'hauria de considerar un risc social igual que les pandèmies i les guerres nuclears.

"Mitigar el risc d'extinció que pot suposar la IA hauria de ser una prioritat global juntament amb altres riscos a escala social, com ara pandèmies i guerres nuclears", diu el Center for AI Safety, una organització sense ànim de lucre, en una comunicació pública. La carta oberta ha estat signada per més de 350 executius, investigadors i enginyers que treballen en intel·ligència artificial.

Entre els signants hi ha alts executius de tres de les principals empreses d'IA: Sam Altman, CEO d'OpenAI; Demis Hassabis, CEO de Google DeepMind; i Dario Amodei, director general d'Anthropic.

Geoffrey Hinton i Yoshua Bengio, dos dels tres investigadors que van guanyar un premi Turing pel seu treball pioner en xarxes neuronals i que sovint són considerats els pares del moviment modern d'IA, també han signat la declaració, igual que altres destacats investigadors en aquest camp. El tercer guanyador del premi Turing, Yann LeCun, que lidera els esforços de recerca en IA de Meta, no ha signat.

La declaració arriba en un moment de preocupació creixent pels danys potencials de la intel·ligència artificial. Els avenços recents en els anomenats grans models de llenguatge (el tipus de sistema d'IA que utilitzen ChatGPT i altres xatbots) han generat la preocupació que aquesta tecnologia aviat es pugui utilitzar a gran escala per difondre desinformació i propaganda, o que pugui eliminar milions de llocs de treball.

Hi ha veus que assenyalen que la intel·ligència artificial podria arribar a ser prou potent per crear disrupcions socials a gran escala en uns quants anys si no es fa res per frenar-la, tot i que els investigadors en molts casos no han detallat com s'arribaria a aquest escenari ni en què consistiria.

Aquestes pors són compartides per nombrosos líders de la indústria, cosa que els posa en la posició inusual d'argumentar que una tecnologia que estan desenvolupant —i per a la qual, en molts casos, estan immersos en una carrera furiosa per fer-ho més de pressa que els seus competidors— comporta greus riscos i s'hauria de regular amb més rigor.

Aquest mes, Altman, Hassabis i Amodei es van reunir amb el president dels Estats Units, Joe Biden, i la vicepresidenta Kamala Harris per parlar sobre la regulació de la IA. En una compareixença al Senat després de la reunió, Altman va advertir que els riscos dels sistemes avançats d'IA eren prou greus per justificar la intervenció del govern i va demanar una regulació per aturar els seus danys potencials.

Dan Hendrycks, director executiu del Center for AI Safety, ha explicat en una entrevista que la carta oberta representava una "sortida de l'armari" per a alguns líders de la indústria que fins ara havien expressat preocupacions només en privat sobre els riscos de la tecnologia que estaven desenvolupant.

"Hi ha una idea errònia molt comuna, fins i tot dins la comunitat de la IA, que només hi ha un grapat d’alarmistes", va dir Hendrycks. "Però, de fet, molta gent en privat expressa preocupació per aquestes coses".

Alguns escèptics argumenten que la tecnologia d'IA encara és massa immadura per suposar una amenaça existencial. Quan es tracta dels sistemes d'IA actuals, es preocupen més pels problemes a curt termini, com ara les respostes esbiaixades i incorrectes, que pels perills a llarg termini.

Però altres han argumentat que la IA està millorant tan ràpidament que ja ha superat el rendiment dels humans en algunes àrees, i aviat el superarà en d'altres. Diuen que la tecnologia ha mostrat indicis de capacitat i comprensió avançades, fet que ha generat la por que la "intel·ligència general artificial" o IGA, un tipus d'IA que pot igualar o superar el rendiment humà en una gran varietat de tasques, no estigui tan lluny.

La brevetat de la nova declaració del Centre for AI Safety (només són 29 paraules) té l'objectiu d'unir experts en IA que podrien estar en desacord sobre la naturalesa dels riscos o sobre els passos específics que cal fer per evitar que es produeixin aquests riscos, però que comparteixen preocupacions generals sobre els sistemes d'IA potents, ha explicat Hendrycks.