Els pares de ChatGPT demanen un regulador mundial per a la IA com el de l'energia atòmica

Els fundadors del sistema de llenguatge d'intel·ligència artificial diuen que hi ha un "risc existencial" que no es pot afrontar només amb respostes "reactives"

ARA

2 min

La intel·ligència artificial del ChatGPT. Marc Rovira

BarcelonaEls pares de ChatGPT han llançat aquesta matinada una alerta inquietant: "És concebible que els pròxims deu anys, els sistemes d'intel·ligència artificial (IA) superin les capacitats dels experts en la majoria dels dominis i tinguin tanta activitat productiva com les grans corporacions d'avui". En un breu comunicat, Greg Brockman i Ilya Sutskever, cofundadors d'OpenAI, l'empresa que ha desenvolupat aquest sistema de llenguatge, avisen que "en termes d'avantatges com d'inconvenients potencials, la superintel·ligència serà més poderosa que altres tecnologies amb què la humanitat ha hagut de lluitar en el passat": "Podem tenir un futur molt més pròsper, però hem de gestionar el risc per arribar-hi. Tenint en compte la possibilitat de risc existencial, no podem ser només reactius". Per això demanen que, com es va fer amb l'energia atòmica, que té el potencial de destruir la humanitat, s'estableixi un regulador mundial per a l'ús de la IA.

Seguretat i límits

Els amos d'OpenAI demanen un organisme internacional que comenci a treballar per "inspeccionar els sistemes, demanar auditories, posar a prova els estàndards de seguretat i establir restriccions en àmbits de desplegament i nivells de seguretat", per contenir els "perills existencials" que planteja la nova tecnologia. A curt termini, defensen l'establiment d'alguna mena de coordinació entre les empreses del sector per prioritzar la seguretat i que els nous models s'integrin a la societat amb més facilitat.

Fa dècades que els investigadors alerten sobre el perill potencial de la intel·ligència artificial, però com més es desenvolupa més evident es fa. El Centre per la Seguretat de la IA, amb seu als Estats Units, avisa del risc que "la humanitat perdi la capacitat de governar-se i acabi depenent completament de les màquines", com també que "un petit grup de persones que controlin sistemes tan poderosos" es puguin convertir en una "casta governant eterna". Com admeten els caps d'OpenAI, el que caldria és que "a tot el món la gent pugui decidir democràticament sobre els límits i la configuració dels sistemes d'IA", però el problema és que "no sabem encara com dissenyar un mecanisme així".