La incertesa radical de la IA
En un món d'infraestructures digitals en constant expansió, l'addicció, la confusió, la distorsió i la desorientació són cada cop més difícils d'eludir. Cada dia que passa costa més distingir el que és cert o real del que és fals o sintètic. Això darrer també es pot expressar d'una altra manera: anem acceptant, progressivament, més components artificials a les nostres vides. La confusió central més cantelluda, però, és intentar esbrinar què representa la intel·ligència artificial (IA). Com que l'univers de la consciència encara és un misteri, hi ha dues branques de pensament oposades en relació amb la IA i el paper que pot jugar a la nostra societat.
D'una banda, hi ha un sector que entén que la consciència biològica –l’experiència subjectiva resultat d’operacions de diversa índole lligades a la percepció, la memòria i la imaginació– no és maquinal i que, a més, no es concentra exclusivament en el cervell: els músculs o les nostres superfícies tàctils, per exemple, també tenen memòria. De l’altra, hi ha el sector que defensa que la nostra consciència té un funcionament algorítmic i que, per tant, és possible crear màquines conscients. Aquest grup afirma que mai no podrem competir amb una IA, perquè mentre que nosaltres només podem transferir part del nostre filat de pensaments i coneixements de forma maldestra i lenta, les “ments” digitals són capaces de compartir grans quantitats d’informació entre elles en un instant.
Davant dels reptes que planteja el creixement exponencial imparable de la IA, Geoffrey Hinton –considerat un dels seus padrins– es dedica a divulgar els perills de no contenir-la amb una regulació estrictíssima. El cas de Hinton, que va ser guardonat amb el Nobel de física l'any 2024 per la seva contribució al desenvolupament de la IA, és d'aquests que demostren que el progrés no sempre tria el camí més convenient per a la nostra espècie i el conjunt del planeta. Tal com va passar amb Paul Hermann Müller, que va rebre el Nobel de medicina pel descobriment de les propietats insecticides del DDT, la comunitat científica premia un avenç que pot tenir conseqüències no desitjades o, en el pitjor dels escenaris, catastròfiques. (El DDT va acabar sent prohibit; el que passarà amb la IA encara està per veure.) Hinton, però, és plenament conscient que la IA posa en perill la integritat de la nostra societat i de l'ecosfera, i així ho va expressar al discurs d’acceptació del Nobel.
Figures com Geoffrey Hinton o Yann LeCun –un altre dels padrins de la IA– pertanyen al sector de pensadors que creu que la IA pot esdevenir conscient i desenvolupar una voluntat pròpia i un tipus d’emocions que siguin eminentment lògiques. Per a nosaltres, l’experiència subjectiva d’existir està lligada a coses molt diverses. Per exemple, una emoció com la por sovint és el resultat 1) d’un procés biològic, sensorial i químic, amb una gran fondària històrica; 2) d’una emoció apresa en què hi pot haver coordenades culturals recents, seculars o mil·lenàries; i 3) d’uns raonaments vinculats al marc mental social del moment i també a la nostra memòria i personalitat úniques. La IA, però, és només una entelèquia. Si, tal com pretenen els seus creadors, aconseguim alinear-la amb els nostres interessos, la seva empatia serà radicalment lògica. En canvi, per a nosaltres i molts altres animals, l’empatia és producte d’un procés imaginatiu en què la memòria i la resta del cos intervenen de forma activa. Sentir plorar algú, veure un ésser viu patint i reproduir-ho imaginativament ens provoca una resposta que va molt més enllà de la raó. Som éssers socials perquè tenim una predisposició biològica complexa per relacionar-nos amb altres éssers.
Segons el sector crític del món tecnològic, les teories que la IA pot sublevar-se’ns –o fins i tot exterminar-nos– formen part de les estratègies de màrqueting/hype de personatges com Elon Musk. Per il·lustrar-ne les limitacions, aquest bàndol més escèptic fa servir l’exemple que la IA encara no ha aconseguit fer coses que per als humans són molt senzilles, com conduir un cotxe de forma proficient o anar en bicicleta. Els nostres invents tendeixen a la rigidesa i a l’encarcarament; la natura, en canvi, és inherentment flexible: hem dissenyat avions i ala deltes, però som molt lluny de poder volar amb la llibertat de moviment i l’eficiència dels ocells. A través d’algunes analogies, aquest sector crític defensa que és improbable que la IA adquireixi autoconsciència: si no preveiem la possibilitat que una càmera digital hi vegi realment o que una simulació d’una tempesta generada per ordinador pugui acabar en un aiguat, quin sentit té pensar que un seguit d’operacions estadisticosimbòliques es pugui convertir en un ésser conscient? Però les reflexions de Hinton, i d’altres científics que han desenvolupat la IA i que no tenen interessos corporatius, fan pensar que potser no podem descartar res del tot.
Geoffrey Hinton va ser el mentor d’Ilya Sutskever, que a més de ser un dels fundadors d’OpenAI n’ha estat la principal ment científica. Doncs bé, l’any passat Sutskever va abandonar OpenAI preocupat per la seva deriva i, tal com fa Hinton, ara intenta desenvolupar alternatives tecnològiques de caràcter menys disruptiu. Malgrat que recentment Sutskever ha expressat una opinió diferent, el seu advertiment havia estat clar: no ens podem fer una idea del poder que guanya la IA minut rere minut i del risc existencial que això comporta. La revista Nature, de fet, tot just acaba de publicar un article sobre la capacitat de la IA per accedir als pensaments preconscients de persones que tenen una interfície implantada al còrtex parietal posterior.
Enmig d’aquesta disparitat de teories i experiències, i amb tan poca informació sobre el funcionament de la consciència, es fa difícil concloure quina és la naturalesa de la IA. El que és segur és que aquest moment de transició ens aboca a una situació d’extrema incertesa en què s’està portant a terme una concentració de poder tecnològic sense precedents.