Publicitat
Publicitat

Daniel Dennett: "Donem massa autoritat als robots abans que se la mereixin"

És considerat un del filòsofs més prestigiosos a escala mundial, especialment en el seu àmbit, les ciències cognitives, la filosofia de la ment i de la ciència, la intel·ligència artificial i la teoria de l’evolució

DANIEL DENNETT M’ESPERA AL SEU HOTEL A GIRONA, ON IMPARTEIX UN SEMINARI DE DEU SESSIONS SOBRE L’EVOLUCIÓ DE LA MENT HUMANA, A LA CÀTEDRA FERRATER MORA. Demà fa una conferència al CCCB de Barcelona. És un dels grans filòsofs de la ciència, estudiós de la consciència, un intel·lectual molt combatiu amb les religions. Impressiona, amb un cos corpulent, una barba blanca i poblada, i un bastó. Demana un gintònic i em diu que està a punt per a la conversa.

Què prefereix als seus seminaris: estudiants de filosofia o de ciències?

Els estudiants de ciències no coneixen la sofisticació de la filosofia i els de filosofia no coneixen la ciència. Però si són bons estudiants ho entendran de totes maneres.

On té més amics: a filosofia o a ciències?

Amics? [Riu.] No ho sé, he sigut filòsof durant els últims 50 anys, així que tinc molts amics filòsofs, però no els veig tan sovint com veig els científics, amb qui cada cop passo més temps.

Qui l’entén millor?

[Dubta.] És una bona pregunta... Hi ha més estudiants seriosos de les meves teories entre els filòsofs, però els científics que coneixen la meva feina l’entenen millor que els filòsofs... Ara bé, els millors entre el grup dels filòsofs acaben sent els millors de tots. [Riu.]

Si hagués de definir l’objectiu dels seus estudis, quin seria?

La gent es queda perplexa davant la consciència, davant la ment humana, però molts no volen que la ciència l’entengui, i és un gran error. Vull entendre científicament la ment humana i crec que estic en el bon camí per aconseguir-ho. Això implica pensar molt en com la ment ha arribat a ser com és, evolucionant. I no només es tracta de l’evolució del cervell. Una gran part de la ment humana és el resultat de l’evolució cultural, que també és darwiniana, és selecció natural. Vam crear el llenguatge i el que anomeno eines per pensar. I el meu llibre Intuition pumps and other tools for thinking [Sortidors de la intuïció i altres eines per pensar]conté unes 70 eines per pensar, i moltes han evolucionat. Algunes tenen un autor, estan dissenyades per un dissenyador intel·ligent, però d’altres no. Les paraules no les va dissenyar ningú, però estan molt ben dissenyades.

Quina diferència hi ha entre el cervell i la ment?

Un cervell humà necessita molta preparació per arribar a ser una ment. Necessita que s’hi posi molta informació i molts hàbits. Ha de tenir aquests hàbits instal·lats, i això és el que és la cultura. Si cries un nadó humà aïllat del llenguatge i de la cultura, en alguna mena d’illa deserta, estarà molt incapacitat, i de cap manera tindrà una ment humana. Només tindrà una ment animal.

Quina és la diferència entre les ments animals i les ments humanes?

Bé, és tremenda. Habitualment ens equivoquem a l’hora d’imaginar la ment animal. Busquem la intel·ligència en els animals i pensem que és com la nostra. Suposem que una nena petita mira per la finestra i veu un ocell que fa un niu en una branca. Mira amb atenció i construeix una rèplica del niu ella sola. I quan acaba, els dos nius tenen exactament el mateix aspecte. El procés que ha tingut lloc al seu cap és molt més complex que el que ha tingut lloc al cap de l’ocell. Pel simple fet que tots dos hagin construït un niu que està molt ben dissenyat no vol dir que l’ocell sigui conscient de les mateixes coses que la nena. O que l’ocell entengui les coses que la nena entén. Tendim a pensar que l’ocell és un bon enginyer.

Qui mana al nostre cervell?

És un error dir que nosaltres dirigim el nostre cervell. No és que hi hagi res, una ànima o un mateix, que dirigeixi el cervell. És el software que funciona al cervell el que fa la feina. Però no dirigeix el cervell, de la mateixa manera que el software no dirigeix l’ordinador. Vull dir que si poses un software a l’ordinador, dónes nous poders a l’ordinador, uns poders que no tenia, per això compres el software, per afegir-li poders. Els humans omplim el cap amb eines de pensar que són com el software, tot i que no estan fetes de metall o carboni, ni de cap material, sinó que estan fetes d’informació, de normes.

Si ens guia un software, ¿com és que creu en el lliure albir?

Hi ha molta confusió sobre el lliure albir. La manera d’entendre el lliure albir és la competència moral. Algunes persones no en tenen. No poden ser raonables, estan massa mal informades per prendre decisions. Són massa impacients, massa estúpides, tal vegada. Potser no és per culpa seva, potser tenen una lesió cerebral. No tenen lliure albir. No en tenen perquè no tenen competència moral. No deixem que nens de cinc anys condueixin un cotxe o firmin contractes. Per què? Perquè no han desenvolupat una competència moral madura. Quan les persones esdevenen senils els retirem els drets que tenen com a ciutadans de poder firmar contractes. Les protegim com protegim els nens. Ja no són moralment competents. La competència moral és una idea molt clara. I no té res a veure amb el determinisme o l’indeterminisme. Que el món sigui determinista o indeterminista no té cap mena de rellevància en el fet que la gent sigui moralment competent.

On la tenim, la competència moral?

Majoritàriament al cervell. Precisament parlaré d’això al CCCB a Barcelona. Fem una petita llista: has d’estar ben informat, has de tenir motivacions i desitjos que no siguin obsessius, has de ser capaç de controlar les motivacions i has de ser raonable, has d’estar dirigit per la raó. És interessant que també hagis de ser, en certa manera, vulnerable.

Per què?

Per què els ordinadors no tenen lliure albir? ¿Com hauria de ser un robot amb el qual firmaries un contracte, del qual acceptaries una promesa? ¿O al qual faries una promesa i creuries que l’has de mantenir? Això és competència moral. ¿Un robot pot ser moralment competent? Jo crec que sí. Però hauria de ser vulnerable. Alguna cosa li ha d’importar, a vostè, per ser un agent moralment competent. Superman no és un agent moralment competent. Per què? Perquè es invulnerable. No va ser accidental que els inventors de Superman inventessin la kriptonita. Havien de fer-lo vulnerable perquè fos una persona real. Si fos realment invulnerable... quin avorriment! No hi podria haver risc, no hi podria haver perill.

¿Em podria explicar la seva teoria dels mems?

La millor manera d’entendre els mems és pensar en les paraules. De què estan fetes? De res. Són estructures d’informació. Les paraules no estan fetes de tinta ni estan fetes de sons. Les pots escriure, les pots llegir, les pots dir i les pots sentir. Per tant, són paraules, i les paraules són mems. Cada paraula és un mem. Però també hi ha mems que no són paraules. L’única diferència és que no es poden pronunciar. No les pots sentir, no les pots escriure, però són mems.

Són també part de la nostra evolució?

Mentre vostè està aquí assegut, vestit, gaudint de bona salut, hi ha uns cent bilions de cèl·lules sota la seva roba. Només deu bilions són humanes. Nou de cada deu cèl·lules són simbionts, són bacteris, són fongs, són la flora del seus intestins. Superen en quantitat les cèl·lules humanes, no pesen més que les cèl·lules humanes perquè les humanes són més grans, però és increïble. Hi ha més ADN al seu cos que no és ADN humà que no pas el que sí que ho és. Ara, són part de vostè? Sí. ¿Tenen una evolució independent? Sí, fins a un cert punt sí. Les que són dins el seu intestí aniran amb vostè tota la seva vida, encara que poden ser diferents. I si l’operen en podria perdre algunes i s’haurien de recuperar, perquè no pot viure sense elles. Però tenen la seva pròpia aptitud, són independents de vostè, poden viure per si mateixes, poden saltar d’un cos a un altre, i també n’hi ha que són perilloses, com els bacils de la tuberculosi, i d’altres. Els mems són així. Tenen la seva pròpia aptitud, la seva aptitud no depèn de la de vostè. Vostè és el seu hoste, de la mateixa manera que és un hoste per als gèrmens. Jo veig els mems com uns simbionts que no són vius.

I fan molta feina.

Si algú creu que l’art, o la música, passar una bona estona, és més important que tenir més fills, és perquè ha estat colonitzat per mitjans que estan debilitant la seva aptitud genètica i estan començant a controlar el seu cos. Ens identifiquem amb aquests mems. Si algú consagra la seva vida a l’art i no vol tenir la càrrega dels fills, li encanta el sexe però no vol tenir fills, està menyspreant la seva aptitud utilitzant anticonceptius i consagrant la seva vida a una cosa que és més important per a ell: l’art. Però des del punt de vista de la biologia, això és un cas de manipulació parasitària de l’hoste. I hi ha molts casos en biologia, hi ha un exemple que faig servir molt, un dels meus preferits.

Me l’explica?

És una formiga que s’enfila per un bri d’herba. I penses, què fa? Cau, torna a pujar, està intentant arribar al cim del bri d’herba. Què fa? Està fanfarronejant, està fent exercici? No fa res per si mateixa. El que passa és que el seu cervell ha sigut envaït per un petit cuc, un trematode, i el cuc necessita arribar a la panxa d’una ovella o d’una vaca per reproduir-se. I la millor manera de fer-ho és portar una formiga cap a dalt d’un bri d’herba. És més probable que se la mengin si és al cim d’un bri d’herba. És una formiga que està sent manipulada per un simbiont invisible, un paràsit. Les religions fan el mateix.

Esta definint la religió com un paràsit?

Sens dubte. Què ensenya el cristianisme? Obediència a la paraula de Déu. Per què els sacerdots són cèlibes? Perquè se suposa que han de consagrar tota la seva energia a difondre la paraula de Déu. Celebren el fet que són biològicament no aptes. Hi ha molts paràsits que manipulen el seu hoste, l’hoste mascle, castrant-lo, de manera que l’hoste té més energia per dedicar-se només a ajudar el paràsit. És molt comú, hi ha molts casos d’aquests. Com un simbiont... Quina diferència hi ha entre un paràsit i un mutualista? Un mutualista beneficia la teva aptitud, com la flora dels budells: no és cap paràsit, et moriries sense ella. Però d’altres són perjudicials per a la teva aptitud, i entre ells hi ha coses com les religions.

Però nosaltres vam inventar les religions.

No, no ho vam fer. Les religions es van inventar a si mateixes. Qui va inventar el VIH? Ningú. Qui va inventar la tuberculosi? Ningú. Qui va inventar la religió? Ningú. Bé! L. Ron Hubbard sí que va inventar la cienciologia. Hi ha casos de religions que han sigut inventades per algú i de manera similar hi ha casos d’aliments o animals genèticament modificats que han tingut alguna mena d’inventor. Però, majoritàriament, les religions tenen servents, tenen gent que les manté, que consagra la seva vida a protegir-les i sovint intenta ajustar-les i millorar-ne el disseny, però no són inventors, són més aviat com els que saben reconèixer les vaques que donen més llet.

¿Com s’explica que alguns científics creguin en Déu?

Bé, només una petita minoria dels científics creuen en Déu, potser un 10%. Crec que qualsevol científic que cregui en Déu està practicant una mena de compartimentació, de manera que pugui mantenir el seu pensament científic rigorós al marge de les seves visions religioses. Tenen la seva ment religiosa i la seva ment científica. És molt difícil de mantenir-les juntes.

Es pot imaginar una món sense religions?

Sí, sí! Fa una setmana, al Wall Street Journal, vaig publicar un article sobre el futur de la religió en què deia que està en declivi fins i tot a Amèrica.

El món seria millor, sense religions?

I tant. Totes les religions tenen un problema amb els fanàtics, que fan coses terribles. De fet, els comportaments més terribles del món els tenen persones que són fanàtiques religioses. No tan sols musulmans, també cristians, jueus fanàtics, budistes fanàtics, hindús... Crec que el respecte que la societat dóna a les religions s’acaba convertint en respecte al fanatisme, que no se’l mereix gens ni mica. En lloc de venerar la gent que tenen una fe tan profunda que domina les seves vides, en lloc de respectar-los, els hauríem de perdonar, però no sempre. Quan jo era petit, als EUA, quan un borratxo tenia un accident, dèiem: “Pobre home, estava borratxo, l’hem de perdonar, no sabia el que es feia”. Actualment diem just el contrari: “No, n’és doblement responsable, s’ha emborratxat tot sol, i no n’és responsable només ell, el bàrman també n’és responsable”. Bé, tinguem la mateixa consideració amb la intoxicació religiosa. Si estàs intoxicat per la teva religió, la persona que t’ha intoxicat és responsable dels delictes que has comès.

Què pot donar sentit a les nostres vides?

La bondat real. No la bondat fantasiosa. Hi ha molt bona gent, molt bones accions, moltes coses bones. Vaig escriure un article que es deia Thank goodness [Gràcies a la bondat]. Vaig passar per una operació de cor molt greu. Si no fos per la ciència i la tecnologia estaria mort. Estic molt agraït als científics, als metges, a les infermeres i a la comunitat mèdica, els dec la vida i els estic molt agraït. No vaig donar les gràcies a Déu perquè Déu no hi va tenir res a veure. Demostra la teva gratitud fent coses bones per tu mateix. Paga per avançat. Ajuda algú altre. La responsabilitat que tenim és fer coses bones al món. I si hi una cosa que no puc suportar és la gent que pensen que només pel fet de ser devots, només pel fet d’anar a missa, de resar les seves pregàries, ja són bons.

Li preocupa la intel·ligència artificial? ¿Que els robots controlin el món algun dia?

Sí, però no de la manera que preocupa a molta gent. Em preocupa molt més que la gent concedeixi massa autoritat als robots abans que s’ho mereixin. Això sí que és realment perillós. Em preocupa que sobreestimem el poder dels ordinadors dels quals depenem abans d’hora, i d’això seria impossible deslliurar-nos-en. Això seria molt seriós. No em preocupen els ordinadors que són més llestos que nosaltres. Crec que veure’ls com un perill és una ximpleria.

Ara d’alguna manera els ordinadors ja controlen el món, perquè el capitalisme financer està portat per ordinadors.

És just el que li deia. No és que els ordinadors siguin artificialment intel·ligents, és només que en depenem d’una manera que no convé. Això és problemàtic. Pensem un moment en la medicina. Podria pensar que els últims experts del món que seran reemplaçats per ordinadors seran els metges. No, no. De fet, els metges ja estan sota pressió, no pels robots, sinó per les eines de diagnòstic mèdic, que poden demostrar que fan més bons diagnòstics que no pas ells. Així que imagini’s que és un metge i veu un pacient i creu que té càncer, i el vol operar. L’ordinador diu: “No. No té càncer, no l’operi”. Què fa, l’opera? ¿Desautoritza el judici de l’ordinador? Potser avui ho faria, però aviat, quan els antecedents dels ordinadors siguin cada cop millors, descobrirà que no té el valor per desautoritzar l’ordinador. Per tant, els metges, sent responsables, donaran cada vegada més poder a la tecnologia, i què farà això? Reduirà el paper del metge. El metge es convertirà en una mena de porter d’un hotel, que és educat, administra les proves i rep ordres de l’ordinador.

I com ho podem aturar, això?

No ho sé. Aquest és el problema. És el que em preocupa.

Vostè parla d’evolució cultural. ¿Creu també en l’evolució moral?

Esclar. ¿Coneix algú que sigui capaç de seguir la moral de l’Antic Testament de la Bíblia, avui dia? Ens faria tornar a l’esclavitud i el maltractament de les dones... tota mena de coses terribles. No! Ja ho hem deixat enrere, això. Hem deixat enrere la moral de l’Antic Testament. La religió és lluny de ser el líder moral. Steven Pinker va escriure un llibre interessant fa uns anys, The better angels of our nature [Els millors àngels de la nostra naturalesa], i va mostrar que el nivell de violència en la humanitat ha disminuït radicalment al llarg dels segles. El motiu pel qual no estem tots d’acord en això d’entrada és que ara vivim en un món en què quan passa alguna cosa dolenta en algun lloc en sentim parlar a l’acte.

És cert.

I probablement això és bo, perquè vol dir que les religions no podran fer coses que feien abans. A l’exemplar del març de Scientific American hi ha un article meu i de Deb Roy sobre la nova transparència. La comparem amb l’explosió cambriana, que va passar fa 540 milions d’anys. Què ho va desencadenar? Una teoria diu que l’oceà es va tornar transparent, quan abans era tèrbol, la vista va emergir i va iniciar una cursa d’armes de l’evolució, i tota la fauna que es va desenvolupar a partir de l’explosió cambriana ho va fer dirigida per la nova innovació de la transparència i la vista. Ens va inspirar a dir que això és el que està passant ara i que estem entrant en un nou tipus de transparència que no s’havia vist mai abans i que és causada no per una substància química que afecta l’aire de l’oceà, sinó pels mitjans electrònics. No tan sols l’internet i les xarxes socials, sinó les ràdios, els telèfons, els mòbils... Tots aquests mitjans, de manera bastant sobtada, han fet que sigui molt més difícil guardar secrets que no pas abans. Aquesta és la nova transparència. Ningú hauria pogut fer el que ha fet Snowden sol, en segles anteriors.

El sistema és més vulnerable, més fràgil.

Hem tingut vida multicel·lular durant dos bilions d’anys. I els organismes multicel·lulars, molt ben organitzats, molt capacitats per protegir-se a ells mateixos, no s’han de preocupar per si les cèl·lules individuals que els formen es converteixen en traïdores, si canvien la seva fidelitat, si es converteixen en espies. Però en les organitzacions humanes, la gent és molt curiosa i és molt sensible a la informació d’una manera que els arbres no ho són. ¿I com te’n surts amb una organització feta de gent en un món transparent? Què passa amb la membrana protectora? Cada organisme necessita una membrana protectora, perquè si reveles a tot el món el que passa dins teu, et converteixes en una víctima del món exterior. Tots necessitem poder mantenir secrets, ser espies per poder mantenir secrets. No és només que no podries jugar a pòquer, sinó que no podries viure si no poguessis mantenir amagats els teus pensaments. El mateix passa amb les organitzacions. Tant és que sigui una església, una universitat, una empresa, un govern, la CIA, la NSA, el New York Times o la Sony: tots necessiten tenir una membrana protectora. I les membranes s’estan dissolvent a tot arreu. Ningú sap com protegir les organitzacions d’aquesta nova riuada d’informació sobre elles mateixes.

És optimista?

En algunes coses, i pessimista en d’altres. La tecnologia està fent dues coses alhora: fa que el món sigui transparent, i això és bo. L’altra cosa que fa és canviar el món de manera que no hi haurà vides gratificants. Estem eliminant el gruix de les recompenses. En camps com la filosofia, hi ha filòsofs, que són un nombre reduït, que arriben a centenars de milers de persones. I després vénen la resta, que només arriben a dotzenes de persones. I això no és saludable.

Vostè té un bon sentit de l’humor, que ajuda.

Vaig escriure un llibre sobre l’humor. Un dels millors estudiants que he tingut mai, Matthew Hurley, va escriure un llibre, que es va publicar fa pocs anys, anomenat Inside jokes, using humor to reverse engineer minds [Bromes privades: utilitzant l’humor per descobrir el disseny de la ment], de MIT Press. Crec que és la primera teoria seriosa sobre l’humor.

I d’on ve l’humor?

Tenim una teoria que diu que l’arrel evolutiva definitiva de l’humor és la capacitat que el cervell humà necessita per detectar els errors que fa. I aquesta és una tasca molt difícil. Per tant, té un sistema de recompensa endogen per detectar errors cognitius. I la font original de l’humor és quan, ui!, fas un error estúpid, te n’adones i ets recompensat amb el plaer de riure per haver-te adonat de l’error, i així et tornes un guàrdia més atent d’aquest procés cognitiu.

Un gran invent.

Però llavors s’acaba abusant d’això, de manera que comences a riure dels errors d’altres persones. I ja hi som.

El perfil

És considerat un del filòsofs més prestigiosos a nivell mundial, especialment en el seu àmbit, les ciències cognitives, la
filosofia de la ment i de la ciència, la intel·ligència artificial i la teoria de l’evolució. Nascut a Boston el 1942, és catedràtic de filosofia i director del Centre d’Estudis Cognitius de la Universitat de Tufts (Massachusetts) i també ha donat classes en altres universitats, com Oxford, Harvard, l’École Normale Supérieure de París i la London School of Economics de Londres.

Aquests setmana ha ofert un seminari sobre la seva obra a la Facultat de Lletres de la Univesitat de Girona, convidat per la Càtedra Ferrater Mora de pensament contemporani. Demà oferirà una conferència al CCCB amb el títol La llibertat i el club dels agents morals. Entre els seus nombrosos llibres hi ha La naturaleza de la conciencia: cerebro, mente y lenguaje (Paidós, 2008) i Romper el hechizo: la religión como un fenómeno natural (Katz Editores, 2007).

Més continguts de