Intel·ligència artificial: Tot esperant Darwin

Institut De Biologia Evolutiva (upf-csic) I Santa Fe Institute¿Podrà una intel·ligència artificial posar en perill el nostre estatus d’espècie dominant? ¿Tindrà lloc l’aparició d’una consciència artificial amb capacitat de comprendre el seu entorn? Les xarxes que poden imitar l’estil de Van Gogh o el jazz de Miles Davis, ¿són un avís de l’ocàs de la creativitat que ens ha permès innovar al llarg dels darrers milers d’anys? Els èxits recents dels sistemes d’aprenentatge profund han creat unes expectatives que sovint ignoren què ens fa humans i com hem arribat aquí.

D’una banda, sembla clar que la intel·ligència artificial ha canviat profundament algunes coses i en un temps rècord. Fa més de vint anys els experts veien amb certa condescendència el nostre entusiasme per les xarxes neuronals i la possibilitat de resoldre problemes mitjançant models que imitaven la biologia. El seu escepticisme era raonable. La majoria de les idees clau que ara són font de beneficis excepcionals ja hi eren aleshores, però la tecnologia que podia convertir-les en la promesa que representaven encara era lluny. Aleshores es deia que érem a “l’hivern” de la intel·ligència artificial.

El desgel va arribar a finals dels 90 amb avenços clau en la velocitat de processament de nous xips, que va permetre disposar de xarxes artificials realment potents. Internet i la capacitat d’entrenar aquests sistemes amb milions de dades ha fet la resta. En pocs anys la intel·ligència artificial va passar de derrotar Garri Kaspàrov als escacs a utilitzar-se en tot tipus d’aplicacions: des del processament de dades fins al llenguatge natural, passant per estudis de poblacions a gran escala i ginys de cerca o diagnosi mèdica. Les possibilitats d’extreure informació inaccessible a les nostres capacitats han superat de lluny el que podríem esperar. Un exemple molt clar és DeepGestalt, un algoritme que detecta malalties rares a partir de la cara dels possibles afectats. Un cop entrenat amb 17.000 imatges diferents que inclouen individus sans i d’altres que pateixen algun dels més de 200 síndromes genètics coneguts, l’algoritme va detectar correctament el desordre en una gran majoria dels casos. La capacitat de DeepGestalt permet reduir molt el temps de diagnosi, que sovint pot necessitar anys. Tot això té lloc dins la caixa negra d’uns sistemes que, en realitat, no entenem com assoleixen aquestes proeses.

Control artificial

Un costat fosc d’aquests sistemes, que ens col·loca en un futur incert en relació als drets humans, és la possibilitat que s’utilitzin per prendre decisions sobre les nostres vides que fins ara han estat en mans d’estructures judicials o de polítics democràtics. En llocs com la Xina, els sistemes de reconeixement facial del ministeri de Seguretat Pública ja permeten controlar una part substancial de la població: es pot localitzar, identificar i detenir un ciutadà gràcies a la gran escala i precisió dels algoritmes desenvolupats per controlar tothom. El somni del Big Brother fet realitat i sense gaire espai on amagar-se per als rebels. Aquest problema s’ha fet evident també als Estats Units, on l’ús de grans bases de dades i algoritmes s’ha fet servir per decidir si un acusat d’un delicte va o no va a la presó. El problema d’aquest sistema queda palès quan es té present que les bases de dades incorporen tota mena de biaixos culturals i econòmics. Desafortunadament, és ben conegut l’enorme biaix racial en els comportaments de la policia nord-americana, que acaben distorsionant el que la màquina decidirà.

L’ambició central dels més agosarats és la creació d’una veritable intel·ligència. Alguns visionaris ja ens diuen que l’avenç tecnològic accelerat portarà a una “singularitat” on la fusió entre màquines i cervells serà una realitat alimentada per una bioenginyeria que podrà fer-nos immortals. D’altres ja parlen de la propera revolució, que conduirà a una consciència artificial. Aquest somni (o malson) no és nou ni de lluny. Com a concepte, va prendre força a l’època d’or dels autòmats mecànics que fa més de dos-cents anys enlluernaven els salons dels palaus d’Europa i encenien debats que, en gran mesura, recapitulem aquests dies. Aquells ginys eren predictibles i molta de l’admiració que provocaven tenia més a veure amb la percepció de l’observador humà, encisat pel seu aspecte extern en forma de nens músics o escriptors.

Res d’això ha canviat. No podem evitar sentir empatia pels robots humanoides que mostren expressions d’alegria o tristor, malgrat que la veritable emoció és només al nostre costat. Ni tampoc sentir certa intranquil·litat quan veiem el vídeo viral dels gossos robòtics de l’empresa Boston Dynamics, que s’acosten amb aparent seguretat a una porta tancada i l’obren ajudant-se entre ells. La reacció a les xarxes és la de creure que Terminator ja és aquí. Esclar que ningú veu què passa després, quan han creuat el llindar i no hi ha res a resoldre, per no parlar d’un llarg procés d’entrenament orientat únicament a una tasca simple.

Avui, en lloc dels rellotgers genials que creaven escriptors o pianistes artificials, els nous enginyers imiten el funcionament dels sistemes neuronals reals i han creat entitats noves que obren les portes a noves possibilitats i de ben segur que a noves sorpreses. Però cal recordar que, com en els antics autòmats, no hi ha cap llum dins la caixa negra. Cap intenció o curiositat per entendre el món que els envolta. No hi ha passat ni futur. Res de tot allò que defineix la ment i que va generar el procés d’evolució que ha portat els humans on som. Sense Darwin, no hi ha revolució.