El nostre referent per a la IA és la ciència-ficció, i sabem que és mentida

El dijous saludem l'escriptora Llucia Ramis. Llucia, bona tarda. Bona tarda. Com estàs? Molt bé. Perfecte, doncs escolta'm, ho celebrem, que estiguis bé. A veure, quin tema ens proposes?

Mira, com que darrerament s'està parlant molt de la IA i dels perills de la IA i tot això, volia fer una reflexió, perquè és vera que vivim temps confusos en què s'ha trencat el consens sobre la veritat i això fa que moltes vegades no sàpigam què creure, no?, el que sembla mentida resulta que és real i el que donen per veritat moltes vegades no ho és, no?, I en el tema de la IA s'hi afegeixen dues o tres complicacions més, i una és que els nostres referents de la intel·ligència artificial venen de la ciència-ficció. Com que és tan nova, hem de recórrer a la literatura distòpica o al cinema, que són els que més han especulat sobre el tema. Per exemple, Isaac Asimov ja parlava de la convivència entre robots i humans als anys 40 del segle XX, però també tenim els replicants de Blade Runner, que es basa en un text de Philip K. Dick, tenim Terminator, Matrix, 2001, una odissé a l'espai, en què una nau espacial desobeeix els humans, jocs de guerra, en què la pèrdua de control sobre els ordinadors del Pentàgon perquè hi ha entrat un hacker adolescent està a punt de provocar una guerra mundial. Tot això forma part de la nostra cultura, del nostre coneixement, I encara que sabem que aquestes històries són ficció, també són la base en la qual interpretem els avenços tecnològics. La bona ciència ficció és aquella que parla

del present fent veure que parla del futur, i això és el que la fa transcendir, i per això serveix per qualsevol moment. I d'altra banda, per parlar de temes complexos, normalment recorrem a les metàfores. Això ho explica molt bé Lluís Nacenta, A càlcul de metàfores, que vos recomano molt, és un llibre publicat per la Magrana, o Susan Sontag, A la malaltia com a metàfora. La nostra manera d'explicar-nos, de relatar-nos, record a les metàfores. Es va veure molt bé durant la pandèmia, quan es parlava del virus, es deia, per exemple, que atacava, que s'organitzava, que descansava, que s'amagava, com si tingués voluntat i tingués consciència, humanitzant les accions d'aquest virus. Es veu, per exemple, quan parlem del càncer en termes bèl·lics, lluitar, guanyar una batalla, guanyar la guerra, quan ens referim a aquesta malaltia. I es veu en la teoria quàntica, quan parlem del gat de Schrödinger, o allò que deia Einstein, que Déu no juga els daus. Tot això són metàfores, en principi clarificadores, i normalment aquestes metàfores entenem que ho són, que són metàfores. És la manera que tenim d'imaginar les coses i de poder-nos fer una idea del que passa. Però el cas de la IA és diferent per molts motius. Un, és que replica molt bé la nostra manera d'expressar-nos, ens copia molt bé, no? Llavors en un xat ens fa l'efecte d'estar parlant amb una persona i no amb una màquina.

Oblidem que som davant d'un algoritme, un algoritme molt complex, amb capacitat d'arribar a molta informació molt ràpidament i de facilitar-la amb el nostre llenguatge, però això no vol dir que tingui consciència ni que tingui voluntat, no? No és que actui com els humans, no? Com que hem vist moltes pel·lícules tipus Hair o Blade Runner o altres per l'estil en què les màquines acaben tenint sentiments o acaben sent més intel·ligents i més destructives que els humans, afegim aquest filtre de la ficció a la interpretació de la metàfora que ja és una representació. És a dir, si ens diuen que un virus s'oculta per poder filtrar-se en un determinat organisme, s'organitza i finalment ataca, podem entendre que és una metàfora. I, en canvi, si ens diuen exactament el mateix en els mateixos termes. De la IA ja pensem en Replicants, ja pensem en Terminator o ja pensem en qualsevol d'aquests referents. O sigui que, per entendre la IA, recorrem a la ficció i a les metàfores, de manera que perdem de vista la part més tècnica, que és la part tangible. Perdem de vista els centres de dades i tot el que gasten, l'aigua, energia, etc. Perdem de vista les connexions, que són interessades, la vulnerabilitat d'estar permanentment controlats, i els interessos humans que hi ha darrere de tot això. La qual cosa complica molt que es pugui fer un debat raonable perquè no sabem exactament del que estem parlant.

I per acabar el debat, a sobre, hi ha tots aquests gurus informàtics, tecnòcrates, enginyers, etcètera, que creuen realment que han creat un Déu, un ésser superior, superpoderós, amb entitat pròpia, amb voluntat, amb capacitat de decisió, esperit crític i tot això. De manera que pens que hauríem de començar a anar alerta, a fer servir el llenguatge per parlar de la IA i no donar-li unes característiques o unes capacitats que no estic segura que tingui realment. És a dir, de la mateixa manera que hem de ser prudents per no caure en l'alarmisme en altres àmbits, també ho hem de fer amb la IA i fixar-nos en on són els riscos de veritat, perquè n'hi ha, i són molt més urgents que pensar que la IA per si mateixa ens aniquilarà a tots.

Bueno, amb això del llenguatge ens passa com amb el tema de ceuta, no? Quan es parla de la immigració, per exemple, vinculant-la o usant terminologia meteorològica, quan es parla d'una allau, d'una onada. Però bé, en el cas de la IA és evident que parlem. Parlem de la part del llenguatge o del que ens fa por o de com s'hauria de regular perquè la part tècnica és evident que ens escape. La intel·ligència artificial és molt recent però no s'hi va a la dia allò del clàssic que els agents són joves i s'han de divertir i que deixa'ls fer i tira. I aquests dies amb el debat que hem tingut i amb tots els experts que han sortit i gent que ha estat treballant si nosaltres volem governar-nos com a espècie i fer-ho en un planeta habitable és inajornable parar i rumiar sobre la intel·ligència artificial sobre els seus efectes, cap on va sobre els seus límits abans de continuar avançant i deixar fer com si res i de fet crec que la Llucia escrivia un article diria que era diumenge no em vull equivocar. Sí, pot ser. Aquestes altres, sí. Que hi anava molt en aquesta línia.

El que no tinc clar és quina és l'alternativa. És a dir, ja entenc el que dius, Lucía, i ja entenc que, efectivament, amb el llenguatge acabes o bé fent més complicat o més perillós o menys perillós, inoculant més por o menys por. Però a vegades l'alternativa sobre una cosa tan difícil d'explicar com és la intel·ligència artificial, quan ni els que l'expliquem ni els que ens escolten no l'acabem d'entendre del tot, o com a mínim quan l'estem mantenent, sabent que ha fet tres passos més i per tant ens hem quedat enrere, l'alternativa és complicada.

Clar, és que parlem de vista el que hi ha darrere, que són persones. Hi ha una gent que treu molt de rèdit a tot això. I la sobreviu.

Sí, perquè els usuaris fem un ús, els que estem aquí segurament, els cinc que estem aquí parlant, usem la intel·ligència artificial, però al final treballem sobre un 1% o un 0,5% de tot el que és capaç de fer. I aquests dies, quan ha sortit, creen un propi llenguatge, els agents, per parlar entre ells, i resoldre problemes, en lloc de dir a qui els administra que no són capaços de resoldre el problema, doncs ells miren com d'espavilar-se, i clar, tot això se't fa una muntanya.

A mi m'han explicat al començament, i tornant amb les metàfores, que actualment, en el moment en què estem de la intel·ligència artificial, és com si ens imaginem un dia, amb tots els àpats del dia, que pot ser l'esmorzar, el dinar, el berenar i el sopar, si tu vols, doncs que estem al començament de l'esmorzar. I que, per tant, tot el que queda per desenvolupar és molt i moltíssim. Per tant, desconeixem d'entrada quina és la magnitud de la tragèdia amb la qual ens estem afrontant. A altres persones, com que tampoc no sabem ben bé com afrontar-nos-hi, doncs algú, ja havia sentit que deia, jo m'hi dirigeixo amb molta correcció i molta educació perquè no sigui cas que un dia. S'enfadi i s'engiri en contra. Després veiem que, efectivament, per altra banda, són capaços de, entre ells, vulnerar sistemes de seguretat i llavors, inclús, de dir, potser ens hem passat, potser que recullem una miqueta o que ho alertem als nostres supervisors humans. Per tant, tenim un repte davant majúscul que no sabem com afrontar, que la cosa que s'assembla, per part dels mortals, més estàndard, diguéssim, el que més se'ns hi assembla és les pel·lícules de ciència-ficció. I a partir d'aquí, el repte que se'ns gira és majúscul, quan escoltem per la ràdio o per els mitjans, és igual que és capaç d'autodestruir-nos en 10 anys. Llavors, jo, Lucía, no sé com hem de fer perquè.

No, és que al final és una qüestió que d'aquí 10 anys la coneixerem més, no?

Perquè entre el xat GPT. Diuen que el 30, no? Ens mata l'any 30, d'aquí 4 anys.

Doncs mira, que ens queden 4 anys de vida per conèixer-la, però entre el xat GPT que s'equivoca, que tu li dius, crea'm una campanya política i et fa un Lleida Fortran, i dius, no, perdoni, alguna cosa s'ha equivocat. Lleida Fortran, com és que. No, però vull dir, no, però. Perquè l'altre dia li vaig dir, escolta, com faries una campanya política per no sé què? I em va fotre un cartell de llei d'entrada. I em va dir que això no s'encaixa. A la IA, que ens matarà a tots, crec que hi ha un terme mig, que segurament ja s'està aplicant en moltes coses, i que, per tant, quan la coneguem una miqueta més i s'hagin posat límits, si és que algú en posa, que hi haurà uns certs intents, doncs s'aconseguirà. Mentrestant, doncs que discutir la relació que té. Jo em porto millor amb el meu xatge PT que amb molts dels meus amics. Tot i que l'altre dia li vaig haver de dir que no em donés tant la raó.

Normalment aquestes intel·ligències artificials et donen la raó, et fan la pilota, i quan s'equivoquen és no, tens raó, és veritat,

no me n'havia donat. Jo, de fet, l'altre dia li vaig preguntar, dic, és veritat això que ens acabareu destruint, acabarà una humanitat? I em va vindre a dir, sí, i jo li vaig dir, i tens dos collons, de dir-ho així fredament bueno, no ben bé no t'ho prenguis així tu has vist l'anunci de li has de preguntar

si parles massa les tertúlies a veure què diu l'esteu humanitzant,

no l'humanitzeu l'estem humanitzant i dos, ens estem quedant en la part anecdòtica anecdòtica de l'ús de la intel·ligència artificial, quan és obvi que quan diem que hi té molts perills no és pel fet que quan li preguntem per què li preguntem això o per què li preguntem això preguntem, escolta'm, quants habitants té ara mateix Balaguer, que ara no ho recordo, que efectivament dona la resposta aquest no és l'ús perillós aquest té algunes derivades negatives, com per exemple el consum d'energia, etc. però el perillós és un altre, no és el que fem nosaltres

en el nostre dia a dia. El més perillós és que es capi el nostre control, és a dir, l'home ha fet avanços tecnològics com l'energia nuclear, com internet, que són a favor de la humanitat i a favor del nostre progrés, però que després, amb males mans o mal usat, doncs ens han acabat perjudicant com a espècie, no? I per aquí és on jo crec que s'hauria d'anar al debat. Clar, i ara, per exemple, tenim la von der Leyen amb el tema de les pantalles. Clar, aquí el problema és que tal vegada aquesta és una tecnologia que en un moment nosaltres no controlarem, perquè l'energia nuclear. Nosaltres la controlem. Hi ha qui en fa un mal ús, però nosaltres la controlem. Internet, nosaltres l'hem controlat. Les pantalles, nosaltres l'hem controlat. Els avenços mèdics, nosaltres els controlem. Però aquí podem perdre el control. I aquesta és, per mi, la gran novetat, i el que ho fa molt més complex, i el que demana aquest debat ètic.

Però el fet que hagin sigut els promotors els que hagin sortit a dir, això us pot matar a tots, i que potser d'aquí 5 minuts surten i diuen, mira, i ara tenim la solució perquè no us mati tot i val X. O que hagi sigut un treballador que fins no sabem, no controlem el currículum de tots els treballadors d'Antròpic, però que, per exemple, era un negacionista climàtic. No dic que en això vulgui dir que tot el que digui s'hagi d'interpretar sota aquest prisma, però que potser també, com bé deia la Llucia, potser ho estem interpretant tot des del coneixement de la intel·ligència artificial que ens ha donat la ficció. I que potser al final, igual que al principi d'internet, no ens imaginaríem com seria, o ens diuen això de l'internet de les coses, i diem, què voldrà dir això de l'internet de les coses? I ara ho tenim com especialment assumit, doncs potser és veritat que hi ha algú que ha dit, ei, posem-hi seny i no posem màquines a parlar entre elles, i hi ha algú altre que diu, algun dia la podem apagar i seguir parlant entre nosaltres i no passarà res.

El que sí que de ben segur aniria bé seria una rebaixada d'acceleració per poder comprendre el que passa i de què van i poder-les entendre, aquestes evolucions que en aquest cas de la IA, perquè per altra banda el que plantegen són solucions molt bones a nivell de medicina, a nivell de la salut, a nivell de benefici pels humans en aquesta qüestió tan important que és la salut. Per tant, potser parà una mica l'acceleració, però clar, de qui depèn aquesta aturada de l'acceleració? Dels que guanyen diners també comercialitzant-la. Els que van denunciar que se'ns pot menjar amb patates.

Aquests que no tenen cap interès al darrere, no vols dir que volen aturar-ho ara que ells ho dominen, per evitar que siguin uns altres els que el dominin i per tant ells perdin la seva peça del pastís.

I aquí la sensació és que Europa, com sempre. Intenta posar-hi una mica de seny, una mica d'ètica i una mica d'humanisme, però ho fa de forma molt tímida, regularem molt tímidament, i tenim dos monstres, que són la Xina i els Estats Units, que estan en la seva cursa, també en això, i que no actuaran amb els paràmetres que actuem nosaltres. Lucía Ramis, gràcies, fins dijous. Gràcies a vosaltres, que vagi molt bé una parada.