El debat sobre la IA: alarmisme o estratègia?

L'última setmana ens han dit que la intel·ligència artificial acabarà amb la humanitat. Hem sentit magnats tecnològics confessant que sí, que s'ha anat massa lluny i que ara toca frenar el progrés de la IA. Alguns líders polítics han demanat una regulació del sector, però altres ho plantegen com una cursa geopolítica que s'ha de guanyar a qualsevol preu. Què ha passat l'última setmana amb la intel·ligència artificial? D'on ha sortit aquest alarmisme sobtat i aquest creuament de declaracions grandiloquents entre tecnològiques i governants? Benvinguts, això és el radar de 3Cat Info. La Núria Car és la periodista de la secció d'Economia de Catalunya Ràdio que segueix tota l'actualitat sobre la intel·ligència artificial. Com estàs, Núria? Benvinguda. Moltes gràcies, Eloi. Escolta, Núria, què ha passat? Com més que ara, de cop i volta, gairebé de la nit al dia, hi ha hagut aquest boom que encés tants llums d'alerta i que ho ha posat tot de caps per avall?

Jo et diria que abans d'aquesta setmana d'infart portem tot l'estiu amb notícies que ja deixaven intuir la psicosi on hem arribat aquests últims dies. Per mi el punt de partida està a l'estiu amb el cas Hacking Face, que és quan un model d'Open AI aconsegueix hackejar aquesta empresa. Hi va haver molt de rebombori. Realment l'objectiu del model era atacar aquesta empresa i el sandbox, que és l'entorn suposadament aïllat sense internet, estava mal dissenyat i per tant el model va aprofitar l'escletxa per connectar-s'hi i aconseguir la informació que el model d'OPNI va dir que aconseguís de Hugging Face. Ara, per això, podríem dir que tot ha agafat una altra dimensió, amb el crit d'alerta d'un investigador d'Antròpic, Jab Kokson, que dimiteix i diu que la intel·ligència artificial podria matar-nos a tots abans del 2030. Clar, aquí tothom es va posar les mans al cap, és un titular molt llaminer, però ara anirem desgranant una miqueta què és el que hi ha del cert en tot plegat. És a dir, estem en aquest context. Déu-n'hi-do.

I en aquest context, enmig d'aquest xup-xup, per dir-ho així, és quan comencen a sorgir les crides dels grans magnats per paralentir, per frenar el desenvolupament de la intel·ligència artificial. I el primer va ser el líder d'Antròpic, va ser Darío Modey. Aquest va ser com el primer llum d'alerta.

És l'assaig que publica, com dius, el conseller delegat d'Antròpic, que demana que s'alenteixi el desenvolupament de la intel·ligència artificial. I després, de seguida, s'hi suma el seu competidor, el conseller delegat d'OpenAI, Sam Alman, i també els responsables d'Alphabet, que és la matriu de Google, i Elon Musk de SpaceX, que no és pròpiament una companyia d'intel·ligència artificial, però sí que la fa servir molt en tot el tema aeroespacial. Clar, però ara enumeraves tots

aquests magnats, tots aquests líders de les tecnològiques de la intel·ligència artificial, i a mi això m'ha sorprès una mica. Primer, això que tots s'hagin posat d'acord i que diguin el mateix, i en el mateix moment, no sé si aquí hem de pensar que hi havia un acord tàcit al darrere, I l'altra és la gran paradoxa que són els mateixos impulsors de la intel·ligència artificial que ara de cop i volta demanen que no. No, escolta, posem el fred de mà i aturem-ho. Això és com molt estrany aquest moviment.

M'encantaria saber el motiu real perquè estàvem obrint informatius marcant l'agenda mediàtica mundial perquè és la gran pregunta. Què hi ha al darrere d'aquesta coreografia gairebé perfecta en què surt un darrere l'altre i es van donant suport amb necessitem alentir el desenvolupament de la intel·ligència artificial. Hi ha la hipòtesi que el que volen és autorregular-se per controlar el mercat. És a dir, aquesta gent treballa a la frontera del coneixement, estan avançant moltíssim de forma molt ràpida i el que els convé és fer les seves pròpies normes i impedir que la resta del sector acabi arribant on han aconseguit arribar ells. Per tant, d'alguna manera, repartir-se el pastís de la intel·ligència artificial. També hi ha la hipòtesi del desgast econòmic, de dir, escolta, anem a frenar aquesta cursa tan frenètica per no, diguéssim, descapitalitzar-se aquest ritme tan gran. O també hi ha la hipòtesi de la cortina de fum. A nivell reputacional, aquestes empreses passen per un mal moment, només cal veure els judicis contra les tecnològiques, pels problemes de salut mental dels joves que ningú ha vist a venir, i on s'apunta, no?, a les pantalles, a la intel·ligència artificial, que el que està fent és malmetre la intel·ligència humana.

Clar, i relacionat amb això, justament amb aquest problema reputacional, no hem d'oblidar que aquí també hi ha hagut un discurs més aviat apocalíptic sobre els perills de la intel·ligència artificial, no?, ens han dit que revelarà, que ens matarà, que acabarà amb la humanitat, no?, tot això ho hem sentit aquesta setmana, però no sé si hi hem de donar alguna credibilitat, si hem d'escoltar aquests missatges o que.

Aquí hi ha un sector de la intel·ligència artificial que denuncia que fem servir conceptes antropomòrfics per referir-nos a la intel·ligència artificial. És a dir, no hem de parlar de la intel·ligència artificial, s'escapa, es revela, perquè li estem donant una entitat que realment no té, perquè qui hi ha darrere d'aquesta intel·ligència artificial, qui apreta el botó són els éssers humans. Aquí el que estem davant, això és innegable, és davant d'un nou paradigma tecnològic, és la irrupció dels agents en intel·ligència artificial, que no és més que un sistema autònom d'intel·ligència artificial que el que fa és transformar una tasca intel·lectual en tecnologia. Per tant, està canviant. O canviarà, canviarà la forma en què treballem el nostre dia a dia d'aquests agents, aquests sistemes autònoms d'intel·ligència artificial que planifiquen tasques que nosaltres els demanem. I aquí és on sorgeixen les pors, perquè s'escapen, es rebel·len, mira tot el que fan i hi ha molta part del sector que diu deixem de fer servir. Conceptes humans per referir-nos a la intel·ligència artificial perquè el que estem fent és transmetre una percepció social de perill que realment no té per què tenir-la perquè som els humans que estem dissenyant aquesta intel·ligència artificial. De fet, el concepte intel·ligència artificial ja fa servir una característica que és humana i que no és pròpia de les màquines.

Davant de tots aquests dubtes i de tantes incerteses sobre les capacitats de la intel·ligència artificial, ara els grans operadors han proposat aquest fre, aquest alentiment que dèiem en el desenvolupament de la IA. Però clar, això què vol dir a la pràctica? Perquè jo no m'imagino com es pot frenar, com es pot aturar tot aquest progrés ara. I és que jo penso que

tens uns dubtes que són molt raonables perquè l'autoregulació és sospitosa, perquè una companyia d'intel·ligència artificial és part interessada, d'interessos propis. Per tant, on s'han de posar els límits? Hi ha experts que plantegen crear, per exemple, un organisme supranacional com una ONU de la intel·ligència artificial. Per això hi ha gent que diu, ostres, anem a fer un organisme que reguli a tothom. Però clar, és que no té res a veure els marcs regulatoris dels Estats Units, la Xina o Europa. No ho sé. El que està clar és que la Unió Europea, de moment, és la primera i l'única que ha regulat això a tot el món.

Aquesta crisi de confiança al voltant de la intel·ligència artificial es pot veure des de molts àmbits. Un és l'econòmic, perquè hem de recordar que algunes empreses propietàries d'aquestes ies tan potents estan ara preparant la sortida a borsa. I tot això els pot ajudar per escalfar l'ambient i per atreure inversors. Aquesta és una variable. I també hi ha la dimensió geopolítica, perquè en aquesta cursa desaforada pel progrés de la intel·ligència artificial també hi ha la tensió entre la Xina i els Estats Units. De fet, Donald Trump ja ha dit que ells no volen regular, que no volen frenar res, justament per evitar això, que els xinesos els passin la mà per la cara.

La pugna és interessantíssima a nivell mundial. Com dius, Trump ja ha dit que no vol regular ni frenar res. Veurem què acaba passant als Estats Units perquè recordem-ho que al novembre hi ha les eleccions de mig mandat. Podria ser que els demòcrates recuperessin el control del Congrés i ells són més aviat favorables a la regulació. Per tant, Trump, que digui el que vulgui, ja veurem cap a on ens porten els esdeveniments. I la Xina, com deies, que també està preocupada per els avenços de la intel·ligència artificial, però ha denunciat una agenda oculta de Washington per ofegar la seva economia, perquè també va molt avançada. De fet, ha tret models que van avançar per la dreta a chat GPT, sense anar més lluny. Per tant, estem, jo et diria, davant d'una guerra freda tecnològica. Trump ha dit que qui domini la intel·ligència artificial dominarà el món, i jo crec que amb això no va desencaminat, i hem d'estar molt pendents del que vagi passant, sense anar més lluny. A finals de setembre, per exemple, hi ha una trobada Donald Trump-Xi Jinping al despatx oval de la Casa Blanca, que serà molt interessant veure de què parlen aquests dos líders mundials i que estan al capdavant del desenvolupament de la intel·ligència artificial.

Saps què penso, Núria, d'aquesta conversa? Que és un tema amb tantes implicacions, amb tantes dimensions, que és una mica com que és inevitable, que ens sobrepassa. I per això et volia preguntar, tu que ja estàs tan a sobre, que llegeixes, que parles amb experts, els que en saben, què en diuen? Cap on hem d'anar? Què hem d'esperar? Ens hem d'adaptar a la

intel·ligència artificial. Això és així. És com una revolució industrial. No podem donar l'esquena a la intel·ligència artificial. El que sí és que hem de desenvolupar models de governança. Fins ara el sector tecnològic ha sigut una mica el Far West. Aquí no hi havia normes, no hi havia regles. La gent feia el que li donava la gana. Mireu, per exemple, Uber va arribar a les grans ciutats i després hem vist com el mercat ha anat darrere regulant el sector. També tota la qüestió geopolítica que ara comentàvem, qui tingui els xips, qui tingui els centres de càlcul, tindrà el control de la intel·ligència artificial. Per tant, fan falta moltes coses per situar-se en aquest futur que ja és present i no quedar-se enrere.

Doncs justament per no quedar-nos enrere, per entendre què està passant, hem parlat avui amb la Núria Hart, periodista de Catalunya Ràdio, que segueix l'actualitat sobre la intel·ligència artificial. Núria, moltes gràcies. Fins aviat. Fins aviat, gràcies. Avui a la taula de so hi hem tingut el Jordi Galbany, el muntatge musical és de Sergi Cotilles. Jo soc l'Eloi Barrera i això és el Radar de 3Cat Info. Gràcies per escoltar-nos.