Cristian Canton: "Estem anant massa a poc a poc a l'hora de regular la IA"

I a tot plegat en volem parlar en aquesta hora especial amb diferents experts. Un d'ells és Christian Cantón, que és director associat del Barcelona Supercomputing Center. És un dels màxims experts també referents en intel·ligència artificial a casa nostra. Christian, què tal? Bon dia. Bon dia. I gràcies per acompanyar-nos. Estem sentint aquests dies moltes versions. D'entrada, com d'útil és la intel·ligència artificial per a les nostres vides? Molt.

Avui en dia veiem que la intel·ligència artificial la tenim a tot arreu, des dels nostres centres de supercomputació, com el BST, fins al raspall de dents. L'AI està transformant la forma en com ens relacionem amb el món, en com ens relacionem amb les persones, les nostres indústries, les nostres capacitats. Per tant, hi ha un avantatge d'aquesta intel·ligència artificial en el nostre dia a dia, no hi ha dubte d'això.

¿I diries que les empreses que treballen amb intel·ligència artificial estan cuidant, tenen prou precaució dels perills que pot

suposar aquesta eina? Bé, jo crec que hi ha una aplicació diversa, depèn de l'empresa. Hi ha empreses que sí que realment, si estan esmarçant esforços, com podem veure, Antropi ho està fent força bé, i trobem de les empreses que no nombrarem on la seva contribució és més laxa, perquè al final del dia estem parlant d'empreses que han de mostrar beneficis i a vegades quan han d'andar a retallar cantonades les retallaran per on puguin i a vegades la seguretat és un malhoradament aquestes retallades succeixen. Clar, però això sempre ha sigut així.

Google també era una empresa, per exemple, no? Correcte. És a dir, per què ara hi posem l'accent en les empreses i abans no?

Perquè el risc és més alt. Perquè el risc és més alt i també perquè la intel·ligència artificial, els grans avenços, s'estan desenvolupant en aquestes empreses, que tenen unes normes de joc que són corporatives. Al final del dia veiem que aquest gran progrés ja no succeeix a les universitats o als centres de recerca, sinó que s'ha desplaçat en grans corporacions. I aquí les normes del joc canvien. I aquí és on, òbviament, veiem comentaris com el del Darío Amadei, on realment hem de buscar una forma de jugar tots junts per poder realment aportar aquest benefici de la intel·ligència artificial d'una forma coordinada.

Clar, però diu un home que ja és líder en el mercat. Per tant, quan tu ets el líder del mercat i dius, ara anem a regular-ho, diguéssim que vas amb les cartes una mica marcades.

Sí, però fixa-t'hi que algú que ja estigui al lídia del mercat et digui, posem-hi compte, vigilem que això se'ns pot escapar de les mans, és revelador. Perquè realment podrien no fer-ho, d'acord? I realment està posant el crit al cel, escolteu, vigilem, aquí hi ha alguna cosa que hem de plantejar-nos-ho seriosament. Però no hi veus una estratègia

empresarial de protegir-se fent aquest missatge? Perquè al final sap que a l'hora de negociar ell tindrà la paella pel mànec, perquè si no es posa d'acord, doncs escolti'm, no regulem res, i jo ja ho he intentat.

Bueno, aquí hi ha diversos nivells d'interessos creuats, però crec que el motiu és molt legítim, més enllà del corporativisme antròpic, de compensar aquesta estratègia global. I el fet que sigui un dels primers que ho ha vocalitzat, i hem vist grans respostes d'Elon Musk, del president Trump, i tot de la Xina aquest dematí, crec que és prou revelador. Explica'm com al Barcelona Supercomputing Center treballeu, per exemple, en el dia a dia amb la intel·ligència artificial. Al Barcelona Supercomputing Center toquem la ciència, realment nosaltres fem ciència, i amb la ciència, òbviament, utilitzem l'intel·ligència artificial. Tenim grans models d'IA, per exemple, el model del català, l'AINA, o el de l'espanyol, i les altres llengües cooficials, que és l'ALIA. Però apliquem l'IA a la medicina personalitzada, al canvi climàtic. Tota una colla de branques de la ciència que realment utilitzem de forma extensiva. I tenim un angle responsable. Quan fem IA, realment pensem en aquestes qüestions. Com aquesta IA es pot utilitzar de forma correcta, de forma responsable, i no trobar-nos amb situacions que poguessin ser més complicades. D'això, des del dia 1, tenim molt clar que ho hem de fer bé. És a dir, treballeu en termes de seguretat. Tenim un laboratori, per exemple, de tecnologies duals, on realment apliquen la IA a temes que podrien ser sensibles. I també, com us deia, des del dia 1 hem tingut molt clar que ho hem de fer d'una forma responsable.

Aquí hem sentit, per exemple, que està en perill la humanitat. Hem sentit frases que són molt dures d'assimilar. Bueno, ¿qué vol dir?

Jo diria que és complicat fer aquesta separació. Òbviament, hi ha escenaris molt catastrofistes a tipus Terminator, però és molt difícil de quantificar i és molt difícil d'arribar a pensar com això pot arribar a succeir.

Però armes biològiques, per exemple, es podrien crear amb la IA? És a dir organismes vius, microbis o bactèries, que poguessin crear malalties de forma intencionada, que acabessin amb bona part de la humanitat?

Mira, quan jo estava a Facebook jo portava la part de la companyia que s'encarregava d'aquest tipus d'escenaris. Al final del dia, aquest tipus d'ies no hagin de ser una eina més dintre del calaix d'eines que té un actor, potser un actor malintencionat. Tu pots dir, escolta, anem a modificar aquest virus per fer aquest tipus d'acció. I aquí hi ha una mica la complexitat de definir si la intenció és positiva o negativa, perquè pot ser un estudiant de biologia que estigui intentant entendre com aquest patogen pot evolucionar. Però sí, la IA pot ser utilitzada per intentar ajudar a grups amb intencions nefàries. Per tant, s'ha de controlar. I sí que pot arribar a ajudar en alguns casos. Però podríem estar en un cas semblant a la bomba atòmica, per exemple? Bueno, és complicat de dir, però realment sí, tenim una IA que, imaginem-nos, una IA que ho ha llegit tot, que ha llegit tots els articles científics, és capaç de connectar tots els punts de la ciència. Hem vist aquest fa recentment com s'han resolt grans problemes matemàtics que es pensava que eren gairebé impossibles. Si això ho extrapoles, el risc d'armes nuclears o armes biològiques, òbviament que una IA mal emprada pot arribar a portar avantatges en grups que tinguin males intencions. Per tant. Sí, s'ha de vigilar, s'ha de vigilar perquè realment pot portar a escenaris complicats.

El director executiu d'Antròpic feia aquesta crida. Crec que pot passar que les coses surtin malament,

però crec que és més revelador pensar que aquesta probabilitat ens obre diversos camins. Si agafem el camí correcte, llavors la probabilitat que alguna cosa surti malament és molt baixa. I si agafem el camí equivocat, llavors la probabilitat és encara més alta que aquest 10%. Per tant, centrem-nos en la nostra habilitat per escollir el camí correcte.

Bueno, és una separació interessant. Jo crec que també s'hauria d'afegir que a la part que desenvolupem capacitats d'IA, que són meravelloses avui en dia, també hem de desenvolupar capacitats de seguretat que vagin a la part. Que realment, si algun dia ens trobem amb un escenari que sigui molt complex o que pugui implicar un risc, tinguem mecanismes de seguretat que ens permetin poder-ho solventar. Si aquests dos camins no van elevar alhora, podem trobar-nos que realment tinguem un escenari on l'IA es pugui utilitzar per fer. Catástrofes. I que ho pugui fer per ella mateixa? Aquí sí que no, aquí no t'ho compro. Aquí jo crec que la part aquella de que la IA pren consciència i fa quelcom que no s'esperava, que no se li havia demanat, jo crec que no hi som encara. Jo personalment crec que no hi arribarem ni en la pròxima dècada.

Jo t'ho preguntava per l'exemple que posava el Frederic, d'aquesta empresa aquest estiu, que va haver-hi un model d'OpenAI que va hackejar una altra empresa sense que ningú l'hi demanés. Bàsicament se li va demanar aconseguir aquesta informació. I ella va deduir que per aconseguir-la havia d'entrar i hackejar el sistema.

Exacte. Tu li vas donar prou paràmetres. Tu li dius, fes això i la IA utilitza totes les eines. Tot s'hi val per la IA. Exacte. A no ser que li donis paràmetres, dius, tu no pots fer això. O aquestes eines que tens aquí no les pots utilitzar. Si tu li dones ampli ventall perquè faci el que vulgui, òbviament et pots trobar amb situacions que diguis, ostres, això no m'ho esperava, has aconseguit el teu objectiu, però la FIA ha justificat els mèdics. Per tant, aquí se li ha d'explicar, això no ho pots fer. La IA realment no pensa per si mateixa. Segueix instruccions en la millor de les seves habilitats i utilitzant totes les eines que tingui a la seva disposició. Li preguntàvem aquest

estiu al físic romà Norús, que forma part del parell de l'ONU sobre intel·ligència artificial, i deia això. El que ha passat ha estat

dins d'un entorn més o menys controlat, i efectivament s'ha pogut detectar temps, etc. Però el que hem de fer ara mateix és com hem d'entrenar aquestes intel·ligències artificials per tal que no facin això. Si l'encàrrec que se li fa és aconsegueix

les dades de tots els catalans i catalanes a la sanitat pública, ho té raonablement fàcil, un model d'intel·ligència artificial per aconseguir-lo? Bueno, amb el que hem vist jo diria que sí.

Jo diria que dependrà de les capes de seguretat que tinguem en les nostres ciutats.

Però ara mateix vostè ho coneix, això. Potser no directament, però sí que es fa una idea de com està la seguretat pel que fa a les dades de salut dels nostres ciutadans. Això podria passar amb certa facilitat? No, amb certa facilitat no, òbviament.

No ho crec, sense tenir una auditoria profunda. I dades bancàries de la gent, tampoc? Tampoc. Jo crec que encara tenim, el que dèiem, els camins paral·lels, la seguretat que tenim avui en dia és prou robusta perquè l'IA encara potser no pugui crear escletxes. Però, òbviament, hem de continuar fent que l'IA i la seguretat que ens acompanya en els nostres sistemes realment vagin a la part per evitar aquesta disparitat. Deixem posar l'accent

també a les empreses. Vull saludar a aquesta hora la Cristina Aranda, que és consultora en intel·ligència artificial i també cofundadora de Mujeres Tech. Cristina, bon dia, buenos días. Buenos días, buen día. I gràcies per acompanyar-nos. Tu treballes com a consultora d'intel·ligència artificial a empreses.

Sí, sí, sí. Yo vendía empresas, soluciones de procesamiento de lenguaje natural parecidas a GPT, mucho antes de la pandemia. Y además soy doctora en lingüística, así que conozco un poquito cómo trabajan estos large language models, estos sistemas. ¿Y cómo está avanzando en aquest ámbit? ¿Qué es lo que te demanan más las empresas? Pues estas empresas, yo la pregunta inicial es ¿por qué ahora? Porque quienes llevamos trabajando mucho tiempo aquí, en este ámbito, venimos demandando una regulación. Esto no puede ser un Fórmula 1 que vaya por ahí a lo loco. Tiene que ser regulado porque impacta en la salud mental de los adolescentes, impacta también en democracias y además no es baladí que sea justo ahora cuando quieren salir a bolsa estas empresas donde les van a exigir transparencia. Entonces, como no pueden ser transparentes, porque es una de las grandes verdades ocultas y tienen que ser responsables, y además esto tampoco lo disfrazan un poco de lo mismo que conocemos lo de ethical washing, ¿no? Esto es lo que están haciendo estas empresas, ponerse este disfraz de personas buenas, de que quieren responsabilizarse de ese impacto bueno, cuando están recibiendo multas millonarias por haber incumplido la propiedad intelectual. Están chorizando conocimiento. O, por ejemplo, también incumpliendo esta meta recientemente por utilizar estos algoritmos. Con lo cual, si te vas a recibir denuncias milmillonarias y vas a salir al mercado, donde estos inversores e inversoras te van a exigir esa transparencia, y además luego puede llegar cualquier juez que te diga que tienes que cambiar tu algoritmo, con lo cual va a cambiar también tu producto, pues es un gran impacto. Yo creo que es una mezcla de muchas cosas, pero sobre todo de esto que es casualidad, van a salir a bolsa, están poniéndose el gorro de gente buena.

Perquè amb la teva feina tu hi veus riscos potencials que puguin tenir amb la IA?

Claro, si ya los vemos, si hace tiempo que se usa la IA con uso bélico, por ejemplo, en los drones, o con la planificación y predicción para hacer más eficientes los ataques, o ya en espionaje, o el impacto, las fake news, paparruchas, los deepfakes, todas estas cuestiones que impactan en la sociedad, claro que sí, y lleva tiempo impactando, de forma silenciosa o ya de forma más obvia, ¿no?, El Financial Times també deia fa uns dies

que la inversió a les empreses tecnològiques en aquests centres arribarà als 7 bilions de dòlars el 2030.

Claro, pero eso es una inversión bestial y tienen que ser transparentes y también los inversores quieren seguridad. Seguridad. Seguridad en lo que están invirtiendo, saber en lo que están invirtiendo. Porque las propias empresas muchas no saben cómo funcionan sus propios sistemas. Están invirtiendo, invirtiendo. Eso es una inconsciencia.

Una empresa no sabe cómo funcionan sus sistemas de seguretat, no está haciendo bien la feina.

Bueno, entonces, ¿por qué no están pasando las cosas que están pasando? Muchos de estos sistemas son con tecnologías de deep learning, que las propias máquinas van entrenando a sí mismas. Entonces, como no se les ha regulado, no se les ha pedido determinadas guías, unos hitos, pues es muy complejo. De hecho, es más fácil lanzar una AI al mercado que un juguete o cualquier producto.

Y una pregunta ya más directa pels empresarios que ens estiguin escoltant. ¿Tú aconsellaries ara a les empreses invertir actualment en IA?

A ver, yo no soy, ni tengo certificación del CMV, ni soy broker, ni puedo aconsejar esto, porque luego vete para saber si dicen, oye, que Cristina Aranda ha dicho que invirtamos, yo no soy una guía generativa, que yo no sé quién hay detrás aconsejándome si invertir o no.

És Cristina Aranda, consultora d'intel·ligència artificial i cofundadora de Mujeres Tech. Gràcies per acompanyar-nos. Que vagi bé.

Muchísimas gracias por invitarme. Un saludo. Sara.

Sí, deia el senyor Cantón que veu difícil que hi hagi intel·ligències artificials que sense una ordre humana prenguin decisions per elles mateixes. Però jo li voldria preguntar si pot passar que la capacitat de créixer de la intel·ligència artificial, que està entrenada per millorar-se a una velocitat exponencial, vagi més ràpid que la nostra capacitat per posar-hi límits. Perquè si una cosa hem vist és que la capacitat regulatoria d'aquells que volen regular, perquè només Unió Europea ha parlat de regulació, Estats Units no està en aquesta línia, la Xina tampoc ho està, i igualment quan la Unió Europea s'ha posat d'acord en regular, per exemple, les xarxes socials, quan ha arribat la norma resulta que ja queda obsoleta perquè la tecnologia ha passat per davant. Per tant, pot ser. Que fins i tot en el moment en què diguem anem a regular-ho ja no tinguem capacitat perquè no som ni tan sols capaç d'entendre com funciona aquesta IA? Possiblement.

Veiem que les capacitats de créixer i d'aprendre de la IA són exponencials, com tu ben dius. La IA és capaç de millorar-se i generar el següent model en qüestió de dies. Una regulació que permeti posar una mica de seny, és important. El problema és tant que som lents. El problema és que les regulacions arriben tard. A vegades arriben massa d'hora. Per exemple, les meves regulacions d'ahir no tenien ies prou potents i ara les estaven regulant. I ara estem anant massa a poc a poc. I és important entendre que si aquestes regulacions arriben massa tard, el que podem tenir és que comenci a obrir-se una disparitat entre diferents països, entre diferents blocs. Aquells que tenen accés a l'energia o a les dades necessàries per crear aquestes ies, tindran un avanç més ràpid, i això pot ser un avanç geopolític, un avanç econòmic, mentre que d'altres no. I hem de tenir molt clar com regulem això, perquè si no el que ens podem acabar trobant és tenir forats, països que realment vagin molt ràpid, riscos que creixin d'una forma descontrolada, o fins i tot que puguin donar avantatges competitius en àmbits geopolítics. Avui en dia ens trobem que el món està calent, trobem conflictes pertot arreu. L'ahir arriba en un moment molt interessant, a més a més, quan aquests conflictes són cada vegada més intensos. Aquí és on jo crec, Catalunya, Espanya, Europa, diria el món, ha de regular i ha de la regular ràpid. Aquí no podem passar anys que si la barra tira a la dreta, que si la barra tira a l'esquena. Aquí hem de dir, escolta, què és l'important? Quines són les coses crítiques on volem definir les línies vermelles? De la mateixa forma que es va regular, no podem clonar éssers humans. Això està prohibit. Aquí, i fins i tot la Xina ho va acceptar. Hi ha algunes regulacions més sobre aquesta línia i no la podem creuar. Què és aquesta línia vermella per la IA? Fins on podem definir-la? I després, ser molt rígids a l'hora de realment imposar aquestes normes. Que diguis, no, quina és la sanció? Què passarà si tu ho fas? I ara mateix no tenim. Aquestes normes són molt laxes perquè, òbviament, hi ha un aspecte econòmic. Estem creixent molt ràpid. Aquestes grans companyies tenen grups de lobistes importantíssims. No vols enterrar-te. I després tens que, si te'n redereixes, tens altres blocs com la Xina que no s'esperaran i, possiblement, passaran pel davant. Per tant, tenim. Un joc d'interessos creuats molt interessant. Anem a fixar-nos precisament en el paper de la Xina.

El diario oficialista xinès Global Times acusa part de la comunitat tecnològica dels Estats Units d'aprofitar aquest neguit dels Estats Units per als riscos de la intel·ligència artificial per aprofitar-ho, diu, per alentir el desenvolupament de la tecnologia al país, a la Xina, i desplegar el que qualifica d'un manual de guerra freda contra la intel·ligència artificial xinesa. L'editorial del Global Times acusa el responsable d'Antròpica, Dario Adomei, de defensar que les democràcies no han de ser ingènues, però que en realitat el que està proposant. Diu, estrangular, primer és estrangular el desenvolupament xinès, ampliar a partir d'aquí l'esquerda tecnològica entre un país i l'altre, i després proposar negociar amb Pequín un alentiment també del sector.

Doncs és interessant això també, perquè al final posa a manifest que també hi ha una batalla per veure qui té més potència ara mateix en aquest món, que durant molts anys a l'estat d'Europa hem mirat Estats Units, veiem com trontolla per les polítiques de Donald Trump, i veiem com la Xina ha anat fent la seva i s'ha convertit realment en una potència econòmica mundial molt important.

De fet, jo diria que segurament és la constatació que la Xina ens ha passat per davant als Estats Units. Europa ja la dono per descomptada, però en els Estats Units. I els Estats Units sap que té data de caducitat el que és el seu lideratge, el seu lloc número 1 com a superpotència. Ho ha estat com a superpotència a nivell militar, econòmic, polític, demogràfic, no? I sap que la Xina li pot passar pel davant en molts d'aquests aspectes, també a nivell tecnològic. De fet, jo me n'aniré a la Xina aquest desembre i ja m'han dit, veuràs ciutats que, en el nostre imaginari, són les ciutats que ens deien que veuríem a les pel·lícules. Dit això, el model tecnologia, seguretat i ètica no és nou, és a dir, és un model que ha vingut acompanyat de la majoria de tecnologies. Jo ja tenia apuntat aquí, més que res, per ser honest, el tema de la clonació, però per exemple també el de l'orani, que forma part també d'un dels conflictes que tenim al món occidental amb l'Iran, o que és l'excusa, més que res. Però l'Urani també té aquesta història perquè venim de Nagasaki, d'Hiroshima, amb els efectes devastadors que allò va tenir i la comunitat internacional va dir, escolta'm, aquí hem de posar unes regles del joc i efectivament eren unes regles del joc que es van posar en funció dels interessos de la nostra part del món. Però un cop la nostra part del món ja l'havia fet servir. Per tant, és exactament igual que el que està passant amb la intel·ligència artificial, amb una diferència. Abans eren els estats, ara són les empreses. Però és que això és coherent amb el món que tenim. És que avui hi ha empreses que la seva riquesa és molt més gran que la del PIB de molts estats. Aleshores, la pregunta que jo li vull fer com a expert, és a dir, si vostè hagués de fer una carta als reis, vostè creu que s'ha de crear un organisme que digui, això és com un taulei del risc, això és com un taulei del risc, i les cartes són aquestes, els jugadors poden ser aquests, i aquestes són les normes. Vostè creu que ha d'haver aquest organisme, i s'hi coneix, si en la comunitat internacional, també per part d'empreses o lobbies, hi ha un moviment que no coneixem perquè es creï aquest organisme que posi les regles del joc.

Jo crec que sí que ha d'existir un equivalent a les Nacions Unides per poder tractar problemes com aquest, com la intel·ligència artificial, que a més a més s'estan desenvolupant d'una forma molt ràpida i estan creant diferents velocitats a diferents llocs. Com bé deies, la Xina en un passat la veien com. La Xina copiava i ara la Xina innova. I realment la Xina, pel fet d'haver-se trobat privada moltes vegades d'aquests xips que venien d'Estats Units, els ha fet accelerar i ja tenen els seus propis xips que són capaços de competir amb els nostres americans. Els models xinesos són tan bons com els models americans. Crec que encara els hi queda, perquè si ens fixem, tots els desenvolupaments o els grans desenvolupaments científics que hem vist aquest estiu en temes de matemàtiques o de ciències han succeït encara als Estats Units. Per tant, veiem que hi ha un petit avantatge encara als Estats Units. Però sí que crec que és necessari que tothom s'ha de sentar i entendre com aquesta guia pot modificar la forma en què tenim d'entendre el món. Com poder modificar aquest taulell de risc que dius tu en les pròximes dècades. I com entendre com tothom hi juga? Perquè el que no podem pensar és solament la Xina, els Estats Units i Europa, quin paper hi jugaran, perquè tens un món més gran, tens l'Índia, tens Àfrica, tens Amèrica Llatina. Clar, el que hem d'entendre és com aquesta IA pot beneficiar tothom. I finalment, aquesta IA normalment es nodreix d'energia i es nodreix de dades. Què passarà el dia que les nostres necessitats d'electricitat siguin tan grans que no les puguem suplir? Per on començarem a retallar? Quan se'ns acabin les dades, per on començarem a retallar? I entendre una mica tots aquests trade-offs i realment optimitzar. Ha parlat, per cert,

fa poca estona el ministre de Transformació Digital a Televisió Espanyola, Óscar López.

Tania? Sí, ha parlat precisament de tots els temes que esteu comentant. Han destacat que la IA ben regulada pot tenir bones aplicacions, per exemple, en la medicina. Treu Pit diu que Espanya està al capdavant en la regulació en aquest sector i apunta que les veus que estan ara parlant busquen un acord internacional i ho comparen amb l'energia nuclear. Sentim-lo.

Pero hay otra analogía que se utiliza muchas veces que fuera energía nuclear, que es la primera tecnología donde hubo un acuerdo internacional de no proliferación. Yo las voces que escucho estos días me suenan un poco a eso, me suenan a buscar algún acuerdo internacional que nos permita, digamos, limitar los riesgos de la inteligencia artificial.

Y también a respuesta a Trump, sabeu que no vol parar aquesta cursa amb la Xina y le deia això.

Yo creo que Donald Trump no ha escuchado a los que están desarrollando la inteligencia artificial, porque en realidad los punteros son cuatro, son los que saben de verdad lo que está pasando. Y ellos están diciendo que se puede escapar de su control, del suyo, del que lo están desarrollando. Por lo tanto, yo no sé si Trump es consciente de lo que está diciendo.

Tot plegat n'estem parlant avui amb Christian Cantón, director associat del Barcelona Supercomputing Center i un dels màxims experts, també, i referents en intel·ligència artificial a casa nostra, juntament amb Sara González, Aitor Arriaga, Tori Bolanyo i Pau Llom.

Pau. Sí, bueno, un parell de coses. La primera és això, no?, la reacció de la Xina. Com que està sent molt encalent, a mi m'està costant descrutar quina està sent. Al principi dèieu, o no sé si ho he mal interpretat, que semblava que s'alineaven amb la petició de restriccions o de frenar, però també hi ha. La informació que ha llegit el Frederic, que diu bàsicament que Modei demana cooperació global per frenar el ritme, podríem dir, però alhora està reclamant, és a dir, Xina denuncia que alhora està reclamant a Washington més restriccions de xip contra la Xina, mesures contra els laboratoris xinesos, per tant, en el fons, aquí. El que es diu, i és cert, Amodei, que és el que estava intentant explicar abans, es demana moderació per a l'hora de mantenir l'avantatge tecnològic dels Estats Units. Per tant, qui no està interessat en que hi hagi un pacte internacional que faci viable aquest control del que tothom està parlant, no és la Xina. I en aquest sentit, dos arguments més, perquè és que sempre parlem de la Xina amb menys peniment, amb eurocentrisme, amb superioritat moral, quan li concedim algunes coses és, bueno, que abans copiava i ara ja no copia perquè innova. No, la Xina està demostrant en molts àmbits tenir una consciència del que significa una cooperació de mercat entre iguals molt més desenvolupada que als Estats Units. I hem vist, per exemple, en el cas de la IA,

La Sara abans deia que la Xina està en contra de la regulació. No és veritat. És el règim operativament en termes d'IA, i segur que l'experta ens ho pot confirmar i està dient que, si mal cap, més exigent del món per ara. Passa que no ho coneixem. Els requisits d'avaluació de seguretat prèvia són molt més grans que no pas amb les empreses americanes. Hi ha doble etiquetatge visual incrustat dels continguts generats. O sigui, la IA xinesa és molt més segura i està molt més controlada que no pas els models nord-americans. I dos. Hi ha un senyor que s'ha despertat i ha fet una carta dient que s'ha de controlar això. Quan la Xina va convocar el juliol de 2026, fa quatre dies, l'Organització Mundial de la Cooperació d'Intel·ligència Artificial, i va convocar un munt de països del sud, i que va intentar alinear-los en la línia del que estava defensant abans, de la IA com un bé públic, la IA no com un model de negoci. Llavors no en vam parlar. No en va parlar ningú. Xi Jinping, que vaja, jo crec que és una persona que deu tenir el seu poder, doncs defensa precisament el model d'IA que avui estan defensant, llavors no ho deia ningú. I la Xina, bueno, la Xina, la Xina, la Xina. Ara ho defensen, aquests senyors que bàsicament el que volen és tancar i cartelitzar la seva indústria per fer negoci

i expulsar la Xina, mentre porten anys i anys i anys disciplinant la indústria xinesa, batant els xips, etcètera, etcètera, una guerra comercial. Escarosa i molt antiliberal, per cert, i ara sí, ara ens hem adonat tots que la IA té uns certs perills. És que, de veritat, aquest debat m'irrita, perquè és un debat eurocèntric que es planteja en termes de donar veracitat. El nostre company expert deia, és revelador que ara hi hagi aquesta carta. Sí, és revelador de què? Què és el que revela? Què és el que manifesta? Manifesta preocupació per l'espècie humana d'aquesta gent? No, manifesta preocupació per un sector i un model de negoci que, insisteixo, I això sí que és la pregunta que voldria fer, perquè si no sembla que no vulgui fer una pregunta. No sé si comparteix l'idea que el sector de moment no ha demostrat tenir un model de negoci. Precisament perquè hi ha empreses que produeixen software lliure, software que es pot distribuir de forma molt més barata en el preu per token, etc. El que està clar és que aquesta gent no té ni un model de negoci i estan cremant fluxos de caixa de forma brutal. Això suposo que estem d'acord. És cert, per tant, que el que pot revelar aquest posicionament és que l'única manera que tenen de generar un model de negoci és tancant la indústria i expulsant els seus

competidors lliures i xinesos? Podria ser aquesta l'estratègia? Podria ser això el que revela la carta? És una forma de veure. Diguem que aquesta carta no és la primera.

Mira, eh? Hi ha d'haver-hi diverses cartes anteriors del Jeffrey Hinton i d'altres que amenaçaven amb els riscos existencials de la IA fa dos i tres anys. O sigui, això no és nou. Que això sigui una estratègia de posicionament d'antròpic és possible. Veiem que la Xina està produint uns models open source molt bons que, com bé deies, tenen uns nivells d'escrutini per evitar realment complexitats derivades de seguretat. Tindran altres problemes. Potser tenen capes, escolta, de viaixos culturals. No t'ho trec. Però, bueno, fan models molt bons. El fet de que avui en dia es produeix aquesta carta, traient de part quins són els posicionaments estratègics, jo crec que és important. Perquè ha elevat el to a un punt on tothom n'està parlant. Perquè aquestes dues altres cartes que es van publicar fa dos anys, ningú en va parlar, o sigui, ha parlat molt poquet. Dins de la nostra comunitat, sí, que va ser un problema candent, però no va passar d'aquí. Jo crec que hem d'aprofitar aquesta percepció que ara tothom té, aquesta awareness que tothom té sobre aquesta carta, per parlar-ne, perquè dèiem abans, escolta, anem a crear els instruments regulatoris que ens permetin poder jugar tots iguals, incluint la Xina, incluint la Índia, incluint totes les varietats culturals, perquè al final del dia aquests models el que es poden acabar és empobrint la cultura dels seus usuaris, perquè no deixen de ser uns models anglosaxons centrats en aquest tipus de cultura. Per tant, hi ha molts aspectes que estem delegant en grans monstres corporatius que al final del dia l'únic que interessa és el retorn on investment, al final, quants diners hem guanyat i quants hem invertit, Però això s'ha convertit en una qüestió social. I quan traspassem aquests límits és on realment ha d'entrar-hi la política, ha d'entrar-hi la societat civil. Ha d'haver-hi un debat intens i, finalment, una regulació que podem executar i realment créixer tots junts. Si no, d'aquí 10 anys tindrem un debat bastant més complicat.