Castellet i Pi: "Ni fascinació ni por a la IA. Pensament crític"

I aquest diumenge no podia faltar l'opinió dels nostres revolucionats. Ben tornats en aquesta onzena temporada. Ricard Castellet, Jordi Pí, què tal, com esteu? Molt bé.

El Ricard està molt gran. I no de tamany, precisament.

Escolta, parlarem d'allà, però ens hem alarmat una mica. Molts titulars alarmistes que la intel·ligència artificial acabarà amb la humanitat d'aquí 10 anys i no és veritat, no acabarem amb la humanitat. Què us ha semblat? Ens hem exagerat una mica?

Jo estic en contra del discurs de la por. Ho dic molt en sèrio, estic totalment en contra del dissubte de la por, estic a favor del dissubte crític, sí, i crec que estan fent la campanya de publicitat més gran i més barata de la història de la humanitat. Totalment d'acord.

Jo tampoc estic d'acord amb la política de la por, però tampoc estic d'acord amb la política de Trump. Tampoc, evidentment. Això no és que empixa, i menys si cau a les seves mans. Per tant, precaució i sentit crític. Crític, crític i crític.

Però no por. Per això, Revolucionats, avui parlem de la intel·ligència artificial, però podem dir que també és una intel·ligència social. Amb Ricard, Jordi, i anem a posicionar-nos.

Això és el que hem de debatre. Sí, en aquest debat, no? Parlem-ho, parlem-ho. Volem plantejar la nostra

ja particular o el que és el mateix? Jo t'he de dir. Aquesta ja ètica, no, Ricard i Jordi?

Hi ha hagut un robot que es corre més ja que els humans i no em venia de gust parlar d'això i que era molt més divertit. El vídeo és brutal,

aquest tio és més ràpid que us ha dit molt. El problema és que és igual de ràpid corrent que fotent-se un pinyo contra la paret perquè no sap frenar. El col·lega a més s'encén. Parlem d'allà perquè ens sembla que. Parlem d'allà.

I si és ètica, no és ètica. La IA hi ha molts temes. És que la IA no és només un xat GPT, sinó que la IA és molt més i, per tant, ha de ser ètica.

La IA és un software. El software i la tecnologia no és ètic. L'ètic és l'ús que fem servir aquesta tecnologia i aquest software. Si nosaltres estem. Per exemple, fent servir l'AIA perquè triï un candidat, un currículum idoni, ens estem equivocant i estem fent un ús no ètic d'aquesta tecnologia. Per tant, el que fa o no fa que sigui ètic són els humans. Els humans hem creat dades, dades esglaixades, i l'AIA està aprenent i està desenvolupant coneixement a través d'aquestes dades esglaixades.

Jo diria que, a més a més, el punt és més greu perquè ja no és que hi hagi gent darrere de les IA, sinó que darrere dels models d'IA hi ha altres IA. I per mi el que és tope pervers és això, perquè al final, si un model ja neix corrupte d'inici, seguirà generant sobre un model totalment corrupte. Corrupta. Per tant, jo crec que al final el tema és sobretot com controlem tot això i sobretot quins paràmetres de filtració establim per controlar això.

Clar, això és el que han dit també aquestes empreses, no? És a dir, les empreses que creen la IA han dit que hem de ser més responsables, han demanat aquesta regulació, no? El que programa, no? També, Ricard, demana aquesta regulació.

Exacte, i aquí jo personalment estic tovent a favor d'aquesta regulació, d'aquesta legislació a favor de la IA, però controlada, perquè hi ha més incerteses, perquè hi ha un discurs de la por que és l'únic que em fa por, el discurs de la por, i per tal que crec que cal regular. Ara bé, aquí hi ha el senyor Trump que diu, no, no regulem, el que regulo sóc jo, és el meu criteri, i això és un perill molt gran.

Hem de parlar de la relació de la intel·ligència artificial i el medi ambient, que a més ja sabeu que una resposta de text de 100 paraules, oients, gastem mig litre d'aigua, que això la meva filla sempre m'ho diu. Em diu, mama, quan em diu, estàs gastant aigua, que ho sàpigues, i la gent jove. Això és sostenible també pel nostre planeta, us pregunto els dos?

Clarament no sostenible. Aquí el debat és el de sempre, no? Vull dir, què prioritzem? Està clar que amb el planeta que tenim nosaltres ja fem cas com a persones els petits gestos el tema d'estalviar l'aigua de la planxa i regar aquestes coses, però el problema està amb la IA i sobretot. Calculem la infinitat de litres d'aigua que s'han gastat pel vídeo d'Instagram de com érem als anys 80. Aquest viral que hi ha hagut em sembla brutal, perquè això és inútil, impresentable i només serveix per gastar aigua, energia, molta, perquè a més és imatge. I tenir les nostres ales. Això no ho pararem. Però el que hem de parar és el sentit de l'ús. Per què volem veure'ns com als anys 80?

És un entreteniment. Hi ha també una part de la tecnologia que és entreteniment.

És sostenible. Si aquest entreteniment vol dir. Que et quedis sense aigua, tenim un problema i molt greu.

A sota de l'aigua ens pot ajudar molt bé, molt, en el canvi climàtic. Posem un petit exemple. El BSC, Barcelona Super Cooperative Center, acaba fent un estudi sobre l'impacte de la calor a les ciutats, que recomano a tothom que el busqueu per internet i el consulteu. Què passarà a les nostres ciutats d'aquí uns anys amb l'augment de la temperatura. Això és una bona aigua utilitzada correctament per ajudar a la humanitat en la lluita del canvi climàtic. No, com deia el Pinetti, un vídeo viral absurd, que sé que ens fa riure, però que la despesa energètica no correspon.

És que la IA té el bé i el mal. És a dir, la IA pot ajudar-nos a lluitar contra el canvi climàtic, però també pot contribuir al consum de recursos.

És la paradoxa. Aquest debat entre el bé i el mal ja l'hem tingut amb internet a la seva època i ara el tenim amb la IA i, a més a més, de forma molt més potent. Al final, és el que dèiem abans, és aplicar sentit i el que està clar és que hem de fer que la pròpia tecnologia, no només la IA, sinó tota la tecnologia en general, sigui més eficient i més sostenible.

La IA també ens afecta com a usuaris. Desinformació, n'hem parlat amb el Marc Amorós. Els joves ja no treballen amb llibres, no consumeixen informatius, sinó que simplement s'informen a través de les xarxes. I aquí la IA també, Ricard i Pi, perillosa.

Molt, molt perillosa. Estem generant imatges, vídeos. Amb veus, amb imatges que semblen reals. M'agrada molt discernir què és real i què no és real i que, a més a més, s'adapten a moments crítics de la història en concret. Em sembla molt clar, estàs al cas de Ceuta, tu al cas de Ceuta, la quantitat de fake news, de vídeos virals falsos, de personatges, t'has creat molta informació falsa al voltant d'un factor.

Destaquem la Fara, la jove aquesta marroquí, que totes les xarxes, anem a dir, pròximes als musulmans i tal, va fer un viral brutal presentant una jove instalada a seuta i odiant de la gran seva nova vida a Espanya. Un contingut i un perfil de la noia íntegra generats amb ella. Totalment falsos. I a més,

si algun mitjà de comunicació li dona cobertura sense verificar, tenim un contingut fals amb milions de visualitzacions,

Ricard. Que és el que passa. Ara, deixem girar la truita. D'igual manera que serveix per viralitzar continguts falsos, i aquí hem de ser molt crítics, també pot servir per difondre continguts culturals, continguts científics, continguts de valor, coneixement, i això també ho hem de posar en valor. Hem de saber utilitzar aquesta IA, aquestes xarxes, per generar bon contingut.

Per tant, avui a Revolucionats, amb Jordi Ip i Ricard Castellet, parlant d'aquesta IA, no només necessitem entendre la tecnologia, necessitem l'educació digital per buscar contrastar els continguts, i ara parlem també de les grans companyies generadores. Hi ha protagonistes aquesta setmana que el que volen és un control econòmic, i el que han fet també és una publicitat gegantina, que deia abans el Ricard, el tema econòmic, Jordi.

El tema econòmic és molt important, perquè al final desenvolupar tot això, totes les companyies que estan desenvolupant ja no estan generant ingrés, per tant estan totes a la ruïna, invertint molts diners, molta inversió no només amb la pròpia tecnologia, sinó amb professionals, desenvolupadors, etc. I per tant la cosa és molt deficitària. Clar, jo crec que al final els lobbies el que demanen és el seu tros de pastís i no deixaran que això, que una indústria com aquesta es dispersi, si la poden tenir agrupada i almenys poder-se recuperar de la situació.

Parlant de molt poder, molt poder, concentrat en molt poques companyies. I això sona molt malament. És una influència sobre l'economia, sobre com accedim a la informació, influència de quina informació consumim. En definitiva, una dependència brutal a mans de molt pocs que estan als Estats Units o a Xina. I a Europa, què farem?

La part positiva seria intentar entendre que també es pot, això també pot, la IA en definitiva pot. Hi ha moltes possibilitats d'acompanyament. Molt petites que fins ara ni es plantejaven estar lluitant en un mercat amb els grans gegants. Poder ja no per la seva supervivència, perquè difícilment sobreviuran, però sí perquè els acabin comprant, que això està passant molt. Per tant, també hi ha la part positiva, no? Una persona sola, molt petita, en el mercat, insignificant, pot estar utilitzant eines de grans corporacions i això, no?

Avui penso en el Departament de Comunicació d'Entropi i Open AI, segur que els han dit calleu, no torneu a dir, perquè ja sabeu que aquesta setmana han fet molts titulars, ara hi ha silenci, veurem què passa, i un altre punt del debat també amb vosaltres és la intel·ligència artificial en la cultura i en l'educació

dels joves. És un tema també molt punyent i en què n'hem de parlar moltíssim. Som una generació que hem crescut amb internet. Però és que ara estem davant d'una generació que per primer cop neix, creix, amb internet i amb IA. I això ho fa encara tot molt més complicat. A més a més, en un període de temps molt curt. Estem parlant de tres anys, quatre anys, que hem hagut d'incorporar una eina bestial, amb un potencial bestial, a les aules, a la nostra vida, i això ho fa tot molt complicat. L'aia pot ser una eina educativa molt útil, sí, i ho defenso, però també pot ser una eina contra cultura molt important.

Ja era una eina contra cultura internet. Doncs imagineu ara l'aia, no? Al final, la tecnologia. La cultura ha de deixar d'aprendre la tecnologia i recuperar l'espai que. La cultura ha de recuperar l'espai que li pertoca. Al final estem creant petites màquines totalment incultes, o sigui, penya que no sap interpretar un text, que no sap absolutament res perquè no investiga, no treballa, simplement viu de l'algoritme. Molt bé, doncs entre la fascinació

de la IA i la por de la IA, el Revolució es queda amb el pensament crític i això és el que farem aquesta temporada, ser crítics amb tot, eh? Ricard Castellet i Jordi Pim.

Jo proposo que el pròxim dia farmegem Aura, eh?

Gracias, gracias, compadre.

Acabem el programa i avui hem parlat de viure més enllà dels 120 anys i hem triat una frase de l'actriu Helen Mirren que aquest estiu fa 81 anys i diu així Jo no en dic fer-se gran, en dic créixer. Doncs vinga, tant de bo que tots creixem i molt. Ens queda molt futur per endavant.

Moltes gràcies a l'equip del programa, Xavi Llauradó, Iván Dietz, Gerard Gil, Jordi Pi, Marc Amorós, i gràcies també a les veus de Carles de Bo i Anna Escura, que han sonat també avui al programa. Gràcies, oients. Una abraçada.