Carles Planas: "La IA com un nou Déu: la ideologia que està marcant la revolució de Silicon Valley"

Revolució 4.0 amb Chantal Llevina a Catalunya Ràdio.

Hola, què tal, com esteu? Benvinguts una setmana més al Revolució al Món de Demà. La primera història d'avui ens porta directes a un futur que molts gurus tecnològics estan imaginant per nosaltres. Un futur de vegades esperançador i d'altres vegades no tant.

És 11 de maig del 2097. Avui fa 100 anys que una intel·ligència artificial va guanyar el campió del món d'escacs.

Garry Kasparov ho diu tot amb la seva mirada. És conscient que acaba de cometre un error gravíssim i que no té res a fer. El seu rival, el superordinador Deep Blue, evidentment no s'inmuta, no és humà. Kasparov es posa les mans al cap i es rendeix. S'aixeca i se'n va gesticulant. Es pregunta com ha pogut canviar la dama per un alfil i una torre.

Han passat cent anys i el món ha canviat molt, tant que ara la intel·ligència artificial ja forma part del cos humà. Hola, àvia. Què fèieu vosaltres quan éreu humans?

Què vols dir? Quan no teníem xips connectats a la intel·ligència artificial? Sí. Treballàvem, ens equivocavem, pensàvem més lents, preníem decisions.

Ai, què passarà quan totes les nostres decisions deixin de ser nostres i les prengui una intel·ligència artificial? A la sèrie The Capture, una superintel·ligència que es diu. Simon pren totes les decisions d'un grup d'espionatge militar que controla la societat anglesa d'una forma semblant a la que va imaginar George Orwell a la seva novel·la el 1984.

Aquesta tecnologia està en una fase exponencial. Això no vol dir que hàgim d'entrar en pànic avui. No vol dir que ho hàgim d'aturar tot. És un senyal d'alerta que hem de lentir el ritme.

Qui sentim és Dario Amodei, el CEO d'Antropic, l'empresa que desenvolupa la intel·ligència artificial Cloud. Com ell, altres gurus tecnològics també alerten del creixement de la intel·ligència artificial. Tema en què anirem a parar ara bé. Què pensen realment aquests gurus per fer-nos aquesta advertència mentre desenvolupen models d'IA cada cop més capaços de fer més coses? Quina ideologia els mou? Per què ens avisen però no s'aturen? Avui en parlarem. Comencem el Revolució 4.0. Comencem a revolucionar-nos.

Avui el Revolució 4.0. Parlarem de la ideologia que hi ha darrere dels gurús, que impulsen i decideixen cap on va la intel·ligència artificial amb l'experta en tecnologia del periòdico de Catalunya, Carles Planes. Amb l'emprenedor Albert Puntí parlarem de com crear agents d'intel·ligència artificial per a empreses. Descobrirem com es va viure des de dins la Cloud Community House de Barcelona amb Jeremie Benamú, emprenedor tecnològic, fundador i CEO de Tech Nation. I viurem un cas d'emprenedoria a quilòmetre zero a Mitziar Blasco, de Barcelona Activa.

Ningú té cap dubte que la intel·ligència artificial transformarà la nostra societat. Alguns pensen que ens matarà a tots i d'altres, que ens conduirà fins a la immortalitat. Sí, com sigui, la pregunta a fer-nos és qui està decidint fins on ha d'arribar aquesta tecnologia, què pensen realment les persones que lideren les empreses que impulsen la IA. Avui en volem parlar d'aquestes ments obsessives que lideren aquesta cursa amb Carles Planes Bou, periodista expert en tecnologia i poder del periòdico de Catalunya. Què tal, com estàs? Amb tu encara no havíem parlat de tot el que ha donat de si aquestes últimes setmanes de la IA. Massa alarmisme, no, Carles? Massa alarmisme, massa alarmisme.

De cop, hem vist com una advertència exagerada que s'ha anat repetint al llarg de l'última dècada, ara de cop ha trobat un públic que veu amb molta més por el desenvolupament de la IA, ho ha convertit en viral i ha fet que això exploti. Però no estem parlant d'un debat nou, i és el que et comento, no fa més d'una dècada que que es parla d'aquests suposats riscos. I res, hem tornat de vacances i amb la casa incendiada.

Clar, i tu i jo que sempre que parlem d'aquest tema ara veiem que aquest tema en parla tothom, però és que també en parla Donald Trump. Aquesta setmana Trump fins i tot ha batejat de nou la IA i ara diu que no es digui IA sinó superintel·ligència. Ha tingut una reunió amb tots aquests mandataris. Què ha decidit Donald Trump?

Què diu? Bueno, primer de tot, que Trump canviï el nom d'intel·ligència artificial per superintel·ligència no vol dir que el nom canviï, només que ordena que les agències del seu govern passin ara a dir superintel·ligència, que és un terme propagandístic, en lloc d'intel·ligència artificial, que també era un terme força propagandístic, era un terme que ja era equivocat. Però veiem una mica que va en la línia d'altres coses que ha fet el Trump. Recordem que no fa molt va rebatejar el golf de Mèxic per golf d'Amèrica o el llac Ontario per llac Amèrica, bàsicament perquè sí volia cabrejar tant a Mèxic com a Canadà, països veïns amb els que no es porta massa bé. Llavors hem d'entendre-ho com una exageració més, com una manera de cridar l'atenció més. I també com una forma de ens permet entendre una mica la mentalitat de Trump, perquè diu que el terme IA a ell no li agrada perquè diu que el concepte d'artificial fa pensar que el que veiem és fals i ell diu que hem de referir-nos a superintel·ligència perquè bàsicament el que vol contribuir és a seguir mistificant o deificant les màquines perquè la gent pensi que. No està parlant amb un programa, amb un producte d'enginyers que l'han programat, sinó pensar que s'estan parlant amb un ens superior. I crec que és molt, molt perillós, realment.

I també, Carles, en aquest acord amb les tecnològiques, ja també s'ha contemplat controls interns i revisions externes. Per avaluar els riscos de models, no? És a dir, un dels objectius també és evitar que, diuen, accedeixin a sistemes informàtics sense autorització, una preocupació relacionada, com saps, amb el control que va haver-hi, no? Open eye, no? En aquest sentit, no? Per tant, una mica més de regulació, això sí, no? Bé, realment,

l'acord que anuncia no és un acord de regulació, sinó el que demana és autorregulació, que les empreses adoptin controls per evitar que els seus sistemes es descontrolin o que produeixin ciberatacs sense haver-los supervisat de forma correcta, però, de nou, no és un acord vinculant, no és un acord legalment vinculant. Descontrolin ells, sí. Sí, aquestes empreses no estan obligades a fer res. Bàsicament és un acord en el que diuen, no, sí, nosaltres ens regularem i no us preocupeu que no tenim cap obligació de fer-ho, però ho farem perquè som moralment responsables. De nou, és només un missatge de Trump i de la indústria per calmar la població dels Estats Units, que de forma majoritària té un rebuig molt gran a la intel·ligència artificial i els centres d'ades de cara a unes eleccions de mig mandat que arriben d'aquí un mes.

Trump manté la seva estratègia d'accelerar l'adopció de la IA i preservar, sobretot, aquell lideratge que li preocupa molt d'Estats Units davant de la Xina, mentre rebutja imposar controls estrictes en aquest sector. Bé, volíem repassar el que perquè, clar, la IA cada setmana, cada dia hi ha una notícia d'actualitat de la IA, però amb tu volíem repassar una mica, a l'inici del programa hem sentit el CEO d'Antròpic dient que la intel·ligència artificial. Està anant molt ràpid. Aquesta setmana hem sabut que OpenAI ha desenvolupat un model que resol l'atenció a més de 100 problemes matemàtics que portaven anys oberts sense solució. Diuen els mateixos desenvolupadors que els ha sorprès el ritme. I, per tant, va molt ràpid, no? Els grans laboratoris ja estan liderats pels gurús. Ja coneixem, eh? Samalman, Darío, Amodei, Demis Hassabi, Elon Musk, no? Sembla que ells tenen, Carles, la clau per decidir fins a on pot arribar la intel·ligència. I tu et vols preguntar avui a la secció, no?, Com pensen aquests gurus per intentar esbrinar cap a on ens dirigim? Què diries de les seves ments?

Sí, crec que és vital que quan informem sobre aquests magnats tecnològics, moltes vegades només ens fixem en el que diuen, però ens fixem menys en el que fan. I realment el que importa és el que fan, perquè el que diuen ho diuen de cara als inversors, de cara als mercats, de cara a seguir revaloritzant les seves empreses i, per tant, de seguir fent més diners. El que és clau és observar què és el que fan, i també compensen, perquè d'alguna manera la seva ideologia, les seves pors, les seves ambicions, la seva manera en la que veu en el món és la que està condicionant el rumb que està prenent la intel·ligència artificial i també pot influenciar el rumb que pren la nostra societat. Així que és clau que avui ens endinsem una mica més en la ment d'aquests

magnats. Perquè, clar, que aquests gurus que alerten que la IA pot acabar amb la humanitat, però la segueixen desenvolupant, és a dir, això pot anar molt malament, però seguim, no? Per què no l'aturen ells mateixos,

no? No l'aturaran perquè el seu negoci depèn d'això. Bàsicament, hi tenen uns clars incentius en no parar un negoci que és una gallina dels ous d'or. El que volen és, en aquest sentit, part d'aquestes alertes poden ser que hi hagi una creença real de que creuen que la IA es pot descontrolar i pot acabar suposant un risc per la humanitat. Això és més una creença que una realitat empírica o. O una advertència que es basi en dades, tot i que sí que és veritat que els models evolucionen a un ritme en el que moltes vegades els propis tècnics no acaben d'entendre com és que la IA ha arribat a aquestes conclusions, i per tant aquí sí que hi ha factors de preocupació. Però, clar, no paren el negoci perquè el negoci és del que viuen i, òbviament, el que volen fer és. També hi ha una part d'estratègia de captura regulatoria, de dir, mireu, nosaltres som els únics que estem fabricant aquesta eina tan poderosa, aquesta IA que és com un déu, i, per tant, som els únics que podem controlar-la. És una forma d'autorgar-se més poders a ells per determinar també les lleis que afectaran les seves empreses i, per tant, el rumb que prendrà la indústria i la societat.

Aquestes empreses per això algunes tenen pèrdues que això molta gent no ho coneix i per tant també tenen els interessos econòmics de sortir a borsa de fer-se encara més conegudes mundialment i en tròpic amb aquelles declaracions el que ha aconseguit també Carles és fer-se molt més coneguda al món.

Sí, Antròpic porta molts anys, la gent que hi ha dins d'Antròpic porta molts anys advertint sobre els riscos existencials de la IA, riscos existencials ho dic entre cometes perquè és el que creuen ells, i de nou, remarco la paraula creure perquè és més una creença que una realitat real. I en aquest sentit a Antropic també li va bé el que hi hagi en aquests titulars de l'armisme perquè li permet vendre's com l'empresa d'IA responsable. Mentre que OpenAI és l'empresa que no supervisa bé els seus models i que quan testeja els seus agents es poden descontrolar entre cometes i acabar atacant les webs del govern, dels Estats Units, de la ONU o d'Austràlia, Antropic és l'empresa que et ven que es comportarà de forma més ètica i evitarà que això passi.

Tu parles d'ideologia, de filosofia, deies d'aquesta IA, tu parles d'un corrent ideològic amb molta acceptació dins del món tecnològic, que és el, explica-m'ho tu això, com ho dius tu, altruisme eficaç? L'altruisme eficaç. Explica-m'ho fàcil, això per a tots els oients, els tiqui no tics, com els expliquem això?

L'altruisme eficaç, per entendre-ho bé, és una subcultura minoritària que és molt, molt influent a Silicon Valley. És una corrent que el que aboga, una corrent filosòfica, que el que aboga és per fer el bé pel major nombre de persones. És a dir, intenta maximitzar la filantropia. El que aquest moviment et diu és, el que a tu t'importa és que guanyis la major quantitat de diners possibles perquè així aquests diners els destinaràs a una causa que servirà per fer bé a la humanitat. Tot això, a priori, sona molt bé, la veritat. La qüestió és que aquest corrent també es veu influenciat per una mirada racionalista que té un impacte perillós. Per exemple, ells diuen que és molt millor ajudar a les persones en societats riques que a les persones en societats pobres perquè la gent que viu en societats riques tenen més innovació i els seus treballadors són més productius.

Però això qui ho diu, eh? Tant el SAM com el. El Dario, el Marc, Zuckerberg, el Elon, tots, sí?

Hi ha alguns que hi creuen. L'Elon Musk, per exemple, fa uns quants anys que va dir que l'altruisme efectiu era un corrent filosòfic que explicava bastant la seva cosmovisió del món. El Dario Amodei i part de la cúpula d'Antròpic, molts d'ells estan fortament

vinculats a aquest. Llavors faria moltes coses gratuïtament, no? Que no ho fan. Clar, perquè realment no és un altruisme. Llavors és veritat. Ara van aquí, perdona, de Santa Teresa de Calcuta i no va ningú aquí de Santa Teresa de Calcuta.

Hi ha diferents persones i el moviment no és un moviment monolític, sinó que hi ha diferents sensibilitats i parlen d'això, de moltes vegades el dedicar el màxim diners possibles a la filantropia per ajudar la gent. El problema és que aquest corrent va de la mà d'un altre corrent, que es diu llargplacisme, que el que diu és que per ser més eficients a l'hora que els diners que donem repercuteixin en el bé de la societat, cal centrar-se en els hipotètics positius. Problemes del futur llunyà en lloc dels actuals. Això explica que, per exemple, aquestes empreses estiguin més preocupades en colonitzar Mart o en crear una IA totpoderosa que sigui més intel·ligent que els humans, en lloc de, per exemple, acabar amb la pobresa o de curar el càncer. Aquí hi ha una trampa. Jo no me'ls crec. Tu sí, Carles? Jo no me'ls crec. La qüestió és que aquesta corrent de pensament, que es pot semblar marginal, i és marginal, es concentra. La gent que hi creu és la gent que controla molt aquestes empreses. Llavors, no és un pensament que sigui representatiu de Silicon Valley ni de la societat, però sí que és representatiu de les èlits directives que controlen aquestes empreses. Llavors, quan parlàvem del llarg placisme. Clar, hi ha un problema que en el moment en què tu centres en els hipotètics problemes d'un futur llunyà en lloc dels actuals, això genera un problema molt gran. Perquè, per exemple, et poso com un experiment. Si et diu, què creus que és millor? Prendre una acció que beneficiï els 8.000 milions de persones que viuen actualment al planeta Terra o prendre una acció que beneficiï els bilions de persones que viuran hipotèticament al planeta l'any 3.000? Clar, una de futur, no? Sempre ens preocuparem pel futur, clar. Clar, el futur, és a dir, milions de persones són més que milions de persones. Doncs aquest és el càlcul que ells fan per dir que és més important que dediquem diners a colonitzar Mart o a una intel·ligència artificial superior a combatre el canvi climàtic, perquè el canvi climàtic, tal com el veuen, és només una passa en fals a la història de la humanitat.

Però clar, el canvi climàtic, clar, perquè no els interessa que parlem dels cintres de dades, del que gasta la intel·ligència artificial, que això afecta el canvi climàtic, eh? És a dir, no sé per què no volen parlar, perquè els cintres de dades gasten molta energia i afecten el nostre canvi climàtic, no?

Clar, però per ells, el centrar-se en aquests problemes del futur és una forma d'escriure els problemes del present. I mentre ells ens segueixen venent aquesta idea de cap a on pot anar la societat, això els permet captar més inversió i captar més l'atenció que parlar de problemes mundans, com per exemple això, els biaixos de gènere o racials que pot haver-hi en les IAs, les al·lucinacions, l'impacte laboral o climàtic dels centres de dades, és una forma d'esquivar l'escrutini. Amb els problemes actuals que tenen aquestes empreses i centrar-se en això, en una visió de futur que al cap i a la fi és el que serveix per captar els diners dels inversors, que és de què va la història.

També dius que aquesta ideologia és la del singularitarisme, ara ens ho expliques, perquè aquestes persones, Elon Musk, convençudes que la IA ens farà immortals, també que, com deies ara, permetrà colonitzar l'univers, no?, Però què passa quan aquest grup reduït de persones amb aquesta ambició té a mans aquesta tecnologia capaç de transformar la societat? A veure, què vol dir la part de singulatarisme?

Avui ens hem posat una mica intensos perquè la veritat és que hi ha una amalgama de corrents filosòfics que condiciona el pensament d'aquests magnats que és complexa, però intentant sintetitzar-la, el singulatarisme el que diu és bàsicament la creença que és inevitable. Que hi hagi una superintel·ligència superior als humans. Estem parlant d'un ens abstracte que acabi sent molt superior a nosaltres. Pensem una mica com al Terminator, però sense el cos robòtic. I, bàsicament, aquest pensament diu que és desitjable que arribem a aquesta IA totpoderosa, perquè ho veuen com un nou Déu que resoldrà absolutament tots els problemes. Per això no cal, ara quan vèiem aquesta setmana el Trump reunit amb tots els magnats de la indústria, els preguntaven, el Trump el que vol és fer una visió optimista de la IA, i els preguntaven, i per exemple el Musk deia, Bueno, no, els que quan tinguem una IA totpoderosa, aquesta IA totpoderosa ens dirà com resoldre el canvi climàtic, com resoldre la pobresa, com fer que tothom tingui una renta bàsica universal sense gairebé treballar. És a dir, problemes molt optimistes pensant que crearan una IA que sigui com un déu i que ens salvarà de tots els problemes. Per això, segons la seva visió. Per què ens hem de preocupar pel canvi climàtic si, quan arribem a aquest estadi d'una IA superior, ella ja ho resultarà tot per nosaltres.

Ja, però recordem, oients, i per això també estem preocupats, i als periodistes ens toca fer aquesta feina, Open Eye ha admès aquesta setmana, que els seus vots haurien intentat infiltrar-se en webs del govern dels Estats Units. Una altra notícia, a vegades, que també trobem de la IA positiva i que ha passat a casa nostra. Un estudiant de la Universitat Pompeu Fabra aconsegueix informar abans que rodalies de les incidències aplicant la IA. Això ho has vist, no?, també, aquesta curiositat. Però, per tant, cada dia tenim notícies sobre intel·ligència artificial, sobre aquesta tecnologia que està canviant i que. Que genera grans debats, no? I clar, en parlarem tant, però que aquests senyors estiguin dient, a mi em fa una mica de por aquestes ments obsessives que diuen que volen salvar la humanitat quan el que volen és l'interès propi.

Sí, el que passa que hi ha una periodista que s'ha adentrat molt dins d'aquestes empreses, que és la Karen Howe, que explica. Que realment aquí hi ha un mix d'estratègia publicitària, d'estratègia econòmica d'aquestes empreses. Clar, perquè s'ha fet molt coneguda Entropi, que no sabia molta gent qui era Entropi. Per captar inversions i atenció, però que llavors també hi ha una qüestió quasi religiosa. Els enginyers que treballen, molts dels enginyers que treballen en aquestes empreses, i la cúpula directiva de moltes d'aquestes empreses, tenen un pensament sectari, quasi religiós, en aquests corrents filosòfics tan marginals que us he comentat, marginals i problemàtics. El problema, de nou, és que és una forma de veure el món dels ultrarics que ignora absolutament els problemes que afecten a la resta de mortals. I de nou, tu abans ho mencionaves, quan hi ha un grup tan petit de persones, amb tanta ambició que té a les mans una tecnologia capaç de transformar la societat com és la IA, doncs sabem històricament que la concentració de poder en moltes mans és perillosa, principalment també perquè és profundament antidemocràtica, i de nou, estem parlant que estaria en mans d'això, de gent millonària que no contempla els problemes que ens poden afectar a tu i a mi perquè ells no els han. De tots ells qui et fa més por a tu?

Diguem-ne la veritat, eh? Qui és el que et fa patir més de tots? Si haguessin de tots aquests gurús que reuneixen amb Donald Trump i parlen de la intel·ligència artificial que mana el món, De l'1 al 3 fem un rànquing per anar acabant. Qui per tu és més perillós de tot? Quina és la ment més obsessiva amb el poder i la tecnologia mundial?

Aviam, jo crec que un dels més perillosos és dels que menys se'n parla, que és el Peter Thiel. Sí, que aquí n'hem parlat, que li hem dedicat programes. El que passa és que ell no es veu gaire,

no està a la primera plana. Però dels que estan a primera fila, quin és el que et fa patir més a tu?

Crec que un dels que em semblen més perillosos és el mas. També és veritat que és més. És més conegut també perquè ell té una visió transhumanista molt més profunda, que creu que la raça humana s'ha de perfeccionar, entre cometes, a través de la tecnologia, és a dir, que ens hem de fusionar amb les màquines fins al punt de, bueno, totes aquestes idees descabellades d'acabar descarregant la consciència dels humans en ordinadors etc. Crec que aquí hi ha implicacions més perilloses. És difícil classificar-los però el problema és quan tens una administració presidencial com la de Trump que compra aquestes idees i regula o no regula en base a aquests interessos.

I ara el Darío Amodei sembla com el més prudent, no? Però en el fons també té una estratègia alderena, eh?

El Darío? Sí, jo crec que ell també ha vengut una mica aquesta idea de nerd, aquesta idea de bona persona, però que no vol dir que no sigui o que no vol dir que no cregui realment que està prenent unes decisions que afectaran positivament la societat. Però, de nou, és important entendre com aquesta persona veu el món per saber si les accions que està prenent són esbiajades, són exagerades i com poden acabar afectant-nos a tots nosaltres.

De moment, ella ha venut que la seva IA és la més segura i la que més es preocupa pel món i, per això, segurament aconseguirà molts diners i molts inversors. Seguirem parlant aquesta temporada amb el nostre col·laborador Carles Planas. Ja el seguiu al periòdic de Catalunya i també en aquest programa. Gràcies, Carles, i anem parlant.

Un plaer, Chantal. Adéu.

A Catalunya Ràdio, Revolució 4.0. El món de demà, amb Chantal Llevina.

Seguint, encara molta gent pensa en la intel·ligència artificial com una ajuda, però què passa si ens plantegem què pot fer la IA per nosaltres sense que hàgim d'estar allà amb ella, guiant-la, conduint-la, dient-li què necessitem. I avui volem parlar d'aquesta IA més autònoma, d'aquests agents. Podrem confiar en agents perquè executin tasques i prenguin decisions per nosaltres? Anem a saber una mica més d'aquest tema.

Saludem un emparador que és l'Albert Puntí, emparador i CEO de Somia Solutions. Què tal, com estàs? Molt content d'estar aquí i de parlar amb tu. A veure, com m'explicaries la teva empresa? Què en diries? Què fan?

Nosaltres el que intentem és donar una mica de llum a una tecnologia cada cop més caixa negra. Cada cop és més autònoma, cada cop sabem menys per què fa el que fa, I nosaltres el que intentem és donar una mica de transparència, de control, perquè podem aplicar-la de forma responsable.

Què vol dir que vosaltres podeu crear agents d'IA que a mi m'ajudin a la meva empresa?

Sobretot el que faig és, quan creeu els vostres agents, faig que els pugueu controlar. És a dir, jo diria que és la primera tecnologia que és totalment autònoma. Fins ara totes les tecnologies, al final, ja sigui un cotxe, un avió, el que sigui, L'accionàvem nosaltres. Ara la IA, com anem veient cada cop més i últimament amb les notícies, és més autònoma i fa més les coses que ella considera que ha de fer i cada cop tenim menys visibilitat del que fa i el per què ho fa. Llavors intentem donar una mica de llum.

Posem alguns exemples d'alguns sectors, empreses, agents, què fan aquests agents, no?

Anem a posar un exemple molt clar i que a tots ens preocupen, que podria ser el cas de salut i hospitals. Quan hi hagi agents que funcionin de forma autònoma en els hospitals, com podria ser que et faci un resum del teu historial clínic o et faci algun diagnòstic, cada cop voldríem més que aquests agents poguessin ajudar els metges, però d'alguna manera volem que els metges tinguin control sobre aquests agents. No volem que els agents siguin autònoms, sinó que segueixin les pautes que guia el metge. Nosaltres donem una eina perquè en aquest cas, per exemple, els metges puguin supervisar el que fa un agent i que mai pugui fer un diagnòstic que no està clar o que no és correcte, I sobretot que els metges sàpiguen cada cop que un agent fa una decisió el per què l'ha fet i si ho ha fet malament poder-lo corregir perquè ho faci bé el següent cop.

Vosaltres quan creu aquests agents després teniu control d'aquests agents sempre?

Nosaltres sí. La manera que nosaltres ho concebem i la manera que veiem com realment es pot implementar és que sense aquest control aquesta tecnologia no es podrà implementar.

I com funciona? Podem imaginar empreses dissenyades al principi per funcionar amb agents d'allà, sempre d'haver-hi el control humà, però perquè ens fem una idea, és que clar, jo és que quan ho imagino sempre, és com m'imagino Gremlins, perquè d'agents d'allà en podem crear quants? Tots els que en vulguis. Això fa una mica de por, perquè aquest control, és a dir, diguem accions, ara parlàvem d'un hospital, però si parlem d'un altre tipus de negoci, Clar, una gent pot fer moltes coses, és a dir, jo per exemple, i això sí que com a presentador d'aquest programa crec que ho he explicat, jo tinc una gent que pot enviar correus, és a dir, tu també ho deus fer servir, que pot enviar correus i li dius, molt bé, i ara aquesta informació vull que m'ho enviïs, això és el bàsic, però quines funcions més pot fer?

Sí, mira, jo crec que la paraula gent cada cop porta més soroll, perquè ningú sap ben bé què és una gent i ningú sap ben bé definir-lo, no? I a dia d'avui, realment, com el concebem, és una intel·ligència artificial que pot fer coses, el que pugui. Aleshores, el que nosaltres veiem un gran canvi és en la IA personal, és a dir, que tu utilitzes o jo puc utilitzar, amb el xat GPT, amb el Clot, amb qualsevol d'aquestes plataformes, on hi ha una conversa i jo sempre veig el que fa i jo sempre interacciono amb aquesta gent. Aleshores, això a nivell d'empreses és brutal. És una tecnologia que realment multiplica per un coeficient, és igual, per dos, per tres, per quatre, per cinc, el que pot fer una persona, perquè el que li gustava abans escriure un document o enviar un correu ara fa molt més ràpid. Però on nosaltres veiem realment la tecnologia disruptiva és quan ja no fa falta que tu interaccionis via conversa.

Però que ens estem carregant algun lloc de feina llavors? Què em diries?

Per anar-te a la contra, eh? Clar, aquesta és la gran frase, no? O també això de. Nosaltres concebem molt la IA com una tecnologia que va. Que ve a substituir les persones. Llavors jo crec que això. Hi ha un concepte que és que cada cop que hi ha una nova tecnologia se li posa un nom. En aquest cas li hem dit intel·ligència artificial. Hi ha altres tecnologies com per exemple el cloud, el núvol, que se li va donar aquest nom i realment ha estat prou útil ja que tots hem pensat que tot s'executava al núvol. No sabem on està el núvol, no sabem quin núvol és, però sabem que s'executa allà. La paraula intel·ligència artificial crec que se li va donar aquest nom cap a la dècada dels 50 i realment va servir molt, va agafar molta inversió, però a dia d'avui ens confon perquè entenem la IA com una persona i realment no ho és, no és una persona. Aleshores nosaltres a l'entendre intel·ligència artificial veiem que la intel·ligència ens diferencia com a persones. I veiem que és algo artificial que ve a lluitar contra nosaltres. Crec que un terme com intel·ligència augmentada podria ser més adient.

Quants sou a la vostra empresa? Quantes persones esteu treballant? Ara mateix som cinc persones. Cinc persones. Sempre no és fàcil i del món tecnològic tampoc. Em diries, quina és la previsió que teniu? Què és el que voleu crear amb aquests agents? Amb què us voleu diferenciar, em diries? Sobretot nosaltres el

que ens volem diferenciar és que volem posar l'humà al centre i volem que la guia s'implementi des d'un punt de vista responsable i ètic. Nosaltres sobretot el que assegurem és que tots aquests agents s'implementen sense perdre el control i sempre sabent què fan i per què ho fan. Com es diuen? Li posem noms? Als agents? Ostres, jo crec que posar-li nom va una mica en contra d'aquest concepte de que no hem de concebre la IA com a persona.

Val, i no li poses nom, eh? Però llavors dius, aquest agent IA el que fa és documentar, és a dir, com el saps distingir d'un altre.

Els diferents agents d'una empresa, vols dir. Sí, clar. Normalment sempre els diferenciem per la seva

funcionalitat. Posa'm exemples d'aquestes funcions, va. Documentar.

Exacte. És a dir, aquestes funcions poden ser des d'automatitzar processos que es puguin tenir, enviar correus, generar documents o similars, poden ser sobretot per ser antenes de veure què està passant en el mercat o en les notícies, llavors podem fer resums. Però el que és important no és tant per nosaltres el que fan, sinó quina autonomia li donem i quin govern tenim sobre aquests agents. Mira, hi ha una pregunta que

encara no hem contestat al Revolució. Tenen preu? És a dir, quant val un agent d'IA?

Aquesta és la gran pregunta que ningú sap respondre, no inclús les grans empreses d'IA. A dia d'avui, realment, com es factura és per token, la famosa paraula token, que és per quantes paraules genera un agent. L'únic que no es clar com serà el model de negoci en un futur. No sabem si serà com, per exemple. Però no em pots dir ara si val 1.000 euros o 15.000 euros un agent? És impossible de poder-te respondre bé aquesta pregunta. I és un dels grans problemes que hi ha en la implementació d'aquests agents. Que curiós.

Es paga per el servei, no? Per el servei que feu. Molt bé, hem d'anar acabant. Aquesta empresa innovadora, molt innovadora, assumia solucions per acabar amb una frase. El vostre somni com a emprenedors, quin serà, Albert?

La nostra visió és que la IA sigui una tecnologia que vingui a potenciar les persones, els humans, i que ho faci sempre des d'un punt de vista responsable i amb control.

Molt bé. Doncs agents de IA, aquests emprenedors catalans, molta sort i felicitats pel projecte. Moltes gràcies.

En moments de crisi, només la imaginació és més important que el coneixement. Albert Einstein. Revolució 4.0 a Catalunya Ràdio amb Chantal Llevina.

Estem veient com les tres grans empreses punteres del sector lliuren una batalla per la IA. OpenAI impulsa el conegut xat GPT, Google impulsa Gemini i per últim Antropic impulsa Cloud. Precisament la comunitat Cloud es va reunir fa uns dies a Barcelona per intentar dir-nos i entendre què podrem fer. Amb aquesta allà. La Cloud Community House va reunir 15 ambaixadors de 12 ciutats diferents i qui la va viure des de dins és el Jeremy Benhamó, emperador tecnològic, fundador i CEO de Tech Nation i cofundador d'iSummit Barcelona.

Jeremy, què tal? Benvingut al Revolució. Què tal? Com estàs? Molt bé, moltes gràcies. A veure, tu ets, escolta, m'han dit, un dels grans impulsors d'aquesta trobada de la comunitat Cloud. Què et va sorprendre durant la trobada? Què en diries?

Bueno, lo que me ha sorprendido mucho es al final que todavía ya la IA no es solo para la tech y los founders de tech company como estaba hace algunos meses. Durante una semana hemos tenido mucha gente muy diferente de todos sectores, gente super cracks de tech y de IA y gente que empiezan solo a adoptarla.

En el teu cas, hi ha molta gent que viu això de la IA com un embolic i no té clar quina diferència hi ha entre diverses intel·ligències artificials. Es pensen que totes són iguals. En aquest cas, què té clau, te'n diries, que el fa diferent de ChatGPT i Gemina i que són els seus competidors?

Bueno, lo que voy a contestar es una opinión personal, que todo el mundo tiene el suyo. Diría que hoy en día hay dos que dominan, que son ChatGPT de OpenAI y Cloud. Si ponemos aparte los modelos chinos, que a nivel técnico ya son muy buenos y ya van alto. Pero si miramos estos dos, se puede un poco mirar como un iPhone y un Android que hay gente que van a preferir uno y gente que van a preferir el otro yo soy un Claude Fatboy y tengo un iPhone y lo asumo 100% pero diría que hay otra cosa bastante importante. Es que, en Europa, creo que Cloud y GeoAnthropic son nuestros mejores aliados. Son la única big tech que han firmado el EU Act. Es la empresa que realmente cuida a una visión que parece a la que tenemos generalmente aquí en Europa. Por supuesto, eso puede cambiar. Que yo puedo decir algo hoy y no soy nadie, así que mañana puede ser diferente. Pero yo considero que, siempre digo cuando acompaño a empresas, ahora, hoy en día, tenemos suerte, porque la mejor, según mí, es también la que respecta más nuestras preocupaciones de europeos, de confidencialidad, de ética, etc. Así que, por eso, yo cuando me piden, oye, ¿la cuál prefieres? No tengo muchas dudas

en mi respuesta. Clar. Per cert, tu també, que has estat cofundador d'aquest AI Summit a Barcelona, que s'ha parlat moltíssim d'allà, sàpigues que el president de la Generalitat nostra, Salvador Illa, ha plantejat prohibir la intel·ligència artificial a les escoles fins als 14 anys. Estàs d'acord? És a dir, ja que estem parlant, és per adults, però per als menors això ens hem de plantejar d'una altra manera?

Difícil como respuesta. Bueno, primero el A.I. Summit yo lo he co-creado la edición del año pasado, pero no participaba en esta. Yo lo entiendo y no voy a discutir de eso, pero creo que prohibir algo que de todo modo los niños hay muchas probabilidades para que los van a usar a casa, yo diría que mejor aprenderlo. Mejor y bien que prohibirlo, porque estoy 100% de acuerdo en el hecho de que la educación hoy es el mayor reto que tenemos, que nuestra generación tiene. Contrariamente a muchas personas, yo considero que la IA nos puede fácilmente hacer más inteligente y hasta más sociable si está tomado del buen lado y por eso hay algo segurísimo es que a la nueva generación hay que aprenderlos por eso yo soy más de decir. Enseñar algo y aprender y enseñar cómo funciona y entender también cómo ellos, los jóvenes, lo van a usar, que será diferente de nosotros, yo creo que se puede dominar más que decir. Oye, no, lo prohibimos, que no hay nada, no hay cero, y al final lo único que pasaría, en mi opinión otra vez, es que únicamente no vamos a entender cómo lo usan ellos, los problemas que tienen, los retos que tienen, los problemas eventualmente psicológicos, el cambio de forma de aprender, etc.

En aquest cas, que tu parlem de Claude, i com a representant en aquest cas de la Claude Community House, em diries que, Claude, d'aquí un any, què farà que d'aquí un any semblarà ciència-ficció? Què em diries?

Bueno, la ciència-ficción ya es hoy, que ya hay muchas cosas que no nos damos cuenta pero que existen. En mi opinión, realmente el cambio espectacular va a ser cuando, y creo que estamos cerca de este momento, cuando los robots van a democratizarse realmente y que vamos a poner una inteligencia artificial dentro de un robot. Eso será algo probablemente bastante extraño. Hoy con la IA, para mí no es una ciencia ficción porque ya concierne a todo el mundo. Cada única empresa en Cataluña, en España, en Europa, en el mundo. No vamos a ir tan lejos porque todos no somos iguales, pero necesita entender lo que está pasando con la IA.

Escolta, estava demanant la meva intel·ligència artificial mentre fem el programa. Quants usuaris té Cloud i ChatGPT? Tu saps la dada? Vols que te la digui? Doncs ChatGPT d'OpenAI té més de 1.200 milions d'usuaris actius. I Antropic no publica una xifra oficial, però les estimacions externes diuen que 103,9 d'usuaris. És a dir, en el fons, Claude i Antropic, amb tot el que va passar fa dues setmanes, s'ha donat a conèixer molt més, i per tant, segurament, Claude necessitarà aquesta publicitat per arribar a més persones, em diries?

Otra vez, son cosas bastante difíciles y yo no trabajo en Anthropic, así que no tengo estas datas. Mi visión, mi opinión, es que son dos estrategias diferentes. ChatGPT y OpenAI son los que han democratizado la AI para todo el mundo. Creo que van más a más markets. Ahora ya es oficial que el modelo de ChatGPT va a ser más de tener más usuarios y de poner publicidad. El modelo de Anthropic se ponen como una IA que va en un buen sentido y que respecta la forma, bueno, una dirección que parece interesante para todos. Y entonces, por ejemplo, Anthropic de momento han dicho que no quieren poner publicidad dentro de eso. Todo eso para decir que, de mi ventana, diría que Anthropic no está buscando a tener el mismo número de usuarios que un modelo chino o ChatGPT, sino que están buscando a tener un impacto y a quedarse líderes por los que cuentan.

Jeremy, et faig una pregunta que segur que t'han fet moltes vegades. La IA ajuda el nostre servei o ens farà més estúpids al final?

Yo creo que no. Creo que no y de lo que veo, no. Hay mucha gente que desarrolla muchísimo la curiosidad. Yo veo muchas veces gente que están preguntando cosas a un chat GPT o a un cloud que antes la respuesta era solo, pues me da igual, no sé. Estoy en Barcelona, soy turista, ya llego a Barcelona y ahora hay un montón de gente que solo van a salir al teléfono para decir, oye, ¿cuántas personas viven en Barcelona? ¿Por qué aquí se habla catalán? Y muchas cosas así. Antes la gente solo se quedaban con las preguntas. Ahora desarrolla mucho la curiosidad. Y lo he visto, la semana pasada hemos tenido más o menos dos mil personas entrando en una sala para hacer guía. ¿Y sabes qué? Casi no había wifi. Casi no había internet porque no funcionaba. ¿Y qué ha pasado? Pues toda la gente ha desarrollado mucho, han hablado, han discutido de muchas cosas. Así que la red social ha sido aún más grande de lo que teníamos antes.

Jeremy Benhamou, emprendedor tecnològic, fundador ICO de Tech Nation y cofundador de Life Summit Barcelona. Muchas gracias por venir

a Revolución. Gracias.

Revolució 4.0. El món de demà. Amb Chantal Llevin. Els dissabtes a l'app i al web i els diumenges de 10 a 11 de la nit a Catalunya Ràdio.

Quan parlem de start-ups, sovint pensem en grans rondes d'inversió, tecnologia en punta i empreses que volen canviar el món. Però què passa realment amb les start-ups que neixen a Barcelona? Quants projectes aconsegueixen sobreviure? Quins sectors estan creixent? D'on surten els diners per fer-los créixer? I sobretot, què necessita una persona? Que té una bona idea per fer-la realitat. Barcelona Activa acaba de presentar un dossier Barcelona Startups Interessant, una radiografia construïda a partir de l'anàlisi de més de 850 start-ups ateses.

Hi ha una dada destacada, que les start-ups que han passat per la incubació de Barcelona Activa, supervivència del 76%, per tant, és una bona dada. I avui en parlem d'aquest futur de l'emperadoria de Barcelona amb l'Itziar Blasco de Barcelona Activa. Què tal? Com estàs?

Molt bé, moltes gràcies per la invitació i per deixar-nos explicar tot el que fem.

A veure, com està Barcelona a nivell de start-ups? Perquè veig que anem bé. Heu analitzat 850 start-ups. Què us ha sorprès més de totes aquestes dades?

A veure, anem molt bé. Estem en un moment dolç de l'ecosistema i de Barcelona com una ciutat emprenedora. Hem arribat ja a les 1.500 start-ups, això significa un 63% de totes les que hi ha a Catalunya i demostra que Barcelona té el talent i té els ingredients per ser aquest referent. En quant a aquestes 850, que són les que han passat pels nostres serveis i les que hem acompanyat al llarg d'aquests anys, Una dada que pot ser rellevant és veure com en els últims anys la part més de tecnologia agafa un pes molt important. Veiem que el 26% són aquestes denominades Deep Tech, però aquestes realment que utilitzen una tecnologia per diferenciar-se i per resoldre els reptes que tenim. I després, simplement, una altra dada que per nosaltres és molt important és aquesta generació d'ocupació. Estem amb start-ups que cada mitjana són equips de 15 treballadors que anem agafant a poc a poc aquest dimensionament empresarial que també necessitem.

Què busquen aquestes empreses? 4 de les 10 start-ups han utilitzat els vostres serveis. Què busquen aquestes empreses quan truquen a la vostra porta? Sí,

sobretot estan buscant finançament. És un dels nostres serveis estrella. Busquen aquests recursos per tirar cap endavant els seus projectes. Busquen també talent, busquen les persones amb les quals poden fer aquests projectes realitats, busquen treballadors, treballadores que s'uneixin als seus equips i busquen sobretot aquesta comunitat, aquestes connexions que els podem donar dins dels nostres propis equipaments o també quan sortim a fires. Nosaltres fem moltes delegacions, moltes missions a diferents fires, com pot ser el For Years From Now, el Smart City, el Deep Tech Summit, però també fires internacionals. Això és un projecte que des de fa uns anys. Liderem juntament amb Acció, amb la Generalitat de Catalunya, i fem missions a fires internacionals. Anem a Helsinki, anem a Singapur, anem a diferents espais on es poden generar moltes oportunitats.

I l'altra cara, perquè, clar, a veure, també hi ha start-ups que no funcionen. A vegades una mala idea, falta de diners, falta de talent, mala gestió. Què en diries? Perquè hi ha start-ups que duren i hi ha d'altres que han de plegar.

A veure, en general, emprendre és un procés molt complicat on, a banda de dedicar-li molts, molts esforços, també sempre hi ha una part de sort, no? Has d'estar en un moment adequat. Si deixem de banda aquesta sort, sí que un dels motius principals és. Que realment el producte o el servei no té un encaix en el mercat, que no hi ha una demanda real. Aquesta és una de les principals causes, diguem-ho així, de mortalitat, el que es anomena el product market fit, que realment el producte que tu estàs venent la gent el vulgui comprar. Aquesta és la principal causa de tancament d'una empresa.

També passa a vegades amb la gestió de l'equip, no? Algun cop en havíem parlat també que a vegades la mala gestió de l'equip pot fer que una empresa no funcioni.

Vosaltres, les empreses que heu estat incubant, bona dada de vida, no?, perquè continuen vives al cap de 5 anys, no?, davant del 42% de mitjana estatal. Explica'm això, és a dir, la dada també positiva d'aquesta ajuda, no?, un 42%, no?, en aquest cas, no?, un 76% de les start-ups

incubades continuen llarga vida, no?, Correcte, correcte. Aquí sí que estem centrant l'anàlisi en aquelles empreses que estan incubades per nosaltres, estan amb nosaltres durant tres anys i fem aquesta comparativa de la supervivència al cap de cinc anys entre les que han passat per les nostres incubadores, pels nostres serveis d'incubació i la mitjana estatal. I trobem una diferència considerable, significativa.

Què feu bé en aquesta incubació, no? En aquesta incubació, què diries?

A veure, principalment és aquest assessorament més especialitzat. Evidentment, les incubadores són espais, per tant, hi ha una part dels serveis que és oferir oficines, però realment el que marca la diferència és els serveis de mentoring, és poder trobar el talent que necessiten, és aquest servei de finançament que ho explicàvem abans on. On pràcticament una de cada dues demandes, sol·licituds de finançament s'adquireixen. Llavors tot aquest acompanyament juntament amb la comunitat és el que realment facilita obre portes i dona més garanties d'èxit a les start-ups que ens estan acompanyant.

Molt bé. Per tant, estem en un bon moment. A Barcelona hi ha molts emprenedors. Tenim bona salut en aquesta startup. Què em diries? Quina és la tecnologia que ve? És a dir, quines són les startups que s'estan incubant ara?

Sí, ara mateix, evidentment, IA, intel·ligència artificial aplicada a qualsevol tipus de sector. Estem a Barcelona i el sector salut, ja se sap, té moltíssima potència, moltíssima rellevància, llavors estem veient que aquesta intersecció entre la IA i la salut són moltes de les nostres start-ups que estan tenint la seva activitat. Molt bé.

Una altra dada important, eh? De les start-ups, el 43% de les start-ups incubades tenen almenys una dona entre les seves fundadores. També estem davant d'un canvi, no? Més dones emprenedores?

100%. Aquest és un canvi que sí que és molt significatiu i que l'hem anat observant durant els últims 5 anys, diria jo. Aquesta dada també és de les incubades, ho dic per entendre d'on ve, i si fa 5 anys estàvem nosaltres amb un 25%, normalment el 25% dels equips tenien dones a l'equip fundador, ara estem en aquest 43%, que és molt significatiu i són molt bones notícies per tot l'ecosistema.

Amb una altra dada, aquest cas econòmic, heu aconseguit, explica'm això bé, que cada euro públic invertit a través del Fons d'Inversió Municipal mobilitzi 17,8 euros de capital privat, és a dir, aquesta és la funció que ha de tenir també l'administració, posar diners per aconseguir que els diners privats s'hi sumin, com funciona exactament?

T'explico una mica tota aquesta A veure, nosaltres, des de Barcelona Activa i evidentment des de l'Ajuntament de Barcelona, vam decidir donar suport a l'ecosistema emprenedor a través d'una estratègia de capital risc, de fons d'inversió. Això va començar post-Covid, quan hi havia un moment en què les empreses no estaven trobant finançament i aquí és quan van dir, bueno, anem a injectar aquest capital en fons d'inversió professionals, especialitzats, passats per la CMNV i que aquests puguin invertir en les start-ups del nostre ecosistema. Llavors nosaltres el que fem és que actuem com a inversors d'aquests inversors, però evidentment el motiu de fer-ho és perquè hi hagi una dinamització d'aquest ecosistema i sota uns criteris on nosaltres traslladem la política pública. És a dir, si nosaltres invertim, et poso un exemple perquè quedi més clar, en el programa de Barcelona Accelera, per cada euro que nosaltres invertim, exigim o demanem que el fons d'inversió inverteixi com a mínim 5 en start-ups de la ciutat, o que inverteixi en start-ups liderades per dones, o que inverteixi en start-ups dels sectors estratègics de la ciutat. Per tant, Tenim un criteri sectorial per diversificar l'economia de la ciutat, tenim un criteri de gènere per generar més oportunitats i tenim un criteri territorial per afavorir aquestes empreses de la nostra ciutat.

Doncs molt bé, volíem repassar en el Revolució aquest estudi d'aquestes 850 start-ups que hi ha a Barcelona que tenen bona salut i que per tant funcionen molt bé, moltes liderades per dones, que això és una bona notícia i que sobretot que duri, que ser emprenedor, és difícil, és molt difícil i que hi ha molts ingredients que fan que una start-up funcioni. Gràcies avui a la Iziar Blasco per passar pel Revolució i explicar-nos aquest informe. Una abraçada.

Gràcies a vosaltres.

Acabem el programa avui amb una frase, la velocitat és irrellevant si vas en la direcció equivocada. A internet i a les xarxes socials es diu que aquesta frase és de Gandhi, però alerta, no hi ha cap constància que Gandhi la digués mai. Sigui com sigui, on sí que la diem és aquí al Revolució, amb l'esperança que quan tot va tan ràpid anem tots pel camí encertat i sobretot no ens creiem tantes i tantes mentides que hi ha a la xarxa. Com sempre, moltes gràcies a l'equip del programa, Xavi Llauradó, Iván Díez, Clàudia Crua, Gerard Gil, Jordi Pí i Marc Camorós. També a tots els que han posat les altres veus al programa, Carles Dabó, Albert Mañà i Anna Escura. Gràcies, oients. Un abraçament forta.

¡Vamos!