Intel·ligència artificial: adeu a la cultura?

Ara és hora d'agafar la llibreta i prendre punts, perquè ens visiten dues persones que hi entenen molt sobre temes dels quals molta gent en parla, a vegades sense saber-ne gaire, però ells en saben molt. Són en Carles Planas, periodista del periòdico especialitzat en tecnologia i poder. Bona tarda. Bona tarda. I en David Poblador, que és tecnòleg i expert en intel·ligència artificial. Bona tarda. No sé si esteu d'acord amb això que deia, que ara tothom es posa la I a la boca, però no sé si tothom hi entén tant com diu o creu que hi entén.

Bueno, és com quan van sortir els mòbils, tu pots estar-los utilitzant sense saber què és el que s'hi ha magarradera, si estan utilitzant uns minerals o no, la part tècnica moltes vegades queda més pels tècnics o la gent que s'hi dedica, el que passa és que sí que la IA té un potencial de reconfigurar la realitat que crec que obliga a que estiguem una mica més pendents, més enllà de la pròpia aplicació, de què hi ha al darrere.

Posar una mica de seny, de reflexió i de coneixement, que és el que ens ajudeu a fer vosaltres. Avui m'heu dit que per introduir el tema volíeu posar una cançó, així que jo us obeeixo. Escoltem-la.

Smoking the sky and no peace found. The drums roll slow Tell me brother Where do we go Raise your hand.

A veure, què és això que estem sentint,

Carles? Doncs això que esteu escoltant és The Velvet Sound Down, que és un grup de rock psicodèlic que l'any passat ho va petar força, perquè va acumular quasi un milió d'escoltes a Spotify. No ho va petar per acumular només un milió, perquè això ho fan molts artistes, sinó que ho va fer sent un grup que no existeix. És música generada amb IA des de la composició de les lletres fins a la melodia. Així que avui el tema que tocarem és fer-nos una pregunta que és bastant més complexa del que sembla, que és que si la IA generativa és una eina que pot accelerar, facilitar, obrir la porta a la creació cultural, o si obre la porta a la creació de contingut barat, fabricat en massa per capturar clics, reproduccions i diners. És a dir, si ens estem encaminant cap a un món de cultura brossa.

Doncs diguem-ho vosaltres. Cap on anem?

La pregunta clau és aquesta, si estem parlant que si estem anant cap a entreteniment efímer o d'una tendència que pot canviar la indústria cultural, i estem veient com dins de la música està començant a tenir un impacte molt potent, perquè en els últims anys han proliferat plataformes com Suno, Udio, Stability AI, que són empreses que a la gran majoria de la gent no li sonen de res, que permeten crear música sense saber tocar ni un instrument, sense saber cantar.

O sigui, m'estàs dient que jo ara, que no toco cap instrument i que realment no en sé de música, agafo una d'aquestes eines i podria acabar creant una cançó? Sí, totalment.

Tu només li has de posar una instrucció que dius vull una cançó de folk que sembli, jo què sé, cantada per un cantautor menorquí i que parli d'aquests temes i t'ho genera d'una forma més o menys potable, per entendre'ns, que a vegades els resultats poden ser més o menys dignes.

I faria una peça, entenc, original, que no seria una còpia de res que existeix?

Ui, aquesta és una de les qüestions més clau. Aquesta és una pregunta molt complicada. Original no hi ha res i en el món de la IA generativa segurament menys encara. Menys, no? Qualsevol peça, l'hagis composat tu mà o l'hagi composat una IA generativa, suposo que està basada en referències i en paràmetres que has après escoltant música. Conscientment, però sempre hi ha. El que fa aquesta situació una mica complicada és que la IA generativa. Viu i d'aquesta abundància tant de dades d'entrada, és a dir, pot potencialment entendre tot el que s'ha composat i publicat durant molt de temps, i de dades de sortida. Si no t'agrada el resultat d'una, doncs fas petites iteracions. Un altre. On està la barrera per dibuixar-ho? Clar, si pensem en el resultat final, aquestes IAs, Afegeixen habitualment prou diferències amb les peces originals, amb les lletres, amb els ritmes i això, on teòricament les peces no són equivalents, no hauria d'haver equivalències, però sí que tenen una mica de semblança a peces existents.

Sí, això hi ha gent que ho veu com una oportunitat de rebaixar, dinamitar aquestes barreres d'entrades perquè tothom pugui crear art, ho dic així, art entre cometes, perquè seria una qüestió potser més filosòfica que tècnica aquesta. I clar, hi ha gent que diu que el que ens hem de fixar no és en aquest tipus de grups creats per IA que acaben sortint als mitjans, sinó que hi ha projectes underground en els que sí que s'està començant a utilitzar la IA per fer samples o bases musicals que pot ser útil com a instrument musical, com un instrument més a afegir. Però també és veritat que, com comentàvem abans, la IA generativa permet ser una fàbrica de producció sense límits. Quan estàs utilitzant una eina amb el model capitalista que tenim actualment, tots els incentius porten a que cada vegada es generin més volum de cançons, no perquè hi hagi un artista al darrere que hi vulgui expressar alguna cosa, sinó per omplir els catàlegs, intentar guanyar clics, reproduccions, intentar guanyar diners, obrint. Aquesta mena de contingut de xalla. I una petita dada per ubicar-nos en quina és aquesta proliferació de contingut, que no és una cosa anecdòtica. La plataforma Deezer va assegurar fa principis d'any que fins a un 44% de les cançons que rep diàriament són generades a miar. Si estem parlant de gairebé la meitat, eh? Gairebé la meitat de les que rep diàriament són cançons generades amb IA. De nou, cançons que moltes vegades no busquen expressar. Art ni. Art ni denunciar una situació, sinó que moltes estan vinculades al frau o a la captació artificial de royalties. Això és important saber-ho. I Spotify també, just aquest mes de juliol, va dir que ha eliminat, durant el juliol, 75 milions de cançons falses.

Només durant el juliol. 75 milions de cançons falses! Bé, falses, entenc, creades amb IA, eh?

Sí, creades amb IA, que no hi ha una persona cantant o tocant un instrument al darrere.

Llavors, també, donant aquesta dada, entenc que plataformes, no?, una plataforma com Spotify lluita en contra d'això, perquè com li perjudica?

Hi ha una part que hi ha algunes cançons que pel que jo sé les potencien o els va bé que estiguin allà, però el que no volen és que hi hagi un allau de contingut de baixa qualitat que pugui saturar la plataforma i sobretot si es tracta de casos en els que, doncs això, puguin ser cançons que el que busquin només sigui. Ocupar espai, intentar guanyar clics, fins i tot fer aquest tipus d'estafes amb la captació artificial de royalties de les discogràfiques. No sé exactament com això es pot combatre, la veritat.

Jo crec que és un problema que no és nou, el que passa que ara està molt accelerat. És a dir, és real que des de fa molts anys a les xarxes socials, per exemple, hi ha molts posts fabricats o més o menys fabricats amb intencions d'ocupar espai, per dir-ho d'una manera clara, o vídeos de YouTube, que gairebé no tenen visualitzacions, que el que fan és acabar arrastrant de visualitzacions d'altre contingut de més qualitat, que potencialment poden acabar sent recomanats tot i contenir continguts qüestionables, i òbviament creant uns costos d'infraestructura grossos. Quan acceleres l'acceleració de la producció, és a dir, quan aquestes eines amb uns costos realment força baixos entren a l'abast de moltíssima gent, aquest problema es converteix en gairebé intractable. Tots els mètodes més manuals que s'han estat seguint per assegurar validesa de contingut, per assegurar originalitat de contingut, per evitar problemes de royalties, tots aquests processos que eren, en el fons, una mica manuals, o basats en moderació, tots aquests processos deixen de ser vàlids, perquè el volum és intractable. I em penso, no és per donar una nota negativa, però em penso que estem veient la punta de l'iceberg, que això podria créixer encara molt més ràpid. I m'imagino que el que acabarà succeint és que hi haurà una mena de protecció d'entrada a les plataformes. Jo crec que veurem el dia on, per pujar un vídeo a YouTube o per o perquè aquest vídeo quedi en els llistats de YouTube, doncs s'haurà de, no sé, pagar o s'haurà de. Hi haurà alguna manera de compensar això només per tema de costos i de volum. Clar.

Clar, i això suposo que també suposa competència i problemes de moltes maneres pels artistes, pels qui sí que creen de forma original i han dit que potser no, però vaja. Com a mínim, havent-hi un humal darrere.

Sí, jo ho veig una mica com una qüestió de competència deslleial, almenys en els casos d'IA utilitzada així de forma massiva i no com una eina, com un pinzell. Clar, pensa que si un músic necessita anys per formar-se, aprendre a tocar, inspirar-se per crear una obra, la màquina, això a la màquina li dona un avantatge competitiu i en l'entorn econòmic, l'incentiu econòmic de les plataformes, que és. Els músics guanyen molts pocs diners per reproducció de les seves cançons. Això fa que la gent que està intentant crear aquests grans volums de música a miar, si crear una cançó costa només cèntims, no fa falta que sigui un èxit. Si dedicaràs dos minuts a crear una cançó, pots crear-la en massa. Que només que una, finalment, et funcioni. Només que una ho peti ja et surt endavant. Aquest és un problema majúscul, però el segon és el que mencionaves abans, és aquesta qüestió de si la música generada a mi és original. No, no ho és. L'altra cosa és entrar al debat que mencionava el David abans, de si tot art és original, perquè tot es basa en referències anteriors. La qüestió és que. Crec que la clau de tot plegat és que perquè la IAP sigui capaç de generar música sintètica, abans ha hagut d'estar entrenada a milers de milions de cançons, que les redueix a fórmules matemàtiques a replicar i que les encapsula en una aplicació privada perquè cobri pel seu ús. Clar, dit d'una altra manera, s'estan extraient de forma il·legal l'art dels artistes per després regurgitar-ho amb creacions que moltes vegades són homogènie. Hi ha una part. Molt greu, que s'ha vist en moltes altres indústries, que és, doncs, aquestes, tant Suno com Udio, per exemple, han sigut demandades ja per les grans discogràfiques com Universal, Sony o Warner, perquè han alimentat la seva IA amb obres protegides per drets d'autor. Però això com ho demostres? Això, accedint a les dades d'entrenament, que és força complicat, que de fet hi ha el procés judicial aquí al darrere, doncs intentar veure com s'han utilitzat les cançons d'un artista sense consentiment ni sense cap mena de retribució econòmica, perquè després, quan tu li diguis a la màquina "Escolta, crea'm una cançó que soni com, no sé, com les catarres, facin alguna cosa que soni exactament igual que les catarres". De fet, això em recorda,

clar, passa amb la música, però fa uns mesos es va fer força viral el cas d'un llibreter, crec que era de Barcelona, que va començar a rebre compres de llibres d'aquests de vell, que ningú volia per res, i a més compres ingents d'algú estranger, d'algú desconegut, I tot feia pensar que es tractava d'alguna empresa que el que volia justament era alimentar la intel·ligència artificial amb volums d'aquests, no sé si de vell o vaja, amb contingut que és força rar.

Aquests models s'alimenten de dades i l'extractivisme aquest és molt real, i a més aquest dels llibres fins i tot sembla pot crear també altres problemes com biaixos i situacions on no estàs capturant tota la realitat, depèn de les dades que vagis incorporant. La música està succeint, el cinema està succeint, el text escrit està succeint, Hi ha empreses mal venents a les seves hemeroteques, també, fins i tot intentant-ho fer legalment, estan perdent un dels seus actius més preuats. Llavors, tot això genera unes qüestions filosòfiques molt complicades. Des del punt de vista de l'artista, Clar, a mi m'agradaria diferenciar aquestes eines com l'ajuda a que tothom tingui una oportunitat en el món artístic és fantàstica. És a dir, puc ser un músic genial, però potser no sé cantar i tinc una idea d'una peça que m'agradaria fer de certa manera. Doncs m'ajudo aquí de la intel·ligència artificial. O necessito uns acompanyaments, o necessito un baix, o necessito. Coses d'aquestes són fantàstiques. Fa molts anys hi ha eines per intentar acompanyar música i coses d'aquestes. Aquesta part. M'agrada i crec que veiem músics d'aquests que estan experimentant més eines que ho veuen com una ajuda, el problema és quan parlem d'artificialitat total o de coses que generen a base de volum perquè porta aquest extractivisme i no és pas bo i a més no hi ha cap manera de de recompensar la creació original.

I que a part les empreses ho han reconegut, almenys en privat, perquè recordo que l'any 2024 OpenAI l'havien citat al Parlament Britànic i allà va dir textualment que seria impossible entrenar les IAs actuals amb contingut que no tingués drets d'autor. O sigui, ho fan absolutament totes, també en tròpic, que es ven com l'empresa de l'IA ètica, s'han destapat casos d'això, d'agafar llibres i literalment escanejar-los i després destruir-los. Perquè no els importa l'art, la cultura, bàsicament, per ells, tot aquest gran volum és dades i dades i dades per entrenar els seus sistemes.

¿Qué te parece? ¿Cómo habla tan bien nuestro idioma? A lo mejor puede ayudar a su marido a que deje de hablar como un limpiabotas. ¿Para quién eres tú?

Hem parlat de música, de llibres, però crec, Carles, que el cinema, la IA, també està produint un debat bastant escalfat, oi? Molt, molt escalfat.

No sé si recordeu la pel·lícula de Brutalist, que és força recent. Sí, no l'he vist, la tinc molt pendent, però sé de quina parla. És un peliculó de fa un parell d'anys que va estar a punt de guanyar l'Òscar de millor pel·lícula, no ho va fer, però va haver-hi com un petit escàndol al darrere, perquè la pel·lícula té unes interpretacions magnífiques, El cas, per exemple, de l'Adrian Brody, que va acabar guanyant el seu segon Oscar. Però l'escàndol va ser perquè el productor de la pel·lícula va explicar que havien utilitzat IA per ajustar alguns fragments de diàlegs en hongarès de l'Adrian Brody. Que ell parla hongarès, però per perfeccionar algunes parts del seu accent, tant amb ell com amb la Felicity Jones, una altra actriu, ho havien utilitzat. I clar, això va obrir va obrir un debat que va molt més enllà que s'utilitzi la IA per la creació d'imatges o per la edició d'imatges, més pels efectes visuals. De fet, aquest mes Christopher Nolan va dir que considerava que la IA podia aportar algunes eines útils, però ell deia que aquesta idea que la IA acabarà absolutament amb tot el treball creatiu, amb l'art, ho veia com una tonteria. Però clar, realment la por a que això succeeixi ha sigut la por central que ha marcat les vagues de guionistes i d'actors de Hollywood que hem vist al llarg d'aquests últims anys. Protestes que han servit, per veure-ho des d'una cara positiva, han servit perquè. S'acabin arribant a acords perquè la indústria no pugui acabar substituint els actors per intel·ligència artificial, que compri les seves imatges i en faci rèpliques per. Imaginem que un actor és mort i després la seva imatge pot ser utilitzada, imaginem, sense el seu consentiment, doncs aquí per donar més dret als actors amb les seves imatges, però també als guionistes. S'han aplicat certes restriccions que es pot utilitzar la IA pel procés d'escriptura de guió, Però s'ha d'haver-hi una supervisió, s'ha d'informar a les productores, etcètera, etcètera.

I vinculat també amb el cinema, també s'està fent o s'està intentant fer amb el doblatge. Hi ha actors de doblatge que els han ofert, ens han explicat aquí a Catalunya Ràdio, que els han ofert, mira, et pago uns diners, dona'm els drets de la teva veu, o fins i tot, mira, jo et pago per la feina però no cal ni que vinguis. Clar, amb la trampa que és d'entrada que et diguin, ostres. Ara jo, posaràs a mi el meu nom en el dublatge d'aquesta pel·lícula, jo no hauré ni sortit de casa i cobro. Però clar, en el moment en el que tu cedeixes això, la teva veu, aquí estàs venut, aquí la teva, segurament és una sentència de mort això. Bueno,

hi ha un desequilibri de poder, en el que tens una gran empresa que té tots els diners del món per poder-te fer una oferta, i com a treballador moltes vegades et pots trobar contra l'espasa i la paret. Sí que és veritat que en el que hi ha un moment en el que entren els sindicats d'actors es pot donar una mica més de força perquè aquests professionals creatius puguin tenir una mica més la paella pel mànec i fins i tot, si volen això, tenir els seus drets sobre les seves rèpliques digitals, sobre les rèpliques de les seves veus, doncs puguin utilitzar això en el seu favor.

I qui guanyarà? Qui pot sortir més beneficiat de totes aquestes dinàmiques i de tots aquests canvis?

És una pregunta clau i no està gens clara de qui pot ser el guanyador. El més probable crec jo és que en un primer moment els beneficiats no siguin els creadors individuals, sinó que siguin les empreses que controlen els grans catàlegs, tant de pel·lícules com de música. Pensem en les discogràfiques o en les grans productores. Totes aquestes, el patró que estem veient és que en un principi presenten demandes contra les empreses de IA que utilitzen il·legalment els seus continguts, però després d'aquestes demandes moltes vegades s'acaba arribant a acords comercials per cedir aquest catàleg de continguts a les empreses de IA. La qüestió és si en aquest procés els creadors queden penjats o veuen que part dels diners que les majors estan embutxacant es tradueixen en els artistes, que és el que m'agradaria pensar, però. Però tal com són les coses, crec que probablement no seran els primers beneficiats.

Sí, podríem concloure lamentablement que la IA està fent per ella la cultura i la farà per ella si no ho està fent ja.

Jo no ho veig tan negatiu. Bé, d'acord, gràcies. Espero, espero. Ets optimista, no? Crec que en èpoques d'uniformització cultural, per exemple de gustos musicals, de tendències, sempre hi ha persones, gent que troba la manera de crear una cosa que va molt contrària a la tendència. Sigui, per exemple, una creació més manual, o sigui utilitzar les eines noves a la teva disposició d'una manera més revolucionària, o sigui començar a parlar de temes que no s'havien tocat abans, sigui expressar-se d'una manera nova, formes d'art noves. Que a la llarga, per sort, els humans acabem, alguns acaben innovant quan tot s'assembla massa. Esperem que aquesta situació d'abundància, de creació molt semblant, de peces molt semblants, acabi creant aquesta situació. I a més, a més, si puc dir una cosa molt, molt. Com ciència-ficció, és molt probable que en el futur veiem models d'intel·ligència artificial que s'especialitzin en crear coses que no s'assemblin a les seves dades d'entrenament per, justament, ajudar-te a trencar amb la tendència. Molts d'aquests models semblen molt humans, per exemple, el chat GPT de vegades sembla molt humà quan parla perquè. Introdueix una mena d'aleatorietat o imperfeccions en les seves respostes. Que és pròpia dels humans, no? Correcte, i per això de vegades ens hi sentim identificats. Jo crec que podria passar que en el futur hi hagués encara més recompensa a sortir-se de la norma. I espero que això també doni lloc a noves formes d'art i a noves tipus de creacions musicals. Jo crec que això ens

obliga a que també com a consumidors, com a espectadors, com a oients, siguem més crítics i que també recompensem més aquells creadors que s'arrisquen a fer un producte manual. I quan dic manual em refereixo a tu pots utilitzar la tecnologia perfectament per fer música o per fer cine. Però em refereixo a no automatitzar aquests processos. I crec que, com menciona el David, part de l'esperança rau en aquest tipus d'artistes, que el que fan és, com il·lustra, per exemple, l'últim àlbum de la Rosalia, és trencar una mica amb l'ortodoxia, intentar fer coses noves, i és una manera de negar aquest món cap al que ens avancem, que és en el que l'algoritme ens porti cap a un aplanament cultural en el que tot sona igual, tot sembli el mateix i que acaba, de vegades, tinguem la sensació aquesta que vivim en societats també culturalment més homogènies.

Que perdi mis manos en Jerez y mis ojos en Roma.

Doncs tant de bo es compleixin aquests pronòstics optimistes que ens feia el David i que nosaltres com a espectadors tinguem aquest esperit crític que ara ens deies, Carles. Carles Planes, Bou, David Poblador, moltíssimes gràcies per portar-nos tant de coneixement sempre aquí a la Terra de Catalunya Ràdio i ens veiem la setmana vinent. Fins la setmana vinent, un plaer. Fins llavors.

De la paz cuando nos des de tu revilla.