El vídeo fet amb IA que pot acabar als tribunals

La inteligencia artificial ha entrat de ple en la precampanya per les eleccions espanyoles del 29 de novembre. De fet, aquestes seran les primeres eleccions marcades per la inteligencia artificial tal com la coneixem ara, a l'abast de tothom, i alguns partits ja l'han començat a fer servir. Per exemple, avui hi ha hagut polèmica perquè el Partit Popular ha penjat el compte oficial del partit a les xarxes, un vídeo per atacar el Suez, i clonen la imatge i la veu de Begoña Gómez, José Luis Ábalos o José Luis Rodríguez Zapatero, entre d'altres, exceptant els casos en què s'han vist involucrats sota la premissa de, doncs sí, sóc escarrà.

Si tener una cátedra gracias a que mi marido es el presidente es de zurdos, pues sí, soy zurda.

Si irse de y cobrar comisiones ilegales es de zurdos, pues sí, soy zurdo. Si esconder joyas en una caja fuerte.

Aquesta tarda el Partido Popular de Zaragoza también se ha recreado. Tan Pedro Sánchez y Begoña Gómez como si fuesen los protagonistas de Titanic. También se ve a Óscar Puente, Zapatero, Ábalos y María Jesús Montero.

Begoña, vamos a ganar las elecciones.

El Partido Popular no ha sido culpa mía,

ha sido culpa de Zapatero.

Tot això ens hem d'imaginar aquests vídeos amb imatges dels protagonistes creades per intel·ligència artificial amb aquesta precisió amb què ho fa aquesta nova tecnologia. Vox avui també ha penjat un altre vídeo carregant contra el PSOE. En aquest cas són imatges també fetes en via de Zapatero, Ábalos, Santos Cerdán, Coldo García, Zapatero de Eian, Begoña Gómez, Puigdemont i Nicolás Maduro, que es van desenmascarant i expliquen de què se'ls acusa. Tots aquests vídeos són d'avui, però és que fa un parell d'anys, el juny del 2024, per a la campanya de les eleccions europees, el popular Miguel Tellado ja va publicar un vídeo a X en què una veu artificial imitava Zapatero i no s'advertia que la veu era generada amb IA.

Hola, soy José Luis Rodríguez Zapatero y yo también escribo cartas de recomendación. Estamos en la Champions League del cumplimiento de nuestra palabra. No había crisis y no hay begonias.

És ben bé que sembla la veu autèntica de Zapatero. El cas és que, des de fa temps, les xarxes socials van plenes de vídeos fets amb aquesta tecnologia i s'han intensificat aquestes setmanes per la nova convocatòria electoral. Per exemple, un usuari n'ha penjat un en què un fals Pedro Sánchez argumenta amb tres raons que és guapo i que per això ha de guanyar les eleccions.

Voy a volver a ganar las elecciones por tres razones. La primera de ellas es porque soy un político guapo. En segundo lugar, voy a ganar porque soy un político muy, muy guapo. La tercera razón por la que volveré a ganar las elecciones es porque soy un político muy, muy, muy guapo.

I segurament també recordeu un altre cas, que ja és una mica més antic, ambientat en les festes de Nadal. Aviam.

És la música que acompanya el vídeo en què veiem parelles de polítics fent-se una abraçada malgrat tenir ideologies contràries, per exemple, i surt una abraçada entre Sánchez i Feijóo, entre Iolanda Díaz i Isabel Díaz Ayuso, entre Abascal i Rufián, entre Junqueras i Puigdemont o entre els Reis Emèrits, en aquest cas, però no se sentia la seva veu, fins i tot. Podia fer una certa gràcia perquè segurament l'escena ja convidava a pensar que allò estava fet amb intel·ligència artificial. Evidentment, l'ús de la IA no és una cosa exclusiva d'Espanya. Als Estats Units, el gener del 2024, també hi va haver polèmica per una veu falsa de Joe Biden.

Era abans de les primàries de New Hampshire i aquest fals Biden trucava als electors i els animava a no votar. Bé, són molts els exemples. Avui, a partir d'aquest cas de la precampanya i els vídeos del Partit Popular, ens hem fet algunes preguntes que volem traslladar a Xavier Muñoz, que és advocat penalista. Bona nit. Bona nit. Bé, gràcies per acompanyar-nos. La primera pregunta és, són denunciables tots aquests casos de saplantació d'identitat? Hi ha delicte?

És dubtós, sincerament. Hi ha arguments pel sí i hi ha arguments pel no. El primer que hem d'establir és que hi ha un marc, que és que els polítics estan sotmesos a una crítica pública major, molt més tolerada per part dels tribunals, que no un ciutadà. Comú, diguem, s'entén que forma part de la llibertat d'expressió que empara tant als partits com a la resta de ciutadans al criticar d'una manera que no seria possible a un altre ciutadà doncs a un adversari polític. Dit això, més enllà dels exemples que donàveu en que no és el primer cop que succeeix a Espanya una suplantació d'identitat a mia d'alguns representants públics, ni tampoc Espanya és un país únic, sinó també es donen altres països del nostre entorn, hi ha un element molt rellevant. Que és el fet que en aquest cas s'atribueixen delictes, la confessió de delictes per part de les persones que sotenen aquests vídeos. Clar, això és especialment rellevant perquè això sí que podria ser constitutiu de delictes de calúmnias. Per exemple. José Luis Ábalos diu que cobra comissions, Santos Cerdán diu que cobra comissions i pertany a una banda criminal, Leire Díez que contrata matons contra una jutgessa. Clar, l'atribució d'una confessió d'un delicte greu a una persona sí que podria ser unes calúmnies constitutives de delicte i que podrien suposar una pena de presó. No, t'anava a dir que un element afegit aquí és el fet que això seria constitució de delictes sempre i quan no sigui veritat. O no estigui demostrat que sigui veritat. Per tant, en el cas d'Avalos, per exemple, sí que podrien fer aquesta mena d'afirmacions, però en la resta no, perquè encara no està demostrat.

Dèiem que, clar, en aquests vídeos posa en lletra molt, molt petita que són imatges creades amb intel·ligència artificial. La veritat és que el tipus de lletra és molt, molt petita, és pràcticament transparent sobre el vídeo. Això els salva, però.

Aquesta és l'excusa jurídica que pretenen utilitzar per donar-li certa cobertura a aquesta mena de vídeos. Això seria, com deia abans, jo volia fer l'excepció rellevant que tot això opera en la llibertat d'expressió sempre i quan no s'atribueixin uns delictes. Hi ha dos elements que atenuen una suplantació d'aquesta mena. El primer és que els vídeos es facin de forma satírica, és a dir, que consisteixin en una crítica que es basi en l'humor i que, per tant, l'interlocutor pugui entendre. Pels seus propis mitjans cognitius, que això no és real, sinó que és una crítica satírica i, per tant, una broma que fa un tercer sobre aquest. I el segon és que en aquests vídeos, d'alguna manera, s'estableixi per escrit o amb alguna marca, o si fos, per exemple, una publicació a una xarxa, en el text de la publicació, que aquest vídeo està fet amb intel·ligència artificial i que no és real. És a dir, s'ha de manifestar clarament. Que està fet amb intel·ligència artificial. Això respon a una directiva europea que es va aprovar a l'agost d'aquest any, fruit de que, com dèieu, ja hi havia hagut diversos exemples, als Estats Units, però també a Alemanya, a Suïssa i a molts països europeus, en què els tribunals. Acabaven fallant retirant aquests vídeos i establint que o s'especificava clarament que estaven fets a Mia o, si no, no formaven part de la llibertat d'expressió. Clar, aquesta marca ha de ser plenament reconeixible. Un ciutadà mitjà ha de poder veure pels seus mitjans que aquests vídeos estan fets perquè ho anunciï el propi vídeo. Aquesta salvaguarda no funciona, no té validesa.

Clar, ara estem parlant del cas de la campanya del Partit Popular per aquestes eleccions. Estem parlant, per tant, de personatges públics polítics a qui es poden veure sotmesos aquest tipus de llenguatge, com ara ens explicaves. Però el cert és que aquesta és una pràctica que s'està estenent moltíssim a les xarxes socials. Cada vegada que un hi entra és fàcil trobar-se amb alguna persona coneguda, ja no estrictament política, futbolistes, entrenadors, presentadors de televisió, actors, que veuen reproduïda la seva imatge, també la seva veu, en situacions que poden arribar a considerar que són denigrants o que poden atemptar el seu honor. Quin marge hi ha per aquesta interpretació? És a dir, una persona que se senti ultratjada perquè estan utilitzant la seva imatge en un vídeo que no li agrada o que no li sembla pertinent, o una persona coneguda o no, perquè és que l'ús d'aquesta tecnologia és estès a tothom. Hi ha marge per aquest tipus de denúncia o de causa?

Efectivament, hi ha marge de denúncia plenament i per això em semblava rellevant fer aquesta primera reflexió que et feia, que és el fet que els polítics, ens agradi o no, estan molt més sotmesos a la crítica i fins i tot en alguns casos es pot arribar a suplantar la seva identitat a través de la IA, però no és el cas dels ciutadans comuns. Qualsevol mena d'injúria respecte a una persona o vídeos que afectin a la seva intimitat, etc. i estiguin fets superficialment a mi, suplantant-los la identitat, són perfectament denunciables. En aquest cas, si no s'atribueix un delicte confès per part d'aquests, per la via civil. És el que es diu una lesió del dret a l'honor. I per tant, un tribunal podria decretar mesures cautelars perquè es retiressin i imposar indemnitzacions i deures de disculpes, etc. al creador i al qui publicita aquesta mena de vídeos. Per tant, malauradament, veiem que aquests vídeos es reprodueixen, que aquests instruments s'utilitzen per denigrar, per criticar o simplement per fer broma respecte a algú, però no són legals ni són legítims. És a dir, els tribunals es poden perseguir. Clar, suposo que aquí el que correspon també és que fem una reflexió social, com a societat, en tant que no tothom té la capacitat d'imposar demandes, els tribunals són lents, malauradament, com tots sabem, són costosos, i per tant la censura social, la censura política, i no tolerar que un partit que aspira a governar, com és el PP, utilitzi aquests mitjans i doni aquest exemple a la resta de la societat, és el primer que hauríem d'assolir entre tots, em sembla.

Clar, el primer és aquest debat ètic abans de l'acció. En un cas així, qui és responsable del vídeo? L'organització que ho penja? Qui fa el vídeo? La plataforma on es penja?

Sens dubte el que li dona publicitat. Podríem veure si el que el crea també ho podria ser, però sens dubte el que el dona publicitat. És a dir, la plataforma no. A la plataforma se li pot reclamar que el retiri, però no és el responsable legal en els tribunals espanyols. Per començar, perquè la seva base està en un altre país i, per tant, la jurisdicció no és competent l'espanyola. El que el publicita és el responsable. I no només el que el publicita, sinó que el que el reprodueix, si té molts seguidors i ajuda amb potència, diguem, o amb magnitud, aquesta publicitat, doncs també podria ser responsable. És a dir, si un fet és delictiu o és il·legal i jo amb 50.000 seguidors, 20.000 seguidors o 200.000 el reprodueixo, jo reproduint-lo, encara que no el creï ni sigui l'emissor principal, puc també ser responsable.

A les plataformes se'ls deu poder exigir una marca molt visible que aquell vídeo no conté imatges reals, sinó creates amb intel·ligència artificial. Perquè ara, per exemple, estem parlant d'aquests vídeos de la campanya del Partit Popular, que porten aquesta marca d'aigua, com dient, aquest vídeo està fet amb intel·ligència artificial, però segur, podríem posar-la amb el foc, segur que hi ha moltíssimes persones que no arriben a veure aquesta marca d'aigua i que els acaben donant per bons. Això és pràcticament inevitable. Aquest dubte entre què és real i què no és real, com que es permet, un no sap si pot acabar creient el que veu.

Sí, aquí és on pretén intervenir la directiva europea que feia esment abans, que va entrar en vigor recentment, el 2 d'agost del 2026, que imposa sancions directes als emisors d'aquests vídeos que no reuneixin aquests requisits, que siguin evidentment satírics o que portin una marca identificable perfectament per part del receptor. Que, sens dubte, pugui veure que això està fet amb intel·ligència artificial. Ojo, perquè les multes poden ser de fins a 15 milions d'euros. És a dir, que no s'ho pren amb broma, tampoc, el Parlament Europeu a l'hora de legislar en aquest sentit. Per tant, sí, efectivament, més enllà de la jurisdicció espanyola, amb les regles que ens hem donat per qualsevol mena de muntatge, perquè, clar, aquests muntatges. Ja es perseguien abans i ja es denunciaven abans. Vull dir, abans es feien fotografies de polítics amb un traje de presidiari, com és el cas fa tres o quatre anys, recordo, amb un dirigent del PP de Castelló. I això es podia perseguir i podia ser multat també. Però ara amb la IA hi ha nous mecanismes i noves sancions que poden ser molt més elevades.

Clar, aquí el canvi és que sempre s'ha pogut imitar un polític, tothom entén que és una imitació, amb la IA es repredeix amb tanta precisió la cara i la veu que jurídicament canvia alguna cosa, sobretot si els porta a dir coses com l'admissió, per exemple, d'un delicte. Aquesta és la qüestió, exactament pel que fa als vídeos de la campanya del Partit Popular. Aquí la qüestió és què hauria de passar perquè un partit conclugués que fabricar un vídeo així no li surt a compte o que no és ètic, que és el debat que segurament ens estem saltant i que potser amb el nostre expert penalista també se li escapa una mica del seu àmbit d'actuació. Però francament és aquest el debat previ que s'ha de tenir abans no s'acaba de delimitar bé. Que és el que es pot fer i no amb la intel·ligència artificial. És a dir, què hauria de passar perquè algú pensi, no em sortirà a compte ara fer aquest vídeo i penjar-lo?

Efectivament, jo per això volia enfocar cap aquí, no? Vull dir, jo em sembla que és un debat polític, és un debat social. No només consisteix en els vídeos ara perquè estem en campanya, etcètera, sinó que, com bé deies, és algo que la intel·ligència artificial avança i la regulació i el debat públic avança un pas per darrere, no? I jo, com et deia abans, crec que la censura social ha d'anar per davant i després ja adaptarem la legislació o, malauradament, després adaptem la legislació, millor dit, no? Però el primer és que no ho prenguem com una broma o com si fossin dos bàndols. Si m'agrada el PP amb Ric i si m'agraden altres partits, doncs em sembla molt malament. Jo crec que no, jo crec que és censurable per part de tothom. N'hem parlat d'aquesta

qüestió amb l'advocat penalista Xavier Muñoz. Moltíssimes gràcies, Xavier. Que vagi bé. Gràcies a vosaltres. Bona nit.