IA i propaganda política: què pot sortir malament?

El primer cap de setmana de juliol, al congrés del Partit Popular celebrat a Madrid, va haver-hi un moment que les llums del pavelló d'Ifema es van apagar i a la pantalla gegant van aparèixer un seguit de protagonistes insospitats. 

Hi havia una imatge de Carles Puigdemont i Oriol Junqueras banyant-se en un jacuzzi ple de monedes, una foto de l'exsecretari d'organització socialista Santos Cerdán amb esmòquing i aires de Vito Corleone, una figura d'acció de la vicepresidenta Maria Jesús Montero, i un dibuix animat estil Studio Ghibli de Pedro Sánchez i Pablo Iglesias fonent-se en una abraçada. 

Totes les imatges eren falses, tal com va reconèixer la veu en off que sonava pels altaveus: "Al Partit Popular hem apostat per la intel·ligència artificial (IA) com a eix de la nostra estratègia comunicativa". 

Els darrers mesos, les xarxes socials del PP s'han omplert de continguts satírics generats amb IA per carregar contra el president Pedro Sánchez i persones del seu entorn, algunes implicades en investigacions per presumpta corrupció. 

Un exemple és el vídeo anomenat "La Isla de las Corrupciones", on es veu Sánchez i la seva dona, entre d'altres, en una platja de República Dominicana. El PP el va retirar arran de les crítiques del govern dominicà, que el va qualificar de "greuge gratuït". Però això no va impedir que es convertís en el vídeo més popular de la història del partit. 

El PP no és el primer partit a l'estat espanyol que utilitza la IA com a eina de propaganda política. Ja ho va fer Junts a la campanya de les eleccions generals del 2023, amb vídeos del rei Felip VI, el líder de Vox, Santiago Abascal, i Pedro Sánchez.

En un dels vídeos, Sánchez s'adreçava "a tota la ciutadania de Catalunya" i reconeixia que "el PSOE no ha complert". "No us hem pagat ni la meitat del que us toca. Com el PP", deia. 

Un altre partit català que va apostar per la IA en un espot de campanya van ser els Comuns, també el 2023, en un vídeo que imaginava com seran les ciutats i pobles del futur. 

Però el salt qualitatiu entre els vídeos que una IA permetia fer fa dos anys i ara és enorme, fins al punt que els professionals de la creació de continguts audiovisuals reconeixen que ja hi ha vídeos que els fan dubtar si són autèntics. 

"Cada vegada és més difícil saber què és real i què no és real", diu Pau Aleikum García, el director i cofundador de l'estudi de disseny Domestic Data Streamers.

El maig del 2025, Google va llançar el seu model més potent de creació de vídeos, Veo3, que permet generar clips de 8 segons d'un realisme insospitat, acompanyats d'àudio d'alta qualitat, com per exemple una conversa en català.

Pau Aleikum García reconeix que fa un any era "molt fàcil" reconèixer un vídeo generat amb IA. "Podies veure alguns errors, patrons, cares desfigurades, persones amb sis dits…", explica. Però assegura que, avui dia, tots aquests errors, generalment, ja s'han solucionat. 

 

4 de cada 5 eleccions, afectades per la IA generativa 

Arreu del món, la propaganda política s'està transformant amb la irrupció de la intel·ligència artificial generativa --és a dir, aquella que permet crear continguts, com text, imatges, àudio o vídeo. 

A Romania, el desembre passat, el Tribunal Constitucional va anul·lar la primera volta de les eleccions presidencials per ingerències atribuïdes a Rússia, amb una campanya de vídeos falsos a TikTok favorables a un candidat d'extrema dreta. 

El 2024, quatre de cada cinc eleccions a escala estatal van registrar incidents amb IA generativa, segons un estudi de 50 països, fet per l'International Panel on the Information Environment, una organització científica independent amb seu a Suïssa. 

D'un total de 215 casos registrats arreu del món, gairebé la meitat eren anònims. Un 25% havien estat generats per partits polítics i candidats. Un 20% provenien d'"agents externs". 

Alguns dels incidents registrats es consideren usos "positius" o "neutres" de la IA generativa, com la traducció automàtica de discursos polítics. Però la majoria d'exemples (69%) estan qualificats de perjudicials per al procés electoral. 

"Com més augmenta la possibilitat que les persones identifiquin com a autèntic un contingut que no ho és, més perillós és," assegura Sebastián Valenzuela, catedràtic de Comunicació a la Pontificia Universidad Católica de Chile, i un dels autors de l'estudi. 

El maig passat, a l'Argentina, hores abans de l'inici de les eleccions a la ciutat de Buenos Aires, va començar a circular un vídeo generat amb IA on es veia l'expresident del país, el conservador Mauricio Macri, anunciant la retirada de la seva candidata i demanant el vot pel partit de l'actual president, l'ultradretà Javier Milei, amb l'objectiu de fer front comú contra l'esquerra kirchnerista. 

El vídeo va arribar a milions de persones. El partit de Macri va denunciar-lo, assegurant que "trencava totes les regles del joc". Milei va defensar que "la llibertat d'expressió està per sobre de tot" i va etzibar a Macri que era un "ploramiques". 

Finalment, el partit de Milei va guanyar les eleccions i va superar el kirchnerisme pel 3% dels vots. El partit de Macri es va enfonsar, va perdre el 70% de suports respecte a les eleccions anteriors. 

 

Saber si un vídeo és real o no, una norma "de mínims" 

Quina és la solució? Els experts entrevistats coincideixen: una norma "de mínims" és assegurar que la ciutadania sap en tot moment si un contingut és real o si ha estat generat amb IA. 

Les primeres normatives que regulen l'ús de la IA, de fet, ja van en aquesta direcció. La llei d'intel·ligència artificial europea (IA Act) estableix uns mínims de transparència i que s'informi si un text, imatge, vídeo, o àudio ha estat generat artificialment. Però la normativa no entrarà en vigor plenament fins al mes d'agost del 2026. 

Però la regulació dels continguts generats amb IA planteja reptes, com per exemple a qui hauria de castigar la llei dels diversos actors implicats, des de l'usuari o organització que genera el contingut fals, a les companyies que creen els models d'IA i les xarxes socials on es difonen. 

Pau Aleikum García ho té clar: "La primera responsabilitat és de qui més es lucra". És a dir, les xarxes socials que "es nodreixen de l'atenció que capten aquests continguts virals". 

 

Ser crítics, una "obligació ciutadana" 

A banda, els experts recomanen ser "crítics" amb els continguts que consumim. "És una obligació ciutadana ser escèptics amb moltes de les coses que veiem a les xarxes", assegura Pau Aleikum García. 

Però també alerta de les conseqüències de seguir per aquest camí: si cada cop és més difícil distingir el que és real del que és mentida, la gent haurà de triar, i el més fàcil és decantar-se per allò que confirmi el que ja pensava. "Això el que fa és reconfirmar els nostres prejudicis" i "alimentar la polarització", alerta Pau Aleikum García. 

En la mateixa direcció, Sebastián Valenzuela alerta que el risc més gran, a llarg termini, no passa només pel fet que la gent es cregui continguts falsos, sinó al contrari: que dubti de tot.

"Quan algú diu que ja no creu en res, el que passa és que deixa de creure en fonts confiables, i comença a creure només en aquelles amb què està d'acord".