El papa "trendy" o Trump arrestat: el nou repte de les fotos falses fetes amb IA

AI-generated image of Pope Francis goes viral online. pic.twitter.com/ap7N099wpy

— Daily Loud (@DailyLoud) March 25, 2023

Aquesta imatge la va generar un usuari de Reddit amb Midjourney, l'eina de generació d'imatges de Discord (una xarxa social molt utilitzada per gamers, que la fan servir per xatejar mentre juguen).

Unes altres imatges falses generades amb IA que han fet la volta al món són les de l'expresident Donald Trump barallant-se amb la policia de Nova York perquè no el detinguessin.

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

Aquesta imatge en concret va ser creada pel periodista Elliot Higgins, de Bellingcat, també amb Midjourney.

Com funcionen aquestes eines?

Per generar aquesta mena d'imatges no cal ser un programador expert. N'hi ha prou de registrar-se a Dall·E o Midjourney (a Stable Diffusion ni cal) i començar a potinejar.

El funcionament és tan senzill com escriure la descripció de la imatge que vols obtenir i clicar intro: hiperrealistic photo of Leo Messi with the RCD Espanyol jersey o hiperrealistic photo of the president of Catalonia jumping from a plane from below with the parachute open.

Les opcions són tantes com et permeti la imaginació. No hi ha cap altre límit.

Són indetectables les imatges fetes amb IA?

Ara per ara, la majoria d'imatges generades amb IA pel públic general tenen errors en el fons, en els petits detalls, a les mans de les persones que apareixen o a les expressions de la cara.

Per exemple, a la imatge de Trump amb la policia, hi ha persones amb quatre dits i mans amb formes estranyes com han mostrat els companys de VerificaRTVE.

Tot i això, segons Nico Roig, responsable de disseny per ordinador a Metropolitana (una agència de publicitat especialitzada a fer campanyes amb imatges generades per ordinador) en les feines més precises i professionals els problemes d'aquesta mena ja són molt limitats:

"Ara els problemes són amb els reflexos dels ulls, que són difícils de fer quadrar i que siguin com han de ser en cada ull, tenint en compte l'angle i la inclinació correcta. També costa perfeccionar la trama i la textura de la pell."

Tot i així, Josep Maria Ganyet, enginyer informàtic expert en IA i CEO de l'empresa Mortensen, creu que resoldre aquests defectes és qüestió de temps:

"Ja ara es pot fer qualsevol cosa. Les imatges ben treballades ja són indistingibles. És més, qualsevol creació és molt superior a la mitjana humana."

La fi del Photoshop?

Abans que aquest nou fenomen impactés arreu del món, la manipulació d'imatges per generar contingut fals passava pel clàssic Photoshop, el programa més conegut per editar i manipular fotografies.

Tot i així, res fa pensar que la nova tecnologia substitueixi aquesta eina, sinó que més aviat acabaran sent dues eines complementàries, tant per la generació de contingut legítim com per crear imatges falses creades amb una intenció denunciable.

Un exemple de la vigència del Photoshop és la imatge d'Isabel Díaz Ayuso amb un escot fals que ha circulat els darrers dies entre els seus partidaris.

Esto es la hostia. Normalmente, en redes, una foto se manipula para denigrar a un político o hacer bromas con él. Ahora, sin embargo, han manipulado esta foto de Ayuso para que resulte más "atrayente" entre sus fanáticos. El fake está circulando entre ayusers. pic.twitter.com/2BNq4Ae0n2

— Mauro Entrialgo (@Tyrexito) March 26, 2023

Així doncs, les imatges generades per intel·ligència artificial han irromput a les nostres vides i ja no marxaran. S'afegiran a l'onada infinita d'impactes visuals que rebem cada dia.

Potser ja és l'hora d'anar tenint clar que no tot el que veuen els nostres ulls és cert.

Aturar l'IA durant sis mesos

El potencial disruptor d'aquestes noves eines, igual que dels models de processament de llenguatge com el Chat GPT, és tan gran que un miler d'experts en IA han signat una carta oberta demanant que s'aturi com a mínim sis mesos l'avenç en aquest camp. L'objectiu seria frenar fins que estiguem convençuts que els riscos que suposen aquestes tecnologies són assumibles.

Un dels signants, el català Ramon López de Mántaras, professor d'investigació del CSIC i director de l'Institut d'investigació en Intel·ligència Artificial, explicava donava alguns arguments al Popap de Catalunya Ràdio:

"Què serà d'una societat en què sigui indistingible el que és real i el que es fals? La invasió que hi pot haver dedesinformació a nivell de text, imatge i vídeo pot causar un daltabaix brutal en la societat."

De Mántaras avisa també del potencial nociu que aquestes tecnologies estiguin en mans d'uns pocs:

"El problema és aquesta concentració de poder en mans de poques corporacions, poques persones, i el mal que estan fent en l'ecosistema d'informació i en el natural. Perquè la quantitat d'energia que cal per entrenar aquests models és brutal."

Si la carta no aconsegueix el seu propòsit, els propers mesos seran tot un experiment global sobre l'abast i la capacitat d'aquesta tecnologia per influir en el nostre dia a dia.