Deepfakes: què es pot fer si algú ha manipulat un vídeo, foto o àudio nostre

Els deepfakes són vídeos, àudios o imatges manipulades digitalment amb intel·ligència artificial per simular situacions o declaracions falses, habitualment amb finalitats fraudulentes, difamatòries o d'assetjament.

"Són la porta d'entrada a un munt de delictes", diu Selva Orejón, pèrit judicial especialitzada en reputació, identitat digital i ciberinvestigació.

En molts casos, aquests continguts generats artificialment es fan suplantant la identitat d'una persona o una empresa, un fet delictiu que els ciberdelinqüents utilitzen per cometre estafes, fraus o delictes de sextorsió.

Tot i que els fotomuntatges fa anys que existeixen, amb l'arribada de la IA s'han sofisticat i fa que "moltes vegades sigui impossible distingir la realitat del que no ho és", afirma Gerard de Lucas, president de la secció de drets d'imatge del Col·legi de l'Advocacia de Barcelona.

Què puc fer si soc víctima d'un deepfake?

Si una persona descobreix que ha estat víctima d'un deepfake, els experts recomanen que actuï ràpidament i segueixi aquests passos:

1. Documentar l'incident: És important recopilar totes les proves i informació rellevant sobre la seva difusió, com captures de pantalla, enllaços i còpies del vídeo, la foto o l'àudio.
2. Sol·licitar l'eliminació del contingut: Nosaltres no podem eliminar directament el contingut d'un tercer, però podem demanar a la plataforma on s'ha publicat i difós el deepfake que retiri el material, argumentant que s'han vulnerat drets d'imatge, honor i privacitat. Les xarxes socials disposen de protocols per a la retirada de continguts manipulats o falsos i formularis de per fer la demanda.
3. Denunciar davant les autoritats: Si el material afecta greument la nostra reputació o intimitat, cal presentar una denúncia davant els Mossos d'Esquadra o la Policia Nacional, aportant totes les proves recollides. Els delictes més habituals relacionats amb deepfakes són la calúmnia, la injúria, l'assetjament, la revelació de secrets i la suplantació d'identitat.
4. Assessorar-se amb professionals: Més enllà de l'àmbit penal, es poden emprendre accions civils si s'han vulnerat els drets a l'honor, la intimitat o la pròpia imatge. També es pot demanar una indemnització per danys i perjudicis. A més, es pot presentar una reclamació davant l'Agència Espanyola de Protecció de Dades per incompliment de la normativa. Uns passos que es recomana fer amb l'assessorament d'advocats.

Retiraran el contingut de les xarxes?

Un cop feta la petició, les plataformes propietàries de les xarxes socials acostumen a retirar els continguts denunciats amb agilitat.

Però si hem iniciat un procés judicial, ens haurem de carregar de paciència: "Tenim un client que porta un any, hem identificat tècnicament el ciberdelinqüent, però no hem aconseguit posar-li nom i cognoms", explica Orejón.

Tot i que en molts casos arriben a bon port, "depèn molt dels recursos que es puguin invertir, la paciència que pugui tenir la víctima i l'acompanyament emocional", afegeix.

Quines són les conseqüències?

Els deepfakes poden generar danys irreparables a les víctimes. Segons Orejón, els ciberdelinqüents sempre tenen un interès darrere, ja sigui cometre un delicte, erosionar la reputació de la víctima o desacreditar la seva veu.

Les conseqüències per la persona afectada són múltiples:

• Conseqüències morals: es malmet l'autoestima de la víctima i se li traspassa la responsabilitat de donar explicacions al seu entorn d'uns fets que són mentida. Una conseqüència molt visible als deepfakes de contingut sexual.
• Conseqüències reputacionals i econòmiques: la desinformació i els hipertrucatges poden malmetre la imatge i marca personal. Les notícies falses i les imatges trucades poden fer perdre clients i projectes.
• Conseqüències legals: hi ha casos en què els ciberdelinqüents utilitzen els deepfakes per cometre altres delictes. És comú en el cas d'estafes relacionades amb les criptomonedes, on modifiquen la imatge d'una persona famosa per atraure clients. Això pot situar a la víctima en embolics legals.

En casos on s'ha fet servir el deepfake per cometre altres delictes, els experts consideren que és molt important presentar una denúncia als cossos policials perquè tinguin constància que no som nosaltres qui ha delinquit, sinó que n'hem sigut víctimes.

Podem fer alguna cosa per evitar-ho?

"Li pot passar a qualsevol persona, encara que no tingui xarxes socials", explica de Lucas. Només cal que els ciberdelinqüents aconsegueixin una foto nostra, una gravació de vídeo o àudio o les nostres dades personals.

Per això, els dos experts consideren que no podem fer res per evitar ser víctimes de l'hipertrucatge i passen la pilota a les plataformes propietàries de les xarxes socials.

Orejón considera que són les úniques que ho poden frenar i que han d'actuar de manera preventiva: "Li posen una responsabilitat a l'usuari que no hauria de tenir, i tot i que es pot reparar, el dany ja s'ha generat".

Creu que les grans empreses han d'establir filtres que impedeixin publicar aquest tipus de continguts, ajudats per una arma de doble fil: la intel·ligència artificial.

De qui és la responsabilitat?

Tot i que Orejón defensa que la responsabilitat principal és de les plataformes, recorda que hi ha altres subjectes implicats: qui crea el contingut, qui en fa difusió i qui li dona veu de manera massiva.

"No és el mateix si ets conscient que el que estàs compartint és fals o si no ho ets, ni si tens 30 seguidors o 30.000", apunta.

En aquest sentit, els experts consideren que és important la tasca de sensibilització i educació digital, tant en l'àmbit escolar com professional.

"Cada cop més empreses desenvolupen protocols interns per actuar en aquests tipus d'incidents, incloent-hi formació específica per identificar continguts manipulats i com procedir si se n'és víctima", explica el president de la secció de drets d'imatge del Col·legi de l'Advocacia de Barcelona, Gerard de Lucas.