Grok restringeix la creació de deepfakes sexuals després de les crítiques: què hi diu la llei?

"Vaig voler felicitar l'any ensenyant el vestit que m'havien fet la meva tia i la meva cosina dissenyadores i quina és la meva sorpresa quan un subjecte agafa aquesta foto i em despulla perquè em posa un biquini."

És una de les moltíssimes dones que recentment han vist una imatge seva despullada a la plataforma X per la petició de diversos usuaris a la intel·ligència artificial Grok. Una deepfake sexual, una imatge falsa a partir d'una foto real modificada. 

Es van acarnissar amb mi, es van començar a generar moltes més fotos i algunes d'especialment degradants.

TV3 ha parlat amb una de les dones afectades, l'advocada Paula Fraga, que ha presentat denúncia a la Policia Nacional perquè s'identifiqui els diversos usuaris que van crear i difondre la seva foto. 

La facilitat de generar imatges d'aquest tipus és considerada per expertes juristes com una violència digital masclista.

Fins ara s'havien conegut casos similars en què es generaven imatges sexuals de dones amb IA, però ara a l'estar aquesta eina inclosa a la xarxa X, els efectes poden ser preocupants, com apunta l'advocada Laia Serra.

S'estén una cultura de violència sexual innegable.

Per Serra, Grok pot tenir "un efecte exponencial i devastador en qüestió de setmanes i mesos" i derivar en "un problema social greu".

Quina és la regulació que estableix els límits de la IA?

En l'àmbit penal, els usuaris que fan i distribueixen les imatges poden ser castigats amb presó per un delicte contra la integritat moral.

En els llimbs, però, queda encara la responsabilitat de les plataformes, segons els juristes. Aquesta setmana, el govern espanyol ha demanat a la Fiscalia que investigui la IA d'X per pornografia infantil. 

El cert és que, en l'àmbit espanyol, encara no hi ha regulació i, en l'àmbit europeu, la normativa vigent ha infravalorat els riscos de la intel·ligència artificial. Un fet que deixa desprotegides les persones que pateixen aquest tipus de violència.

Així ho explica l'advocada Laia Serra, que considera que la normativa va tard: "Entre que primer es crea una regulació europea, es transposa a l'estat espanyol, i de l'estat espanyol es modifiquen totes les lleis en cadena. És un camí de 2, 3, 4 o 5 anys, i per tant quan tota la normativa hagi contemplat la intel·ligència artificial generativa, estarem sis pantalles més endavant a nivell tecnològic."

Quina ha estat la resposta de la xarxa X?

Tot i l'allau mundial de crítiques, la IA de la xarxa X encara permet fer imatges sexualitzants. Ara, però, podria passar a ser un servei de subscripció de pagament.

Una maniobra de la plataforma d'Elon Musk --segons els experts-- per rentar-se'n les mans i responsabilitzar només els usuaris identificats que en facin un mal ús.

L'anunci que el servei ara es limita l'ha fet la mateixa xarxa X des del seu compte de la IA Grok, en resposta als usuaris que li demanen que creï una imatge retocada: "La generació i l'edició d'imatges estan actualment limitades als subscriptors de pagament. Podeu subscriure-us per desbloquejar aquestes funcions."