IA per crear imatges de menors despullats: un delicte que pot arribar als 9 anys de presó

La intel·ligència artificial ens ajuda a fer més pràctiques algunes tasques del dia a dia, però també té un costat fosc que pot arribar a infringir la llei. Un ús malintencionat de la IA ens pot portar a situacions com les que han viscut aquesta setmana unes estudiants de secundària d'Almendralejo, a Extremadura, després que uns alumnes haguessin creat amb intel·ligència artificial fotos de les seves companyes de classe nues.

L'accés tan fàcil a aquests generadors permet que qualsevol pugui retocar una foto per convertir-la gairebé en real. Hem preguntat a desenvolupadors tecnològics, enginyers informàtics i experts en internet qui hi ha darrere d'aquestes webs i quin interès tenen en una indústria que no para de créixer.

Una tecnologia fàcil, barata i difícil de perseguir

Era qüestió de temps que aplicacions mòbils d'intel·ligència artificial com la que han fet servir un grup de menors d'Almendralejo, a la província de Badajoz, per despullar les seves companyes de classe, arribés a mans d'usuaris sense coneixements tècnics. Ja no cal accedir a la "deep web" ni ser expert en codi obert. N'hi ha prou amb entrar a internet i acceptar les condicions de la pàgina, i automàticament es generen imatges virtuals a partir d'una breu descripció amb paraules senzilles, sense cap mena de restricció.

Albert Lloreta, expert en intel·ligència artificial i impulsor de La Fera, primera fàbrica de creació digital en català, explica que tecnològicament és una indústria difícil de perseguir.

"És un pou sense fons de comunitats de milers i milers de persones. És molt fàcil que un xaval amb males intencions en cinc minuts pugui generar imatges porno. Això no es pot aturar a curt a termini."

Les aplicacions per generar fotografies de persones despullades s'han popularitzat durant les últimes setmanes, però Lloreta recorda que és un negoci en línia que fa temps que està més que consolidat.

"Des del 2007 ja hi ha hagut crisis en el món online perquè han aparegut deepfakes que despullaven celebritats o les col·locaven en escenes pornogràfiques."

Quan entres a webs per despullar persones, la pàgina avisa que no es fa responsable de les imatges generades i que els usuaris han de tenir el consentiment de la persona que hi apareix per pujar-la. També que per fer-ho cal tenir més de 18 anys. Però no demana documentació personal per bloquejar la IA en cas que l'edat no sigui l'adequada.

L'app ofereix una primera imatge de prova i després cobra per cada foto modificada. Per 9 dòlars pots generar 25 imatges pornogràfiques. Catràdio s'ha posat en contacte amb els desenvolupadors de la web utilitzada pels alumnes d'Almemdralejo per preguntar sobre les mesures de seguretat per impedir que s'editin fotos de menors. També sobre si hi ha controls per impedir que la utilitzin adolescents. No hem obtingut resposta.

Josep Curto, professor de Telecomunicacions i director del màster de Big Data Analytics de la UOC, avisa que és un escenari que pot anar a més.

"Hi ha --o hi pot haver-- moltes persones o grups darrere d'aquestes aplicacions. I no estem parlant de hackers, sinó de persones amb una certa afinitat i molt interès per la creació d'aquestes aplicacions. Desafortunadament, podem esperar molts més casos emergents en molts països i múltiples actors darrere."

Quines conseqüències legals pot tenir?

Si algú fa servir la nostra imatge sense consentiment per crear un altre contingut, en aquest cas mitjançant la intel·ligència artificial, estaria atemptant contra el nostre dret a la imatge. A més, si algú en fa ús amb finalitats sexuals, es podria considerar una intromissió il·legítima al dret a l'honor, ja que atribueix un fet que impacta en la pròpia dignitat. I encara més: si aquest material s'utilitza per causar un mal concret, que es generi expressament sobre una persona amb noms i cognoms, com en el cas dels alumnes de l'institut de Badajoz, ja podem parlar d'injúria.

Si tot això ho apliquem a víctimes menors d'edat, la gravetat dels fets augmenta, i es podria considerar com un delicte de pornografia infantil, encara que siguin imatges creades per intel·ligència artificial.

Jordi Bacaria, advocat i vocal TIC al Col·legi de l'Advocacia de Barcelona, explica què hem de fer en cas que es difonguin imatges íntimes nostres, siguin reals o no.

"Les infraccions contra la pròpia imatge, contra la intimitat o contra el nostre honor són un tema civil. A través de l'Agència Espanyola de Protecció de Dades es pot denunciar qualsevol difusió d'imatges no consentides. Si va més enllà d'aquestes infraccions, ja estaríem en un tema delictiu, on entraria la Fiscalia. Ja seria un tema penal."

Crear muntatges gràfics de pornografia infantil pot comportar penes de cinc anys de presó, i de fins a nou si hi ha l'agreujant que la víctima és menor de 16 anys. Aquests delictes els estarien cometent també els receptors d'aquestes imatges si les continuen compartint, ja que atempten contra la intimitat personal de qui hi apareix.