El govern espanyol demana a la Fiscalia que investigui la IA d'X per pornografia infantil

El govern espanyol ha demanat a la Fiscalia que investigui Grok, la intel·ligència artificial de la xarxa social X, abans Twitter, per un delicte de pornografia infantil.

L'executiu se suma així a França, que també ha denunciat l'eina per haver permès als usuaris crear imatges de menors despullats.

En un escrit remès a la Fiscalia, la ministra de Joventut i Infància, Sira Rego, considera que generar material de violència sexual contra els menors no es pot entendre com un ús neutre de la tecnologia i vulnera els drets fonamentals d'infants i adolescents a l'entorn digital. 

Rego recorda la sentència de Badajoz

En el seu escrit, Rego recorda una sentència del jutjat de menors de Badajoz de l'any 2024 en què es condemnava diverses persones per manipular imatges de nenes i adolescents fent ús de la intel·ligència artificial.

Aquesta resolució reconeix aquestes pràctiques com una forma de violència digital, tipificada com a delicte de pornografia infantil i contra la integritat moral, segons la responsable de Joventut i Infància.

"Estem davant una vulneració de drets fonamentals", indica Rego, que subratlla que "és imprescindible que la Fiscalia analitzi aquests fets gravíssims i impulsi les actuacions necessàries per garantir la protecció de la infància també a internet". 

Llei orgànica per a la protecció dels menors

Rego també ha recordat que el Congrés està tramitant una llei orgànica per a la protecció dels menors als entorns digitals.

Segons aquest ministeri, la llei vol reforçar el marc de protecció de la integritat i la intimitat personal davant l'ús de tecnologies com la intel·ligència artificial. Així com reafirmar que l'interès del menor ha de prevaldre sempre davant de qualsevol model de negoci digital.

Joventut i Infància defensa la necessitat de construir entorns digitals segurs, ja que apunta que internet i les plataformes no van ser dissenyades pensant en la infància i no sempre garanteixen un entorn per als infants i adolescents sense violència i sense mercantilització de la imatge.