El govern espanyol demana a la Fiscalia investigar X, Meta i TikTok per crear pornografia infantil amb IA
El govern espanyol demana a la Fiscalia que investigui X, Meta i TikTok per un possible delicte de creació i difusió de pornografia mitjançant les seves eines d'intel·ligència artificial.
Aquest dimarts, el Consell de Ministres ha aprovat fer ús de l'Estatut Orgànic del Ministeri Fiscal per instar el ministeri públic a investigar els gegants tecnològics per la creació de deepfakes.
El president del govern, Pedro Sánchez, ha dit en una piulada que les plataformes atempten "contra la salut mental, la dignitat i els drets" dels infants i afegeix que "la impunitat dels gegants ha d'acabar".
Després del Consell de Ministres, la portaveu de l'executiu, Elma Saiz, ha explicat en roda de premsa que el ministre de Justícia, Félix Bolaños, es dirigirà a la Fiscalia amb un informe on es detalla l'abast d'aquest fenomen i el que passa en països de l'entorn perquè "investigui i, si s'escau, tipifiqui" les accions de les plataformes digitals.
A l'informe s'apunta que Grok --l'eina d'IA de la xarxa X-- va generar en només 11 dies més de 3 milions de fotos de nus, entre ells de 23.000 nens i nenes i es conclou que plataformes com TikTok, X i Instagram "podrien estar servint com a mitjà de proliferació de la comissió de delictes contra menors", afavorint la creació i difusió d'imatges de contingut sexual que els involucren.
En concret, l'informe indica que es podrien haver comès quatre delictes, tots ells relacionats amb l'elaboració, possessió i distribució de material pornogràfic utilitzant menors. I també s'evoca la possible comissió d'un delicte contra la integritat moral si queda afectada la dignitat de la víctima.
La ministra de Joventut i Infància, Sira Rego, ha afegit en una publicació a Bluesky que l'executiu fa "un pas més per garantir els drets dels infants a les xarxes socials".
Alguns experts ho veuen curt
Alguns experts en intel·ligència artificial i xarxes donen la benvinguda a la iniciativa, però subratllen que queda curta perquè la xarxa és global. L'advocat Feliu Fins, que ha portat TikTok a la justícia pel tema dels moderadors de les xarxes socials, aplaudeix la mesura, però creu cal fer també atenció "a les imatges reals de menors sexualitzats que als seus països d'origen estan permeses".
Aquests experts creuen que les intencions del govern espanyol situen Pedro Sánchez a l'avantguarda de les polítiques europees que volen contrarestar el poder de les grans companyies nord-americanes i xineses.
A més, l'advocat especialitzat en dret de la UE i tecnologia, Josep Jover, explica que amb aquests moviments, Europa --més enllà de la lluita geopolítica-- en pot treure un rèdit econòmic, ja que les multes per incomplir la legislació de la UE poden arribar al 6% de la facturació anual de les tecnològiques, el que per Facebook voldria dir un import màxim de 9.870 milions d'euros.
Nou pas del govern espanyol per regular les xarxes socials
No és la primera acció de l'executiu espanyol en aquest sentit. Pedro Sánchez va anunciar fa dues setmanes que prohibirà l'accés a les xarxes socials als menors de 16 anys, una iniciativa que l'ha enfrontat al propietari d'X, Elon Musk, que el va titllar de "tirà i traïdor al poble d'Espanya" per voler limitar les xarxes socials.
Al gener, el govern espanyol ja va demanar a la Fiscalia que investigués la IA d'X per pornografia infantil i, dies més tard, va aprovar un avantprojecte de llei per incloure els deepfakes entre els delictes contra l'honor de les persones.
La Comissió Europea també apunta en la mateixa direcció i recentment va amenaçar de multar TikTok per l'addicció i el mal psicològic que causa, sobretot en menors.
