La xarxa social X rectifica i impedirà que Grok generi imatges amb IA de dones reals despullades
Redacció
xAI, l'empresa de la xarxa social X, prendrà mesures per evitar que l'assistent d'intel·ligència artificial Grok generi imatges de persones reals despullades.
L'empresa d'Elon Musk ha anunciat que fa extensiva la prohibició a tots els seus usuaris, pocs dies després de restringir la creació de deepfakes i permetre-ho només als usuaris de pagament.
La decisió arriba després de l'alarma que ha generat en les darreres setmanes l'aparició de nus generats a partir d'imatges publicades a les xarxes socials sense el consentiment de les persones que hi apareixien. La difusió d'aquest tipus de deepfakes havia generat denúncies i queixes de les víctimes, majoritàriament dones i, en alguns casos, menors d'edat.
Inicialment, Grok va decidir limitar l'ús d'aquesta eina als usuaris de pagament, perquè el nom i la informació del subscriptor quedessin lligats a les accions il·lícites que se'n poguessin derivar.
Però diversos països, entre els quals Espanya, havien iniciat processos legals per prohibir-ho. Davant aquesta pressió, X ha rectificat i ha anat un pas més enllà, anunciant que amplia la restricció també als usuaris de pagament:
Hem implementat mesures tecnològiques per evitar que el compte de Grok permeti l'edició d'imatges de persones reals amb roba reveladora, com ara biquinis. Aquesta restricció afecta tots els usuaris, inclosos els subscriptors de pagament.
Des que es va crear el 2023, la intel·ligència artificial d'Elon Musk ha anat acompanyada de polèmica pels seus pocs filtres, falta de controls i difusió de notícies falses.
Els deepfakes, entre els delictes contra l'honor
En aquest sentit, el Consell de Ministres ha aprovat aquest dimarts un avantprojecte de llei per incloure els deepfakes entre els delictes contra l'honor de les persones. És un primer pas de la norma, que després haurà de passar pel Congrés, on necessitarà majoria absoluta, ja que és una llei orgànica.
De fet, el mateix executiu espanyol ja va demanar la setmana passada a la Fiscalia que investigués Grok per pornografia infantil.
Els delictes contra l'honor i la intimitat poden comportar penes d'entre sis mesos i dos anys de presó. Pel que fa a les indemnitzacions, varien molt en funció de la gravetat de la conducta i de si es tracta d'un cas de pornografia o afecta menors.
En declaracions a 3CatInfo, el president de la secció de drets d'imatge del Col·legi de l'Advocacia de Barcelona, Gerard de Lucas, ha demanat que es responsabilitzin tant els autors dels deepfakes com les plataformes que els difonen.
I encara va més enllà: "També qualsevol altra persona que es dediqui a fer una republicació d'aquesta alteració de la imatge d'una persona o que ho difongui per qualsevol mitjà."