Brussel·les obre una investigació sobre X per les imatges de gent despullada a Grok
Europa torna a apuntar a la xarxa social d'Elon Musk, X. Concretament, assenyala els perills dels seus models d'IA generativa, sota el paraigua de Grok, la IA més escandalosa d'entre les grans.
El que més preocupa Brussel·les és la creació artificial de continguts sexuals sense consentiment, especialment la possibilitat de crear imatges sexuals de terceres persones sense el seu permís, menors d'edat inclosos, que va generar molta polèmica a les xarxes socials a principis d'any, abans que l'empresa fes un pas enrere.
La Comissió Europea ha anunciat aquest dilluns una investigació sobre X per descobrir si el llançament de Grok i totes les seves noves funcions de generació de continguts va complir amb els requisits que marca la DSA, la Llei de Serveis Digitals.
La Comissió indagarà si X va seguir tots els passos necessaris per analitzar i minimitzar els riscos relacionats amb el llançament de la seva IA. Tal com marca la normativa europea, aquest és un pas imprescindible que han de seguir totes les "plataformes en línia molt grans" (VLOP, en anglès) abans d'oferir els seus serveis als ciutadans europeus.
Això inclou els riscos relacionats amb la difusió de contingut il·legal a la UE, com ara imatges sexualment explícites manipulades, inclòs contingut que pot suposar material d'abús sexual infantil.
En un comunicat, la Comissió Europea avança que "els riscos semblen haver-se materialitzat", la qual cosa ha exposat els ciutadans europeus a "danys greus" i efectes negatius amb relació a la violència de gènere i al benestar físic i psicològic.
La investigació complementa i amplia, paral·lelament, l'expedient que Europa ja va obrir el desembre del 2023 a l'empresa d'Elon Musk sobre la "gestió de riscos dels seus sistemes de recomanació" i que ja li ha comportat una primera multa de 120 milions d'euros.
Henna Virkkunen, vicepresidenta executiva de sobirania tecnològica, seguretat i democràcia, ha volgut explicar que aquest tipus de material sexual no consentit de dones i nens "és una forma violenta i inacceptable de degradació" i amb la investigació determinaran si X "ha tractat els drets dels ciutadans europeus, inclosos els de les dones i els nens, com a danys col·laterals del seu servei".
La Comissió ha volgut recordar que "hi ha ajuda i suport disponibles en l'àmbit nacional per a les persones que s'han vist afectades negativament per imatges generades per IA, inclòs material d'abús sexual infantil o imatges íntimes no consentides".
Grok, el model generatiu més rebel
Grok, desenvolupada per l'empresa d'intel·ligència artificial d'X, xAI, és el model més polèmic i amb menys moderació d'entre els models generatius més coneguts.
Desinformació, antisemitisme, racisme, censura i manipulació interessada de resultats, amb una moderació molt relaxada o inexistent, s'uneixen en un model de to en general desvergonyit, capaç de mantenir converses picants amb qualsevol usuari, menors d'edat inclosos, i permet generar continguts que altres models bloquegen.
La Comissió exigirà a X els informes de risc que hauria hagut d'elaborar i compartir sobre Grok abans del seu llançament i començarà una "profunda investigació" en què pot requerir més proves. També realitzarà entrevistes i inspeccions a l'empresa, i pot exigir canvis temporals per reconduir la situació.
Espanya ja va demanar a la fiscalia que investigués la IA d'X per generar materials d'abús sexual infantil, com França, i Grok ja ha estat prohibit a diversos països.
X va decidir bloquejar la possibilitat de Grok de despullar persones reals arran de la polèmica, primer limitant la possibilitat als usuaris de pagament i després, veient la reacció a les xarxes, impedint-ho per tots.
El 19 de setembre, la Comissió va enviar a X una sol·licitud d'informació relacionada amb Grok, incloent-hi preguntes relacionades amb el contingut antisemita generat a mitjans de 2025.
