TikTok i Meta creen portals per detectar vídeos i imatges generades amb les seves eines d'IA
Detectar imatges i vídeos generats amb intel·ligència artificial a ull nu és cada dia més difícil i, en alguns casos, pràcticament impossible.
Per mirar de mitigar l'efecte d'aquest contingut artificial, les grans tecnològiques sembla que s'estan posant les piles.
Però no ho han fet per voluntat pròpia, ho han fet per adaptar-se al reglament europeu d'intel·ligència artificial que va entrar en vigor el 2 d'agost passat.
Aquest reglament obliga les plataformes, entre altres coses, a marcar els continguts fets amb IA de manera clara i que les marques siguin detectables digitalment.
En aquest context, els darrers dies, TikTok i Meta han posat a disposició del públic (tot i que amb la boca petita, discretament) dues pàgines web on es pot penjar una imatge o vídeo i l'eina detecta si aquell contingut ha estat generat amb les eines d'IA pròpies de cada companyia.
Pel que fa a Meta, l'eina permet detectar vídeos, imatges o àudios creats amb Muse Image, la seva aplicació de creació d'imatges amb IA. El que fa aquesta eina és detectar una marca d'aigua anomenada Content Seal, introduïda per la mateixa Meta.
Ara per ara, però, no és clar si aquesta eina permetrà detectar si s'han fet servir altres aplicatius d'IA que es troben dins de les plataformes de Meta (Instagram, WhatsApp, Facebook).
Tiktok també fa el pas
La xarxa social xinesa TikTok també ha fet el pas i també ha generat el seu web on es poden pujar continguts i descobrir si estan fets amb aplicacions d'IA de ByteDance, la matriu de TikTok.
D'aquesta manera, aquesta eina podrà detectar imatges i vídeos fets amb IA per TikTok, CapCut, Dreamina, Hypic i Pippit, totes elles propietat de ByteDance.
Així, ByteDance i Meta s'afegeixen a un club on ja hi ha OpenAI i Google, que ja hi havien entrat abans, per adaptar-se a la nova legislació europea.
En les darreres hores, Anthropic també ha fet un pas en aquesta direcció. Ha creat, en aquest cas, una eina per detectar textos generats amb la seva eina, com vam explicar aquí.
De tota manera, Anthropic encara ha d'explicar molts detalls d'aquesta nova funcionalitat.
L'impuls de la llei europea
La legislació europea que ha empès les plataformes a moure's es l'anomenada AI Act que és el Reglament (UE) 2024/1689.
Aquest reglament es va aprovar el 2024 però no ha estat fins aquest 2 d'agost que ha entrat en aplicació amb tota la seva força.
Entre altres coses, el reglament prohibeix crear bases de dades de reconeixement facial, que la IA serveixi per a la ciberdelinqüència, fer servir eines de reconeixement d'emocions a la feina i a les escoles o la identificació biomètrica remota en temps real per la policia en espais públics.
Aquestes prohibicions ja s'apliquen des del febrer del 2025.
Una altra iniciativa reguladora de la UE que entrarà en vigor al desembre és la que prohibeix les aplicacions per despullar persones a partir de fotos reals o la creació de material d'abús sexual infantil amb IA.