Els textos generats amb la IA Claude portaran una marca d'aigua que els identificarà com a sintètics
Un dels gegants de la intel·ligència artificial, Anthropic, ha anunciat que a partir d'ara tots els textos generats pel seu model de llenguatge Claude portaran una marca que els identificarà com a sintètics.
Aquesta marca estarà integrada en tots els textos generats a partir del 2 d'agost i serà un patró estadístic "amagat" entre els paràgrafs. De moment, però, l'empresa no ha explicat com es podrà detectar.
Aquest moviment d'Anthropic arriba per adaptar-se a la llei europea d'intel·ligència artificial que obliga els proveïdors d'aquesta mena d'eines a identificar els continguts que generen.
La mateixa companyia, dirigida per Dario Amodei, reconeix que la marca té limitacions i que si els textos s'editen molt o es barregen amb altres, es pot dissoldre i passar a ser indetectable. També recorda que els textos produïts abans del 2 d'agost no portaran aquest indicador.
Si el text només es copia i s'enganxa sense modificar, sí que mantindrà la marca.
Altres gegants ja han fet el pas
Fins ara, OpenAI i Google ja havien creat les seves pròpies marques d'aigua pel que fa a les imatges fetes amb IA. En el cas d'OpenAI, ha creat un portal on penges una foto i et diu si està feta amb eines d'IA d'OpenAI.
Pel que fa a Google, ha integrat el seu detector a Gemini, el seu model de llenguatge, i només cal pujar la fotografia en qüestió i preguntar al xatbot si aquella imatge s'ha fet amb les eines de Google.
En el cas de Google, equips de verificació com 3CatInfo Verifica tenen accés a un model que permet detectar la IA no només en imatges sinó també en àudios i vídeos i identificar els fragments on hi ha la marca.
En cap d'aquests dos casos, però, no es poden detectar textos fets amb IA.
Pel que fa a imatges, Claude se suma al protocol C2PA, que introdueix unes metadades especials que permeten tenir informació de l'origen d'un arxiu i saber qui l'ha editat, quan i de quina manera. Aquest protocol també el segueix OpenAI.
Val a dir, això sí, que Claude i Anthropic no tenen eines de generació d'imatges realistes com sí que tenen els altres grans models de llenguatge.