OpenAI se suma a Google i integra una eina que permet detectar fotos fetes amb IA
La companyia d'intel·ligència artificial OpenAI ha anunciat que s'afegeix a Google i crea una eina perquè qualsevol usuari pugui saber si una imatge o un àudio han estat generats amb les seves eines d'IA (per als vídeos caldrà esperar).
En un anunci oficial, la companyia posa a disposició del públic l'eina, que funciona d'una manera molt senzilla. Només cal arrossegar-hi una fotografia i comença el procés de detecció.
Si la imatge ha estat generada amb les eines d'IA d'OpenAI (ChatGPT o l'API d'OpenAI), apareix un resultat positiu com aquest.
D'aquesta manera OpenAI se suma a una iniciativa engegada per una altra tecnològica competidora, la de Google, que va crear la tecnologia SynthID.
De fet, aquesta eina es pot activar en una conversa normal amb Gemini, la IA de Google. Només cal preguntar: "Aquesta imatge ha estat creada amb les eines d'IA de Google?"
La marca que detecten aquestes eines és una mena de marca d'aigua invisible a l'ull humà però detectable amb eines tècniques que facilita poder traçar l'origen d'una imatge o àudio.
En el mateix comunicat, OpenAI afegeix que també se suma a la iniciativa C2PA, un protocol que també té la intenció d'aconseguir que un arxiu contingui informació que el faci traçable a través de metadades.
No és l'eina definitiva
El pas endavant d'OpenAI (i de Google) facilita el procés de verificació d'imatges sintètiques, però no és l'eina definitiva, tal com reconeix la mateixa companyia:
L'eina no arribarà a una conclusió definitiva sobre si la imatge s'ha generat amb eines d'OpenAI, ja que els senyals de procedència es poden eliminar en alguns casos.
OpenAI afegeix aquest avís perquè la marca d'aigua es pot anar degradant si una foto s'envia moltes vegades, es fan captures de la captura o es retallen i modifiquen.
De fet, la majoria de detectors d'IA en imatges són fal·libles i a vegades funcionen i a vegades no, sense que sigui possible determinar per què. Les caixes negres d'aquestes eines són opaques perquè els seus creadors guarden la fórmula.
Una altra possibilitat que complica la situació és que si demanem a les eines d'IA que ens modifiquin una imatge real (que la millorin, que canviïn el fons o treguin algun detall), les eines d'IA no treballen sobre la imatge sinó que en generen una de totalment nova.
Per tant, ens podem trobar amb el cas que una imatge que mostra una situació real doni "positiu en IA" si fem servir aquesta mena d'eines.
En els darrers mesos, aquesta situació s'ha donat en dos casos noticiosos rellevants, l'assassinat d'Alex Pretti a mans de l'ICE a Minnesota i durant les protestes populars a l'Iran.