La imatge viral de la mort a trets d'Alex Pretti a mans de l'ICE està acabada amb IA
Avís: aquesta notícia conté imatges de violència explícita que poden ferir la sensibilitat
La mort d'Alex Pretti a mans dels agents de l'ICE a Minneapolis ha estat capturada des de molts angles per testimonis que eren al lloc dels fets en el moment en què va passar tot.
Molts vídeos donen testimoni de com els agents antiimmigració l'empenyen, el redueixen i li acaben disparant fins a 10 trets.
I una imatge d'aquest moment ha circulat les últimes hores i ha generat confusió. Tot i que està extreta d'un vídeo real, està retocada amb IA.
D'entrada, perquè l'agent de l'ICE que hi apareix agenollat sembla que no té cap i també sembla que tingui una mà ficada a la roba en posició antinatural.
La IA acaba la imatge
Aquests detalls ens poden fer pensar que la imatge ha estat generada amb intel·ligència artificial. Eliminar parts del cos o fer malament els detalls és, encara, un dels defectes de les imatges generades amb IA poc treballades.
Però aquesta imatge mostra un moment que va passar en realitat. Aquest instant congelat surt d'un dels vídeos que han capturat el tiroteig dels agents de l'ICE.
Aquest precís moment es pot veure en un dels vídeos que, entre d'altres, va poder obtenir Drop Site News, un mitjà independent dels Estats Units.
Entre el 1'03'' i el 1'04'' es pot veure l'escena de la fotografia, però amb les mancances d'un vídeo fet amb un mòbil, de lluny i amb poca resolució.
Un agent sense cap
El que ha passat amb aquesta imatge és que algú ha agafat aquest fotograma, aquest instant, i li ha demanat a alguna eina d'IA (que no podem determinar) que la millori.
La IA, tant amb el text com amb la imatge, funciona completant els buits amb el que és més probable que vagi en aquell lloc, segons el seu entrenament.
Si li ofereixes un braç, l'IA "sabrà" que en el 99% dels casos al final d'un braç hi ha una mà.
Fixant-nos en la mà que Alex Pretti va posar a terra, que en la imatge de vídeo no es reconeix, podem veure com la IA ha "entès" que allò és un braç d'un cos d'una persona que s'està agenollant i ha generat una mà, molt ben definida, en una posició que seria més o menys natural per una persona en aquesta posició.
També podríem dir que la IA s'ha inventat la mà, que no acaba de ser del tot rodona.
Pel que fa a l'agent sense cap, veiem com a la imatge sense retocar és un agent amb un gorro negre i del qual només es veu una franja triangular de la cara.
Amb tan poca informació que allò és un cap amb un gorro, a causa de la poca definició de la foto, la IA no genera un nou cap sencer.
El que fa és buscar quelcom que reconegui. En aquest cas, el braç de l'agent que està dret, i l'acaba afegint (inventant) una mà que no hi era i recreant com suposa que seria la roba que porta l'agent.
La franja de la cara que es veu a la imatge real apareix com una franja indefinida de color beix a la qual ha completat la IA.
La imatge sintètica presenta altres incongruències com la mà dreta de l'agent agenollat, que es perd sota l'armilla d'una forma antinatural o l'altra mà de Pretti, on es veu una mena d'objecte negre de forma allargassada i gairebé cilíndrica.
Pretti portava el mòbil a la mà, amb què enregistrava l'actuació de l'ICE abans que comencés la batussa.
Altres fotos més mal fetes
Les últimes hores han circulat altres versions d'aquesta foto on la IA ha completat el fotograma real de manera menys acurada.
En els exemples següents es veu Pretti sense barba i a la mà de l'agent de l'ICE una pistola que s'assembla a la que el mateix ICE va assegurar que portava la víctima.
En aquesta foto, a més, el cartell de la botiga del fons està mal acabat per la IA, que intenta trobar algun patró de lletres on només hi ha X.
La foto viral és real?
Un cop més, i ja van dues vegades en les últimes setmanes, una imatge que mostra la realitat però retocada amb IA fa fortuna i s'escampa.
Novament, el debat sobre fins a quin punt la IA canvia la realitat i la modifica està sobre la taula.
En aquest cas simplement defineix millor un instant que s'ha donat en realitat, però potser en algun moment el que faci la IA podria canviar la percepció del que realment va passar.
Tot dependrà de l'entrenament que l'eina en qüestió hagi rebut, del biaix que els humans que l'han generat li hagin pogut transmetre i de les ordres que donem a l'eina en retocar la imatge.
