Què és veritat, què és mentida?: "Porno deepfake: ets tu la següent?"
Imagineu un món on qualsevol dona pugui acabar en una pel·lícula pornogràfica sense el seu consentiment. Doncs ja hi som, en aquest món.
Així comença aquest sorprenent documental, que ens interroga sobre el mal ús de la intel·ligència artificial.
La tecnologia deepfake, que genera imatges sintètiques presumptament reals d'una persona, és coneguda sobretot pels hipertrucatges de polítics i famosos. Però en realitat, més del 90% dels deepfake són clips pornogràfics no consentits. Els que s'hi dediquen creen seqüències sexuals per encàrrec. Pot ser d'una dona famosa o d'una coneguda, una veïna o una ex, i les motivacions també poden ser molt diverses: per fer xantatge a les víctimes, com va passar en el cas de la senadora Lauren Book, per venjança, o per satisfer fantasies sexuals.
El consentiment ni s'anomena. "Realment no crec que calgui tenir el consentiment; és una fantasia, no és real." Ho argumenta d'aquesta manera el propietari i desenvolupador de MrDeepFakes, la pàgina més gran que allotja porno hipertrucat, i que ha acceptat per primera vegada ser entrevistat, tot i que sense revelar la seva identitat real.
Per descomptat que no opinen el mateix les protagonistes d'aquests vídeos. El documental ofereix el testimoni de dones que n'han estat víctimes i se centra en l'impacte emocional d'aquesta nova forma d'abús sexual digital. També entrevista a un creador d'aquests vídeos, que va començar per pur divertiment i ara ho fa per encàrrec. Dilema moral, cap ni un.
Vaig començar fent hipertrucatges de companyes de feina. Les veia per l'oficina però no hi havia parlat. Una estava casada i l'altra tenia una relació, però m'atreien. Anar a la feina després d'haver fet un deepfake amb elles era una sensació estranya. Des d'un punt de vista moral, no crec que hi hagi res que em pugui aturar. Si puc guanyar diners amb una comanda, ho faré, no cal dir-ho. Gorkem, creador deepfakes.
Actualment, hi ha més de vint mil vídeos d'aquest tipus només a MrDeepFakes. La tecnologia millora constantment i cada cop costa més de distingir un vídeo autèntic d'un de fals. A més, diverses aplicacions possibiliten fer-ho de manera molt senzilla i ràpida, a l'abast de tothom.
Un documental de: Jess Davis
Producció: BBC Current Affairs
