Apple revisarà les fotos dels iPhones: una mesura antipederàstia que aixeca suspicàcies

Apple revisarà les fotos dels iPhones per buscar-hi possibles continguts de pederàstia. El sistema s'incorporarà a partir de finals d'aquest any als EUA i buscaran com implementar-lo també en altres països, segons les lleis de cada estat.

Les entitats estatunidenques contra els abusos infantils aplaudeixen les mesures, però el nou sistema aixeca moltes suspicàcies. Els governs podrien utilitzar-lo per controlar altres aspectes, segons les organitzacions de defensa dels drets digitals.

L'exanalista de l'Agència de Seguretat Nacional nord-americana Edward Snowden critica que la companyia "compari contínuament les teves fotos i l'emmagatzematge al núvol amb una llista negra secreta":

 

El sistema revisarà les imatges quan passen dels telèfons cap al sistema d'emmagatzematge d'iCloud i les compararà amb una llista de continguts ja identificats com a pedòfils.

Si hi ha coincidències, es llançarà un avís i un treballador de la companyia revisarà manualment si ho són o no. En cas que ho siguin, se suspendrà el compte d'Apple de l'usuari i s'avisarà les autoritats.

Usos inesperats

El sistema és vulnerable a "peticions de govern, hackeig de terceres parts i revelacions per part dels empleats d'Apple", segons el think thank Electronic Frontier Foundation:

Obrir la porta a la vigilància pot portar a usos inesperats i contraris als drets humans, expliquen en un comunicat:

"Els casos d'abús són fàcils d'imaginar: els governs que prohibeixen l'homosexualitat poden requerir que el sistema de classificació estigui ideat per restringir el possible contingut LGBTIQ+, o un règim autoritari pot exigir que pugui detectar imatges satíriques populars o propaganda sobre protestes."

Les tecnologies per combatre la pederàstia s'han utilitzat en el passat per a altres fins, com la lluita antiterrorista, sense escrutini públic. Països com l'Índia o Etiòpia han aprovat fa poc lleis que obren la porta a la vigilància de continguts per contenir la dissidència.

Les tensions entre governs, també els democràtics, i empreses de tecnologia per combatre el delicte a la xarxa a costa de la privacitat dels usuaris no són noves. La Unió Europea va aprovar suspendre temporalment la normativa de privacitat per lluitar contra la pedofília aquest juliol.

Gossets i Sireneta

El sistema de "machine learning" que farà servir Apple per determinar quines imatges tenen contingut sexual explícit és difícil d'auditar i pot equivocar-se, alerta l'EFF.

Quan Tumblr va implantar un filtre similar l'any 2018, el sistema identificava com a sexuals imatges de tot tipus, com cadells de races petites o selfies de persones completament vestides. Els intents de Facebook contra les imatges de nuesa van fer que es despubliquessin fotos de la sireneta de Copenhaguen.

Desprotecció dels menors

Apple també monitoritzarà les comunicacions dels menors d'edat a través de la seva aplicació Messages, molt popular als Estats Units. Si detecta que s'estan enviant o rebent imatges amb continguts sexuals explícits, n'alertarà els pares. El sistema el poden activar els mateixos progenitors.

Això preocupa organitzacions com l'EFF:

"El sistema dona als pares que no tenen en compte l'interès superior dels seus fills una manera més de controlar-los i monitoritzar-los, limitant el potencial d'internet per ampliar el món d'aquells que veurien les seves vides restringides si fos d'una altra manera"

 

 

Apple, més a prop de WhatsApp

Si Apple es vantava de respectar al màxim la privacitat dels usuaris, ara implanta mesures similars a les que ja tenen en marxa els seus competidors, com Facebook, Microsoft i Google.

Un dels crítics amb l'anunci és precisament el director general de WhatsApp, Will Cathcart. El seu homòleg d'Apple, Tim Cook, havia criticat sovint la política de negoci de Facebook, de la mateixa empresa que WhatsApp, basada a vendre les dades dels usuaris als anunciants.

Ara és Cathcart qui, en un fil de Twitter, presumeix que la seva companyia ha denunciat més de 400.000 casos de pedofília als Estats Units sense que li faci falta trencar l'encriptació dels missatges.