La moderació de les xarxes socials, un model tòxic: "Es busca eludir responsabilitats"

La primera demanda col·lectiva contra Facebook de moderadors de continguts es va presentar fa set anys als Estats Units. Va ser el setembre del 2018, el mateix any que obria el centre de moderació a Barcelona subcontractat per META, contra qui ara s'han querellat per la via penal 29 exmoderadors per trastorns mentals. 

La demanda pionera la liderava Selena Scola, una moderadora que treballava a la seu de Silicon Valley. L'empresa de Mark Zuckerberg la va solucionar a cop de bitlletera. 

Va pagar 52 milions de dòlars d'indemnització per danys i perjudicis per evitar anar a judici per causar-los trastorns mentals, com ara trastorn d'estrès posttraumàtic. S'hi van acollir més d'11.000 moderadors. 

Aleshores, als Estats Units, l'opinió pública va començar a descobrir una professió, la de moderador de continguts, que suposa el problema humà central del negoci de les xarxes socials. Perquè sense ells, les xarxes socials no serien possibles. Ni els usuaris ni els anunciants estarien disposats a mirar unes xarxes socials brutes amb totes les atrocitats que s'hi aboquen. 

Per això els moderadors de continguts filtren i esborren les pitjors imatges que es pengen a internet. Són els vigilants de les xarxes socials. Treballen, per torns, les 24 hores del dia. Una professió necessària, nascuda amb el món digital, que encara no pot fer la IA. 

Ho exposa Tom Hegarty, cap de comunicació de Foxglove, una ONG britànica defensora de la justícia tecnològica, que dona suport i assessora moderadors per millorar les seves condicions laborals:

"Ho han intentat durant almenys una dècada i, pel que sabem, encara no s'hi acosten gaire. Fins i tot les IA més potents del món tenen problemes extremament ben documentats d'al·lucinacions en fets molt bàsics. I malauradament, si ets un moderador de Facebook, simplement no et pots permetre cometre aquests errors." 

Una de les principals expertes en la feina dels moderadors de continguts és la investigadora en intel·ligència artificial Milagros Miceli, investigadora de l'Institut Joseph Weizenbaum, l'Institut Alemany d'Internet. 

Com a sociòloga i doctora en Ciències de la Computació, Miceli ha dedicat els últims vuit anys de feina als anomenats "treballadors del clic". Ella critica el mite que la IA pot actuar sola: "Es pensa que la intel·ligència artificial es llança al món i ja no ens necessita mai més. Això no és així". 

"Aquestes tecnologies necessiten un control humà permanent. I continuarà sent així. Entre altres raons perquè la gent quan vol ser malvada realment fa servir tota la seva creativitat. Tu pots entrenar un model perquè reconegui ABCD, però a internet hi haurà EFGH immediatament."

I, mentrestant, els treballadors exposen la seva salut mental. Pel psiquiatre Benedikt Amman, director de la unitat d'investigació en psiquiatria del Centre Fòrum, de l'Hospital del Mar, i membre de Cibersam, és innegable que la feina de moderador de continguts incrementa el risc de patir un trastorn mental:

"El nostre sistema cerebral no està fet per a això. És una feina molt antinatural. Bombers o policia poden estar exposats a imatges xocants de tant en tant. Però els monitors de continguts hi estan exposats cada dia de la seva vida laboral." 

"Quan veus moltes imatges impactants, encara que no les visquis, pots patir un trauma vicari. El trauma és un esdeveniment imprevisible. Passa quan les imatges o les vivències s'acumulen al sistema límbic, on hi ha les emocions. No queden ben processades. I qualsevol cosa relacionada amb aquell tema et provoca una gran fragilitat, una vulnerabilitat emocional", afirma.

Ho corrobora l'advocat Joan Josep Gimeno Codina, de Coronas Advocats, que ha portat casos de moderadors de continguts: "Quan ens visita un moderador, la majoria arrosseguen processos de malaltia llargs que acaben en un tribunal mèdic que determina què és una incapacitat permanent." 
 

Externalitzar serveis per eludir responsabilitats

"Tots aquests moderadors malalts no són errors del sistema, són el sistema. Això de subcontractar aquest tipus de serveis no és només una qüestió de comoditat, és una qüestió també d'eludir responsabilitats", afirma l'experta Milagros Miceli.  

Encara que oficialment no en donen mai dades, Meta i TikTok van declarar al Senat dels Estats Units, obligats a comparèixer per parlar dels danys dels menors a les xarxes socials, que entre les dues tenen 80.000 moderadors a tot el món. Però aquestes empreses multimilionàries no els contracten, sinó que externalitzen aquesta feina a un ecosistema d'empreses que recluten mà d'obra barata. 

"Sovint estan extremament mal pagats, i les seves condicions laborals són difícils i perilloses. Perilloses perquè conec almenys 144 moderadors de continguts a Kenya que han estat diagnosticats cadascun d'ells de trastorn d'estrès posttraumàtic a causa de la seva feina", exposa Hegarty, de l'ONG Foxglove. 

De fet, Kenya és un dels països on hi ha hagut més denúncies de moderadors. És també l'únic país on la justícia va considerar META responsable última dels danys que pateixen. Però el model no va canviar. 

"L'economia de Nairobi depèn en gran manera d'aquesta feina. Aleshores hi ha gent que si s'acabés aquesta feina no tindria una altra cosa. No tenen on anar", diu Miceli.

Una investigació de Foxglove va descobrir aquest mes d'abril que META finalment va tancar el centre de Kenya i va traslladar la feina a Ghana, on les condicions laborals són pitjors.

A Barcelona, dos mesos després que META tanqués el centre ara demandat, també continuen sortint ofertes de moderador de continguts. Ofereixen just el salari mínim, una mica més si és en torn de nit i parles alemany.

A la seva oferta de feina s'hi pot llegir, textualment: "Si ets usuari de xarxes socials i vols explorar-les des d'altres perspectives, tenim una bona oportunitat de treball per a tu!"

L'advocat dels moderadors que s'han querellat contra META, Francesc Feliu, afirma que aquests treballadors són part de l'anomenat "neoesclavisme digital", que ha teoritzat Trebor Scholz, professor a la Universitat New School de Nova York i fundador de l'Institut per a l'Economia Digital Cooperativa autor del llibre "Uberworked and underpaid".

Miceli considera que hi ha prou estudis científics i informació per impulsar canvis: "Hem presentat moltíssimes proves. El problema és qui ens escolta. Necessitem canvis legislatius. Per això ara estem impulsant donar veu a aquests treballadors, que parlin":

"Demanen ajuda psicològica real, no maquillatge, menys pressió, i millors condicions econòmiques. Perquè si és una feina perillosa, evidentment cal reconèixer-la com a tal, i remunerar-la com a tal."