La UE alerta de l'"efecte cau de conill" de TikTok: què és i com pot afectar la salut mental

Enèsim toc d'atenció de la Comissió Europea a TikTok. Brussel·les ha assenyalat aquest divendres que la xarxa social incompleix la Llei de Serveis Digitals (DSA) per l'anomenat "efecte cau de conill" del seu sistema de recomanació de continguts, que pot posar en risc el benestar dels usuaris.

L'organisme europeu indica que el canal "Per a tu" –el feed– de la xarxa social xinesa mostra als usuaris un flux continu de vídeos personalitzats, fins i tot quan aquests estan relacionats amb trastorns de salut mental o la imatge corporal.

Brussel·les ha formulat aquesta advertència a partir dels resultats preliminars d'una investigació iniciada el febrer del 2024 després de considerar que xarxes com TikTok o Meta vulneren la llei europea de serveis digitals.

En el marc d'aquesta investigació, el febrer d'enguany Brussel·les va amenaçar de multar TikTok pel dany psicològic que genera el seu disseny addictiu, sobretot en menors. Aleshores, l'executiu comunitari posava en el punt de mira funcions com l'scroll infinit, la que fa que vagi apareixent contingut nou només movent un dit, l'autoplay, la que activa la reproducció automàtica dels vídeos sense intervenció de l'usuari i el seu sistema de personalització del contingut –molt precís– que sempre ofereix publicacions susceptibles d'interessar als usuaris.

Què és l'"efecte cau de conill"?

Com també passa amb xarxes socials com Instagram, quan un usuari interactua més amb un determinat tipus de contingut, l'algoritme del canal "Per a tu" encara li recomana més contingut similar.

La Comissió Europa estableix que aquest disseny que fomenta una exposició tan constant i repetitiva pot ser perjudicial quan es tracta, per exemple, de continguts sobre la tristesa, l'aïllament o la imatge corporal.

Aquests "caus de conill" poden tenir un impacte negatiu en la salut mental dels usuaris, especialment en adults vulnerables i menors d'edat.

Per exemplificar com l'algoritme pot retroalimentar el malestar psicològic, en el seu comunicat la Comissió Europea detalla que quan un usuari mira o clica "m'agrada" de manera repetida a contingut sobre la pèrdua de pes o la imatge corporal, el sistema interpreta aquestes interaccions com indicis positius d'interès i en recomana més de la mateixa mena.

En aquest sentit, l'organisme europeu alerta que l'exposició reiterada a aquesta mena de contingut pot tenir efectes negatius greus en el benestar dels usuaris, com ara un augment dels sentiments de tristesa o ansietat, insatisfacció amb el propi cos, una autoestima més baixa o l'agreujament de trastorns alimentaris i dels problemes de salut mental preexistents.

Mesures insuficients de TikTok i amenaça de multa

La Comissió Europea considera que les mesures adoptades per TikTok per mitigar l'"efecte cau de conill" no són efectives perquè "no redueixen prou la freqüència amb què es recomana contingut similar, incloent-hi material relacionat amb problemes de salut mental i la imatge corporal".

L'organisme europeu assenyala que TikTok ha de modificar el disseny de l'algoritme del canal "Per a tu" basant-se més en les preferències explícites dels usuaris –per exemple, amb un botó de "No m'interessa"– i no pas tenint en compte el temps de visualització com a indicador per recomanar contingut. També indica a la xarxa social xinesa que ha millorar l'accessibilitat i la usabilitat dels controls a disposició dels usuaris, i sotmetre el seu algorisme a proves periòdiques.

Mentre continua la investigació, la Comissió Europea recorda a TikTok que té la possibilitat d'exercir el seu dret de defensa i de respondre a les conclusions preliminars.

D'altra banda, la Comissió recorda a la xarxa social xinesa que si finalment incompleix la llei europea de serveis digitals, pot rebre "una multa proporcional a la naturalesa, la gravetat, la reiteració i la durada de la infracció, que pot arribar, com a màxim, al 6 % del volum de negoci anual total a escala mundial".