Emma Watson llegint el "Mein Kampf", un àudio fals generat per intel·ligència artificial
Des de fa un temps ens estem familiaritzant amb la tecnologia deepfake, que permet fer vídeos recreant el rostre de persones famoses situades en contextos falsos i que, de vegades, ha portat a confusions.
Amb el que encara no estem tan familiaritzats, però, és amb la tecnologia que permet generar de manera artificial la veu de persones conegudes. És el que ha passat amb una start-up anomenada Eleven Labs, que ha caigut a les mans dels sospitosos habituals de 4chan, una mena de Forocoches dels Estats Units des d'on han sorgit milers de mems, polèmiques i discursos conspiranoics, racistes, supremacistes, homòfobs o misògins.
El cas és que l'empresa Eleven Labs, formada per extreballadors de Google o Palantir, havia penjat en els últims dies una versió beta del seu software que permet tant sintetitzar noves veus com clonar-ne de ja existents. Amb aquesta versió beta, alguns usuaris van aprofitar per imitar les veus d'Emma Watson i altres personatges coneguts als Estats Units (Ben Shapiro, el personatge de Rick a "Rick and Morty") i fer-los llegir consignes racistes, homòfobes o violentes en general.
La mateixa empresa ha reconegut que, tot i que la seva aplicació s'ha fet servir en molts casos amb intencions positives, també han detectat mals usos que miraran de corregir.
