Román Orús: "Si una novel·la està escrita amb IA i ens emociona, té menys valor?"

Passen set minuts de dos quarts d'onze. Cada quinze dies parlem d'intel·ligència artificial al Catalunya Nit i ho fem amb algú que en sap molt, és Roman Orús, que és l'únic català o espanyol que és membre del panel científic internacional sobre intel·ligència artificial de les Nacions Unides. Bona nit, Roman. Bona nit, Manel, com estàs? Molt bé, com sempre, amb aquests 15 dies de distància que deixem entre les nostres converses s'han anat acumulant temes i volia començar per una notícia de divendres que ha anat creixent, que és la següent. S'havia de presentar el llibre Donde el agua trabaja, és una obra que s'havia premiat amb el primer Premi Internacional de novela Breu Almadía Ventosa Rufat, 20.000 euros de premi i publicar el llibre. S'hi van presentar més de 2.000 originals, més de 2.000 originals, i va guanyar aquesta obra. Ja havia arribat a les llibreries de països de Sudamèrica i quan s'havia de presentar a Madrid, l'autor David Silva Rojas ja era allà també, havia de passar després per Barcelona, de cop tot es va aturar per una notícia. Un programa havia detectat que havia estat escrita en un 99% amb intel·ligència artificial, un 99%. Roman, d'entrada, què et fa pensar això?

Bueno, moltes coses, moltes coses, perquè és obvi, aquest és un exemple, però el que estem veient és que la intel·ligència artificial s'està utilitzant cada cop més en tot el que és el treball creatiu, no tan sols a les novel·les. Ara bé, clar, cal distingir entre utilitzar la intel·ligència artificial per corregir, per exemple, per utilitzar-ho com a assistent, o per generar tota una novel·la, no? Això és. Això és molt diferent perquè si un escriptor ja no escriu, què li queda d'escriptor? El que passa és que s'ha d'anar molt de compte amb aquestes eines estadístiques perquè poden donar falsos positius, és a dir, no són necessàriament correctes. No és una prova definitiva el que s'ha trobat, és un indici, però clar, això obre una pregunta filosòfica, no? Entre altres coses, per exemple, si una novela s'ha escrit amb intel·ligència artificial i ens emociona, té menys valor artístic, no? Com es pot comprovar si efectivament s'ha escrit amb intel·ligència artificial? És un tema bastant obert el mateix.

Sí, sí, a mi em venien moltes preguntes perquè, clar, d'entrada el que deies tu, si de 2.000, més de 2.000, La que més agrada a humans, que formen part del jurat, de fet, la intel·ligència artificial, aquest és un primer dubte. Tot això sempre a l'espera de confirmar-se l'autoria, perquè és delicat. Però és que, a més a més, qui t'acaba dient que això és intel·ligència artificial és una altra intel·ligència artificial, que és pangram. Que és aquest programa que et diu això calculo que està fet en aquest percentatge per intel·ligència artificial. Efectivament,

aquí és on està la gràcia del tema, que és una intel·ligència artificial que ens està dient que potser hi ha una altra intel·ligència artificial al darrere. Però clar, aquesta eina és un sistema que no és 100% segur, per dir-ho d'aquesta manera. És un sistema d'acció que està basat en estadística. Utilitza models d'aprenentatge automàtic per identificar patrons que són propis dels textos d'intel·ligència artificial, però, com deia abans, pot tenir falsos positius. I, de fet, fa no gaire es van detectar uns quants casos que van ser bastant sonats. També, per exemple, com fa el positiu la novela 100 anys de soledat del Gabriel García Márquez, amb un 100%, fins i tot el llibre del Gènesis a la Bíblia i fins i tot la Constitució dels Estats Units, aquesta eina deia que en un 96,21% estava escrita per una ia. Ja sabem que això no era així. Això és perquè són textos que són fàcils, són senzills d'apredir i, per tant, s'ha d'anar amb compte.

Clar, doncs haurem de veure què passa de moment, però aquestes presentacions s'han aturat. Avui també volem parlar de política.

Si tener una cátedra gracias a que mi marido es el presidente es de zurdos, pues sí, soy zurda.

Si irse de y cobrar comisiones ilegales es de zurdos, pues sí, soy zurdo. Si esconder joyas en una caja fuerte.

Son aquests vídeos del Partit Popular en que aparecían tot de personatges vinculats al PSOE dient coses que no havien dit i que no dirien així obertament. Eren vídeos generats amb intel·ligència artificial. I la inscripció que estava creata amb intel·ligència artificial realment és difícil de veure, molt petita, transparent. Tu que formes part del panel de les Nacions Unides, que suposo que també toqueu qüestions d'ètica i tot plegat, com veus un cas com aquest?

Sí, clar, aquest és un exemple del que més preocupa a Nacions Unides, que és com es podria debilitar la democràcia per conseqüència de la intel·ligència artificial. Clar, la IA és una tecnologia d'ús general, es pot utilitzar per finalitats molt diferents, es poden donar usos constructius, però també hi ha usos problemàtics. Els usos constructius, per exemple, en tot el que són eleccions, està molt clar, es poden traure programes electorals, es poden fer més accessibles. Es pot facilitar la comunicació en diferents idiomes, amb persones amb discapacitats, etc. Però els usos problemàtics, aquí tenim un exemple, es poden suplantar persones, es poden fer deepfakes, es poden fer fake news, es poden propagar a escala massiva per xarxes socials, i aquí hi ha un problema bastant gran, perquè el criteri fonamental aquí. Sobretot en temes d'eleccions, és la transparència. Els ciutadans, al final, han de poder saber quan un contingut audiovisual ha estat generat o manipulat amb intel·ligència artificial de forma molt clara.

Aquí cada partit polític té els seus criteris. Hi ha partits polítics que, per exemple, permeten que els seus equips de campanya facin retocs de color, n'hi ha d'altres que van més enllà. Des del Partit Popular, per exemple, Borja Semper justificava així l'ús d'aquests vídeos que acabem de posar.

Bueno, mira, si eso hubiera sido con intencionalidad espuria de hacer creer que los personajes que aparecen ahí son los reales, pues tendríamos un problema. Pero todo el mundo es capaz de interpretar que es una manera de utilizar las herramientas digitales para comunicar la hipocresía en la que vive el Partido Socialista. ¿Qué creéis? Bueno, és una interpretació.

Aquí el que passa és que estem en un buit legal. Vull dir, s'ha de distingir entre el que és la sàtira política, que sempre s'ha utilitzat des de fa segles, i el que és una suplantació audiovisual. Vull dir, un pot fer una caricatura d'un polític, i això sempre ha existit, i això es fa des de fa segles, com deia, i forma part de la llibertat d'expressió, que imagino que és una mica aquest comentari anava en aquesta direcció. Però clar, la novetat tecnològica és que ara podem fabricar vídeos amb rostres, gestos i veus que són completament realistes, això ja no és una caricatura. Clar. Clar, aleshores, què fem amb això? Vull dir, s'ha de legislar, ha de quedar molt més clar que això és un contingut que és artificial, etcètera, etcètera, i òbviament això podria portar a problemes legals.

Doncs veurem també com va evolucionant, ara aviat hi haurà campanya també, i està bé, hi ha campanya als Estats Units, vull dir que suposo que això de la intel·ligència artificial anirà entrant en la política. Ara fa uns dies també es va parlar molt d'aquestes vulnerabilitats detectades en el llenguatge molt usat a internet, aquest PHP, que això va omplir titulars a tot arreu. Què se'n sap del que va passar, Roman?

Sí, bé, el que va passar és que es van trobar unes vulnerabilitats en un llenguatge, que és el PHP, que és un llenguatge de programació que s'utilitza bàsicament al 70% de les pàgines web que estan programades al món. És un llenguatge de programació bastant antic, és dels anys 90, no? I el que va passar és que es van identificar dues vulnerabilitats de seguretat molt greus, molt greus, amb ajudes d'eines d'intel·ligència artificial per part d'OPNIA i també per part de Google. Aquestes vulnerabilitats estaven allà, feia més de 30 anys que hi eren i no s'havien vist. I clar, eren molt greus i el que va passar és que es van publicar les alertes i les correccions de seguretat i el dia següent els atacants els hackers van començar a provar d'explotar aquestes vulnerabilitats i es van registrar milions d'intents d'atac a moltes pàgines web del món. Molts serveis van haver d'aturar, es van haver de prendre mesures preventives, moltes pàgines web van caure i altres van tancar. Si fa 10 dies o així notàveu que internet funcionava una miqueta malament era per això.

Doncs hem d'estar allò alerta contínuament. Per acabar et volia, res, només comentar una mostra de la potència que està agafant la intel·ligència artificial que la tindrem ben aviat perquè una empresa que és molt nova, Antropic, Vol sortir a la borsa, es prepara pel 16 de novembre i diuen que serà una de les sortides més fortes de la història de la borsa.

Sí, sí, està tothom amb molta expectació a veure què passa amb la sortida al Nasdaq, que és on volen sortir a la borsa, al Centròpic. Els números són espectaculars. La valoració estimada diuen que serà entre un i mig i dos bilions de dòlars en escala europea. En escala americana serien trilions. I això, per tenir una idea, és aproximadament un terç del valor que té Envidia, que és l'empresa ara mateix que té més valor a borsa.

Doncs sí, Déu-n'hi-do. Això ho seguirem, serà el 16 de novembre. Abans segurament haurem parlat. Moltíssimes gràcies, Roman.

Bona nit. A vosaltres, bona nit.