La IA en la literatura: els autors alerten que no són ells els que s'han de defensar

La setmana passada saltava la notícia. Una novel·la premiada amb 20.000 era sospitosa d'haver-se escrit amb intel·ligència artificial.

L'obra, "Donde el agua trabaja", del peruà David Silva Rojas, va guanyar el juliol passat el Premi Internacional de Novel·la Breu Almadía Ventosa-Arrufat. El cas és, però, que l'eina de detecció d'IA Pangram va suggerir que un 99% de la novel·la s'havia escrit amb intel·ligència artificial generativa.

Arran d'aquesta sospita, l'editorial mexicana Almadía va suspendre els actes de presentació del llibre a l'estat espanyol. Aquesta setmana, després d'uns dies de silenci, l'autor s'ha defensat públicament negant rotundament en un comunicat que hagi utilitzat tecnologia generativa.

Ha ofert els seus esborranys i materials de recerca per demostrar-ne l'autoria. Sigui com sigui, el cas ha sacsejat el món literari i els escriptors catalans es mostren clarament preocupats.

Defensa de l'ofici d'escriptor

Els escriptors consultats per 3CatInfo coincideixen en el rebuig a l'ús de la IA per crear textos que es presenten com a originals, però també diuen que, com passaria amb qualsevol acusat en un judici, els autors en cap cas han de demostrar la seva innocència.

El president de l'Associació d'Escriptors en Llengua Catalana, Sebastià Portell, exigeix transparència a les tecnològiques:

L'escriptora de novel·la negra Dolores Redondo ha creat el segell "Sine Machina" per certificar que no hi ha continguts creats per la IA als seus llibres: "És un compromís personal. El segell l'he creat jo sense màquina, que no vol dir sense tecnologia. Preocupa que al final hi hagi un sistema que és IA per veure si hi ha IA".

El flamant Premi Nacional de les Lletres Espanyoles –que atorga el Ministeri de Cultura–, Enrique Vila-Matas, ironitza directament sobre la fiabilitat de la intel·ligència artificial.

Explica que juga amb ella, que li fa preguntes difícils i que la torna boja: "Arriba a dir-me unes coses que són increïbles. Li explico moltes coses a propòsit perquè se les cregui, les anota i després les treu una altra vegada. Li torno a preguntar i ja les sap, però clar... és que l'hi he dit jo!".

"Hi ha molts falsos positius"

El cas del peruà David Silva Rojas reobre la paradoxa que siguin precisament les eines intel·ligents les que detectin possibles casos fraudulents. L'editorial Almadía va reconèixer que el resultat de Pangram, per ell mateix, no representa cap prova concloent i advertia sobre els límits de fiabilitat d'aquests detectors.

El doctor Albert Sabater-Coll, director de la Càtedra d'Ètica en Intel·ligència Artificial de Catalunya, explica a 3CatInfo que es pot acabar acusant algú d'haver fet servir IA quan no l'ha utilitzat: "Hi ha moltes eines com Pangram que si bé et poden donar una certa idea que alguna cosa està passant, hi ha molts falsos positius".

Ho ratifica Roman Orús, membre del Panell Científic d'Intel·ligència Artificial de les Nacions Unides, que ha explicat al "Catalunya Nit" de Catalunya Ràdio que aquestes eines han arribat a detectar l'ús de la IA en obres clàssiques, quan evidentment no existia aquesta tecnologia:

Això, explica, és perquè són textos fàcils, senzills de predir i, per tant, s'ha d'anar amb compte.

Com apuntàvem, l'escriptor Silva Rojas assegura que ara la seva prioritat és col·laborar amb l'editorial i aportar tots els documents que permetin examinar i corroborar el seu procés d'escriptura de la novel·la, que va sorgir, explica, d'una investigació sobre les condicions de vida i treball de treballadors agrícoles a la regió peruana d'Ica.

Més enllà d'aquest cas, el que sembla clar és que probablement hi haurà més casos com aquest i que el sector literari i editorial s'enfronta a un gran cavall de batalla.