Román Orús: "En un futur, tots haurem de protegir i registrar la nostra identitat digital"

Cada 15 dies parlem d'intel·ligència artificial amb Roman Orus, que és un dels màxims experts que hi ha sobre aquesta qüestió. És un dels 40 científics escollits per les Nacions Unides per formar part d'aquest panel internacional que assessora en qüestions relacionades amb la intel·ligència artificial, que ja sabeu que des de fa. Algun temps, no gaire, ho domina absolutament tot.

Romano Rus, bona nit. Bona nit, què tal, com esteu? Doncs molt bé, mira, t'he anat guardant aquí unes quantes notícies des de l'última vegada que vam parlar sobre intel·ligència artificial per comentar-les amb tu. D'entrada, voldria posar-te unes declaracions. Bé, no són ben bé declaracions. La veu, una frase de la primera ministra italiana, Giorgia Meloni, va dir això. Io sono Giorgia Meloni. I ja està, io sono Giorgia Meloni i ho va fer perquè vol patentar amb aquesta frase, de fet és la que va portar a l'oficina de propietat intel·lectual de la Unió Europea per patentar la seva veu. Per què ho fa això, Roman?

Clar, això ho està fent la Melonit perquè ara mateix estem entrant en una època de la història en la qual la nostra identitat ja es pot copiar. Ara amb la intel·ligència artificial, a partir de molt poca informació, fins i tot a partir d'uns 4 o 5 segons de la teva veu, es pot clonar la veu d'una altra persona de forma molt. Fida digna, i per descomptat també es pot clonar altres característiques, com per exemple la cara, els gestos, es poden generar vídeos, es poden generar àudios falsos, i cada vegada és més difícil de distingir el que és veritat del que no és veritat. Per això la Meloni i també altra gent, crec que també hi ha actors i altres personatges públics, intenten protegir legalment la seva veu i la seva imatge.

Clar, això ho fas tant per protegir-te, és a dir, que si algú l'utilitza sense el teu permís, suposo que hi pot haver conseqüències greus, i d'aquí la pateno al registre, però també es pot jugar al teu favor, en cas que ho vulguis, per exemple, actors que poden dir, sense que jo hagi de venir al rodatge i tal, si voleu utilitzar la meva veu, la meva cara fins i tot el meu preu és tant i feu-ho servir,

no? Efectivament, aquí s'està obrint un nou univers de possibilitat. Per descomptat, d'aquí el que es tracta és que la gent no pugui utilitzar la teva imatge o la teva veu sense el teu consentiment. Per això suposo que en el futur, i en un futur no gens llunyà, sinó ara mateix, probablement tots haurem de protegir d'alguna manera o haurem de tenir algun mecanisme per tal de protegir la nostra identitat digital. I deixar utilitzar la nostra veu i les nostres característiques digitals allà on ens convengui. Pels actors això obre un espectre de possibilitats enorme.

Clar, ja hi ha hagut algun cas, per exemple, d'algun actor mort i que la seva família ha donat permís perquè a través d'intel·ligència artificial pugui interpretar algun paper en una pel·lícula que no havia acabat de rodar o que es roda amb l'actor mort, amb l'actor mort, però ara introduïs tu aquí una variant interessant que deies que tots en algun moment haurem de firmar alguna cosa, fer alguna passa. Clar, quan tot això es vagi popularitzant molt i estenent molt, que com deies acabarà passant segurament, no sé si al final haurà de passar al revés, que diguin, a no ser que la persona et doni consentiment explícit, que no puguis utilitzar la veu ni la imatge de ningú.

Sí, efectivament. Jo suposo que hi haurà com una espècie de transició i no acabarà sent tant. Hi haurà com una espècie de situacions en les quals efectivament necessitaràs el consentiment de les persones, però m'imagino que es generarà tot una espècie de nou univers allà on, d'alguna manera, puguis utilitzar algunes imatges, altres no, una mica hi haurà imatges, m'imagino, que seran de codi obert. Està una mica per entendre què és el que passarà aquí. El que ja està clar és que acabarem tenint tots la nostra identitat digital, tothom podrà utilitzar-la allà on vulgui i allà on no hi hagi permisos serà un tema legal que encara està per descobrir.

Clar. Segurament la notícia més cridanera dels últims dies arriba des d'Antròpic, que ha anunciat que prohibeix el maltractament cap als seus models. És a dir, no es pot, per exemple, insultar el seu chatbot, que és amb qui converses, el que coneixem com Clot. Això com ho hem d'entendre i per què creus que es fa?

Clar, això té moltes possibles lectures. Una possible lectura és aquesta que els de Claude estan molt preocupats pel benestar de la seva intel·ligència artificial. Ells interaccionen amb el Claude com si es tractés d'una persona i realment ells ho fan perquè no saben, tenen aquest dubte intern, no saben si el Claude té consciència o no té consciència. Això és una cosa que francament no ho sabem, què passa dins d'aquestes màquines. I això és precisament el que ho fa tan fascinant, perquè una cosa és. La intel·ligència, entesa com la resolució de problemes, que això fa molt bé la intel·ligència artificial, i una altra és l'experiència subjectiva. Vull dir, al Clot no sabem si realment s'ho pren malament quan tu l'insultes, però per si de cas els d'Antròpica els han dit per si de cas no ho facis. Per si de cas no ho facis.

El simple plantejament però ja és molt impactant, que puguis pensar que aquí darrere pugui haver-hi una consciència o que s'acabi generant una consciència i això voldria dir, per exemple, que si tothom la insulta o si rep molts insults, que s'acabés enfadant o bé deprimint-se.

Efectivament, vull dir, no tenim una forma de mesurar-ho, no tenim un test que ens digui si aquesta intel·ligència artificial és conscient, però tampoc tenim un test que ens digui que no ho és, no? I això és el que precisament està preocupant Antròpic, no tant pels models que tenim ara mateix, que bueno, en certa mesura, no?, però sí, però però especialment pels que vindran més endavant, perquè ja es veu que seran més avançats, etc. i allà és possible que emergi alguna altra cosa. De fet, els d'Antròpic ja porten bastant de temps parlant d'aquestes coses, hi ha directius d'Antròpic que es reuneixen també amb diferents líders religiosos precisament per parlar d'aquest tema, com han de fer perquè la seva intel·ligència artificial es comporti de manera adequada, que sigui bona i tal i qual. És un tema realment molt interessant, ara mateix és molt obert, i que realment té moltes lectures diferents.

Clar, perquè aquí és fàcil imaginar un grup de nois adolescents divertint-se, fent-li tota mena de preguntes o de comentaris esbojarrats a la Clot.

Efectivament, clar, de la mateixa manera que tu no maltractaries un animal, una intel·ligència artificial, no sabem el que passa allà dins. I tampoc sabem quines conseqüències pot tenir després. Potser el Clot es deprimeix o s'enfada molt i resulta que esclata per un altre cantó. Amb això hem d'anar en cura perquè encara no tenim control de realment què és el que està passant allà davant. Però no només per això, sinó a més a més perquè, bueno, de la mateixa manera que no maltractaries a un altre ésser humà no hauries diguem-ne, una de les altres coses que preocupa la gent d'antròpic és que la gent utilitzi això aquest tipus d'actituds amb el clot i després això es propagui de cara a altres relacions socials amb altres humats això

s'ha de controlar també Doncs mantenir les formes una altra que posem damunt la taula va, l'última, aquesta d'Open AI. Que s'ha fet un tip de resoldre problemes matemàtics. S'hauran d'acabar verificant, però es parla de gairebé 400 problemes matemàtics molt complexos que es resolen.

Sí, sí, ha estat molt impressionant el que ha fet OpenAI ara mateix, vull dir, ha revolucionat completament el camp de les matemàtiques, ha posat resultats sobre, em sembla que són 372 famílies de problemes, han posat 700 treballs matemàtics, articles, per verificar alguns dels problemes que han tractat feia dècades que estaven oberts, i evidentment tot això s'ha de verificar, però és realment molt impressionant, això ha acabat amb molts problemes. Hi havia molta gent, molts matemàtics, que estaven treballant en problemes, nois i gent que estaven fent la tesi doctoral, per exemple, o tenien el seu projecte d'investigació en alguna cosa relacionada amb això, que s'han anat a norris. I a més ha estat d'una forma molt massiva. Jo crec que el que és més impressionant de tota aquesta història és que estem veient en directe com la intel·ligència artificial passa a ser una eina que ajuda els científics. Però, a més a més, s'està convertint en una eina capaç de fer descobriments científics per si mateixa, no? I això és realment molt impressionant. I al cap de les matemàtiques és realment una autèntica revolució.

Clar, això, com deies, és una bona notícia pel coneixement, perquè sapiguem més coses, però pel pobre matemàtic que portava no sé quant temps allà a punt de treure-ho i que ara, de cop i volta, arribi OpenAI i ho tingui fet, no sé pas. Sí, efectivament.

Això és una d'aquestes coses que ens hem de començar a acostumar. Potser hem d'aprendre a treballar amb aquestes eines. Aquestes eines ens donen respostes i nosaltres som capaços de fer les preguntes correctes. I ara mateix, potser en el futur, el paper dels científics serà més la de fer la pregunta correcta més que en comptes d'anar a trobar la resposta. Imagina't que això més endavant passa per altres camps científics. Què significaria això per la física, per la medicina, per exemple, per la descoberta de nous materials I a més a més, podríem generar coneixement científic més ràpid del que podem verificar els humans i fins i tot podríem generar coneixement científic que nosaltres encara no som capaços de comprendre. Vull dir, Es podríeu donar el cas en el qual una intel·ligència artificial generés coneixement que a nosaltres ens constés realment molt d'arribar a comprendre què passarà quan això passi.

Clar, m'imagino la Clot dient, tios, que us estic posant aquí davant la solució a no sé quants problemes i no ho esteu veient. Efectivament, que no ho pilleu. A veure com avança tot plegat, però és impressionant a quina velocitat està avançant tot això, perquè ens trobem només cada 15 dies, i tot i així hi ha moltes novetats per comentar. D'aquí 15 dies veurem què tenim damunt la taula. Gràcies, Roman. Perfecte. Bona nit. Vinga, merci. Adéu, bona nit.

Io sono Giorgia Meloni.

Sota la llum de la lluna.

Amb Manel Alías i Agnès Marquès.