La IA arriba al "Catalunya nit" per quedar-s'hi gràcies a l'investigador Román Orús

6 minuts i dos quarts d'onze.

Al Catalunya Nit estem molt contents dels col·laboradors que tenim i aquesta temporada n'afegim d'identitat. Ara podrem presentar-vos en un. És en Roman Orús, un investigador de Barcelona que s'ha convertit en l'únic català i espanyol que és membre del Panel Científic Internacional sobre Intel·ligència Artificial de les Nacions Unides. I si hi és, és perquè el darrere té una trajectòria important. El tindrem al Catalunya Nit els dimarts cada 15 dies, començant per ara mateix. Roman Orús, bona nit. Bona nit, què tal? Molt bé, molt contents, com deia, de saludar-te. Avui, com que és el primer dia, aprofitarem una mica per presentar-te, per conèixer-te millor d'entrada. A veure, qui busqui informació sobre tu trobaria que vas ser la primera persona a Espanya que va fer una tesi doctoral sobre algoritmes quàntics. Això ens ho has d'explicar bé, Roman.

Efectivament, sí. Bueno, jo soc físic, no? Jo vaig estudiar física a la Universitat de Barcelona i després em van doctorar. I el tema que m'agrada de mi era el de la física quàntica. I aleshores en particular em vaig dedicar a un tema de la meva tesi, que era computació quàntica, que és una forma de fer ordinadors amb sistemes quàntics, amb àtoms, amb molècules. Resulta que ja es pot codificar la informació i es pot manipular de forma molt més eficient. Ja es poden fer algoritmes, es poden fer programes amb aquests ordinadors quàntics. Que poden resoldre problemes que en un ordinador normal, doncs, simplement no es poden resoldre. Aleshores, jo quan vaig fer la tesi doctoral, això ja fa molts anys, Bueno, va ser la primera tesis doctoral a Espanya sobre aquest tema.

Clar, i et deies, fa molts anys, mira, ja parlaves d'algoritmes, que ara en parlem més o menys, tot i que no sé si entenem ben bé el que vol dir, però tothom parla de l'algoritme, que l'algoritme guia la vida, em porta cap aquí i cap allà. Quan vas començar tu a sentir, a parlar i a interessar-te per això que també ara estem cada dia, cada dia, a parlar-ne de la intel·ligència artificial?

Sí, això de la intel·ligència artificial ja ve de lluny, ja es parlava molt des de fa molts anys. El que passa és que últimament s'ha començat a parlar més, sobretot durant els últims 10 anys o així, és quan em vaig començar a interessar jo també més sobre aquest tema perquè les màquines ja començaven a poder córrer aquest tipus de programes. Simplement no teníem les màquines adequades per fer-ho, no? Però definitivament, cap allà al 2022, quan va sortir al xat GPT, que va haver-hi aquesta revolució, que de cop i volta ens vam adonar que, ostres, aquí hi ha alguna cosa molt interessant, aleshores ens vam començar a interessar de veritat sobre aquest tema.

Ho vam explicar en el seu dia. Hi ha aquest panel internacional de les Nacions Unides sobre intel·ligència artificial que està format per 40 experts de tot el món. Quina feina esteu fent?

La feina que tenim nosaltres és la de fer de bisagra, per dir-ho d'alguna manera, entre el món científic i el món de la governança. Diguem que les Nacions Unides estan molt preocupades per tot el tema de la governança i la legislació de la intel·ligència artificial, perquè és una tecnologia estratègica, geopolíticament crítica, molt important. I un dels organismes que ha creat les Nacions Unides és aquest Panei Internacional Independent, on hi ha 40 científics de tot el món. De fet, som de 38 nacionalitats, és l'únic català i també l'únic espanyol. I la idea és que nosaltres hem de dir a la gent que ha de fer les lleis sobre com s'ha de regular la intel·ligència artificial, hem d'explicar-los el que realment es pot fer, el que no es pot fer, hem de ser capaços de destilar el que realment importa del que és fum, i aleshores també farem uns quants informes durant l'any explicant les oportunitats que tenim amb la intel·ligència artificial i també els riscos.

Clar, ara mira, precisament, segurament els Estats Units hi estan apostant més fort que ningú i allà si hi ha alguna cosa ara és desregularització més que regularització. A finals de la setmana passada la CNN va entrevistar Bill Gates, el fundador de Microsoft. I ell alertava de com estava avançant la intel·ligència artificial. Ell n'és partidari, deia en aquesta entrevista que l'utilitza molt, que n'és un defensor, però posava l'accent en el fet que si no som capaços de potenciar-ne els aspectes positius i limitar-ne els negatius, podria ser molt perillosa. I deia que això ara no s'està fent. Et proposo que l'escoltem. És un resum del que va dir Gates i de seguida ho comentem.

L'últim any, les intel·ligències artificials s'han convertit en molt més poderoses, fins i tot més ràpidament del que jo m'esperava. I ara són capaces de causar riscos de ciberetacs, bioterrorisme o danys psicosocials. I estic igualment estorat que no hi hagi uns criteris precisos per revisar aquests models i minimitzar els riscos.

Per primera vegada tindrem equipament amb coneixement humà. En termes de mercat laboral, això és molt diferent de qualsevol tecnologia que hàgim creat a la historia de la humanitat.

Encara que està a les nostres mans donar-li una forma clarament positiva, és com quan va aparèixer l'energia nuclear. Pots fer-ne armes nuclears o energia. El tema de la IA és mil vegades més gran que el nuclear i té els dos aspectes, el negatiu i el positiu, coexistint en la mateixa tecnologia.

Hi estàs d'acord, Roman?

Sí, estic d'acord. El Bill Gates va molt en la línia del que estem dient nosaltres del panel de les Nacions Unides. És molt semblant. Té molta raó en el que diu. Fan falta criteris precisos per tal de revisar com funcionen aquests models, per tal de minimitzar els riscos. S'ha d'anar amb compte per veure com afectarà el sistema laboral, i efectivament jo també poso aquesta analogia amb les armes nuclears, que és una altra tecnologia estratègica, quan es va desenvolupar l'energia atòmica, que va ser una altra revolució tecnològica, es pot utilitzar per fer-ho bé o per fer-ho malament. Ara mateix estem bàsicament en la mateixa situació, però com molt bé diu el Bill Gates, multiplicada per mil, perquè l'aia és molt més potent que no pas aquella tecnologia. Farà falta molta col·laboració entre les diferents regions per tal de portar això a bon termini. I tant, i tant.

De fet, aquí ho notem cada dia. Pràcticament no hi ha informatiu en què no aparegui la intel·ligència artificial d'una manera o altra. Avui n'hem tingut un exemple. Entrevistàvem el portaveu dels infermers i ens deia que la gent els arriba a la consulta ja amb el diagnòstic. La intel·ligència artificial em diu que tinc això i m'he d'aprendre allò, o sigui que gairebé van exigir la recepta. Ahir explicaven, per exemple, que aquest curs els menors de 14 anys no podran fer servir la intel·ligència artificial a l'escola i a partir de 14 als 18 ho podran fer però amb autorització de les famílies. Tu què creus que s'hauria de fer amb la intel·ligència artificial a les escoles i als centres? Perquè ara estem en aquell punt que no sabem si és millor, fins que no ho tinguem clar, treure-la del tot. Això sembla impossible. Si és millor que hi entri i utilitzar-la en positiu. Tu com ho veus?

Sí, jo crec que és inevitable que entri i per tant s'ha d'utilitzar en positiu. No es pot treure la intel·ligència artificial de les escoles, és una tecnologia que ha vingut per quedar-se, és com una calculadora extraordinàriament potent i òbviament no la podem obviar. Està canviant la forma de treballar, està canviant la forma d'educar, està canviant la forma d'estudiar també i també d'avaluar a les escoles. Aleshores, és inevitable que la intel·ligència artificial entri als col·legis i a l'educació, ara bé, però s'ha de fer això de forma correcta. I aquesta regulació que s'està duent a terme, que està començant aquest any, que els menors de 14 anys, en principi, no poden fer ús de forma autònoma i després els creen entre 14 i 18 anys, amb autorització prèvia del docent, jo crec que és una bona manera de començar a introduir l'AIA. Una forma una mica més regulada dins dels col·legis. També s'haurà d'exigir que citi l'ús de la intel·ligència artificial als treballs, els professors també s'hauran d'assegurar mitjançant, suposo, que examens orals i exposicions i tal, que efectivament els alumnes saben del que parlen i que no tot ho ha fet una intel·ligència artificial. Al final s'ha de canviar la forma d'explicar als col·legis, el sistema educatiu ha de canviar, és el que s'ha de fer.

Clar, ahir ens deia el representant dels directors de centres aquí a Catalunya, l'associació AXIA, que estaven plantejant-se seriosament si tenia sentit demanar deures a casa perquè sabien que els hi tornaven fets amb intel·ligència artificial, és a dir, que per comprovar què sabia l'alumne gairebé ho havies de fer un cara a cara amb l'estudiant.

Sí, efectivament, ha de canviar el sistema ara mateix. Si et demanen treballs, no només al col·legi, també a la universitat, doncs, òbviament, ho pots fer tu o pots anar-li directament a l'AIA i te'l fa tot. Te'l fa tot, des de la primera lletra fins a l'última, no? Aleshores, com es pot avaluar que un estudiant hagi treballat ell i no pas la intel·ligència artificial? Doncs, bueno, jo crec que l'única manera és un cara a cara, no? Una exposició oral, un examen oral, aquest tipus de coses, i també fomentar l'ús d'intel·ligències artificials, jo crec, com per exemple s'està fent a països com Estònia, em sembla, on no et donen directament la resposta, sinó que et van guiant perquè tu mateix trobis la resposta, una mica com una intel·ligència artificial socràtica, que et comença a fer preguntes i al final toca descobrir el que vols trobar. Haurà d'anar per aquí.També és bona, aquesta, sí.

Doncs, Román Urús, crec que la presentació ha quedat feta i que ja li hem tret molt suc per ser el primer dia. Això promet molt. D'aquí 15 dies tornem a tenir cita sense mai O sí, ja ho veurem, si és amb intel·ligència artificial o no, però quedem d'aquí 15 dies aquí, al Catalunya Nit. Què et sembla? Perfecte. Moltíssimes gràcies. Perfecte. A tu, una abraçada. Bona nit.

Catalunya Nic. Les notícies sota la llum de la lluna. Amb Manel Alías i Agnès Marquès.