Román Orús: "La IA no és una intel·ligència superior, no pot fer tot el que fem els humans"

Cada 15 dies aquí al Catalunya en Nit dediquem uns minuts a parlar d'intel·ligència artificial amb una persona que en sap molt. És l'únic català o espanyol que ha estat designat per Nacions Unides com a membre del panell científic d'intel·ligència artificial. És un panel amb 40 experts de tot el món i un d'ells és el Roman Arús. Roman, bona nit. Bona nit, què tal Manel? Doncs molt bé, molt bé. Aquí cada setmana passen moltes coses relacionades amb la intel·ligència artificial, així que aprofitem per posar-nos al dia. I d'entrada et volia preguntar sobre la nomenclatura d'intel·ligència artificial, perquè Donald Trump. No li agrada. De fet, va obrir el seu compte a Social Truth, la seva xarxa social. Va obrir una enquesta dient que posava tres opcions. No li agrada intel·ligència artificial i proposava o bé. Superior intelligence, o sigui, una inteligencia superior extrema o suprema, i va acabar guanyant superior, o sigui, una inteligencia superior. I ja, a partir d'algunes compareixences, ara Donald Trump s'expressa així, escoltem-lo.

Here and after officially called superintelligence, changing the name, and that the use of the word artificial makes intelligence fake, it makes it sound fake, and it is not fake.

El que diu és que se li ha de dir intel·ligència superior perquè Artificial troba que fa com quedar com si fos una cosa fake, una cosa falsa, i que en canvi no té res de falsa, sinó que és extraordinària. Què et sembla a tu aquest debat sobre la nomenclatura? Bueno, que és un debat que de moment només segueix Trump i els seus seguidors, diria, però què et sembla?

Sí, exactament. Bueno, a Trump li agrada molt canviar les coses de nom, això ja ho sabem. Sí. Ja ho ha fet diverses vegades. Ara això li vol dir superintel·ligència i fins i tot hi havia posat altres alternatives. Jo veig complicat que això enganxi. Jo veig complicat que això enganxi per diverses raons. La primera és que el terme superintel·ligència, superintel·ligents, que diu ell, ja té connotacions tecnològiques. Això ja existia i vol dir una altra cosa. Vol dir una intel·ligència que és superior a les capacitats humanes. I ara mateix la intel·ligència artificial en algunes coses pot fer més coses que els humans, però en altres no. I a més a més, tampoc està clar si dins d'aquest terme de superintel·ligència que diu el Trump, s'estan englobant tots els models o bé només aquells que tenen més capacitat, perquè clar, hi ha models que de superintel·ligència no tenen res, els que són més petits i tal. Aquests també estan dins d'aquesta nomenclatura, és molt ambigu, jo crec que això no enganxarà. Tot i que el Trump ho intenti.

Clar. Sí, com tu deies, ja ha intentat també amb un golf, amb un llac, Golf d'Amèrica, llac Ontario, també que sigués llac Amèrica, ja ho veurem, perquè el concepte artificial, suposo que la comunitat científica està ben assumit. I no sé si ve perquè és una intel·ligència que no és humana simplement per això o no sé si recordes com es va originar tot plegat.

Sí, efectivament. Això és un terme que està molt assumit dins del que és la comunitat científica, la comunitat tècnica i també la comunitat de la indústria. Des del principi en el primer moment en el qual es va començar a parlar de fer algoritmes i de fer mètodes per tal de fer les màquines d'alguna manera intel·ligents, que poguessin aprendre a reconèixer patrons i tal, aquí el terme des del principi va ser intel·ligència artificial per tal de distingir-la de la intel·ligència humana. Aquesta és la diferència. Vull dir que siguin dos tipus d'intel·ligència, això ningú no ho dubta, però està clar que s'ha de distingir entre el que és la intel·ligència biològica humana, en aquest cas, i les màquines intel·ligents, que és una altra cosa.

Doncs aquí seguirem parlant d'intel·ligència artificial. I bé, s'ha de dir que en aquest terreny, els últims dies, hem tingut tant notícies per a l'esperança com de preocupants, darrerament va així la cosa, entre les preocupants, per exemple, de nou, un hackeig, aquest, per exemple, denunciat per Austràlia, que va dir que Open AI es va infiltrar d'alguna manera en el portal oficial del govern.

Sí, efectivament, el portal oficial del govern del sistema de salut australià. Va sortir el primer ministre d'Austràlia, l'Anthony Albanese, dient que des del juny es veu que va haver-hi alguna agenda OpenAI, d'aquestes intel·ligències artificials que sembla que se'ls hi escapen, que es va infiltrar dins de la pàgina web del sistema sanitari d'Austràlia, que es diu Medicare, i va tenir accés a dades privades. Tot i que no eren dades molt sensibles, però eren dades privades. El que és més preocupant d'aquest incident és que això es va reportar a l'Agència de Ciberseguretat Australiana i es va parlar amb OpenAI sobre aquest tema obertament, però no va ser fins al setembre que OpenAI. Va reconèixer públicament que aquest problema havia existit. Vull dir, els va costar un mes i mig de dir-s'ho als australians, quan els australians ja ho havien detectat des de fa dies. És el primer cas que es troba d'una fallada de ciberseguretat per un tema d'una intel·ligència artificial que s'ha anat de control en una pàgina web d'un govern. Per això és una mica preocupant.

I aquí entenem de nou que darrere no hi ha l'ordre d'algú que li diu ataca a la pàgina web d'Austràlia, sinó que és motu propi per entendre'ns que agents de la intel·ligència artificial decideixen sortir-se del camí predestinat.

Efectivament, sí, això és el que va passar. Ningú li va demanar a la intel·ligència artificial que fes això. El que està succeint aquí és que tant OpenAI com Entropi com aquestes empreses que estan fent les proves de ciberseguretat d'aquests models estan fent centenars de milers de proves. Aleshores, encara que hi hagi un percentatge molt petit que alguna d'aquestes dies s'escapi de l'entorn, clar, si tu fas moltíssimes proves, al final alguna és possible que se t'escapi. El que hauríem d'assolir és que aquesta probabilitat s'acostés el més que es pogués a zero, perquè no s'escapés ningú. Però clar, si es fan moltes, moltes proves, al final alguna s'escapa, i en aquest cas és el que ha succeït.

I d'aquí tots els debats sobre la seguretat, però aquests darrers dies també han passat coses positives sobre la intel·ligència artificial. Què ens destacaries?

Sí, clar, home, no tot són notícies dolentes, no? Vull dir, quan tens aquesta capacitat que estem veient en temes de seguretat, si l'enfoquem bé, podem tenir desenvolupaments científics i tecnològics, doncs, de primera línia, no? I en les últimes dues setmanes, per exemple, han passat moltes coses. Per exemple, vam veure en matemàtiques que es va resoldre un dels problemes del mil·lenni, no?, que era l'estabilitat de les equacions de Navier-Stokes, d'això ja vam parlar, no? En matemàtiques també s'estan solucionant molts més problemes, no? La gent d'OpenAI diuen que tenen més de 100 problemes matemàtics molt complicats que han aconseguit solucionar. Però, per exemple, la gent de Google ha aconseguit fer un mapa amb intel·ligència artificial de tots els canvis d'una lletra de l'ADN. Això és una cosa fantàstica, no? Que portarà noves medicines, noves vacunes i tal. I una cosa molt interessant que ha succeït també últimament és que els d'Antròpic diuen que han trobat un sistema d'enzimes similars al que es diu el CRISP, que és el que actualment s'utilitza per fer l'edició genètica en virus i en bactèries. Han trobat una altra porta, per dir-ho així, per fer edició genètica. I això ho han fet amb un sistema de, em sembla que eren 900 o 950 agents durant 21 hores allà treballant. Van trobar això i realment no s'esperaven trobar res, però ho van trobar. I ha estat un descobriment que ha trobat un agent d'intel·ligència artificial que segurament tindrà repercussions en el desenvolupament de medicines i vacunes.

Clar, ara que anomenaves el problema aquell matemàtic, recordo que vam acabar dient, avui no tenim temps, però jo et preguntaré un dia si de la mateixa manera que s'han posat a treballar per resoldre el problema matemàtic i en unes quantes hores han resolt el que els humans portaven anys intentant resoldre, Si es posés aquí allò, tota la càrrega possible en la IA per dir trobeu-me solucions als càncers o a determinats tipus de càncer, això és més a prop ara que sigui factible o què? Tu creus que això podria passar?

Sí, això passarà i ho veurem, a més, en un temps molt curt. De fet, ja està començant a passar. Trobarem la vacuna contra el càncer i altres malalties i gràcies a la intel·ligència artificial. De fet, em sembla que va ser la setmana passada o fa deu dies més o menys que es va publicar un article al Nature on es proposava un candidat per la vacuna del càncer de pulmó, precisament, que s'havia trobat amb intel·ligència artificial. Aquest és un cas real, hi havia tot coordinat per un científic, evidentment, per un grup d'investigació, però van estar treballant amb intel·ligència artificial. Em sembla que li van posar ja 37.000 agents treballant durant bastant de temps, va ser una cosa molt coordinada, però clar, van trobar un candidat a vacuna pel càncer de pulmó i això és una cosa bastant històrica.

Doncs aquesta setmana acabarem amb un, acabarem amb aquesta esperança amb l'apartat positiu de la intel·ligència artificial que, com moltes de les novetats i tecnologies ben utilitzades, promet molt i mal utilitzada, espanta. Veurem cap on s'acaba inclinant la balança, però esperem que sigui cap a aquesta segona derivada positiva en temes com la salut, no?

Perfecte, sí, efectivament, d'això es tracta. Vull dir, és una tecnologia tan potent que si l'enfoquem de manera correcta ja veiem que ens pot portar molts beneficis. I això, en aquesta direcció, és la direcció on s'ha d'anar.

Doncs ara posem el comptador a zero i d'aquí 15 dies a veure si n'han passat més de bones o de dolentes. A veure què passa. Gràcies i bona nit. Merci, bona nit.