La IA ja desenvolupa medicaments i cura malalties

I ara és moment de saludar dos experts en unes matèries que a la majoria se'ns escapen, a vegades fins i tot se'ns fan una mica feixugues i complicades, però que ens interessen molt. I per això justament els fem venir, perquè ens aterrin i ens simplifiquin tot el que té a veure amb ciència i amb tecnologia. Ells són en Carles Planes Bou, periodista del periòdico especialitzat en tecnologia i poder. Bona tarda, Carles. Hola, bona tarda. I en David Poblador, que és tecnòleg i expert en intel·ligència artificial. Què tal, David? Hola, què tal? Bona tarda. A veure, la setmana passada vam parlar de com la intel·ligència artificial ens ajuda molt a fer les coses més ràpid, però també de com pot deteriorar, i en alguns casos està efectivament deteriorant, les nostres capacitats cognitives i intel·lectuals, segons com la fem servir, i també d'això, de com l'IA tendeix a complaure'ns, a dir-nos el que volem sentir i també a enganyar-nos, a donar-nos respostes falses. Avui crec que tornem a parlar d'IA, però des d'un punt de vista diferent, Carles.

Sí, avui explicarem l'impacte que els models d'intel·ligència artificial estan tenint en la ciència, que probablement és una de les aplicacions més interessants, però de les que menys es parla, perquè recurrentment la gent pensa en intel·ligència artificial com si només fos una única tecnologia, com si només fossin els generadors de textos, d'imatges, que és el que s'ha anomenat intel·ligència artificial generativa. I què és el que fem servir? La majoria. És el que es fa servir més, però clar, parlar d'intel·ligència artificial realment no és una única tecnologia, sinó que és una caixa d'eines amb diferents usos, hem vist durant el llarg dels anys, en sistemes de vigilància, els algoritmes de recomanació de contingut, de les xarxes socials o, per exemple, els tipus d'aquesta tecnologia que s'apliquen en el camp científic, que moltes vegades són els d'analitzar grans volums de dades per extreure'n patrons i intel·ligència. Entrarem una mica més en matèria per veure com s'estan utilitzant aquests sistemes per intentar detectar malalties, ajudar a crear nous fàrmacs, fer que les radiografies siguin cada vegada més precises,

etc. O sigui que la intel·ligència artificial no només ens resol tasques quotidianes que, com deies, Luz, que el gran part dels mortals fan servir en el dia a dia, sinó que pot tenir un impacte que pot, no sé si dir que transformar la ciència fins i tot, no ho sé, eh?

Sí, però pot ajudar a accelerar la ciència. No fa molt parlava amb el Mateo Valero, que és el director del Barcelona Supercomputing Center, i ell em deia que, clar, que sense supercomputació la ciència està cega. I sense intel·ligència artificial, pot passar una cosa similar. Ajuda a potenciar les capacitats dels científics per intentar arribar més enllà. Però clar, no hem de pensar que els científics estan utilitzant chat GPT per fer aquest tipus de descobertes, sinó que són processos molt més complexes i molt més potents. Llavors, clar, com mencionava abans, una de les característiques més potents que té la IA és aquesta d'analitzar grans volums de dades per veure-hi més enllà del que pot veure l'ull humà, extreure patrons. Penseu en el científic que ha d'intentar analitzar milions de seqüències genètiques, estrelles en el firmament, diferents fenòmens que poden afectar a la meteorologia. Al cap i a la fi el que fan és utilitzar la IA com una mena de microscopi estadístic que els permet detectar coses que pel nostre ull humà acabarien passant de desapercebuda. Llavors el que fan no és automatitzar la ciència perquè el procés científic. Segueix sent el que ha de ser, el de tenir una hipòtesi i intentar verificar-la, això no canvia, el que sí que és és una eina potent perquè part d'aquest procés, que pot durar anys i anys i anys, sigui més eficient.

Crec que el que has dit al principi és molt crucial perquè ho entengui la gent que ens escolta. La intel·ligència artificial actualment hi ha tota aquesta aura de màgia que l'estem veient traduïda en productes que s'han convertit en productes de masses, com el chat GPT, Però hem d'entendre que tot aquests, com tu deies, tots aquests processos d'intel·ligència artificial en diferents graus i en diferents tècniques s'han estat utilitzant des de fa dècades, en general. Bàsicament, per intentar respondre preguntes que per inspecció humana són molt cares de respondre. És a dir, trobar patrons en volums de dades molt grossos. O intentar trobar. Com diuen els científics, correlacions. Quan passa això, després passa això. Això, quan tens poques dades a analitzar o poques variables, és a dir, no sé, un pis de tres habitacions val tant, un pis de quatre val tant, potser és factible fer-ho per inspecció humana. Però aquestes eines ens han donat un poder enorme per verificar totes aquestes coses en volums de dades inimaginables. Parlem de milions i milions de paràmetres diferents que podem estar verificant. I òbviament això ajuda molt a gran part del procés científic, ara i de fa dècades. Òbviament ara les tècniques han anat millorant i crec que parlarem de com això es tradueix en el dia a dia científic, però això és una cosa que simplement ja sabem de fa molt temps.

Per tant, són eines que, per molt que ara potser, no sé si dic que estan més de moda o que s'han popularitzat més, existeixen de fa molts anys, eh? Sí, molts anys. Entenc que han millorat moltíssim.

Sí, de fet, això ha tingut diferents etiquetes o diferents noms. Se n'hi ha dit Machine Learning, se n'hi ha dit, no sé, Linear Regression, se n'hi ha dit de mil maneres. I intel·ligència artificial realment no diu massa sobre la tècnica. No,

és un terme més mercatinià perquè, de fet, en els orígens de la pròpia paraula, que són de l'any 1960, ja es deia que era una paraula amb la que s'intentava cridar l'atenció dels inversors perquè posessin diners en aquest estudi. I ha funcionat. I ha funcionat completament, crida molt més l'atenció quan pensem en IA com aquesta cosa monolítica, pensant en xat GPT, perquè és el que s'ha acabat traduint més directament en les mans de l'usuari final. Però és el que mencionàvem abans, que és un paraigües de diferents tecnologies que fa que quan parlem de transport ens podem referir a bicicletes o ens podem referir a un coet. Clar, no té res a veure una cosa amb l'altra. I no tenen absolutament res a veure. I passa una cosa similar amb XatGPT i amb els models d'IA que s'estan desplegant en el camp científic.

I quines bicicletes o coets s'estan fent servir en ciència actualment i que ajuden a millorar i a fer-la més eficient? Sí, ara ens posarem un pèl tècnic. Vinga, va, vale. Anem a concentrar-nos. Jo agafo bol i vaig apuntant-me. Sí, perquè en el camp de

la ciència mèdica hem vist que s'estan aplicant altres tècniques que són més òptimes per millorar la salut, que el que fan no és generar continguts com chat GPT, sinó que classifiquen, intenten anticipar-se, detectar anomalies, detectar patrons, i és el cas del que s'anomena aprenentatge profund o deep learning, que són sistemes entrenants, per exemple, amb milions d'imatges, per exemple, d'un tumor, perquè així, quan s'ha d'analitzar una radiografia d'un pacient, a través de tot aquest entrenament amb aquestes imatges, pugui servir per detectar de forma més precisa si el que hi ha en aquella radiografia és un tumor o no, fins i tot si és un tumor en un estadi molt primigeni, en un estadi molt inicial, i això pot servir, doncs, perquè, de nou, no substitueix el científic, perquè el científic ha de seguir estant allà per fer una valoració, però sí que li permet magnificar les capacitats que podria tenir el científic, en aquest cas, per veure-hi una mica més enllà. I també hi ha models predictius, per exemple, que el que estudien, de nou, amb milions de dades clíniques, les analitzen per poder fer una valoració, per exemple, d'un pacient, estimar riscos, recomanar un tractament complet. Llavors, el que fan aquests models, de nou, no és automatitzar la feina dels científics, no és automatitzar la feina dels metges, en aquest cas, sinó fer una estimació que després el professional humà. Pot agafar-la i, a través d'això, ell emetre un judici en base a tot el seu coneixement.

Si no substitueix la feina del metge, si no és una eina més que incorpora i que l'ajuda segurament a anar una mica més enllà del que podria només amb les seves mans i amb els seus coneixements. Però com d'habitual són aquestes tècniques i aquestes eines? Realment s'utilitzen de forma habitual ara mateix?

No sé el dia a dia de moltes professions, però òbviament el tema de detecció d'imatge i detecció de patrons és una eina que molts dels softwares que s'utilitzen mèdicament i en recerca, tot això han anat incorporant i incorporaran més en el futur. Tot això es basa en. Bàsicament intentar detectar més coses que es poden escapar a l'ull humà en base a casos o diagnòstics previs. Si imatges que complien aquests paràmetres resultaven ser un potencial tumor, doncs probablement. Aquestes petites imperfeccions en la imatge o alguna cosa així poden donar més informació i certament totes aquestes eines estan incorporant i a més milloren la capacitat de diagnòstic moltíssim.

Us volia preguntar, no sé si teniu familiars o coneguts que treballin en hospitals o si heu vist The Pit? Mira, la tinc molt pendent, perquè l'han recomanat moltíssim. Sí, aprofito per recomanar-la, perquè és el vici de veure la gent fer bé la seva feina. Realment, és el dia a dia de metges, i els veus treballar i penses, quin plaer, hi ha com un plaer en veure les coses tan ben fetes, però bàsicament en aquesta sèrie. En el dia a dia dels hospitals, el que veuen molts dels treballadors, el tu a tu que tenen amb la intel·ligència artificial, és quan els fan utilitzar models de IA generativa per la seva feina. Això es veu a la sèrie? Sí, quan han de fer els informes, això també passa als hospitals, si tenim familiars o amics que hi treballen, que a l'hora de fer informes cada vegada s'utilitzen més. Models en els que tu, en lloc de redactar l'informe per estalviar temps, doncs li parles a la màquina per entendre'ns i a partir d'allò genera un informe. Aquest és el tracte que els metges tenen, diguéssim, més a la mà al dia a dia, però com mencionava ara el David, moltes de les màquines que utilitzen ja tenen integrats aquests sistemes d'IA des de fa anys i després l'ús més habitual i probablement més vanguardista que es veu és en el camp de la investigació. Els grans centres d'investigació sí que poden utilitzar aquests models d'IA i de supercomputació en alguns casos per accelerar la ciència.

En aquests moments quin diríeu que és el repte o el problema científic que l'IA resol de forma més exitosa o que ha contribuït a solucionar?

Hi ha uns quants exemples, crec que en Carles ens pot parlar d'alguns exemples amb recerca genètica o de medicaments o coses semblants, però. Però, bàsicament, totes aquelles recerques on s'havien de provar moltes coses diferents en poc temps i validar certs resultats, comencen a ser factibles. Tot això, per fer un exemple que pot semblar una anècdota, però realment no ho és, perquè ajuda a entrenar aquests models, tot això històricament es prova en coses, per exemple, en partides d'escacs. A veure, això. Els escacs és un joc. Fàcil d'entendre en quant a regles, però molt complexa de calcular. És impossible, hi ha infinites possibilitats. No hi ha hagut mai dues partides d'escacs iguals. Llavors, què succeeix? Aquestes eines poden detectar noves maneres de jugar a escacs. Directament. No només jugar bé escacs. Poden detectar noves maneres de jugar escacs fent-les jugar entre elles. Entre elles i comprovant resultats. Aplicat a la ciència, això és obvi, en recerca de proteïnes i coses semblants, però el món dels escacs és paradigmàtic, perquè el que està succeint és que els jugadors d'escacs. D'avui en dia, els bons i els dolents, tothom, està aprenent noves tècniques de jugar a escacs, bàsicament, després d'haver vist com aquestes màquines han descobert noves metodologies. És un problema resolt als escacs. És impossible guanyar-li a una màquina, encara que sigui el millor jugador d'escacs del món. És impossible, eh? És impossible, ara mateix. Però crec que això està fent evolucionar el joc. Això, si ho traslladem al món científic. És exactament el mateix. Era impossible provar totes les combinacions de proteïnes, de cadenes d'ADN, tot això. Amb molta experiència es podia arribar a obtenir resultats impressionants a nivell científic. Però aquests resultats, que eren impressionants fins fa deu anys, avui en dia s'han quedat en una anècdota comparada amb la velocitat d'iteració d'aquests processos.

I el que és particularment curiós és que la mateixa empresa o el mateix centre d'investigació que va permetre que les màquines superessin, no només en els SCAC, sinó també en el GOU, que és com la versió més complexa dels SCAC, és un joc mil·lenari a Àsia, és la mateixa que ha fet, probablement, l'aplicació en IA per resoldre un cas científic complex més important fins ara, que és Google DeepMind. DeepMind és un laboratori d'investigació. Google DeepMind. Sí. DeepMind és un laboratori d'investigació britànic que Google després va comprar de forma molt intel·ligent. I bàsicament aquest estudi va rebre el Premi Nobel de Química l'any 2024, que va ser el primer Nobel que reconeixia directament una investigació científica potenciada amb IA, perquè van crear un sistema d'IA, que el van definir com AlphaFold, que és capaç de predir l'estructura tridimensional d'una proteïna. A veure. Què significa això? Doncs que et permet conèixer a fons com són les proteïnes que hi ha dins del nostre cos per saber com ens afecten i estudiar així possibles tractaments. A la pràctica, això el que et permet és, si tu. No pots preveure quina serà l'estructura d'aquests milions de proteïnes, això està permetent que s'accelerin estudis sobre malalties, sobre recerca de quina resistència té el nostre cos als antibiòtics, acabar perfeccionant tot aquest tipus de tractaments que ens poden permetre esquivar malalties, fer-nos viure més. És una aplicació de la IA cap a la ciència que s'està traduint en un impacte positiu per tota la societat. També perquè Google, amb això, ha fet una cosa positiva, que va ser posar aquesta eina al servei de tota la comunitat científica. No és que tu hagis de pagar una subscripció per utilitzar-la, sinó que tots els científics poden ara utilitzar AlphaFol per utilitzar-la així com una mena de brúixola en la investigació científica i poder portar-nos a nous territoris.

Potser és important ressaltar que quan es parla de coses que són a nivell mèdic, per exemple, d'això, tractaments personalitzats, és a dir, en base a les mutacions del teu ADN es pot trobar un tractament per tu. Quan el cost de detectar aquestes mutacions, com es tradueixen en el teu cos, a quina forma tenen les proteïnes i tot això, és fàcil i és barat, es poden potencialment generar medicines molt personalitzades, és a dir, per una mutació específica. Això en principi hauria de no només reduir el cost de crear medicació genèrica, per a tothom, sinó també oferir possibilitats de millorar la prognòsia de malalties complicades o que afecten a molt poques, a molt poca gent en base a mutacions molt específiques. Perquè aquests models, de cop i volta, no és tan car predir una particular mutació quins efectes té.

Clar, amb tot el que esteu explicant, sona meravellós, sona fantàstic, i és inevitable preguntar-se, hi ha una cara fosca en tot això?

Sí, sí que hi és. Avui hem girat una mica els papers. Sí, està bé, està bé, perquè si no estàvem una mica deprimits. Sempre acabem amb una nota d'optimisme. Avui és una nota una mica més de conscienciació sobre quins són els perills de l'aplicació de la IA en el camp científic. I n'hi ha dos que són importants remarcar. El primer és el fet que la IA generativa, si els models com Gemini, GPT, etc., que ens permeten crear continguts de forma molt fàcil, automatitzar-los, Això està portant a que es disparin les publicacions d'articles científics falsos o que estan plens d'errors. Què passa? Doncs que en l'ús de la investigació científica fan el que, si hi ha científics, el que volen fer és publicar molts papers, molts documents científics, per així, diguéssim, atribuir-se un. Bé, molts mèrits, no? Sí, per atribuir-se més mèrits, utilitzen aquests sistemes per, diguéssim, fer menys feina i automatitzar el procés de creació de documents científics que, aparentment, doncs, penses que tindrien tot el rigor científic, però que molts estan plens de falses referències, males interpretacions d'autors, experiments que no han passat, etcètera, etcètera. I això també està portant, està obrint la porta al que s'anomena tècnicament com fàbriques d'articles, que és que ja existeix un opac negoci. Ilícit basat en això, produir en massa falsos articles científics i vendre l'autoria a investigadors, sense escrúpuls, que el que volen és fer-se un lloc com a científics per la via fàcil. Això, si ho busqueu, hi ha casos a Espanya tremendos de científics que es pensaven que, diguéssim, tothom tenia en ment que eren científics d'alt nivell, perquè tenien. Perquè tenia moltíssimes referències. Clar, ha publicat 150 articles científics d'aquest autor que estaven involucrats en casos d'aquests de compra d'articles falsos.

Entenc que és una pràctica bastant més habitual del que podríem pensar d'entrada.

No sé com d'habitual és, però potser tot rau en el problema dels incentius que hi ha darrere de la publicació de papers científics i quins incentius això ha generat per crear volum en lloc de qualitat. També, per veure-ho d'una manera més positiva, Igual que tenim una eina per fabricar qualsevol tipus de coses sense validació, també tenim eines per poder validar molt més ràpid referències.

Això no va dir, també. I com de fàcil és de detectar que aquests articles, vaja, que no estan fets amb rigor científic, que els ha fet la intel·ligència artificial i amb informació errònia. Com de fàcil és?

Probablement això és una mica com una cursa d'aquestes complicades, com la cursa del correu brossa, per posar una analogia. Sempre van un pas per endavant, algunes eines amb un propòsit dubtós. Però crec que tenim a l'abast crear eines per ajudar a la verificació de fonts i a la verificació d'articles i a la verificació formal de teses científiques. Esperem. Totalment.

I hi ha un segon problema que també és més estructural, que és el de qui acaba decidint el rumb de la investigació científica. Hem de pensar si cada vegada els laboratoris d'investigació científica estan més cooptats o en mans de grans empreses, per exemple, DeepMind amb Google qui és el qui decideix en quin tipus de tecnologia, en quin tipus de camp s'ha d'investigar més. Això hi ha un llibre que es diu L'imperi de la IA, de la periodista Karen Howe, que també la vaig entrevistar pel periódico i és un llibre interessantíssim en el que explica els grans programes, que siguin grans corporacions les que estan decidint quin és el rumb d'aquesta investigació. Perquè això està portant que, per exemple, grans empreses d'AI decideixin invertir més diners en investigar la suposada capacitat de convertir les màquines en certs pensants intel·ligents que dedicar-ho, per exemple, a aquest tipus d'aportacions d'AI científica més valuoses o sobre com mitigar canvi climàtic, etcètera.

Al final, si qui està pagant la festa són aquestes tecnològiques, al final tenen, suposo, el poder de decidir cap a on dirigeixen aquests recursos i quin ús se'n fa. No sé si amb aquest contrapunt que ens hem fet ara, quina conclusió, quin balanç final en fem. És un gran avenç i positiu el que està oferint la intel·ligència artificial per la ciència.

100%, però crec que s'ha d'estar molt atent de qui és el que controla aquestes tecnologies i per què les utilitza. La ciència sempre ha de pes una mica de qui la finança, però avui en dia, tenint en compte que estem assistint als monopolis més grans de la història de la humanitat, doncs crec que s'ha d'estar més pendent de quins són els casos, de qui controla aquesta tecnologia i sobretot recolzar els projectes nacionals o d'investigació, per exemple, com els que veiem en el BCC, però també en molts hospitals catalans que sí que tenen un impacte molt positiu en la societat.

I gràcies al que ens expliqueu vosaltres podem tenir una mica més d'esperit crític a l'hora de, no sé si de vigilar, però sí d'anar amb compte amb aquestes eines que tenen aquest gran potencial, però com deies, també els seus riscos. Carles Planas, David Poblador, moltíssimes gràcies. Moltes gràcies. Us espero la setmana vinent perquè ens seguiu il·luminant a tots nosaltres.

Perfecte, fins la setmana que ve. Gràcies. Adeu, fins llavors.