La doctora IA no és cap metge: quan pot ser útil i quin perill té fer-hi consultes sobre salut
La intel·ligència artificial (IA) s'ha instal·lat de ple en molts àmbits de la nostra vida, també en el de la salut, tant a nivell professional com entre el ciutadà de peu. L'Observatori IA i Salut, que monitoritza el desplegament de la Intel·ligència artificial al sistema sanitari de Catalunya, té 184 eines d'IA registrades que s'estan desenvolupant o utilitzant en l'ecosistema mèdic català.
L'atenció primària, els hospitals i els centres de recerca les fan servir sovint en molts àmbits, des del suport per a diagnòstics clínics fins a l'automatització de tasques administratives, passant per l'anàlisi de dades massives en investigacions o estudis. En la nova sèrie de ficció de 3cat "LIA", basada en experiències reals, se'n poden veure alguns exemples, com la modelització d'òrgans i la creació de bessons digitals que ajuden a prendre decisions clíniques, tal com ha explicat la doctora Alba Jené, coordinadora científica de Ciències de la Vida al Barcelona Supercomputer Center (BSC) i assessora científica d'aquesta sèrie, en la preestrena feta aquesta setmana.
Però una cosa és l'ús d'eines contrastades i segures entre professionals i una altra la utilització de programes o aplicacions d'IA per part dels pacients a casa, sense supervisió mèdica, que pot ser molt útil però que també implica riscos i perills.
Tampoc és el mateix tenir un rellotge intel·ligent que et monitoritza el ritme cardíac, les passes que fas o si portes massa estona assegut, que penjar a Internet els resultats d'una analítica o una radiografia sense treure'n les dades personals, i demanar a la IA que els revisi, els interpreti i te'ls expliqui.
Simulen empatia però no són humans
Cada setmana, més de 230 milions de persones arreu del món fan preguntes relacionades amb la salut i el benestar a ChatGPT, segons OpenAI, la seva empresa mare. I l'any passat, l'ús de la IA generativa com psicòleg va escalar a les primeres posicions.
És un auge molt perillós segons els experts, que avisen que no ofereix un ajut terapèutic real encara que sembli tenir empatia.
Les tradicionals recerques a Internet per consultar símptomes, malalties, resultats i tractaments les responen ara potents eines d'IA que parlen amb un llenguatge clar i entenedor i d'una manera tan personalitzada que ens pot fer creure que al darrere hi ha algú que en sap i que ha estudiat amb cura el nostre cas. Però no és així.
Ni el doctor Google ni la doctora IA són metges, sinó algoritmes d'aprenentatge que també s'equivoquen, donen diagnòstics i tractaments sense proves mèdiques ni exploracions físiques, treballen amb patrons massius i esbiaixats i no garanteixen la privacitat i confidencialitat de les dades personals que els donem.
En què ens ajuda i quins riscos té
L'estudi "Intel·ligència artificial en l'atenció primària: la innovació en una cruïlla", publicat al desembre a The Lancet, analitza els avenços i oportunitats que ofereix la IA en l'atenció primària i clínica, en tasques administratives, de recerca, d'atenció al pacient, pels proveïdors sanitaris i també "per ajudar les persones en la seva salut".
L'estudi conclou que la IA té un gran potencial per:
- Democratitzar la informació sanitària i empoderar les persones perquè tinguin un paper més actiu en la seva salut.
- Entendre informes mèdics
- Identificar símptomes
- Canviar comportaments i estils de vida
- Autogestionar malalties cròniques
- O personalitzar la informació que reben "en funció de les necessitats del pacient, preferències lingüístiques, cultura, entorn i nivell d'alfabetització sanitària".
Però també alerta que l'augment d'aplicacions de salut basades en IA i orientades als usuaris que no estan validades per entitats reguladores "plantegen preocupacions importants sobre la seguretat dels pacients".
"Els riscos són particularment alts amb els LLM –models de llenguatge extensos– ja que les seves habilitats de conversa semblants a les humanes i les seves característiques antropomòrfiques poden portar les persones a confiar massa i dependre massa d'assessoraments de salut incorrectes o incomplets generats per IA", alerten.
Personalització i llenguatge de tu a tu
Dels riscos de la IA n'hem parlat amb el doctor Antoni Sisó, especialista en medicina de família del CAP Ernest Lluch –al barri de les Corts, a Barcelona–, i president de la Camfic, la Societat Catalana de Medicina Familiar i Comunitària. L'entitat va fer una enquesta als seus associats sobre l'ús de la IA a la sanitat pública catalana i en va publicar les conclusions, el passat mes de març, també a la revista The Lancet.
Antoni Sisó reconeix que la ciutadania ja està utilitzant la IA per a consultes mèdiques.
Igual que fa 25 anys teníem el doctor Google ara tenim el doctor IA i això és així.
"Té coses bones i altres amb les quals hem de vigilar", diu. "La gran diferència és el grau de personalització", aclareix el doctor Sisó, que també és director del màster d'IA generativa de la Universitat de Barcelona.
El gran salt tecnològic és la IA generativa, afegeix, "perquè crea contingut nou i propostes noves que potser no t'havies plantejat des d'un punt de vista científic i et respon amb el llenguatge que li estàs demanant".
"Tot i que hi ha al·lucinacions", alerta, que és com s'anomena als errors no volguts que la IA dona per bons o que estan basats en fonts inexistents.
Una de les utilitats més importants que hi veu és que ajuda el pacient a preparar una visita mèdica, a saber quines preguntes plantejar, a detectar i endreçar els propis símptomes i fins i tot l'ordre cronològic en què els té. També pot ajudar a entendre millor el que diu el metge després de la consulta.
Sisó reconeix que a vegades els pacients surten del dispensari i han entès una de cada deu coses que els han explicat. "Si els donem un informe mèdic o d'alta, una analítica o un electrocardiograma, després ho poden entendre millor amb la IA". Això sí, alerta, ho han de fer sense posar en cap moment les dades personals, perquè no quedin registrades a la xarxa i puguin ser utilitzades després de formes que encara ni imaginem. I no serveix de res tatxar-les, perquè hi ha sistemes que permeten recuperar el que s'ha ratllat o guixat.
No és una eina de diagnòstic ni per prescriure medicaments
La intel·ligència artificial pot orientar-nos, però la informació que ens doni "sempre cal verificar-la amb professionals", diu el doctor Sisó.
"La IA no ha de ser un substitut del metge, perquè la informació ha d'estar validada i revisada". Fins i tot els metges, reconeix, troben referències bibliogràfiques inventades en eines científiques d'alta potència i alt rendiment, on també hi ha al·lucinacions i errors.
Com a eina d'ajuda al pacient està bé, una altra cosa és per prendre decisions.
Sisó diu que encara no han trobat pacients que hagin deixat o canviat la medicació prescrita pel que els ha dit la IA. Però alguns especialistes, com els fisioterapeutes i metges rehabilitadors, alerten que les llistes d'espera estan portant alguns pacients a fer servir la IA per buscar exercicis per tractar dolors lumbars, cervicals i de genoll. La SERMEF, la Societat Espanyola de Rehabilitació i Medicina Física recorda que els exercicis terapèutics "formen part d'un tractament mèdic i sempre han d'estar indicats i supervisats per un metge rehabilitador".
A les farmàcies també es troben usuaris que van a buscar un medicament per a una determinada malaltia sense recepta. I quan els la demanen reconeixen que no han anat al metge: "Responen, és que m'ho ha dit ChatGPT", m'explica una farmacèutica del barri de Gràcia, a Barcelona.
Quin ús en fan els metges de família
El 60% dels professionals mèdics catalans fan un ús molt freqüent, diari o diversos cops a la setmana de la intel·ligència artificial, segons l'estudi de l'ús de la IA en atenció primària fet per la Camfic.
Les eines que més utilitzen són ChatGPT d'OpenAI, Copilot de Microsoft i Axia –una eina del departament de Salut que està integrada a la història clínica electrònica que s'utilitza als CAPs i que té una gran biblioteca i condicions de seguretat i privacitat–.
Sisó creu que si l'estudi es fes ara, l'eina més utilitzada seria Claude, d'Antrophic.
Les fan servir, sobretot:
- Per a recerques bibliogràfiques i síntesis de literatura mèdica, per estar actualitzats.
- Per a la redacció i edició de textos mèdics.
- Per preparar sessions.
- Com a suport administratiu i en la redacció d'informes i mails.
- En la personalització d'eines d'educació sanitària.
- I per fer fulls per als pacients, amb recomanacions de caràcter dietètic i de comportament i estil de vida, segons les condicions de cada usuari.
Actualment disposen de fulls amb informació de 300 patologies diferents, escrits 15 idiomes.
La clau: tenir criteri i un mínim d'expertesa
A qui més beneficia la intel·ligència artificial, explica el doctor Sisó, és a la gent que és experta en una determinada temàtica. Persones amb anys d'experiència a qui la IA ajuda a fer en hores feines que abans trigaven dies en acabar, i que tenen prou criteri "per detectar els gaps, les trampes, errors i al·lucinacions" i per orientar les preguntes cap a on els interessa. "Els joves tenen més riscos de fer una delegació cognitiva i refiar-se'n més", el que s'anomena "deseskilling" o "neverskilling".
El "deseskilling" és la pèrdua de capacitats, coneixements o criteri per delegar o confiar massa en la tecnologia i el "neverskilling" és el risc de no arribar a aprendre mai una competència bàsica perquè una eina automatitzada t'ha fet la feina des del primer dia.
ChatGPT Health, en fase de prova als Estats Units
Als Estats Units, on la salut és un gran nínxol de mercat molt llaminer, OpenAI ja té en fase de proves ChatGPT Health i ChatGPT Health Care. La primera està orientada "a la salut i benestar" de la ciutadania i la segona, a professionals, empreses i proveïdors sanitaris.
En el cas de ChatGPT Health, abans d'explicar què és, ja avancen que tenen "sòlids controls de privacitat, seguretat i dades", uns elements que s'han convertit en els grans riscos de la intel·ligència artificial.
L'eina connectarà historials mèdics amb aplicacions de salut i benestar per "ajudar a entendre resultats recents de proves, preparar visites al metge, rebre consells sobre com enfocar la dieta i la rutina d'exercici, o entendre els avantatges i inconvenients de diferents opcions d'assegurança". Els seus dissenyadors ja alerten que està pensada "per donar suport a l'atenció mèdica, no per substituir-la".