Lleó XIV reclama "desarmar" la IA per evitar-ne els perills en la seva primera encíclica
El papa Lleó XIV ha presentat aquest dilluns al Vaticà, a Roma, la seva primera encíclica: l'ha dedicada a alertar sobre els perills que la intel·ligència artificial, la IA, comporta per als humans i a reclamar controlar-ne i limitar-ne l'abast.
L'ha titulada "Magnifica Humanitas", traduïble per "La humanitat en la seva grandesa", i l'ha relacionada amb l'encíclica històrica del papa del qual es considera hereu, Lleó XIII, la "Rerum Novarum" ("De les noves realitats"), del 1891.
En aquell text aquell papa va fixar el que s'ha conegut com a "doctrina social de l'Església" davant la Revolució Industrial, i ara té l'ambició de fer el mateix amb la revolució actual que suposa la IA.
De fet el text, de 110 pàgines, el va signar fa 10 dies, el 15 de maig, data en la qual es complia el 135è aniversari de la publicació d'aquella encíclica, de manera que ha deixat molt clara la seva intenció.
En la presentació hi ha pres part un convidat molt significatiu: Christopher Olah, cofundador d'Anthropic, que és una de les principals empreses dedicades a la IA, i creadora del model Claude, un dels més eficients que existeixen.
"Sostreure la IA de la lògica econòmica i geopolítica"
L'encíclica no critica la IA "per se", sinó per l'ús que se n'està fent i per les previsions que pugui empitjorar en el futur, i per això reclama "desarmar-la" per "sostreure-la" de la lògica econòmica i geopolítica":
Desarmar no significa renunciar a la tecnologia, sinó impedir el seu domini sobre allò que és humà.
En aquest sentit, reclama "prudència i controls rigorosos" i frenar-ne l'aplicació per abans fixar clarament les responsabilitats tant dels que la creen, com dels que la controlen, com dels que la utilitzen:
No n'hi ha prou d'invocar genèricament l'ètica, calen marcs jurídics adequats, vigilància independent, educació dels usuaris i una política que no renunciï a la seva feina.
La IA "sap imitar llenguatges i simular empatia"
El text alerta sobretot de l'aparença d'intel·ligència de la IA i remarca les diferències que considera que hi ha amb la intel·ligència humana. En particular es fixa en el fet que saben "imitar llenguatges" o "simular empatia".
Però insisteix que els models d'IA "no tenen cos, no passen per l'alegria ni pel dolor, no maduren les relacions ni coneixen des de dins què signifiquen l'amor, el treball, l'amistat i la responsabilitat":
Tampoc tenen una consciència moral: no jutgen el bé i el mal, no capten el sentit últim de les situacions ni assumeixen el pes de les conseqüències.
Per això afirma que "pot resultar gratificant i fins i tot útil", però adverteix que "als usuaris poc conscients" els pot portar a engany i "donar la falsa impressió d'estar en una relació amb un subjecte autèntic".
"Tendeix a reforçar estereotips" dels creadors
Segons l'encíclica, un altre gran perill és que la IA es presenta com una tecnologia neutral i objectiva, però que tendeix a "reflectir i reforçar estereotips o posicions ideològiques" dels seus creadors.
I afirma que aquests creadors són unes quantes empreses que estan acumulant un poder cada vegada més enorme de manera molt ràpida sense haver-se sotmès mai al control de les institucions públiques:
Quan un poder d'aquesta magnitud es concentra en poques mans tendeix a fer-se opac i a eludir el control públic.
Els efectes en les guerres i en l'economia en general
Alerta sobretot de les conseqüències en dos àmbits: d'una banda en els conflictes bèl·lics, on pren decisions no humanes, i de l'altra en l'activitat econòmica en general, on pot generar molta desigualtat.
En el primer, remarca que la IA és "un factor d'acceleració" que "pot afavorir la defensa i la protecció dels civils, però també pot fer baixar el llindar de l'ús de la força" i empitjorar allò pitjor de les guerres:
Pot alimentar una cultura en què l'enemic queda reduït a una dada i la víctima a un dany col·lateral.
En aquest sentit, el papa reclamar superar "la teoria de la guerra justa, invocada massa sovint per justificar qualsevol guerra" i critica que la pau s'acaba presentant com "un interval precari entre conflictes".
En el segon àmbit, l'econòmic i laboral, alerta que "contràriament als beneficis anunciats", els models d'IA poden provocar just el contrari, i deixar molta gent sense feina:
Els enfocaments actuals de la tecnologia poden paradoxalment desespecialitzar els treballadors, sotmetre'ls a una vigilància automatitzada i relegar-los a feines rígides i repetitives.
Per això reclama que la seva aplicació a nous àmbits s'acompanyi de "mesures verificables de protecció de l'ocupació" per "orientar-la a alliberar temps i capacitats humanes, i no a generar exclusió".
I anant més enllà, el papa alerta que els models d'IA afavoreixen la creació de perfils falsos i d'algoritmes que "amplifiquen contactes perillosos" que faciliten el "xantatge i l'explotació sexual de menors".
Lleó XIV no ha dubtat a alertar dels perills que la IA s'acabi convertint en l'eina per una nova forma d'esclavitud, i aprofita per demanar disculpes perquè l'Església va trigar segles a condemnar l'esclavatge.
