Regular la IA, una utopia? Què hi diuen els experts davant l'alarma dels últims dies

"Darrere la intel·ligència artificial no hi ha senyors baixets verds, amb ganes de fotre'ns. L'únic que hi ha és àlgebra lineal i computació, i això no té voluntat de fer res". 

Qui ho afirma és el matemàtic i enginyer Aleix Valls, fundador i director de We Artificial, que ajuda les empreses a treballar amb la IA. 

Amb la seva veu, mira de rebaixar l'alarmisme dels últims dies. "Algú pot fer servir la IA per matar-nos, igual que algú pot fer servir qualsevol tipus de tecnologia per intentar fer el mal, però que la IA tingui una voluntat pròpia d'acabar amb l'existència de la humanitat, a dia d'avui és científicament impossible", subratlla. Almenys per ara:

A dia d'avui és impossible. Avui. D'aquí deu anys no ho sap ni ell, ni ho saps tu, ni ho sé jo.

En aquest sentit, Valls explica l'alarma perquè els models d'IA han trobat solucions que els enginyers no esperaven. Però sense que això signifiqui que hagin adquirit consciència i hagin volgut "alliberar-se".

Davant d'advertències com les de Dario Amodei, Valls també hi veu raons empresarials, perquè Anthropic s'està planejant sortir a borsa:

Si ets un inversor i et diuen que aquesta empresa està a prop de trobar alguna cosa amb tal nivell de transformació, possiblement trobaràs molt interessant invertir-hi.

A més, la crida a una regulació més estricta també pot servir per cobrir-se les espatlles:

Si hi ha una regulació i alguna cosa surt malament, ja no n'ets responsable, perquè has fet el que t'han dit.

A més, una regulació molt estricta pot fer que altres empreses innovadores que vinguin al darrere ho tinguin més difícil, perquè "serà més car i complex arribar al mateix nivell" d'empreses com Anthropic o ChatGPT.  

Generalitzar un problema "molt concret"

Will Rinehart és investigador de l'American Enterprise Institute. Com Valls, aquests dies participa en una trobada organitzada per la patronal Foment del Treball, el Forward Summit, que reuneix empreses i experts en IA. 

Rinehart també és escèptic davant els escenaris més catastrofistes, com el de l'enginyer d'Anthropic que calcula un 10% de probabilitats d'una extinció de la humanitat per efecte de la intel·ligència artificial. Davant aquestes xifres, l'expert alerta que fer servir probabilitats és una manera "ràpida i fàcil de dir que estàs espantat, però en realitat no té cap base":

Molts informes han intentat analitzar això i bàsicament el que conclouen és que no és impossible, però és molt molt improbable.

De fet, creu que el que vol dir Dario Amodei és que està preocupat per agents que poden anar més enllà del que se'ls ha dit, però assegura que aquest és "un problema molt concret" que té ben poc a veure amb "un escenari com el que la IA matarà tothom".

Sí que admet que els nous models creen "nous problemes", i que això vol dir que "passarem dos anys durs mirant d'entendre com funcionen".

Valls també apunta a la necessitat de no precipitar-se a l'hora de regular, i posa per exemple l'eclosió de les xarxes socials, quan "ningú podia regular el dia zero" preveient els efectes nocius que podia tenir la xarxa social en un menor de 13 anys. 

Per tant, també haurà de ser una regulació "que vagi aprenent", diu. I llança una pregunta:

 Com pots regular una cosa que està en permanent construcció i que els mateixos que l'estan construint no saben ben bé quin aspecte tindrà d'aquí 12 mesos? Quan ho hagis regulat, ells ja hauran marxat.

La clau: saber frenar

Ara bé, rebaixar l'alarma i admetre les dificultats de regular no vol dir quedar-se de braços plegats, segons Valls. "Estem davant el desenvolupament d'una nova tecnologia que s'anomena de propòsit general, que vol dir que tots n'acaben fent un ús intensiu i, per tant, necessitarem una regulació d'aquesta tecnologia quan estigui impregnant tota la societat", admet.

I en aquest sentit, conclou que "la paraula 'frenar' és el que ha generat tota aquesta discussió".

El que diu en Dario Amodei és 'doneu-nos temps'. Per entendre bé aquesta nova generació de models, com funcionen millor. Això crec que és honest i que té sentit des d'un punt de vista tècnic i científic.

Ara bé, regular pot ser molt complicat quan les empreses competeixen per ser les primeres a arribar a la intel·ligència artificial general:

És com si diguessis al Barça que jugui més fluix i que no guanyi tant perquè hem de revisar l'esquema de joc: els jugadors marxarien.

La UE, amb les mans lligades

La competència també és geopolítica: a la Xina no podem controlar el que passa, com admet Rinehart, que també apunta que hi ha "centenars de casos als tribunals" dels Estats Units que s'han de resoldre abans de pensar en determinades regulacions. 

"Jo no diria que no cal regular en cap circumstància. Crec que ho hem de pensar molt bé, però encara estem a mig camí de tot això". I recorda: "OpenAI i ChatGPT només existeixen des del 2022. Encara estem en una fase molt inicial".

Qui ho té pitjor en aquest cas és la Unió Europea, amb les mans lligades per regular "perquè no té capacitat d'incidir en models que estan fent els nord-americans i els xinesos", explica Valls. 

Recorda que Europa va començar a regular la IA abans de l'aparició dels models de llenguatge, i es basava a garantir un bon ús de les dades, com el reconeixement facial, per exemple. Ara els nous models van molt més enllà.

Una alternativa és una participació pública molt més directa en el desenvolupament d'aquesta tecnologia. Amodei explica que uns avenços com aquests no haurien d'estar només en mans privades. "I té tota la raó", conclou Valls:

Si hi ha una forma d'acabar amb tot això és que sigui un tema de bé públic, no pas d'ànim de lucre privat.

Ara bé, com posar d'acord empreses milionàries, inversors i estats enfrontats per l'hegemonia tecnològica? Per Valls, serà molt complicat. "No vam regular la bomba atòmica abans d'utilitzar-la. Per tant, tret que patim una catàstrofe global que ens obligui a reaccionar, costa de creure que aconseguirem una regulació efectiva de la intel·ligència artificial de manera preventiva."