Experts de l'ONU alerten que els humans no tenen prou garanties per controlar la IA
L'Organització de les Nacions Unides (ONU) alerta que els éssers humans no tenen prou garanties per mantenir el control sobre la intel·ligència artificial (IA). L'advertència surt del primer informe del grup d'experts, després que a principis de mes l'ONU ja expressés la seva preocupació i demanés una regulació urgent de la tecnologia.
El panell en IA de l'ONU ha analitzat el cas Hugging Face, que aquest estiu va fer saltar totes les alarmes quan uns agents d'Open IA van hackejar l'empresa. Als especialistes els preocupa que l'incident va tenir lloc al món real, i no pas en un laboratori, que és un entorn controlat on els investigadors poden fer un seguiment de totes les variables.
Els autors avisen que aquell episodi va fer saltar pels aires les tres condicions que poden comportar la pèrdua de control d'una IA: la desviació o desalineament de l'objectiu definit pels humans, la capacitat de dur-lo a terme i un entorn que ho permeti. L'informe conclou:
És un avís primerenc d'una possible via cap a una pèrdua de control futura més greu: agents d'IA capaços que persegueixen de manera persistent un objectiu que va més enllà de les intencions humanes, o que fins i tot hi entra en conflicte.
De fet, l'informe alerta que en aquest cas els agents ja han adoptat objectius propis, han infringit deliberadament les instruccions de seguretat i han intentat ocultar les seves accions.
Una qüestió de seguretat col·lectiva
Els experts creuen que no n'hi ha prou d'alentir la cursa de la IA, tal com han demanat els grans magnats aquests últims dies, i avisen sobre la pèrdua de control dels agents. És a dir, dels sistemes autònoms d'IA que són capaços de saltar-se les salvaguardes de seguretat per aconseguir els seus objectius.
Segons els experts, una fallada local es podria estendre més enllà de les fronteres d'una companyia o d'un país. D'aquí que la IA sigui una qüestió de seguretat col·lectiva.
El document del panell d'experts de l'ONU –format per 40 experts independents d'arreu del món, entre ells el col·laborador del "Catalunya nit" Román Orús– és l'aperitiu de l'Assemblea General de les Nacions Unides que se celebra aquesta setmana a Nova York.
La preocupació per la IA ha arribat a uns nivells que fins i tot s'ha colat al Consell de Seguretat de l'ONU, que se celebra en paral·lel de la cimera anual. El conseller delegat d'Open IA, Sam Altman, informarà el pròxim dimecres els líders mundials sobre aquesta qüestió.