IA i ètica: 86 països signen un acord poc concret per compartir els avenços tecnològics
La Cimera sobre l'Impacte de la IA s'ha tancat aquest dissabte a l'Índia amb la firma de l'acord diplomàtic més gran fet fins ara sobre intel·ligència artificial. S'ha anomenat "Declaració de Delhi" i l'han firmat 86 països i dues organitzacions, inclosos els de la Unió Europea --i la UE com a institució--, els Estats Units, Rússia o la Xina. L'acord no recull cap compromís concret sinó unes directrius que són voluntàries i no vinculants, una condició que han posat alguns països, com els Estats Units, per firmar-lo.
El document vol establir un marc ètic global davant el ràpid desenvolupament de la IA, una tecnologia que podria aconseguir la "superintel·ligència" en dos anys, segons han assegurat alguns líders de Silicon Valley en aquestes jornades. La cimera, que ha durat sis dies, s'ha tancat un dia més tard del previst per la falta d'acord sobre el redactat d'aquest document, que 12 països es resistien a firmar divendres, quan encara era vinculant.
Els Estats Units, que no van firmar la declaració de l'any passat, ha rebutjat "totalment" qualsevol governança mundial de la intel·ligència artificial.
El president del govern espanyol hi va intervenir dijous. Pedro Sánchez va defensar una IA guiada per l'ètica i els valors humans que ampliï "la democràcia, la llibertat i els drets humans":
Una IA "segura, fiable i sòlida"
"La IA marca un punt d'inflexió en la trajectòria de l'evolució tecnològica. Les decisions d'avui modelaran el món impulsat per la IA que heretaran les generacions futures", diu el text oficial publicat pel Ministeri d'Electrònica i Tecnologia de la Informació de l'Índia.
La Declaració de Delhi assegura que "promoure una IA segura, fiable i sòlida és clau per construir confiança i maximitzar els beneficis econòmics i socials". I proposa mancomunar capacitats de recerca en IA a escala internacional per "compartir els beneficis amb la humanitat".
Entre els riscos per a la seguretat que pot comportar aquesta tecnologia hi ha des de la desinformació fins als temors de la creació de nous patògens devastadors.
L'acord estableix la creació d'un "magatzem global" de seguretat --Trusted AI Commons--, on els països firmants compartiran els seus manuals per frenar errors de la IA abans que siguin perillosos. També la firma d'una "carta de democratització" perquè els països pobres puguin comprar xips a preus justos i no quedin fora de la carrera tecnològica. "Reconeixem la importància de la seguretat en els sistemes d'IA, les mesures voluntàries liderades per la indústria i l'adopció de solucions tècniques i marcs polítics apropiats que permetin la innovació", diu el manifest.
El text també prioritza l'ús de la IA en sectors crítics com la medicina i l'agricultura, amb models d'accés obert, i estableix un pla de contingència laboral davant l'impacte de l'automatització massiva en l'ocupació previst per als pròxims cinc anys.
També s'ha abordat l'alt consum energètic, d'infraestructures i recursos naturals que comporten els centres de dades i assenyalen la necessitat de "desenvolupar sistemes d'IA eficients des del punt de vista energètic".
Entre els temes analitzats també hi ha els avantatges de la traducció multilingüe amb IA i el repte d'adoptar marcs "apropiats" que estimulin la innovació alhora que promouen l'interès públic.
La democratització d'aquesta eina per evitar usos autocràtics i riscos existencials per a la societat era un dels punts defensats per països com França, el Brasil o l'Índia, als quals hi han posat pegues els Estats Units.
El cap de la delegació nord-americana, Michael Kratsios, que primer havia considerat aquesta regulació com a pura "cosmètica", ha assegurat que l'autonomia estratègica neix de posseir la tecnologia i no de limitar-la.
Durant la cimera, Sam Altman, d'OpenAI, ha instat els estats a descentralitzar el desenvolupament tecnològic per evitar l'emergència de "règims totalitaris" davant l'arribada de la superintel·ligència. I Demis Hassabis, de DeepMind, ha predit la culminació de la IA general d'aquí a cinc anys, el 2031.
Les jornades han mobilitzat inversions per valor de 300.000 milions de dòlars.
Aquesta ha estat la quarta cimera anual sobre IA, després de les fetes a França, Corea del Sud i el Regne Unit. La pròxima cimera d'IA es farà a Ginebra el 2027.
