Claus del debat sobre la IA: més veus demanen frenar una tecnologia que pot amenaçar la humanitat

En ple debat sobre els greus riscos de seguretat de la intel·ligència artificial (IA), les principals tecnològiques es mostren partidàries d'alentir el seu ritme de desenvolupament. Als Estats Units, aquesta qüestió ha irromput de ple al Congrés.

Enmig del debat, les companyies tecnològiques es posicionen a favor de reduir una velocitat. Qui ja ha mogut fitxa és l'empresa creadora de ChatGPT, que ha anunciat que posa el fre de mà i que OpenAI no sortirà a borsa el 2026, com estava previst.

"Tenint en compte tot el que passa en matèria de seguretat, ara mateix seria poc aconsellable sortir a borsa, i no sentim cap pressió per fer-ho", ha dit el conseller delegat d'OpenAI, Sam Altman, a la revista Fortune.

La marxa enrere borsària d'OpenAI arriba després d'una setmana en què el debat sobre la seguretat de la IA ha fet un salt exponencial a partir de la dimissió d'un enginyer d'Anthropic, Jacob Coxon, que alerta que "la IA ens podria matar a finals de la dècada".

El conseller delegat d'Anthropic, Dario Amodei, va sortir al pas demanant que es desacceleri el desenvolupament de la IA, però res indica que la seva companyia tingui previst aturar la sortida a borsa, prevista per a mitjans d'octubre com a molt aviat.

Des de Pequín, el principal competidor amb Washington en la cursa del desenvolupament d'aquesta nova tecnologia, el ministre de Seguretat de Xina, Chen Yixin, ha demanat construir una "barrera de seguretat" al voltant de la IA perquè, segons ha alertat, s'ha convertit en una nova via de "rivalitat entre grans potències".

Ja aquest estiu, el president xinès, Xi Jinping, va demanar una governança "precisa i efectiva" de la IA i la Xina va crear a Xangai una organització internacional de cooperació sobre IA amb una trentena de països.

Amodei: "La indústria va mentir" sobre el perill de la IA

Amodei ha apujat el to del debat i diu que "la indústria va mentir" sobre el perill de la IA, per la qual cosa el govern i els ciutadans han d'intervenir.

"No us mentiré: hi ha perills reals. I crec que durant massa temps la indústria va mentir a la gent sobre el fet que aquesta tecnologia tenia riscos. Nosaltres [a Anthropic] no vam mentir, però bon part de la indústria sí que ho va fer." Amodei, però, rebutja una "prohibició completa" de la tecnologia.

El cap visible d'Anthropic reconeix que se sent "incòmode" pel fet que sigui una empresa privada i no un govern elegit de manera democràtica qui estigui al capdavant d'una eina tan poderosa, per la qual cosa va demanar que hi hagi una "combinació de governs democràtics" que tinguin una "governança conjunta" i un seguiment de les companyies d'IA.

"Si construïm de la manera correcta [la IA], crec que la probabilitat que passi alguna cosa dolenta és molt baixa. Si la construïm d'una manera incorrecta, la probabilitat que passi alguna cosa dolenta és molt alta", ha apuntat en una entrevista a la CBS.

En canvi, les principals tecnològiques, inclosa X d'Elon Musk, sí que semblen estar d'acord en la necessitat d'alentir el ritme. Un alineament inèdit en el sector de la IA, immers en una lluita permanent pel lideratge del sector i dels ingressos que se'n deriven.

Els responsables d'aquestes primeres espases tecnològiques coincideixen que cal frenar el desenvolupament d'aquests models informàtics per evitar que es descontrolin. Proposen guanyar temps per entendre millor com funciona aquesta tecnologia i evitar que vagi per lliure i se'ls escapi de les mans.

Tot plegat, després que alguns extreballadors i exdirectius hagin admès sense embuts que els espanta el potencial de la intel·ligència artificial.

És el cas de Jacob Coxon, l'enginyer d'Antrophic que aquesta setmana va dimitir alertant que no s'inverteix prou en seguretat per controlar la IA. Aquest diumenge, en una entrevista a la BBC, ha reiterat el potencial d'aquesta tecnologia per arribar a matar humans i ha assegurat que els directius de les empreses del sector són conscients d'aquest escenari.

Els experts veuen motius de preocupació i aposten per alentir la IA

Alguns experts consultats per 3CatInfo consideren que el posicionament conjunt de les principals empreses podria respondre només a una estratègia publicitària per guanyar notorietat i atraure inversors. Però d'altres ho consideren una bona notícia per generar consciència sobre els riscos de la IA.

Així ho expressa el director de l'Institut d'Intel·ligència Artificial del Barcelona Supercomputing Center (BSC), Diego Merino. "Hem entrat en un debat apocalíptic que crec que és important que estigui sensibilitzant", diu Merino. Merino veu necessari que l'avenç de la IA s'acompanyi d'"investigació i inversió en tema de control" per controlar i minimitzar els riscos.

Ara bé, és exagerat el neguit actual per l'evolució de la IA? Els experts veuen fonamentada la preocupació per la rapidesa amb què avança aquest sector.

Ho diu Manuel Sanromà, membre de la Internet Society i president de CIVIC Ai, que treballa per al bon ús de la intel·ligència artificial. Adverteix que, a partir del reguitzell d'incidents com el de Hugging Face al juliol, quan la IA va poder hackejar per decisió pròpia, "tothom ha reconegut que això es pot escapar de les mans, són llums en groc i això no és opinable".

De fet, la inacció, diu, podria portar "en el termini d'1, 2 o 3 anys" a un "incident greu no desitjat, que afecti centenars de milions de persones econòmicament, físicament o vitalment, i que costi molt d'arreglar".

Davant aquesta perspectiva, Sanromà creu que urgeix actuar. "Potser comença a ser hora que el món es posi d'acord amb aquestes empreses que diuen que això és perillós, per fer alguna cosa."

I com s'aborda una missió tan complexa que ni el mateix Bill Gates ha trobat la manera d'encarar? El president de CIVIC Ai creu que les empreses poden "parar la cursa [tecnològica]", però també avisa que cal un paper més rellevant dels governs.

A l'ONU, diu, "no els fa cas ningú" i els Estats Units i la Xina, afegeix, no posaran el fre. Per això valora que cal que la UE, fins ara amb un paper secundari, "s'assegui amb els laboratoris i prengui alguna iniciativa".

Manuel Sanromà creu que la humanitat no parteix de zero, sinó que hi ha models en altres àmbits que ja s'han demostrat útils per posar límits, "com els acords amb l'energia nuclear o la minimització de riscos en la navegació aèria".

I, tot, com recorda Sanromà, tenint present que la IA està comportant "grans avenços tècnics" que no s'han de frenar en camps com la medicina, l'arqueologia o el coneixement de l'univers, entre molts d'altres. "Sense necessitat d'aturar la IA, cal reduir una marxa, asseure's, i establir i signar uns protocols mutus de seguretat, com un pacte amb els senyors feudals", en referència als propietaris de les tecnològiques.

Tecnologies que polaritzen o causen problemes de salut mental? No

Nuria Oliver, vicepresidenta d'Ellis, una xarxa europea per una IA centrada en l'ésser humà, posa el focus en l'ètica i la responsabilitat. "No tot desenvolupament tecnològic és progrés", diu.

"¿Desenvoluparem una cosa que polaritzarà la societat, que ens manipularà, que causarà una gran crisi de salut mental en els nostres infants i adolescents, que ens farà menys intel·ligents, que tindrà un impacte molt negatiu en el medi ambient?" Creu que no hauríem de fer-ho i que la resposta, el gran repte, és la supervisió humana.

Oliver remarca que l'element que fa avançar a gran velocitat la capacitat de la IA són els "agents" i l'autonomia que se'ls delega perquè puguin actuar, fins i tot coordinar-se entre ells, al marge del control humà.

Aquí rau, diu, l'origen de tots els incidents que hi ha hagut amb la IA els darrers mesos. A parer d'Oliver, no s'hauria de delegar mai en una IA una tasca que pot tenir impacte en milions de persones. I, si es fa, les persones han de ser sempre capaces d'entendre què passa i tenir la capacitat d'intervenir: "Intel·ligència artificial fiable", diu.

"Per a què volem la IA? Perquè ens ajudi a abordar els reptes del segle XXI, perquè ens ajudi a tenir una medicina de precisió, una energia eficient, millors models del clima, més avenços en ciència. No pas perquè milers d'agents d'intel·ligència artificial pul·lulin sense control per internet", conclou.

Algunes veus interpreten la frenada anunciada per les grans tecnològiques com una estratègia per atreure els inversors després de les últimes notícies preocupants sobre la IA.

En una altra entrevista a 3CatInfo, Judith Membrives i Llorens, doctoranda de la UOC i responsable d'IA i Drets Humans a Lafede-Justícia Global, detalla que "el marc narratiu que estan intentant imposar és que la intel·ligència artificial és una tecnologia molt perillosa i que, per tant, només uns pocs poden desenvolupar-la i controlar-la. I aquests mateixos pocs que la poden desenvolupar i controlar són els que han de fer les regles de com s'ha de desenvolupar i controlar".

En un sentit similar s'expressa l'expert en cultura digital Jordi Sellas, que veu darrere d'aquests anuncis una estratègia coordinada dels interessos de les tecnològiques per irrompre amb millor peu al mercat borsari. "Crec que té més d'estratègia empresarial de cara a la sortida a borsa que no pas d'una actitud real sobre allò que passa", valora Sellas.

El debat irromp a la política dels EUA

La regulació de la IA s'ha fet ben present en les darreres hores als Estats Units, amb posicions del tot oposades a la Cambra dels Representants.

El mateix president dels EUA, Donald Trump ha sortit al pas assegurant: "Anem al davant de la Xina en intel·ligència artificial. Som el país més sofisticat del món i, francament, vull que això continuï així, perquè qui guanyi aquesta cursa, guanya."

Un altre republicà de pes, el líder del Congrés, Mike Johnson, també s'ha negat de ple a impulsar una legislació que posi en pausa el desenvolupament de la IA: "No podem imposar una moratòria a això, perquè la Xina ens passarà al davant. I aquest és el repte. És l'equilibri entre la seguretat nacional i la seguretat immediata de garantir que els models [d'IA] siguin segurs".

Johnson s'oposa a una moratòria d'emergència, però sí que demana una reunió amb els gegants del sector.

La inacció dels republicans davant una demanda creixent de frenar la IA ha rebut crítiques del costat demòcrata. El seu líder a la Cambra de Representants, Hakeem Jeffries, ha demanat al Congrés "actuar amb urgència" per alentir la IA.

Una altra veu de pes, la de l'expresident dels Estats Units Barack Obama, també reclama alçar el peu de l'accelerador de la IA. Obama diu que podria ser "perillosa" si no es gestiona adequadament.