Anthropic demana una pausa global de la IA abans que en "perdem el control"

Aturar els nous avenços de la intel·ligència artificial (IA) perquè la humanitat tingui temps d'adaptar-s'hi. És la proposta que ha llançat Anthropic, una de les empreses capdavanteres del sector, després d'arribar a la conclusió que els humans en podríem "perdre el control".

En un text publicat al blog del seu centre d'investigació, The Anthropic Institute, la companyia ha revelat que fa servir cada cop més els seus propis sistemes d'IA per desenvolupar la mateixa IA i millorar-la. En altres paraules, la IA cada cop és més capaç de millorar-se ella mateixa i, per tant, el moment que una IA creï un nou model de manera autònoma és més a prop.

Anthropic adverteix que aquesta és una realitat que acabarà arribant, i demana aquesta "pausa" global per assegurar que les institucions estiguin preparades.

Seria bo per al món alentir o suspendre temporalment el desenvolupament de la IA d'avantguarda, per tal que les estructures socials i la recerca puguin seguir el ritme dels avenços tecnològics.

De fet, fa només dos mesos que Anthropic va ser notícia perquè un dels seus models, Mythos, es va demostrar capaç d'actuar amb capacitat maliciosa i sense la supervisió d'un humà.

Per això, la creadora de Claude, màxima competidora d'OpenAI, Google i el xinès DeepSeek, demana la col·laboració de les grans companyies del sector per establir un sistema de coordinació mundial i que cap empresa aprofiti aquest període per avançar-se a les altres.

Apunta que, sense aquest mecanisme de control, empreses i governs hauran de prendre "decisions de seguretat difícils, sota la pressió de la competència i dels reptes geopolítics". I posa com a exemple el tractat sobre forces nuclears de mitjà abast que els Estats Units i la Unió Soviètica van signar als anys 80 per eliminar míssils balístics amb capacitat nuclear. Aquell marc va tardar dècades a establir-se, però en el cas de la IA hi ha més urgència perquè –diu– és "molt més fàcil d'amagar que els míssils".

Però moltes tecnològiques als Estats Units estan en contra de qualsevol mesura que posi fre al desenvolupament de la IA, perquè temen que això pugui afavorir que la Xina els prengui la davantera. Tot i això, en la seva visita a Pequín aquest mes de maig, el president nord-americà, Donald Trump, va plantejar la possibilitat d'una cooperació entre tots dos països pel que fa a la seguretat de la IA.

En la batalla per anar sempre una passa endavant en el desenvolupament de nous models d'IA, Anthropic s'ha construït una imatge de laboratori que situa l'ètica i la seguretat al centre. Fins al punt que les seves competidores, i també la Casa Blanca i el Pentàgon, s'hi han enfrontat amb acusacions d'exagerar riscos i de dur a terme una estratègia de màrqueting de la por.

Chris Olah i l'encíclica sobre els perills de la IA

El text el signa Marina Favaro, directora de The Antropic Institute, i Jack Clark, un dels cofundadors d'Anthropic. Un altre dels cofundadors de l'empresa, Chris Olah, va ser fa pocs dies precisament a la presentació de la primera encíclica del papa Lleó XIV. Titulada "Magnifica Humanitas", està dedicada a alertar sobre els perills de la IA i reclama controlar-ne i limitar-ne l'abast.

Extreballador d'OpenAI, la companyia que va abandonar per fundar Anthropic, Olah va demanar prendre's la IA "seriosament" i orientar-la a una "millor direcció". També va assegurar que els "incentius" que reben alguns laboratoris poden arribar a fer-los perdre de vista el que és correcte i el que no ho és pel que fa al desenvolupament de la IA, i va demanar més regulació tecnològica.