El CEO d'Anthropic demana desaccelerar el desenvolupament de la IA: "L'hi devem a la humanitat"
El conseller delegat d'Anthropic, Dario Amodei, fa una crida urgent a les empreses del sector perquè moderin deliberadament el ritme a què avancen les capacitats dels models d'intel·ligència artificial.
"Hem d'alentir el ritme a què millorem les capacitats dels models d'IA. El progrés continuarà sent ràpid, i hem de fer un ús savi del temps que guanyem", ha escrit Amodei en l'assaig "We must pace the frontier" (Hem de vigilar la frontera), que ha publicat aquest dissabte al seu web personal.
El CEO d'Anthropic proposa esbossar una regulació del desenvolupament de la intel·ligència artificial i crear un marge de temps per gestionar-ne els riscos.
La reflexió i proposta de Dario Amodei guanya importància en coincidir amb la dimissió de l'enginyer d'Anthropic i d'OpenAI Jacob Coxon. Coxon va marxar acusant Anthropic i OpenAI de "subestimar el poder d'aquesta tecnologia" i alhora alertava de les conseqüències de no prendre mesures contundents a curt termini: "Les persones que construeixen la IA creuen sincerament que ens podria matar a tots abans de finals de la dècada."
El cap en ciència d'alineament d'Anthropic, Evan Hubinger, va donar la raó a Coxon en la seva previsió d'aquest termini per a l'aniquilació de la humanitat: "Coxon té raó, creiem fermament que la IA podria matar tots els humans! Personalment, crec que serà en >10% en la dècada vinent."
Els riscos d'una IA descontrolada
Ara és directament el CEO de la companyia qui planteja la necessitat de posar el fre i de regular el creixement de la intel·ligència artificial. Explica que ha treballat en IA durant els últims 12 anys i es reconeix un ferm defensor d'aquesta tecnologia perquè un bon ús pot augmentar de forma dràstica la qualitat de vida dels humans. Però, alhora, manifesta la seva por dels "riscos greus" que comporta una tecnologia tan potent si se'n fa un ús indegut --ciberatacs, bioterrorisme, disrupcions econòmiques.
Aquesta mateixa setmana, Anthropic ha fet públic que ha hagut d'intervenir per aturar operacions d'espionatge i vigilància contra dissidents polítics i minories ètniques fent servir Claude, l'assistent d'IA.
Uns incidents que Anthropic ha detectat entre els mesos de gener i juliol i que tenen el seu origen a la Xina, l'Iran i l'Àfrica Occidental. Eren, diu l'empresa d'intel·ligència artificial, operacions per controlar opositors al govern xinès a Hong Kong i a comunitats tibetanes, i per seguir i identificar opositors al règim iranià a l'exili. I, en el cas de Mali, es tractava de l'ús de Claude per part del govern recollir informació sobre dissidents. També recull altres usos perillosos i delictius de l'eina d'IA per dissenyar armes, fer investigacions biològiques dubtoses o crear aplicacions de cites falses per estafar els usuaris.
L'incident d'OpenAI-Hugging Face
Aquest estiu, afegeix Dario Amodei, dos fets l'han fet convèncer de la necessitat de treballar per reforçar la prevenció de riscos. D'una banda, l'avenç dràstic per construir la propera generació d'IA, que pot superar la capacitat humana d'entendre i controlar els sistemes. I, de l'altra, l'incident d'OpenAI-Hugging Face del juliol, en què models d'OpenAI van eludir els controls i van aprofitar forats de vulnerabilitat per accedir a sistemes informàtics de tercers. Un incident de pirateig de sistemes externs que, segons Amodei, "podria haver causat danys catastròfics".
El CEO d'Anthropic proposa un pla amb diverses mesures que prioritzi "la prudència davant la velocitat i el benefici" en el desenvolupament de la intel·ligència artificial. Demana que totes les empreses d'IA es comprometin amb la seguretat, que acceptin avaluadors i reguladors externs i que hi hagi una coordinació global de supervisió. Anthropic, diu Amodei, es compromet des d'aquest moment a sotmetre's a aquesta regulació.
També demana que els països democràtics es coordinin per establir estàndards de seguretat comuns que limitin l'avenç incontrolat de la IA per evitar, d'aquesta manera, que governs dictatorials puguin aprofitar-se'n en benefici propi.
Un crit d'atenció i alerta de Dario Amodei que s'afegeix als escenaris catastròfics dibuixats per altres experts en IA i que posa sobre la taula la necessitat de reflexionar sobre el futur de la humanitat.
De moment, la proposta de Dario Amodei ha estat ben rebuda dins el sector. El CEO d'OpenAI, Sam Altman, i Elon Musk, director d'X Corp i fundador de SpaceX, s'han mostrat receptius amb la proposta.
Altman creu que és una gran idea tenir avaluadors independents:
La reflexió del propietari de Grok, el magnat Elon Musk ha estat més lacònica: "Dario té raó".
