Anthropic tanca l'accés al programa d'IA Mythos perquè el govern Trump el veu com una amenaça

La start-up nord-americana d'intel·ligència artificial Anthropic ha desactivat els seus models més avançats per a tots els usuaris al cap de tres dies del llançament comercial. Ho ha decidit després que el govern dels Estats Units hagi ordenat a la companyia que suspengui l'accés a aquests models als ciutadans estrangers, al·legant motius de seguretat nacional.

Davant la impossibilitat de filtrar els usuaris segons la seva nacionalitat, Anthropic ha optat per desactivar de manera generalitzada els models Fable Five i Mythos Five, per a tots els clients.

Segons un comunicat de l'empresa, divendres van rebre una directiva de la Secretaria de Comerç de l'administració Trump segons la qual el govern havia detectat una via que podien fer servir els ciberdelinqüents per eludir les salvaguardes de seguretat del programa.

Un model amb tallafocs de seguretat

Justament, el Mythos five és la versió "segura" del programa original d'Anthropic, que va encendre totes les alarmes fa dos mesos quan el van presentar.

Es va considerar que era una eina molt potent per detectar vulnerabilitats en els sistemes informàtics i que podria deixar exposada la ciberseguretat mundial, perquè el Mythos original es va mostrar capaç d'actuar amb intenció maliciosa sense la supervisió d'un humà.

Per evitar usos maliciosos dels seus nous models d'IA, Anthropic havia ideat un sistema de contenció que limita de manera automàtica les respostes a les consultes sobre temes sensibles de ciberseguretat, biologia i química.

Quan Mythos detecta aquestes preguntes, el sistema les desvia automàticament cap a un altre model d'IA amb menys capacitat que no les pot resoldre. Tot i això, la Casa Blanca assegura que hi ha trobat esquerdes de seguretat.

Regulació o innovació?

Josep Maria Ganyet, especialista en intel·ligència artificial i CEO de Mortensen, entén que hi ha d'haver regulació governamental sobre els programes d'intel·ligència artificial per evitar mals majors.

En una entrevista a 3CatInfo, Ganyet apunta que es tracta de programes molt potents i no es poden fer experiments sense limitacions "com ha passat amb el ChatGPT, que no sabem quines conseqüències pot arribar a tenir".

Per això defensa l'autoritat dels estats per regular en un sector amb un potencial gairebé il·limitat com la IA. I considera que el fet d'establir límits no frena la innovació: "Aquí hi ha una falsa dicotomia que presenta els Estats Units com a grans innovadors i a la vella Europa com a reguladors. I no és veritat. Els Estats Units regulen, i la demostració la tenim ara en aquesta prohibició."

"Els EUA regulen, regulen molt i, no obstant això, innoven. Per tant, regular no és l'antítesi d'innovar. És més, perquè hi hagi innovació i cal regulació", diu Ganyet.

El contenciós entre Anthropic i el Pentàgon

Ja fa mesos que s'arrossega el contenciós entre Anthropic i el Pentàgon per diferències profundes sobre l'ús militar de la intel·ligència artificial.

L'empresa es va negar a l'exigència del Departament de Defensa dels Estats Units de permetre-li accedir a totes les eines sense restriccions amb finalitats militars i de vigilància domèstica.

Arran d'aquesta negativa el govern de Trump va considerar Anthropic com un risc inacceptable per a la seguretat nacional dels Estats Units i el Pentàgon va boicotejar-la fins al punt que la comercialització dels seus productes va quedar bloquejada.

Una relació ambivalent

Actualment, la Casa Blanca ha derivat els seus contractes en matèria d'intel·ligència artificial amb finalitats militars i d'espionatge a l'empresa Open Air. Però, tot i així, el Departament de Defensa fa servir programes d'Anthropic "perquè els seus models avançats són els millors", assegura el CEO de Mortensen.

En aquest estira i arronsa entre Anthropic i l'Administració Trump, Josep Maria Ganyet creu que l'empresa no hi ha perdut, tot i les restriccions i els vetos: "S'ha de posar en valor el fet que Anthropic hagi plantat cara, inclús a risc de perdre projectes, clients i posició al mercat. Però tot i això li ha anat molt bé."

"Arran d'aquestes prohibicions i com que s'ha mostrat ferm davant dels del govern dels Estats Units, han incrementat les subscripcions als seus models. Són els que ara estan més ben valorats... i hi ha aquesta relació ambivalent", explica Ganyet.

En el rerefons hi ha una lluita pel poder i per com es limita: "Aquestes tecnologies donen un gran poder a qui les controla, i per això el govern dels Estats Units ha decidit prohibir l'accés a gent que no siguin nord-americans. Aquests models són tan avançats que qui els controla té un gran avantatge competitiu sobre la resta."