Anthropic, l'empresa que planta cara al Pentàgon per l'ètica en la intel·ligència artificial
Als Estats Units s'ha obert una disputa pels límits en l'ús militar de la intel·ligència artificial.
Anthropic, una de les principals empreses emergents del sector, ha plantat cara al Pentàgon: s'oposa a eliminar les salvaguardes de seguretat que permetrien a l'èxèrcit nord-americà utilitzar la seva tecnologia per a armes autònomes o vigilància massiva.
Els arguments ètics contra el Pentàgon
"No podem en plena consciència accedir a la demanda", al·lega el director executiu d'Anthropic, Darío Amodei, en un comunicat aquest divendres.
Aquesta start-up de San Francisco considera que, d'una banda, els sistemes massius de vigilància civil als EUA són incompatibles amb els valors democràtics.
De l'altra, no creu que la IA sigui avui en dia prou fiable per confiar-li armes completament autònomes, sense cap supervisió humana.
No subministrarem intencionadament un producte que posi en perill militars i civils nord-americans
200 milions de dòlars en joc
El secretari de defensa dels Estats Units, Pete Hegseth, ha amenaçat d'anul·lar el contracte actual amb Anthropic de fins a 200 milions de dòlars, qualificar l'empresa com a risc per a la cadena de subministrament i, fins i tot, recórrer a poders legals per forçar la retirada de les salvaguardes. Es tractaria d'activar una llei votada el 1950 que permet forçar una empresa privada a produir béns per a la defensa del país.
L'ultimàtum acaba aquest divendres a la nit. Anthropic assegura que està preparada per fer una transició ordenada si el Pentàgon decideix cancel·lar el contracte.
L'empresa ha desenvolupat un sistema de llenguatge de nom Claude, similar a ChatGPT. És el primer sistema d'intel·ligència artificial que s'utilitza a l'exèrcit dels EUA, que el va fer servir, per exemple, en l'operació per capturar Nicolás Maduro.
L'ètica està a l'ADN d'Anthropic
Aquesta companyia de San Francisco la va fundar el 2021 Darío Amodei, un emprenedor de pare italoamericà, que figura entre les 100 persones més influents del món, i que reivindica un enfocament ètic en la intel·ligència artificial des de l'inici.
La disputa ha mobilitzat també 200 treballadors de Google i de l'empresa propietària de ChatGPT, que han donat suport a la postura d'Anthropic d'oposar-se a l'ús sense restriccions que vol el Pentàgon.
