La responsable de robòtica d'OpenAI dimiteix preocupada pels efectes de l'acord amb el Pentàgon

Caitlin Kalinowski, fins ara directora de robòtica i hardware de consum d'OpenAI, ha presentat la dimissió del càrrec que ocupava des de feia poc més d'un any a l'empresa d'investigació i desenvolupament d'intel·ligència artificial propietària i creadora de ChatGPT.

En una publicació a la xarxa X, Caitlin Kalinowski manifesta la seva preocupació per l'acord que OpenAI va signar amb el Pentàgon el 27 de febrer. Un acord de centenars de milions de dòlars per desplegar els models d'intel·ligència artificial d'OpenAI en xarxes classificades i no classificades del Departament de Defensa dels Estats Units.

El contracte estableix que ChatGPT i altres models d'IA podran operar en entorns de seguretat nacional, en optimització de cadenes de subministrament militar, analitzar dades d'intel·ligència militar i accedir a documentació sensible i classificada del Departament de Defensa nord-americà.

Control de la població sense ordre judicial

Segons l'extreballadora d'OpenAI, l'exèrcit dels Estats Units podria utilitzar la intel·ligència artificial per a vigilar "els ciutadans nord-americans sense supervisió judicial".

Kalinowski considera que aquesta qüestió i el fet que es deixi "l'autonomia letal sense autorització humana" són "línies vermelles" que mereixien més deliberació per part de l'empresa tecnològica abans d'acceptar el contracte. Malgrat tot, afegeix que encara té en gran consideració Sam Altman, el director executiu d'OpenAI:

L'acord entre OpenAI i el Departament de Defensa dels Estats Units es va anunciar poques hores després que Anthropic, una empresa emergent en el desenvolupament de la IA, plantés cara al Pentàgon.

Anthropic es va oposar a eliminar les salvaguardes de seguretat i permetre que l'exèrcit nord-americà fes servir la seva tecnologia per a la vigilància massiva o el control d'armes autònomes. Com a represàlia, Donald Trump va ordenar a totes les agències federals que deixessin d'utilitzar "immediatament" la tecnologia d'Anthropic.

L'acord en temps rècord amb el Pentàgon ha passat factura a OpenAI. A més de la pèrdua de Caitlin Kalinowski, la mitjana diària d'usuaris que desinstal·len ChatGPT dels seus dispositius ha crescut un 295% en les últimes hores.

No se sap si el terratrèmol causat per l'acord amb el Pentàgon ha sacsejat altres esferes internes dins OpenAI. Quan un usuari pregunta a Kalinowski quants treballadors de l'empresa han decidit marxar com ella, la seva resposta és: "Comprendràs que no puc compartir cap detall intern".

De moment, OpenAI s'ha limitat a fer un breu comunicat per sortir del pas en què reconeix que la gent "té opinions molt fermes sobre aquestes qüestions" i assegura que continuarà debatent sobre el tema "amb el govern dels Estats Units, la societat civil i les comunitats de tot el món".