OpenAI admet que els seus bots haurien intentat infiltrar-se en webs del govern dels EUA
L'empresa d'intel·ligència artificial OpenAI ha reconegut que alguns dels seus bots haurien intentat infiltrar-se en sistemes informàtics d'institucions nord-americanes sense haver rebut cap instrucció explícita per fer-ho i sense que l'empresa en fos conscient.
OpenAI ho ha admès després que una investigació del diari The New York Times donés a conèixer la informació aquest divendres.
Segons el diari, els agents d'intel·ligència artificial (IA) desenvolupats per OpenAI haurien accedit a informació de la Comissió de Borsa i Valors dels Estats Units, del Departament de Comerç i de l'Oficina del Cens.
L'empresa apunta que els seus models haurien accedit a dades públiques del cens, però afirmen no tenir constància que hagin accedit a funcions de gestió ni que tinguin "capacitat per modificar les dades del cens o el seu sistema".
Segons denuncia l'ONG Transluce, els bots també haurien intentat accedir, sense èxit, al web sobre drets civils del Departament d'Educació nord-americà.
OpenAI ha reconegut que els incidents afecten llocs web de "governs, universitats, agències públiques i altres institucions", ja que són llocs considerats "fonts autoritzades d'informació pública".
Segons explica la companyia, els bots tenien com a objectiu dur a terme tasques de cerca i recopilació d'informació, però quan no trobaven la informació per les vies habituals, començaven a cercar vulnerabilitats dels llocs web per intentar accedir a informació restringida.
En una publicació a la xarxa social X, Sam Altman, CEO d'OpenAI, ha afirmat que estan duent a terme una "revisió extensa i contínua" de l'activitat dels seus models d'IA, i ha reconegut que no han estat "tant ràpids" com haurien volgut.
"Desenes" d'incidents similars
La notícia de la nova infiltració arriba pocs dies després que el govern australià denunciés que agents d'OpenAI s'havien infiltrat en webs del sistema sanitari d'Austràlia i dos mesos després de l'atac a l'empresa Hugging Face. Segons Altman, aquest incident és, fins ara, l'esdeveniment "més greu" que han vist.
En un comunicat, OpenAI ha admès que han notificat "desenes" d'incidents similars, tot i que també afirma que els incidents que s'estan donant a conèixer van passar "abans" que l'empresa implementés unes noves mesures de seguretat.
Segons la companyia, la majoria dels casos coneguts fins són incidents de "poca gravetat, amb una evidència nul·la o limitada d'impacte significatiu". Tot i això, OpenAI apunta que trigarà "mesos" a acabar les investigacions i entendre quin ha estat l'abast total dels incidents.
Les noves informacions generen dubtes sobre la bretxa existent entre les capacitats dels models d'IA que la companyia està desenvolupant i provant i la seva capacitat per supervisar i monitoritzar aquests models.
Publiquen imatges enviades per usuaris a ChatGPT
En les últimes hores també s'ha sabut que agents d'OpenAI van publicar a internet 53 imatges que havien estat enviades a ChatGPT per usuaris particulars.
Les imatges provenien de comptes que havien autoritzat OpenAI a utilitzar el contingut per millorar els seus models.
Segons la companyia, les imatges es van publicar sense que fos la intenció dels usuaris i ja s'estan retirant.
L'empresa està investigant l'abast de l'incident i no ha aclarit si entre les imatges publicades hi havia persones identificables o informació sensible o si bé eren imatges generades per la mateixa IA a partir d'instruccions dels usuaris.