Treballadors d'OpenAI, Anthropic i Google demanen a Washington que reguli el creixement de la IA
Més de mil treballadors de les empreses d'intel·ligència artificial OpenAI, Anthropic i Google han sol·licitat al govern dels Estats Units que reguli el ritme de desenvolupament d'aquesta nova eina.
Els treballadors de les principals empreses del sector demanen a la Casa Blanca que doni suport a mesures i eines que ajudin a "marcar el ritme de forma deliberada" per evitar que el desenvolupament d'aquesta tecnologia arribi a un punt que ja no es pugui controlar.
En una carta oberta demanen "reduir el desenvolupament" de la IA, perquè consideren que les capacitats d'aquesta tecnologia assoliran graus que no es podran "comprendre". També recullen potencials beneficis d'aquesta tecnologia, però recalquen que "aquest resultat no està garantit".
El sector alerta que la IA s'acosta progressivament a una nova etapa, que es coneix com a RSI "recursive self-improvement" o "automillora recursiva", mitjançant la qual aquestes eines serien capaces de modificar-se a si mateixes i elaborar pel seu propi compte versions cada vegada més elaborades i complexes.
L'RSI faria més difícils l'avaluació dels models per part d'informàtics humans, que no haurien participat directament en la seva creació.
OpenAI admet més intents de hackeig no controlats
OpenAI ha reconegut que el ciberatac que van dur a terme dos dels seus models d'intel·ligència artificial que es van descontrolar va tenir més d'una víctima, un hackeig que ha revifat aquest debat.
L'empresa responsable de ChatGPT admet que dos dels agents d'IA que van aconseguir traspassar pel seu propi compte l'entorn de seguretat per poder atacar la web de l'empresa emergent d'IA Hugging Face, també van arribar a obtenir dades delicades de quatre plataformes més, de les quals no han compartit el nom. Alguns mitjans nord-americans, com Axios, asseguren que una de les hackejades és la tecnològica novaiorquesa Modal Labs.
Segons els responsables d'OpenAI, aquests altres quatre ciberatacs dels models d'IA de la companyia van tenir una gravetat i un grau de complexitat més baix que el llançat sobre Hugging Face. De fet, apunten que un d'aquests va servir per aconseguir informació per preparar l'atac sobre la start-up.
L'incident va passar quan desenvolupadors d'Open AI sotmetien els models a proves i testos per entrenar-los. Segons l'últim informe de la companyia, els models d'IA van transgredir l'entorn controlat per accedir a webs de codi lliure per analitzar com estaven programades, però "sense anar més enllà del que podria fer un usuari comú".
Els ciberatacs respondrien a un intent dels models d'IA de "robar les solucions a les proves" a què els desenvolupadors d'OpenAI els estaven sotmetent, en lloc d'intentar resoldre els tests amb els seus propis mitjans.