Es fa públic el primer atac d'una IA a una infraestructura pública, al sistema sanitari australià

Tres mesos més tard i per correu electrònic a una bústia pública. Així és com OpenAI, una de les empreses que lideren el sector de la intel·ligència artificial mundial, va decidir avisar el govern australià d'un nou ciberatac autònom perpetrat per un IA en proves que va sortir de control i va decidir infiltrar-se en pàgines web públiques del país.

No és el primer cas, ni serà l'últim, però és el primer incident similar que es fa públic amb una infraestructura pública com a víctima. En aquest cas, i entre altres, l'objectiu dels agents de la IA en proves d'OpenAI ha estat el sistema de salut pública d'Austràlia, el Medicare.

"Aquesta situació és òbviament inacceptable", va declarar dimecres el primer ministre australià, Anthony Albanese, en una compareixença als mitjans a Nova York durant la seva participació a l'Assemblea General de l'ONU.

Albanese ha aprofitat que ha compartit espai amb el CEO d'OpenAI, Sam Altman, i el president dels Estats Units, Donald J. Trump, a la seu de les Nacions Unides, per traslladar-los personalment "la preocupació extrema d'Austràlia per aquest incident".

La fotografia selfie que el primer ministre australià es va fer amb el president nord-americà, i que va publicar a les seves xarxes socials, li ha comportat moltes crítiques al país:

De fet, ha explicat, també ha expressat a Altman la seva "decepció" per la tardança de l'empresa a "informar el govern del que havia passat" i la via escollida per notificar de l'incident, que ha titllat d'"inacceptable". Ja ha advertit que aquest fet tindrà "conseqüències legals".

Per la seva banda, Sam Altman hauria reconegut "problemes amb els protocols" per comunicar les incidències de ciberseguretat, tot i que el 16 de setembre van establir un nou marc per "divulgar casos de desalineació".

En un comunicat dirigit a diferents mitjans, l'empresa propietària dels models GPT, OpenAI, ha dit que ha "identificat activitat que implicava diversos llocs web i serveis del govern australià" durant una "avaluació interna" en què els seus models intentaven "buscar respostes i estadístiques" sobre Austràlia:

Avís per correu electrònic, tres mesos després

"Un agent d'intel·ligència artificial s'ha infiltrat en un lloc web del govern australià", va començar explicant el dimecres el primer ministre del país, Anthony Albanese.

L'incident de ciberseguretat, que no hauria estat especialment greu, va tenir lloc pels volts del 18 juny. OpenAI no va avisar el govern australià fins tres mesos després, el 10 de setembre, i a través d'una adreça pública de correu electrònic que no es va consultar fins un dia després.

Els diferents departaments australians van anar elevant el tema de forma interna i no es van posar en contacte amb OpenAI fins al dimarts 22 de setembre, per demanar-ne més informació.

El dimecres 23 de setembre, Albanese ho va fer públic.

L'accés no autoritzat al portal públic del servei d'informes d'estadístiques de Medicare el va protagonitzar un grup d'"agents d'OpenAI" (IAs que poden planificar i executar accions successives de forma autònoma, sense necessitat d'intervenció humana, fins a completar la tasca encarregada per un humà o una altra IA).

Els agents van "accedir tant a fitxers públics com no públics" i van afectar Medicare i tres altres sistemes governamentals: l'Institut Australià de Salut i Benestar, el Departament de Salut de Victòria i l'Oficina d'Estadístiques Criminals i Recerca de Nova Gal·les del Sud.

Albanese ha anunciat que ja hi ha "en marxa una investigació forense", i que crearà "un grup de treball que farà una revisió urgent i immediata" de l'incident per comprovar la idoneïtat dels processos establerts per respondre a incidents similars en el futur.

Els agents d'IA van entrar-hi sense autorització mentre buscaven informació per resoldre una tasca relacionada amb dades de salut australianes.

Tot i que la investigació segueix en marxa, en principi no s'haurien filtrat dades de pacients i els agents d'IA s'haurien limitat a extreure dades estadístiques.

La IA a l'ONU: compareixença d'Altman i Amodei

"Que algú ens freni, que som perillosos i estem descontrolats", semblen repetir constantment els principals responsables de desenvolupar i distribuir aquest tipus de tecnologia mentre, al mateix temps, segueixen treballant i presentant nous models d'IA millorats.

Els líders de les dues principals empreses d'IA han tornat a reclamar cooperació internacional per frenar el desenvolupament de nous models d'IA a tot el món, i la inversió dels temp que es guanyi en establir mecanismes de seguretat i supervisió. Aquest cop ho han fet a l'Assemblea de l'ONU.

Sam Altman, director executiu d'OpenAI, va insistir en parlar del "ràpid progrés" dels models com un factor de risc.

En un discurs en què, a vegades, semblava que es distanciava del seu paper en aquesta carrera de desenvolupament d'IAs, Altman ha advertit que els nous models podrien "moure's més ràpid que les institucions, concentrar el poder en massa poques mans o prendre decisions que la gent ja no entén ni controla", de manera que "podríem perdre el control del futur a mans de la IA".

Altman ha advertit els governants de tots els països que ara tenen l'opció d'escollir el camí a seguir:

El torn de Dario Amodei, CEO d'Anthropic, va arribar just després, per videoconferència.

Amodei va tornar a defensar el marc narratiu en què la seva empresa, Anthropic, és de les poques que treballa amb responsabilitat i pretén millorar les capacitats per prevenir el mal ús de la tecnologia i frenaran la velocitat de desenvolupament "tant com calgui" per assegurar que els seus models son "realment segurs".