El govern espanyol aprova la primera llei per regular la IA, amb multes de fins a 35 milions

El Consell de Ministres ha aprovat aquest dimarts la llei de la IA, l'adaptació a la legislació espanyola de l'AI Act, el reglament que va entrar en vigor a la Unió Europea el 2024 per regular les empreses i els serveis que utilitzen intel·ligència artificial.

"L'avantprojecte de llei orgànica per al bon ús i la governança de la IA" classifica els sistemes d'IA en diferents graus de perillositat, depenent del seu objectiu, aplicació i potencial, preveu les sancions corresponents i els organismes de supervisió.

L'adaptació espanyola de la regulació europea, que ha resumit per als mitjans el ministre per a la Transformació Digital i de la Funció Pública, Óscar López, contempla multes de fins a 35 milions d'euros o del 7% del volum de negoci per a aquelles empreses que comercialitzin sistemes d'intel·ligència artificial prohibits, els que es consideren sistemes "de risc inacceptable".

Per als sistemes d'IA d'alt risc, en canvi, les empreses que posin en perill o tinguin un impacte negatiu sobre la ciutadania es preveuen sancions de fins a 15 milions d'euros i el 3% del seu volum de negoci. La resta de sistemes es classifiquen en els sistemes de risc mínim, com els filtres de spam o recomanació de continguts, i els sistemes amb obligació de transparència, com els xatbots i els continguts generats amb IA.

El govern espanyol pretén garantir, entre d'altres, que els ciutadans puguin diferenciar els continguts que són reals dels que estan generats artificialment i que les empreses utilitzin la IA de manera "ètica, inclusiva i beneficiosa".

López ha assegurat que la nova llei, orgànica perquè "afecta drets fonamentals", demostra que Espanya aposta per una IA "humanista" i ha volgut relacionar la visió de l'executiu amb la primera encíclica del papa Lleó XIV, que va reclamar "desarmar" la IA per evitar-ne els perills.

Entre d'altres, s'introdueix la nova figura de "delegat de la IA" per a l'administració pública, per tal d'ajudar a posar en marxa nous projectes d'IA en cada ministeri i formar els treballadors públics.

S'ha definit també els àmbits d'influència que té la institució que fa "d'àrbitre" de la IA i que posa l'Estat a "l'avantguarda en termes regulatoris": l'Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA), que no tenia cap institució equivalent a Europa quan es va posar en marxa, coordinarà la seva governança amb altres autoritats sectorials que ja estiguin establertes, com l'AEPD, el CGJP i el CNMV.

La llei també exigeix supervisió humana per als sistemes d'alt risc que puguin "afectar els drets fonamentals", per als quals també s'estableix l'obligació en la transparència dels seus algoritmes i que incloguin "prospectes digitals amb instruccions d'ús", i imposa mesures específiques per protegir els menors de sistemes d'IA que puguin "provocar un greu dany físic o psíquic".

Les entitats i experts en dret digital, així com les associacions d'internautes, mantenen les crítiques per la poca contundència amb què la llei contempla castigar les administracions públiques que utilitzin la IA de forma abusiva, la falta d'una exigència de transparència algorítmica per a les empreses --especialment en àmbits d'ús públic i més enllà dels sistemes d'alt risc-- i les excepcions establertes al reconeixement biomètric dels ciutadans.

El projecte s'ha revisat aquest dimarts en el Consell de Ministres i incorpora alguns canvis, però l'executiu espanyol fa un any que ja havia aprovat un primer avantprojecte i ja l'ha sotmès a al·legacions i a la revisió de diversos òrgans, entre els quals el Consell General del Poder Judicial.

El següent pas serà portar el text a les Corts perquè s'iniciï la tramitació parlamentària i comenci un debat que es preveu complex.

Quines IA queden prohibides?

Com va fer la UE, la nova llei prohibeix eines d'IA que considera perilloses i limita o condiciona el desplegament de les que "plantegen un risc inacceptable".

Les aplicacions d'IA prohibides són els sistemes d'alt risc que consideren que tenen "un efecte perjudicial considerable". N'ha repassat la llista el ministre per a la Transformació Digital i de la Funció Pública, Óscar López. Per exemple, són les IA que:

• Facin ús de tècniques subliminals per manipular decisions o la voluntat dels ciutadans.
• Explotin vulnerabilitats relacionades amb l'edat, la discapacitat o la situació socioeconòmica.
• Dedueixin la raça, religió o orientació sexual amb mitjans de classificació biomètrica.
• Estableixin sistemes de puntuació social.
• Apliquin en sistemes de vigilància predictiva.
• Reconeguin i llegeixin emocions.
• Facin scraping de cares a partir d'imatges d'internet o sistemes de càmeres de seguretat.
• Utilitzin sistemes d'identificació biomètrica remota "en temps real" en espais públics (amb excepcions quan ho autoritzi un jutge o una autoritat competent).

"L'avantprojecte de llei orgànica per al bon ús i la governança de la IA" inclou dues prohibicions més "a petició d'Espanya", ha explicat el ministre López. Per començar, la prohibició específica dels deepfakes que manipulin la imatge i la veu de persones sense el seu permís i mostrin contingut sexual realista, establerts com a delicte contra l'honor, i la generació o alteració de material d'abús infantil.