Intel·ligència artificial: entren en vigor les primeres normes de transparència a la UE

Aquest diumenge, 2 d'agost, entren en vigor les primeres normes de transparència de la Unió Europea per als sistemes d'intel·ligència artificial, que preveuen que s'hagi d'avisar els usuaris si estan interactuant amb una màquina o si veuen contingut manipulat.

En cas d'incompliment, l'Oficina d'Intel·ligència Artificial de la Comissió Europea podrà posar multes.

Es tracta d'un pas més en l'aplicació progressiva de la llei que va aprovar Europa fa dos anys, amb l'objectiu de regular una tecnologia capaç de canviar la percepció de la realitat.

Es comença a aplicar l'article 50 de la llei i la clau és que els usuaris estiguin informats.

S'adreça a les empreses

Si una persona fa servir la IA no s'ha de preocupar gaire per aquesta llei, però la cosa canvia quan hi ha benefici pel mig, sobretot en el cas de les empreses. 

Les obligacions afecten dos tipus d'empreses: els proveïdors i els implementadors d'IA. 

Els proveïdors són, per exemple, OpenIA (creadora del ChatGPT), Google (Gemini) o Anthropic (Claude). Poden generar contingut d'imatge, vídeo, àudio o text.

Els implementadors són les empreses que fan servir aquests sistemes perquè en treuen profit. Per exemple, si tenen un xatbot d'atenció al client o si fan un anunci amb un deepfake.

Marques per avisar

Els ciutadans han de poder identificar fàcilment si una màquina està darrere d'una creació, però hi ha una moratòria de quatre mesos. Per tant, s'ha d'aplicar a partir del 2 de desembre.

Les eines capaces de crear imatges, vídeos, àudios o textos hauran d'incorporar marques que permetin reconèixer aquestes produccions. L'ús amb fins professionals exigirà indicar de manera clara que han estat alterades i els assistents conversacionals hauran informar que l'usuari està parlant amb una màquina i no amb una persona.

En tot cas, les xarxes socials no seran responsables del contingut creat pels usuaris, que seran els que hauran d'informar quan hi hagi manipulació. 

Els continguts de ficció o de caràcter artístic o satíric en queden al marge. 

Hi una excepció, que és d'aplicació d'immediata: quan es mostri informació d'interès general, com la de processos electorals, judicials o de salut pública, tret que abans l'hagi supervisat una persona.

Deepfakes sexuals i pornografia infantil

Al desembre també s'incorporen com a eines considerades "inacceptables" alguns dels pitjors usos de la IA generativa, com la creació o manipulació sense consentiment de continguts íntims (deepfakes sexuals) o qualsevol capaç de generar pornografia infantil.

Control de l'Oficina Europea

Brussel·les assumirà per primera vegada les competències per vetllar pel compliment de la norma.

L'Oficina Europea d'IA podrà requerir informació a les empreses responsables d'aquests sistemes, accedir-hi per avaluar-los, ordenar mesures correctores i fins i tot restringir-ne la disponibilitat quan detecti incompliments. 

El control s'exercirà de forma compartida amb les autoritats de cada estat, que vigilaran les eines desplegades al seu territori, mentre que el Supervisor Europeu de Protecció de Dades farà el mateix amb les utilitzades per les institucions, organismes i agències de la UE.

Brussel·les ha constituït un panell científic integrat per 60 experts independents i ha engegat diferents canals per comunicar possibles incompliments, com un mecanisme de denúncies obert a ciutadans i empreses.

Multes

La Comissió Europea podrà imposar multes de 15 milions d'euros o fins al 3% de la facturació anual global (la quantitat que sigui més alta) als sistemes d'intel·ligència artificial generativa que incompleixin aquestes obligacions.

La sanció serà de fins a 750.000 euros si són les institucions o agències de la UE les que incompleixen les obligacions de transparència.