La nova llei de la IA preveu multes multimilionàries per a usos prohibits

Ahir el Consell de Ministres va donar el vistiplau a l’avantprojecte de llei per al bon ús i governança de la IA. Ara el document es remetrà a les Corts perquè s’iniciï la tramitació parlamentària i, una vegada tramitat, donarà lloc a una llei orgànica. La norma tindrà aquest rang –va subratllar després del Consell de Ministres ­Óscar López, titular de la cartera per a la Transformació Digital i de la Funció Pública– “perquè afecta drets fonamentals”.

El text estableix l’obligatorietat d’etiquetar els continguts que s’hagin creat mitjançant sistemes d’intel·ligència artificial, que hauran d’incorporar marques d’aigua amb les sigles (IA) en totes les imatges que es creïn i es difonguin amb aquesta tecnologia.

La llei, que suposa l’adaptació a la legislació espanyola del Reglament Europeu d’IA, pretén assegurar un ús ètic, inclusiu i beneficiós de la IA i facilitar que els ­usuaris puguin diferenciar amb nitidesa els continguts que són reals dels que són virtuals. El reglament, ja en vigor, combina, en paraules de la ministra portaveu, Elma Saiz, “la regulació amb la innovació segura, humanista i ­garantista”.

Quines novetats presenta

Com va recordar el ministre ­Óscar López, la norma presenta diverses novetats. Per exemple, estableix la responsabilitat per als proveïdors d’IA i l’obligatorietat de la supervisió humana dels models d’aquesta tecnologia, com també la transparència dels algoritmes, la protecció dels menors i la privacitat de les dades.

En primer lloc, classifica la IA en funció del risc. A més a més, estableix un règim de sancions, una governança del sistema (autoritats de vigilància) i una “doble exigència” –segons va assenyalar el ministre López– per a l’ administració pública pel que fa a l’ús.

Sancions

El text diferencia diversos nivells d’infraccions i fixa sancions que oscil·len entre els 6.000 euros per als casos més lleus i els 35 milions d’euros –o fins al 7% del volum de negoci mundial d’una empresa– per als casos més greus, com ara comercialitzar un sistema d’intel·ligència artificial que estigui prohibit. La llei exclou les administracions públiques del pagament de multes en cas d’infraccions, però sí que preveu apercebiments i mesures de caràcter disciplinari (entre altres mesures coercitives) per als funcionaris que facin un mal ús de la IA.

Sí que permet, però estan classificats com a “d’alt risc”, els sistemes d’IA que es fan servir en àmbits com la selecció de personal, la justícia i l’educació; per exemple, una IA que genera un esborrany de sentència sense que cap jutge revisi el raonament jurídic final o l’ús d’algoritmes de cribratge que incloguin biaixos per proposar candidats.

Aplicacions prohibides

Hi ha diverses aplicacions que prohibeix el Reglament Europeu i que ara incorpora la llei nacional. Fins a vuit: les tècniques ­subliminars (imatges o sons imper­cep­tibles) per manipular decisions sense consentiment; explotar les vulnerabilitats ­relacionades amb l’edat, la discapacitat o la situació socioeconòmica per alterar substancialment comportaments de manera que provoqui o pugui provocar perjudicis considerables; la classificació biomètrica de les persones per ètnia o per orientació política, religiosa o sexual, i la puntuació social d’individus o grups a partir dels comportaments socials o els trets personals com a mètode de selecció per, per exemple, denegar-los la ­concessió de subvencions o préstecs.

També la vigilància predictiva, és a dir, valorar el risc que una persona cometi un delicte basant-se en dades personals com l’historial familiar, el nivell educatiu o el lloc de residència, amb excepcions legals; inferir emocions en centres de treball o educatius com a mètode d’avaluació per a promoció o acomiadament laboral, tret de per raons mèdiques o de seguretat; l’ scraping de rostres (recollir massivament imatges de cares humanes d’internet o de càmeres per crear bases de dades biomètriques), i la identificació en temps real.

A petició d’ Espanya –va argüir el ministre López– s’han inclòs dues prohibicions més al Reglament Europeu: les tècniques per crear deepfakes sexuals –per exemple, publicació de nus creats per Grok, l’assistent virtual de la xarxa X– i pornografia infantil.

Governança

Hi ha un organisme central a ­Espanya, l’ Agència Espanyola de Supervisió de la IA ( Aesia), amb seu a A Coruña, que centralitza la governança d’aquesta tecnologia. Tot i això, la llei determina tot un seguit d’autoritats de vigilància del mercat. Per exemple, per al sistema financer, el Banc d’Espanya; per al mercat de valors, la Comissió Nacional del Mercat de Valors (CNMV); per a les dades, l’ Agència Espanyola de Protecció de Dades; per a les assegurances, la direcció general d’ Assegurances i Fons de Pensions; per a la justícia, el Consell General del Poder Judicial...

Administració

A més de redoblar les exigències sobre els models d’IA i de ­transparència que pugui fer servir l’ administració pública, en paraules del ministre López, la norma introdueix, així mateix, la figura d’un delegat d’IA. En aquest sentit, el ministre va avançar que l’ Administració contractarà ­experts en IA perquè tots els organismes públics disposin d’experts en aquesta matèria.

López va subratllar durant la compareixença davant dels mitjans que Espanya demostra “un exemple excel·lent” en el desplegament i l’adopció de la IA i va ­esmentar la localització de dues fàbriques d’IA de la UE –un projecte de gigafactoria i diverses empreses capdavanteres al sector (per exemple, Multiverse Computing)– o l’existència d’un model d’IA en espanyol, anomenat ALIA, i va asseverar que el ­país “ encapçala” l’aposta perquè aquesta tecnologia sigui “ètica i confiable”.

“Aquesta llei és un exemple clar de la tercera via europea: la que combina innovació, competitivitat i drets. És una resposta a una inquietud social clara; el 77% de la població espanyola demana més protecció dels seus drets digitals davant la IA”, va apuntar el ministre, que va voler relacionar la norma amb l’esperit de l’última encíclica del Papa, amb què va dir que el Govern central se sentia identificat.

“Una visió humanista de la IA, una visió que protegeixi els drets, molt especialment els drets humans”, va concloure.