La intel·ligència artificial està transformant la manera com treballem, prenem decisions i prestem serveis. Des d’eines de generació de contingut fins a sistemes d’anàlisi de dades o selecció de personal, la IA ja forma part del dia a dia de moltes empreses i administracions.
Amb l’entrada en vigor del Reglament Europeu d’Intel·ligència Artificial (AI Act), Espanya ha fet un pas més presentant l’Avantprojecte de Llei que regularà la seva aplicació al nostre país, definint les autoritats competents, el règim sancionador i les condicions per a determinats usos d’alt risc.
Quin és l’objectiu d’aquesta nova llei?
L’Avantprojecte té dos objectius principals:
- Establir el règim sancionador per als incompliments del Reglament Europeu d’IA.
- Regular l’ús de sistemes d’identificació biomètrica remota en temps real en espais públics.
La norma afectarà tant empreses privades com entitats públiques que actuïn com a proveïdors, importadors, distribuïdors o responsables del desplegament de sistemes d’intel·ligència artificial.
Un nou sistema de supervisió de la IA a Espanya
La futura llei distribueix les competències de control entre diferents organismes públics.
AESIA: l’autoritat principal
L’Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA) es convertirà en el punt de contacte únic davant la Unió Europea i supervisarà sistemes d’IA utilitzats en àmbits especialment sensibles com:
- Infraestructures crítiques.
- Educació.
- Ocupació.
- Serveis essencials.
El paper de l’AEPD
L’Agència Espanyola de Protecció de Dades (AEPD) tindrà un paper rellevant en la supervisió d’aquells sistemes d’IA que afectin la privacitat i la protecció de dades, especialment en:
- L’àmbit policial.
- El control de fronteres.
- La migració i l’asil.
- Les pràctiques prohibides relacionades amb els drets fonamentals.
A més, l’Avantprojecte incorpora altres organismes supervisors sectorials, com el Banc d’Espanya, la CNMV, la Direcció General d’Assegurances o el Consell General del Poder Judicial, en funció del tipus de sistema d’intel·ligència artificial que s’estigui utilitzant.
També es crearà una Comissió Mixta de Coordinació presidida per l’AESIA amb l’objectiu de garantir una aplicació homogènia de la normativa i evitar resolucions contradictòries entre organismes.
La biometria en temps real: prohibida excepte en casos molt concrets
Un dels aspectes més destacats de l’Avantprojecte és la regulació dels sistemes d’identificació biomètrica remota en temps real.
La norma estableix una prohibició general de l’ús d’aquesta tecnologia en espais públics.
Això significa que el reconeixement facial en temps real no podrà utilitzar-se de forma habitual per identificar persones en carrers, places o espais oberts al públic.
Només es permetrà en situacions molt concretes vinculades a la seguretat pública, com ara:
- La cerca de víctimes de segrest o tràfic d’éssers humans.
- La prevenció d’amenaces terroristes imminents.
- La localització de sospitosos de delictes especialment greus castigats amb més de quatre anys de presó, com homicidis, agressions sexuals, tràfic d’armes o terrorisme.
Autorització judicial obligatòria
Les forces i cossos de seguretat necessitaran una autorització judicial prèvia per utilitzar aquests sistemes.
La competència correspondrà als jutjats contenciosos administratius, que hauran de valorar si la mesura és proporcional i justificada.
En casos d’urgència inajornable, es podrà iniciar l’ús de la tecnologia sense autorització prèvia, però aquesta s’haurà de sol·licitar en un termini màxim de 24 hores.
Si el jutge denega l’autorització, la utilització haurà de cessar immediatament i totes les dades recollides hauran de ser eliminades.
Protecció de terceres persones
La llei també incorpora una garantia específica per protegir les persones alienes a una investigació.
Qualsevol dada biomètrica captada de persones que no siguin objecte de la investigació autoritzada haurà de ser eliminada sense demora injustificada.
Nous drets per a la ciutadania
L’Avantprojecte introdueix algunes novetats especialment rellevants en matèria de drets digitals.
Dret de retirada o desconnexió
Com a mesura pionera, es reconeix el dret dels ciutadans a sol·licitar la retirada o desconnexió del mercat d’aquells sistemes d’intel·ligència artificial que hagin provocat incidents greus.
Aquestes situacions poden incloure danys personals importants o fins i tot la mort d’un familiar com a conseqüència del funcionament d’un sistema d’IA.
Canal de denúncies anònim
L’AESIA habilitarà un canal electrònic centralitzat que permetrà a qualsevol ciutadà presentar denúncies de manera completament anònima.
Aquestes comunicacions podran donar lloc a l’obertura d’investigacions i procediments sancionadors d’ofici.
Sancions milionàries per als incompliments més greus
Un dels apartats que més atenció genera és el règim sancionador.
L’Avantprojecte estableix multes molt elevades amb l’objectiu de garantir el compliment efectiu del Reglament Europeu d’Intel·ligència Artificial.
Infraccions molt greus
Pràctiques prohibides:
- Multes de fins a 35 milions d’euros.
- O fins al 7% del volum de negoci mundial de l’exercici anterior.
Sistemes d’alt risc amb incompliments greus:
- Multes de fins a 15 milions d’euros.
- O fins al 3% de la facturació mundial.
Infraccions greus
- Entre 500.001 € i 7.500.000 €.
- O fins al 2% del volum de negoci.
Infraccions lleus
- Entre 6.000 € i 500.000 €.
- O fins a l’1% del volum de negoci.
Un aspecte especialment rellevant és que, en el cas dels grups empresarials, les sancions es calcularan tenint en compte el volum de negoci global del grup i no únicament el de la filial infractora.
Aquesta mesura pretén evitar que les grans multinacionals utilitzin societats instrumentals de menor dimensió per reduir l’impacte econòmic de les sancions.
Hi haurà diferències per a les pimes i les administracions públiques?
Sí. L’Avantprojecte preveu un tractament diferenciat en determinats supòsits.
Pimes
Les petites i mitjanes empreses disposaran d’algunes mesures de flexibilització:
- Possibilitat de substituir determinades sancions lleus per apercebiments.
- Aplicació preferent de mesures correctores abans de sancionar.
- Reduccions reforçades per reconeixement de responsabilitat o pagament voluntari.
- Aplicació del criteri econòmic més favorable quan existeixin diverses opcions de càlcul.
L’objectiu és afavorir el compliment normatiu sense generar una càrrega desproporcionada per al teixit empresarial format majoritàriament per pimes.
Administracions públiques
Les administracions públiques no estaran subjectes a multes econòmiques.
No obstant això:
- Es declararà formalment la infracció.
- S’emetran apercebiments.
- S’imposaran mesures correctores obligatòries.
- Es podran iniciar procediments disciplinaris contra responsables públics que hagin ignorat advertiments previs.
- En determinats casos es podran publicar amonestacions públiques.
Un canvi normatiu que totes les organitzacions han de seguir de prop
La futura Llei Espanyola d’Intel·ligència Artificial representa un dels desenvolupaments regulatoris més importants dels últims anys en matèria tecnològica.
Les empreses que utilitzen sistemes d’IA per a recursos humans, atenció al client, màrqueting, anàlisi de dades, seguretat o presa de decisions automatitzades hauran de revisar amb deteniment els seus processos per garantir que compleixen les noves obligacions.
La intel·ligència artificial ofereix enormes oportunitats per millorar la productivitat i la competitivitat, però també implica nous riscos i responsabilitats.
Amb aquest Avantprojecte, Espanya comença a definir el marc que determinarà com s’hauran de desenvolupar, supervisar i utilitzar aquestes tecnologies durant els pròxims anys.
Per a empreses, administracions i ciutadans, entendre aquestes noves regles serà fonamental per aprofitar els beneficis de la IA sense comprometre els drets fonamentals, la privacitat ni la seguretat jurídica.