Regulació de la Intel·ligència Artificial a Europa i Espanya: Marc Normatiu i Nivells de Risc

17 March, 2025
–
Protecció de dades
–
Lucas Charnet


La Intel·ligència Artificial (IA) ha evolucionat de manera vertiginosa en els darrers anys, transformant múltiples sectors i plantejant importants desafiaments legals i ètics. La seva capacitat per automatitzar processos, analitzar grans volums de dades i prendre decisions de manera autònoma ha generat un debat sobre la necessitat d’establir un marc regulador que equilibri la innovació amb la protecció dels drets fonamentals. Davant aquesta realitat, la Unió Europea ha assumit un paper pioner amb l’aprovació del Reglament d’Intel·ligència Artificial (AI Act), una normativa clau que estableix obligacions i restriccions segons els nivells de risc de cada sistema d’IA. A Espanya, les autoritats han començat a harmonitzar la legislació nacional amb aquestes disposicions europees, establint mesures de supervisió i control.

En aquest article analitzem tot el que has de saber sobre la nova regulació de la IA a Europa i Espanya, els nivells de risc que estableix i els reptes que suposa per a empreses i professionals.

El Reglament d’Intel·ligència Artificial de la UE: Una aproximació basada en el risc

L’AI Act, aprovat el 2024, estableix un marc regulador basat en una classificació dels sistemes d’IA segons el seu nivell de risc. S’identifiquen quatre categories principals, cadascuna amb implicacions i restriccions específiques:

Risc inacceptable

Es prohibeixen els sistemes d’IA que representin una amenaça clara per a la seguretat, els drets fonamentals o els valors democràtics. Exemples inclouen:

Sistemes que manipulen el comportament humà de manera subliminal, com ara algoritmes dissenyats per influir en les decisions de vot sense que l’usuari en sigui conscient.

Eines de vigilància biomètrica en temps real en espais públics sense justificació legal clara, com ara l’ús de reconeixement facial massiu sense consentiment.

Models de puntuació social similars al sistema xinès, on s’assignen avantatges o restriccions als ciutadans en funció del seu comportament digital o financer.

Alt risc

Inclou aplicacions d’IA utilitzades en sectors crítics que afecten la seguretat o els drets fonamentals. Alguns casos són:

Sanitat: Sistemes que diagnostiquen malalties o recomanen tractaments mèdics, els quals han de garantir precisió i transparència.

Educació: Algoritmes utilitzats en processos d’admissió o avaluació d’estudiants, on el biaix en les dades podria afectar l’accés a oportunitats.

Justícia i seguretat: Eines de predicció del crim que podrien discriminar determinats col·lectius si no estan dissenyades correctament.

Recursos humans: Algoritmes que filtren currículums o avaluen el rendiment laboral, assegurant que no generin discriminació injusta.

Aquests sistemes han de complir amb estrictes controls, incloent auditories de biaixos, supervisió humana i explicabilitat de les seves decisions.

Risc limitat

Inclou eines que requereixen requisits de transparència per informar els usuaris de la seva interacció amb una IA. Exemples inclouen:

Xatbots i assistents virtuals: Com Siri o Alexa, que han d’indicar clarament que són programes i no humans.

Continguts generats per IA: Imatges, vídeos o textos creats automàticament (deepfakes, art digital generat per IA), on s’ha d’especificar el seu origen artificial.

Risc mínim

Engloba sistemes d’IA d’ús quotidià sense un impacte significatiu en els drets o la seguretat. Alguns exemples són:

Filtres de correu brossa en correus electrònics, que classifiquen missatges automàticament.

Sistemes de recomanació en plataformes com Netflix o Spotify, que suggereixen contingut segons els hàbits de l’usuari.

IA en videojocs, utilitzada per millorar l’experiència del jugador sense afectar drets fonamentals.

El reglament imposa sancions significatives per a qui incompleixi aquestes disposicions. Les multes poden assolir fins al 7% de la facturació anual global de l’empresa infractora o 35 milions d’euros, similar a les sancions del RGPD, la qual cosa subratlla la importància de complir amb la normativa.

L’impacte a Espanya: Adaptació i estratègies regulatòries

A Espanya, l’Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA) tindrà un paper clau en l’aplicació de l’AI Act i en la supervisió del compliment de la normativa. L’AESIA, creada per garantir l’ús ètic i responsable de la IA, tindrà funcions de control i sancions per possibles infraccions, assegurant que els sistemes d’intel·ligència artificial implantats al país compleixin amb els estàndards europeus de seguretat i drets fonamentals.

El Govern ha impulsat l’Estratègia Nacional d’Intel·ligència Artificial (ENIA), un pla que busca posicionar Espanya com un referent en el desenvolupament d’IA segura i ètica. Aquesta estratègia contempla mesures com la inversió en R+D, la capacitació de professionals en intel·ligència artificial i la promoció de la col·laboració público-privada per desenvolupar eines d’IA que impulsin l’economia i millorin els serveis públics.

A més, s’han establert requisits específics en matèria de protecció de dades i ciberseguretat. Les empreses que utilitzin IA hauran de garantir la transparència en els seus algoritmes, evitar biaixos discriminatoris i complir amb el Reglament General de Protecció de Dades (RGPD). S’han introduït noves obligacions per a l’avaluació d’impacte en drets fonamentals en aquells sistemes d’alt risc, amb l’objectiu d’evitar discriminacions o decisions perjudicials per a la ciutadania.

Reptes i oportunitats per a les empreses i professionals

La regulació de la IA suposa un repte important per a les empreses i professionals que desenvolupen o implementen aquests sistemes, ja que implica:

Auditories i controls estrictes per a sistemes d’alt risc, fet que obliga les empreses a establir mecanismes de supervisió interna i revisió de biaixos algorítmics.

Obligacions de transparència en eines de risc limitat, assegurant que els usuaris siguin informats quan interactuen amb una IA i permetent auditories externes sobre el seu funcionament.

Avaluacions d’impacte en drets fonamentals, especialment en sectors com el financer, sanitari i de recursos humans, on les decisions automatitzades poden tenir efectes significatius sobre les persones.

No obstant això, aquesta regulació també obre oportunitats importants. L’estandardització de requisits permet a les empreses desenvolupar solucions innovadores amb més seguretat jurídica i confiança per part dels usuaris. A més, el marc normatiu afavoreix la diferenciació d’empreses que aposten per l’ètica i la transparència en la IA, la qual cosa pot esdevenir un avantatge competitiu en el mercat.

La inversió en compliment normatiu també pot convertir-se en una eina de creixement, ja que garanteix que els productes i serveis d’IA puguin expandir-se en el mercat europeu sense riscos legals. A més, la col·laboració amb organismes reguladors i la implementació de bones pràctiques poden obrir portes a incentius i finançament públic per al desenvolupament responsable de la IA.

En MES Advocats, oferim assessorament especialitzat en compliment normatiu en IA, avaluació d’impacte i auditories legals per garantir que la teva empresa s’adapti a les noves exigències regulatòries. Contacta’ns per analitzar com afecta aquesta normativa al teu negoci i assegurar-ne el compliment eficaç.

###


Compliment NormatiuDrets FonamentalsIntel·ligència artificialRegulació Legal

---