L'ús de la intel·ligència artificial (IA) ha crescut exponencialment en els últims anys, transformant sectors com la sanitat, l'educació i la indústria. Tanmateix, el seu desenvolupament planteja riscos ètics i legals. Per regular el seu ús i protegir els ciutadans, la Llei d'intel·ligència artificial de la Unió Europea (UE) ha entrat en vigor recentment, establint límits clars sobre quins sistemes d'IA estan permesos i quins són il·legals. Aquesta legislació converteix a la UE a la primera gran regió en adoptar un marc legal integral per a la IA.
Quins sistemes d'IA ja són il·legals a Europa?
La Llei d'IA estableix una categorització en funció del risc que cada tecnologia representa per als ciutadans. Es prohibeixen explícitament aquells sistemes que violin drets fonamentals, que siguin manipuladors o que representin un risc per a la seguretat i la privacitat.
Entre els sistemes d'IA prohibits estan:
-La vigilància biomètrica en temps real en espais públics, tret d'en situacions excepcionals relacionades amb la seguretat nacional.
-Sistemes de puntuació social similars als utilitzats a la Xina, que classifiquen els ciutadans segons el seu comportament.
-IA per a manipulació subliminar massiva que pugui influir en les decisions de les persones sense el seu consentiment.
-Tecnologies de reconeixement facial no autoritzades o utilitzades per al control massiu.
L'objectiu és limitar l'ús d'aquestes eines que podrien posar en perill les llibertats individuals i crear un sistema de supervisió transparent i ètic.
L'Agència Espanyola de Supervisió de la Intel·ligència Artificial
A Espanya, l'aplicació d'aquesta normativa es coordinarà a través de l'Agència Espanyola de Supervisió de la intel·ligència artificial (AESIA), la primera d'aquest tipus a la Unió Europea. Aquesta agència serà clau per garantir el compliment de la llei i vigilar les activitats relacionades amb la IA al país.
AESIA supervisarà que les empreses i desenvolupadors compleixin les normes, realitzarà inspeccions i podrà imposar sancions a aquells que no respectin la legislació.
La Llei d'IA prohibeix les següents pràctiques:
-Reconeixement emocional per part d'autoritats públiques per a usos com a vigilància o avaluació de ciutadans.
-Manipulació de persones vulnerables, especialment menors i persones amb discapacitats, utilitzant IA per influir en les seves decisions.
-Sistemes que explotin dades personals per predir comportaments de manera no ètica o per limitar drets fonamentals.
Què passa si s'utilitza un sistema d'IA prohibit?
L'incompliment de la Llei d'IA pot portar a sancions milionàries i la retirada del mercat del sistema il·legal. Les multes poden assolir fins al 6% del volum de negoci global de l'empresa infractora o fins a 30 milions d'euros, depenent de la gravetat de la infracció.
Aquesta normativa busca fomentar el desenvolupament de la IA de manera responsable i ètica. Els desenvolupadors i empreses s'hauran d'adaptar a les noves regles, garantint que la innovació no comprometi la seguretat ni els drets de les persones. La Llei d'IA a la UE marca el camí per a altres països que, sens dubte, seguiran aquest exemple.