Les institucions de la Unió Europea han pactat aquest divendres la llei d'intel·ligència artificial (IA) que permet o prohibeix l'ús de la tecnologia en funció del risc que suposi per a les persones i que busca impulsar la indústria europea davant gegants com la Xina i els Estats Units. Després de 36 hores de negociació, la UE ja té el primer text regulador del món sobre aquesta tecnologia, el qual encara ha de passar Parlament Europeu i el Consell de la UE. Si bé aquests pròxims passos poden semblar un tràmit, poden ser un gran escull per la llei, ja que s'han regulat aspectes molt polèmics com la vigilància en temps de la ciutadania amb aquesta tecnologia. 

Tot i aquests aspectes espinosos i controvertits, els líders europeus han corregut a felicitar-se públicament per aquest acord i pas legislatiu en un territori encara poc regulat. "La llei d'intel·ligència artificial de la UE és pionera al món. Un marc legal únic per al desenvolupament de la intel·ligència artificial en el qual es pot confiar", ha celebrat la presidenta de la Comissió Europea, Ursula von der Leyen, en un tuit. El comissari europeu de Mercat Interior, Thierry Breton, qui ha seguit de prop les negociacions ha afirmat: "La llei és moment que un llibre de regles. El millor està per arribar". 

 

Vigilància en temps real, regulació i perill

El punt més calent de la negociació ha estat l'ús que les forces de l'ordre podran fer de les càmeres d'identificació biomètrica en espais públics. Per una banda, diversos governs com el francès justificaven que aquesta tecnologia serviria per protegir la seguretat nacional. Per altra, europarlamentaris i activistes dels drets digitals de tot arreu de la UE han denunciat que lús d'aquesta tecnologia pot violar els drets humans i ser abusada per retallar llibertats en nom de la seguretat. 

Finalment, la llei d'IA recull que les càmeres es podran utilitzar amb prèvia autorització judicial per prevenir una amenaça terrorista "genuïna i previsible" o "genuïna i present", és a dir, que s'estigui produint en aquell moment. També es podran fer servir per localitzar o identificar una persona que hagi comès delictes de terrorisme, tràfic de persones, explotació sexual o, per exemple, un crim mediambiental i per buscar les víctimes d'aquests delictes. Durant les negociacions, els governs han pressionat per ampliar la llista de delictes, mentre que l'Eurocambra ha intentat limitar-la el màxim possible. En tot el procés negociador, han estat els Estats els més interessats a implementar aquests sistemes de control, alguns ja ho han intentat, França ja va presentar un projecte de videovigilància a partir d'aquesta tecnologia de cara a les Olimpíades de 2024. 

Línies vermelles i escepticisme

La llei prohibeix alguns usos de la categorització biomètrica. Per exemple prohibeix tots els sistemes de categorització biomètrica per creences polítiques, religioses, filosòfiques o per la seva raça i orientació sexual. Tampoc no es podran utilitzar els sistemes que puntuen a les persones en funció del seu comportament o característiques personals, ni la intel·ligència artificial capaç de manipular el comportament humà. També estaran prohibits els sistemes per expandir o crear bases de dades facials captant dades de manera indiscriminada a través d'internet o d'enregistraments audiovisuals. A més, als centres de treball o les escoles també hi estaran prohibits els sistemes d'intel·ligència artificial que poden reconèixer les emocions.

Tot i això, el text deixa moltes escletxes per les quals es pot abusar d'aquesta tecnologia per vigilar la ciutadania, segons denuncien activistes dels drets humans. L'organització European Digital Rights ha denunciat que aquestes eines de videovigilància "permeten una vigilància massiva i que soscaven el nucli dels nostres drets i l'estat de dret". A més, denuncien que són eines inherentment discriminatòries, ja que una IA no és neutre sinó que reprodueix els prejudicis de qui la programa, per exemple, prejudicis racials o de gènere. Per això, malgrat els límits imposats per aquesta norma, activistes i experts ja s'han mostrat escèptics de què aquestes línies vermelles siguin suficients.  

Els primers consensos: la IA generativa 

Entre els primers acords que es van aconseguir en aquesta llarga negociació va ser la regulació de sistemes d'IA generativa com ChatGPT. La nova llei els obligaria a complir criteris de transparència, com ara especificar si un text, una cançó o una fotografia s'han generat a través de la intel·ligència artificial i garantir que les dades que s'han emprat per entrenar els sistemes respecten els drets d'autor. Inicialment, la llei no estava pensada per regular aquest tipus de sistemes, perquè encara no s'havien popularitzat quan Brussel·les va proposar la llei l'abril del 2021, però les institucions comunitàries han vist la necessitat de legislar-los des de l'esclat de ChatGPT l'any passat.

El reglament no en prohibeix l'ús, però sí que ha establert una sèrie de criteris per detectar els models que poden generar un alt risc en funció del context en què es facin servir i obliga els seus desenvolupadors a complir unes salvaguardes més estrictes abans de treure'ls al mercat.

 

 

Segueix ElNacional.cat a WhatsApp, hi trobaràs tota l'actualitat, en un clic!