Les institucions de la Unió Europea han pactat la llei d'intel·ligència artificial que permet o prohibeix l'ús de la tecnologia en funció del risc que suposi per a les persones i que busca impulsar la indústria europea davant gegants com la Xina i els Estats Units. "La llei d'intel·ligència artificial de la UE és pionera al món. Un marc legal únic per al desenvolupament de la intel·ligència artificial en el qual es pot confiar", ha apuntat la presidenta de la Comissió Europea, Ursula von der Leyen, en un missatge a la xarxa social X (abans Twitter). L'acord va arribar després de 36 hores de negociacions i encara l'hauran de ratificar el Parlament Europeu i el Consell de la UE, la institució que representa els Governs europeus.
Vigilància en temps real
Un dels punts més sensibles de les negociacions ha estat l'ús que les forces de l'ordre podran fer de les càmeres d'identificació biomètrica en espais públics per garantir la seguretat nacional. Les càmeres es podran utilitzar amb prèvia autorització judicial per prevenir una amenaça terrorista "genuïna i previsible" o "genuïna i present", és a dir, que s'estigui produint en aquell moment. També es podran fer servir per localitzar o identificar una persona que hagi comès delictes de terrorisme, tràfic de persones, explotació sexual o, per exemple, un crim mediambiental i per buscar les víctimes d'aquests delictes. Durant les negociacions, els governs han pressionat per ampliar la llista de delictes, mentre que l'Eurocambra ha intentat limitar-la el màxim possible i obtenir fortes salvaguardes per als drets fonamentals.
Sistemes prohibits
La norma, a més, prohibeix tots els sistemes de categorització biomètrica per creences polítiques, religioses, filosòfiques o per la seva raça i orientació sexual. Tampoc no es podran utilitzar els sistemes que puntuen a les persones en funció del seu comportament o característiques personals, ni la intel·ligència artificial capaç de manipular el comportament humà. Així mateix, també estaran prohibits els sistemes per expandir o crear bases de dades facials captant dades de manera indiscriminada a través d'internet o d'enregistraments audiovisual. A més, als centres de treball o les escoles també hi haurà prohibits els sistemes d'intel·ligència artificial que poden reconèixer les emocions.
IA generativa
L'altre gran assumpte que ha centrat les negociacions és la regulació dels sistemes d'intel·ligència artificial generativa, en els quals es basen models com ChatGPT, de l'empresa OpenAI o Bard, de Google. Hauran de complir criteris de transparència, com especificar si un text, una cançó o una fotografia s'han generat a través de la intel·ligència artificial i garantir que les dades que s'han fet servir per entrenar els sistemes respecten els drets d'autor.
Inicialment, la llei no estava pensada per regular aquest tipus de sistemes, perquè encara no s'havien popularitzat quan Brussel·les va proposar la llei l'abril de 2021, però les institucions comunitàries han vist la necessitat de legislar-los des de l'esclat de ChatGPT l'any passat. El reglament no prohibeix el seu ús, però sí que ha establert una sèrie de criteris per detectar els models que poden generar un alt risc en funció del context en el qual s'utilitzin i obliga els seus desenvolupadors a complir unes salvaguardes més estrictes abans de treure'ls al mercat.
El reglament permet o prohibeix l'ús de la intel·ligència artificial en funció del risc que genera per a les persones i identifica sistemes d'alt risc que només es podran utilitzar si es demostra que respecten els drets fonamentals. Per exemple, els que es puguin utilitzar per influir en el resultat d'unes eleccions, els que facin servir les entitats financeres per avaluar la solvència i establir la qualificació creditícia.
"Hem aconseguit una fita important, que els ciutadans podem decidir què es pot fer i què no amb la intel·ligència artificial", ha dit la secretària d'Estat espanyola de Telecomunicacions i Infraestructura Digital, Carme Artigas.
La norma preveu la creació de l'Oficina Europea d'intel·ligència artificial, que coordinarà l'ús de la tecnologia entre les autoritats nacionals i que estarà assessorada per un panell de científics i d'organitzacions de la societat civil. Està previst que la llei entri en vigor el 2026, però s'aplicarà per fases: l'oficina europea es crearà de forma immediata, la prohibició dels sistemes prohibits d'intel·ligència artificial arribarà als sis mesos i els requisits per als sistemes i models d'IA generativa, als 12. El reglament preveu multes amb un rang que va des dels 35 milions d'euros o el 7% del volum global de negoci de les empreses, fins als 7,5 milions d'euros o l'1,5% del volum global de negoci.