Las instituciones de la Unión Europea han pactado este viernes la ley de inteligencia artificial (IA) que permite o prohíbe el uso de la tecnología en función del riesgo de que suponga para las personas y que busca impulsar la industria europea ante gigantes como China y los Estados Unidos. Después de 36 horas de negociación, la UE ya tiene el primer texto regulador del mundo sobre esta tecnología, el cual todavía tiene que pasar Parlamento Europeo y el Consejo de la UE. Si bien estos próximos pasos pueden parecer un trámite, pueden ser un gran bache la ley, ya que se han regulado aspectos muy polémicos como la vigilancia en tiempo de la ciudadanía con esta tecnología.

A pesar de estos aspectos espinosos y controvertidos, los líderes europeos han corrido a felicitarse públicamente por este acuerdo y paso legislativo en un territorio todavía poco regulado. "La ley de inteligencia artificial de la UE es pionera en el mundo. Un marco legal único para el desarrollo de la inteligencia artificial en el cual se puede confiar", ha celebrado a la presidenta de la Comisión Europea, Ursula von der Leyen, en un tuit. El comisario europeo de Mercado Interior, Thierry Breton, quien ha seguido de cerca las negociaciones, ha afirmado: "La ley es momento que un libro de reglas. Lo mejor está por llegar".

 

Vigilancia en tiempo real, regulación y peligro

El punto más caliente de la negociación ha sido el uso que las fuerzas de la orden podrán hacer de las cámaras de identificación biométrica en espacios públicos. Por una parte, varios gobiernos como el francés justificaban que esta tecnología serviría para proteger la seguridad nacional. Por otra, europarlamentarios y activistas de los derechos digitales de todas partes de la UE han denunciado que el de esta tecnología puede violar los derechos humanos y abusar para recortar libertades en nombre de la seguridad.

Finalmente, la ley de IA recoge que las cámaras se podrán utilizar con previa autorización judicial para prevenir una amenaza terrorista "genuina y previsible" o "genuina y presente", es decir, que se esté produciendo en aquel momento. También se podrán utilizar para localizar o identificar a una persona que haya cometido delitos de terrorismo, tráfico de personas, explotación sexual o, por ejemplo, un crimen medioambiental y para buscar a las víctimas de estos delitos. Durante las negociaciones, los gobiernos han presionado para ampliar la lista de delitos, mientras que la Eurocambra ha intentado limitarla el máximo posible. En todo el proceso negociador, han sido los Estados los más interesados en implementar estos sistemas de control, algunos ya lo han intentado, Francia ya presentó un proyecto de videovigilancia a partir de esta tecnología para las Olimpiadas del 2024.

Líneas rojas y escepticismo

La ley prohíbe algunos usos de la categorización biométrica. Por ejemplo, prohíbe todos los sistemas de categorización biométrica por|para creencias políticas, religiosas, filosóficas o para|por su raza y orientación sexual. Tampoco se podrán utilizar los sistemas que puntúan a las personas en función de su comportamiento o características personales, ni la inteligencia artificial capaz de manipular el comportamiento humano. También estarán prohibidos los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales. Además, en los centros de trabajo o las escuelas también estarán prohibidos los sistemas de inteligencia artificial que pueden reconocer las emociones.

Sin embargo, el texto deja mucho resquicio por los cuales se puede abusar de esta tecnología para vigilar la ciudadanía, según denuncian activistas de los derechos humanos. La organización European Digital Rights ha denunciado que estas herramientas de videovigilancia "permiten una vigilancia masiva y que socavan el núcleo de nuestros derechos y el estado de derecho". Además, denuncian que son herramientas inherentemente discriminatorias, ya que una IA no es neutro, sino que reproduce los prejuicios de quien la programa, por ejemplo, prejuicios raciales o de género. Por eso, a pesar de los límites impuestos por esta norma, activistas y expertos ya se han mostrado escépticos de que estas líneas rojas sean suficientes.

Los primeros consensos: la IA generativa

Entre los primeros acuerdos alcanzados en esta larga negociación fue la regulación de sistemas de IA generativa como ChatGPT. La nueva ley les obligaría a cumplir criterios de transparencia, como especificar si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial y garantizar que los datos que se han empleado para entrenar los sistemas respetan los derechos de autor. Inicialmente, la ley no estaba pensada para regular este tipo de sistemas, porque todavía no se habían popularizado cuando Bruselas propuso la ley en abril de 2021, pero las instituciones comunitarias han visto la necesidad de legislarlos estallido de ChatGPT el año pasado.

El reglamento no prohíbe su uso, pero sí ha establecido una serie de criterios para detectar los modelos que pueden generar un alto riesgo en función del contexto en el que se utilicen y obliga a sus desarrolladores a cumplir unas salvaguardias más estrictas antes de sacarlos al mercado.