El uso de la inteligencia artificial (IA) ha crecido exponencialmente en los últimos años, transformando sectores como la sanidad, la educación y la industria. Sin embargo, su desarrollo plantea riesgos éticos y legales. Para regular su uso y proteger a los ciudadanos, la Ley de Inteligencia Artificial de la Unión Europea (UE) ha entrado en vigor recientemente, estableciendo límites claros sobre qué sistemas de IA están permitidos y cuáles son ilegales. Esta legislación convierte a la UE en la primera gran región en adoptar un marco legal integral para la IA.
¿Qué sistemas de IA ya son ilegales en Europa?
La Ley de IA establece una categorización en función del riesgo que cada tecnología representa para los ciudadanos. Se prohíben explícitamente aquellos sistemas que violen derechos fundamentales, que sean manipuladores o que representen un riesgo para la seguridad y la privacidad.
Entre los sistemas de IA prohibidos están:
-La vigilancia biométrica en tiempo real en espacios públicos, salvo en situaciones excepcionales relacionadas con la seguridad nacional.
-Sistemas de puntuación social similares a los utilizados en China, que clasifican a los ciudadanos según su comportamiento.
-IA para manipulación subliminal masiva que pueda influir en las decisiones de las personas sin su consentimiento.
-Tecnologías de reconocimiento facial no autorizadas o utilizadas para el control masivo.
El objetivo es limitar el uso de estas herramientas que podrían poner en peligro las libertades individuales y crear un sistema de supervisión transparente y ético.
La Agencia Española de Supervisión de la Inteligencia Artificial
En España, la aplicación de esta normativa se coordinará a través de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), la primera de este tipo en la Unión Europea. Esta agencia será clave para garantizar el cumplimiento de la ley y vigilar las actividades relacionadas con la IA en el país.
AESIA supervisará que las empresas y desarrolladores cumplan con las normas, realizará inspecciones y podrá imponer sanciones a aquellos que no respeten la legislación.
La Ley de IA prohíbe las siguientes prácticas:
-Reconocimiento emocional por parte de autoridades públicas para usos como vigilancia o evaluación de ciudadanos.
-Manipulación de personas vulnerables, especialmente menores y personas con discapacidades, utilizando IA para influir en sus decisiones.
-Sistemas que exploten datos personales para predecir comportamientos de manera no ética o para limitar derechos fundamentales.
¿Qué pasa si se utiliza un sistema de IA prohibido?
El incumplimiento de la Ley de IA puede llevar a sanciones millonarias y la retirada del mercado del sistema ilegal. Las multas pueden alcanzar hasta el 6% del volumen de negocio global de la empresa infractora o hasta 30 millones de euros, dependiendo de la gravedad de la infracción.
Esta normativa busca fomentar el desarrollo de la IA de manera responsable y ética. Los desarrolladores y empresas deberán adaptarse a las nuevas reglas, garantizando que la innovación no comprometa la seguridad ni los derechos de las personas. La Ley de IA en la UE marca el camino para otros países que, sin duda, seguirán este ejemplo.