El Parlamento Europeo ha fijado este miércoles su posición en relación con la inteligencia artificial antes de iniciar las negociaciones con la Comisión Europea y el Consejo de la UE para aprobar la primera ley comunitaria sobre esta materia, una iniciativa pionera en el mundo. Con 499 votos a favor, 28 en contra y 93 abstenciones, los eurodiputados se han opuesto al reconocimiento facial masivo en espacios públicos como método de vigilancia y han reclamado la regulación de sistemas como ChatGPT.
La normativa califica de alto riesgo toda una serie de sistemas de inteligencia artificial con usos muy específicos que solo se podrán introducir en el mercado si respetan los derechos fundamentales y los valores de la UE.
El Parlamento Europeo quiere prohibir la vigilancia biométrica
Mientras que el ejecutivo de la UE y los 27 apuestan por permitir la vigilancia biométrica en casos específicos y bajo autorización de un juez, los eurodiputados reclaman su total prohibición, ya que consideran que supone un "riesgo inaceptable". Así, quieren prohibir los sistemas de categorización biométrica que hagan uso de características "sensibles" —como el género, la etnia, la religión o la orientación política de cada persona. También, los sistemas policiales predictivos o los sistemas de reconocimientos de emociones usados en la gestión de fronteras, puestos de trabajo o instituciones de enseñanza; así como el rastreo indiscriminado de imágenes faciales sacadas de Internet o de circuitos cerrados de televisión para crear bases de datos de reconocimiento facial, porque violan los derechos humanos y el derecho a la intimidad.
En paralelo, la Eurocámara quiere incluir los sistemas de inteligencia artificial dentro de la clasificación que incluye las aplicaciones "de alto riesgo", ya que considera que pueden provocar "daños significativos" en la salud, la seguridad, los derechos fundamentales o el medio ambiente. Tampoco quedarán exentas del listado aquellas herramientas d'IA que se utilizan para influir en la opinión de los votantes y los resultados de las elecciones y los sistemas de recomendaciones en que utilizan aquellas plataformas de redes sociales con más de 45 millones de usuarios.
En este sentido, el Parlamento Europeo pide que los desarrolladores de sistemas generadores de IA —como por ejemplo ChatGPT— demuestren que han reducido los riesgos y que cumplan con una serie de requisitos de transparencia. En el caso de la generación de imágenes falsas, los llamados deep fakes, los eurodiputados exigen que se especifique que el contenido se ha manipulado mediante inteligencia artificial. En cualquier caso, los europarlamentarios han querido dejar claro que su posición no pretende frenar la innovación y apuestan por la creación de lo que se conoce como 'sandboxes', entornos en la vida real establecidos por las autoridades públicas para testear la inteligencia artificial antes de implementarla.