En un contexto de rápido avance de la inteligencia artificial (IA) por las grandes ventajas y eficiencias que supone para innumerables sectores, el defensor de los derechos digitales y la privacidad, el senador Edward Markey, no exento de las preocupaciones en torno a los derechos civiles y humanos, introdujo la propuesta de ley Artificial Intelligence Civil Rights Act con el objetivo de establecer salvaguardias contra los sesgos, la vigilancia excesiva y la discriminación derivados del uso no responsable de la IA.

Muchos algoritmos de IA, a pesar de su aparente neutralidad, perpetúan sesgos históricos que afectan sobre todo a las minorías raciales, a las mujeres y a otros grupos vulnerables. Un ejemplo famoso es el uso de software de reconocimiento facial, que presenta tasas significativamente más altas de error en la identificación de personas de color en comparación con las personas blancas.

El senador Markey presentó recientemente esta propuesta de ley con la intención de mitigar estos riesgos y garantizar que la adopción de IA no exacerbe las desigualdades sociales existentes. La ley tiene como objetivo garantizar que las aplicaciones de IA se utilicen de manera justa y ética, respetando los derechos civiles de todos los ciudadanos y protegiendo su privacidad.

Elementos más significativos

Prevención de la discriminación algorítmica: el proyecto de ley prohíbe explícitamente el uso de IA en decisiones que den como resultado la discriminación basada en raza, género, orientación sexual, religión o nacionalidad en ámbitos como la contratación, la vivienda y la justicia penal, donde la IA se emplea para hacer predicciones o recomendaciones que pueden afectar directamente a la vida de las personas.

Transparencia y supervisión pública: esta ley exigiría a las empresas y entidades públicas que utilicen IA revelar cuándo y cómo están utilizando estas tecnologías, particularmente en decisiones que impactan en derechos civiles. Este enfoque de transparencia permitiría a las personas saber cuándo están siendo evaluadas por sistemas automatizados y les daría la oportunidad de cuestionar o impugnar decisiones basadas en la IA. Además, las organizaciones tendrían que justificar el uso de estos algoritmos y demostrar que sus resultados no tienen un impacto discriminatorio.

Evaluaciones de impacto y auditorías: para garantizar que los sistemas de IA utilizados por las empresas y las agencias gubernamentales no perpetúen sesgos, la ley requeriría auditorías independientes y regulares de los algoritmos. Las evaluaciones de impacto de IA se centrarían en detectar y corregir cualquier sesgo en los modelos y garantizar que estos cumplan con los estándares de equidad establecidos por la ley.

Protección de la privacidad

La ley también aborda riesgos en la privacidad, estableciendo límites estrictos sobre el uso de la IA en la recopilación y análisis de datos personales, particularmente en áreas como la vigilancia y el reconocimiento facial. El proyecto de ley garantizaría que las agencias gubernamentales no utilicen IA para controlar a los ciudadanos sin una base legal.

Supervisión federal: para hacer cumplir estas disposiciones, el proyecto de ley establece la creación de una agencia federal o un organismo de supervisión encargado de regular el uso de la IA, con autoridad para investigar y sancionar a las organizaciones que no cumplan con las regulaciones o que utilicen la IA de forma discriminatoria.

Implicaciones sociales y políticas

La Artificial Intelligence Civil Rights Act refleja una creciente preocupación en los círculos políticos y sociales sobre la necesidad de regular la IA de manera proactiva. Sin embargo, la propuesta también ha generado debates sobre el equilibrio entre la regulación y la innovación tecnológica. Algunos argumentan que una regulación excesiva podría ahogar la innovación y dificultar el desarrollo de nuevas aplicaciones de IA en áreas críticas como la salud o la seguridad pública.

Por otro lado, defensores de los derechos civiles y organizaciones han respaldado la propuesta de ley, argumentando que la falta de regulación permitiría que la IA perpetúe las mismas desigualdades estructurales que existen en la sociedad. Los defensores también señalan que sin un marco regulatorio claro los grupos vulnerables seguirán siendo los más afectados por las decisiones automatizadas, ya sea en el ámbito laboral y judicial o en el acceso a servicios.

El futuro de la legislación de IA en Estados Unidos

Mientras la semana pasada asistíamos al veto de la ley IA de California por parte del gobernador de este estado, quedando la norma de momento en stand-by, la Artificial Intelligence Civil Rights Act marca un punto de inflexión en el debate sobre la regulación de la IA en Estados Unidos. Si bien la propuesta del senador Markey es uno de los primeros intentos de abordar formalmente los derechos civiles en el contexto de la IA, es probable que veamos un crecimiento de legislaciones dirigidas a regular el tema a medida que la IA continúe desarrollándose y teniendo un impacto mayor en todos los sectores de actividad. Estaremos atentos a la tramitación de esta propuesta en el Congreso americano.

Belén Arribas Sánchez

Abogada especializada en IA