En un context de ràpid avenç de la intel·ligència artificial (IA) pels grans avantatges i eficiències que suposa per a innombrables sectors, el defensor dels drets digitals i la privacitat, el senador Edward Markey, no exempt de les preocupacions entorn dels drets civils i humans, va introduir la proposta de llei Artificial Intelligence Civil Rights Act amb l'objectiu d'establir salvaguardes contra els biaixos, la vigilància excessiva i la discriminació derivats de l'ús no responsable de la IA.

Molts algoritmes d'IA, malgrat la seva aparent neutralitat, perpetuen biaixos històrics que afecten sobretot les minories racials, les dones i altres grups vulnerables. Un exemple famós és l'ús de programari de reconeixement facial, que té taxes significativament més altes d'error en la identificació de persones de color en comparació amb les persones blanques.

El senador Markey va presentar recentment aquesta proposta de llei amb la intenció de mitigar aquests riscos i garantir que l'adopció d'IA no exacerbi les desigualtats socials existents. La llei té per objectiu garantir que les aplicacions d'IA s'utilitzin de manera justa i ètica, respectant els drets civils de tots els ciutadans i protegint la seva privacitat.

Elements més significatius

Prevenció de la discriminació algorítmica: el projecte de llei prohibeix explícitament l'ús d'IA en decisions que tinguin com a resultat discriminació basada en raça, gènere, orientació sexual, religió o nacionalitat en àmbits com la contractació, l'habitatge i la justícia penal, en què la IA s'utilitza per fer prediccions o recomanacions que poden afectar directament la vida de les persones.

Transparència i supervisió pública: aquesta llei exigiria a les empreses i entitats públiques que facin ús d'IA revelar quan i com estan utilitzant aquestes tecnologies, particularment en decisions que impacten en drets civils. Aquest enfocament de transparència permetria a les persones saber quan estan sent avaluades per sistemes automatitzats i els donaria l'oportunitat de qüestionar o impugnar decisions basades en la IA. A més, les organitzacions haurien de justificar l'ús d'aquests algoritmes i demostrar que els seus resultats no tenen un impacte discriminatori.

Avaluacions d'impacte i auditories: per garantir que els sistemes d'IA utilitzats per les empreses i les agències governamentals no perpetuïn biaixos, la llei requeriria auditories independents i regulars dels algoritmes. Les avaluacions d'impacte d'IA se centrarien a detectar i corregir qualsevol biaix en els models i garantir que aquests compleixin els estàndards d'equitat establerts per la llei.

Protecció de la privacitat

La llei també aborda riscos en la privacitat, establint límits estrictes sobre l'ús de la IA en la recopilació i anàlisi de dades personals, particularment en àrees com la vigilància i el reconeixement facial. El projecte de llei garantiria que les agències governamentals no utilitzin IA per controlar els ciutadans sense una base legal.

Supervisió federal: per fer complir aquestes disposicions, el projecte de llei estableix la creació d'una agència federal o un organisme de supervisió encarregat de regular l'ús de la IA, amb autoritat per investigar i sancionar les organitzacions que no compleixin les regulacions o que facin servir la IA de manera discriminatòria.

Implicacions socials i polítiques

L'Artificial Intelligence Civil Rights Act reflecteix una preocupació creixent en els cercles polítics i socials sobre la necessitat de regular la IA de manera proactiva. Tanmateix, la proposta també ha generat debats sobre l'equilibri entre la regulació i la innovació tecnològica. Alguns argumenten que una regulació excessiva podria ofegar la innovació i dificultar el desenvolupament de noves aplicacions d'IA en àrees crítiques com la salut o la seguretat pública.

D'altra banda, defensors dels drets civils i organitzacions han donat suport a la proposta de llei, argumentant que la falta de regulació permetria que la IA perpetuï les mateixes desigualtats estructurals que hi ha en la societat. Els defensors també assenyalen que sense un marc regulatori clar els grups vulnerables continuaran sent els més afectats per les decisions automatitzades, ja sigui en l'àmbit laboral, judicial o en l'accés a serveis.

El futur de la legislació d'IA als Estats Units

Mentre la setmana passada vam assistir al veto de la llei IA de Califòrnia per part del governador d'aquest estat, quedant la norma de moment en standby, l'Artificial Intelligence Civil Rights Act marca un punt d'inflexió en el debat sobre la regulació de la IA als Estats Units. Si bé la proposta del senador Markey és un dels primers intents d'abordar formalment els drets civils en el context de la IA, és probable que vegem un creixement de legislacions dirigides a regular el tema a mesura que la IA continuï desenvolupant-se i tenint un impacte més gran en tots els sectors d'activitat. Estarem atents a la tramitació d'aquesta proposta en el Congrés americà.

Belén Arribas Sánchez

Advocada especialitzada en IA