La Llei de Transparència de la Intel·ligència Artificial de Califòrnia (Califòrnia AI Transparency Act (SB 942)) és un ambiciós projecte legislatiu que s'ha desenvolupat en aquest estat amb l'objectiu d'establir un marc regulatori entorn del desenvolupament i ús de tecnologies d'IA.

La finalitat de la llei és obligar a les empreses que desenvolupen i operen sistemes d'IA a ser més transparents sobre com es desenvolupen i utilitzen aquests sistemes, els seus possibles impactes en la societat així com de quina manera duen a terme els processos de presa de decisions automatitzades. L'enfocament, en coherència amb com es regula als Estats Units, se centra en la protecció dels drets dels consumidors (i no de les persones físiques, com en Europa) i a garantir que els sistemes d'IA funcionen de manera ètica, equitativa i responsable.

El projecte de llei requeria que les empreses informessin de manera clara i accessible sobre diversos aspectes dels seus sistemes d'IA, entre els quals: explicar com els algoritmes arriben a certes decisions que podrien afectar les persones, com en les àrees de contractació, concessió de préstecs o accés a serveis essencials; realitzar estudis sobre l'impacte social i econòmic dels seus sistemes d'IA, amb èmfasi en la seva possible afectació a grups vulnerables o minories; assumir la responsabilitat i, en el seu cas, rebre sancions en cas de provocar perjudicis o discriminació a persones.

En concret, la norma va ser pensada per fer la identificació de contingut generat per IA més transparent als usuaris exigint que els proveïdors dels sistemes més utilitzats despleguessin elements com a marques d'aigua i eines de detecció d'IA. Les obligacions es destinaven als "proveïdors coberts", això és, aquells que cren, desenvolupin o ofereixin sistemes d'IA generativa que tingui més d'1 milió de visitants o usuaris al mes i sigui d'accés al públic a Califòrnia.

Els proveïdors coberts havia d'oferir als usuaris l'opció d'incloure informacions visibles en continguts com a imatge, vídeo o àudio que s'hagi creat o alterat utilitzant el sistema d'IA generativa de l'esmentat proveïdor, identificant aquest contingut com generat per IA. A més, la divulgació havia de ser "clara, visible i adequada" per al mitjà de contingut i ha de ser permanent o "extraordinàriament difícil d'eliminar", en la mesura que sigui tècnicament factible.

Sancions previstes

Quant al règim sancionador, estava previst que els proveïdors coberts que infringeixin la Llei de Transparència d'IA de Califòrnia podran ser multats amb 5.000 USD per infracció i dia.

Oposició de les companyies tecnològiques

Algunes de les grans companyies tecnològiques amb seu a Califòrnia com Google, Meta, i altres empreses de Silicon Valley, van expressar una forta oposició a aquesta llei, argumentant que les obligacions imposades eren massa rígides i podien "ofegar" la innovació tecnològica en un dels sectors "més dinàmics i prometedors".

Argumentaven, a més, que una regulació excessivament restrictiva a Califòrnia podria fer que les empreses busquessin desenvolupar tecnologies en altres estats o països amb marcs regulatoris més flexibles, la qual cosa afectaria la competitivitat de Califòrnia com a centre tecnològic.

El vet del governador

El governador de Califòrnia, Gavin Newsom, ha vetat fa uns dies el projecte de llei. En el seu vet, el governador destaca algunes de les preocupacions esmentades per les empreses tecnològiques, afirmant que, encara que comprenia la necessitat de regular la intel·ligència artificial, considerava que aquesta llei podria tenir conseqüències no desitjades en la capacitat d'innovació i el lideratge de Califòrnia en tecnologia.

Newsom també va esmentar la importància d'alinear-se amb futures regulacions federals. El futur de la Llei de Transparència de l'IA. El vet del governador no significa el final d'aquests esforços per regular l'IA a Califòrnia. A mitjà termini, els legisladors podrien publicar una versió revisada de la llei que va abordar i mitigués les preocupacions plantejades per les tecnològiques, per exemple, alleugerint la càrrega administrativa i oferint proteccions més clares per als secrets comercials, que era una altra de les preocupacions que bategava al sector. Podria generar-se un projecte de llei més acceptable tant per a les empreses com per als defensors dels drets dels consumidors.

També podríem assistir en els propers anys a l'aprovació d'una llei federal sobre la regulació de l'IA. Si així fos, Califòrnia podria adoptar o adaptar els seus propis marcs normatius a partir de l'esmentada legislació, la qual cosa afavoriria la coherència en la regulació a nivell nacional.

Creiem que assistirem a ulteriors desenvolupaments en aquest camp, inevitables davant del creixent escrutini públic sobre els possibles efectes negatius de l'IA, des del biaix algorítmic fins a la desinformació, reptes que han fet de la regulació de l'IA un hot topic a nivell global. El (difícil) equilibri entre la innovació tecnològica i la protecció dels drets dels ciutadans és un desafiament continu, però indispensable en un món cada vegada més impactat per l'IA.

Estarem atents a aquests desenvolupaments i explicarem més iniciatives regulatòries en altres entorns geogràfics a pròxims articles.

Belén Arribas Sánchez

Advocada especialitzada en IA