La Ley de Transparencia de la Inteligencia Artificial de California (California AI Transparency Act (SB 942)) es un ambicioso proyecto legislativo que se ha desarrollado en ese estado con el objetivo de establecer un marco regulatorio en torno al desarrollo y uso de tecnologías de IA.

La finalidad de la ley es obligar a las empresas que desarrollan y operan sistemas de IA a ser más transparentes sobre cómo se desarrollan y utilizan estos sistemas, sus posibles impactos en la sociedad así como de qué manera llevan a cabo los procesos de toma de decisiones automatizadas. El enfoque, en coherencia con cómo se regula en Estados Unidos, se centra en la protección de los derechos de los consumidores (y no de las personas físicas, como en Europa) y en garantizar que los sistemas de IA funcionan de manera ética, equitativa y responsable.

El proyecto de ley requería que las empresas informaran de manera clara y accesible sobre varios aspectos de sus sistemas de IA, entre los cuales: explicar cómo los algoritmos llegan a ciertas decisiones que podrían afectar a las personas, como en las áreas de contratación, concesión de préstamos o acceso a servicios esenciales; realizar estudios sobre el impacto social y económico de sus sistemas de IA, con énfasis en su posible afectación a grupos vulnerables o minorías; asumir la responsabilidad y, en su caso, recibir sanciones en caso de provocar perjuicios o discriminación a personas.

En concreto, la norma fue pensada para hacer la identificación de contenido generado por IA más transparente a los usuarios exigiendo que los proveedores de los sistemas más usados desplegaran elementos como marcas de agua y herramientas de detección de IA. Las obligaciones se destinaban a los “proveedores cubiertos”, esto es, aquellos que cren, desarrollen u ofrezcan sistemas de IA generativa que tenga más de 1 millón de visitantes o usuarios al mes y sea de acceso al público en California. 

Los proveedores cubiertos debía ofrecer a los usuarios la opción de incluir informaciones visibles en contenidos como imagen, video o audio que se haya creado o alterado utilizando el sistema de IA generativa de dicho proveedor, identificando ese contenido como generado por IA. Además, la divulgación debía ser "clara, visible y adecuada" para el medio de contenido y debe ser permanente o "extraordinariamente difícil de eliminar", en la medida en que sea técnicamente factible.

Sanciones previstas

En cuanto al régimen sancionador, estaba previsto que los proveedores cubiertos que infrinjan la Ley de Transparencia de IA de California podrán ser multados con 5.000 USD por infracción y día.

Oposición de las compañías tecnológicas

Algunas de las grandes compañías tecnológicas con sede en California como Google, Meta, y otras empresas de Silicon Valley, expresaron una fuerte oposición a esta ley, argumentando que las obligaciones impuestas eran demasiado rígidas y podían “ahogar” la innovación tecnológica en uno de los sectores “más dinámicos y prometedores”.

Argumentaban, además, que una regulación excesivamente restrictiva en California podría hacer que las empresas buscaran desarrollar tecnologías en otros estados o países con marcos regulatorios más flexibles, lo que afectaría la competitividad de California como centro tecnológico.

El veto del gobernador

El gobernador de California, Gavin Newsom, ha vetado hace unos días el proyecto de ley. En su veto, el gobernador destaca algunas de las preocupaciones mencionadas por las empresas tecnológicas, afirmando que, aunque comprendía la necesidad de regular la inteligencia artificial, consideraba que esta ley podría tener consecuencias no deseadas en la capacidad de innovación y el liderazgo de California en tecnología.

Newsom también mencionó la importancia de alinearse con futuras regulaciones federales. El futuro de la Ley de Transparencia de la IA. El veto del gobernador no significa el final de estos esfuerzos por regular la IA en California. A medio plazo, los legisladores podrían publicar una versión revisada de la ley que abordara y mitigara las preocupaciones planteadas por las tecnológicas, por ejemplo, aligerando la carga administrativa y ofreciendo protecciones más claras para los secretos comerciales, que era otra de las preocupaciones que latía en el sector. Podría generarse un proyecto de ley más aceptable tanto para las empresas como para los defensores de los derechos de los consumidores.

También podríamos asistir en los próximos años a la aprobación de una ley federal sobre la regulación de la IA. Si así fuera, California podría adoptar o adaptar sus propios marcos normativos a partir de dicha legislación, lo cual favorecería la coherencia en la regulación a nivel nacional.

Creemos que asistiremos a ulteriores desarrollos en este campo, inevitables ante el  creciente escrutinio público sobre los posibles efectos negativos de la IA, desde el sesgo algorítmico hasta la desinformación, retos que han hecho de la regulación de la IA un hot topic a nivel global. El (difícil) equilibrio entre la innovación tecnológica y la protección de los derechos de los ciudadanos es un desafío continuo, pero indispensable en un mundo cada vez más impactado por la IA.

Estaremos atentos a estos desarrollos y explicaremos más iniciativas regulatorias en otros entornos geográficos en próximos artículos.

Belén Arribas Sánchez

Abogada especializada en IA