El avance de la inteligencia artificial (IA) ha impulsado la necesidad de establecer marcos contractuales sólidos que garanticen la seguridad jurídica, la transparencia y la ética en su implementación y despliegue. La organización ISMS Forum ha elaborado y presentado el documento “Cláusulas contractuales en sistemas y servicios de IA”, una herramienta que nos puede ser muy útil para abordar los retos jurídicos y éticos que plantea la integración de sistemas y servicios de IA en las empresas. En este artículo desgranaremos las cuestiones clave e incluiremos tips o consejos prácticos para su adopción en empresas que desarrollan o contratan servicios de IA.

Fases para la implementación de cláusulas 

1. Análisis de tipologías de sistemas y servicios de IA

Antes de contratar o implementar un sistema de IA, es esencial:

  • Clasificar los sistemas según su nivel de riesgo, tipo de aprovisionamiento y ciclo de vida.
  • Identificar las actividades críticas que deben regularse contractualmente.
  • Revisar contratos existentes, incluyendo duración, renovaciones y actualizaciones necesarias.

Tip: Mantener un inventario actualizado de los sistemas de IA empleados en la empresa para garantizar que todas las actividades críticas estén cubiertas contractualmente.

2. Redacción y selección de cláusulas contractuales

Al redactar o evaluar contratos con proveedores de IA, se deben incluir estos aspectos:

  • Transparencia en la toma de decisiones: Indicar cómo funciona la IA y qué criterios emplea.
  • Derecho a auditoría: Permitir revisiones periódicas del sistema para evaluar su cumplimiento normativo.
  • Seguridad y privacidad de datos: Definir cómo se almacenan y protegen los datos tratados por la IA.
  • Gestión de riesgos: Incluir mecanismos para mitigar errores o impactos negativos de las decisiones automatizadas.

Tip: Asegurarse de que los contratos permitan actualizar cláusulas en caso de cambios regulatorios o tecnológicos.

3. Evaluación y mejora continua

Una vez implementadas las cláusulas, se recomienda:

  • Monitorizar el rendimiento del sistema para detectar posibles fallos o sesgos.
  • Realizar auditorías periódicas para verificar el cumplimiento de las cláusulas acordadas.
  • Actualizar las cláusulas conforme a la evolución normativa y tecnológica.

Tip: Establecer un equipo de supervisión dentro de la empresa para revisar la evolución de los sistemas de IA y su cumplimiento contractual.

Principales riesgos a considerar

1. Privacidad y Protección de Datos

El tratamiento de datos personales por sistemas de IA debe cumplir con el Reglamento General de Protección de Datos (RGPD). A tener en cuenta:

  • Minimización de datos: Solo almacenar información estrictamente necesaria.
  • Derechos de los usuarios: Garantizar mecanismos para que los afectados puedan solicitar acceso, rectificación o eliminación de sus datos.
  • Transferencias internacionales: Asegurar que los datos no sean enviados a países sin garantías adecuadas de protección.

Tip: Incluir en los contratos una cláusula específica sobre privacidad que detalle las medidas de protección de datos y las responsabilidades de cada parte.

2. Responsabilidad y supervisión humana

Para sistemas de IA de alto riesgo, los contratos deben prever:

  • Intervención humana: Un mecanismo que permita anular decisiones automatizadas cuando sea necesario.
  • Registro de actividad: Implementar logs de decisiones para evaluar el comportamiento del sistema.
  • Explicabilidad: Asegurar que los resultados de la IA puedan ser interpretados por humanos.

Tip: Implementar un sistema de alertas para notificar cuando la IA tome decisiones críticas que requieran supervisión humana.

3. Cumplimiento Normativo y Ética

Los contratos deben abordar aspectos como:

  • Equidad y no discriminación: Definir medidas para evitar sesgos en la IA.
  • Uso ético: Garantizar que la IA no se utilice para fines perjudiciales o contrarios a la ley.
  • Sanciones en caso de incumplimiento: Especificar consecuencias contractuales si la IA viola principios éticos o regulatorios.

Tip: Mantenerse al día con la normativa de IA y adaptar los contratos para cumplir con las normativas que vayan surgiendo.

Recomendación final

Puesto que el uso de sistemas de IA conlleva beneficios, pero también implica riesgos que deben abordarse con cláusulas contractuales adecuadas, las empresas deben adoptar un enfoque proactivo en la gestión de contratos de IA, asegurando el cumplimiento normativo, la transparencia y la protección de los derechos de los usuarios.