L'avenç de la intel·ligència artificial (IA) ha impulsat la necessitat d'establir marcs contractuals sòlids que garanteixin la seguretat jurídica, la transparència i l'ètica en la seva implementació i desplegui. L'organització ISMS Forum ha elaborat i presentat el document "Clàusules contractuals en sistemes i serveis d'IA", una eina que ens pot ser molt útil per abordar els reptes jurídics i ètics que planteja la integració de sistemes i serveis d'IA en les empreses. En aquest article desgranarem les qüestions clau i inclourem tips o consells pràctics per a la seva adopció en empreses que desenvolupen o contracten serveis d'IA.

Fases per a la implementació de clàusules

1. Anàlisi de tipologies de sistemes i serveis d'IA

Abans de contractar o implementar un sistema d'IA, és essencial:

  • Classificar els sistemes segons el seu nivell de risc, tipus d'aprovisionament i cicle de vida.
  • Identificar les activitats crítiques que s'han de regular contractualment.
  • Revisar contractes existents, incloent-hi durada, renovacions i actualitzacions necessàries.

Tip: Mantenir un inventari actualitzat dels sistemes d'IA fets servir en l'empresa per garantir que totes les activitats crítiques estiguin cobertes contractualment.

2. Redacció i selecció de clàusules contractuals

En redactar o avaluar contractes amb proveïdors d'IA, s'han d'incloure aquests aspectes:

  • Transparència a la presa de decisions: Indicar com funciona la IA i quins criteris fa servir.
  • Dret a auditoria: Permetre revisions periòdiques del sistema per avaluar el seu compliment normatiu.
  • Seguretat i privacitat de dades: Definir com s'emmagatzemen i protegeixen les dades tractades per la IA.
  • Gestió de riscos: Incloure mecanismes per mitigar errors o impactes negatius de les decisions automatitzades.

Tip: Assegurar-se que els contractes permetin actualitzar clàusules en cas de canvis reguladors o tecnològics.

3. Avaluació i millora contínua

Una vegada implementades les clàusules, es recomana:

  • Monitorar el rendiment del sistema per detectar possibles fallades o biaixos.
  • Realitzar auditories periòdiques per verificar el compliment de les clàusules acordades.
  • Actualitzar les clàusules conforme a l'evolució normativa i tecnològica.

Tip: Establir un equip de supervisió dins de l'empresa per revisar l'evolució dels sistemes d'IA i el seu compliment contractual.

Principals riscos a considerar

1. Privacitat i Protecció de Dades

El tractament de dades personals per sistemes d'IA ha de complir amb el Reglament General de Protecció de Dades (RGPD). A tenir en compte:

  • Minimització de dades: Només emmagatzemar informació estrictament necessària.
  • Drets dels usuaris: Garantir mecanismes perquè els afectats puguin sol·licitar accés, rectificació o eliminació de les seves dades.
  • Transferències internacionals: Cal assegurar que les dades no siguin enviades a països sense garanties adequades de protecció.

Tip: Incloure als contractes una clàusula específica sobre privacitat que detalli les mesures de protecció de dades i les responsabilitats de cada part.

2. Responsabilitat i supervisió humana

Per a sistemes d'IA d'alt risc, els contractes han de preveure:

  • Intervenció humana: Un mecanisme que permeti anul·lar decisions automatitzades quan sigui necessari.
  • Registre d'activitat: Implementar logs de decisions per avaluar el comportament del sistema.
  • Explicabilidad: Cal assegurar que els resultats de la IA puguin ser interpretats per humans.

Tip: Implementar un sistema d'alertes per notificar quan la IA prengui decisions crítiques que requereixin supervisió humana.

3. Compliment Normatiu i Ètica

Els contractes han d'abordar aspectes com:

  • Equitat i no discriminació: Definir mesures per evitar biaixos en la IA.
  • Ús ètic: Garantir que la IA no s'utilitzi per a finalitats perjudicials o contràries a la llei.
  • Sancions en cas d'incompliment: Especificar conseqüències contractuals si la IA viola principis ètics o reguladors.

Tip: Mantenir-se al dia amb la normativa d'IA i adaptar els contractes per complir les normatives que vagin sorgint.

Recomanació final

Ja que l'ús de sistemes d'IA comporta beneficis, però també implica riscos que s'han d'abordar amb clàusules contractuals adequades, les empreses han d'adoptar un enfocament proactiu en la gestió de contractes d'IA, assegurant el compliment normatiu, la transparència i la protecció dels drets dels usuaris.