El Reglament d'IA o AI Act de la UE, primer marc legal sobre IA mundial, va entrar en vigor l'1 d'agost de 2024. Entre els principals objectius de Reglament IA estan garantir que els sistemes d'IA respectin la seguretat, la salut i els drets fonamentals de les persones, i abordar els riscos dels models d'IA molt potents. El Reglament IA proporciona un enfocament uniforme per abordar aquests reptes i problemes a tota la UE.

El Reglament estableix un període de transició de tres anys per a sistemes integrats a productes que ja estan subjectes a avaluació de conformitat per tercers (com, per exemple, el cotxe autònom) segons el que es disposa a l'Annex I del Reglament. D'altra banda s'estableix un període de dos anys per als sistemes d'alt risc identificats a l'Annex III del Reglament (els sistemes que poden afectar els drets fonamentals, per exemple, en matèria d'educació i de treball, en matèria d'immigració, etc.).

A l'informe de polítiques publicat al portal de la Comissió que analitzem aquí – elaborat pels experts Josep Soler Garrido, Sarah de Nigris, Elias Bassani, Ignacio Sánchez, Tatjana Evas, Antoine-Alexandre André i Thierry Boulangé- els autors se centren en els requisits essencials establerts al Reglament IA per als sistemes d'IA d'alt risc i al paper dels estàndards en com poder complir els esmentats requisits a la pràctica.

Els requisits dels sistemes d'alt risc en l'AI Act

Com s'ha dit, després del període transitori, que serà de dos o tres anys segons l'indicat més amunt, els sistemes d'IA - i els seus desenvolupadors, comercialitzadors i fins a usuaris- hauran d'haver-se adaptat. Això implica que, per exemple, a partir d'agost de 2026, els sistemes d'IA d'alt risc hauran de complir amb requisits relacionats amb la gestió de riscos, la qualitat i la governança de les dades, obligacions de registre i traçabilitat, documentació tècnica, transparència, supervisió humana, precisió, robustesa i ciberseguretat.

El compliment d'aquests requisits es garantirà mitjançant l'establiment d'un sistema de gestió de qualitat i una avaluació de conformitat, ambdós previs a la comercialització i posada al mercat del sistema d'IA.

Què són els estàndards?

Els estàndards són normes de qualitat (normalització) que desenvolupen diferents entitats sectorials (CENELEC, AENOR) i són de compliment voluntari dins dels sectors que pretenen estandarditzar. Segons l'informe "els estàndards són instruments importants per donar suport a la implementació de les polítiques i legislació de la Unió, i per garantir un alt nivell de protecció de la seguretat i els drets fonamentals per a totes les persones en la Unió. Els estàndards també poden donar suport a l'establiment de condicions de competència equitatives per al disseny i desenvolupament de sistemes d'IA, en particular per a les petites i mitjanes empreses que desenvolupen solucions d'IA."

Per què són importants els estàndards?

Els estàndards harmonitzats per al Reglament IA, una vegada publicats al Diari Oficial de la UE, atorgaran una presumpció legal de conformitat als sistemes d'IA desenvolupats d'acord i en compliment dels esmentats estàndards.

Els autors de l'informe estimen que hi ha una sèrie de característiques que s'espera que tinguin els estàndards harmonitzats per al Reglament IA. Aquestes característiques les basen en l'anàlisi del text final de la norma i en el projecte d'estandardització que ha iniciat la Comissió. La Comissió va llançar una sol·licitud d'estandardització i diverses organitzacions europees de normalització, encapçalades per CEN i CENELEC, estan en procés d'elaborar les aquestes normes en resposta a l'esmentada sol·licitud de la Comissió.

A més, els estàndards per al Reglament IA han de mostrar unes qualitats essencials, independentment de l'àrea tècnica de la confiabilitat de la IA que abordin. En concret, els estàndards deuen: estar adaptats als objectius del Reglament IA; estar orientats a sistemes i productes d'IA; ser prou prescriptius i clars; ser aplicables a tots els sectors i sistemes; estar actualitzats amb l'estat de l'art; ser cohesius i complementaris.

Els lliurables d'estandardització sol·licitats per la Comissió Europea cobreixen deu aspectes concrets de l'IA, que es presenten amb diverses consideracions clau i prioritats relacionades amb el seu contingut, que els normalitzadors poden tenir en compte perquè estiguin alineats amb el text del Reglament.

Quins àmbits abordaran els estàndards d'IA?

Es tracta dels lliurables en els següents àmbits:

  • Gestió de riscos
  • Governança i qualitat de dades
  • Registre
  • Supervisió humana
  • Precisió
  • Transparència
  • Robustesa
  • Ciberseguretat
  • Gestió de qualitat
  • Avaluació de conformitat

Els autors recomanen que, donat el curt període que falta per a l'aplicació de les disposicions per a sistemes d'IA d'alt risc, la redacció d'aquestes estàndards ha d'avançar de manera ràpida i constant en els propers mesos. D'altra banda, destaquen que és essencial que el nivell de consens assolit pels experts tècnics sigui prou profund. Segons l'informe, els requisits capturats en els estàndards han de ser clars, precisos i accionables, reduint l'esforç i la incertesa associats amb el compliment normatiu, especialment per a les petites i mitjanes empreses que desenvolupen solucions innovadores d'IA.

Belén Arribas Sánchez

Advocada especialitzada en IA