El profund desplegament de la intel·ligència artificial (IA) en tots els àmbits de l'activitat econòmica i social ha provocat un ampli debat entre l'afavoriment del seu lliure desenvolupament per les enormes bondats que aporta i la necessària regulació de la manera com s'implanti pels indiscutibles riscos i efectes negatius de la seva utilització descontrolada. Com a resposta a aquest dilema s'acaba d'aprovar al si de la Unió Europea el Reglament d'intel·ligència artificial, que tindrà una enorme transcendència en l'immediat futur.

L'objectiu exprés del Reglament és actuar, en clau d'equilibri, entre el foment de la IA i el control que eviti els seus perills per a les persones. D'un costat, el suport a la innovació fomentant l'expansió dels sistemes d'IA en nom d'un desenvolupament econòmic més potent. D'altra banda, l'establiment d'instruments de garantia que evitin els seus efectes perjudicials per a tots els seus afectats. Per tant, millorar el funcionament del mercat interior, d'un costat, promovent el desenvolupament de la intel·ligència artificial, i, d'altra banda, el desenvolupament de controls fiables que garanteixin la protecció de la salut, la seguretat i els drets fonamentals garantits a la Carta dels Drets Fonamentals de la Unió Europea.

Es tracta d'una norma d'enorme transcendència, per ser la primera de caràcter supranacional que aborda amb enorme amplitud el desenvolupament de la IA des d'una perspectiva transversal, d'impacte sobre el conjunt de l'activitat econòmica i empresarial, inclòs el vessant laboral. En igual mesura especialment impactant per la seva naturalesa de Reglament, per ser d'incorporació automàtica a la normativa nacional, sense necessitat de transposició com s'exigeix per a les Directives.

El Reglament europeu sobre IA afecta de manera particular el seu desplegament en el marc de l'exercici dels poders empresarials respecte dels seus empleats

Pel seu caràcter transversal respecte de totes les competències de la Unió Europea, afecta de manera directa les relacions laborals i, en particular, el seu desplegament en el marc de l'exercici dels poders empresarials respecte dels seus empleats. Això inclou totes les esferes, des dels processos de selecció i la contractació, fins als acomiadaments, passant per l'exercici dels poders organitzatius, de control i disciplinaris de les empreses respecte dels seus empleats; fins i tot, hi ha menció expressa al vessant de l'activitat sindical, amb garanties respecte de la negociació col·lectiva i la vaga. Més encara, per aquest caràcter transversal, el Reglament desborda l'àmbit tradicional de la política social europea, centrada en el treball subordinat, per estendre's també al treball autònom, especialment al treball autònom vulnerable, en relació amb les seves empreses clientes.

La intervenció de garantia, que es defensa d'una IA "centrada en l'ésser humà i fiable", es materialitza a l'establiment de diversos nivells de risc, per actuar sobre cada un d'ells de manera més o menys incisiva en funció precisament de la intensitat del risc, en consideració al seu potencial perjudici i a la seva gravetat.

Les pràctiques més extremes, de superior risc, es qualifiquen com a "inacceptables" i, com a tals, queden expressament prohibides. Així, s'identifiquen fins a un total de 8 pràctiques com a inacceptables, entre les quals sobresurten, per la seva repercussió en el treball, les següents: 1) les que utilitzin tècniques subliminars que transcendeixin la consciència d'una persona o de tècniques deliberadament manipuladores o enganyoses amb l'efecte d'alterar de manera substancial el comportament d'una persona o grup; 2) les que explotin vulnerabilitats d'una persona o grup derivades de la seva edat o discapacitat, o d'una situació social o econòmica específica; 3) les que pretenguin avaluar o classificar persones o grups atenent al seu comportament social o a característiques personals per provocar-los un tracte perjudicial o desfavorable; 4) les que detectin emocions d'una persona en els llocs de treball, tret de les justificades per motius mèdics o de seguretat; 5) els sistemes de categorització biomètrica de les persones per deduir la seva raça, opinions polítiques, afiliació sindical, conviccions religioses o filosòfiques, vida sexual o orientació sexual. En aquestes condicions, a partir d'ara, les empreses han d'avaluar amb summa cura el desplegament que realitzin de la IA, amb vista a assegurar-se que no incorrin en cap d'aquestes pràctiques prohibides.

S'identifiquen un total de 8 pràctiques inacceptables, de superior risc, i com a tals, queden expressament prohibides

En un segon nivell, s'identifiquen els que es qualifiquen com a sistemes d'alt risc, on, a part d'una descripció general de la seva caracterització, es recull expressament en un annex un llistat dels quals es consideren d'aquest nivell. Algunes de les pràctiques enumerades a l'esmentat annex presenten una incidència directa sobre els poders empresarials en l'àmbit del treball, inclòs l'accés a l'autoocupació. Entre ells, destacaria les següents: 1) sistemes d'IA destinats a la contractació i la selecció, en particular per publicar anuncis d'ocupació específics, analitzar i filtrar les sol·licituds d'ocupació i avaluar els candidats; 2) sistemes d'IA destinats a l'adopció de decisions que afectin a les condicions laborals, a la promoció o acomiadament, a l'assignació de tasques a partir de comportaments, trets o característiques personals, o bé per supervisar i avaluar el rendiment i el comportament dels treballadors. A part d'això, amb caràcter general, encara que d'evident repercussió sobre la gestió de l'ocupació, s'inclouen també dins dels sistemes d'IA d'alt risc els que utilitzin la biometria, en la mesura en què el seu ús estigui permès pel Dret de la Unió o nacional aplicable.

Respecte d'aquests sistemes d'alt risc, fins i tot permetent-se el seu desplegament, se sotmeten a estrictes controls abans de la seva comercialització, entre els quals destaca la realització d'una precisa avaluació i mitigació dels riscos, especialment aquells que puguin provocar tractaments discriminatoris, registre de l'activitat i traçabilitat dels resultats, amb especial exigència de supervisió humana a través de mesures adequades. En particular, l'avaluació s'ha de dirigir a examinar possibles biaixos que puguin afectar a la salut i la seguretat de les persones, o bé afectar negativament els drets fonamentals o donar lloc a algun tipus de discriminació prohibida.

Les empreses han d'informar tant els sindicats com els treballadors individualment afectats que es troben exposats a la utilització del sistema d'IA d'alt risc

Respecte de la fase successiva, de la implantació de sistemes d'IA, s'estableixen importants obligacions al responsable del seu desplegament, que, a efectes laborals, no és cap altre que l'ocupador. En aquesta fase la idea força és la de la transparència, de la correcta i comprensible informació respecte del seu desenvolupament. Com a regla específica en l'àmbit del laboral s'estableix que, abans de posar en servei o utilitzar un sistema d'IA d'alt risc en el lloc de treball, les empreses (o els ocupadors) han d'informar tant els representants dels treballadors com els treballadors individualment afectats que es troben exposats a la utilització del sistema d'IA d'alt risc. A aquests efectes, s'ha de recordar que la legislació espanyola ja estableix un deure d'informació a la representació dels treballadors en l'empresa dels paràmetres, regles i instruccions en els quals es basen els algoritmes o sistemes d'intel·ligència artificial que afecten la presa de decisions que poden incidir en les condicions de treball, l'accés i manteniment de l'ocupació, inclosa l'elaboració de perfils. Més encara, els representants dels treballadors en l'empresa tenen el dret a ser consultats amb caràcter previ a l'adopció de decisions de reestructuració empresarial que comportin alteracions en l'ocupació o en les condicions de treball, especialment quan comporten la introducció de noves tecnologies. Amb el Reglament europeu la informació s'amplia en el seu contingut i, sobretot, com a novetat ha de ser transmesa directament a cada treballador afectat.

Finalment, com és habitual en el Dret europeu, el Reglament contempla tot un ventall de sancions, per a les conductes d'incompliment de les obligacions i controls establerts, especialment de caràcter econòmic d'important quantia, però que també poden ser d'un altre tipus. El règim concret de les sancions i altres mesures d'execució es remet a les legislacions pròpies dels estats membres; a l'efecte, tindran important protagonisme no només les instàncies generals de garantia dels sistemes d'IA sinó també, per la qual cosa afecta el laboral, a la potestat sancionadora administrativa a través de la Inspecció de treball. La clau és que es tracti de sancions proporcionades i dissuasives.

En definitiva, ens enfrontem a una normativa molt nova, a la qual haurem d'estar atents quant als resultats que produeix en el desplegament dels sistemes d'IA i com a instrument per conjurar els seus riscos davant possibles violacions dels drets fonamentals i llibertats públiques en l'àmbit laboral.