El Consell de la Unió Europea ha donat aquest dimarts el vistiplau final a la primera llei europea -i del món- per regular l'ús de la intel·ligència artificial, per garantir millors condicions de desenvolupament i ús d'aquesta tecnologia innovadora. "La llei és històrica, la primera d'aquest tipus al món, perquè aborda un repte tecnològic global i també crea oportunitat per a les societats i economies", ha manifestat el secretari d'estat per a la digitalització de Bèlgica, Mathieu Michel, en nom de la presidència belga del Consell de la Unió. Una vegada es publiqui la norma al diari oficial de la UE "en els pròxims dies", els països membres com Espanya tindran un màxim de dos anys per traslladar la llei i aplicar-la en els seus respectius estats, alhora que hauran de vetllar pel seu compliment.

Però què significa tenir unes normes establertes per regular la intel·ligència artificial segons el nivell de perill que suposa per als usuaris? Basant-se que els diferents nivells de perill impliquen una major o menor regulació, la nova normativa estableix obligacions per a proveïdors i usuaris en funció del nivell de risc de la IA, per petit que sigui. Així, els sistemes que presentin "riscos limitats" estaran subjectes a unes obligacions de transparència més laxes, mentre que els que suposin "riscos elevats" únicament podran utilitzar-se sota autorització i complint una sèrie de requisits.

Per això, seran inacceptables:

  • manipulació cognitiva del comportament de persones o grups vulnerables específics: per exemple, joguines activades per veu que fomenten comportaments perillosos en els nens
  • puntuació social: classificació de persones en funció del seu comportament, estatus socioeconòmic o característiques personals
  • sistemes d'identificació biomètrica en temps real i a distància, com el reconeixement facial.

Únicament s'acceptaran excepcions en camps com la defensa o la investigació, i sempre sota autorització judicial, com per exemple per prevenir amenaces terroristes o combatre el tràfic de persones. En el cas dels sistemes d'intel·ligència artificial generativa, com ChatGPT, aquests hauran d'especificar si un contingut està generat a través d'intel·ligència artificial. És a dir, ChatGPT haurà de complir requisits de transparència i amb la legislació de la UE en matèria de drets d'autor:

  • revelar que el contingut ha estat generat per IA
  • dissenyar el model per evitar que generi continguts il·legals
  • publicar resums de les dades protegides per drets d'autor utilitzats per a l'entrenament

En la nova norma sobre la intel·ligència artificial també s'identifiquen sistemes de risc que només podran comercialitzar-se si els desenvolupadors garanteixen que respecten els drets fonamentals. Alhora, la norma també busca impulsar la indústria europea davant potències com els Estats Units o la Xina.

Impuls de la innovació

La legislació contempla posar a disposició de les pimes i de les empreses emergents espais controlats de proves i assajos en condicions reals en l'àmbit nacional perquè puguin desenvolupar i entrenar la IA innovadora abans de la seva comercialització.

Per assegurar el compliment de la llei, la UE crearà una oficina sobre intel·ligència artificial en la Comissió Europea. En paral·lel, es designarà un panell d'experts independents que oferiran recomanacions a les institucions i també es crearà una taula amb representants de tots els estats membres per realitzar un seguiment de l'aplicació de la norma. En casos d'incompliment, les empreses s'exposen a una multa que equivaldria a un percentatge del seu volum de negoci anual, una xifra que seria "proporcional" en el cas de les pimes i empreses emergents.