Com a advocada especialista en IA i, alhora, presidenta d'ENATIC, l'associació d'experts nacionals en advocacia TIC, és un plaer col·laborar amb el projecte diari d'ON-IA. Amb l'entrada d'un nou marc regulatori en el conjunt de la Unió Europea sobre intel·ligència artificial, és absolutament imprescindible conèixer el camp d'acció que tenen les empreses, també les pimes i autònoms, de les micros a les més grans. En aquest primer article, et plantejo el per què t'has de preguntar, amb a l'irrupció de l'IA, sobre la importància de normativitzar aquest context en el teu dia a dia empresarial. T'ho proposo a través de dues grans qüestions. Són les següents.

Per què desenvolupar plans per al desplegament de la IA?

En termes generals, el desplegament de sistemes d'IA pot transformar les organitzacions en millorar l'eficiència operativa i impulsar la innovació. La IA serveix ja a les organitzacions en innombrables processos: l'automatització de tasques repetitives, alliberant els empleats perquè se centrin en activitats de més valor afegit; l'ajuda a la presa de decisions, analitzant amb rapidesa i precisió grans volums de dades; l'optimització de processos empresarials, ajudant-se de la creació de patrons i tendències; la millora de la ciberseguretat, detectant i tractant ciberamenaces en temps real; la innovació i desenvolupament de productes, incloent el disseny i prototipat de productes o serveis; la millora de l'experiència del client mitjançant l'anàlisi de comportaments, preferències i necessitats, cada vegada més individualitzades, dels clients, als efectes de la seva satisfacció i fidelització.

Per dur a terme aquests projectes de manera fiable, ètica i amb seguretat jurídica es requereix desenvolupar abans un pla de desplegament d'IA. L'esmentat pla contemplarà una estratègia clara i una infraestructura adequada per al desplegament de l'IA, així com la gestió efectiva i en ple compliment legal, del seu ús.

Quins trets defineixen un Pla d'IA?

L'Informe Ascendant Madurez Digital 2024 de Minsait (Indra) titulat "IA, radiografia d'una revolució en marxa" destaca el grau d'adopció de l'IA per part de les empreses i les administracions públiques i el context de l'esmentada adopció. Són molt significatives algunes de les xifres que aporten i ens sembla molt cridaner el percentatge de gairebé un 40% d'organitzacions que ja tenen o treballen en un pla d'IA, així com l'escàs 25% que no preveu tenir-lo a mitjà termini. Concorda absolutament amb l'interès, èmfasi i focus que ens traslladen alguns dels clients del despatx, que estem ajudant a realitzar i implementar aquest tipus de plans en la part jurídica, respecte als aspectes legals i de governança – sense oblidar els ètics- principalment.

Siguin grans empreses –els sectors madurs com a energia, banca, assegurances i telecos que assenyala l'informe- com petites i innovadores, sense oblidar a les administracions públiques, totes les organitzacions estan interessades en capturar les oportunitats que ofereix l'IA per ser més productives, ser més eficient en els seus processos interns o de cara al client o optimitzar tasques de poc valor afegit. S'ha passat de la percepció excessiva de risc a l'ímpetu en la seva adopció per no quedar-se enrere.

Un pla d'IA hauria d'incloure els següents elements clau: en primer lloc, l'anàlisi de les necessitats i objectius de l'organització; a continuació l'anàlisi de les dades que es disposa i que necessiten; l'avaluació i la selecció de tecnologies adequades als objectius; el disseny del model i el seu desplegament, en el seu cas; la integració del sistema amb possibles sistemes existents en l'organització i el disseny de la governança del sistema. I sens dubte la necessitat de l'avaluació contínua del sistema (funcionament tècnic, compliment legal, aspectes ètics i de governança) al llarg de tot el cicle de vida del mateix.

Per què el nou Reglament IA et pot ajudar?

Les organitzacions són molt conscients dels reptes que implica el desplegament i ús de l'IA: entre aquests, els de la protecció de la privacitat i la seguretat de les dades, la protecció de la propietat intel·lectual, la prevenció de biaixos i la discriminació o afectació a altres drets fonamentals. D'altra banda, preocupa la part de la gestió sostenible dels recursos necessaris per a l'ús de l'IA i la gestió de l'impacte que patirà el mercat laboral.

En l'entorn regulatori de l'IA preocupa especialment la inseguretat jurídica per ser un camp relativament nou i en constant evolució. Fins recentment hi ha hagut mancada de claredat quant a les lleis i regulacions que s'apliquen al seu desenvolupament i ús (inclusivament en termes de responsabilitat per desenvolupament o ús) la qual cosa s'ha vist mitigat, almenys en el nostre entorn europeu, per l'aprovació del Reglament IA (IA Act en anglès) i la seva publicació el passat 12 de juliol. La complexitat d'una norma de nou encuny de més de 400 pàgines i la seva necessària translació a casos d'ús fa que hagin sorgit cursos, formacions, postgraus i màsters en IA a tot arreu. El Reglament IA va entrar en vigor l'1 d'agost i preveu un règim transitori en virtut del qual començaran a aplicar les seves obligacions de forma esglaonada: en 6 mesos, les disposicions relatives als sistemes prohibits; al cap de 12 mesos entraran en vigor les disposicions relatives als models d'IA de propòsit general i als 24 mesos entraran en vigor el gruix de les obligacions del Reglament. Durant aquest període transitori, les empreses i altres entitats s'han de preparar per complir la nova regulació.

La IA, d'altra banda, pot plantejar importants qüestions ètiques i de responsabilitat, especialment en protecció de dades, possible discriminació algorítmica i altres aspectes d'especial complexitat. D'igual manera, el risc de sancions per incompliment regulatori o la possibilitat de litigis són significatius i, en alguns casos, poden comprometre fins a|fins i tot la viabilitat de l'organització.