El pas del temps va portar moltes alegries als qui defensem una intel·ligència artificial ètica i eficientment regulada. Primer, amb l'arribada de ChatGPT el novembre del 2022, que no només ens va demostrar de tot el que és capaç la IA, sinó que va aconseguir que es popularitzés i que el tema passés a ocupar les xerrades de cafè i les paelles i els rostits dels diumenges. Si bé ja s'utilitzava, es va incrementar la consciència d'aquest ús.
El precedent europeu
La segona gran fita va ser el març d'aquest any amb l'aprovació del Reglament d'intel·ligència artificial. No va ser màgia. La Unió Europea treballava en això des de fa anys. El famós “efecte Brussel·les” es va tornar a esdevenir. Al cap de pocs dies, molts estats del món van avançar amb les seves propostes de regulació. Un dels resultats més papables és el gir del sector privat. Abans era —lògicament— reticent a la regulació, ara fa lobby per intentar que els marcs reguladors globals siguin els més harmònics possibles. Això és, sense dubte, un benefici principalment per a tothom, opera com a element clau per combatre els monopolis. Una petita o mitjana empresa desenvolupadora d'IA que pretén exportar els seus serveis no disposa de cap robust equip legal que pugui adaptar-se fàcilment a les dissímils regulacions de cada país.
Vivim en l'imperi d'imperceptibles algoritmes des de molt abans del novembre del 2022. A més d'influir i de manipular el nostre comportament, prenen importantíssimes decisions sobre el futur de les persones, per exemple, determinen si podem accedir a la universitat, si quedem fora d'un treball ponderant les nostres emocions o CV, o si som candidats per obtenir un crèdit.
Pros i contres
El problema principal (des d'ara mateix, no l'únic) són els biaixos algorítmics, un terme que sembla complicat però que comprendre'l és tan senzill com aprendre a sumar dos més dos. La solució, tristament, no corre la mateixa sort. La intel·ligència artificial es nodreix de dades, i si aquestes no són representatives o no reflecteixen diversitat (gènere, raça, religió, etc.), les seves respostes estaran també esbiaixades (des d'ara mateix, que no desconeixem que hi ha altres causes de biaixos algorítmics). Llavors, el quid de la qüestió rau a transferir els valors humans i, més precisament, el nostre perfil social, en la tecnologia. D'exemples, lamentablement, ens en sobren. Des del famosíssim cas de l'algoritme que puntuava currículums d'aspirants a llocs de treball i que donava una puntuació inferior a les dones davant els homes amb antecedents professionals iguals, fins als més actuals que ens regala la IA generativa. Per exemple, si li demanem que ens creï una imatge d'una “persona de negocis”, molt probablement ens donarà un home blanc, i si el prompt està vinculat amb termes com ara “assistent”, “recepcionista” o “sensible”, apareixerà una dona.
El paper de la governança
Quin és el resultat? El reforç dels estereotips i l'agudització de les fractures socials. Els col·lectius vulnerables i minoritaris estan cada vegada més marginats i estigmatitzats. Són invisibles —també— als algoritmes. Quina és la solució? La governança ètica de la intel·ligència artificial. La governança consisteix en la manera o la forma en què s'organitzen les institucions al més alt nivell, és una espècie de paraigua que cobreix l'organització en conjunt. Igual que passa amb les qüestions de gènere i diversitat, no són sectorials, són transversals.
Així, un esquema de governança ètica rau en un pla d'acció que busqui la incorporació de la IA de manera ètica, és a dir, que la IA es converteixi en una aliada per a les institucions. Aprofitar-nos dels seus beneficis, però al mateix temps assegurant-nos que serà una eina d'inclusió. Vivim en l'era en què la IA és una tendència cool i, en l'afany per estar a la moda, incorporem la IA “fins a la sopa”, cosa que fàcilment ens pot portar un resultat no desitjat. No agafem un coet per arribar a la cantonada, de la mateixa manera que no hem d'incorporar la IA en qualsevol cosa; l'essència i la sensibilitat humanes són insubstituïbles en moltes ocasions.
La governança ètica de la IA ens proposa un abordatge transdisciplinari on les ciències socials (totes, des de lingüistes, juristes, periodistes, psicòlegs, sociòlegs, etc. tenen un rol importantíssim). També aborda diferents àrees, com l'educació, la indústria, la manufactura, la regulació, la comunicació, entre altres. Un punt rellevant són les auditories algorítmiques i les avaluacions d'impacte, que consisteixen a examinar algoritmes d'alt risc per detectar biaixos i fallades. El Reglament d'IA de la Unió Europea i l'Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA) van també en sintonia amb l'avaluació de determinats sistemes.
Casos com el d'Almendralejo (en què uns nens van crear fotos de les seves companyes nues amb IA generativa) ens ensenyen que el problema és excessivament complex i que, sobretot, no s'esgota en una sola àrea. Sense saber-ho, entrenem algoritmes cada dia quan fem servir ChatGPT o interactuem a les xarxes socials. Tots som part del problema, però, per sort, també de la solució. Ens toca a nosaltres decidir si volem ignorar l'elefant a l'habitació o intervenir en l'assumpte.