Poques persones a Espanya saben tant sobre Intel·ligència Artificial com Núria Oliver (Alacant, 1970), que després de llicenciar-se en enginyeria de Telecomunicacions a la UPC de Madrid va partir cap als Estats Units va partir cap al prestigiós Institut de Tecnologia de Massachussetts (MIT) per doctorar-se com a experta en Intel·ligència Artificial molts anys abans que copés l'atenció del planeta. Va tornar a Espanya després de treballar a Microsoft i per liderar la investigació d'IA en Telefónica i a Vodafone, però la seva vocació social era tan forta que prefereix apostar-ho tot a la Fundació Ellis, centrada en l'ètica i la sostenibilitat d'aquesta tecnologia que arriba amb pompa de nova revolució industrial. En la pandèmia, va poder aplicar el costat bo de la IA en l'ús de les dades per predir tendències i prendre decisions, però també treballa amb afany en mitigar els múltiples riscos, en termes socials, econòmics i ecològics, de l'algoritme intel·ligent que aprèn i crea a partir de les dades que absorbeix.
Com i per què passa d'investigar per a Microsoft o Telefónica a crear, juntament amb d'altres, la seva pròpia fundació, la fundació Ellis?
Després de doctorar-se en IA el MIT, la meva vocació sempre va ser inventar tecnologia que tingui impacte positiu, em van trucar de tots els laboratoris i vaig decidir escollir Microsoft Research. El 2005 em vaig adonar que el nou ordinador personal era el mòbil i em van donar l'oportunitat de tornar a Catalunya com a directoIra científica d'R+D en Telefónica, una cosa que estava en desenvolupament. Vaig impulsar una àrea amb IA sobre dades per al bé social, que servien per entendre el comportament humà a gran escala, modelar la pobresa, fomentar la inclusió financera... Després vaig crear l'àrea d'IA i dades per al bé social de Vodafone, col·laborant amb les Nacions Unides... Però em vaig adonar que la investigació lliure d'interessos econòmics és important per abordar temes crítics que a les empreses potser no els interessa investigar. El focus d'Ellis Alicante és investigar en IA ètica, responsable i per al bé social. El 2019 em vaig centrar en això.
Va arribar la pandèmia i la seva fama es va disparar, malgrat que el seu currículum llavors ja era impressionant.
Sí, acabàvem de crear la unitat de la Fundació a Alacant. Jo havia treballat amb diferents malalties, com la grip a Mèxic en 2009 o l'ebola i vaig sentir la necessitat de contactar amb institucions amb la idea de crear un grup multidisciplinar d'experts i expertes que treballessin mà a mà amb els responsables institucionals per a la presa de decisions a l'hora de prendre decisions. El març de 2020, la Generalitat va formalitzar aquest grup i em van anomenar comissionada, coordinadora d'aquest grup que va durar més de dos anys, en paral·lel a Ellis.
Són tan elevats els riscos per a la convivència (privacitat, veracitat...) i per al treball de la Intel·ligència Artificial?
La Intel·ligència Artificial té uns grans potencials positius i també negatius. Cal potenciar els primers, com vam fer durant la pandèmia, i és molt important mitigar els negatius: la discriminació i els biaixos que genera, la violació de la intimitat, la falta de veracitat o l'empremta de carboni, entre d'altres. És per això que la Comissió Europea proposa un reglament europeu on estan contemplades aquestes implicacions ètiques.
A nivell laboral, tot apunta que afectarà més treballadors formats. Podem viure un ressorgir dels treballs artesanals?
Sens dubte. A diferència d'altres revolucions industrials, els treballs més afectats seran en aquesta ocasió els de coll blanc o white collar, els d'oficina, que s'havien salvat de les anteriors. L'últim informe del Fòrum Econòmic Mundial prediu que el 23% de les professions es veuran afectades. Però això no significa que desapareguin. Avui dia, gran part de la manufactura està automatitzada però no han desaparegut els humans, supervisen les màquines, i sorgeixen noves professions.
Parla de supervisió de les màquines en anteriors revolucions, però la IA aprèn. Sempre necessitarà un copilot?
Sí, sempre hi ha d'haver una supervisió humana. Tenim un altre tipus d'habilitats on la IA pot no tenir un impacte tan profund. És cert que al Japó utilitzen robots per a les cures, però en la pandèmia vam veure com és d'important el factor humà en les cures i la nostra població envellirà. Tindrem prou joves per cuidar els ancians? Aquest pot ser un sector on ens adonem de com d'important és el contacte físic, per exemple.
La IA sempre necessitarà copilots i hi ha sectors, com les cures, en els quals el factor humà continuarà sent clau
Però, en el dia d'avui, és un sector precaritzat i no molt atractiu per a un advocat o un informàtic.
Clar, l'estructura social anirà canviant i dins de 20 o 30 anys els rols i professions s'hauran canviat. Veurem cap a on va tota aquesta evolució, tampoc no m'agrada gaire predir.
I la renda bàsica universal, creu que pot ser una alternativa per a tota la gent que es quedi fora de la transició tecnològica?
És alguna cosa del que s'emporta parlant fa temps, si formaria part d'aquesta equació. Els plans pilot que s'han elaborat no han anat gaire bé, però és una de les alternatives que se'ns presenta. Si hi ha un percentatge de la població que no pot adaptar-se o aprendre les habilitats i alhora tindrem més productivitat en menys temps de treball en aquesta nova revolució industrial de la IA, la renda bàsica universal és una possible solució.
Una de les grans qüestions amb la IA generativa és el concepte d'autoria. Què passarà amb tot el contingut del qual aprèn aquesta tecnologia i amb la gent que es dedica a crear-los?
Els guionistes de Hollywood estan en vaga perquè les productores han dit que utilitzaran IA. Un dictamen japonès no ha estat favorable per als creadors. Haurem de veure quina jurisprudència es va generant i quins mecanismes poden protegir els autors que no volen que els seus continguts puguin ser utilitzats i puguin tenir aquesta opció. La regulació europea contempla aquesta qüestió també. Hi està havent un moviment #donottrainwithme, de creadors que demanen una etiqueta en metadades que impedeixi als robots que no incloguin els seus continguts. Hi haurà un pols i caldrà regular.
Està Europa perdent el tren de la IA davant de la puntera Xina i dels Estats Units?
Sí. Els Estats Units lideraven històricament la investigació i en els últims anys la Xina s'ha posicionat perquè sap que la Intel·ligència Artificial és clau per convertir-se en la primera potència l'any 2030. En aquest escenari, Europa queda relegada a un tercer pla en la investigació i amb moltes dificultats per atreure i retenir talent, que és una de les coses que intentem amb la Fundació Ellis.
En canvi, podem dir que Europa és pionera en la regulació? S'ha avançat als Estats Units?
Sí, va publicar l'estratègia europea en IA i està liderant la regulació. Els Estats Units, el Regne Unit i la Xina estan elaborant-lo ara, intentant superar aquesta dicotomia entre innovació i regulació. Europa sempre ha tingut la mala fama d'inhibir la innovació amb regulacions excessives. A vegades és veritat, una mala regulació suposa només una càrrega burocràtica. Però en d'altres ofereix un entorn de seguretat perquè saps les regles del joc i minimitzes riscos. De la mateixa forma que imposem un control al menjar o que el microones no ens esclati, és obvi que hem de regular la IA.
Europa és en un tercer pla en investigació en IA, molt lluny dels Estats Units i de la Xina, però lidera la seva regulació i ells segueixen els nostres passos
I Espanya s'ha avançat sent el primer país que cregui una Agència reguladora estatal.
Ho fa perquè està contemplat en la directiva europea i perquè adopta lideratge durant la presidència temporal de la Unió Europea.
Per què contamina tant la IA i com es pot evitar?
Té ingents necessitats energètiques en els seus diferents punts de creació i ús. Necessiten dades de tot arreu i la gestió, captura i manteniment d'aquestes dades requereix molta energia. Són 175.000 milions de paràmetres els que pot arribar a utilitzar. Això consumeix moltíssima energia i requereix servidors potents, amb unes grans necessitats de consum. L'estratègia europea també planteja una IA sostenible i verda perquè no hi hagi tanta necessitat energètica.
Un altre assumpte sobre el qual de vegades alerta és de la falta de diversitat.
Sí, des del punt de la diversitat de gènere, el percentatge de dones expertes en IA està molt per sota del 12 o del 15%, i això genera una falta de diversitat en els algoritmes. Una mica succeït passarà a nivell ètnic o geogràfic si els algoritmes i experts es concentren en perfils blancs o en països econòmicament més potents. Aquesta falta de diversitat dona lloc a filtres bombolla o cambres de ressonància que acaben modelant els nostres gustos, ens encasellen en certs patrons. També pot ser mancada de diversitat institucional, si les tecnològiques privades acaparen molt més contingut que les institucions públiques.
Només el 15% de les expertes en IA són dones i aquesta falsa de diversitat, com l'ètnica o institucional, creguin bombolles que produeixen desigualtat i discriminació
Què li va semblar la crida d'Elon Musk i altres experts a frenar la Intel·ligència Artificial durant un temps davant del ràpid avenç i els seus riscos?
Des de la Fundació Ellis, publiquem un article en el qual intentem desviar el focus d'aquest sensacionalisme apocalíptic. Cal fixar-se en la discriminació, la falta de transparència, la violació de la privacitat des d'un punt més pragmàtic, amb solucions en comptes de sembrant el pànic d'una manera que desvia l'atenció dels reptes reals.
Sempre posem en una balança els avenços i inconvenients de la tecnologia, però existeix una sensació entre els qui han viscut sense tecnologia que això d'estar tot el dia mirant el mòbil, que una IA escrigui llibres o produeixi música no ens portarà un món millor, des del punt de vista humà. El comparteix?
Els filòsofs diuen: "res massa". És important defensar un ús moderat de la tecnologia, com moltes altres coses. Està dissenyada per ser addictiva i és una lluita difícil, però es pot combatre també amb la mateixa tecnologia. Una de les tecnologies que he dissenyat és una IA que detecta que la persona que està utilitzant el mòbil està avorrida i podria dir-li que l'apagui. El mòbil podria dir-te "ja m'has utilitzat massa, ves-te'n a fer altres coses". Cada vegada hi ha més pensament crític cap a les conseqüències negatives de la dependència excessiva de la tecnologia i crec que evolucionarem també cap a això, cap a un ús menys addictiu i menys excessiu.