La intel·ligència artificial ha arribat a les nostres vides. I de la mateixa manera que ens ofereix una quantitat, de moment inimaginable, de possibilitats, també espanta.
Aquesta setmana, Elon Musk donava una entrevista a Fox News on advertia que, si no es regula, si no es delimita l'abast i ús de la IA, podríem arribar a la "destrucció de la civilització". Una persona que, a causa de les inversions que fa en projectes relacionats amb aquesta qüestió, mereix ser escoltada, segons la meva opinió. "La IA és més perillosa que, per exemple, un mal disseny d'un avió o un mal manteniment de la producció o una mala fabricació d'un automòbil, en el sentit que té el potencial (per petita que sigui la probabilitat, però no és trivial) de destruir la civilització". Així ho va deixar anar a Tucker Carlson dimarts passat a la nit.
Estem parlant poc, de moment a Europa, del que implica l'arribada d'aquesta nova tecnologia. I pràcticament no s'ha dit res sobre la pausa demanada, per part d'un grup d'experts (entre els quals hi ha Musk), en els avenços de la intel·ligència artificial. Carles Sierra, president de l'Associació Europea d'Intel·ligència Artificial (EURAI), explicava en una entrevista en detall en què consisteix aquesta petició. La petició que fan alguns dels noms més rellevants en l'àmbit de la tecnologia consisteix que s'aturin els entrenaments dels sistemes d'IA més potents durant els propers sis mesos, davant l'alerta de "riscos profunds per a la societat i la humanitat". El seu escrit es va publicar dues setmanes després que OpenAI presentés el ja conegut xat GPT-4, una versió encara més potent del previ Chat GPT.
El plantejament de la intel·ligència artificial des de la perspectiva ètica, humana, essencial, requereix una reflexió que no ens estem donant temps a desenvolupar
A la carta d'alarma, aquests experts recomanen que el temps de pausa proposat s'hauria d'invertir per "desenvolupar i implementar conjuntament una sèrie de protocols compartits perquè les eines d'IA siguin segures més enllà de tot dubte raonable". I apuntaven al fet que la planificació i gestió no està tenint lloc, per la qual cosa apel·laven als governs perquè intervinguessin davant dels perills reals que això suposa.
És un fet que les respostes que estan donant eines com ara Chat GPT són esbiaixades, moltes vegades equivocades i que poden generar confusió amb greus conseqüències.
Quins riscos presenta ara mateix la intel·ligència artificial?
En primer lloc, hauríem de preocupar-nos per l'augment de control que pot suposar per als humans aquesta "superintel·ligència artificial". El professor Nick Bostrom, de la Universitat d'Oxford, assenyala que som a prop d'una "explosió intel·ligent", que es produirà quan els aparells aconsegueixin l'autonomia. En aquest punt, aquest tipus d'instruments tindrien capacitat de controlar aspectes de la nostra vida quotidiana i dur a terme una vigilància sobre els humans sense precedents. La Comissió Europea ha classificat, per exemple, el reconeixement facial com una tecnologia d'alt risc que podria repercutir en la llibertat i en la privacitat dels ciutadans. En aquest àmbit, almenys, ja s'ha establert que les empreses que vulguin fer servir el reconeixement facial hauran d'obtenir, prèviament, l'aprovació dels òrgans reguladors abans de poder treballar. I seran necessaris codis de conducta per als empleats. Tanmateix, mentre la Comissió regula aquestes qüestions, també està desenvolupant una base de dades de tots els ciutadans no europeus mitjançant l'escaneig facial, per poder elaborar llistats de persones perilloses buscades per la policia en temps real. La qual cosa pot tenir errors, pot ser hackejada i posar en perill moltes persones innocents.
Les armes usades mitjançant aquest tipus d'intel·ligència podrien arribar a matar sense que hi hagi una decisió humana darrere (decisió sempre deplorable, sigui dit de passada). L'ONU ha alertat ja en diverses ocasions que països com els EUA, Rússia i la Xina desenvolupin armes que siguin capaces de funcionar sense soldats que les supervisin.
Gerd Leonhard, a Tecnología versus humanidad, el choque entre el hombre y la máquina, considera que no falta gaire temps perquè les màquines siguin capaces de comprendre les emocions humanes i desenvolupar intel·ligència social.
Durant dies hem pogut veure imatges, com la suposada detenció de Donald Trump, que no havien passat en realitat, però que tenien tota l'aparença de ser certes. Ja s'han denunciat casos de manipulació d'imatges de personalitats conegudes, que han estat utilitzades en vídeos pornogràfics, i que han generat un veritable problema per a elles i els seus entorns. Veurem casos en què la justícia haurà de determinar la veracitat del que, fins ara, s'hauria considerat una prova irrefutable. Ja no podem confiar en el que els nostres propis ulls veuen, i això és, sens dubte, un problema de debò.
The New York Times publicava el passat 9 de febrer una interessant peça on es desvelava que una sèrie de notícies, publicades com si fossin certes, havien estat, en realitat, presentades per aparents periodistes que no existeixen. En els casos assenyalats, afortunadament, encara hi ha errors que ens permeten "tenir la sospita" que no eren humans els que donaven les notícies. Però la IA aprèn, millora, i aviat no serem capaços de distingir un presentador de veritat d'un que no ho és.
Aquesta setmana hem conegut que Anne Hoffmann, la directora de la revista Die Aktuelle, ha hagut de dimitir després que s'hagués publicat una presumpta entrevista al campió mundial de Fórmula 1, Michael Schumacher, amb respostes que en realitat havien estat donades per un programa d'intel·ligència artificial que contestava com si fos ell. La realitat és que el conductor és al seu domicili, des que va tenir un greu accident, i no dona entrevistes. Per això, a més de la manipulació i l'engany, s'ha produït una falta d'ètica atroç, per la qual cosa la família ha presentat ja una demanda davant dels tribunals.
L'avenç d'aquest tipus de tècnica està donant mostres clares que ens empeny cap a sistemes totalitaris, on els éssers humans perden la seva dimensió única, i on la llibertat i la dignitat individual passen a formar part d'una massa impersonal, sotmesa al ritme de les màquines
L'amenaça per a milers de llocs de feina és un altre dels problemes que cal que siguin estudiats. La intel·ligència artificial és capaç de crear, d'inventar i, d'aquesta manera, suplantar la feina de creadors del món del disseny, de la fotografia, de la pintura. Precisament, aquesta setmana, Boris Eldagsen rebia el premi Sony World Photography, que no va recollir, i va aprofitar per denunciar que la seva obra, en realitat, havia estat creada amb ajuda d'un algoritme. La imatge Pseudomnesia: The Electrician presentava un retrat de dues dones de dues generacions diferents, com si fos una imatge del segle passat. Però aquestes dones no van existir mai, ni la situació tampoc. Això el jurat del concurs no ho va saber fins que el guardonat va denunciar la falta de control per la seva part a l'hora d'arribar a lliurar-li un premi sense haver pogut constatar que, en realitat, no era l'autor de la foto, que tampoc no era tal cosa.
L'autor alemany és un dels experts més importants en l'aplicació d'intel·ligència artificial en l'àmbit de la fotografia, i precisament en l'exposició que va presentar a la Kommunalen Galerie de Berlín, va demostrar fins on es pot arribar amb la intel·ligència artificial en la fotografia. "Vaig concursar com un barrut per esbrinar si els concursos estan preparats per a l'arribada de la intel·ligència artificial. No ho estan", va denunciar.
La irrupció de la intel·ligència artificial al món de l'art genera també interessants debats, ja que, on queda l'empremta humana, de l'emoció, en el procés de creació? Som capaços de percebre la diferència entre una obra elaborada per un humà i una altra per un robot? Nuria Oliver, doctora en intel·ligència artificial pel MIT (Massachusetts Institute of Technology) recordava recentment: "Des de fa anys, el millor jugador d'escacs és un ordinador, però això no treu que hi continuï havent campions mundials ni campionats".
Ara mateix pots demanar al Chat GPT que compongui una peça a l'estil de Debussy, amb influències dels Beatles i li posi una lletra crítica contra la indústria farmacèutica. Per exemple. I que la modifiqui, posant-li més tensió, o suavitzant-la. Tardarà segons a oferir-te el que li demanes, sense queixar-se. Òbviament, això obre un món de possibilitats que bé poden ser aprofitades per, alhora, servir de base creativa. Però, sense cap dubte, genera terror als qui sospiten que les seves possibilitats laborals, basant-se en els seus coneixements actuals, es poden veure reduïdes. I no els falta raó.
No podem obviar que la intel·ligència artificial ofereix també molts avenços i possibilitats. Se suposa que un dels seus beneficis és "eliminar l'error humà", i clarament, en àmbits com operacions quirúrgiques, està donant bons resultats.
Poden destinar-se a treballs mecànics, repetitius, dels quals l'ésser humà pot ser alliberat. El debat ara és si aquesta mà d'obra robotitzada hauria de contribuir pagant imposats, per aconseguir així que la mà d'obra humana eliminada no es vegi desposseïda dels seus recursos.
El plantejament des de la perspectiva ètica, humana, essencial, requereix una reflexió que no ens estem donant temps a desenvolupar. Sobretot, perquè l'avenç d'aquest tipus de tècnica està donant mostres clares que ens empeny cap a sistemes totalitaris, on els éssers humans perden la seva dimensió única, i on la llibertat i la dignitat individual passen a formar part d'una massa impersonal, sotmesa al ritme de les màquines.
Com aquest cap de setmana és època de regalar llibres, jo en vull oferir un als meus estimats lectors: Tècnica i totalitarisme. Digitalització, deshumanització i els anells del poder global, de Jordi Pigem, filòsof especialitzat en el camp de la ciència, de l'editorial Fragmenta. Considero que la seva lectura, a més de ser amena, molt assequible, és necessària. Per pensar, reflexionar i comprendre cap a on ens porten tots els avenços que ens estan imposant. Quan el llegeixi, segur que també gaudeix de l'olor de la rosa.