Els temes sobre governança de la intel·ligència artificial són més candents que mai i els seus debats van tenir lloc en l'AI Action Summit, l'esdeveniment que prometia ser el més important de la indústria en aquest 2025. Tanmateix, algunes crítiques van girar entorn de l'absència de països claus en el desenvolupament d'aquesta tecnologia, com, també, una pèrdua d'oportunitat per identificar i abordar els riscos reals i més preocupants de la IA. El cert és que ja el fet que existeixin espais de diàleg, és summament positiu, però una vegada més, encara ens falta molt.
El World AI Canes Festival va ser l'esdeveniment boutique en el marc de l'AI Action Summit. Entre les qüestions que allà es van debatre, es va donar especial importància a l'impacte de la IA en la democràcia. El panell: "The metamorphosis of Democracy - how Artificial Intelligence is disrupting digital governance and redefining our polity" va posar la temàtica sobre la taula de la mà de Gianluca Misuraca, Davide Formica, Francesca Rossi, Elena Cabrio, Enrico Fagnoni, Leonardo Becchetti, i qui escriu aquestes línies; on tornarem a obrir el debat inspirat en les reflexions d'aquest espai.
IA i el col·lapse de la realitat compartida
Jianwei Xun és un analista cultural i filòsof nascut a Hong Kong autor d'"Hipnocracia: Trump, Musk i la nova arquitectura de la realitat" qui exposa com en l'actualitat el poder opera ja no a través de l'opressió, sinó mitjançant les històries que consumim, compartim i creiem. Les narratives modernes, principalment guiades per algoritmes, saturen les nostres vides i donen forma a les nostres percepcions. Això lògicament erosiona i canvia radicalment la manera en què els ciutadans perceben la realitat i prenen decisions polítiques, una situació que exigeix una anàlisi profunda i una regulació eficaç. La primera perjudicada és sense dubtes la democràcia.
La il·lusió de la democràcia...
Segons el diccionari (RAU), el terme democràcia prové del grec proδημοκρατία dēmokratía "demos", "poble", i "kratos", govern i se la defineix com el sistema polític en el qual la sobirania resideix en el poble, que l'exerceix directament per mitjà de representants que nosaltres, a través del vot, elegim. Un dels desafiaments més grans que enfronta la democràcia en l'era de la IA és la fragmentació de la realitat. Gràcies a algoritmes dissenyats per maximitzar la retenció d'atenció, els ciutadans viuen en bombolles d'informació que reforcen les seves creences i dificulten el diàleg constructiu i el pensament crític.
En el context actual, la dificultat per distingir entre realitats paral·lels generats per la IA erosiona la base d'una democràcia funcional: el debat basat en fets compartits. La realitat ja no és una percepció universal, sinó més aviat el que el nostre algoritme ens exhibeix en l'entorn digital, que ens fa creure que és una realitat única quan no ho és. La proliferació d'imatges generades per IA que fonamenten notícies falses (deep fakes), la fàcil viralització del contingut, independentment de la seva veracitat i les narratives manipulades, han convertit la desinformació en una de les amenaces més greus per als sistemes democràtics. Se li hi sumen models estratègicament dissenyats per influir i manipular les persones basades en una anàlisi exhaustiva de la seva personalitat i en l'explotació de les seves vulnerabilitats. Casos com el de Cambridge Analytica o l'experiment de Facebook per mobilitzar les persones a votar, són exemples que lluny són d'haver quedat en el passat.
La regulació: Solució o barrera?
L'AI Act de la Unió Europea representa un esforç significatiu per limitar els perills de la IA, però existeix una gran incertesa sobre la seva implementació pràctica. Se li hi suma la "campanya de desregulació" de la UE que va conduir a la retirada de diverses propostes normatives per part de la Comissió. Una d'elles, la proposta de Directiva de responsabilitat civil en matèria d'IA. Aquesta disposició regulava els casos de reparació dels danys patits per una persona per un sistema d'IA.
En l'actualitat, no necessitem una norma específica per habilitar les víctimes a reclamar per un detriment. És a dir, la directiva el que proporcionava era l'harmonització normativa a la UE en la matèria i la facilitat per a les víctimes d'obtenir una indemnització en aquests casos; no un nou tipus legal amb càrregues al sector privat. A més, normes clares en matèria de responsabilitat civil porten grans beneficis a la societat i les empreses. D'una banda, aquestes, quan analitzen els costos, riscos i beneficis d'introduir un nou producte o servei al mercat, poden preveure de manera més clara els escenaris en cas que aquells causin un dany. Així mateix, l'harmonització normativa és un element clau per combatre monopolis: mitjanes i petites empreses poden comercialitzar més fàcilment els seus productes en altres països si el marc legal és el mateix, ja que no necessiten grans equips legals per anar adaptant-se a cada normativa.
Noves democràcies i nous ciutadans?
La intel·ligència artificial està redefinint la política i la governança digital de maneres que encara no comprenem del tot. La democràcia, per sobreviure en aquesta nova era, necessita més que lleis: requereix ciutadans crítics, informats i actius. La pregunta no és si la IA canviarà la democràcia, sinó si serem capaços de guiar aquest canvi cap a un futur on la tecnologia reforci, en lloc de debilitar, els nostres valors democràtics fonamentals.