Los temas sobre gobernanza de la inteligencia artificial están más candentes que nunca y sus debates tuvieron lugar en el AI Action Summit, el evento que prometía ser el más importante de la industria en este 2025. Sin embargo, algunas críticas giraron en torno a la ausencia de países claves en el desarrollo de esta tecnología, como, también, una pérdida de oportunidad para identificar y abordar los riesgos reales y más preocupantes de la IA. Lo cierto es que ya el hecho de que existan espacios de diálogo, es sumamente positivo, pero una vez más, aún nos falta mucho.
El World AI Cannes Festival fue el evento boutique en el marco del AI Action Summit. Entre las cuestiones que allí se debatieron, se dio especial importancia al impacto de la IA en la democracia. El panel: “The metamorphosis of Democracy - how Artificial Intelligence is disrupting digital governance and redefining our polity” puso la temática sobre la mesa de la mano de Gianluca Misuraca, Davide Formica, Francesca Rossi, Elena Cabrio, Enrico Fagnoni, Leonardo Becchetti, y quien escribe estas líneas; donde volveremos a abrir el debate inspirado en las reflexiones de ese espacio.
IA y el colapso de la realidad compartida
Jianwei Xun es un analista cultural y filósofo nacido en Hong Kong autor de “Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad” quien expone cómo en la actualidad el poder opera ya no a través de la opresión, sino mediante las historias que consumimos, compartimos y creemos. Las narrativas modernas, principalmente guiadas por algoritmos, saturan nuestras vidas y dan forma a nuestras percepciones. Esto lógicamente erosiona y cambia radicalmente la manera en que los ciudadanos perciben la realidad y toman decisiones políticas, una situación que exige un análisis profundo y una regulación eficaz. La primera perjudicada es sin dudas la democracia.
La ilusión de la democracia…
Según el diccionario (RAE), el término democracia proviene del griego proδημοκρατία dēmokratía “demos”, “pueblo”, y “kratos”, gobierno y se la define como el sistema político en el cual la soberanía reside en el pueblo, que la ejerce directamente por medio de representantes a los cuales nosotros, a través del voto, elegimos. Uno de los mayores desafíos que enfrenta la democracia en la era de la IA es la fragmentación de la realidad. Gracias a algoritmos diseñados para maximizar la retención de atención, los ciudadanos viven en burbujas de información que refuerzan sus creencias y dificultan el diálogo constructivo y el pensamiento crítico.
En el contexto actual, la dificultad para distinguir entre realidades paralelas generadas por la IA erosiona la base de una democracia funcional: el debate basado en hechos compartidos. La realidad ya no es una percepción universal, sino más bien lo que nuestro algoritmo nos exhibe en el entorno digital, que nos hace creer que es una realidad única cuando no lo es. La proliferación de imágenes generadas por IA que fundamentan noticias falsas (deep fakes), la fácil viralización del contenido, independientemente de su veracidad y las narrativas manipuladas, han convertido la desinformación en una de las amenazas más graves para los sistemas democráticos. A ello se le suman modelos estratégicamente diseñados para influenciar y manipular a las personas basados en un análisis exhaustivo de su personalidad y en la explotación de sus vulnerabilidades. Casos como el de Cambridge Analytica o el experimento de Facebook para movilizar a las personas a votar, son ejemplos que lejos están de haber quedado en el pasado.
La regulación: ¿Solución o barrera?
El AI Act de la Unión Europea representa un esfuerzo significativo por limitar los peligros de la IA, pero existe una gran incertidumbre acerca de su implementación práctica. A ello se le suma la “campaña de desregulación” de la UE que condujo al retiro de diversas propuestas normativas por parte de la Comisión. Una de ellas, la propuesta de Directiva de responsabilidad civil en materia de IA. Esta disposición regulaba los casos de reparación de los daños sufridos por una persona por un sistema de IA.
En la actualidad, no necesitamos una norma específica para habilitar a las víctimas a reclamar por un detrimento. Es decir, la directiva lo que proporcionaba era la armonización normativa en la UE en la materia y la facilidad para las víctimas de obtener una indemnización en esos casos; no un nuevo tipo legal con cargas al sector privado. Además, normas claras en materia de responsabilidad civil traen grandes beneficios a la sociedad y las empresas. Por un lado, estas, cuando analizan los costos, riesgos y beneficios de introducir un nuevo producto o servicio en el mercado, pueden prever de manera más clara los escenarios en caso de que aquellos causen un daño. Asimismo, la armonización normativa es un elemento clave para combatir monopolios: medianas y pequeñas empresas pueden comercializar más fácilmente sus productos en otros países si el marco legal es el mismo, ya que no necesitan grandes equipos legales para ir adaptándose a cada normativa.
¿Nuevas democracias y nuevos ciudadanos?
La inteligencia artificial está redefiniendo la política y la gobernanza digital de maneras que aún no comprendemos del todo. La democracia, para sobrevivir en esta nueva era, necesita más que leyes: requiere ciudadanos críticos, informados y activos. La pregunta no es si la IA cambiará la democracia, sino si seremos capaces de guiar ese cambio hacia un futuro donde la tecnología refuerce, en lugar de debilitar, nuestros valores democráticos fundamentales.