Una vez más, las redes sociales están en la mira. Allí es donde se debaten no solo Derechos Humanos, sino también espacios vitales de poder donde se ponen en juego la fortaleza de las instituciones y la democracia. Escribimos sobre esto en el 2020 y en varias ocasiones posteriores, pero parece ser que las cosas no han avanzado mucho. En efecto, todo lo contrario.
El primer gran entuerto fue entre el expresidente y futuro presidente de los Estados Unidos y la red social Twitter, claro está, antes de que sea propiedad de Elon Musk. Luego de arduas idas y venidas y del asalto al Capitolio, aquella red social decidió cerrar permanentemente la cuenta de Trump por “riesgos de mayor incitación a la violencia”. Hoy, si bien el escenario geopolítico cambió considerablemente, las cuestiones en pugna son exactamente las mismas.
Elon Musk vs. Europa: la ética en la mira
El caso de Elon Musk y su red social X (anteriormente Twitter) es ilustrativo. El empresario de origen sudafricano, ya anunciado a integrar el equipo de la presidencia de Donald Trump, ha sido acusado por varios líderes europeos de “injerencia” en la política de la unión. Lo cierto es que lo relevante, más allá de poder calificar sus acciones como “intromisión” es obligar a X a cumplir con la Ley de Servicios Digitales (DSA, por sus siglas en inglés). Esta es una de las respuestas regulatorias más ambiciosas a este fenómeno. Entre otras cosas, exige a las grandes plataformas que sean transparentes sobre cómo funcionan sus algoritmos y que tomen medidas para evitar la amplificación de contenido dañino. No obstante, aplicar esta ley a actores impredecibles como Musk ha demostrado ser un desafío. El uso de algoritmos para priorizar narrativas específicas —ya sean discursos de odio o campañas políticas partidistas— pone de relieve un vacío ético en el desarrollo y aplicación de la IA en las redes sociales.
Meta y la moderación de contenidos
En paralelo, Meta ha tomado decisiones controvertidas sobre cómo gestiona la moderación de contenidos en Facebook, Instagram y otras plataformas. La eliminación del sistema de verificación de datos por parte de terceros y su reemplazo por "notas comunitarias" escritas por los usuarios ha sido justificada como un esfuerzo por promover la libertad de expresión. Sin embargo, esta medida también plantea serias preocupaciones sobre el aumento de la desinformación y el discurso de odio.
Mark Zuckerberg argumenta que los verificadores de datos se habían vuelto políticamente parciales y que la nueva estrategia es más democrática. Pero, en la práctica, transferir la responsabilidad de moderar contenidos a los usuarios es una forma de eludir la responsabilidad corporativa. Además, este enfoque ignora el hecho de que no todos los usuarios tienen las mismas capacidades ni la misma formación para identificar información falsa o peligrosa.
El peligro radica en la velocidad con la que la desinformación puede propagarse en entornos digitales desregulados. Bajo el pretexto de fomentar la libertad de expresión, estas plataformas están creando un espacio donde el odio y las mentiras pueden encontrar terreno fértil, especialmente cuando coinciden con intereses políticos o económicos.
El desafío de la gobernanza ética de la IA
Estos dos ejemplos revelan un problema más amplio: la falta de gobernanza ética en las redes sociales y la tecnología que las sustenta. Los algoritmos que deciden qué contenido vemos, las reglas de moderación y la toma de decisiones sobre qué es aceptable son, en última instancia, configurados por intereses privados.
La gobernanza ética de la IA no solo debe enfocarse en eliminar sesgos en los algoritmos, sino también en establecer límites claros sobre cómo estas herramientas pueden ser usadas por actores con agendas específicas. Europa, con su DSA y su Reglamento de IA, está liderando estos esfuerzos, pero el camino es largo, complejo y sinuoso. En un mundo interconectado, donde las redes sociales no respetan fronteras, las respuestas regulatorias deben ser globales. La colaboración entre gobiernos, empresas tecnológicas y la sociedad civil es esencial para garantizar que las plataformas digitales no se conviertan en armas para la desinformación y la manipulación.
Un llamado a la acción
Las redes sociales son más que simples herramientas de comunicación; son espacios donde se construyen y disputan narrativas que afectan a nuestras democracias. Elon Musk y Mark Zuckerberg, como líderes de algunas de las plataformas más influyentes del mundo, tienen una enorme responsabilidad. Sin embargo, sus decisiones recientes demuestran que la autorregulación no es suficiente.
La gobernanza ética de la IA debe convertirse en una prioridad global. No solo está en juego la calidad de nuestra información, sino también la salud de nuestras democracias y nuestra capacidad para construir sociedades justas y equitativas. El 2025 nos presenta una oportunidad única para avanzar en este camino, pero requerirá voluntad política, colaboración internacional y, sobre todo, un compromiso ético firme. Las redes sociales no son neutrales. Son reflejo y motor de nuestra sociedad, y debemos asegurarnos de que estén al servicio de todos, no solo de unos pocos.