Una vegada més, les xarxes socials estan en la mira. Allà és on es debaten no només drets humans, sinó també espais vitals de poder on es posen en joc la fortalesa de les institucions i la democràcia. Escrivim sobre això el 2020 i en diverses ocasions posteriors, però es diu que les coses no han avançat gaire. En efecte, al contrari.
El primer gran greuge va ser entre l'expresident i futur president dels Estats Units i la xarxa social Twitter, és clar, abans que sigui propietat d'Elon Musk. Després d'àrdues anades i vingudes i de l'assalt al Capitoli, aquella xarxa social va decidir tancar permanentment el compte de Trump per "riscos de més incitació a la violència". Avui, si bé l'escenari geopolític va canviar considerablement, les qüestions en pugna són exactament les mateixes.
Elon Musk vs. Europa: l'ètica en la mira
El cas d'Elon Musk i la seva xarxa social X (anteriorment Twitter) és il·lustratiu. L'empresari d'origen sud-africà, ja anunciat a integrar l'equip de la presidència de Donald Trump, ha estat acusat per diversos líders europeus d'"ingerència" en la política de la unió. El cert és que el rellevant, més enllà de poder qualificar les seves accions com a "intromissió" és obligar X a complir amb la Llei de Serveis Digitals (DSA, per les seves sigles en anglès). Aquesta és una de les respostes reguladores més ambicioses a aquest fenomen. Entre altres coses, exigeix a les grans plataformes que siguin transparents sobre com funcionen els seus algoritmes i que prenguin mesures per evitar l'amplificació de contingut nociu. No obstant això, aplicar aquesta llei a actors impredictibles com Musk ha demostrat ser un desafiament. L'ús d'algoritmes per prioritzar narratives específiques —siguin discursos d'odi o campanyes polítiques partidistes— posa en relleu un buit ètic en el desenvolupament i aplicació de la IA a les xarxes socials.
Meta i la moderació de continguts
En paral·lel, Meta ha pres decisions controvertides sobre com gestiona la moderació de continguts a Facebook, Instagram i altres plataformes. L'eliminació del sistema de verificació de dades per part de tercers i el seu reemplaçament per "notes comunitàries" escrites pels usuaris ha estat justificada com un esforç per promoure la llibertat d'expressió. Tanmateix, aquesta mesura també planteja serioses preocupacions sobre l'augment de la desinformació i el discurs d'odi.
Mark Zuckerberg argumenta que els verificadors de dades s'havien tornat políticament parcials i que la nova estratègia és més democràtica. Però, a la pràctica, transferir la responsabilitat de moderar continguts als usuaris és una manera d'eludir la responsabilitat corporativa. A més, aquest enfocament ignora el fet que no tots els usuaris tenen les mateixes capacitats ni la mateixa formació per identificar informació falsa o perillosa.
El perill rau en la velocitat amb què la desinformació pot propagar-se en entorns digitals desregulats. Sota el pretext de fomentar la llibertat d'expressió, aquestes plataformes estan creant un espai on l'odi i les mentides poden trobar terreny fèrtil, especialment quan coincideixen amb interessos polítics o econòmics.
El desafiament de la governança ètica de la IA
Aquests dos exemples revelen un problema més ampli: la falta de governança ètica a les xarxes socials i la tecnologia que les sustenta. Els algoritmes que decideixen quin contingut veiem, les regles de moderació i la presa de decisions sobre què és acceptable són, en última instància, configurats per interessos privats.
La governança ètica de la IA no només s'ha d'enfocar a eliminar biaixos en els algoritmes, sinó també en establir límits clars sobre com aquestes eines poden ser utilitzades per actors amb agendes específiques. Europa, amb el seu DSA i el seu Reglament d'IA, està liderant aquests esforços, però el camí és llarg, complex i sinuós. En un món interconnectat, on les xarxes socials no respecten fronteres, les respostes reguladores han de ser globals. La col·laboració entre governs, empreses tecnològiques i la societat civil és essencial per garantir que les plataformes digitals no es converteixin en armes per a la desinformació i la manipulació.
Un cridat|trucat a l'acció
Les xarxes socials són més que simples eines de comunicació; són espais on es construeixen i disputen narratives que afecten les nostres democràcies. Elon Musk i Mark Zuckerberg, com a líders d'algunes de les plataformes més influents del món, tenen una enorme responsabilitat. Tanmateix, les seves decisions recents demostren que l'autoregulació no és suficient.
La governança ètica de la IA s'ha de convertir en una prioritat global. No només està en joc la qualitat de la nostra informació, sinó també la salut de les nostres democràcies i la nostra capacitat per construir societats justes i equitatives. El 2025 ens presenta una oportunitat única per avançar en aquest camí, però requerirà voluntat política, col·laboració internacional i, sobretot, un compromís ètic ferm. Les xarxes socials no són neutrals. Són reflex i motor de la nostra societat, i hem d'assegurar-nos que estiguin al servei de tots, no només d'uns quants.