Potser veure en xarxes socials un inofensiu i divertit emoji d'una pizza de formatge, d'una albergínia o d'un blat de moro, poden no representar-nos absolutament res, però per a molts, té un gran significat. La transformació ocasionada per les tecnologies disruptives ha arribat també al llenguatge. No ens referim simplement al terme "googlejar" (consultar una paraula en motor de cerca de Google) o "instagramejable" (una cosa maca digna de ser pujat a Instagram), sinó a un llenguatge completament nou que busca eludir als algoritmes moderadors de contingut de les xarxes socials. Cada vegada amb més freqüència, els usuaris fan servir paraules distorsionades, emojis ambigus i expressions críptiques per evitar que detectin el que realment volen dir. Aquest fenomen es coneix com a "algospeak" ("alguna cosa" per algoritme i "speak" el verb parlar en anglès) i posa en evidència una tensió creixent entre llibertat d'expressió, censura automatitzada i els perills d'una internet sense regulació efectiva.
Adolescència: la sèrie que va posar el tema sobre la taula
La sèrie britànica Adolescència de Netflix, és una crida d'atenció sobre les conseqüències d'una connexió sense guia ni límits, principalment en una edat tan delicada com és l'adolescència, on la persona està formant la seva personalitat. Segons l'OMS va dels 10 als 19, mentre que el Codi Civil i Comercial argentí "denomina adolescent el menor d'edat que va complir tretze anys" (conf. art. 26 CCCN).
El protagonista, Jamie, és un noi de 13 anys acusat d'un crim brutal (apunyalament) contra una companya de l'escola. A mesura que passen els capítols, es comença a descobrir què hi ha darrere de l'acte violent: la realitat per la qual molts adolescents travessen avui. Humiliacions digitals, assetjament escolar, aïllament i exposició a discursos misògins en fòrums i xarxes. La producció explora la influència de certs espais virtuals en la construcció de la identitat i la radicalització de joves vulnerables.
La relació entre l'algospeak i aquestes narratives no és casual. En molts casos, els codis alternatius utilitzats a les plataformes no només serveixen per evadir restriccions imposades per les xarxes, sinó també per camuflar missatges d'odi, incitació a la violència o contingut explícit. La prima línia entre el que es diu i el que realment es vol dir es torna més difícil de traçar quan el llenguatge adopta formes mal·leables que els algoritmes encara no saben interpretar del tot. I és més, difícilment pugui un humà, del cert, determinar el que es va voler dir. Interpretar missatges descontextualitzats sense tenir en compte l'entorn social de la persona i, en aquest cas, què és el que està passant a l'aula o el pati de l'escola, és summament complex.
El més preocupant és que aquesta forma de comunicació es desenvolupa en un terreny amb poca supervisió adulta. Mentre que els joves naveguen amb facilitat aquest llenguatge codificat, molts adults —pares, docents, referents— no arriben a entendre ni tan sols les referències més bàsiques. Aquesta bretxa generacional no només impedeix el diàleg, sinó que deixa adolescents completament sols davant continguts potencialment perillosos.
El més alarmant: assetjament, tracta i material d'abús sexual infantil
Els conflictes que els llenguatges paral·lels i indesxifrables de les xarxes socials poden portar no se circumscriuen a les problemàtiques entre adolescents. Algospeak també és utilitzat per al mercat il·legal, l'assetjament, la gestió de xarxes de tràfic o la difusió de material d'abús sexual infantil. Per exemple, en lloc de parlar directament d'aquests temes (que serien automàticament censurats per l'algoritme) alguns usuaris reemplacen paraules clau per símbols, errors ortogràfics intencionals o referències indirectes. Fins i tot termes innocents com a "càmping" poden adquirir un significat completament diferent dins de certs cercles digitals. Aquest doble sentit permet que missatges problemàtics circulin lliurement sota l'aparença d'inofensius.
A tot això, se suma la fragilitat dels sistemes de moderació automàtica. Recordem que recentment diverses plataformes digitals han canviat les seves polítiques en aquest sector. Encara que la intel·ligència artificial pot detectar termes explícits o imatges pertorbadores, té enormes dificultats per llegir entre línies. Les màquines no comprenen el sarcasme, el context, les ironies ni els significats culturals canviants d'un emoji. Per això, les grans plataformes tecnològiques continuen depenent, en molts casos, del treball humà per revisar contingut delicat, amb totes les impliquessis ètiques i psicològiques que això comporta. Existeixen en l'actualitat denúncies d'aquests treballadors pels problemes mentals que pateixen en la seva tasca i la falta de mesures de seguretat.
Posar el tema en agenda
Adolescència va fer una gran feina per instal·lar la temàtica, però queda molt fer sobre això. No només hem d'investigar i abordar la relació de les infanteses i els joves amb la tecnologia, sinó també, com s'utilitzen llenguatges com a "algospeak" per delinquir lliurement a les xarxes socials.
El cas de Jamie, protagonista de la sèrie, ens evidencia que ell, com molts adolescents, és el producte d'una societat que no va saber ser present. La seva història condensa els efectes de la solitud adolescent, la falta de contenció emocional i l'exposició a comunitats que, des de la virtualitat, fomenten el ressentiment i la violència. No es tracta de demonitzar la tecnologia, sinó de preguntar-nos quin tipus de comunitat digital estem construint. En absència de regulacions clares, les xarxes socials funcionen amb regles pròpies, marcades pels interessos comercials de les plataformes. Algunes d'elles merceritzen la moderació, d'altres estableixen polítiques opaques, i la majoria deixa als usuaris la responsabilitat de cuidar-se entre si. En aquest escenari, els més joves —com Jamie- queden a la intempèrie.
A més, hi ha un altre factor que se suma al debat: el de la propietat del llenguatge, la creativitat i els continguts. Si l'algospeak és una forma de resistència o d'anonimat davant la vigilància, també pot ser utilitzat per a la desinformació o la manipulació. On tracem els límits? Una vegada més, més preguntes que respostes...