La companyia tecnològica OpenAI ha publicat el primer informe sobre com s'utilitzen les seves eines d'intel·ligència artificial (IA). L'empresa és la creadora de ChatGPT, el qual afirmen que ha estat utilitzat per campanyes per Rússia, la Xina, l'Iran i Israel per influir en el discurs polític i executar propaganda encoberta. “En els darrers tres mesos, hem desmantellat cinc IO (influències encobertes) que utilitzaven els nostres models per donar suport a activitats enganyoses a Internet”, ha explicat l'investigador principal de l'equip d'OpenAI, Ben Nimmo. La companyia destaca que cap de les campanyes i els missatges que es van generar amb la seva tecnologia van arribar a grans audiències.
L'informe sobre campanyes d'influència encobertes d'OpenAI ha mostrat com grups de diversos països utilitzen ChatGPT per desinformar i amb fins propagandístics. L'anàlisi de la companyia s'ha plasmat en 39 pàgines on s'analitzen el que anomenen cinc operacions d'influència encoberta. És a dir, tant actors estatals com privats de països que han recorregut al ChatGPT per a la propaganda. L'informe només abasta els darrers tres mesos.
Quins casos s'ha trobat OpenAI?
La companyia tecnològica ha assenyalat casos concrets. Per exemple, dues operacions russes, una que publicava contingut sobre Ucraïna a internet i una altra que operava “principalment a Telegram i tenia com a objectiu Ucraïna, Moldàvia, els estats bàltics i els Estats Units”. Per altra banda, una empresa política israeliana anomenada Stoic gestionava una xarxa de comptes de xarxes socials falsos que creaven una sèrie de continguts, incloses publicacions que acusaven d'antisemites les protestes dels estudiants nord-americans contra la guerra d'Israel a Gaza. En menor mesura, l'organització sindical Histadrut a Israel i les eleccions índies, diu l'informe.
L'empresa nord-americana també va identificar un actor xinès persistent que publicava contingut a internet “per elogiar la Xina i criticar-ne els detractors”; i un altre d'iranià que llançava contingut en contra d'Israel i els Estats Units.
El contingut publicat per aquestes operacions es va centrar en temes com la guerra a Ucraïna i el conflicte a Gaza, encara que també van abordar assumptes com les eleccions generals de l'Índia, la política a Europa i els EUA, a més de crítiques al Govern de la Xina per part de dissidents i governs estrangers. Els atacants intentaven influir en l'opinió pública a través de la generació de contingut amb errors d'idioma, la barreja de contingut nou amb antic i la generació de respostes a publicacions pròpies per fingir participació i generar més productivitat.