Com qualsevol producte generat per una eina tecnològica, no tenen res de dolent en si mateixos i tot depèn de perquè s'utilitzin. En aquest cas, el producte en qüestió es denomina GAN Face i identifica rostres generats per sistemes informàtics que, de no avisar-se'ns sobre el seu origen, passarien per rostres de persones reals.
Per a què s'utilitzen?
GAN són les sigles de Generative Adversarial Network i podríem traduir-lo al nostre idioma com a Xarxa Generativa Antagònica. Aquests sistemes són algoritmes d'IA que es fan servir en aprenentatge no supervisat i poden generar imatges sintètiques a partir d'elements reals que semblen autèntiques als ulls d'un humà. Aquesta tècnica s'utilitza, per exemple, per produir imatges fotorrealistes de projectes industrials, edificis, roba, complements i fins a|fins i tot dotar d'identitat personatges de jocs d'ordinador. També permet millorar molt les imatges gravades amb molt poca llum o convertir entorns 2D en entorns 3D. Són especialment útils per a, a partir d'informació fragmentària, compondre productes acabats amb aparença real.
Altres usos
En publicitat, els rostres que generen aquests sistemes són especialment útils, ja que no fan necessari recórrer a models i permeten comptar amb personatges que s'ajusten perfectament a allò que els publicistes imaginen. A la producció de videojocs són molt útils i, també, en desenvolupaments de realitat virtual. Amb tot, també existeix la possibilitat d'utilitzar-los per a finalitats|finals espúries, com dotar d'identitat perfils falsos en xarxes o articular estafes cibernètiques. Per elaborar-los, n'hi ha prou amb subministrar al sistema imatges de rostres reals. Són, com ChatGPT, sistemes que funcionen millor o pitjor segons la qualitat de la informació que se'ls facilita.
Potencial maliciós
Per descomptat, el potencial que aquesta tecnologia ofereix és tan immens per al positiu com per a l'il·legal i planteja dilemes ètics derivats de la dificultat que plantejarà en entorns virtuals descobrir si amb qui estem interactuant és una persona real o no, ja que permet desenvolupar també imatges en moviment versemblants. Sigui com fos, i per protegir-nos, només queda una eina: el sentit comú. I sí el terme conté pràctiques tan saludables com verificar les fonts que consultem, desconfiar del que sembla massa bo per ser cert i actualitzar, sempre que sigui possible, els sistemes de seguretat propis.