SynthID, de Google, marca distàncies i identifica el contingut generat per IA mitjançant la inserció de marques d'aigua digitals directament a les imatges, àudio, text o vídeo generats per IA. Ser capaç d'identificar el contingut generat per IA és fonamental per promoure la confiança en la informació. Tot i que no és l'únic aspecte per abordar problemes com ara la desinformació o l'atribució errònia, SynthID és un conjunt de solucions tècniques prometedores a aquest problema urgent de seguretat de la IA.

Aquest conjunt d'eines s'ha llançat actualment en versió beta i continua evolucionant. Ara s'està integrant en una gamma creixent de productes, ajudant a empoderar les persones i les organitzacions a treballar de manera responsable amb contingut generat per IA. SynthID utilitza una varietat de models i algorismes d'aprenentatge profund per marcar l'aigua i identificar contingut generat per IA.

Com funciona?

Un software genera text alhora. Aquestes fitxes poden representar un sol caràcter, paraula o part d'una frase. Per crear una seqüència de text coherent, el model prediu el següent text més probable que es generi. Aquestes prediccions es basen en les paraules anteriors i les puntuacions de probabilitat assignades a cada text potencial. Per exemple, amb la frase "Les meves fruites tropicals preferides són __". El LLM (software) pot començar a completar la frase amb les fitxes "mango", "litxi", "papaia" i a cada fitxa se li dóna una puntuació de probabilitat. Quan hi ha una varietat de fitxes diferents per triar, SynthID pot ajustar la puntuació de probabilitat de cada testimoni previst, en els casos en què no comprometi la qualitat, la precisió i la creativitat de la sortida.

Aquest procés es repeteix al llarg del text generat, de manera que una sola frase pot contenir deu o més puntuacions de probabilitat ajustades i una pàgina pot contenir centenars. El patró final de puntuacions per a les dues opcions de paraula del model combinat amb les puntuacions de probabilitat ajustades es considera la marca d'aigua. Aquesta tècnica es pot utilitzar per només tres frases. I a mesura que el text augmenta, la robustesa i la precisió de SynthID augmenta.

I les imatges?

SynthID afegeix una marca d'aigua digital que és imperceptible per a l'ull humà directament als píxels d'una imatge generada per IA o a cada fotograma d'un vídeo generat per IA. Aquesta tecnologia està disponible per als clients de Vertex AI mitjançant els models de text a imatge, imatge 3 i imatge 2, que creen imatges d'alta qualitat en una gran varietat d'estils artístics. La tecnologia SynthID també marca les sortides d'imatge a ImageFX. També hem integrat SynthID a Veo, el model de generació de vídeo més capaç fins ara, que està disponible per a creadors seleccionats a VideoFX. SynthID també pot escanejar una sola imatge o els fotogrames individuals d'un vídeo per detectar la marca d'aigua digital. Els usuaris poden identificar si una imatge, o part d'una imatge, ha estat generada per les eines d'IA de Google mitjançant la funció Quant a aquesta imatge a Cerca o Chrome.