Hola, soc Esther Checa, i avui m'agradaria parlar-te sobre l'Economia de la Intenció. Els agents d'IA conversacional poden arribar a desenvolupar la capacitat d'influir de forma encoberta en les nostres intencions, i això pot ajudar a crear una nova frontera comercial denominada com l'"economia de la intenció".
Una investigació duta a terme per un grup d'investigadors del Centro Leverhulme per al Futur de la Intel·ligència (LCFI) de la Universitat de Cambridge, mostren que la ràpida proliferació dels grans models del llenguatge, està donant lloc a quines dades psicològiques i de comportament que indiquen la intenció dels usuaris, s'estan recopilant, manipulant i mercantilitzant. Aquesta investigació posa en relleu els riscos potencials de l'economia de la intenció, per a l'autonomia individual, la privacitat i les normes democràtiques. Aquests autors argumenten que els LLM podrien utilitzar-se per persuadir i manipular els usuaris a una escala sense precedents, amb implicacions negatives per a la llibertat d'elecció i la capacitat de prendre decisions informades.
Amenaces
Aquesta investigació posa en relleu les decisions que estan prenent algunes empreses tecnològiques, amb l'objectiu de capturar, analitzar i predir la intenció dels usuaris. Un exemple d'això és la conferència de desenvolupadors d'OpenAI, on es va anunciar la creació de GPTs personalitzats, que permeten als desenvolupadors recopilar dades d'intenció en diversos dominis i contextos. D'altra banda, el CEO de NVIDIA, ha declarat que els LLM es convertiran en la principal interfície entre els humans i els sistemes d'informació. Això significa que els models s'utilitzaran per comprendre la intenció de l'usuari, i, per tant, presentar-li la informació més rellevant.
Meta, per la seva part, ha desenvolupat "Intentonomy", un conjunt de dades per a la comprensió de la intenció humana a partir d'imatges visuals. Això permet la inferència i categorització de la intenció humana a escala. Aquesta mateixa empresa també ha desenvolupat CICERO, un agent IA, la qual pot inferir i predir la intenció dels oponents en el joc d'estratègia Diplomacy.
Si bé els investigadors diuen que l'economia de la intenció és actualment una "aspiració" per a la indústria tecnològica, sí que comencen rastregen els primers signes d'aquesta tendència. El desenvolupament d'aquesta economia és impulsat per la inversió en LLM, i la investigació en la predicció i la persuasió. Això planteja importants interrogants sobre la privacitat, l'autonomia i la manipulació en el futur de la interacció humana i de la mateixa computadora.