Hola, soy Esther Checa, y hoy me gustaría hablarte sobre la Economía de la Intención. Los agentes de IA conversacional pueden llegar a desarrollar la capacidad de influir de forma encubierta en nuestras intenciones, y esto puede ayudar a crear una nueva frontera comercial denominada como la “economía de la intención”.
Una investigación llevada a cabo por un grupo de investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de la Universidad de Cambridge, muestran que la rápida proliferación de los grandes modelos del lenguaje, está dando lugar a qué datos psicológicos y de comportamiento que indican la intención de los usuarios, se están recopilando, manipulando y mercantilizando. Esta investigación pone de relieve los riesgos potenciales de la economía de la intención, para la autonomía individual, la privacidad y las normas democráticas. Estos autores argumentan que los LLM podrían utilizarse para persuadir y manipular a los usuarios a una escala sin precedentes, con implicaciones negativas para la libertad de elección y la capacidad de tomar decisiones informadas.
Amenazas
Esta investigación pone de relieve las decisiones que están tomando algunas empresas tecnológicas, con el objetivo de capturar, analizar y predecir la intención de los usuarios. Un ejemplo de esto es la conferencia de desarrolladores de OpenAI, donde se anunció la creación de GPTs personalizados, que permiten a los desarrolladores recopilar datos de intención en diversos dominios y contextos. Por otro lado, el CEO de NVIDIA, ha declarado que los LLM se convertirán en la principal interfaz entre los humanos y los sistemas de información. Esto significa que los modelos se utilizarán para comprender la intención del usuario, y, por tanto, presentarle la información más relevante.
Meta, por su parte, ha desarrollado "Intentonomy", un conjunto de datos para la comprensión de la intención humana a partir de imágenes visuales. Esto permite la inferencia y categorización de la intención humana a escala. Esta misma empresa también ha desarrollado CICERO, un agente IA, el cual puede inferir y predecir la intención de los oponentes en el juego de estrategia Diplomacia.
Si bien los investigadores dicen que la economía de la intención es actualmente una "aspiración" para la industria tecnológica, sí empiezan rastrean los primeros signos de esta tendencia. El desarrollo de esta economía está siendo impulsado por la inversión en LLM, y la investigación en la predicción y la persuasión. Esto plantea importantes interrogantes sobre la privacidad, la autonomía y la manipulación en el futuro de la interacción humano-computadora.