Hola, soy Esther Checa y hoy me gustaría explicar qué implicaciones tiene que los chatbots Gemini de Google o ChatGPT de OpenAI tengan capacidad de memoria. El que estos chatbots desarrollen capacidad de memoria puede permitir mejoras en la personalización de las interacciones al agregar contexto, pero también se enfrenta a grandes retos.

La inclusión de memoria en chatbots como Gemini y ChatGPT marca un hito en el desarrollo de la inteligencia artificial conversacional. Este avance no solo mejora la capacidad de los modelos para ofrecer respuestas más útiles y adaptadas a las necesidades del usuario, sino que también tiene aplicaciones prácticas significativas en contextos personales y empresariales. 

Sin embargo, su importancia no radica únicamente en la mejora de la experiencia del usuario, sino también en los retos que plantea, por ejemplo:

  • Tener una personalización avanzada, permite a los chatbots almacenar detalles personales que enriquecen futuras interacciones. Por ejemplo, recordar preferencias de alimentación, datos de ubicación, o incluso estilos de comunicación.

  • La capacidad de recordar implica también un almacenamiento prolongado de datos, lo que expone a los usuarios a posibles vulnerabilidades si no se implementan medidas de seguridad adecuadas.

  • o aspectos éticos, aquí surge la necesidad de regular de cómo se manejan estas memorias para evitar abusos o usos indebidos, como el espionaje de datos o la manipulación de información sensible.

Memorias en prácticas

Google ha comenzado a probar la memoria en Gemini, disponible solo para los usuarios del plan Google One Premium, y accesible exclusivamente desde el cliente web. Esta función permite a los usuarios guardar datos relevantes que pueden ser usados en futuras interacciones. Por ejemplo, si un usuario menciona que prefiere evitar la jerga técnica o tiene predilección por un lenguaje claro, Gemini ajustará automáticamente sus respuestas a estas preferencias.

Google destaca que las memorias son opcionales y pueden desactivarse o eliminarse manualmente. Además, asegura que los datos almacenados no se utilizan para entrenar los modelos de IA. Sin embargo, esta función aún está limitada a inglés y no está disponible en sus aplicaciones móviles.

Por su parte, OpenAI implementó en febrero una función de memoria en ChatGPT. La memoria permite que el chatbot transfiera conocimientos entre conversaciones, mejorando la relevancia y personalización de las respuestas. Los usuarios pueden pedir explícitamente al chatbot que recuerde detalles como:

  • Preferencias de transporte (por ejemplo, “Recuerda que vivo en una ciudad dormitorio y suelo conducir”).

  • Contextos personales (por ejemplo, “Recuerda que tengo un hijo en la guardería”).

OpenAI está explorando aplicaciones empresariales para esta función, como recordar preferencias de tono, estilo de redacción y lenguajes de programación. La memoria puede desactivarse, y los usuarios tienen control sobre qué información se almacena o elimina.

Aunque Google y OpenAI aseguran que las memorias son seguras y privadas, existen riesgos inherentes al almacenamiento prolongado de datos, por ejemplo: 

  1. Los sistemas de memoria mal diseñados pueden ser explotados por hackers para insertar información falsa o sustraer datos sensibles. Este tipo de ataques ya ha ocurrido con ChatGPT, lo que evidencia la necesidad de fortalecer las medidas de seguridad.

  2. Existe también el peligro de acumular información confidencial, como datos de salud o financieros, sin que el usuario sea plenamente consciente de ello.

OpenAI ha desarrollado funcionalidades para mitigar estos riesgos, como el chat temporal, que permite a los usuarios tener conversaciones sin que se almacenen memorias. Aunque estos datos pueden conservarse por razones de seguridad hasta 30 días, el usuario tiene la opción de mantener sus interacciones completamente privadas.

El camino de la personalización

Como hemos visto, las funciones de memoria en estos chatbots es un avance significativo en la evolución de la inteligencia artificial, proporcionando interacciones más personalizadas y prácticas. Estas capacidades mejoran la experiencia del usuario, permitiendo una personalización sin precedentes y la simplificación de tareas complejas. Sin embargo, la acumulación de datos personales puede ser problemática si no se manejan con la debida transparencia y seguridad.