Hola, soc Esther Checa i avui m'agradaria explicar quines implicacions té que els chatbots Gemini de Google o ChatGPT de OpenAI tinguin capacitat de memòria. El que aquests chatbots desenvolupin capacitat de memòria pot permetre millores en la personalització de les interaccions en agregar context, però també s'enfronta a grans reptes.

La inclusió de memòria en chatbots com Gemini i ChatGPT marca una fita en el desenvolupament de la intel·ligència artificial conversacional. Aquest avanç no només millora la capacitat dels models per oferir respostes més útils i adaptades a les necessitats de l'usuari, sinó que també té aplicacions pràctiques significatives en contextos personals i empresarials.

Tanmateix, la seva importància no rau únicament en la millora de l'experiència de l'usuari, sinó també en els reptes que planteja, per exemple:

  • Tenir una personalització avançada, permet als chatbots emmagatzemar detalls personals que enriqueixen futures interaccions. Per exemple, recordar preferències d'alimentació, dades d'ubicació, o fins i tot estils de comunicació.

  • La capacitat de recordar implica també un emmagatzemament prolongat de dades, la qual cosa exposa els usuaris a possibles vulnerabilitats si no s'implementen mesures de seguretat adequades.

  • o aspectes ètics, aquí sorgeix la necessitat de regular de com es manipulen aquestes memòries per evitar abusos o usos indeguts, com l'espionatge de dades o la manipulació d'informació sensible.

Memòries en pràctiques

Google ha començat a provar la memòria a Gemini, disponible només per als usuaris del pla Google One Premium, i accessible exclusivament des del client web. Aquesta funció permet als usuaris guardar dades rellevants que poden ser utilitzades en futures interaccions. Per exemple, si un usuari esmenta que prefereix evitar l'argot tècnic o té predilecció per un llenguatge clar, Gemini ajustarà automàticament les seves respostes a aquestes preferències.

Google destaca que les memòries són opcionals i poden desactivar-se o eliminar-se manualment. A més, assegura que les dades emmagatzemades no s'utilitzen per entrenar els models d'IA. Tanmateix, aquesta funció encara és limitada a anglès i no està disponible en les seves aplicacions mòbils.

Per la seva part, OpenAI va implementar al febrer una funció de memòria en ChatGPT. La memòria permet que el chatbot transfereixi coneixements entre converses, millorant la rellevància i personalització de les respostes. Els usuaris poden demanar explícitament al chatbot que recordi detalls com ara:

  • Preferències de transport (per exemple, "Recorda que visc en una ciutat dormitori i solc conduir").

  • Contextos personals (per exemple, "Recorda que tinc un fill a la guarderia").

OpenAI està explorant aplicacions empresarials per a aquesta funció, com recordar preferències de to, estil de redacció i llenguatges de programació. La memòria pot desactivar-se, i els usuaris tenen control sobre quina informació s'emmagatzema o elimina.

Encara que Google i OpenAI asseguren que les memòries són segures i privades, existeixen riscos inherents a l'emmagatzemament prolongat de dades, per exemple:

  1. Els sistemes de memòria mal dissenyats poden ser explotats per hackers per inserir informació falsa o sostreure dades sensibles. Aquest tipus d'atacs ja s'ha produït amb ChatGPT, la qual cosa evidencia la necessitat d'enfortir les mesures de seguretat.

  2. Existeix també el perill d'acumular informació confidencial, com dades de salut o financers, sense que l'usuari sigui plenament conscient d'això.

OpenAI ha desenvolupat funcionalitats per mitigar aquests riscos, com el xat temporal, que permet als usuaris tenir converses sense que s'emmagatzemin memòries. Encara que aquestes dades poden conservar-se per raons de seguretat fins a 30 dies, l'usuari té l'opció de mantenir les seves interaccions completament privades.

El camí de la personalització

Com hem vist, les funcions de memòria en aquests chatbots és un avenç significatiu en l'evolució de la intel·ligència artificial, proporcionant interaccions més personalitzades i pràctiques. Aquestes capacitats milloren l'experiència de l'usuari, permetent una personalització sense precedents i la simplificació de tasques complexes. Tanmateix, l'acumulació de dades personals pot ser problemàtica si no s'espavilen amb la deguda transparència i seguretat.