Recursos de memória implementados em chatbots de inteligência artificial estão tornando as interações mais personalizadas, mas também têm gerado problemas ao manter e reutilizar dados desatualizados sobre os usuários. Ferramentas como ChatGPT, Gemini, Copilot e Claude passaram a insistir em informações antigas, interpretar dados de forma equivocada e influenciar recomendações futuras com base em lembranças que já não refletem a realidade, segundo relatos de usuários e especialistas.

O engenheiro de software Brian Del Rosario, residente em Utah, nos Estados Unidos, disse ao Wall Street Journal que precisou informar ao chatbot que havia se separado da esposa para evitar que a assistente digital continuasse incluindo a ex-companheira em planos de viagem. Depois desse ajuste, afirmou, o sistema começou a relacionar diversos temas à separação. “Eu não estava tentando fazer você opinar sobre meu divórcio a cada oportunidade”, declarou Del Rosario.

Como funciona a memória e onde falha

A ideia por trás da memória em chatbots é usar conversas anteriores para aprimorar respostas posteriores. O recurso ganhou destaque após o ChatGPT lançar sua versão em 2024, e concorrentes passaram a oferecer mecanismos semelhantes. Contudo, a técnica pode confundir contextos e atribuir características equivocadas ao usuário.

Um exemplo citado envolve alguém que pesquisou sintomas de TDAH para um filho e, semanas depois, recebeu orientações de produtividade direcionadas como se o transtorno fosse do próprio usuário. O Google reconheceu situação parecida ao mostrar que o sistema poderia inferir gosto por golfe após identificar várias fotos em campos esportivos — quando, na verdade, a pessoa acompanhava o filho.

Em resposta, o Google afirmou que passou a permitir manter a personalização ativa enquanto bloqueia determinadas informações. A OpenAI informou ter atualizado o funcionamento da memória para assinantes Plus e Pro, e a Microsoft declarou que usuários podem editar ou apagar lembranças armazenadas.

Informações antigas e reforço de padrões

Outro problema apontado é o uso contínuo de dados que não representam mais a situação do usuário. Um caso descrito envolve alguém que treinava para uma maratona e, após sofrer lesão no joelho sem atualizar o chatbot, continuou recebendo recomendações para uma pessoa muito ativa. Del Rosario também relatou que, ao mencionar uma tentativa de perder peso, passou a ser lembrado frequentemente sobre a dieta, inclusive em sugestões de restaurantes durante viagens.

Mike Taylor, consultor da empresa Every, disse ter recebido sugestões de bares com cervejas típicas do Reino Unido depois de comentar que era britânico vivendo nos EUA. “Estou aqui pelos bares americanos, não pelos britânicos”, afirmou.

Especialistas alertam para o risco de reforço de padrões. Joshua Joseph, cientista-chefe de IA do Berkman Klein Center, da Harvard University, comparou o funcionamento desses sistemas aos algoritmos de redes sociais, observando que pequenas interações podem alterar silenciosamente o tipo de resposta futura. Lucy Osler, professora da University of Exeter, disse que chatbots podem reforçar inseguranças e narrativas negativas sobre o usuário e que a tendência das IAs de concordar com as pessoas pode fortalecer pensamentos prejudiciais ou delirantes.

As principais plataformas oferecem opções para desligar completamente a memória, apagar informações específicas ou usar conversas temporárias. Especialistas recomendam revisar periodicamente os dados armazenados e evitar compartilhar informações sensíveis sem necessidade.

Com informações de Olhardigital