Contexto, memória e recuperação de informações em IA

Quando você conversa com um assistente de IA, parece que ele “lembra” do que foi dito minutos antes, às vezes até do que você contou semanas atrás. Por trás dessa impressão existem três mecanismos diferentes, que costumam ser confundidos: o contexto, a memória e a recuperação de informações.

Entender a diferença ajuda você a saber por que um assistente esquece detalhes em conversas longas, por que ele às vezes ignora um trecho de um documento e o que acontece com o que você conta a ele.

Três ideias que costumam ser confundidas

Um modelo de linguagem aprende padrões durante o treinamento e guarda esse aprendizado em seus parâmetros, os números internos ajustados nessa fase. Um artigo de 2020 chama isso de memória paramétrica (Lewis et al., 2020). Ela é fixa depois do treinamento: o modelo não aprende nada novo só porque você conversou com ele. Mais sobre esse processo em o que são LLMs.

Todo o resto vem de fora dos parâmetros:

• Contexto: o texto que entra no pedido atual, incluindo a conversa até ali.
• Memória: informações salvas por um sistema para serem reaproveitadas em conversas futuras.
• Recuperação de informações: a busca, feita na hora, de trechos relevantes em uma base de documentos para incluí-los no contexto.

Janela de contexto: a memória de trabalho

A documentação da Anthropic define a janela de contexto como todo o texto que um modelo pode consultar ao gerar uma resposta, incluindo a própria resposta. A empresa a descreve como uma “memória de trabalho”, diferente dos dados de treinamento (Anthropic, janelas de contexto).

Esse espaço é medido em tokens, pedaços de texto que o modelo processa. Segundo a mesma documentação, tudo conta para o limite: as instruções de sistema, cada mensagem trocada, documentos, imagens, resultados de ferramentas e o texto gerado.

Em uma conversa, cada nova pergunta é enviada junto com o histórico. A conversa cresce até se aproximar do limite. O que acontece então depende do produto. A Anthropic informa que interfaces de chat podem descartar as mensagens mais antigas primeiro. Outra opção descrita pela empresa é a compactação: resumir automaticamente a parte antiga da conversa para continuar.

O tamanho das janelas mudou rápido nos últimos anos e varia por modelo. Na data de consulta (08/10/2026), a documentação da Anthropic menciona janelas de até 1 milhão de tokens, dependendo do modelo. Como esse número muda com frequência, confira a documentação do modelo que você usa.

Mais contexto nem sempre é melhor

Uma janela grande não garante que o modelo use bem tudo o que está nela.

Em 2023, Nelson F. Liu e coautores testaram modelos em duas tarefas: responder perguntas a partir de vários documentos e encontrar um valor em uma lista de pares chave-valor. O desempenho costumava ser maior quando a informação relevante estava no início ou no fim do texto e caía de forma significativa quando ela estava no meio. O efeito apareceu inclusive em modelos feitos para contextos longos. O estudo ficou conhecido pelo título “Lost in the Middle”, perdido no meio (Liu et al., 2023).

A Anthropic descreve um fenômeno relacionado, que chama de context rot (deterioração do contexto): à medida que o número de tokens cresce, a precisão e a capacidade de lembrar detalhes diminuem (Anthropic). Em um texto de engenharia publicado em setembro de 2025, a empresa propõe tratar o contexto como “um recurso finito” e buscar o menor conjunto de informações relevantes que leve ao resultado desejado (Anthropic, engenharia de contexto).

O que isso significa para você:

• Em conversas muito longas, um detalhe dito lá no começo pode ser ignorado. Repetir o ponto importante perto da pergunta ajuda.
• Ao colar documentos longos, a Anthropic recomenda colocar o material no início e a pergunta no fim, e pedir que o modelo cite os trechos relevantes antes de responder (Anthropic, boas práticas).
• Colar “tudo, por garantia” pode piorar a resposta. Selecione o que importa.

Essas práticas aparecem com mais detalhe em engenharia de prompts.

Memória entre conversas

Por padrão, cada conversa começa do zero. Para que um assistente “lembre” de suas preferências na semana seguinte, o sistema precisa salvar essas informações em algum lugar e reinseri-las no contexto depois. É isso que os produtos chamam de memória.

A ferramenta de memória da Anthropic para desenvolvedores mostra o mecanismo de forma transparente. O modelo pode criar, ler, editar e apagar arquivos em um diretório de memória, e consulta esse diretório antes de começar uma tarefa. Os arquivos ficam no armazenamento da aplicação que usa o modelo, não dentro do modelo (Anthropic, ferramenta de memória).

Repare na lógica: a memória não muda os parâmetros. Ela é um texto guardado que volta para a janela de contexto quando é útil. Por isso ela também ocupa espaço e está sujeita aos mesmos limites de atenção.

A mesma documentação lista cuidados que cabem a quem constrói o sistema: evitar gravar informações sensíveis, limitar o tamanho dos arquivos, apagar memórias antigas e bloquear caminhos que permitam acessar arquivos fora do diretório de memória.

Para você, como usuário, a consequência prática é outra: o que você conta a um assistente com memória ativada pode reaparecer em conversas futuras. Cada produto tem controles próprios para ver, apagar ou desativar a memória, e eles mudam com frequência. Vale procurar essas opções nas configurações do serviço que você usa.

Recuperação de informações: buscar antes de responder

E quando a informação está em milhares de documentos, que não cabem ou não deveriam caber inteiros no contexto? Entra a recuperação de informações.

A abordagem mais conhecida é a geração aumentada por recuperação (RAG, na sigla em inglês). O artigo que cunhou o termo combinou um modelo gerador com um índice de documentos consultado por um buscador, que funciona como uma memória “não paramétrica”. Segundo os autores, as respostas ficaram mais específicas e factuais do que as do modelo sem busca (Lewis et al., 2020).

Em linhas gerais, o processo tem três passos:

1. Os documentos são divididos em pedaços (chunks) e indexados.
2. Quando chega uma pergunta, o sistema busca os pedaços mais relevantes.
3. Esses pedaços entram no contexto junto com a pergunta, e o modelo responde com base neles.

A busca costuma usar embeddings: listas de números que representam o significado de um texto. Segundo a documentação da OpenAI, a distância entre dois desses vetores indica o quanto os textos são relacionados; distâncias pequenas sugerem alta relação (OpenAI, embeddings). Muitos sistemas combinam isso com busca por palavras-chave, útil para códigos e nomes exatos.

Há um problema conhecido: um pedaço isolado pode perder o sentido. A Anthropic dá o exemplo de um trecho que diz que a receita “cresceu 3% em relação ao trimestre anterior” sem dizer de qual empresa nem de qual período. A técnica proposta pela empresa, chamada contextual retrieval, acrescenta a cada pedaço uma breve explicação de onde ele veio. Nos testes da própria Anthropic, aplicar essa técnica tanto aos embeddings quanto à busca por palavras-chave reduziu as falhas de busca em 49%; com uma etapa extra de reordenação dos resultados, a redução chegou a 67% (Anthropic, contextual retrieval). São números da empresa, medidos em seus conjuntos de teste.

O mesmo texto, de setembro de 2024, observa que, se a base de conhecimento for pequena (menos de 200 mil tokens, cerca de 500 páginas, na estimativa da empresa), pode ser mais simples colocá-la inteira no prompt. O funcionamento completo do RAG está em RAG: IA com documentos.

Quando usar cada estratégia

Situação	Estratégia mais adequada
Um documento ou conversa que cabe com folga na janela	Colar o conteúdo no contexto, com a pergunta no fim
Preferências e fatos que devem valer em várias conversas	Memória, com controle sobre o que é salvo
Base grande ou que muda com frequência	Recuperação de informações (RAG)
Tarefas longas de agentes de IA	Combinação: compactação, notas salvas e busca sob demanda

A última linha segue o que a Anthropic descreve para agentes: carregar informações “na hora certa” por meio de ferramentas, resumir o histórico quando ele cresce e manter notas fora da janela de contexto (Anthropic, engenharia de contexto).

Esta tabela é uma orientação da redação, não uma regra técnica. A escolha certa depende do volume de dados, do custo e de quanto erro é aceitável.

Riscos que você precisa conhecer

Recuperação errada vira resposta errada. Se a busca traz o trecho errado ou desatualizado, o modelo pode responder com segurança a partir dele. Também pode misturar o trecho com o que aprendeu no treinamento. Veja como identificar isso em alucinações de IA e em como avaliar respostas de IA.

Conteúdo buscado pode conter instruções maliciosas. Um estudo de 2023 mostrou que atacantes podem plantar instruções em páginas ou documentos que um sistema provavelmente vai buscar. Ao processar esse conteúdo, o modelo pode seguir as ordens escondidas. Os autores chamaram isso de injeção indireta de prompt e afirmaram que faltavam defesas eficazes na época (Greshake et al., 2023). Quanto mais um sistema busca na web ou em e-mails, maior a superfície de ataque.

Memória é dado pessoal guardado. Informações que você compartilha podem ficar salvas e reaparecer. Evite contar senhas, dados bancários ou dados de saúde de terceiros a assistentes com memória ativa.

O que levar deste texto

• O modelo não aprende com a sua conversa. Ele responde com o que aprendeu no treinamento mais o que está no contexto naquele momento.
• Contexto grande não é contexto bem usado: informação no meio de textos longos tende a ser menos aproveitada. Selecione, organize e ponha a pergunta no fim.
• Memória e recuperação de documentos são sistemas externos que alimentam o contexto. Eles ampliam o que a IA consegue fazer, mas trazem riscos de privacidade, de erro de busca e de injeção de instruções.