Janela de contexto em agentes de IA: como gerenciar
Aprenda a gerenciar a janela de contexto de agentes de IA com orçamento, prioridade, recuperação progressiva, compactação e métricas de qualidade.
Uma janela maior também comporta mais ruído
Um agente comercial recebe o histórico completo da conta, transcrições de reuniões, e-mails, proposta, regras de desconto, descrição das ferramentas e instruções acumuladas desde o piloto. A chamada cabe no limite do modelo e termina sem erro. Ainda assim, a recomendação usa uma condição antiga e ignora o compromisso registrado ontem.
O problema não foi falta de espaço. A execução recebeu material demais sem uma política clara de prioridade, validade e descarte.
A janela de contexto é a quantidade de informação que o modelo consegue considerar em uma chamada. Nela entram instruções, mensagens, documentos recuperados, resultados de ferramentas, estado da tarefa e o texto que está sendo produzido. Seu tamanho cria uma fronteira técnica. A empresa precisa transformar essa fronteira em um orçamento operacional.
Gerenciar a janela de contexto significa decidir o que deve entrar, o que pode ser buscado depois, o que precisa ser resumido e o que fica fora. Essa disciplina protege qualidade, custo, tempo de resposta, privacidade e capacidade de investigação.
Janela de contexto, memória e base de conhecimento têm funções próprias
Essas camadas participam da mesma execução, mas resolvem problemas diferentes.
A janela sustenta a chamada atual
Ela contém o material disponível para o modelo naquele momento. Quando a chamada termina, esse conteúdo não se torna memória persistente por definição.
A memória preserva continuidade
A memória de agentes de IA guarda fatos, preferências, decisões, resumos ou estado que precisam voltar em execuções futuras. Cada memória exige origem, escopo, validade e regra de descarte.
A base de conhecimento organiza fontes consultáveis
A base de conhecimento para agentes permite localizar políticas, manuais, contratos, catálogos e outros documentos. O fato de uma fonte estar disponível não significa que seu conteúdo inteiro deva acompanhar toda tarefa.
A janela recebe uma seleção dessas camadas. Ela funciona como a superfície de trabalho do caso atual, e não como arquivo geral da empresa.
Comece pelo contrato da tarefa
O orçamento de contexto nasce da responsabilidade entregue ao agente.
“Ajude o comercial” não oferece fronteira. “Prepare a próxima ação de uma oportunidade aberta, preservando o compromisso mais recente e sinalizando conflitos” permite identificar o pacote necessário.
Para cada unidade de trabalho, registre:
- entrada que inicia a execução;
- objeto principal, como oportunidade, chamado, pedido ou contrato;
- entrega esperada;
- decisão que pode ser tomada;
- ações tecnicamente permitidas;
- fontes obrigatórias;
- condições de bloqueio;
- evidência necessária para concluir.
Esse contrato reduz a tentação de carregar tudo “por segurança”. Um agente que prepara uma reunião precisa do estado atual da conta, dos compromissos relevantes e dos documentos vigentes. Ele raramente precisa de todas as mensagens trocadas desde o primeiro contato.
A engenharia de contexto para agentes de IA organiza o pacote completo da execução. O gerenciamento da janela aprofunda uma decisão específica: como distribuir espaço e atenção entre as partes desse pacote.
Divida a janela em classes de prioridade
Uma lista única de textos não mostra o peso operacional de cada item. Separe o contexto por função.
1. Política e limites
Inclua instruções que definem finalidade, acesso, ações proibidas, critérios de escalonamento e formato de saída. Essas regras precisam ter versão e precedência conhecidas.
Uma instrução de estilo nunca deveria competir em prioridade com uma regra de segurança ou com a proibição de contatar um cliente.
2. Estado vigente
Traga campos transacionais que representam o caso agora: status, responsável, prazo, valor, consentimento, versão aprovada e última confirmação.
A fonte da verdade para agentes de IA deve indicar qual sistema governa cada campo e evento. Resumos ajudam a leitura, mas não substituem a confirmação do estado quando a consequência depende dele.
3. Evidência do caso
Inclua trechos, registros e documentos que sustentam a decisão atual. Cada elemento deve conservar origem, data, versão e relação com o objeto processado.
4. Histórico útil
Recupere decisões anteriores, compromissos, preferências e exceções que ainda afetam o caso. Histórico sem efeito sobre a tarefa atual pode permanecer consultável fora da janela.
5. Ferramentas e estado de execução
O agente precisa conhecer apenas as ferramentas permitidas naquela responsabilidade, seus parâmetros, limitações e resultados recentes. Catálogos inteiros aumentam escolha indevida e ocupam espaço.
6. Área de trabalho
Reserve capacidade para planejamento, resultados intermediários, retorno de ferramentas, validação e saída final. Preencher a janela com entrada sem deixar espaço para execução cria truncamento, repetição ou resposta incompleta.
Transforme espaço em um orçamento explícito
O número de tokens disponível varia por modelo e configuração. A política da empresa deve funcionar mesmo quando essa capacidade muda.
Defina faixas para cada classe, sem tratar o teto técnico como meta de consumo. O registro pode conter:
| Classe | Conteúdo | Regra de entrada | Comportamento sob pressão | |---|---|---|---| | política | limites e procedimento | sempre, na versão vigente | preservar integralmente | | estado | campos oficiais do caso | sempre que afetar a decisão | reconsultar ou bloquear | | evidência | trechos e registros relevantes | por busca e filtros | reduzir por relevância e autoridade | | histórico | compromissos e decisões anteriores | quando ainda aplicáveis | compactar ou recuperar sob demanda | | ferramentas | capacidades permitidas | conforme a etapa | remover descrições fora do escopo | | saída | análise e artefato final | sempre | reservar capacidade mínima |
O orçamento pode usar tokens, caracteres, documentos, mensagens ou blocos. Tokens ajudam no controle técnico. Blocos e objetos ajudam o dono do processo a entender o desenho.
A regra importante é preservar primeiro autoridade, segurança, estado e critério de conclusão. Material auxiliar perde espaço antes dessas camadas.
Use recuperação progressiva
Enviar todo o acervo na primeira chamada costuma aumentar custo e reduzir legibilidade. A recuperação progressiva entrega o mínimo necessário e amplia o contexto quando o caso pede.
Um fluxo comercial pode seguir esta ordem:
- carregar objetivo, oportunidade, responsável e estado atual;
- recuperar o compromisso mais recente;
- consultar a proposta vigente se a próxima ação depender de condição comercial;
- buscar trechos antigos somente quando houver conflito;
- pedir aprovação quando a divergência não puder ser resolvida pelas fontes;
- registrar a evidência usada na recomendação.
Essa sequência transforma acesso em investigação orientada. O agente deixa de receber uma pasta inteira e passa a consultar objetos conforme uma pergunta operacional.
A busca progressiva precisa de limites:
- número máximo de rodadas;
- fontes permitidas;
- filtros por cliente, produto, versão e data;
- teto de custo;
- timeout;
- regra para evidência insuficiente;
- estado preservado entre as etapas.
Sem esses controles, a recuperação sob demanda pode virar uma busca longa que apenas desloca o excesso para várias chamadas.
Compacte histórico sem transformar hipótese em fato
Conversas e tarefas longas acumulam mensagens, resultados e decisões intermediárias. Compactar significa representar esse histórico em um formato menor para continuar a execução.
Um resumo operacional útil separa:
- fatos confirmados;
- decisões aprovadas;
- ações concluídas;
- pendências;
- hipóteses;
- conflitos;
- fontes e identificadores;
- data da compactação;
- versão do procedimento;
- trecho original disponível para auditoria.
Evite resumos livres que apagam incerteza. “Cliente quer adiar” pode ter vindo de uma pergunta, de uma hipótese do vendedor ou de um pedido confirmado. A compactação precisa preservar essa diferença.
Também defina quando refazer o resumo. Mudança de estágio, nova proposta, correção de cadastro, decisão humana ou atualização de política podem invalidar parte da síntese anterior.
Compactação reduz volume. Ela não concede autoridade ao texto compactado.
Trate resultados de ferramentas como dados temporários
Agentes recebem retornos de CRM, ERP, busca, arquivos, APIs e outros agentes. Esses resultados podem dominar a janela em poucas etapas.
Para cada ferramenta, controle:
- campos necessários para a decisão;
- tamanho máximo da resposta;
- paginação;
- ordenação;
- versão do contrato;
- horário da consulta;
- validade;
- erro ou ausência;
- referência para o resultado completo.
Se o agente precisa saber se existe uma próxima ação, não há motivo para enviar todas as colunas de todas as oportunidades. A ferramenta deveria devolver um objeto delimitado e estruturado.
A página sobre saídas estruturadas para agentes de IA mostra como reduzir ambiguidade nas fronteiras. O mesmo princípio vale para retornos intermediários: formato previsível consome menos espaço de interpretação e facilita validação.
Contexto longo exige renovação de estado
Uma tarefa pode durar minutos ou horas, atravessar filas e aguardar aprovação. Nesse intervalo, o mundo muda.
Antes de uma ação sensível, revalide:
- identidade e permissão;
- status do objeto;
- versão do documento;
- consentimento ou restrição;
- valor e prazo;
- disponibilidade da ferramenta;
- aprovação concedida;
- validade da informação recuperada.
O contexto inicial serve para começar. Ele não autoriza a execução inteira para sempre.
Em agentes de IA para tarefas longas, checkpoints preservam estado e permitem retomada. O orçamento da janela deve decidir o que acompanha o checkpoint, o que volta da fonte oficial e o que precisa ser descartado antes de continuar.
Observe a qualidade do contexto, além do consumo
Reduzir tokens pode piorar a execução se uma evidência crítica for removida. Aumentar a janela pode piorar a execução se versões concorrentes entrarem juntas.
Meça por unidade de trabalho:
- tamanho total do contexto;
- tamanho por classe;
- fontes recuperadas;
- proporção de material efetivamente citado ou usado;
- idade dos dados;
- conflitos encontrados;
- chamadas adicionais por falta de contexto;
- compactações realizadas;
- casos truncados;
- custo e latência;
- correção humana;
- conclusões bloqueadas por evidência insuficiente;
- incidentes ligados a fonte omitida ou vencida;
- qualidade do resultado por faixa de tamanho.
A relação entre contexto e resultado importa mais que o volume isolado. Se o pacote cresce e a taxa de correção permanece igual, a empresa está pagando por informação sem ganho observável.
O tracing de agentes de IA deve registrar quais blocos entraram, de onde vieram e em que etapa foram usados. Isso permite investigar se uma falha nasceu de seleção, recuperação, compactação, ferramenta ou modelo.
Teste a política com casos adversos
Uma política de janela precisa enfrentar situações que forçam prioridade e descarte.
Inclua casos com:
- histórico muito longo;
- duas versões de uma política;
- documento extenso com um trecho decisivo;
- ferramenta que devolve campos em excesso;
- dado oficial atualizado depois do resumo;
- cliente com muitos projetos;
- memória de outro cliente que nunca pode aparecer;
- instrução não confiável dentro de anexo;
- tarefa retomada após expiração;
- saída que exige espaço maior que o previsto;
- fonte indisponível;
- conflito que exige escalonamento.
Compare o pacote montado e o resultado. O teste deve confirmar que regras e estado sobrevivem à pressão, que material sem relação é removido e que falta de evidência produz bloqueio, não preenchimento criativo.
Sinais de uma janela mal gerenciada
Alguns sintomas aparecem antes de um incidente:
- toda chamada carrega o histórico completo;
- custo cresce conforme a conversa envelhece;
- regras importantes desaparecem em casos extensos;
- versões antigas voltam a orientar decisões;
- o agente repete buscas já concluídas;
- resumos não apontam para fontes;
- ferramentas devolvem objetos maiores que a tarefa;
- mudanças de estado não invalidam o contexto;
- modelos com janelas menores deixam de funcionar sem explicação;
- ninguém sabe por que determinado documento entrou;
- a equipe corrige respostas longas que parecem bem fundamentadas;
- o agente conclui quando deveria pedir mais informação.
Trocar por um modelo com janela maior pode adiar o limite. Não corrige ausência de prioridade, autoridade e validade.
Checklist para gerenciar a janela de contexto
- [ ] A unidade de trabalho e a entrega estão definidas?
- [ ] Política, estado, evidência, histórico e ferramentas estão separados?
- [ ] Cada classe possui regra de entrada e descarte?
- [ ] Existe capacidade reservada para ferramentas, validação e saída?
- [ ] Fontes conservam origem, versão e data?
- [ ] O estado oficial prevalece sobre resumos?
- [ ] A recuperação começa pequena e amplia sob demanda?
- [ ] Busca adicional possui teto de rodadas, tempo e custo?
- [ ] Compactações separam fato, decisão, hipótese e pendência?
- [ ] Mudanças relevantes invalidam resumos e dados temporários?
- [ ] Tarefas longas revalidam estado antes de agir?
- [ ] O trace mostra quais blocos sustentaram o resultado?
- [ ] Testes cobrem excesso, conflito, truncamento e vazamento?
- [ ] Qualidade é comparada com custo e tamanho do pacote?
- [ ] Existe um responsável por revisar a política?
A janela precisa preservar decisão, não acumular texto
Modelos com mais capacidade permitem trabalhar com documentos extensos, históricos maiores e execuções mais complexas. Esse avanço amplia as opções de arquitetura. Também aumenta o espaço disponível para redundância, versão antiga e dado sem autoridade.
A empresa ganha consistência quando trata contexto como um orçamento ligado à tarefa. Regras, estado e evidência recebem prioridade. Histórico entra quando ainda influencia o caso. Ferramentas devolvem objetos delimitados. A busca aprofunda somente diante de necessidade. Resumos preservam fonte e incerteza.
O resultado é uma execução mais legível. O agente processa menos material irrelevante, a equipe consegue verificar o que sustentou a recomendação e a arquitetura continua funcional mesmo quando modelos, limites e custos mudam.