Por que meu chatbot de IA continua esquecendo o contexto no meio da conversa?

Sarah1961 IN 🔍 Entusiasta 👁 69 ⚑ Denunciar Inteligência Artificial

Tenho usado Claude para escrever documentos maiores, e funciona muito bem nas primeiras trocas, mas depois começa a perder o que eu tinha dito antes. Tipo, falo "lembra que mencionei que trabalho em marketing" e cinco mensagens depois ele tá dando conselho pra engenheiro de software no lugar disso. Isso é uma limitação conhecida ou tô fazendo algo errado com jeito de mandar minhas instruções?

2 respostas

★ Melhor resposta

Já passei por exatamente isso quando tentava pedir ajuda com projetos maiores. O problema é que esses modelos têm uma janela de contexto - basicamente um limite de quanto da conversa eles conseguem "ver" de uma vez. Pense nisso como uma memória de curto prazo que guarda apenas as últimas N mensagens ou tokens. Quando você ultrapassa esse limite, o conteúdo anterior simplesmente desaparece da vista, mesmo que você se refira a ele depois. Então sim, não é você fazendo algo errado com seus prompts - é uma limitação genuína de como o sistema funciona.

O jeito de contornar isso é continuar lembrando o modelo sobre os detalhes-chave conforme avança. Se o contexto de marketing é importante, coloque-o de volta nos seus prompts a cada poucas mensagens em vez de assumir que ele lembra. Algo como "Lembre-se, trabalho com marketing, então..." ajuda a ancorar de volta ao que importa para sua pergunta. Algumas pessoas também acham que ajuda ser bem explícito sobre as restrições no começo - colocando todo seu contexto-chave em um único prompt sólido antes de começar a fazer perguntas de acompanhamento, em vez de espalhá-lo por múltiplas trocas. É um pouco chato de gerenciar, mas definitivamente reduz a confusão.

Para documentos bem longos, outra opção é dividir o trabalho em pedaços e lidar com cada seção em sua própria conversa, ou colar um resumo dos seus requisitos no começo de cada novo lote de perguntas. Não é perfeito, mas é bem melhor do que vê-lo se desviar para conselhos irrelevantes no meio do caminho.

Não assuma que você está fazendo algo errado - é genuinamente assim que esses sistemas funcionam, embora a resposta anterior sobre context windows não seja exatamente o quadro completo. O modelo tecnicamente consegue "ver" toda a sua thread de conversa, mas não dá o mesmo peso às mensagens anteriores que dá às recentes, então detalhes mais antigos como "trabalho em marketing" vão sendo gradualmente depriorizados conforme a conversa cresce. O melhor jeito é ser explícito e repetitivo: reformule o contexto-chave nos seus prompts de verdade em vez de contar que ele seja lembrado ("Lembre-se, estou escrevendo isso para uma audiência de marketing, então..."), ou divida projetos mais longos em conversas separadas onde cada uma começa do zero com contexto completo. Algumas pessoas também acham que ajuda colar um resumo rápido do que vocês já cobriram sempre que estão passando para uma nova fase do trabalho.

Sua resposta

Entrarpara responder.