Pourquoi mon chatbot IA oublie le contexte en cours de conversation ?

J'utilise Claude pour rédiger des documents plus longs, et ça fonctionne bien pour les premiers échanges, mais ensuite il commence à perdre de vue ce que je lui ai dit avant. Genre, je dis « rappelle-toi que j'ai mentionné que je travaille en marketing » et cinq messages plus tard il me donne des conseils pour des ingénieurs informatiques à la place. C'est une limitation connue ou je fais quelque chose qui ne va pas dans ma façon de formuler mes demandes ?

2 réponses

★ Meilleure réponse

J'ai eu exactement le même problème en essayant de me faire aider sur des projets plus longs. Le souci, c'est que ces modèles ont une fenêtre de contexte - en gros, une limite à la quantité de conversation qu'ils peuvent vraiment « voir » à la fois. C'est comme une mémoire à court terme qui garde seulement les N derniers messages ou tokens. Une fois que tu dépasses cette limite, les trucs d'avant disparaissent simplement, même si tu y reviens. Donc voilà, c'est pas toi qui fais quelque chose de mal avec tes prompts - c'est une vrai limitation de comment le système fonctionne.

Le truc pour contourner ça, c'est de continuer à rappeler au modèle les détails clés au fur et à mesure. Si le contexte marketing est important, glisse-le de nouveau dans tes prompts tous les quelques messages au lieu de supposer qu'il s'en souvient. Un truc comme « N'oublie pas, je travaille en marketing, donc... » l'aide à se reconnecter à ce qui compte pour ta question. Certains trouvent aussi que ça aide d'être vraiment explicite sur les contraintes dès le départ - mettre tout ton contexte clé dans un solide prompt avant de commencer à poser des questions de suivi, plutôt que de l'éparpiller sur plusieurs échanges. C'est un peu chiant à gérer, mais ça réduit vraiment la confusion.

Pour les documents vraiment longs, une autre option c'est de découper le travail en chunks et gérer chaque section dans sa propre conversation, ou coller un résumé de tes exigences au début de chaque nouveau lot de questions. C'est pas parfait, mais c'est mieux que de le regarder partir à la dérive vers des conseils sans rapport à mi-chemin.

Ne suppose pas que tu fais quelque chose de mal - c'est vraiment comme ça que ces systèmes fonctionnent, même si la réponse précédente sur les fenêtres de contexte n'est pas tout à fait complète. Le modèle peut techniquement « voir » toute la conversation, mais il ne pondère pas les anciens messages de la même façon que les récents, donc les détails anciens comme « je travaille dans le marketing » se retrouvent graduellement déprioritisés au fur et à mesure que la conversation s'allonge. La meilleure solution, c'est d'être explicite et répétitif : réénonce le contexte clé dans tes vraies questions au lieu de compter sur le fait qu'il se souvienne (« N'oublie pas, j'écris ça pour une audience de marketing, donc... »), ou divise les projets plus longs en conversations séparées où chacune recommence avec le contexte complet. Certains trouvent aussi que ça aide de coller un petit résumé de ce que vous avez couvert jusqu'à présent chaque fois que vous passez à une nouvelle phase du travail.

Votre réponse

Se connecterpour répondre.