¿Por qué mi asistente de IA sigue olvidando el contexto a mitad de la conversación?

Sarah1961 IN 🔍 Entusiasta 👁 65 ⚑ Denunciar Inteligencia Artificial

He estado usando Claude para escribir documentos más largos, y funciona genial los primeros intercambios, pero después empieza a perder de vista lo que te conté antes. Como si dijera "recuerda que mencioné que trabajo en marketing" y cinco mensajes después me da consejos para ingenieros de software en lugar de eso. ¿Es una limitación conocida o estoy haciendo algo mal con cómo le doy las instrucciones?

2 respuestas

★ Mejor respuesta
painter86 AU 🛠️ Especialista 💬 102 respuestas ⚑

Me ha pasado exactamente lo mismo cuando intento que me ayude con proyectos más largos. El problema es que estos modelos tienen una ventana de contexto, básicamente un límite de cuánta conversación pueden "ver" realmente de una vez. Imagínalo como una memoria a corto plazo que solo retiene los últimos N mensajes o tokens. Una vez que superas ese límite, la información anterior simplemente desaparece, aunque hagas referencia a ella. Así que no, no estás haciendo nada mal con tus prompts - es una limitación genuina de cómo funciona el sistema.

La solución es recordarle al modelo los detalles clave mientras avanzas. Si el contexto de marketing es importante, vuelve a meterlo en tus prompts cada pocos mensajes en lugar de asumir que lo recuerda. Algo como "Recuerda, trabajo en marketing, así que..." ayuda a anclarlo a lo que importa para tu pregunta. Algunas personas también encuentran útil ser muy explícito sobre las restricciones desde el principio - meter todo tu contexto clave en un prompt sólido antes de empezar a hacer preguntas de seguimiento, en lugar de esparcirlo en varios intercambios. Es un poco incómodo de manejar, pero definitivamente reduce la confusión.

Para documentos realmente largos, otra opción es dividir el trabajo en fragmentos y manejar cada sección en su propia conversación, o pegar un resumen de tus requisitos al inicio de cada nuevo lote de preguntas. No es perfecto, pero es mejor que verlo derivar hacia consejos irrelevantes a mitad del camino.

No des por supuesto que estés haciendo algo mal - así es como funcionan genuinamente estos sistemas, aunque la respuesta anterior sobre ventanas de contexto no es la imagen completa. El modelo técnicamente puede "ver" tu hilo de conversación completo, pero no le da el mismo peso a los mensajes anteriores que a los recientes, así que detalles más antiguos como "trabajo en marketing" se van deprioritizando gradualmente conforme la conversación crece. La mejor solución es ser explícito y repetitivo: reestablece el contexto clave en tus indicaciones reales en lugar de confiar en que se recuerde ("Recuerda, estoy escribiendo esto para una audiencia de marketing, así que..."), o divide proyectos más largos en conversaciones separadas donde cada una comienza desde cero con contexto completo. Algunos también encuentran que ayuda pegar un resumen rápido de lo que han cubierto hasta ahora cada vez que se mueven a una nueva fase del trabajo.

Tu respuesta

Iniciar sesiónpara responder.