Glosario de IA

    ¿Qué es la ventana de contexto de un modelo de IA?

    El espacio de trabajo de un modelo de lenguaje en cada llamada: lo que cabe dentro lo puede usar, y lo que queda fuera no existe para él.

    En resumen

    La ventana de contexto es el número máximo de tokens que un modelo de lenguaje puede procesar en una sola llamada, sumando todo lo que recibe (instrucciones, historial, documentos, resultados de herramientas) y lo que genera como respuesta. Lo que queda fuera, el modelo no lo ve, y cuanto más se llena, más cuesta cada respuesta.

    Un modelo de lenguaje no tiene memoria entre llamadas. Lo que parece memoria en un chat es que la aplicación le reenvía la conversación entera en cada turno. Todo eso, junto con las instrucciones y los documentos que se añadan, tiene que caber en la ventana de contexto. Si no cabe, algo se queda fuera: la aplicación recorta el historial, lo resume o devuelve un error.

    En pocos años, los modelos comerciales más avanzados han pasado de ventanas de unos miles de tokens a cifras en torno al millón. Eso abre posibilidades reales, como analizar un contrato largo de una sola vez, pero también ha extendido una idea equivocada: que ya no hace falta elegir qué información se le da al modelo.

    Cómo funciona y qué ocupa espacio

    La ventana se mide en tokens y es compartida: instrucciones de sistema, descripción de herramientas, historial, fragmentos recuperados, la pregunta del usuario y la respuesta que el modelo va a escribir. Además del total, cada modelo fija un máximo de tokens de salida por respuesta, normalmente mucho menor.

    Un contexto largo también tiene coste técnico. Mientras genera, el modelo mantiene en memoria la llamada caché KV, con información de cada token ya procesado, y esa caché crece en proporción a la longitud del contexto. En un servidor propio se nota enseguida: un modelo que cabe holgado en una GPU con contexto corto puede quedarse sin memoria al ampliarlo. Por eso, en IA local, la ventana útil suele ser menor que la que anuncia el modelo.

    Cuándo una ventana grande marca la diferencia

    Una ventana amplia compensa cuando la tarea exige ver el conjunto y no fragmentos sueltos:

    • Revisar un contrato o una licitación completa para detectar contradicciones entre cláusulas separadas por decenas de páginas.
    • Comparar varias ofertas de proveedores en una sola llamada y obtener una tabla con las diferencias de precio, plazos y condiciones.
    • Un agente que trabaja durante muchos pasos y necesita conservar los resultados intermedios sin perder el hilo.
    • Analizar un registro de incidencias largo o un repositorio de código para localizar el origen de un error.

    Contexto largo frente a RAG y memoria

    Meterlo todo en el contexto no sustituye a RAG en la mayoría de los casos. Con cientos o miles de documentos, el total no cabe; y aunque cupiera, pagarías por procesarlo en cada pregunta. RAG selecciona lo relevante y mantiene el contexto pequeño. El contexto largo brilla cuando el material es acotado y hay que leerlo entero.

    Tampoco es memoria. Lo que un asistente recuerda de un cliente de una semana a otra no vive en la ventana: tiene que guardarse fuera, en una base de datos, y recuperarse cuando hace falta.

    Límites: más contexto no siempre es mejor

    Que un dato esté dentro de la ventana no garantiza que el modelo lo use bien. Varios estudios han mostrado que el rendimiento baja cuando la información relevante queda enterrada en mitad de un contexto muy largo, y que la capacidad útil suele ser inferior a la anunciada. Encontrar una frase concreta en un documento enorme es fácil; razonar sobre muchos datos dispersos, bastante menos.

    Lo que recomendamos: colocar los documentos al principio y la pregunta al final, quitar del historial lo que ya no aporta, resumir conversaciones largas y probar la tarea con el volumen real de contexto, no con un ejemplo corto.

    Preguntas frecuentes

    ¿Cuántos tokens tiene la ventana de contexto de un modelo?

    Varía según el modelo y cambia con cada versión. Los modelos comerciales más avanzados ofrecen cientos de miles de tokens o en torno al millón, mientras que muchos modelos abiertos ejecutados en local trabajan con bastante menos por limitaciones de memoria. Consulta la documentación de la versión concreta.

    ¿Qué pasa cuando se supera la ventana de contexto?

    Depende de la aplicación. La API puede devolver un error, o el sistema puede recortar o resumir los mensajes más antiguos para hacer sitio. En cualquier caso, el modelo deja de ver parte de la información, y puede dar respuestas incompletas u olvidar instrucciones dadas al principio.

    ¿Una ventana de contexto más grande hace al modelo más inteligente?

    No. Le permite ver más información a la vez, pero no razona mejor por ello. Con contextos muy llenos la precisión puede incluso bajar, mientras suben el coste y el tiempo de respuesta. Lo eficaz es darle la información justa y bien ordenada.

    ¿Un chatbot recuerda conversaciones anteriores?

    Solo si la aplicación está diseñada para ello. El modelo no guarda nada entre llamadas; es la aplicación la que decide qué historial le reenvía y si almacena resúmenes o datos del cliente para recuperarlos en conversaciones futuras.

    Diseña el contexto antes de elegir el modelo

    Buena parte de la calidad y del coste de un asistente depende de qué información recibe en cada llamada. Podemos revisar tu caso y proponer cómo repartir contexto, recuperación y memoria.

    Solicitar propuesta gratuita

    Actualizado el 20 de octubre de 2026