La autoatención del Transformer (Vaswani et al., 2017) opera sobre un intervalo fijo de tokens; ese intervalo es la ventana de contexto. Todo lo que el modelo puede «ver» a la vez (instrucciones, turnos anteriores, documentos recuperados y el texto que está generando en ese momento) debe caber dentro de ella.
Si superas la ventana, el contenido más antiguo queda fuera de la vista: el modelo no da error, simplemente deja de prestar atención a lo que ya no cabe. Por eso las conversaciones largas pierden detalles anteriores y por eso se usa la recuperación para volver a aportar solo los pasajes más relevantes.