Visualizzatore della finestra di contesto

Che cos’è una finestra di contesto?

La finestra di contesto è la quantità totale di testo che un modello può considerare in una sola volta: il prompt di sistema, la cronologia della conversazione, i documenti che hai incollato e la risposta in fase di generazione. Si misura in token, non in caratteri né in parole.

Quando superi la finestra, il modello non restituisce un errore pulito: elimina silenziosamente i contenuti più vecchi. La parte che viene dimenticata per prima di solito si trova a metà della conversazione, ed è proprio quella che meno vorresti perdere. Mantenere un margine comodo, con un utilizzo intorno al 50-70%, evita il calo di qualità nelle sessioni lunghe.

Più grande non significa sempre migliore. Latenza e costi crescono entrambi con la lunghezza del contesto, e la maggior parte dei modelli mostra un evidente calo di precisione nei compiti che riempiono davvero la finestra dichiarata. Usa la finestra più piccola sufficiente per il compito.