Il prompting chain-of-thought (catena di ragionamento) chiede al modello di mostrare il procedimento, esponendo i passaggi intermedi del ragionamento, prima di fornire una risposta. Wei et al. (2022) hanno rilevato che questo semplice cambiamento migliora sensibilmente le prestazioni su benchmark di aritmetica, senso comune e ragionamento simbolico, e che l'effetto cresce con la scala del modello.
Il compromesso riguarda velocità e costo in token: più ragionamento significa output più lunghi. È utile soprattutto per i problemi che richiedono davvero più passaggi.