Beim Chain-of-Thought-Prompting wird das Modell gebeten, seinen Lösungsweg offenzulegen – also Zwischenschritte des Schlussfolgerns darzulegen –, bevor es eine Antwort nennt. Wei et al. (2022) stellten fest, dass diese einfache Änderung die Leistung bei Benchmarks für Arithmetik, Alltagswissen und symbolisches Schlussfolgern deutlich verbessert und dass der Effekt mit der Modellgröße zunimmt.
Der Preis dafür sind Geschwindigkeit und Token-Kosten: Mehr Schlussfolgern bedeutet längere Ausgaben. Am meisten hilft es bei Problemen, die tatsächlich mehrere Schritte erfordern.