Yao et al. (2023) generalizaron la cadena de pensamiento en una búsqueda sobre un árbol de «pensamientos» intermedios: el modelo propone varios pasos siguientes, evalúa lo prometedor que es cada uno y explora o retrocede en consecuencia. Esta exploración deliberada mejora notablemente el rendimiento en problemas que requieren planificación o ensayo y error.
El ToT es más costoso que una sola cadena de pensamiento, pero puede resolver tareas en las que falla una respuesta de un solo intento.