Yao et al.(2023)은 사고의 사슬(chain-of-thought)을 중간 “생각”으로 이루어진 트리 위의 탐색으로 일반화했습니다. 모델은 다음 단계 후보를 여러 개 제시하고 각각이 얼마나 유망한지 평가한 뒤, 그에 따라 더 탐색하거나 되돌아갑니다. 이런 신중한 탐색은 계획이나 시행착오가 필요한 문제에서 성능을 크게 높여 줍니다.
ToT는 단일 사고의 사슬보다 비용이 더 들지만, 한 번에 답을 내는 방식으로는 풀지 못하는 과제를 해결할 수 있습니다.