LLM이 여러 가능한 추론 경로를 동시에 탐색하고 가장 유망한 것을 선택하며 문제를 푸는 방법.
Chain-of-Thought는 한 줄기 생각을 순서대로 이어가는 방식이다. Tree of Thought(ToT)는 체스 플레이어처럼 "이 방향으로 가면 어떻게 될까, 저 방향은?"처럼 여러 가능성을 동시에 탐색하고, 각 경로를 평가해 가장 유망한 방향을 선택하며 나아간다. 수학 퍼즐, 전략 게임, 복잡한 계획 수립처럼 탐색이 필요한 문제에 Chain-of-Thought보다 효과적이다.
복잡한 설계 결정을 내릴 때 ToT를 쓰면, LLM이 "방법 A: 장점은 ~, 단점은 ~" "방법 B: 장점은 ~, 단점은 ~"처럼 여러 대안을 전개하고 가장 좋은 것을 선택하는 과정을 밟는다. 프롬프트에 "3가지 다른 접근법을 먼저 탐색하고, 각각 장단점을 평가한 뒤 최선을 선택하라"고 명시하면 된다.