新演算法「思維樹」可望讓 GPT-4 模型推理效能大幅增加

看到這個覺得滿酷的，美國普林斯頓大學與 Google DeepMind 的研究團隊，他們提出了一種全新的「思維樹」框架 (Tree of Thoughts , 縮寫是ToT )，讓 GPT-4 能自己發起提案、進行評估，並做出決策。

當中用到的演算法包括了：
1. 廣度優先搜尋 (BFS)
2. 深度優先搜尋 (DFS)
3. 最佳優先搜尋
4. A* 搜尋
5. 蒙特卡洛樹​

在這種這個全新的框架下，大型語言模型如GPT和PaLM已經能夠執行各種廣泛的任務。這些模型的進步主要基礎還是採用道當初用於生成文字的「自回歸機制」，這種機制以從左到右的方式逐一進行 token 級的決策。

這個簡單的機制能否足以建立一個能「解決通用問題的語言模型」呢？如果不能，那麼哪些問題將會挑戰當前的範疇呢？真正的替代機制又會是什麼呢？為來都尚待人類繼續深入研究。

如此一來，包括 GPT-4 的進步，以及未來藉由 ToT 演算法的創新，可能會創造出更多的可能性，頗讓人期待。

延伸閱讀:

Tree of Thoughts: Deliberate Problem Solving with Large Language Models 論文連結

tree-of-thoughts 專案的 Github 專頁