這是對提示詞自動優(yōu)化的進一步探索,通過蒙特卡洛樹搜索,完全接管了 Agentic Workflow 的生成與優(yōu)化過程,表現(xiàn)遠超其他工作流自動優(yōu)化工作,甚至超越了對比的所有手工工作流基線。
論文標題:AFlow: Automating Agentic Workflow Generation
論文地址:https://arxiv.org/abs/2410.10762
項目地址:https://github.com/geekan/MetaGPT/tree/main/examples/aflow
什么是自動工作流優(yōu)化問題?
現(xiàn)有的 Agentic Workflow 自動生成工作難以生成有效的工作流,它們往往需要人工介入初始設(shè)置,且無法全面捕捉到完成任務(wù)所需的工作流多樣性。為了克服這些挑戰(zhàn),研究人員提出了 AFLOW 框架。利用蒙特卡洛樹搜索(MCTS)技術(shù)來系統(tǒng)地探索和優(yōu)化 LLM 的工作流。AFLOW 通過將工作流定義為代碼可表示的節(jié)點和邊,從而有效地捕捉 LLMs 調(diào)用之間的復(fù)雜交互。通過引入操作符的概念,AFLOW 進一步簡化了搜索空間,提高了搜索效率。在多個基準數(shù)據(jù)集上的實驗結(jié)果表明,AFLOW 能夠自動發(fā)現(xiàn)和優(yōu)化工作流,顯著提高了任務(wù)執(zhí)行的性能,同時減少了對人工干預(yù)的依賴。
AFLOW 的動態(tài)演示。通過不斷迭代的選擇、擴展、評估和反向傳播實現(xiàn)工作流的自動化生成和優(yōu)化AFLOW 首先將工作流優(yōu)化問題重新構(gòu)建為一個搜索問題,其中工作流被表示為代碼化的節(jié)點序列,每個節(jié)點代表 LLM 的一個具體操作,節(jié)點之間的邊定義了操作的邏輯、依賴關(guān)系和執(zhí)行流程。這種表示方法將工作流轉(zhuǎn)化為一個可以搜索和優(yōu)化的圖結(jié)構(gòu)。具體來說,工作流 W 被定義為一個 LLM 調(diào)用節(jié)點序列,其中每個節(jié)點