LLM Agent真正走向落地關(guān)鍵不在于給模型疊加更多概念而在于把任務(wù)規(guī)劃、工具調(diào)用、環(huán)境反饋與自我反思組織成可驗(yàn)證的工程閉環(huán)。本文從工具與Agent的基本定義出發(fā)梳理總體架構(gòu)和核心交互機(jī)制進(jìn)一步解讀ReAct、Plan-and-Solve等經(jīng)典工作并延伸到訓(xùn)練數(shù)據(jù)構(gòu)建與實(shí)踐方法幫助開發(fā)者建立從論文理解到系統(tǒng)實(shí)現(xiàn)的完整視角?；靖拍?. 什么是工具只要能夠讓語言模型從外部獲得知識(shí)、或者執(zhí)行操作的接口都可以視為工具。這些“工具”可以是一個(gè)檢索引擎、一個(gè)代碼執(zhí)行器、一個(gè)地圖 API、一個(gè)天氣 API、一個(gè)與數(shù)據(jù)庫(kù)交互的接口等等。2. 為什么要使用工具當(dāng)前大模型已經(jīng)具備了很多能力也具備了很強(qiáng)的理解和解決問題能力比如內(nèi)容創(chuàng)作、語言理解、代碼生成等但是依舊無法完成很多復(fù)雜的任務(wù)。這是因?yàn)槭紫燃僉LM的知識(shí)固化于訓(xùn)練語料中一旦涉及世界最新資訊或時(shí)效性較強(qiáng)的數(shù)據(jù)如天氣、新聞、股票LLM 往往會(huì)產(chǎn)生“幻覺”。因此相比其他確定性的工具LLM是“最容易失控的”。這時(shí)候通過整合搜索引擎、在線數(shù)據(jù)庫(kù)、知識(shí)庫(kù)等工具模型能獲得真實(shí)世界的知識(shí)和反饋在回答用戶實(shí)時(shí)問題時(shí)具有更高的準(zhǔn)確度與時(shí)效性。舉例來說檢索增強(qiáng)式生成Retrieval-Augmented GenerationRAG就是最常見的工具之一檢索引擎可看作是一個(gè)“文本搜索”工具我們?cè)谟脩襞cLLM交互的時(shí)候讓LLM能夠從外掛知識(shí)庫(kù)中實(shí)時(shí)檢索引入豐富且正確的外部知識(shí)避免“幻覺”式回答。其次大模型雖在通用場(chǎng)景下表現(xiàn)出色但當(dāng)問題需要專業(yè)技能如復(fù)雜邏輯推理、多語言編程、多模態(tài)生成時(shí)僅靠自身生成的能力難以解決。如果能“外呼”專業(yè)工具如真實(shí)執(zhí)行代碼、調(diào)用多模態(tài)模型等則能大幅提升表現(xiàn)。tool的類型多種多樣它們能夠幫助LLM完成自己本身做不到的事情3. Agent基本介紹AGENT LLM × 規(guī)劃記憶工具在這篇文章中我們會(huì)對(duì)Agent的每個(gè)環(huán)節(jié)做較為詳細(xì)的介紹。先把架構(gòu)圖放在這里以便有一個(gè)整體的認(rèn)知。在這篇文章中我們會(huì)詳細(xì)介紹規(guī)劃Planning如何將大型任務(wù)分解為較小的、可管理的子目標(biāo)以便高效的處理復(fù)雜任務(wù);反思與自我修正Reflection Self-critics如何對(duì)過去的行為進(jìn)行自我批評(píng)和反省并指導(dǎo)接下來的行動(dòng)記憶Memory工具使用Tool use如何調(diào)用外部 API以獲取模型權(quán)重中缺少的額外信息。4. Agent的不同階段在這里也是先放一個(gè)整體的圖以便有整體的認(rèn)知。之后我們會(huì)通過經(jīng)典論文和實(shí)操來了解更具體的細(xì)節(jié)。Stage 1Task-Planning任務(wù)規(guī)劃是指當(dāng)模型接收到用戶的復(fù)雜query后需要先進(jìn)行意圖理解與任務(wù)分解。先把整個(gè)問題分解成若干容易執(zhí)行的小任務(wù)或步驟并確定這些步驟的依賴關(guān)系和執(zhí)行順序形成一個(gè)有向無環(huán)圖DAG。Stage 2 Tool Selection在完成任務(wù)分解、明確了子問題后模型需要在多個(gè)可用的工具或API中檢索并選擇最合適的工具。不同工具往往功能、輸入輸出方式都不同因此正確選擇不同工具組合對(duì)于成功解決子任務(wù)至關(guān)重要。工具選擇的方法也分成兩類基于檢索器的工具選擇Retriever-based Tool Selection。 當(dāng)工具數(shù)目龐大時(shí)先用一個(gè)外部的檢索器來篩選Top-K可能相關(guān)的工具再把它們的描述與用戶問題一并輸入LLM最終由LLM做最后的選擇。這是因?yàn)槟Ｐ湍芙邮艿纳舷挛拈L(zhǎng)度是有限的如果把所有的工具都堆給它直接就超出了上下文長(zhǎng)度這樣肯定是不行的。常見的檢索方法包括多種傳統(tǒng)IR技術(shù)TF-IDF/BM25或者語義向量檢索?；贚LM的直接選擇LLM-based Tool Selection。 當(dāng)備選的工具數(shù)量不是很多時(shí)可以直接把工具描述全部拼接進(jìn)模型輸入讓LLM選出最優(yōu)工具。Stage3Tool-Calling在選定要用的工具后LLMs 需要以正確的格式向工具發(fā)送調(diào)用請(qǐng)求并準(zhǔn)確填充調(diào)用參數(shù)。需要遵循工具說明中要求的格式如參數(shù)名稱、變量類型、取值范圍等否則調(diào)用會(huì)失敗。按照種類來分工具調(diào)用分為單工具調(diào)用Single Function Call: 如“今天天氣怎么樣”- 調(diào)用get_weather依賴性工具調(diào)用Dependent Function Call如“張三的地址處天氣怎么樣”- 先調(diào)用get_address然后調(diào)用get_weather平行工具調(diào)用Parallel Function Call如“張三的手機(jī)號(hào)和地址是多少”- 同時(shí)調(diào)用get_address、get_phone_numberStage4Response Generation工具調(diào)用完成后LLM會(huì)收到工具調(diào)用結(jié)果這個(gè)結(jié)果稱為Observation。接下來需要基于這個(gè)Observation與自身知識(shí)生成最終回答給用戶。直接插入式Direct Insertion Methods 這是最簡(jiǎn)單的辦法如讓模型回答時(shí)先寫一句“這里是工具返回結(jié)果ToolResult()”然后在呈現(xiàn)給用戶前將“ToolResult()”替換成實(shí)際工具輸出文本。這種方式往往不夠靈活也可能影響可讀性所以目前使用較少。信息整合式Information Integration Methods 先將Observation作為上下文繼續(xù)輸入LLM讓它基于這個(gè)信息寫出完整、自然的答案。若工具輸出過長(zhǎng)超出LLM的上下文窗口會(huì)先對(duì)工具結(jié)果進(jìn)行壓縮或抽取。經(jīng)典論文1. React2022奠定Agent“思考”與“行動(dòng)”相結(jié)合的范式論文標(biāo)題REACT: SYNERGIZING REASONING AND ACTING IN LANGUAGE MODELS論文鏈接https://arxiv.org/pdf/2210.03629這篇系統(tǒng)性地提出了將 Reasoning 與 Acting 結(jié)合的范式也就是我們現(xiàn)在熟知的ReAct模式。在 ReAct 模式提出之前LLM的推理主要分為如下兩個(gè)模式推理Reasoning 例如 Chain-of-Thought (CoT)模型利用內(nèi)部知識(shí)直接輸出答案。但是這個(gè)的缺點(diǎn)就是模型容易產(chǎn)生幻覺且無法獲取外部世界的實(shí)時(shí)信息。例如問LLM“現(xiàn)在的美國(guó)總統(tǒng)是誰”它不能實(shí)時(shí)聯(lián)網(wǎng)搜索用的知識(shí)都停留在訓(xùn)練時(shí)候的老舊數(shù)據(jù)。行動(dòng)Acting 模型根據(jù)tool-call的執(zhí)行結(jié)果Observation直接輸出下一個(gè)動(dòng)作Action。比如下圖的(1c)中每次都根據(jù)上一輪的Observation來生成下一個(gè)動(dòng)作。(1a) 直接輸出答案(1b) 先思考再輸出答案 (1c) 只調(diào)用工具 (1d) ReAct在調(diào)用工具之前先思考在Agent框架下Agent 會(huì)不斷地與環(huán)境交互。 具體地在時(shí)間步 tAgent 接收到來自環(huán)境的觀察 o_t /in /mathcal{O}并根據(jù)當(dāng)前的上下文 c_t (o_1, a_1, /dots, o_{t-1}, a_{t-1}, o_t) 采取行動(dòng)。Observation觀察Agent執(zhí)行一個(gè)動(dòng)作之后的運(yùn)行結(jié)果比如執(zhí)行一次數(shù)據(jù)庫(kù)查詢Observation就是查詢的結(jié)果。Action動(dòng)作Agent調(diào)用的工具比如search、click等傳統(tǒng)策略Act-only通常是學(xué)習(xí)一個(gè)映射 , 其中 是外部動(dòng)作空間如search[query],click[button]。ReAct 的核心創(chuàng)新在于擴(kuò)充了動(dòng)作空間其中 是語言空間。用大白話說就是現(xiàn)在LLM不再是直接輸出一個(gè)Action了而是先進(jìn)行一些推理生成Thought然后再輸出Action。如上圖的(1d)所示每次在生成答案的時(shí)候都先生成Thought, 然后再生成Action。Thought 。這是一個(gè)內(nèi)部動(dòng)作幫助 Agent 整理思路、分解目標(biāo)或提取關(guān)鍵信息。它不會(huì)影響外部環(huán)境因此沒有對(duì)應(yīng)的觀察反饋。Reason-only: 直接輸出不調(diào)用工具Act-only: 只輸出調(diào)用工具的ActionReAct: 在輸出調(diào)用工具的Action之前先進(jìn)行思考Agent的運(yùn)行軌跡就是交替Thought - Action - Observation - Thought ...這個(gè)做法在現(xiàn)在看來已經(jīng)是司空見慣尤其是在以o1、deepseek-R1為首的復(fù)雜推理模型出來之后都是先做思考thinking、然后再輸出答案。我們現(xiàn)在都知道thinking的過程以及thinking長(zhǎng)度對(duì)于推理結(jié)果的正確性而言是非常重要的。不過在當(dāng)時(shí)React還是非常有開創(chuàng)性的。它奠定了Agent“思考”與“行動(dòng)”相結(jié)合的范式也是目前大多數(shù)自主Agent框架如LangChain的底層邏輯。2. Plan-and-Solve規(guī)劃與任務(wù)拆解解決長(zhǎng)程復(fù)雜任務(wù)論文標(biāo)題 Plan-and-Solve Prompting: Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models論文鏈接 https://arxiv.org/pdf/2305.04091Plan-and-Solve的核心貢獻(xiàn)是提出了“先計(jì)劃再執(zhí)行”的策略解決了Agent在面臨復(fù)雜目標(biāo)時(shí)“走一步看一步”導(dǎo)致的迷失問題。為什么需要用Planner這是因?yàn)閷?duì)于一些復(fù)雜的、長(zhǎng)鏈路的任務(wù)如“寫一個(gè)游戲”普通的Agent調(diào)用方式如ReAct往往會(huì)“走著走著就忘了要去哪”。這時(shí)候我們需要就Plan-and-Solve (PS) 模式了先制定完整的計(jì)劃再逐一執(zhí)行。在這個(gè)模式里面有兩個(gè)角色Planner和Executor。(a) Planner: 把一個(gè)需求變成可執(zhí)行步驟的“項(xiàng)目經(jīng)理”。Planner 把一個(gè)復(fù)雜的任務(wù)拆解成 3-5 個(gè)清晰的動(dòng)作有論文驗(yàn)證 plan 的步驟不能過多并且給出不同動(dòng)作的依賴關(guān)系告訴 Agent 哪些步驟可以并行哪些必須串行。這個(gè)本質(zhì)上是創(chuàng)建了一個(gè)有向無環(huán)圖DAG的執(zhí)行計(jì)劃后續(xù)可以將這些計(jì)劃分配給對(duì)應(yīng)的 Agent 執(zhí)行。示例 [1. 搜索2023年財(cái)報(bào), 2. 提取凈利潤(rùn)數(shù)據(jù), 3. 計(jì)算同比增長(zhǎng)率, 4. 生成圖表]在Executor執(zhí)行的過程中Planner還需要執(zhí)行監(jiān)控記錄每個(gè)任務(wù)pending、in progress、completed的狀態(tài)每完成一步就更新狀態(tài)。PS 最重要的地方在于動(dòng)態(tài)重規(guī)劃計(jì)劃并不是一成不變的而是會(huì)根據(jù)Executor的執(zhí)行情況做動(dòng)態(tài)調(diào)整。假如某個(gè)步驟執(zhí)行失敗了Planner需要根據(jù)失敗給出原因 改進(jìn)建議之后進(jìn)行重新規(guī)劃。1. **Planner 生成初始計(jì)劃 [A, B, C, D]。** 2. **Executor 執(zhí)行 A成功。** 3. **Executor 執(zhí)行 B失敗例如工具報(bào)錯(cuò)“數(shù)據(jù)不存在”。** 4. **Executor 將失敗信息反饋給 Planner。** 5. **Planner 被喚醒“任務(wù) B 失敗了看來原來的計(jì)劃行不通?；诂F(xiàn)在的觀察我需要修改后續(xù)計(jì)劃?！?* 6. **Planner 生成新計(jì)劃 [B, C, D]。** 7. **Executor 繼續(xù)執(zhí)行 B。**可選還可以加上human in loop也就是當(dāng)用戶不滿意這個(gè)plan時(shí)可以人為去修改plan。bExecutor拿著 Planner 給的清單一項(xiàng)一項(xiàng)地去調(diào)工具執(zhí)行。二者的交互如下圖所示Planner與executor的交互。planner會(huì)根據(jù)實(shí)時(shí)的執(zhí)行結(jié)果動(dòng)態(tài)調(diào)整planPlan-and-Solve論文中給出的示例如下(a) 普通COT方法 (b) Plan-and-Solve, 先制定計(jì)劃再一個(gè)個(gè)執(zhí)行 ? 把執(zhí)行結(jié)果輸給LLM生成答案更準(zhǔn)確PS在實(shí)際應(yīng)用中的例子Claude-CodeClaude Code 作為Code Agent 也有任務(wù)規(guī)劃模塊。下方是Claude Code 的運(yùn)行截圖prompt是幫我生成一個(gè)打地鼠游戲它首先做了一個(gè)任務(wù)規(guī)劃同時(shí)每執(zhí)行一步都會(huì)記錄并更新任務(wù)的狀態(tài)“Update Todos”正在進(jìn)行的任務(wù)用彩色表示已經(jīng)完成任務(wù)用綠色表示并用刪除線劃掉待辦的任務(wù)用白色表示圖片來源https://zhuanlan.zhihu.com/p/19379340937624252143. Reflection自我反思與閉環(huán)控制論文標(biāo)題 Reflexion: Language Agents with Verbal Reinforcement Learning論文鏈接 https://arxiv.org/pdf/2303.11366核心貢獻(xiàn)引入了動(dòng)態(tài)記憶和自我反思機(jī)制Agent會(huì)根據(jù)環(huán)境反饋評(píng)估自己的表現(xiàn)并將失敗經(jīng)驗(yàn)存入記憶指導(dǎo)下一次嘗試。這篇論文是實(shí)現(xiàn)自我糾錯(cuò)和Plan-Execute-Observe循環(huán)的核心論文。Reflexion的思想很簡(jiǎn)單就是讓Agent從之前的失敗中學(xué)習(xí)。Reflexion會(huì)把環(huán)境的0/1反饋比如代碼執(zhí)行是否正確或量化的反饋轉(zhuǎn)換成文字描述作為下次迭代中的額外信息讓Agent知道怎樣改正錯(cuò)誤這樣就能更好地完成任務(wù)了。從上圖看出Reflexion框架利用三個(gè)不同的模型執(zhí)行者Actor、評(píng)估者Evaluator和自我反思模型Self-Reflection)。Actor基于狀態(tài)和Observation生成文本和ActionEvaluator對(duì)Actor產(chǎn)生的輸出計(jì)算獎(jiǎng)勵(lì)分?jǐn)?shù)Self-Reflection模型生成自我反思的文本分析以協(xié)助Actor自我改進(jìn)。該過程使用短期和長(zhǎng)期記憶其中軌跡歷史作為短期記憶而自我反思模型的輸出存儲(chǔ)在長(zhǎng)期記憶中?？聪旅孢@個(gè)示例圖的中間Programming部分可以對(duì)上面的流程圖有一個(gè)直觀的了解以代碼生成為例在模型拿到一個(gè)Task之后它首先生成了一個(gè)代碼段。之后這個(gè)代碼段被送給EvaluatorEvaluator會(huì)自己生成一些測(cè)試用例self-generated unit tests用于測(cè)試。假如這個(gè)測(cè)試失敗了assertion fail那么Self-Reflection模型就會(huì)分析這次失敗的原因形成一個(gè)原因分析文本再輸入給模型。模型根據(jù)上一次失敗的教訓(xùn)會(huì)重新生成。Self-Reflection在實(shí)際應(yīng)用中的例子swe-agent現(xiàn)在主流的Agent框架都不再采用上述的Actor、Evaluator、Self-Reflection三個(gè)模型了而是用一個(gè)模型解決所有的問題。具體而言swe-agent是一個(gè)讓code-agent在其中解決真實(shí)repo中issue 報(bào)錯(cuò)的框架這個(gè)code-agent可以查看文件并運(yùn)行任意的代碼。那么在運(yùn)行代碼的過程中不可避免地會(huì)遇到一些報(bào)錯(cuò)。這個(gè)報(bào)錯(cuò)就是模型與環(huán)境交互的錯(cuò)誤信息了模型在下一步輸出的時(shí)候就會(huì)根據(jù)報(bào)錯(cuò)的信息進(jìn)行分析并修復(fù)自己的錯(cuò)誤。比如在模型認(rèn)為自己已經(jīng)修復(fù)了issue之后它運(yùn)行下寫的面的代碼想看一下自己寫的代碼是否有效但是很不幸它的代碼出現(xiàn)了報(bào)錯(cuò)所以之后的輪次模型就在不停地view各種文件并進(jìn)行修改嘗試在經(jīng)歷了若干輪的toolcall-observation-toolcall-observation…之后模型終于解決了問題Agent實(shí)踐1. Agent訓(xùn)練數(shù)據(jù)構(gòu)建用于預(yù)訓(xùn)練/SFTstep1. 工具構(gòu)建工具分為兩種真實(shí)工具調(diào)用外部真實(shí)存在的API或服務(wù)如天氣接口、數(shù)據(jù)庫(kù)返回結(jié)果是完全真實(shí)的如實(shí)時(shí)股價(jià)。但是缺點(diǎn)是開發(fā)較為復(fù)雜需處理API認(rèn)證等另外調(diào)用成本高頻繁使用需支付API費(fèi)用。虛擬工具工具功能及結(jié)果完全由LLM生成無真實(shí)后端支持因此不需要API認(rèn)證等復(fù)雜的開發(fā)流程也無需API費(fèi)用。缺點(diǎn)就是結(jié)果不可信容易編造不存在的事實(shí)、可能違反常識(shí)。如果我們方便使用真實(shí)工具最好還是使用真實(shí)工具的調(diào)用結(jié)果。例如對(duì)于Code-Agent一般都是直接在容器中執(zhí)行代碼并且獲得代碼的執(zhí)行結(jié)果。只有那種不好調(diào)用API的才使用模擬的方式。step2. 任務(wù)構(gòu)建可以使用大模型針對(duì)工具List合成問題另外加入persona和場(chǎng)景設(shè)計(jì)借助指令進(jìn)化方法使得Agent數(shù)據(jù)的任務(wù)變得更加接近真實(shí)使用場(chǎng)景逐漸增加問題難度和多樣性。最后可以合并已有的簡(jiǎn)單任務(wù)逐步構(gòu)建復(fù)雜任務(wù)。step3. 答案構(gòu)建搭建帶可執(zhí)行/模擬API調(diào)用的環(huán)境 → 智能體在環(huán)境中交互 → 記錄真實(shí)調(diào)用軌跡trajectory作為訓(xùn)練數(shù)據(jù)step4. 答案校驗(yàn)為了驗(yàn)證構(gòu)建軌跡的正確性我們需要進(jìn)行答案校驗(yàn)。對(duì)于那種可以驗(yàn)證正確性的問題我們可以用rule-based的方式來驗(yàn)證正確性。例如對(duì)于code-agent任務(wù)我們可以通過校驗(yàn)最終的代碼是否通過測(cè)試用例來驗(yàn)證整個(gè)軌跡是否正確。對(duì)于那種不好驗(yàn)證正確性的問題我們只能用LLM judge的方式來判斷API使用是否合理、工具選擇路徑是否最優(yōu)、參數(shù)是否合理等。另外還有一個(gè)需要注意的一點(diǎn)就是整個(gè)軌跡是正確的不代表其中每一步都是正確的因此我們可以對(duì)其中不正確的步驟選擇mask掉它的loss。例如有的時(shí)候LLM生成的工具調(diào)用格式可能是錯(cuò)誤的如json無法解析、參數(shù)格式錯(cuò)誤那么這一步是無法調(diào)用工具的所以這一步在SFT里面我們不去學(xué)習(xí)。另外比如code-agent在中間的執(zhí)行結(jié)果可能經(jīng)常會(huì)發(fā)生報(bào)錯(cuò)那么我們可以選擇不去學(xué)習(xí)導(dǎo)致報(bào)錯(cuò)的輪次。2. Agent訓(xùn)練/推理的chat-templateLLMs在聊天應(yīng)用場(chǎng)景中會(huì)由多個(gè)消息組成對(duì)話在這些消息中每一條都包含一個(gè)角色比如system、“user”、“assistant”、“tool”不同的模型會(huì)采用截然不同的格式進(jìn)行訓(xùn)練。一旦模型接受了某種格式的訓(xùn)練需要確保未來的輸入使用相同的格式否則就可能會(huì)出現(xiàn)損害性能的分布漂移。因此為了使用上的方便防止由于格式不對(duì)齊導(dǎo)致chat模型效果有損現(xiàn)在的所有模型均采用在tokenizer中預(yù)置chat template的方式固定拼接方式。例如下面就是一個(gè)原始對(duì)話的例子tools [ { type: function, function: { name: get_current_temperature, description: Get current temperature at a location., parameters: { type: object, properties: { location: { type: string, description: The location to get the temperature for, in the format City, State, Country., }, }, required: [location], }, }, } ] messages [ {role: system, content: You are a helpful agent. n}, {role: user, content: 現(xiàn)在北京的天氣怎么樣} ]從上面的這段代碼我們可以看到它首先有一個(gè)system字段描述了 LLM的身份另外有一個(gè)第一輪問題user字段 “現(xiàn)在北京的天氣怎么樣”。另外還有一個(gè)tools的定義這個(gè)就是工具列表里面有LLM可以調(diào)用的所有工具的描述就類似說明書一樣描述了每個(gè)工具的名稱、功能描述、調(diào)用參數(shù)等。例如上面這個(gè)工具叫g(shù)et_current_temperature,它的作用是實(shí)時(shí)獲得某個(gè)地點(diǎn)的溫度。它只接受一個(gè)傳參叫做location是一個(gè)string類型的地點(diǎn)信息如Beijing。之后調(diào)用apply_chat_template將上面的對(duì)話信息變成大模型接受的string類型輸入text tokenizer.apply_chat_template( messagesmessages, toolstools, # 所有可調(diào)用的工具描述 add_generation_promptTrue, tokenizeFalse )結(jié)果如下_systemYou are a helpful agent. # 可用工具 你可以調(diào)用tools/tools標(biāo)簽中包含的一個(gè)或多個(gè)工具來輔助你回答問題,以下是可用工具詳情 tools {type: function, function: {name: get_current_temperature, description: Get current temperature at a location., parameters: {type: object, properties: {location: {type: string, description: The location to get the temperature for, in the format City, State, Country.}, unit: {type: string, enum: [celsius, fahrenheit], description: The unit to return the temperature in. Defaults to celsius.}}, required: [location]}}} /tools # 調(diào)用方法 你需要遵循工具的要求使用json格式返回工具名稱及參數(shù)并用tool_calltool_call包含。下方是一個(gè)調(diào)用模板 tool_call {name: function-name, arguments: args-json-object} /tool_call _user現(xiàn)在北京的天氣怎么樣_bot將上面的這個(gè)文本輸入給大模型得到返回結(jié)果為了獲取當(dāng)前天氣我需要調(diào)用get_current_temperature這個(gè)工具。 tool_call {name: get_current_temperature, arguments: {location: 北京}} /tool_call之后對(duì)這個(gè)結(jié)果進(jìn)行解析將tool_call(.*)/tool_call中的部分提取出來嘗試使用json進(jìn)行解析確?？梢蕴崛〕鏊{(diào)用工具的名字(name)與參數(shù)(arguments)如果在tool_call前模型有額外輸出作為content字段一并返回給用戶如果解析失敗模型輸出格式不規(guī)范則需要返回提示信息給用戶并將模型輸出直接放進(jìn)content字段上面結(jié)果解析之后如下{ role: assistant, content: 為了獲取當(dāng)前天氣我需要調(diào)用get_current_temperature這個(gè)工具, tool_calls: [ { type: function, function: { name: get_current_temperature, arguments: {location: 北京} } } ] }注意解析的過程一般都是放在vllm里面的所以返回給用戶的結(jié)果就已經(jīng)是解析之后的了。用戶獲取大模型調(diào)用工具的具體信息后需要返回給模型調(diào)用工具的結(jié)果。例如上面調(diào)用get_current_temperature API得到北京的溫度是10℃。這時(shí)候下一步模型的輸入就包含了工具調(diào)用的結(jié)果messages [ { role: system, content: You are a helpful agent. }, { role: user, content: 現(xiàn)在北京的天氣怎么樣 }, { role: assistant, content: 為了獲取當(dāng)前天氣我需要調(diào)用get_current_temperature這個(gè)工具, tool_calls: [ { type: function, function: { name: get_current_temperature, arguments: {location: 北京} } } ] }, { role: tool, name: get_current_temperature, content: {temperature: 10°C, location: 北京} } ]apply_chat_template之后變成了string格式_systemYou are a helpful agent. ... _user現(xiàn)在北京的天氣怎么樣 _bot為了獲取當(dāng)前天氣我需要調(diào)用get_current_temperature這個(gè)工具 tool_call {name: get_current_temperature, arguments: {location: 北京}} /tool_call_end _usertool_response{temperature: 10°C, location: 北京}/tool_response_bot用戶最終得到的信息是{role:bot, content: 當(dāng)前北京的天氣為10°C。}解決了用戶的問題。這里給大家精心整理了一份全面的AI大模型學(xué)習(xí)資源包括AI大模型全套學(xué)習(xí)路線圖從入門到實(shí)戰(zhàn)、精品AI大模型學(xué)習(xí)書籍手冊(cè)、視頻教程、實(shí)戰(zhàn)學(xué)習(xí)、面試題等資料免費(fèi)分享掃碼免費(fèi)領(lǐng)取全部?jī)?nèi)容1. 成長(zhǎng)路線圖學(xué)習(xí)規(guī)劃要學(xué)習(xí)一門新的技術(shù)作為新手一定要先學(xué)習(xí)成長(zhǎng)路線圖方向不對(duì)努力白費(fèi)。這里我們?yōu)樾率趾拖胍M(jìn)一步提升的專業(yè)人士準(zhǔn)備了一份詳細(xì)的學(xué)習(xí)成長(zhǎng)路線圖和規(guī)劃?？梢哉f是最科學(xué)最系統(tǒng)的學(xué)習(xí)成長(zhǎng)路線。2. 大模型經(jīng)典PDF書籍書籍和學(xué)習(xí)文檔資料是學(xué)習(xí)大模型過程中必不可少的我們精選了一系列深入探討大模型技術(shù)的書籍和學(xué)習(xí)文檔它們由領(lǐng)域內(nèi)的頂尖專家撰寫內(nèi)容全面、深入、詳盡為你學(xué)習(xí)大模型提供堅(jiān)實(shí)的理論基礎(chǔ)。書籍含電子版PDF3. 大模型視頻教程對(duì)于很多自學(xué)或者沒有基礎(chǔ)的同學(xué)來說書籍這些純文字類的學(xué)習(xí)教材會(huì)覺得比較晦澀難以理解因此我們提供了豐富的大模型視頻教程以動(dòng)態(tài)、形象的方式展示技術(shù)概念幫助你更快、更輕松地掌握核心知識(shí)。4. 2026行業(yè)報(bào)告行業(yè)分析主要包括對(duì)不同行業(yè)的現(xiàn)狀、趨勢(shì)、問題、機(jī)會(huì)等進(jìn)行系統(tǒng)地調(diào)研和評(píng)估以了解哪些行業(yè)更適合引入大模型的技術(shù)和應(yīng)用以及在哪些方面可以發(fā)揮大模型的優(yōu)勢(shì)。5. 大模型項(xiàng)目實(shí)戰(zhàn)學(xué)以致用當(dāng)你的理論知識(shí)積累到一定程度就需要通過項(xiàng)目實(shí)戰(zhàn)在實(shí)際操作中檢驗(yàn)和鞏固你所學(xué)到的知識(shí)同時(shí)為你找工作和職業(yè)發(fā)展打下堅(jiān)實(shí)的基礎(chǔ)。6. 大模型面試題面試不僅是技術(shù)的較量更需要充分的準(zhǔn)備。在你已經(jīng)掌握了大模型技術(shù)之后就需要開始準(zhǔn)備面試我們將提供精心整理的大模型面試題庫(kù)涵蓋當(dāng)前面試中可能遇到的各種技術(shù)問題讓你在面試中游刃有余。7. 資料領(lǐng)取全套內(nèi)容免費(fèi)抱走學(xué) AI 不用再找第二份不管你是 0 基礎(chǔ)想入門 AI 大模型還是有基礎(chǔ)想沖刺大廠、了解行業(yè)趨勢(shì)這份資料都能滿足你現(xiàn)在只需按照提示操作就能免費(fèi)領(lǐng)取掃碼免費(fèi)領(lǐng)取全部?jī)?nèi)容