1. 從一次任務(wù)中斷說(shuō)起為什么Agent的運(yùn)行機(jī)制值得深挖凌晨?jī)牲c(diǎn)我盯著屏幕上那個(gè)跑到第47步突然卡死的自動(dòng)化任務(wù)流日志停在“等待外部接口返回”那一行再也沒(méi)有動(dòng)靜。那一刻我意識(shí)到一個(gè)能跑通的Agent和一個(gè)能穩(wěn)定跑一整夜的Agent中間隔著的不是模型能力而是一整套運(yùn)行機(jī)制的設(shè)計(jì)。很多人做Agent時(shí)把注意力全放在提示詞和工具調(diào)用上卻忽略了上下文怎么管、檢查點(diǎn)怎么存、任務(wù)斷了怎么恢復(fù)、循環(huán)怎么收斂、資源怎么控——這些才是決定一個(gè)Agent能不能真正上生產(chǎn)的關(guān)鍵。這篇內(nèi)容就是圍繞這套運(yùn)行機(jī)制展開(kāi)的完整拆解。我會(huì)把上下文管理、檢查點(diǎn)機(jī)制、任務(wù)恢復(fù)、循環(huán)執(zhí)行、資源管控這五塊串成一條線來(lái)講講清楚它們各自解決什么問(wèn)題、彼此怎么配合、實(shí)際落地時(shí)有哪些坑。適合已經(jīng)寫(xiě)過(guò)簡(jiǎn)單Agent、想把它做穩(wěn)做扎實(shí)的開(kāi)發(fā)者也適合剛接觸這個(gè)概念、想先建立整體認(rèn)知的朋友。全文基于常見(jiàn)的工程實(shí)踐來(lái)補(bǔ)充細(xì)節(jié)不綁定任何特定框架思路是通用的。先說(shuō)一個(gè)核心判斷Agent的運(yùn)行機(jī)制本質(zhì)上是一套“狀態(tài)機(jī)加持久化”的組合。模型負(fù)責(zé)決策但決策之外的所有事情——記住什么、存什么、什么時(shí)候停、超了怎么辦——都得靠機(jī)制來(lái)兜底。把這套機(jī)制想明白了你會(huì)發(fā)現(xiàn)很多看似玄學(xué)的問(wèn)題比如“為什么它老是重復(fù)調(diào)用同一個(gè)工具”“為什么恢復(fù)后它像失憶了一樣”其實(shí)都有明確的工程解法。2. 上下文管理Agent的“工作記憶”到底該怎么組織2.1 上下文不是越長(zhǎng)越好而是要分層剛上手的人容易有個(gè)誤區(qū)既然模型有長(zhǎng)上下文窗口那就把所有歷史都塞進(jìn)去。實(shí)測(cè)下來(lái)這么干有兩個(gè)直接后果——成本飆升以及模型注意力被稀釋后開(kāi)始“抓不住重點(diǎn)”。我試過(guò)一個(gè)任務(wù)把完整對(duì)話(huà)歷史全量傳入結(jié)果模型在第30輪之后開(kāi)始反復(fù)確認(rèn)已經(jīng)確認(rèn)過(guò)的信息效率反而下降。合理的做法是把上下文分層。我通常分成四層系統(tǒng)層角色設(shè)定、全局約束、工具說(shuō)明、任務(wù)層當(dāng)前目標(biāo)、子任務(wù)拆解、進(jìn)度狀態(tài)、記憶層從歷史中提煉的關(guān)鍵事實(shí)和結(jié)論、即時(shí)層最近幾輪的原始交互。系統(tǒng)層和任務(wù)層基本不變記憶層是動(dòng)態(tài)壓縮的結(jié)果即時(shí)層滾動(dòng)更新。這樣組織的好處是無(wú)論任務(wù)跑多久真正傳給模型的內(nèi)容都能控制在一個(gè)穩(wěn)定區(qū)間。分層的關(guān)鍵在于“提煉”這個(gè)動(dòng)作。原始交互是流水賬記憶層要的是結(jié)論。比如用戶(hù)說(shuō)了一堆需求記憶層里存的應(yīng)該是“用戶(hù)要求輸出格式為JSON字段包含A、B、C”而不是把原話(huà)照抄。這個(gè)提煉可以由模型自己完成也可以由規(guī)則觸發(fā)我一般讓模型在每個(gè)子任務(wù)結(jié)束時(shí)輸出一段結(jié)構(gòu)化摘要追加到記憶層。2.2 上下文壓縮的觸發(fā)時(shí)機(jī)與策略壓縮不能等到快撐爆窗口才做那時(shí)候往往已經(jīng)來(lái)不及了。我的經(jīng)驗(yàn)是設(shè)一個(gè)閾值比如用到窗口的60%就開(kāi)始觸發(fā)壓縮。壓縮策略上常見(jiàn)的有三種滑動(dòng)窗口丟掉最老的、摘要壓縮把老的總結(jié)成一段、重要性篩選保留關(guān)鍵節(jié)點(diǎn)丟棄過(guò)程?；瑒?dòng)窗口最簡(jiǎn)單但最粗暴容易丟掉早期的重要約束。摘要壓縮效果好但要多花一次模型調(diào)用。重要性篩選實(shí)現(xiàn)復(fù)雜需要判斷哪些內(nèi)容重要。我一般用“摘要壓縮加關(guān)鍵節(jié)點(diǎn)保留”的混合策略把歷史按子任務(wù)切段每段生成摘要同時(shí)把標(biāo)記為“關(guān)鍵決策點(diǎn)”的原始內(nèi)容單獨(dú)保留。這樣既省空間又不丟關(guān)鍵信息。注意壓縮后的上下文一定要做一次一致性校驗(yàn)。我踩過(guò)的坑是壓縮過(guò)程中模型把某個(gè)數(shù)值記錯(cuò)了導(dǎo)致后續(xù)所有計(jì)算都基于錯(cuò)誤前提。校驗(yàn)方法很簡(jiǎn)單讓模型在壓縮后復(fù)述一遍關(guān)鍵約束和原始記錄比對(duì)。2.3 上下文與工具返回結(jié)果的配合工具返回的結(jié)果往往很長(zhǎng)比如一次接口調(diào)用返回幾千字的JSON。如果每次都原樣塞進(jìn)上下文很快就會(huì)把窗口占滿(mǎn)。我的處理方式是工具返回后先做一次“結(jié)果提煉”只把和當(dāng)前任務(wù)相關(guān)的字段提取出來(lái)進(jìn)上下文完整結(jié)果存到外部存儲(chǔ)需要時(shí)再按引用取回。這里有個(gè)細(xì)節(jié)值得說(shuō)提煉規(guī)則最好由工具自己定義而不是讓主模型去猜。每個(gè)工具在注冊(cè)時(shí)就聲明“我的返回結(jié)果里哪些字段是關(guān)鍵的”這樣提煉過(guò)程就是確定性的不消耗額外的模型調(diào)用也不會(huì)因?yàn)槟Ｐ屠斫馄顏G信息。3. 檢查點(diǎn)機(jī)制讓Agent擁有“存檔”能力3.1 檢查點(diǎn)到底該存什么檢查點(diǎn)這個(gè)詞聽(tīng)起來(lái)像游戲存檔本質(zhì)確實(shí)一樣——在關(guān)鍵節(jié)點(diǎn)把Agent的完整狀態(tài)固化下來(lái)以便中斷后能從這里繼續(xù)。但存什么很有講究。存少了恢復(fù)不回來(lái)存多了又臃腫。我一般存這幾類(lèi)任務(wù)狀態(tài)當(dāng)前在哪個(gè)子任務(wù)、進(jìn)度百分比、上下文快照分層后的上下文內(nèi)容、已執(zhí)行動(dòng)作記錄調(diào)過(guò)哪些工具、參數(shù)是什么、結(jié)果摘要、待辦隊(duì)列還沒(méi)做的子任務(wù)列表、資源消耗計(jì)數(shù)已用token、已用時(shí)間、已調(diào)用次數(shù)。這五樣湊齊基本能完整還原一個(gè)Agent的運(yùn)行現(xiàn)場(chǎng)。有個(gè)容易漏的點(diǎn)是“隨機(jī)性狀態(tài)”。如果Agent的決策依賴(lài)隨機(jī)種子恢復(fù)時(shí)種子也得存否則同樣的輸入可能走出不同的路徑。雖然大多數(shù)生產(chǎn)場(chǎng)景會(huì)關(guān)掉隨機(jī)性但如果你在做探索類(lèi)任務(wù)這個(gè)必須記。3.2 檢查點(diǎn)的觸發(fā)頻率與存儲(chǔ)選型觸發(fā)頻率是個(gè)權(quán)衡。太頻繁存儲(chǔ)和序列化開(kāi)銷(xiāo)大太稀疏中斷后要重做的步驟多。我的經(jīng)驗(yàn)值是每個(gè)子任務(wù)完成時(shí)必存子任務(wù)內(nèi)部每N步存一次N根據(jù)單步耗時(shí)來(lái)定一般讓單步重做成本控制在可接受范圍內(nèi)比如30秒以?xún)?nèi)。存儲(chǔ)選型上小規(guī)模用本地文件加JSON就夠了簡(jiǎn)單直接。規(guī)模上來(lái)之后建議用帶版本控制的鍵值存儲(chǔ)每次檢查點(diǎn)是一個(gè)新版本方便回溯。我見(jiàn)過(guò)有人用關(guān)系型數(shù)據(jù)庫(kù)存檢查點(diǎn)把上下文快照塞進(jìn)一個(gè)大字段也能跑但查詢(xún)和清理比較麻煩。選型時(shí)重點(diǎn)看兩點(diǎn)寫(xiě)入要快不能拖慢主流程讀取要能按任務(wù)ID快速定位。存儲(chǔ)方案適用規(guī)模優(yōu)點(diǎn)注意點(diǎn)本地JSON文件單機(jī)、小規(guī)模零依賴(lài)、易調(diào)試并發(fā)寫(xiě)要加鎖鍵值存儲(chǔ)中等規(guī)模讀寫(xiě)快、易擴(kuò)展需設(shè)計(jì)key結(jié)構(gòu)關(guān)系型數(shù)據(jù)庫(kù)需要復(fù)雜查詢(xún)事務(wù)保證大字段性能差3.3 檢查點(diǎn)的一致性問(wèn)題這里有個(gè)隱蔽的坑檢查點(diǎn)寫(xiě)入和實(shí)際執(zhí)行之間如果不同步恢復(fù)時(shí)會(huì)出現(xiàn)“狀態(tài)說(shuō)做了但實(shí)際沒(méi)做”或者反過(guò)來(lái)。解決辦法是讓檢查點(diǎn)寫(xiě)入成為一個(gè)原子操作并且寫(xiě)入時(shí)機(jī)放在“動(dòng)作已確認(rèn)完成”之后而不是“動(dòng)作發(fā)起”之時(shí)。舉個(gè)例子Agent調(diào)用一個(gè)寫(xiě)文件的工具檢查點(diǎn)應(yīng)該在文件確實(shí)寫(xiě)成功、拿到確認(rèn)之后才記錄“該動(dòng)作已完成”。如果發(fā)起時(shí)就記中途失敗恢復(fù)后會(huì)以為已經(jīng)寫(xiě)過(guò)直接跳過(guò)導(dǎo)致數(shù)據(jù)缺失。這個(gè)順序問(wèn)題我在早期項(xiàng)目里栽過(guò)后來(lái)統(tǒng)一改成“先執(zhí)行、后記錄”雖然多一步確認(rèn)但一致性有保障。4. 任務(wù)恢復(fù)中斷之后如何“接著干”而不是“從頭來(lái)”4.1 恢復(fù)流程的完整鏈路任務(wù)恢復(fù)不是簡(jiǎn)單地把檢查點(diǎn)讀出來(lái)就完事它是一條完整鏈路檢測(cè)中斷 → 定位最近有效檢查點(diǎn) → 校驗(yàn)狀態(tài)完整性 → 重建上下文 → 恢復(fù)待辦隊(duì)列 → 繼續(xù)執(zhí)行。每一步都有講究。檢測(cè)中斷通?？啃奶鴻C(jī)制。Agent每執(zhí)行一步就更新一次心跳時(shí)間戳監(jiān)控端發(fā)現(xiàn)心跳超時(shí)就判定為中斷。定位檢查點(diǎn)時(shí)要注意最近的那個(gè)檢查點(diǎn)不一定有效可能寫(xiě)了一半就崩了所以要往前找最近一個(gè)“標(biāo)記為完整”的檢查點(diǎn)。校驗(yàn)狀態(tài)完整性是防止檢查點(diǎn)本身?yè)p壞一般用校驗(yàn)和或者版本號(hào)來(lái)驗(yàn)證。重建上下文時(shí)要把檢查點(diǎn)里的分層上下文重新組裝同時(shí)檢查引用的外部存儲(chǔ)是否還在。如果某個(gè)工具返回的完整結(jié)果被清理了得決定是重新調(diào)用還是降級(jí)處理?；謴?fù)待辦隊(duì)列后還要重新評(píng)估一遍中斷期間外部環(huán)境可能變了原來(lái)排好的任務(wù)順序是否還成立。4.2 冪等性恢復(fù)機(jī)制的生命線恢復(fù)能不能做對(duì)核心在于每個(gè)動(dòng)作是否冪等。所謂冪等就是同一個(gè)動(dòng)作執(zhí)行一次和執(zhí)行多次結(jié)果一樣。如果動(dòng)作不冪等恢復(fù)后重做就可能產(chǎn)生副作用比如重復(fù)扣款、重復(fù)發(fā)消息。設(shè)計(jì)冪等有幾個(gè)常用手段給每個(gè)動(dòng)作分配唯一ID執(zhí)行前先查這個(gè)ID是否已執(zhí)行過(guò)對(duì)寫(xiě)操作采用“upsert”語(yǔ)義而不是“insert”對(duì)不可逆操作比如發(fā)通知加去重標(biāo)記。我在實(shí)際項(xiàng)目里會(huì)給每個(gè)工具調(diào)用生成一個(gè)基于任務(wù)ID加步驟號(hào)的確定性ID這樣即使恢復(fù)后重新生成ID也一樣天然去重。提示不是所有動(dòng)作都能做到嚴(yán)格冪等比如“調(diào)用一次外部計(jì)費(fèi)接口”。這類(lèi)動(dòng)作要么改成可查詢(xún)狀態(tài)的兩階段模式要么在檢查點(diǎn)里明確記錄“已發(fā)起未確認(rèn)”恢復(fù)時(shí)先查詢(xún)實(shí)際狀態(tài)再?zèng)Q定。4.3 恢復(fù)后的上下文銜接技巧恢復(fù)后最容易出現(xiàn)的問(wèn)題是“失憶感”——模型好像不記得之前發(fā)生了什么。這通常是因?yàn)榛謴?fù)時(shí)只還原了狀態(tài)沒(méi)有還原“敘事連貫性”。我的做法是在恢復(fù)時(shí)額外注入一段“恢復(fù)摘要”用自然語(yǔ)言告訴模型你之前在做什么、做到哪了、為什么中斷、現(xiàn)在要繼續(xù)做什么。這段摘要不用長(zhǎng)三五句話(huà)就夠但效果很明顯。它相當(dāng)于給模型一個(gè)“前情提要”讓它快速進(jìn)入狀態(tài)。實(shí)測(cè)下來(lái)加了恢復(fù)摘要的Agent恢復(fù)后第一步的決策準(zhǔn)確率明顯高于不加的。這個(gè)技巧成本極低但很多人會(huì)忽略。5. 循環(huán)執(zhí)行讓Agent自己轉(zhuǎn)起來(lái)又不失控5.1 循環(huán)的基本結(jié)構(gòu)感知、決策、執(zhí)行、反饋Agent的循環(huán)執(zhí)行說(shuō)白了就是一個(gè)不斷重復(fù)的四步感知當(dāng)前狀態(tài)、決策下一步動(dòng)作、執(zhí)行動(dòng)作、接收反饋。聽(tīng)起來(lái)簡(jiǎn)單但要讓它穩(wěn)定轉(zhuǎn)起來(lái)每一步都得有明確的邊界。感知階段要解決“看什么”的問(wèn)題不能把全部信息都感知一遍要有選擇地取當(dāng)前決策需要的信息。決策階段是模型的主場(chǎng)但要給它清晰的選項(xiàng)空間不能讓它自由發(fā)揮到無(wú)邊無(wú)際。執(zhí)行階段要處理超時(shí)、異常、重試。反饋階段要把執(zhí)行結(jié)果轉(zhuǎn)化成下一輪感知的輸入形成閉環(huán)。我習(xí)慣把這個(gè)循環(huán)畫(huà)成一個(gè)明確的狀態(tài)轉(zhuǎn)移圖腦子里畫(huà)就行不用真畫(huà)出來(lái)每個(gè)狀態(tài)之間的轉(zhuǎn)移條件都寫(xiě)清楚。這樣一旦循環(huán)卡住能快速定位是卡在哪個(gè)轉(zhuǎn)移上。5.2 循環(huán)終止條件的設(shè)計(jì)循環(huán)最怕兩件事該停的時(shí)候不停不該停的時(shí)候停了。終止條件要設(shè)計(jì)得多重保險(xiǎn)。常見(jiàn)的有任務(wù)完成所有子任務(wù)標(biāo)記為done、達(dá)到最大步數(shù)硬性上限、連續(xù)無(wú)進(jìn)展連續(xù)N步?jīng)]有產(chǎn)生新的有效動(dòng)作、資源耗盡token或時(shí)間超限、顯式終止信號(hào)模型主動(dòng)說(shuō)完成或人工干預(yù)。這幾重條件里“連續(xù)無(wú)進(jìn)展”最容易被忽略但最重要。我遇到過(guò)Agent陷入死循環(huán)反復(fù)調(diào)用同一個(gè)工具、拿到同樣的結(jié)果、再做同樣的決策如果沒(méi)有這個(gè)檢測(cè)它能一直轉(zhuǎn)到資源耗盡。實(shí)現(xiàn)上很簡(jiǎn)單記錄最近幾步的動(dòng)作簽名如果連續(xù)幾步簽名相同且結(jié)果無(wú)變化就判定為無(wú)進(jìn)展觸發(fā)終止或強(qiáng)制換策略。5.3 循環(huán)中的狀態(tài)同步問(wèn)題循環(huán)跑起來(lái)之后內(nèi)存里的狀態(tài)和檢查點(diǎn)里的狀態(tài)、外部存儲(chǔ)里的狀態(tài)三者可能不一致。比如內(nèi)存里已經(jīng)更新了進(jìn)度但檢查點(diǎn)還沒(méi)寫(xiě)這時(shí)候中斷就會(huì)丟進(jìn)度。解決辦法是明確“單一事實(shí)來(lái)源”——我一般以檢查點(diǎn)為準(zhǔn)內(nèi)存狀態(tài)只是它的一個(gè)視圖每次關(guān)鍵變更都先寫(xiě)檢查點(diǎn)再更新內(nèi)存。這個(gè)順序和前面說(shuō)的“先執(zhí)行后記錄”看似矛盾其實(shí)不矛盾。執(zhí)行動(dòng)作是“先做后記”狀態(tài)更新是“先記后用”。理清這個(gè)順序狀態(tài)同步就不會(huì)亂。6. 資源管控別讓Agent把預(yù)算燒穿6.1 需要管控哪些資源Agent消耗的資源比普通程序多主要盯這幾樣token消耗直接對(duì)應(yīng)成本、調(diào)用次數(shù)工具和模型調(diào)用都有配額、執(zhí)行時(shí)間單步和整體都要限、并發(fā)數(shù)同時(shí)跑多個(gè)Agent時(shí)的資源爭(zhēng)搶、外部接口配額很多第三方接口有速率限制。這些資源要統(tǒng)一納入一個(gè)“預(yù)算”概念里管理。每個(gè)任務(wù)啟動(dòng)時(shí)分配一個(gè)預(yù)算執(zhí)行過(guò)程中實(shí)時(shí)扣減接近閾值時(shí)觸發(fā)告警或降級(jí)超了就終止。預(yù)算管理的好處是把“會(huì)不會(huì)燒穿”變成一個(gè)可量化、可提前干預(yù)的事情而不是事后看賬單才發(fā)現(xiàn)。6.2 分級(jí)管控與動(dòng)態(tài)調(diào)整一刀切的限制往往不好用太松沒(méi)效果太緊影響正常任務(wù)。我一般做分級(jí)硬上限絕對(duì)不能超超了立即終止、軟上限接近時(shí)告警并嘗試降級(jí)、預(yù)期值正常情況下的參考消耗。三級(jí)配合既有安全邊界又有彈性。動(dòng)態(tài)調(diào)整是指根據(jù)任務(wù)進(jìn)展調(diào)整預(yù)算分配。比如一個(gè)任務(wù)前期消耗快但進(jìn)展順利可以適當(dāng)放寬后續(xù)預(yù)算如果前期就消耗異常說(shuō)明策略有問(wèn)題應(yīng)該收緊甚至終止。這個(gè)調(diào)整可以由規(guī)則驅(qū)動(dòng)也可以讓模型參與判斷但最終決策權(quán)建議留在規(guī)則層避免模型為了“完成任務(wù)”而無(wú)視預(yù)算。6.3 資源超限時(shí)的降級(jí)策略超限不一定要直接終止可以先降級(jí)。常見(jiàn)的降級(jí)手段換更小的模型處理簡(jiǎn)單步驟、減少上下文長(zhǎng)度、降低檢查點(diǎn)頻率、跳過(guò)非關(guān)鍵步驟、合并批量操作。降級(jí)的目標(biāo)是用更少的資源把核心任務(wù)完成而不是追求完美。我實(shí)際用過(guò)的組合是token接近軟上限時(shí)先把上下文壓縮策略調(diào)激進(jìn)一點(diǎn)再把非關(guān)鍵步驟的模型換成小模型如果還不行就只保留核心路徑。這套組合下來(lái)很多原本會(huì)超限的任務(wù)都能在預(yù)算內(nèi)完成只是質(zhì)量略有下降。這個(gè)取舍要提前和需求方對(duì)齊不能自己拍腦袋決定。資源類(lèi)型硬上限觸發(fā)動(dòng)作軟上限降級(jí)手段token立即終止壓縮上下文、換小模型調(diào)用次數(shù)終止并告警合并調(diào)用、緩存復(fù)用執(zhí)行時(shí)間強(qiáng)制中斷跳過(guò)非關(guān)鍵步驟并發(fā)數(shù)排隊(duì)等待降低單任務(wù)資源占用7. 五大機(jī)制的協(xié)同把它們串成一條線7.1 一次完整運(yùn)行的時(shí)序梳理把五塊拼起來(lái)看一次完整的Agent運(yùn)行是這樣的啟動(dòng)時(shí)初始化上下文和預(yù)算進(jìn)入循環(huán)每輪循環(huán)里感知狀態(tài)、決策、執(zhí)行、反饋執(zhí)行前后按需寫(xiě)檢查點(diǎn)上下文隨進(jìn)展動(dòng)態(tài)壓縮資源實(shí)時(shí)扣減遇到中斷則從最近檢查點(diǎn)恢復(fù)注入恢復(fù)摘要后繼續(xù)循環(huán)直到滿(mǎn)足終止條件。這條線里檢查點(diǎn)是“錨”上下文是“記憶”循環(huán)是“引擎”資源管控是“剎車(chē)”恢復(fù)是“重啟鍵”。任何一個(gè)缺失整套機(jī)制都不完整。我見(jiàn)過(guò)只做循環(huán)不做檢查點(diǎn)的一崩就得重來(lái)也見(jiàn)過(guò)只做檢查點(diǎn)不做資源管控的恢復(fù)是能恢復(fù)但恢復(fù)后繼續(xù)燒錢(qián)。7.2 機(jī)制之間的相互影響這些機(jī)制不是獨(dú)立的改動(dòng)一個(gè)往往影響另一個(gè)。比如把檢查點(diǎn)頻率調(diào)高寫(xiě)入開(kāi)銷(xiāo)增加間接影響執(zhí)行時(shí)間和資源消耗把上下文壓縮調(diào)激進(jìn)模型決策質(zhì)量可能下降導(dǎo)致循環(huán)步數(shù)增加反而更費(fèi)資源。所以調(diào)參時(shí)要有全局視角不能只盯一個(gè)指標(biāo)。我的做法是維護(hù)一個(gè)“機(jī)制配置表”把每個(gè)機(jī)制的參數(shù)集中管理調(diào)整時(shí)一起評(píng)估影響。比如壓縮閾值、檢查點(diǎn)間隔、預(yù)算上限這幾個(gè)參數(shù)我會(huì)放在一起做聯(lián)合調(diào)優(yōu)而不是單獨(dú)調(diào)某一個(gè)。7.3 從簡(jiǎn)單到復(fù)雜的落地路徑如果你現(xiàn)在還沒(méi)做這些機(jī)制不建議一上來(lái)就全上。合理的路徑是先做循環(huán)加基本終止條件讓Agent能跑再加資源管控防止燒穿然后加檢查點(diǎn)讓它能扛中斷最后加上下文分層和恢復(fù)摘要提升長(zhǎng)任務(wù)表現(xiàn)。每一步都能獨(dú)立帶來(lái)收益不用等全部做完才見(jiàn)效。我自己就是這么一步步過(guò)來(lái)的。最早那個(gè)版本只有循環(huán)和一個(gè)最大步數(shù)限制能跑但一崩就廢。后來(lái)加了檢查點(diǎn)穩(wěn)定性上了一個(gè)臺(tái)階。再后來(lái)做上下文分層長(zhǎng)任務(wù)的成功率明顯提升。每加一層都能感覺(jué)到Agent從“玩具”往“工具”靠近一點(diǎn)。8. 實(shí)操中踩過(guò)的坑與排查清單8.1 那些讓我熬夜的典型問(wèn)題問(wèn)題一恢復(fù)后重復(fù)執(zhí)行副作用動(dòng)作。根因是動(dòng)作不冪等且檢查點(diǎn)記錄時(shí)機(jī)不對(duì)。解決是把記錄時(shí)機(jī)改到動(dòng)作確認(rèn)之后并給動(dòng)作加唯一ID去重。問(wèn)題二上下文壓縮后模型“失憶”。根因是壓縮時(shí)丟了關(guān)鍵約束。解決是壓縮后做一致性校驗(yàn)并保留關(guān)鍵決策點(diǎn)的原始內(nèi)容。問(wèn)題三循環(huán)陷入無(wú)進(jìn)展死轉(zhuǎn)。根因是沒(méi)有無(wú)進(jìn)展檢測(cè)。解決是加動(dòng)作簽名比對(duì)連續(xù)重復(fù)就強(qiáng)制換策略或終止。問(wèn)題四資源消耗遠(yuǎn)超預(yù)期。根因是只統(tǒng)計(jì)了模型token漏算了工具調(diào)用和重試的開(kāi)銷(xiāo)。解決是把所有資源納入統(tǒng)一預(yù)算重試也計(jì)入。問(wèn)題五檢查點(diǎn)文件損壞導(dǎo)致無(wú)法恢復(fù)。根因是寫(xiě)入過(guò)程被打斷。解決是寫(xiě)入用“臨時(shí)文件加原子重命名”并保留上一個(gè)有效版本。8.2 一份可復(fù)用的排查清單遇到Agent行為異常時(shí)我按這個(gè)順序查看最近檢查點(diǎn)是否完整狀態(tài)是否和預(yù)期一致?？瓷舷挛姆謱邮欠裾_記憶層有沒(méi)有丟關(guān)鍵信息?？囱h(huán)終止條件是否被正確觸發(fā)有沒(méi)有卡在某個(gè)轉(zhuǎn)移上?？促Y源計(jì)數(shù)是否準(zhǔn)確有沒(méi)有漏算?？磩?dòng)作是否冪等恢復(fù)后有沒(méi)有重復(fù)副作用?？椿謴?fù)摘要是否注入模型是否知道前情。這份清單幫我省了很多排查時(shí)間基本上按順序走一遍問(wèn)題都能定位到。提示建議給每個(gè)檢查點(diǎn)打上“機(jī)制版本號(hào)”記錄當(dāng)時(shí)用的上下文策略、循環(huán)參數(shù)、預(yù)算配置。這樣出問(wèn)題時(shí)能精確復(fù)現(xiàn)當(dāng)時(shí)的運(yùn)行環(huán)境排查效率高很多。8.3 幾個(gè)容易被忽略的細(xì)節(jié)檢查點(diǎn)的序列化格式要穩(wěn)定別今天用JSON明天用別的恢復(fù)時(shí)解析不了。上下文里的時(shí)間戳統(tǒng)一用同一種格式和時(shí)區(qū)不然比較大小會(huì)出錯(cuò)。資源計(jì)數(shù)要用原子操作并發(fā)場(chǎng)景下普通自增會(huì)丟數(shù)。恢復(fù)摘要要放在上下文的最前面別塞在中間被淹沒(méi)。這些細(xì)節(jié)單看都小但每一個(gè)都能讓整套機(jī)制在關(guān)鍵時(shí)刻掉鏈子。9. 關(guān)于參數(shù)調(diào)優(yōu)的一點(diǎn)個(gè)人經(jīng)驗(yàn)參數(shù)沒(méi)有萬(wàn)能值得根據(jù)任務(wù)特點(diǎn)調(diào)。短任務(wù)可以把檢查點(diǎn)間隔調(diào)大、壓縮閾值調(diào)高省開(kāi)銷(xiāo)長(zhǎng)任務(wù)反過(guò)來(lái)檢查點(diǎn)要密、壓縮要勤。資源預(yù)算上我一般先跑幾次收集實(shí)際消耗分布取P90作為軟上限、P99作為硬上限這樣既覆蓋大多數(shù)正常情況又能攔住異常。調(diào)優(yōu)時(shí)一次只動(dòng)一個(gè)參數(shù)觀察幾輪再動(dòng)下一個(gè)不然出了問(wèn)題不知道是哪個(gè)引起的。我習(xí)慣把每次調(diào)參的前后指標(biāo)記下來(lái)形成自己的“參數(shù)日志”時(shí)間長(zhǎng)了就能摸出規(guī)律。這套方法不高級(jí)但踏實(shí)比拍腦袋調(diào)參靠譜得多。這套運(yùn)行機(jī)制說(shuō)到底就是讓Agent從“能跑一次”變成“能一直跑”。上下文管好記憶檢查點(diǎn)管好存檔恢復(fù)管好續(xù)命循環(huán)管好節(jié)奏資源管好錢(qián)包。五樣都到位Agent才算真正能上生產(chǎn)。我在實(shí)際項(xiàng)目里最大的體會(huì)是模型能力決定上限運(yùn)行機(jī)制決定下限而下限往往才是能不能用的關(guān)鍵。