這兩年有個(gè)特別明顯的變化朋友圈里改一句prompt效果提升十倍的帖子越來越?jīng)]人轉(zhuǎn)發(fā)了。倒不是提示詞技巧突然沒用了而是大家發(fā)現(xiàn)把大模型塞進(jìn)真實(shí)業(yè)務(wù)里真正卡脖子的從來不是這句話怎么說而是這句話怎么穩(wěn)定跑十萬次、一百萬次。在這個(gè)語境下越來越多團(tuán)隊(duì)開始聊一個(gè)詞——Harness。它并不是某個(gè)具體工具的名字而是AI工程界對(duì)圍繞大模型的整套工程控制框架的統(tǒng)稱從請(qǐng)求路由、工具調(diào)用到上下文管理、評(píng)估回環(huán)和成本監(jiān)控全都裝進(jìn)一套管線里。通俗地說Prompt只是發(fā)動(dòng)機(jī)里的一行噴油參數(shù)Harness才是整臺(tái)車。這篇文章就是來聊聊為什么2026年的AI工程新戰(zhàn)場(chǎng)會(huì)從卷Prompt轉(zhuǎn)向卷Harness以及一個(gè)務(wù)實(shí)的小團(tuán)隊(duì)該怎么下手。內(nèi)容面向AI應(yīng)用工程師、架構(gòu)師也適合剛想入行的人。1. 從提示詞軍備競(jìng)賽到AI工程系統(tǒng)戰(zhàn)1.1 Prompt技巧為什么越來越不值錢先說實(shí)話Prompt Engineering本身沒有消失它只是從核心壁壘降級(jí)成了基礎(chǔ)素養(yǎng)。2024年你可能靠一個(gè)精心設(shè)計(jì)的few-shot模板就能拿到很好效果因?yàn)槟菚r(shí)候模型基底沒那么強(qiáng)模板里的格式約束、推理步驟確實(shí)能顯著改變輸出。到了2025年以后主流模型對(duì)指令的跟隨能力大幅增強(qiáng)你精心調(diào)整的推理鏈、角色設(shè)定模型自己也能理解個(gè)七八成。更關(guān)鍵的是任務(wù)復(fù)雜度上來了一個(gè)客服機(jī)器人要調(diào)客戶檔案接口、查訂單狀態(tài)、判斷退貨合規(guī)性還要在多個(gè)會(huì)話里記住用戶偏好——這種場(chǎng)景下你再怎么優(yōu)化幫我查一下訂單的措辭也解決不了訂單系統(tǒng)接口超時(shí)或上下文窗口被塞滿的問題。我做過的幾個(gè)項(xiàng)目最能說明問題。一個(gè)文檔問答產(chǎn)品九成以上的bad case都出在檢索環(huán)節(jié)要么召回不準(zhǔn)要么多個(gè)來源片段相互打架沒有一例是提示詞寫得不夠優(yōu)美。另一個(gè)多輪客服機(jī)器人倒是適合硬核提示詞優(yōu)化但優(yōu)化完也只能提升單輪對(duì)話的準(zhǔn)確率一牽扯到跨輪狀態(tài)保存、工具調(diào)用失敗重試就又打回原形。這說明工程系統(tǒng)的瓶頸根本不在自然語言那一層而是在流程骨架那一層。1.2 Harness究竟指什么一個(gè)工程化的控制框架我見過最糟糕的定義是把Harness等同于Agent框架或工作流編輯器。這么說太窄了。Harness更像一輛完整的賽車而不是只有方向盤和油門。根據(jù)我這些年做AI應(yīng)用的實(shí)踐它至少要包含這幾個(gè)層次層次解決的問題具體內(nèi)容入口層請(qǐng)求怎么進(jìn)來鑒權(quán)、限流、意圖路由、多輪會(huì)話識(shí)別編排層任務(wù)怎么拆解工作流定義、Agent循環(huán)、子任務(wù)規(guī)劃工具層能力怎么接入工具注冊(cè)、參數(shù)約束、執(zhí)行重試、錯(cuò)誤歸一化上下文層信息怎么組織短期記憶、長(zhǎng)期記憶、上下文壓縮、檢索增強(qiáng)評(píng)估層效果怎么度量離線評(píng)估集、在線指標(biāo)、回歸測(cè)試、人工標(biāo)注流護(hù)欄層風(fēng)險(xiǎn)怎么控制輸入過濾、輸出格式校驗(yàn)、安全策略、預(yù)算上限觀測(cè)層問題怎么發(fā)現(xiàn)請(qǐng)求日志、鏈路追蹤、token用量、成本報(bào)表Prompt只是其中的輸出約束小模塊而Harness把上面這些全部工程化。這也是為什么說它是新戰(zhàn)場(chǎng)過去你把絕大部分精力放在最后一個(gè)自然語言子模塊上現(xiàn)在你不得不面對(duì)全套系統(tǒng)問題。1.3 為什么戰(zhàn)場(chǎng)偏偏在2026年轉(zhuǎn)移三個(gè)推手疊加在一起。第一模型能力越來越強(qiáng)但調(diào)用模型的門檻越來越低。以前模型是稀缺品誰更會(huì)用提示詞誰就有優(yōu)勢(shì)現(xiàn)在主流模型之間差距在縮小真正的差異轉(zhuǎn)向了誰的系統(tǒng)更穩(wěn)、更便宜、更可控。第二企業(yè)應(yīng)用的復(fù)雜度從單輪問答走向多Agent協(xié)作、長(zhǎng)周期任務(wù)。比如月度經(jīng)營(yíng)分析、跨系統(tǒng)流程審批這種任務(wù)必須有編排骨架不是一兩段prompt能扛住的。第三資本和業(yè)務(wù)都在算賬prompt的邊際收益在迅速遞減而Harness的工程投入能顯著降低單次成本、提升吞吐、減少人工干預(yù)ROI一眼就能算清。所以不是Prompt不重要了而是當(dāng)大家的Prompt水平都差不多時(shí)你只能在Harness層面拉開差距。2. Harness到底怎么落地四大核心模塊解析2.1 路由與編排層從寫提示到寫調(diào)度很多新手做應(yīng)用時(shí)腦子里只有一個(gè)流程用戶說話模型回答。真實(shí)系統(tǒng)里遠(yuǎn)沒那么簡(jiǎn)單。第一步工作是路由。你有沒有想過用戶的問法可能對(duì)應(yīng)完全不同的處理路徑比如一個(gè)企業(yè)問答系統(tǒng)用戶問報(bào)銷標(biāo)準(zhǔn)是什么和幫我提交報(bào)銷單前者只是檢索知識(shí)庫(kù)后者卻要拉起一個(gè)多步驟的填單流程。如果全部扔給同一條管線要么殺雞用牛刀要么流程混亂。路由層要解決三件事意圖識(shí)別、模型選擇、成本分配。意圖識(shí)別可以用小模型做分類也可以直接讓大模型輸出一個(gè)結(jié)構(gòu)化結(jié)果但這本身又需要校驗(yàn)?zāi)Ｐ瓦x擇則是根據(jù)任務(wù)難度、時(shí)延要求、價(jià)格層級(jí)決定用最強(qiáng)模型還是輕量模型成本分配是給自己設(shè)一個(gè)預(yù)算閾值比如每個(gè)會(huì)話最多調(diào)幾次高價(jià)模型。編排層則在路由之上把一個(gè)大任務(wù)拆解成有序或可并行的子任務(wù)。我的建議是能用手寫狀態(tài)機(jī)解決的就別上復(fù)雜的規(guī)劃算法。真實(shí)任務(wù)大多是可預(yù)測(cè)的業(yè)務(wù)流程而不是開放式NPC對(duì)話。編排越簡(jiǎn)單排查問題越輕松。2.2 工具層從會(huì)說話到會(huì)干活大模型天然不會(huì)調(diào)用外部系統(tǒng)。工具層就是給模型裝上手和腳。這里的難點(diǎn)不是調(diào)用接口本身而是工程化。五個(gè)問題必須處理好。第一工具描述怎么寫。工具的描述是給模型看的要寫清楚什么時(shí)候用它、參數(shù)是什么、返回結(jié)構(gòu)是什么。我見過很多團(tuán)隊(duì)直接照抄接口文檔結(jié)果模型根本不知道什么時(shí)候該調(diào)用。第二參數(shù)校驗(yàn)。模型生成的參數(shù)經(jīng)常類型不對(duì)、缺少必填項(xiàng)工具層必須做結(jié)構(gòu)校驗(yàn)還要能自動(dòng)糾正。第三錯(cuò)誤處理。外部接口一定會(huì)超時(shí)、限流、返回異常你需要把錯(cuò)誤信息改寫成模型能理解的描述比如庫(kù)存服務(wù)暫時(shí)不可用請(qǐng)告訴用戶稍后再試而不是把原始堆棧扔給模型。第四權(quán)限與沙箱。工具執(zhí)行不能直接放權(quán)要有白名單、鑒權(quán)、敏感操作二次確認(rèn)。第五并發(fā)與重試。批量任務(wù)經(jīng)常同時(shí)調(diào)用多個(gè)外部接口要做連接池、超時(shí)策略、冪等重試。單點(diǎn)來看每一項(xiàng)都不難但組合起來就是壓垮應(yīng)用的最后一根稻草。2.3 上下文層撐住長(zhǎng)會(huì)話的骨架Prompt工程時(shí)代大家最關(guān)心的是一條消息怎么寫Harness時(shí)代大家最關(guān)心的是上下文怎么管。模型有窗口上限業(yè)務(wù)沒有上限。一個(gè)支持用戶連續(xù)問幾十輪的系統(tǒng)不可能把所有歷史全部塞進(jìn)去必須靠上下文管理層來解決。上下文層通常分三層來做。短期記憶保留最近幾輪對(duì)話格式化為系統(tǒng)消息中期記憶從對(duì)話中抽取當(dāng)前任務(wù)狀態(tài)比如用戶填到表單第幾步長(zhǎng)期記憶存放在外部存儲(chǔ)里通過向量檢索或結(jié)構(gòu)化查詢按需召回。每次請(qǐng)求發(fā)起前harness要執(zhí)行一次上下文組裝計(jì)算預(yù)算把長(zhǎng)期記憶里相關(guān)內(nèi)容檢索回來加上最近幾輪和當(dāng)前工具返回結(jié)果再塞給模型。關(guān)鍵技巧是分級(jí)壓縮和摘要。比如每5輪對(duì)話生成一輪摘要逐級(jí)丟棄原始消息。再比如用戶問我上次申請(qǐng)的那筆報(bào)銷款進(jìn)展如何harness需要從向量庫(kù)召回報(bào)銷單號(hào)、申請(qǐng)日期、當(dāng)前狀態(tài)而不是把上個(gè)月聊天記錄全翻出來。這一步做不好上下文混亂會(huì)直接污染輸出。2.4 評(píng)估與護(hù)欄層沒有度量就沒有工程很多團(tuán)隊(duì)的AI應(yīng)用上線后表現(xiàn)時(shí)好時(shí)壞問題就出在缺乏評(píng)估閉環(huán)。Harness的評(píng)估層要分兩個(gè)場(chǎng)景。離線評(píng)估維護(hù)一個(gè)黃金評(píng)測(cè)集每次改動(dòng)harness都要跑一遍回歸看看正確率是上升還是下降。在線評(píng)估在真實(shí)流量上采集bad case定期回流到評(píng)測(cè)集里。兩者形成一個(gè)飛輪。護(hù)欄層則負(fù)責(zé)在運(yùn)行時(shí)兜底輸出格式校驗(yàn)強(qiáng)制模型輸出合法結(jié)構(gòu)或符合業(yè)務(wù)schema內(nèi)容策略過濾成本與配額限制危險(xiǎn)動(dòng)作攔截。比如讓模型輸出一段結(jié)構(gòu)化數(shù)據(jù)去查詢數(shù)據(jù)庫(kù)就絕不能直接放行必須經(jīng)過語法校驗(yàn)和權(quán)限校驗(yàn)。護(hù)欄不是事后處理而是要內(nèi)嵌在harness的每一層尤其是工具調(diào)用前后。我見過一個(gè)案例模型在執(zhí)行退貨流程時(shí)護(hù)欄層檢測(cè)到退款金額超出閾值自動(dòng)轉(zhuǎn)人工避免了大規(guī)模資金差錯(cuò)。這就是工程化的價(jià)值。3. 實(shí)操落地從零搭建你的第一個(gè)Harness3.1 先想清楚業(yè)務(wù)邊界不是所有系統(tǒng)都需要重型Harness我見過兩個(gè)極端。一端是什么框架都不上直接把業(yè)務(wù)邏輯寫在構(gòu)造prompt的函數(shù)里另一端是一上來就引入好幾個(gè)重量級(jí)編排組件光配置就折騰兩周。兩個(gè)都不對(duì)。選擇harness的輕或重要看幾個(gè)信號(hào)請(qǐng)求量的量級(jí)、任務(wù)復(fù)雜度、團(tuán)隊(duì)規(guī)模。如果只是內(nèi)部工具、一天幾百次調(diào)用那完全可以用幾十行代碼搭一個(gè)輕量管線如果日活上萬、任務(wù)多步驟、對(duì)外承諾SLA那確實(shí)需要完整的編排、容錯(cuò)、觀測(cè)體系。有個(gè)簡(jiǎn)單的自測(cè)方法當(dāng)你連續(xù)第三周靠人工刷新日志補(bǔ)數(shù)據(jù)來救場(chǎng)時(shí)就說明harness已經(jīng)輕到不匹配業(yè)務(wù)了。反過來說當(dāng)你的業(yè)務(wù)需求還在變化、連流程圖都沒畫明白就強(qiáng)行上一套重型Agent框架后期收尸會(huì)非常痛苦。工程上的最佳路徑是先用手寫管線跑通業(yè)務(wù)再按痛點(diǎn)逐步拆出路由、工具、上下文、評(píng)估模塊。順序永遠(yuǎn)比堆砌重要。3.2 兩個(gè)實(shí)戰(zhàn)場(chǎng)景的Harness對(duì)照為了講清楚差別我拿兩個(gè)典型場(chǎng)景對(duì)比。場(chǎng)景A智能文檔問答。目標(biāo)是讓用戶針對(duì)企業(yè)文檔自然語言提問回答要帶引用來源。這個(gè)場(chǎng)景的harness偏輕文檔解析與切片、向量索引、檢索接口、基于檢索結(jié)果的問答。關(guān)鍵點(diǎn)不在編排而在檢索質(zhì)量和上下文組裝。我給這個(gè)場(chǎng)景設(shè)計(jì)的管線包括用戶提問后先做意圖判斷是文檔問答就進(jìn)入檢索檢索結(jié)果做重排序挑出Top 3片段然后把提問和片段按固定模板送入模型要求輸出帶引用編號(hào)的答案。最后用一個(gè)格式校驗(yàn)器確保答案是標(biāo)準(zhǔn)標(biāo)記語言并且引用編號(hào)都在范圍內(nèi)。場(chǎng)景B客服工單系統(tǒng)。這個(gè)場(chǎng)景復(fù)雜得多用戶描述問題系統(tǒng)需要理解訴求、查詢賬戶信息、判斷流程分支、生成解決方案必要時(shí)創(chuàng)建工單并通知人工。harness就必須上重一點(diǎn)的編排狀態(tài)機(jī)定義工單生命周期每步接一個(gè)工具全局上下文保存客戶檔案和當(dāng)前處理進(jìn)度任何時(shí)候模型輸出不合法流程會(huì)退回到上一步并重新生成如果重試三次還失敗自動(dòng)轉(zhuǎn)人工。兩個(gè)場(chǎng)景用的底層模型可能完全相同但harness結(jié)構(gòu)完全不同。所以做harness設(shè)計(jì)第一件事永遠(yuǎn)是畫業(yè)務(wù)流程圖而不是選框架。3.3 從零落地的七步路線與踩坑記錄我把一次完整的harness落地拆成七步供參考。畫出業(yè)務(wù)主流程明確輸入輸出、關(guān)鍵分支、人工兜底點(diǎn)。搭最小閉環(huán)不接任何框架直接用模型接口加手寫函數(shù)跑通端到端。發(fā)現(xiàn)痛點(diǎn)后加第一層harness通常先加格式校驗(yàn)和上下文管理。引入評(píng)估集構(gòu)造20到50個(gè)典型case把當(dāng)前效果基線跑出來。接入工具層每接一個(gè)工具都補(bǔ)充錯(cuò)誤處理和模型可讀反饋。加觀測(cè)記錄每次請(qǐng)求的模型、版本、token數(shù)、延遲和失敗原因。逐步演化每?jī)芍芘芤淮位貧w把線上bad case補(bǔ)進(jìn)評(píng)測(cè)集。踩坑記錄方面第一個(gè)大坑是上下文爆掉。有一次系統(tǒng)連續(xù)跑了一段時(shí)間的免費(fèi)對(duì)話沒做壓縮某天用戶一口氣聊了一百多輪直接把模型輸入打到上限后面所有請(qǐng)求全部失敗。解決方案是上線之前就設(shè)定上下文預(yù)算和壓縮策略。第二個(gè)大坑是工具錯(cuò)誤信息直接返回給模型。有一次庫(kù)存接口返回了一個(gè)內(nèi)部錯(cuò)誤碼加上一段堆棧模型把堆棧當(dāng)成用戶問題一本正經(jīng)地建議用戶重啟服務(wù)器。這提醒我工具層必須做錯(cuò)誤歸一化把技術(shù)細(xì)節(jié)吞掉只留下模型和用戶能看懂的信息。第三個(gè)大坑是評(píng)估集被污染。團(tuán)隊(duì)為了讓新版本在評(píng)測(cè)集上好看在評(píng)測(cè)數(shù)據(jù)里寫了與答案幾乎一樣的提示詞導(dǎo)致線上效果一塌糊涂。評(píng)估數(shù)據(jù)要來自真實(shí)用戶bad case而不是測(cè)試者的標(biāo)準(zhǔn)答案。4. 常見問題與排查技巧實(shí)錄4.1 盲目上框架的人死得比什么都快某個(gè)團(tuán)隊(duì)曾在需求只有兩個(gè)接口、日調(diào)用不到一千次的情況下引入一整套重型編排中間件把簡(jiǎn)單任務(wù)拆成多個(gè)Agent互相調(diào)用。結(jié)果整個(gè)研發(fā)周期有一半時(shí)間在調(diào)框架參數(shù)模型跑出來的結(jié)果反而更差。這個(gè)案例非常典型?？蚣鼙旧頉]有問題問題出在用復(fù)雜方案解決簡(jiǎn)單問題。我的判斷標(biāo)準(zhǔn)很簡(jiǎn)單如果你的任務(wù)可以寫成順序流程就不要引入通用Agent循環(huán)如果上下文可以全部塞進(jìn)窗口就不要先建向量庫(kù)如果單模型夠用就不要做路由。一套harness的每一層都應(yīng)該能回答一個(gè)問題它替我解決了一個(gè)什么樣的確定性問題答不上來就是過度設(shè)計(jì)。4.2 評(píng)估集到底怎么建很多團(tuán)隊(duì)卡在評(píng)估集上。我分享三個(gè)原則。第一個(gè)原則評(píng)估集必須以真實(shí)bad case為核心。從生產(chǎn)日志里翻出那些用戶明確說不對(duì)的對(duì)話再補(bǔ)上正確輸出。這樣評(píng)估集永遠(yuǎn)反映真實(shí)問題而不是測(cè)試者的想象。第二個(gè)原則要分層評(píng)估。不要只給一個(gè)總正確率拆成檢索命中率、單輪問答準(zhǔn)確率、多輪狀態(tài)保持率、工具調(diào)用成功率、格式合法率五類指標(biāo)。每一個(gè)模塊都有自己的回歸標(biāo)準(zhǔn)定位問題才能快。第三個(gè)原則持續(xù)擴(kuò)充不能一成不變。每次發(fā)布新功能都要補(bǔ)充對(duì)應(yīng)場(chǎng)景的case。我見過一個(gè)團(tuán)隊(duì)維護(hù)了三千多條評(píng)測(cè)集覆蓋面很廣他們的harness改動(dòng)就特別自信?？梢赃@么說一個(gè)有分層的評(píng)估集比一百條prompt技巧都有價(jià)值。4.3 可觀測(cè)性日志、追蹤、成本三件套沒有可觀測(cè)性的harness等于盲飛。最基礎(chǔ)的要求是每一次模型調(diào)用都要記錄下輸入、輸出、所用模型、token數(shù)、時(shí)延、返回狀態(tài)。第二步加追蹤把一次用戶請(qǐng)求里的所有子步驟連起來包括路由決策、檢索結(jié)果、工具調(diào)用、重試次數(shù)。第三步是成本監(jiān)控按天按模型按用戶維度聚合用量設(shè)置預(yù)算告警。這里給一個(gè)非常簡(jiǎn)陋但好用的記錄示例。每次調(diào)用模型時(shí)把調(diào)用上下文包一層def trace_call(step_name, user_id, session_id): def decorator(func): def wrapper(*args, **kwargs): start_time time.time() result func(*args, **kwargs) log_record { step: step_name, user_id: user_id, session_id: session_id, latency_ms: (time.time() - start_time) * 1000, model: result.model_name, tokens: result.usage, status: result.status, } write_log(log_record) return result return wrapper return decorator在實(shí)際生產(chǎn)環(huán)境里你可能直接選一款可觀測(cè)性平臺(tái)基本原理都是一樣的有追蹤、有指標(biāo)、有日志。千萬不要認(rèn)為只有大廠才需要監(jiān)控。一個(gè)最簡(jiǎn)單的方案是從接口層打結(jié)構(gòu)化日志開始每天掃一眼哪些請(qǐng)求延遲超過5秒哪些工具調(diào)用失敗率超過20%很多大問題都能提前暴露。4.4 團(tuán)隊(duì)協(xié)作Harness是工程資產(chǎn)不是個(gè)人作品幾個(gè)月前某個(gè)團(tuán)隊(duì)做了一次調(diào)整把一個(gè)AI小組里最會(huì)寫prompt的人調(diào)去負(fù)責(zé)harness的工程化結(jié)果發(fā)現(xiàn)整個(gè)評(píng)估集、路由規(guī)則、工具描述都只在他的個(gè)人筆記里代碼庫(kù)里的harness早就不同步了。這幾乎是我見過最普遍的協(xié)作問題。Harness必須被當(dāng)作長(zhǎng)期工程資產(chǎn)對(duì)待。代碼要有版本控制、要有評(píng)審、要有變更記錄prompt模板和工具描述要納入配置管理不能只在聊天記錄里傳播評(píng)估集要有負(fù)責(zé)人定期核查質(zhì)量線上觀測(cè)看板也要有輪值機(jī)制。把harness當(dāng)成一個(gè)會(huì)持續(xù)迭代的產(chǎn)品你才能避免個(gè)人英雄主義帶來的不可維護(hù)狀態(tài)。我建議每個(gè)團(tuán)隊(duì)至少有一個(gè)明確的harness負(fù)責(zé)人但這個(gè)負(fù)責(zé)人不是唯一懂它的人而是把知識(shí)文檔化、模塊化的人。5. 2026年我們?cè)搩?chǔ)備什么能力5.1 技能棧的遷移方向如果你還在糾結(jié)我是不是應(yīng)該更精通某個(gè)prompt套路那方向已經(jīng)偏了。2026年AI工程團(tuán)隊(duì)真正需要的是這些能力。第一系統(tǒng)設(shè)計(jì)與狀態(tài)管理能力。能設(shè)計(jì)狀態(tài)機(jī)、理清業(yè)務(wù)分支、掌控異步任務(wù)。這些傳統(tǒng)后端經(jīng)驗(yàn)在harness里全面復(fù)用。第二數(shù)據(jù)與評(píng)估能力。能設(shè)計(jì)評(píng)測(cè)集、分析bad case、做數(shù)據(jù)回流。這比寫花里胡哨的提示詞重要得多。第三工程基本功。包括可觀測(cè)性、性能調(diào)優(yōu)、成本控制、安全與權(quán)限。第四對(duì)模型能力邊界的理解。不需要懂訓(xùn)練細(xì)節(jié)但要知道不同模型的強(qiáng)項(xiàng)、弱項(xiàng)、時(shí)延和成本特征。第五快速試錯(cuò)的產(chǎn)品思維。harness不是一次成型的你需要能快速迭代用數(shù)據(jù)驅(qū)動(dòng)下一版。5.2 工具選型與構(gòu)建策略這一節(jié)給你幾條非常務(wù)實(shí)的建議。第一優(yōu)先擁抱標(biāo)準(zhǔn)協(xié)議。如果用的編排框架支持標(biāo)準(zhǔn)的接口描述協(xié)議就繼承如果支持業(yè)界通用的可觀測(cè)性標(biāo)準(zhǔn)就直接用。標(biāo)準(zhǔn)協(xié)議能降低將來替換框架的成本。第二不要把業(yè)務(wù)邏輯寫死在prompt里。凡是涉及流程狀態(tài)、接口調(diào)用、數(shù)據(jù)存儲(chǔ)的部分都應(yīng)該放到代碼層prompt只保留表達(dá)層。第三如果一個(gè)需求用一句if else加一個(gè)模型調(diào)用就能實(shí)現(xiàn)就不要為了框架而框架。反過來如果發(fā)現(xiàn)你的代碼里開始大量出現(xiàn)打了半天補(bǔ)丁還不穩(wěn)定的情況那就可以考慮引入合適的harness框架了。第四多模型接入要盡早設(shè)計(jì)。不要綁定單一模型服務(wù)商請(qǐng)求層做一個(gè)統(tǒng)一適配器將來換模型只是改配置。5.3 我對(duì)Harness的樸素理解最后幾句實(shí)在話。我自己經(jīng)歷了從純prompt調(diào)優(yōu)到harness工程化的過程最大的體會(huì)是AI應(yīng)用的復(fù)雜度正在從讓模型聽你話轉(zhuǎn)移到讓整條生產(chǎn)線穩(wěn)定而便宜地運(yùn)轉(zhuǎn)。Harness不會(huì)讓prompt技巧一夜歸零但它確實(shí)改變了AI工程師的價(jià)值公式——你不是一個(gè)說話好聽的人你是一個(gè)能設(shè)計(jì)整套系統(tǒng)的人。另外有一類人經(jīng)常問harness會(huì)不會(huì)被某個(gè)平臺(tái)統(tǒng)一接管然后我們就不用做了。我的看法是平臺(tái)能統(tǒng)一底層調(diào)度但接不住你公司內(nèi)部特有的工具、數(shù)據(jù)、審批流和業(yè)務(wù)規(guī)則。Harness很難被完全平臺(tái)化因?yàn)樗L(zhǎng)在你的業(yè)務(wù)流程里面。所以現(xiàn)在開始動(dòng)手搭建屬于你自己的harness大概率是比較劃算的投入。在我自己的實(shí)際操作中最值得反復(fù)打磨的不是某條prompt而是那條從真實(shí)請(qǐng)求到真實(shí)反饋的閉環(huán)。每次線上出了bad case我都會(huì)把原始會(huì)話、當(dāng)時(shí)的harness版本、模型版本、檢索結(jié)果和最終輸出一起歸檔然后回到評(píng)估集里去補(bǔ)一到兩個(gè)條目再跑一遍回歸。這個(gè)動(dòng)作看起來枯燥但堅(jiān)持兩三個(gè)迭代周期后你的系統(tǒng)會(huì)越來越穩(wěn)。別急著追求炫酷的Agent編排先把上面這個(gè)閉環(huán)做到極致你會(huì)發(fā)現(xiàn)2026年的新戰(zhàn)場(chǎng)本質(zhì)上拼的還是工程紀(jì)律。