本文是《執(zhí)行縫隙》The Execution Gap的作者手記。 它不是書籍正文的摘要或重寫而是圍繞本章問題、工程背景與寫作之后的進一步思考。很多事故在復(fù)盤時都會出現(xiàn)一句非常自然的話流程為什么沒有把它攔下來這句話聽起來沒有問題但繼續(xù)往下追很容易把兩件不同的事情混在一起。一種情況是請求實際上走了一條不該走的路本應(yīng)發(fā)生的步驟被跳過了順序被改變了執(zhí)行主體被替換了或者某個未經(jīng)預(yù)期的入口參與了進來。另一種情況則完全不同請求從頭到尾走的就是系統(tǒng)原本設(shè)計好的路徑每一步都有對應(yīng)的流程每一個參與者也都擁有合法資格可最終仍然沒有任何東西阻止那個動作產(chǎn)生現(xiàn)實后果。第五章真正想拆開的就是這兩個問題。過去我們很容易把安全控制想成一條帶有很多關(guān)卡的道路。請求從入口進入經(jīng)過認(rèn)證、授權(quán)、審批、策略和各種檢查只要某一步不符合條件就應(yīng)該在那里被擋下來。在這種圖景里“走錯了路”和“沒有被攔住”確實非常接近因為只要最后發(fā)生了不應(yīng)該發(fā)生的事情我們很容易認(rèn)為它一定在某個地方繞過了控制。但現(xiàn)實系統(tǒng)里存在另一種更加值得警惕的情況它根本沒有繞。正常流程并不是安全結(jié)果的證明工程師對于“繞過”非常敏感因為繞過通常能夠留下明確痕跡。一個本來應(yīng)該經(jīng)過審批的操作沒有經(jīng)過審批一條請求進入了非標(biāo)準(zhǔn)接口一個權(quán)限不足的主體使用了高權(quán)限路徑這些問題很容易理解也很容易形成整改方案。增加檢查、關(guān)閉入口、限制調(diào)用路徑、補上缺失步驟這些措施都很自然。真正麻煩的是當(dāng)我們把整條執(zhí)行鏈重新展開以后發(fā)現(xiàn)沒有任何明顯的繞過。AWS S3 2017 年的事故讓我特別注意到這一點。執(zhí)行動作來自獲得授權(quán)的人員使用的是既有工具按照既有 playbook 操作真正造成問題的是輸入?yún)?shù)使動作作用范圍遠遠超過原來的意圖。流程沒有突然變成另一條流程操作者也沒有闖入一個不屬于他的入口。Citibank 的 Revlon 誤付款同樣如此。交易經(jīng)過正常的系統(tǒng)兩級復(fù)核真實發(fā)生資金最后也通過銀行正常的支付通路被匯出。事后當(dāng)然可以找到具體的操作問題但如果只問“有沒有繞過正常流程”答案并不會自動變成肯定。Waymo 的案例則更加直觀。一輛車最終撞上了電線桿很容易被口語化地描述成“走錯路了”可如果把 Path 嚴(yán)格限定為“實際執(zhí)行是否偏離已經(jīng)規(guī)劃出的路徑”事情就完全不同。車輛執(zhí)行的恰恰是規(guī)劃器生成的路徑真正的問題是那條被規(guī)劃出來的路徑本身包含了現(xiàn)實中的障礙物。這幾個案例放在一起以后對我最大的提醒不是“流程沒用”而是相反流程有沒有被遵守與這個流程最終有沒有限制住錯誤動作是兩個獨立問題。如果不把它們分開一個非常危險的推論就會出現(xiàn)路徑檢查沒有發(fā)現(xiàn)異常所以控制應(yīng)該沒有問題。而現(xiàn)實已經(jīng)告訴我們這個推論并不成立?！霸趺醋摺迸c“能走多遠”是兩種問題第五章里我最后把 Path 和 Boundary 分開其實來自一個很簡單的工程直覺。Path 關(guān)心的是一次具體請求的行進過程。它問的是真正發(fā)生的步驟、順序、主體、入口和鏈路和原本應(yīng)該發(fā)生的那條路徑是不是一致。Boundary 關(guān)心的是另一件事。它并不首先問請求經(jīng)過哪里而是問這個動作的能力究竟被限制在什么范圍內(nèi)。一個擁有合法權(quán)限的管理員可以使用正常工具執(zhí)行操作這并不意味著系統(tǒng)應(yīng)該允許一次操作影響任意數(shù)量的資源一筆已經(jīng)經(jīng)過審批的付款也不意味著后來進入執(zhí)行端的金額、賬戶和業(yè)務(wù)對象可以無限偏離最初批準(zhǔn)的范圍一個 Agent 可以合法調(diào)用某個工具也不意味著它獲得了利用這個工具改變?nèi)我猬F(xiàn)實狀態(tài)的資格。這就是為什么我越來越不愿意把執(zhí)行邊界簡單理解成另一種訪問控制。訪問控制主要回答“誰有權(quán)做什么”。執(zhí)行邊界還需要回答即使這個主體有權(quán)做這一次動作究竟允許做到什么程度它能影響多少對象改變多少資源持續(xù)多長時間在什么狀態(tài)下必須停止又有什么東西擁有最終拒絕它的能力這幾個問題不屬于“這個人有沒有權(quán)限”的簡單延伸。一個系統(tǒng)完全可以在訪問控制意義上沒有任何問題卻在執(zhí)行邊界上極其脆弱。高權(quán)限主體被正確認(rèn)證調(diào)用也完全合法只是系統(tǒng)沒有把一次動作的現(xiàn)實影響限制在一個能夠承受的范圍內(nèi)。如果到了事故以后我們才說“早知道應(yīng)該限制一下”那真正缺失的并不是身份認(rèn)證而是那個在動作真正進入現(xiàn)實之前仍然有效的邊界。我后來越來越在意“誰還能說不”寫這一章的時候有一句話逐漸變得很重要誰能最終拒絕它和審批不是一回事。審批發(fā)生在執(zhí)行之前的某個時間點它可以決定一個動作是否獲得進入后續(xù)流程的資格。但現(xiàn)實在變化參數(shù)在變化系統(tǒng)狀態(tài)在變化真正執(zhí)行的對象也可能在后面的轉(zhuǎn)換中發(fā)生變化。于是一個動作曾經(jīng)獲得批準(zhǔn)并不意味著從那一刻開始它就應(yīng)該擁有不受條件變化影響的最終執(zhí)行權(quán)。這也是執(zhí)行控制真正開始出現(xiàn)的地方。越靠近現(xiàn)實動作系統(tǒng)越需要重新回答此刻這些條件還成立嗎對象還是原來那個對象嗎參數(shù)還處在被允許的范圍內(nèi)嗎當(dāng)前狀態(tài)是否仍然允許這個動作繼續(xù)如果答案是否定的那么即使前面的審批、授權(quán)和流程全部真實存在系統(tǒng)仍然應(yīng)該存在一個可以拒絕執(zhí)行的位置。我后來越來越覺得這種“最終拒絕能力”是很多傳統(tǒng)軟件架構(gòu)里沒有被單獨拿出來討論的東西。我們設(shè)計了很多允許動作發(fā)生的機制授權(quán)允許它進入審批允許它繼續(xù)API 允許它被調(diào)用流程引擎允許它向下推進。可一個動作越接近真正改變現(xiàn)實的那一刻究竟還有誰能夠說“不”往往并沒有同樣清晰的設(shè)計。如果所有上游結(jié)論最終都匯聚成一句“已經(jīng)批準(zhǔn)可以執(zhí)行”那么系統(tǒng)真正失去的可能不是某個檢查步驟而是在現(xiàn)實發(fā)生之前最后一次重新判斷的能力。邊界失效不一定意味著有人修改了邊界Boundary 還有一個特別容易被誤解的地方。一說到邊界失效人很容易聯(lián)想到“邊界被突破”或者“規(guī)則被改掉了”。這是一種很強的事故敘事因為它通常存在清晰的變化原來的規(guī)則是這樣的后來有人把它改成了另一種樣子所以控制失效了。這種情況當(dāng)然存在第五章把它稱為 Boundary Mutation。但如果把所有 Boundary Failure 都理解成 Mutation很多真正的邊界問題反而會被漏掉。有些時候沒有任何人修改規(guī)則。約束從一開始就不存在?；蛘咭?guī)則確實存在只覆蓋了其中一部分能力。也可能規(guī)則在設(shè)計上看起來完整但真正危險的動作根本沒有進入它能夠拒絕的范圍。在這些情況下調(diào)查人員可能查遍配置變更、權(quán)限變化和管理員操作卻什么都找不到因為根本沒有發(fā)生過一次明確的“邊界被改寫”。真正的問題是那道邊界從來沒有覆蓋到這里。這也是為什么我認(rèn)為 Boundary 不能被理解成一種攻擊模型。執(zhí)行邊界首先是一種系統(tǒng)屬性它可以因為攻擊而失效也可以在所有參與者都善意、所有身份都合法、所有流程都正常的情況下暴露出缺口。這件事對于 AI Agent 尤其重要。未來很多 Agent 的危險動作未必來自惡意繞過。相反它們很可能使用被允許的工具、經(jīng)過被允許的接口在被允許的權(quán)限范圍內(nèi)完成一個系統(tǒng)本來就允許它完成的動作。真正的問題是系統(tǒng)允許它做的那件事現(xiàn)實作用范圍是不是過大了。如果修錯了對象事故復(fù)盤就只是讓流程變得更復(fù)雜把 Path 和 Boundary 分開以后還有一個很現(xiàn)實的意義它會直接決定事故之后究竟修什么。如果問題真的來自路徑偏離那么修路徑完全合理。把缺失步驟補回來關(guān)閉旁路避免主體替換恢復(fù)正確順序。但如果實際路徑?jīng)]有問題而真正缺少的是邊界那么繼續(xù)給流程增加節(jié)點未必能解決問題。多一次審批多一個確認(rèn)框多一個微服務(wù)多一條日志都可能讓流程看起來更加嚴(yán)密卻沒有回答那個動作究竟能影響多少現(xiàn)實資源。這是我越來越警惕的一種“安全改進”。事故發(fā)生以后系統(tǒng)變得更復(fù)雜了于是所有人都有一種已經(jīng)加強控制的感覺。但復(fù)雜度本身不是控制增加步驟也不等于增加邊界。如果新增的節(jié)點仍然只是檢查同樣的信息或者仍然允許同一個動作在通過之后擁有完全相同的現(xiàn)實作用范圍那么它可能只是把原來的問題拉長而沒有真正縮小它。所以第五章最后保留的不是一個關(guān)于哪一種機制更重要的結(jié)論而是兩個必須被獨立執(zhí)行的判斷。先問這一次請求有沒有真正偏離規(guī)范路徑然后另外再問在它最終改變現(xiàn)實之前限制它作用范圍的那些約束是否存在、是否完整、是否有效一個答案不能替另一個答案作證。路徑完全正常并不意味著邊界正常發(fā)現(xiàn)邊界失效也不能反推出一定有人繞開了路徑。兩者可以同時成立也完全可以只成立其中一個。寫完這一章以后我對“正常流程”這四個字的理解也發(fā)生了一些變化。正常流程仍然重要但它只能說明事情按照設(shè)計好的路線發(fā)生。它沒有回答一個更加靠近現(xiàn)實的問題當(dāng)這條路線本身正在把一個錯誤動作送向現(xiàn)實的時候究竟還有什么東西能夠讓它停下來這可能才是執(zhí)行邊界真正開始出現(xiàn)的位置。關(guān)于《執(zhí)行縫隙》《執(zhí)行縫隙》The Execution Gap是Execution Engineering Trilogy第一卷。本書討論一個基礎(chǔ)而關(guān)鍵的問題從人的意圖到機器最終改變現(xiàn)實世界中間究竟發(fā)生了什么在線閱讀繁體中文版 執(zhí)行縫隙 | Havenlon ResearchEnglish Edition The Execution Gap | Havenlon ResearchAmazon Kindle Amazon.com: The Execution Gap: The Structural Discontinuity Between Intent and Action (Execution Engineering Trilogy Book 1) eBook : Wang, Lin, Wu, Mengting, Zhang, Yong, Deng, Jiang: Kindle StoreAmazon Paperback The Execution Gap: The Structural Discontinuity Between Intent and Action (Execution Engineering Trilogy): Wang, Lin, Wu, Mengting, Zhang, Yong, Deng, Jiang: 9798177903347: Amazon.com: Books? 2026 Lin Wang / Havenlon.本文為作者手記與《執(zhí)行縫隙》正式書籍正文相互獨立。 未經(jīng)授權(quán)請勿全文轉(zhuǎn)載或用于商業(yè)再出版。 引用請注明作者及出處。