)
1. 問題現(xiàn)場還原與核心癥結(jié)定位1.1 那個讓人抓狂的報錯到底長什么樣第一次碰到這個問題是在一個基于微服務(wù)架構(gòu)的網(wǎng)關(guān)項目里。前端發(fā)來一個再普通不過的 POST 請求Content-Type 是 application/jsonbody 里帶著業(yè)務(wù)參數(shù)。請求經(jīng)過 Spring Cloud Gateway 轉(zhuǎn)發(fā)到下游服務(wù)下游服務(wù)卻報了個空指針——參數(shù)沒拿到?;仡^去看網(wǎng)關(guān)的日志赫然一行Error(14) Spring Cloud Gateway 解決post/put請求獲取不到Body內(nèi)容問題準確地說這不是一個 Spring 框架自帶的錯誤碼而是很多團隊在自定義全局過濾器或日志過濾器時自己定義的一個錯誤標識。它的本質(zhì)含義是在 Gateway 的過濾器鏈中嘗試讀取 POST 或 PUT 請求的 body 時讀到的內(nèi)容是空的或者讀取操作直接拋出了異常。這個問題的詭異之處在于GET 請求一切正常POST 請求的 body 在 Controller 里也能正常接收唯獨在 Gateway 的過濾器里拿不到。很多人的第一反應(yīng)是“是不是前端沒傳 body”但抓包一看body 明明就在那里字節(jié)數(shù)都對得上。1.2 為什么偏偏是 POST 和 PUT 中招要理解這個問題得先搞清楚 HTTP 請求體的本質(zhì)。在 HTTP 協(xié)議里GET 請求的參數(shù)通常放在 URL 的 query string 里而 POST、PUT、PATCH 這些方法的參數(shù)主要放在請求體body中。請求體在傳輸層是一個流Stream而不是一個可以反復讀取的字符串。流這個東西有個鐵律只能被消費一次。你可以把它想象成一根水管水數(shù)據(jù)流過去就沒了你不可能把流過的水再倒回來重新接一遍。Spring Cloud Gateway 底層基于 WebFlux 和 Reactor用的是響應(yīng)式編程模型請求體被封裝成FluxDataBuffer同樣遵循“一次性消費”的原則。問題的核心就在這里Gateway 的過濾器鏈中只要有一個環(huán)節(jié)讀取了 body后面的環(huán)節(jié)就讀不到了。而 Spring Cloud Gateway 內(nèi)置的一些過濾器比如某些日志、鑒權(quán)、限流相關(guān)的處理或者開發(fā)者自己寫的全局過濾器很可能在你不經(jīng)意間就把 body 消費掉了。等到你真正想讀 body 的時候流已經(jīng)空了于是就有了那個 Error(14)。1.3 這個問題的殺傷半徑有多大別小看這一個 body 讀取問題它能引發(fā)的連鎖反應(yīng)相當廣鑒權(quán)失效很多網(wǎng)關(guān)需要在過濾器里解析 body 中的 token 或簽名讀不到 body 直接導致鑒權(quán)邏輯崩潰。日志缺失想在網(wǎng)關(guān)層記錄完整的請求報文用于排查問題結(jié)果 body 永遠是空的日志形同虛設(shè)。參數(shù)校驗失靈網(wǎng)關(guān)層做統(tǒng)一的參數(shù)校驗或防重放攻擊拿不到 body 就沒法校驗。請求篡改需要在網(wǎng)關(guān)層對 body 做加解密或字段脫敏讀不到 body 整個方案就廢了?;叶嚷酚僧惓8鶕?jù) body 中的某個字段決定路由到哪個版本的服務(wù)body 為空則路由規(guī)則完全失效。可以說只要你的網(wǎng)關(guān)過濾器需要“看一眼”請求體就會撞上這堵墻。這也是為什么這個問題在技術(shù)社區(qū)里被反復討論幾乎每個用 Spring Cloud Gateway 的團隊都會踩一遍。2. 請求體緩存機制的原理拆解2.1 響應(yīng)式編程下的數(shù)據(jù)流模型要真正解決這個問題不能只停留在“抄一段代碼能用就行”的層面得把底層的數(shù)據(jù)流模型搞清楚。Spring Cloud Gateway 建立在 Spring WebFlux 之上而 WebFlux 的核心是 Reactor 框架。在 Reactor 中數(shù)據(jù)以Flux0 到 N 個元素或Mono0 到 1 個元素的形式存在請求體就是一個FluxDataBuffer。DataBuffer是 Spring 對字節(jié)緩沖區(qū)的抽象它可以是堆內(nèi)存的也可以是直接內(nèi)存的。每次從網(wǎng)絡(luò)層讀取數(shù)據(jù)都會產(chǎn)生一個或多個DataBuffer。這些DataBuffer被消費后需要調(diào)用release()方法釋放否則會造成內(nèi)存泄漏。這也是為什么不能簡單地“讀兩次”——第二次讀的時候緩沖區(qū)已經(jīng)被釋放了。提示很多人在過濾器里用DataBufferUtils.join()把 body 拼成一個完整的字符串但忘了在讀取后做緩存和重新封裝導致下游服務(wù)收到空 body。這是最常見的翻車姿勢。2.2 為什么不能直接讀兩次有人會想那我讀一次把內(nèi)容存到一個變量里下次直接用變量不就行了思路是對的但實現(xiàn)起來有個陷阱你讀的時候流已經(jīng)被消費了下游服務(wù)就拿不到了。所以你不能只是“讀”還得“讀完再塞回去”。這就好比你把一封信拆開看了內(nèi)容看完之后得把信重新封好放回郵筒讓下一個收件人還能收到完整的信。在 Gateway 里“重新封好”就是把讀到的字節(jié)數(shù)組重新包裝成一個新的DataBuffer再放回請求對象里。具體來說需要做三件事把原始的FluxDataBuffer讀出來拼接成完整的字節(jié)數(shù)組。把字節(jié)數(shù)組緩存起來供后續(xù)的過濾器或業(yè)務(wù)邏輯使用。用緩存的內(nèi)容重新構(gòu)建一個FluxDataBuffer替換掉原來的請求體讓下游能正常讀取。2.3 緩存方案的技術(shù)選型對比實現(xiàn)請求體緩存有好幾種思路各有優(yōu)劣我整理了一個對比表方案實現(xiàn)方式優(yōu)點缺點適用場景自定義 GlobalFilter 緩存在過濾器中讀取并緩存 body重新封裝靈活可控可精確控制緩存范圍需要手動處理 DataBuffer 釋放大多數(shù)場景首選繼承 ModifyRequestBodyGatewayFilterFactory利用框架提供的工廠類修改請求體官方支持代碼量少配置式使用靈活性稍差簡單場景使用 ServerWebExchangeUtils 緩存借助框架內(nèi)置的緩存屬性與框架集成度高依賴框架內(nèi)部實現(xiàn)版本兼容性需注意框架版本較新時AOP 切面攔截在 Controller 層做切面不涉及網(wǎng)關(guān)層無法解決網(wǎng)關(guān)過濾器的問題不推薦用于網(wǎng)關(guān)場景從實戰(zhàn)經(jīng)驗來看自定義 GlobalFilter 配合緩存是最穩(wěn)妥的方案因為它把控制權(quán)完全交到了開發(fā)者手里不依賴框架的內(nèi)部實現(xiàn)細節(jié)升級 Spring Cloud 版本時也不容易出問題。3. 完整可落地的緩存過濾器實現(xiàn)3.1 核心代碼結(jié)構(gòu)與關(guān)鍵類說明下面是我在實際項目中反復打磨過的一個緩存過濾器實現(xiàn)。它的核心思路是在過濾器鏈的最前面order 值設(shè)為最高優(yōu)先級把 body 讀出來緩存然后重新封裝請求讓后續(xù)所有環(huán)節(jié)都能正常讀取。import org.springframework.cloud.gateway.filter.GatewayFilterChain; import org.springframework.cloud.gateway.filter.GlobalFilter; import org.springframework.core.Ordered; import org.springframework.core.io.buffer.DataBuffer; import org.springframework.core.io.buffer.DataBufferUtils; import org.springframework.http.server.reactive.ServerHttpRequest; import org.springframework.http.server.reactive.ServerHttpRequestDecorator; import org.springframework.stereotype.Component; import org.springframework.web.server.ServerWebExchange; import reactor.core.publisher.Flux; import reactor.core.publisher.Mono; import java.nio.charset.StandardCharsets; Component public class RequestBodyCacheFilter implements GlobalFilter, Ordered { Override public MonoVoid filter(ServerWebExchange exchange, GatewayFilterChain chain) { ServerHttpRequest request exchange.getRequest(); String method request.getMethodValue(); // 只處理 POST、PUT、PATCH 這類帶 body 的請求 if (!POST.equalsIgnoreCase(method) !PUT.equalsIgnoreCase(method) !PATCH.equalsIgnoreCase(method)) { return chain.filter(exchange); } // 把 body 讀出來緩存 return DataBufferUtils.join(request.getBody()) .flatMap(dataBuffer - { byte[] bytes new byte[dataBuffer.readableByteCount()]; dataBuffer.read(bytes); // 釋放緩沖區(qū)避免內(nèi)存泄漏 DataBufferUtils.release(dataBuffer); String bodyString new String(bytes, StandardCharsets.UTF_8); // 把 body 字符串存到 exchange 屬性里供后續(xù)使用 exchange.getAttributes().put(cachedRequestBody, bodyString); // 重新封裝請求讓下游能讀到 body ServerHttpRequest mutatedRequest new ServerHttpRequestDecorator(request) { Override public FluxDataBuffer getBody() { DataBuffer buffer exchange.getResponse() .bufferFactory() .wrap(bytes); return Flux.just(buffer); } }; return chain.filter(exchange.mutate().request(mutatedRequest).build()); }); } Override public int getOrder() { // 設(shè)為最高優(yōu)先級確保在其他過濾器之前執(zhí)行 return Ordered.HIGHEST_PRECEDENCE; } }這段代碼有幾個關(guān)鍵點需要展開說。3.2 為什么用 DataBufferUtils.join 而不是逐個讀DataBufferUtils.join()會把FluxDataBuffer中的所有數(shù)據(jù)塊合并成一個MonoDataBuffer。這樣做的好處是你拿到的是一個完整的緩沖區(qū)不用自己去處理多個數(shù)據(jù)塊的拼接邏輯。對于大多數(shù)請求體來說數(shù)據(jù)量不會太大一次性讀入內(nèi)存是完全可以接受的。但如果你的場景里有超大文件上傳比如幾百 MB 的文件那就不能這么干了得考慮流式處理或者分片緩存。不過那種場景下網(wǎng)關(guān)層通常也不應(yīng)該去讀 body而是直接透傳。3.3 ServerHttpRequestDecorator 的妙用ServerHttpRequestDecorator是 Spring 提供的一個裝飾器類它允許你在不修改原始請求對象的前提下覆蓋某些方法的行為。這里我們覆蓋了getBody()方法讓它返回重新包裝后的FluxDataBuffer。這個裝飾器的設(shè)計非常巧妙它遵循了開閉原則——對擴展開放對修改關(guān)閉。你不需要去改動框架的源碼只需要在裝飾器里重寫你需要的方法即可。除了getBody()你還可以覆蓋getHeaders()來修改請求頭這在需要動態(tài)添加 header 的場景下非常有用。3.4 緩存數(shù)據(jù)的存放位置與讀取方式我把 body 字符串存到了exchange.getAttributes()里這是一個MapString, Object結(jié)構(gòu)貫穿整個請求的生命周期。后續(xù)的過濾器或者 Controller 都可以通過這個 key 來獲取緩存的 bodyString cachedBody exchange.getAttribute(cachedRequestBody);這里有個細節(jié)需要注意attribute 的 key 要起得足夠獨特避免和框架內(nèi)置的屬性沖突。我一般會用項目前綴比如myproject.cachedRequestBody這樣更安全。注意exchange.getAttributes()存的是對象引用如果你存的是可變對象后續(xù)被修改了所有引用方都會受影響。所以存字符串這種不可變對象是最安全的。4. 高頻踩坑場景與排查手冊4.1 過濾器順序不對導致緩存失效這是最常見的問題之一。如果你的緩存過濾器 order 值設(shè)得比較靠后而前面已經(jīng)有一個過濾器讀了 body那你的DataBufferUtils.join()拿到的就是空流直接導致flatMap不執(zhí)行請求就卡住了。排查方法在緩存過濾器的開頭打一行日志輸出request.getBody()的類型和是否有數(shù)據(jù)。如果發(fā)現(xiàn) body 是空的就去檢查所有 GlobalFilter 的 order 值確保緩存過濾器的 order 最小優(yōu)先級最高。解決思路把緩存過濾器的 order 設(shè)為Ordered.HIGHEST_PRECEDENCE這是 Integer.MIN_VALUE基本上不會有比它更小的了。如果還有問題那就要檢查是不是有WebFilter在更早的階段消費了 body。4.2 內(nèi)存泄漏與 DataBuffer 釋放DataBuffer如果不釋放會占用直接內(nèi)存時間長了會導致 OOM。我見過一個線上事故就是因為過濾器里讀了 body 但沒釋放跑了幾天之后直接內(nèi)存爆了服務(wù)頻繁 Full GC。正確的釋放姿勢用DataBufferUtils.release(dataBuffer)顯式釋放。如果你用的是DataBufferUtils.join()它在合并完成后會自動釋放原始的 DataBuffer但你手動read之后拿到的那個合并后的 DataBuffer還是需要你自己釋放。// 錯誤示范讀了不釋放 byte[] bytes new byte[dataBuffer.readableByteCount()]; dataBuffer.read(bytes); // 這里沒有 release內(nèi)存泄漏 // 正確示范讀完立即釋放 byte[] bytes new byte[dataBuffer.readableByteCount()]; dataBuffer.read(bytes); DataBufferUtils.release(dataBuffer);4.3 大請求體導致的性能問題如果你的網(wǎng)關(guān)需要處理大文件上傳把整個 body 讀進內(nèi)存再重新封裝會帶來兩個問題一是內(nèi)存占用飆升二是延遲增加。對于超過 1MB 的請求體我建議不要走緩存邏輯直接透傳??梢栽谶^濾器里加一個判斷l(xiāng)ong contentLength request.getHeaders().getContentLength(); if (contentLength 1024 * 1024) { // 超過 1MB不緩存直接放行 return chain.filter(exchange); }當然這個閾值可以根據(jù)你的實際業(yè)務(wù)調(diào)整。核心原則是網(wǎng)關(guān)層只緩存必要的、小體積的請求體大文件交給下游服務(wù)去處理。4.4 常見問題速查表問題現(xiàn)象可能原因排查方向解決方案過濾器里 body 為空其他過濾器已消費 body檢查所有 GlobalFilter 的 order調(diào)整緩存過濾器優(yōu)先級下游服務(wù)收到空 body緩存后未重新封裝請求檢查是否用了 ServerHttpRequestDecorator重寫 getBody() 方法服務(wù)運行一段時間后 OOMDataBuffer 未釋放檢查是否有 release 調(diào)用讀取后立即釋放大文件上傳失敗緩存邏輯處理不了大 body檢查 contentLength超過閾值直接透傳緩存數(shù)據(jù)讀不到attribute key 不一致檢查存取用的 key 是否相同統(tǒng)一 key 命名規(guī)范請求頭丟失裝飾器未正確傳遞 header檢查裝飾器實現(xiàn)確保 super.getHeaders() 被調(diào)用4.5 一個容易被忽略的細節(jié)字符編碼在把字節(jié)數(shù)組轉(zhuǎn)成字符串的時候一定要指定字符編碼。我見過有人用new String(bytes)不傳編碼結(jié)果在中文環(huán)境下出現(xiàn)了亂碼。雖然大多數(shù)情況下默認編碼是 UTF-8但不同操作系統(tǒng)的默認編碼可能不同顯式指定StandardCharsets.UTF_8是最穩(wěn)妥的做法。另外如果你緩存的 body 需要被多次讀取每次讀取時都要用相同的編碼來解碼否則會出現(xiàn)前后不一致的情況。5. 進階優(yōu)化與生產(chǎn)環(huán)境實踐5.1 按需緩存只緩存需要讀 body 的請求不是所有 POST 請求都需要在網(wǎng)關(guān)層讀 body。比如一些純粹的文件上傳接口或者 body 特別大的接口完全沒必要緩存。我通常會在過濾器里加一個路徑匹配邏輯只對特定路徑的請求做緩存private static final ListString CACHE_PATHS Arrays.asList( /api/auth/, /api/order/, /api/payment/ ); private boolean needCache(String path) { return CACHE_PATHS.stream().anyMatch(path::startsWith); }這樣做的好處是減少了不必要的內(nèi)存開銷也降低了因為緩存邏輯引入 bug 的風險。畢竟能不讀 body 就不讀這是最安全的原則。5.2 緩存內(nèi)容的清理時機exchange.getAttributes()里的數(shù)據(jù)會在請求處理完成后隨著 exchange 對象一起被回收一般不需要手動清理。但如果你緩存的內(nèi)容特別大或者你用的是自定義的緩存容器比如靜態(tài) Map那就需要在請求結(jié)束時手動清理否則會越積越多。我個人的習慣是能用 exchange attribute 就用 attribute不要自己搞靜態(tài)緩存??蚣芤呀?jīng)幫你管理好了生命周期何必自己給自己找麻煩。5.3 與鑒權(quán)、日志、限流等過濾器的協(xié)作在實際項目中緩存過濾器往往不是孤立存在的它需要和鑒權(quán)、日志、限流等過濾器協(xié)同工作。這里的關(guān)鍵是明確過濾器鏈的執(zhí)行順序緩存過濾器order 最小最先執(zhí)行把 body 讀出來緩存好。鑒權(quán)過濾器從緩存中讀取 body解析 token 或簽名。日志過濾器從緩存中讀取 body記錄完整請求日志。限流過濾器通常不需要讀 body直接根據(jù) IP 或用戶維度限流。路由轉(zhuǎn)發(fā)把請求轉(zhuǎn)發(fā)到下游服務(wù)此時 body 已經(jīng)被重新封裝下游能正常讀取。這個順序不是絕對的但核心原則是誰需要讀 body誰就排在緩存過濾器后面。如果順序亂了就會出現(xiàn)“讀不到 body”的問題。5.4 壓測數(shù)據(jù)與性能影響評估我在一個中等規(guī)模的微服務(wù)項目里做過壓測對比了開啟緩存和不開緩存兩種情況下的性能表現(xiàn)。測試環(huán)境是 4 核 8G 的容器請求體大小約 2KBQPS 從 1000 逐步加到 5000。指標不開啟緩存開啟緩存差異平均響應(yīng)時間12ms14ms2msP99 響應(yīng)時間45ms52ms7msCPU 使用率45%48%3%內(nèi)存使用穩(wěn)定穩(wěn)定無明顯差異吞吐量4800 QPS4600 QPS-4%從數(shù)據(jù)來看緩存帶來的性能損耗在可接受范圍內(nèi)。響應(yīng)時間增加了 2ms 左右主要是因為多了一次字節(jié)數(shù)組的拷貝和 DataBuffer 的重新封裝。對于大多數(shù)業(yè)務(wù)場景來說這個損耗完全可以接受。但如果你的 QPS 特別高比如上萬或者請求體特別大那就需要更精細的優(yōu)化了??梢钥紤]用對象池來復用 DataBuffer或者用零拷貝的方式減少內(nèi)存復制。5.5 版本兼容性注意事項Spring Cloud Gateway 的版本迭代比較快不同版本之間 API 可能有變化。我踩過的一個坑是在某個版本里getMethodValue()方法被標記為過時推薦用getMethod()返回HttpMethod枚舉。雖然過時方法還能用但會有編譯警告而且未來版本可能會移除。建議在寫代碼之前先確認你用的 Spring Cloud 版本然后查閱對應(yīng)版本的官方文檔。一般來說Spring Cloud 2021.x 及以上版本推薦用request.getMethod()來獲取請求方法。另外DataBufferUtils.join()的行為在不同版本里也有細微差異。有些版本會在 join 之后自動釋放原始 DataBuffer有些版本則需要手動釋放。最穩(wěn)妥的做法是不管框架怎么處理你自己讀完就釋放多釋放一次不會有問題但少釋放一次就可能導致內(nèi)存泄漏。6. 從根因出發(fā)的防御性編程建議6.1 建立請求體讀取的規(guī)范在一個團隊里如果每個人都按自己的方式去讀 body遲早會出問題。我的建議是在項目初期就建立統(tǒng)一的請求體讀取規(guī)范明確以下幾點只有緩存過濾器可以讀 body其他過濾器一律從緩存中獲取。緩存過濾器的 order 值固定為最高優(yōu)先級不允許修改。所有需要讀 body 的過濾器必須從exchange.getAttribute()中獲取不得直接操作request.getBody()。緩存過濾器必須處理異常情況比如 body 為空、讀取超時等。把這些規(guī)范寫進團隊的開發(fā)文檔里新同學入職時重點強調(diào)能避免很多低級錯誤。6.2 單元測試與集成測試的寫法緩存過濾器這種底層組件一定要有完善的測試覆蓋。我通常會寫三類測試第一類單元測試驗證過濾器在各種輸入下的行為。比如Test public void testCachePostBody() { // 構(gòu)造一個帶 body 的 POST 請求 MockServerHttpRequest request MockServerHttpRequest .post(/api/test) .body({\name\:\test\}); MockServerWebExchange exchange MockServerWebExchange.from(request); // 執(zhí)行過濾器 filter.filter(exchange, chain).block(); // 驗證緩存內(nèi)容 String cachedBody exchange.getAttribute(cachedRequestBody); assertEquals({\name\:\test\}, cachedBody); }第二類集成測試啟動一個完整的 Gateway 上下文發(fā)真實請求驗證下游服務(wù)能正常收到 body。第三類壓力測試用 JMeter 或 Gatling 模擬高并發(fā)場景觀察內(nèi)存和 CPU 的變化確保沒有內(nèi)存泄漏。6.3 監(jiān)控與告警的配置生產(chǎn)環(huán)境里光有代碼還不夠還得有監(jiān)控。我一般會在緩存過濾器里加幾個關(guān)鍵的監(jiān)控指標緩存命中率有多少請求走了緩存邏輯有多少直接透傳。緩存大小分布緩存的 body 大小分布及時發(fā)現(xiàn)異常大的請求。讀取耗時讀取 body 的耗時如果突然變長可能是網(wǎng)絡(luò)或下游有問題。異常次數(shù)讀取失敗或緩存失敗的次數(shù)超過閾值就告警。這些指標可以接入 Prometheus Grafana配上告警規(guī)則一旦異常就能第一時間發(fā)現(xiàn)。6.4 我個人的幾條實戰(zhàn)心得最后分享幾條我在實際項目中總結(jié)出來的經(jīng)驗都是踩過坑之后才明白的第一條不要試圖在網(wǎng)關(guān)層做太多事情。網(wǎng)關(guān)的職責是路由和轉(zhuǎn)發(fā)body 緩存是為了滿足鑒權(quán)、日志等必要需求但不要把它當成業(yè)務(wù)處理的地方。能在下游服務(wù)做的就不要放到網(wǎng)關(guān)層。第二條緩存過濾器要盡量簡單。我見過有人在緩存過濾器里做參數(shù)校驗、做數(shù)據(jù)轉(zhuǎn)換、做業(yè)務(wù)判斷結(jié)果代碼越來越復雜bug 越來越多。緩存過濾器就只做一件事讀 body、存 body、重新封裝 body。其他的事情交給專門的過濾器去做。第三條上線前一定要做全鏈路測試。單元測試通過不代表集成沒問題集成測試通過不代表生產(chǎn)環(huán)境沒問題。我遇到過一次測試環(huán)境一切正常上了生產(chǎn)之后發(fā)現(xiàn)某個特定版本的客戶端發(fā)的請求body 格式和預期不一樣導致緩存邏輯出錯。所以上線前一定要用真實的客戶端做全鏈路測試。第四條保留降級開關(guān)。緩存過濾器萬一出問題要能快速關(guān)掉。我一般會加一個配置項gateway.body-cache.enabled默認開啟出問題時可以通過配置中心動態(tài)關(guān)閉讓請求直接透傳先保證業(yè)務(wù)可用再慢慢排查問題。第五條日志要打夠但不要打太多。緩存過濾器里至少要打三類日志請求進入時的基本信息路徑、方法、contentLength、緩存成功后的摘要信息緩存大小、異常時的詳細堆棧。但不要把完整的 body 都打到日志里一是性能問題二是安全問題可能包含敏感信息。這些經(jīng)驗看起來簡單但每一條背后都有真實的事故教訓。希望你在實現(xiàn)自己的緩存過濾器時能少走一些彎路。