簡(jiǎn)介這份PDF面向LTE網(wǎng)絡(luò)優(yōu)化工程師、無(wú)線通信運(yùn)維人員及通信專業(yè)學(xué)習(xí)者系統(tǒng)講解移動(dòng)性負(fù)載均衡MLB功能的原理與實(shí)現(xiàn)。內(nèi)容圍繞負(fù)載均衡的觸發(fā)模式、目標(biāo)小區(qū)選擇與執(zhí)行三個(gè)階段展開(kāi)涵蓋基于PRB利用率、同步態(tài)用戶數(shù)等觸發(fā)條件候選鄰區(qū)篩選規(guī)則、負(fù)載信息交互流程以及熱點(diǎn)區(qū)域、大型活動(dòng)等典型應(yīng)用場(chǎng)景幫助讀者理解如何將高負(fù)載小區(qū)的部分UE遷移至低負(fù)載鄰區(qū)緩解資源分配不均與網(wǎng)絡(luò)擁塞。資源包共1個(gè)PDF文件約1.3MB內(nèi)容結(jié)構(gòu)完整適合作為日常優(yōu)化參考或技術(shù)培訓(xùn)材料。目前已有48人學(xué)習(xí)便于快速掌握MLB策略的判定邏輯與實(shí)施要點(diǎn)為L(zhǎng)TE網(wǎng)絡(luò)穩(wěn)定性與資源利用率提升提供實(shí)用指導(dǎo)。1. 從一份 PDF 標(biāo)題說(shuō)起ltemlb 負(fù)載均衡到底在解決什么問(wèn)題第一次看到「ltemlb負(fù)載均衡功能介紹.pdf」這個(gè)標(biāo)題很多人會(huì)愣一下ltemlb 是什么是某個(gè)開(kāi)源項(xiàng)目、某個(gè)內(nèi)部組件還是某個(gè)特定場(chǎng)景下的負(fù)載均衡方案我最初接觸它時(shí)也有同樣的疑問(wèn)。拆開(kāi)看ltem 大概率指向 LTE 或輕量級(jí)終端場(chǎng)景mlb 則是 Multi-Link / Multi-Load Balancing 的縮寫合起來(lái)就是面向多鏈路或終端接入場(chǎng)景的負(fù)載均衡能力。它要解決的核心問(wèn)題很具體當(dāng)多條鏈路、多個(gè)出口或多種接入方式同時(shí)存在時(shí)流量怎么分、按什么權(quán)重分、某條鏈路抖動(dòng)或掉線時(shí)怎么快速切換以及怎么保證等開(kāi)銷負(fù)載均衡下不出現(xiàn)某條鏈路被打滿、其他鏈路閑著的情況。這份 PDF 標(biāo)題背后對(duì)應(yīng)的是一套可落地的鏈路調(diào)度與流量分配機(jī)制。它適合誰(shuí)做邊緣網(wǎng)關(guān)、多網(wǎng)聚合、終端接入優(yōu)化的工程師以及需要在多鏈路環(huán)境下做流量調(diào)度的運(yùn)維和開(kāi)發(fā)人員。如果你手頭正好有多條上行鏈路卻只會(huì)做簡(jiǎn)單的輪詢或主備那 ltemlb 這類方案值得花時(shí)間搞清楚。接下來(lái)我不復(fù)述那份 PDF而是按一線實(shí)操的路徑把 ltemlb 負(fù)載均衡從概念、選型、配置到排錯(cuò)完整走一遍。2. ltemlb 負(fù)載均衡的調(diào)度原理與選型判斷2.1 多鏈路場(chǎng)景下輪詢?yōu)槭裁床粔蛴煤芏嗳说谝淮巫龆噫溌坟?fù)載均衡直覺(jué)就是輪詢第一條鏈路發(fā)一個(gè)包第二條鏈路發(fā)下一個(gè)包依次循環(huán)。這個(gè)做法在實(shí)驗(yàn)室里看著挺美一到真實(shí)環(huán)境就翻車。原因在于不同鏈路的實(shí)際可用帶寬、時(shí)延和丟包率并不相同。輪詢假設(shè)所有鏈路等價(jià)但現(xiàn)實(shí)中一條 100Mbps 的專線和一條 20Mbps 的備用鏈路按同樣權(quán)重輪詢結(jié)果就是慢鏈路被壓垮、快鏈路吃不飽。ltemlb 這類方案的核心思路是「按鏈路開(kāi)銷做加權(quán)調(diào)度」。開(kāi)銷可以綜合帶寬、時(shí)延、丟包率和當(dāng)前隊(duì)列深度計(jì)算最終每條鏈路拿到一個(gè)權(quán)重。流量按權(quán)重比例分配而不是簡(jiǎn)單輪流。等開(kāi)銷負(fù)載均衡是其中一種特殊情況當(dāng)多條鏈路的開(kāi)銷評(píng)估結(jié)果接近時(shí)調(diào)度器會(huì)把流量盡量均攤避免某條鏈路因?yàn)槲⑿〔▌?dòng)被過(guò)度懲罰。這個(gè)「等開(kāi)銷」不是指物理參數(shù)完全一樣而是指調(diào)度器評(píng)估后的開(kāi)銷值落在同一檔位。選型時(shí)要先問(wèn)自己三個(gè)問(wèn)題鏈路數(shù)量是固定還是動(dòng)態(tài)變化流量是 TCP 為主還是 UDP 為主對(duì)切換時(shí)延的容忍度是多少固定鏈路數(shù)、TCP 為主、容忍秒級(jí)切換的場(chǎng)景用基于權(quán)重的調(diào)度就夠鏈路頻繁上下線、UDP 為主、要求毫秒級(jí)切換的需要更激進(jìn)的探測(cè)和重調(diào)度機(jī)制。2.2 ltemlb 的調(diào)度器結(jié)構(gòu)與關(guān)鍵參數(shù)ltemlb 的調(diào)度器通常分三層鏈路探測(cè)層、開(kāi)銷計(jì)算層和流量分配層。鏈路探測(cè)層周期性發(fā)送探測(cè)包采集每條鏈路的 RTT、丟包率和可用帶寬估計(jì)開(kāi)銷計(jì)算層把原始指標(biāo)歸一化后加權(quán)求和得到每條鏈路的開(kāi)銷值流量分配層根據(jù)開(kāi)銷值反比計(jì)算權(quán)重再按權(quán)重把新流或數(shù)據(jù)包分配到具體鏈路。關(guān)鍵參數(shù)有四個(gè)探測(cè)間隔、開(kāi)銷平滑系數(shù)、權(quán)重更新周期和最小權(quán)重下限。探測(cè)間隔決定鏈路狀態(tài)變化的感知速度設(shè)得太短會(huì)增加探測(cè)開(kāi)銷設(shè)得太長(zhǎng)會(huì)切換遲鈍。開(kāi)銷平滑系數(shù)用于抑制抖動(dòng)常見(jiàn)做法是對(duì)新開(kāi)銷值和歷史開(kāi)銷值做指數(shù)加權(quán)平均。權(quán)重更新周期決定調(diào)度器多久重新計(jì)算一次權(quán)重太頻繁會(huì)導(dǎo)致流量震蕩太慢會(huì)跟不上鏈路變化。最小權(quán)重下限防止某條鏈路權(quán)重被壓到零后完全不被使用保留一條「后悔藥」通道。下面是一段用 Python 模擬開(kāi)銷計(jì)算和權(quán)重分配的示例幫助理解參數(shù)之間的關(guān)系import math def compute_cost(rtt_ms, loss_rate, bw_mbps, w_rtt0.4, w_loss0.4, w_bw0.2): # 歸一化RTT 和丟包率越低越好帶寬越高越好 rtt_norm min(rtt_ms / 200.0, 1.0) loss_norm min(loss_rate / 0.1, 1.0) bw_norm 1.0 - min(bw_mbps / 100.0, 1.0) # 加權(quán)求和得到開(kāi)銷開(kāi)銷越低鏈路越優(yōu) cost w_rtt * rtt_norm w_loss * loss_norm w_bw * bw_norm return max(cost, 0.01) # 防止除零 def compute_weights(costs, min_weight0.05): # 開(kāi)銷反比得到原始權(quán)重 raw [1.0 / c for c in costs] total sum(raw) weights [r / total for r in raw] # 應(yīng)用最小權(quán)重下限并重新歸一化 weights [max(w, min_weight) for w in weights] total sum(weights) return [w / total for w in weights] # 三條鏈路的實(shí)測(cè)指標(biāo) links [ {name: lte0, rtt: 35, loss: 0.01, bw: 80}, {name: lte1, rtt: 50, loss: 0.03, bw: 40}, {name: lte2, rtt: 28, loss: 0.005, bw: 60}, ] costs [compute_cost(l[rtt], l[loss], l[bw]) for l in links] weights compute_weights(costs) for l, c, w in zip(links, costs, weights): print(f{l[name]}: cost{c:.4f}, weight{w:.4f})這段代碼的邏輯說(shuō)明compute_cost把 RTT、丟包率和帶寬三個(gè)指標(biāo)歸一化到 0 到 1 之間再按權(quán)重求和。RTT 和丟包率越高開(kāi)銷越大帶寬越高開(kāi)銷越小。compute_weights用開(kāi)銷的倒數(shù)作為原始權(quán)重開(kāi)銷越低的鏈路權(quán)重越高。min_weight參數(shù)保證每條鏈路至少保留 5% 的流量避免某條鏈路被完全餓死。實(shí)際部署時(shí)w_rtt、w_loss、w_bw這三個(gè)權(quán)重需要根據(jù)業(yè)務(wù)類型調(diào)整實(shí)時(shí)音視頻場(chǎng)景提高 RTT 權(quán)重文件傳輸場(chǎng)景提高帶寬權(quán)重。2.3 等開(kāi)銷負(fù)載均衡的觸發(fā)條件與配置等開(kāi)銷負(fù)載均衡不是手動(dòng)開(kāi)啟的開(kāi)關(guān)而是調(diào)度器在計(jì)算完開(kāi)銷后自然進(jìn)入的一種狀態(tài)。當(dāng)多條鏈路的開(kāi)銷值差異小于某個(gè)閾值時(shí)調(diào)度器判定它們「等開(kāi)銷」此時(shí)權(quán)重會(huì)趨向均等。這個(gè)閾值通常設(shè)為最大開(kāi)銷與最小開(kāi)銷之比小于 1.2 到 1.5。配置時(shí)需要注意如果閾值設(shè)得太寬會(huì)把明顯較差的鏈路也拉進(jìn)等開(kāi)銷組導(dǎo)致整體性能下降設(shè)得太窄則頻繁退出等開(kāi)銷狀態(tài)權(quán)重反復(fù)震蕩。一個(gè)常見(jiàn)的配置片段如下用 YAML 描述鏈路和調(diào)度參數(shù)ltemlb: probe_interval_ms: 200 cost_smoothing: 0.7 weight_update_ms: 1000 min_weight: 0.05 equal_cost_ratio: 1.3 links: - name: lte0 device: wwan0 weight_hint: 1.0 - name: lte1 device: wwan1 weight_hint: 1.0 - name: lte2 device: wwan2 weight_hint: 0.8參數(shù)說(shuō)明probe_interval_ms設(shè)為 200 毫秒兼顧感知速度和探測(cè)開(kāi)銷cost_smoothing為 0.7表示新開(kāi)銷值占 70%歷史值占 30%這個(gè)比例在鏈路抖動(dòng)明顯的環(huán)境下可以調(diào)到 0.5 讓平滑更強(qiáng)weight_update_ms為 1000 毫秒每秒更新一次權(quán)重避免頻繁切換equal_cost_ratio為 1.3最大開(kāi)銷不超過(guò)最小開(kāi)銷的 1.3 倍時(shí)進(jìn)入等開(kāi)銷模式weight_hint是初始權(quán)重提示調(diào)度器啟動(dòng)時(shí)會(huì)參考它但后續(xù)會(huì)被實(shí)測(cè)開(kāi)銷覆蓋。3. 把 ltemlb 跑起來(lái)從零配置到流量驗(yàn)證3.1 環(huán)境準(zhǔn)備與鏈路探測(cè)配置動(dòng)手之前先確認(rèn)三件事每條鏈路的網(wǎng)卡是否獨(dú)立可識(shí)別、系統(tǒng)是否允許策略路由、探測(cè)包能否正常收發(fā)。以 Linux 環(huán)境為例用ip link確認(rèn)網(wǎng)卡狀態(tài)用ip route查看現(xiàn)有路由表。如果多條鏈路共用同一個(gè)物理網(wǎng)卡通過(guò) VLAN 區(qū)分需要先配置好 VLAN 子接口。鏈路探測(cè)是 ltemlb 的眼睛。常見(jiàn)做法是向每條鏈路的目標(biāo)地址發(fā)送 ICMP 或 UDP 探測(cè)包記錄往返時(shí)延和丟包。探測(cè)目標(biāo)不要只設(shè)一個(gè)至少設(shè)兩個(gè)不同網(wǎng)段的地址避免單個(gè)目標(biāo)故障導(dǎo)致誤判。下面是一個(gè)用 bash 做基礎(chǔ)探測(cè)的腳本示例#!/bin/bash # 對(duì)每條鏈路分別探測(cè)綁定源地址確保走指定鏈路 LINKS(wwan0:10.0.0.2 wwan1:10.0.1.2 wwan2:10.0.2.2) TARGETS(8.8.8.8 1.1.1.1) for link in ${LINKS[]}; do dev${link%%:*} src${link##*:} for tgt in ${TARGETS[]}; do # -I 指定源地址-c 3 發(fā)三個(gè)包-W 2 超時(shí)兩秒 rtt$(ping -I $src -c 3 -W 2 $tgt 2/dev/null | tail -1 | awk -F/ {print $5}) loss$(ping -I $src -c 3 -W 2 $tgt 2/dev/null | grep -oP \d(?% packet loss)) echo $dev - $tgt: rtt${rtt:-timeout}ms, loss${loss:-100}% done done這段腳本的邏輯-I參數(shù)綁定源地址確保探測(cè)流量從指定鏈路發(fā)出而不是被系統(tǒng)默認(rèn)路由帶走。-c 3發(fā)三個(gè)包取平均減少單次抖動(dòng)影響。-W 2設(shè)置兩秒超時(shí)避免探測(cè)卡死。輸出結(jié)果里 RTT 和丟包率就是后續(xù)開(kāi)銷計(jì)算的輸入。實(shí)際部署時(shí)這個(gè)腳本可以改成定時(shí)任務(wù)每 200 毫秒跑一次把結(jié)果寫入共享內(nèi)存或消息隊(duì)列供調(diào)度器讀取。3.2 權(quán)重分配與路由規(guī)則落地探測(cè)數(shù)據(jù)有了接下來(lái)要把權(quán)重變成實(shí)際的路由行為。Linux 下常用做法是配合ip rule和ip route做策略路由每條鏈路一張路由表調(diào)度器根據(jù)權(quán)重決定新連接走哪張表。對(duì)于 TCP 流量還可以用iptables的 statistic 模塊按概率打標(biāo)記再根據(jù)標(biāo)記選擇路由表。下面是一個(gè)配置示例假設(shè)三條鏈路分別對(duì)應(yīng)路由表 100、101、102# 創(chuàng)建三張獨(dú)立路由表 ip route add default via 10.0.0.1 dev wwan0 table 100 ip route add default via 10.0.1.1 dev wwan1 table 101 ip route add default via 10.0.2.1 dev wwan2 table 102 # 添加規(guī)則根據(jù)防火墻標(biāo)記選擇路由表 ip rule add fwmark 0x100 table 100 ip rule add fwmark 0x101 table 101 ip rule add fwmark 0x102 table 102 # 用 iptables 按權(quán)重打標(biāo)記權(quán)重 0.5/0.3/0.2 iptables -t mangle -A OUTPUT -m statistic --mode random --probability 0.5 -j MARK --set-mark 0x100 iptables -t mangle -A OUTPUT -m statistic --mode random --probability 0.6 -j MARK --set-mark 0x101 iptables -t mangle -A OUTPUT -m statistic --mode random --probability 1.0 -j MARK --set-mark 0x102邏輯說(shuō)明第一條 iptables 規(guī)則有 50% 概率把包標(biāo)記為 0x100走 wwan0第二條在剩余 50% 里再有 60% 概率標(biāo)記為 0x101實(shí)際概率是 30%走 wwan1第三條兜底剩余 20% 走 wwan2。這樣最終分配比例就是 50:30:20。參數(shù)調(diào)整時(shí)--probability的值需要根據(jù)調(diào)度器計(jì)算出的權(quán)重動(dòng)態(tài)更新可以寫一個(gè)守護(hù)腳本定期刷新 iptables 規(guī)則。注意iptables 規(guī)則是按順序匹配的概率設(shè)置要按從大到小排列否則后面的規(guī)則永遠(yuǎn)沒(méi)機(jī)會(huì)命中。另外這種方式只對(duì)新連接生效已有連接不會(huì)中途切換鏈路除非應(yīng)用層支持重連。3.3 用 iperf3 和抓包驗(yàn)證實(shí)際分流效果配置完不等于生效必須驗(yàn)證。最直接的方法是用 iperf3 打流同時(shí)在每條鏈路上抓包統(tǒng)計(jì)字節(jié)數(shù)。下面是一個(gè)驗(yàn)證流程# 在服務(wù)端啟動(dòng) iperf3 iperf3 -s -p 5201 # 在客戶端打流持續(xù) 30 秒 iperf3 -c server_ip -p 5201 -t 30 -P 4 # 同時(shí)在三個(gè)網(wǎng)卡上抓包統(tǒng)計(jì) tcpdump -i wwan0 -w /tmp/wwan0.pcap tcpdump -i wwan1 -w /tmp/wwan1.pcap tcpdump -i wwan2 -w /tmp/wwan2.pcap 打流結(jié)束后用tcpdump -r讀取 pcap 文件統(tǒng)計(jì)每個(gè)文件的總字節(jié)數(shù)再除以總字節(jié)數(shù)得到實(shí)際分流比例。如果實(shí)際比例和配置權(quán)重偏差超過(guò) 10%需要檢查三個(gè)地方探測(cè)數(shù)據(jù)是否準(zhǔn)確、iptables 規(guī)則是否被其他規(guī)則覆蓋、鏈路本身是否有丟包導(dǎo)致 TCP 重傳集中在某條鏈路。另一個(gè)驗(yàn)證手段是看每條鏈路的隊(duì)列長(zhǎng)度和丟包統(tǒng)計(jì)。用ip -s link show wwan0查看累計(jì)發(fā)送和丟棄計(jì)數(shù)如果某條鏈路丟棄計(jì)數(shù)持續(xù)增長(zhǎng)說(shuō)明權(quán)重給高了需要下調(diào)。這個(gè)反饋可以手動(dòng)調(diào)整也可以做成自動(dòng)閉環(huán)調(diào)度器讀取丟包計(jì)數(shù)超過(guò)閾值就臨時(shí)降低該鏈路權(quán)重。4. ltemlb 負(fù)載均衡的避坑與排查記錄4.1 鏈路探測(cè)正常但流量不走指定鏈路現(xiàn)象ping 測(cè)試每條鏈路都通RTT 和丟包率也正常但實(shí)際業(yè)務(wù)流量全部走默認(rèn)路由權(quán)重配置形同虛設(shè)。原因策略路由規(guī)則優(yōu)先級(jí)低于系統(tǒng)默認(rèn)規(guī)則或者 iptables 標(biāo)記沒(méi)有正確應(yīng)用到目標(biāo)流量。常見(jiàn)情況是ip rule添加的規(guī)則排在默認(rèn)規(guī)則32766之后導(dǎo)致永遠(yuǎn)不命中。解決用ip rule show查看規(guī)則順序確保自定義規(guī)則序號(hào)小于 32766。如果用的是 fwmark 方式用iptables -t mangle -L -v -n確認(rèn)標(biāo)記計(jì)數(shù)在增長(zhǎng)。另外檢查rp_filter是否開(kāi)啟多鏈路環(huán)境下反向路徑過(guò)濾可能把非對(duì)稱路由的包丟掉需要把對(duì)應(yīng)網(wǎng)卡的rp_filter設(shè)為 0 或 2。4.2 權(quán)重頻繁震蕩導(dǎo)致 TCP 性能驟降現(xiàn)象調(diào)度器日志顯示權(quán)重每秒都在大幅變化業(yè)務(wù)側(cè)表現(xiàn)為 TCP 吞吐量忽高忽低視頻會(huì)議卡頓。原因探測(cè)間隔太短加上開(kāi)銷平滑系數(shù)太低鏈路微小抖動(dòng)被放大成權(quán)重劇烈變化。TCP 連接在鏈路間切換時(shí)擁塞窗口和 RTT 估計(jì)需要重新收斂頻繁切換直接導(dǎo)致性能下降。解決把probe_interval_ms從 200 調(diào)到 500 甚至 1000把cost_smoothing從 0.7 降到 0.4 到 0.5讓開(kāi)銷值變化更平緩。同時(shí)把weight_update_ms設(shè)為探測(cè)間隔的 3 到 5 倍避免每次探測(cè)都觸發(fā)權(quán)重更新。對(duì)于 TCP 長(zhǎng)連接盡量在連接建立時(shí)確定鏈路不要中途切換。4.3 等開(kāi)銷模式下某條鏈路被靜默餓死現(xiàn)象三條鏈路開(kāi)銷評(píng)估接近理論上應(yīng)該均分流量但實(shí)際某條鏈路流量幾乎為零且沒(méi)有報(bào)錯(cuò)。原因最小權(quán)重下限設(shè)得太低或者權(quán)重計(jì)算時(shí)某條鏈路的開(kāi)銷值因?yàn)樗矔r(shí)抖動(dòng)被算得特別高反比權(quán)重趨近于零。等開(kāi)銷模式雖然會(huì)拉平權(quán)重但如果某條鏈路在進(jìn)入等開(kāi)銷之前就被壓到極低權(quán)重后續(xù)很難恢復(fù)。解決把min_weight從 0.01 提高到 0.05 甚至 0.1保證每條鏈路始終有流量經(jīng)過(guò)這樣探測(cè)數(shù)據(jù)才能持續(xù)更新不會(huì)陷入「沒(méi)流量→探測(cè)不準(zhǔn)→權(quán)重更低」的死循環(huán)。另外在權(quán)重更新時(shí)加入歷史權(quán)重慣性新權(quán)重 0.7 * 新計(jì)算值 0.3 * 歷史值避免單次異常把權(quán)重打到底。4.4 探測(cè)包和目標(biāo)業(yè)務(wù)流量走不同鏈路現(xiàn)象探測(cè)結(jié)果顯示 wwan0 質(zhì)量最好但實(shí)際業(yè)務(wù)流量卻從 wwan1 出去導(dǎo)致調(diào)度決策和實(shí)際情況不一致。原因探測(cè)包綁定源地址走了指定鏈路但業(yè)務(wù)流量沒(méi)有綁定被系統(tǒng)默認(rèn)路由或策略路由帶到了其他鏈路。這種情況在同時(shí)存在多條默認(rèn)路由時(shí)特別常見(jiàn)。解決確保業(yè)務(wù)流量的路由規(guī)則和探測(cè)流量一致。如果業(yè)務(wù)是容器或虛擬機(jī)發(fā)出的檢查容器的網(wǎng)絡(luò)命名空間和宿主機(jī)路由表是否同步。一個(gè)穩(wěn)妥做法是用網(wǎng)絡(luò)命名空間隔離每條鏈路探測(cè)和業(yè)務(wù)都在同一個(gè)命名空間內(nèi)避免路由串?dāng)_。4.5 鏈路切換后舊連接大量超時(shí)現(xiàn)象某條鏈路掉線后調(diào)度器很快把新流量切到其他鏈路但已有連接大量超時(shí)應(yīng)用層報(bào)錯(cuò)。原因鏈路切換只影響新連接的路由選擇已有 TCP 連接的五元組沒(méi)變?nèi)匀辉噲D從掉線鏈路發(fā)送數(shù)據(jù)直到 TCP 重傳超時(shí)才會(huì)斷開(kāi)。這個(gè)超時(shí)時(shí)間通常是分鐘級(jí)對(duì)業(yè)務(wù)影響很大。解決在調(diào)度器里加入連接跟蹤聯(lián)動(dòng)檢測(cè)到鏈路掉線后主動(dòng)清理該鏈路上的 conntrack 條目讓后續(xù)包觸發(fā)新連接建立。用conntrack -D -o wwan0可以刪除指定網(wǎng)卡的所有連接跟蹤條目。同時(shí)應(yīng)用層要配置合理的重連超時(shí)不要依賴 TCP 自身的重傳超時(shí)。5. 進(jìn)階技巧用歷史數(shù)據(jù)做權(quán)重預(yù)熱與回滾前面講的都是實(shí)時(shí)調(diào)度但真實(shí)環(huán)境里鏈路狀態(tài)變化往往有規(guī)律。比如某條鏈路在每天下午三點(diǎn)到五點(diǎn)丟包率明顯上升如果調(diào)度器每次都要等探測(cè)到才降權(quán)業(yè)務(wù)已經(jīng)受影響了。進(jìn)階做法是把歷史探測(cè)數(shù)據(jù)存下來(lái)用簡(jiǎn)單的時(shí)間序列模型做短期預(yù)測(cè)在鏈路質(zhì)量下降之前就提前調(diào)整權(quán)重。我一般會(huì)用最近 7 天的數(shù)據(jù)按小時(shí)聚合算出每條鏈路在每個(gè)小時(shí)的基線開(kāi)銷調(diào)度器啟動(dòng)時(shí)先用基線權(quán)重預(yù)熱再逐步切換到實(shí)時(shí)探測(cè)值。回滾機(jī)制同樣重要。權(quán)重調(diào)整本質(zhì)上是把流量從一條鏈路搬到另一條搬錯(cuò)了就是事故。我的習(xí)慣是每次權(quán)重更新幅度不超過(guò) 20%并且保留上一周期的權(quán)重快照。如果新權(quán)重生效后 30 秒內(nèi)業(yè)務(wù)側(cè)錯(cuò)誤率上升超過(guò)閾值自動(dòng)回滾到快照權(quán)重。這個(gè)閾值不要設(shè)得太敏感否則正常抖動(dòng)也會(huì)觸發(fā)回滾反而造成震蕩。驗(yàn)證預(yù)熱和回滾是否有效可以構(gòu)造一個(gè)模擬場(chǎng)景用tc命令給某條鏈路注入 10% 丟包觀察調(diào)度器多久降權(quán)、業(yè)務(wù)錯(cuò)誤率峰值是多少、回滾是否在 30 秒內(nèi)完成。下面是一個(gè)用tc注入丟包的示例# 在 wwan1 上注入 10% 丟包模擬鏈路質(zhì)量下降 tc qdisc add dev wwan1 root netem loss 10% # 觀察 60 秒后移除 sleep 60 tc qdisc del dev wwan1 root netem loss 10%這個(gè)測(cè)試能暴露調(diào)度器的響應(yīng)速度和回滾邏輯是否可靠。我踩過(guò)的坑是回滾閾值設(shè)得太高鏈路已經(jīng)丟了 30% 的包才觸發(fā)回滾業(yè)務(wù)已經(jīng)斷了一片。后來(lái)把閾值改成基于錯(cuò)誤率斜率而不是絕對(duì)值只要錯(cuò)誤率上升速度超過(guò)每秒 0.5% 就回滾響應(yīng)快了很多。還有一個(gè)細(xì)節(jié)權(quán)重預(yù)熱的數(shù)據(jù)不要用太久以前的。鏈路質(zhì)量受基站負(fù)載、天氣、周邊干擾影響7 天前的數(shù)據(jù)可能完全不適用。我一般只保留最近 3 天的數(shù)據(jù)并且每天凌晨重新計(jì)算基線。如果某條鏈路連續(xù)三天同一時(shí)段都出現(xiàn)質(zhì)量下降才把它寫進(jìn)預(yù)熱模型否則只作為參考。最后說(shuō)一個(gè)習(xí)慣每次調(diào)整 ltemlb 參數(shù)后不要只看調(diào)度器日志一定要用真實(shí)業(yè)務(wù)流量跑至少 10 分鐘同時(shí)抓包對(duì)比實(shí)際分流比例和配置權(quán)重。日志里的權(quán)重是調(diào)度器的「意圖」抓包看到的才是「事實(shí)」。這兩者不一致的時(shí)候問(wèn)題通常出在路由規(guī)則或連接跟蹤上而不是調(diào)度算法本身。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取