久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

HAProxy配置文件五段結構詳解:從零搭建HTTP負載均衡

HAProxy配置文件五段結構詳解:從零搭建HTTP負載均衡 第一次接觸 HAProxy 的時候大多數人都是被那堆配置項勸退的。老實說作為 Linux 下應用最廣的開源負載均衡器之一HAProxy 的配置文件反而沒那么玄乎——它核心就五段global、defaults、frontend、backend、listen。搞懂它們分別管什么再把幾個高頻參數吃透基本就能應對大部分場景了。這篇文章不聊那些花活只講 haproxy 基礎配置、配置文件結構和幾個最簡單實用的功能適合剛上手或者用了一段時間但一直靠復制粘貼的朋友。先說清楚 HAProxy 能干什么。它本質上是一個基于 TCP 和 HTTP 的高性能反向代理最常干的活就是負載均衡把用戶的請求按照某種策略分發(fā)到后面一組真實服務器上同時還要負責健康檢查——某臺后端掛了自動把流量摘掉等它恢復后再加回來。很多團隊也拿它做流量入口的統(tǒng)一收斂點順帶完成簡單的請求路由、訪問控制、監(jiān)控統(tǒng)計。它的特點就一個字穩(wěn)純 C 寫的單進程事件驅動在普通 x86 服務器上扛住幾萬并發(fā)并不稀奇配置正確的情況下跑幾年不重啟也沒問題。這篇文章我會用一套完整的 Web 負載均衡配置作為主線把 global、defaults、frontend、backend 四段逐行講清楚再用 listen 段演示一個最簡單的 TCP 轉發(fā)最后把平時最容易踩的坑列出來。下文中所有配置均基于 HAProxy 2.4 及更新版本較老版本個別參數略有差異但主體框架完全一致老版本用戶在用到具體參數時留意一下版本差異即可。1. HAProxy 配置文件的整體框架與定位1.1 為什么 HAProxy 的配置文件要分成五段理解 HAProxy 的配置最關鍵的一步是理解它的設計哲學接收端和轉發(fā)端分開描述。Nginx 里你經常在一個 location 或 server 塊里既寫監(jiān)聽的端口又寫轉發(fā)的目標但 HAProxy 偏不這么干它把“怎么接流量”和“往哪兒轉發(fā)”拆成兩個獨立對象也就是 frontend 和 backend。這樣的拆分有兩個顯而易見的好處。第一多個 frontend 可以共用同一個 backend。比如你有一個 80 端口的 HTTP 入口和一個 443 端口的 HTTPS 入口兩個入口收到的流量都可以轉發(fā)到同一組 Web 服務器上只在 frontend 這塊分別定義各自的監(jiān)聽方式后端邏輯完全復用。第二一個 frontend 也可以根據 ACL 規(guī)則路由到不同的 backend。比如同一個入口進來的流量路徑帶 /api/ 的轉發(fā)到接口服務集群其余走靜態(tài)頁面集群這只需要在 frontend 里加幾條規(guī)則不用動后端定義。listen 段則是把 frontend 和 backend 合并在一起寫的老式風格適合簡單場景一個端口進來直接轉到一個后端池沒有復雜的路由需求。它寫起來確實省事但一旦場景變復雜——比如多個不同端口、多個目標組——用 listen 會導致配置迅速膨脹且難以閱讀。我的建議是學習階段兩種都要會看新項目一律用 frontend/backend 分離式寫法。還有兩個特殊的段global 和 defaults。global 是進程級配置管的是 HAProxy 自身的行為比如運行身份、最大連接數、日志怎么發(fā)defaults 則是給后面所有 frontend/backend/listen 提供默認值的“模板段”里面寫的參數會被繼承后面的段如果重復定義同名參數就覆蓋它。理解繼承關系很重要這也是很多新手排查配置的盲區(qū)——你明明沒在 backend 里寫某項配置但它就是從 defaults 里繼承來的。1.2 五大配置段的職責邊界與繼承關系把五大段的職責邊界理清楚配置文件就看懂了一半配置段核心職責典型參數示例global進程運行級別非事務性daemon, user, group, maxconn, logdefaults提供全局默認參數供各段繼承mode, timeout, option, retriesfrontend流量入口定義監(jiān)聽端口與路由規(guī)則bind, use_backend, default_backendbackend后端服務器池定義轉發(fā)目標與策略server, balance, check, cookielisten入口后端合并定義適用簡單場景bind, server, mode, balance注意 global 段是特殊的它不受 defaults 的繼承機制影響因為它壓根就不是一個“流量處理單元”它是一個獨立進程的描述。defaults 的繼承對象是 frontend、backend、listen 這三個段。比如你在 defaults 里寫了timeout connect 5s那么后面所有的段即使自己不寫 timeout也會自動帶上這個值。如果你在某個 backend 里改了timeout connect 10s那只有這個 backend 用新值其他段仍然用 defaults 里的 5s。這段繼承邏輯實操中非常有用是配置精簡的核心。一個規(guī)范的單機配置文件通常就是 global 段十幾行 defaults 段十行左右 每個業(yè)務一個 frontend 一個 backend加起來四五十行就夠跑一個像樣的負載均衡了。不要刻意寫長HAProxy 配置的價值不在行數而在每個參數是不是真正合理。需要提醒的是defaults 里盡量只放真正的“通用默認項”別把業(yè)務相關的參數塞進去。比如有的人在 defaults 里寫balance leastconn結果后面所有不同業(yè)務的 backend 都默認用了這個算法但有的業(yè)務其實適合 roundrobin就容易出現流量分不均勻的怪現象。defaults 是兜底不是萬能池。2. 核心配置參數詳解從進程參數到 HTTP 功能搞清結構之后接下來就要鉆進細節(jié)里。HAProxy 的配置參數很多但基礎階段真正高頻使用的其實就那一二十個。我按使用場景把它們分成了四組每組都有實際意義和踩坑點逐組講透。2.1 global 段進程級參數與運行性能調優(yōu)global 段的參數不算多但每一個都影響運行方式。最常用的幾個如下global log 127.0.0.1:514 local0 info chroot /var/lib/haproxy pidfile /var/run/haproxy.pid maxconn 80000 user haproxy group haproxy daemon stats socket /var/lib/haproxy/stats mode 600 level admin逐行解釋一下關鍵項。log指定日志發(fā)送地址和 facility。這里寫的127.0.0.1:514 local0 info表示把日志通過 UDP 發(fā)給本機的 rsyslog 端口facility 用 local0日志級別 info。實操中很多人忽略這行導致出問題時啥都查不到。我強烈建議一開始就配上哪怕沒有獨立日志服務器發(fā)到本機 rsyslog 也足夠用了。日志是排查問題的第一手資料沒有日志的負載均衡等于盲人摸象。maxconn單進程最大連接數。這是一個在性能和資源之間取平衡的值不要盲目調大。它受限于文件描述符上限Linux 下單個進程默認 fd 上限通常是 1024你需要先在系統(tǒng)層面調大ulimit -n否則配置再大也只是個擺設。一個粗略的計算公式是maxconn × 每個連接約消耗 20~40KB 內存 若干 fd。如果機器內存是 16G按 40KB 一個連接算maxconn 設到 30 萬左右理論上可以但實際還要留出系統(tǒng)和其他進程的余量所以我一般建議按可用內存 / 64KB的 60%~70% 來估算寧可保守一點。daemon讓 HAProxy 以后臺 daemon 方式運行這是生產環(huán)境的標準姿勢。沒有這行的話HAProxy 會在前臺運行終端一關就退出了。調試的時候你反而可以臨時去掉 daemon 用前臺模式跑方便直接看輸出但正式部署一定要加回來。stats socket這個別小看。它暴露了一個 Unix socket讓運維員可以在本機執(zhí)行echo show info; show stat | socat stdio /var/lib/haproxy/stats這種命令直接查詢運行數據。配合level admin還可以在線啟用/停用服務器、調整權重是免重啟運維的核心入口。生產環(huán)境我強烈建議配置這個后面排查和做操作都會爽很多。chroot和user/group是安全相關項分別把進程困在指定目錄里和降權運行?;A的配置階段照抄即可但要注意 chroot 的目錄必須存在且 HAProxy 用戶有權限訪問否則啟動會直接報錯。2.2 defaults 段時間參數與通用選項的合理預設defaults 段是配置文件的“聯合作戰(zhàn)地圖”模版。我常用的基礎配置如下defaults mode http log global option httplog option dontlognull option http-server-close option forwardfor except 127.0.0.0/8 option redispatch retries 3 timeout http-request 10s timeout queue 1m timeout connect 10s timeout client 1m timeout server 1m timeout http-keep-alive 10s timeout check 10s maxconn 5000挑重點講。mode http表示默認以七層 HTTP 模式工作HAProxy 會解析請求報文可以做 URI 級的轉發(fā)、ACL、cookie 保持等功能。如果你的場景是純 TCP 轉發(fā)比如數據庫、Redis就要在對應的 frontend/backend 里改成mode tcp。注意 mode 是可以按段覆蓋的defaults 里寫 http某個 listen 段里寫 tcp 是合法的。option httplog開啟 HTTP 請求日志它會記錄請求方法、URI、狀態(tài)碼、響應字節(jié)數、耗時等信息。沒有這個選項日志里就只有 TCP 層的信息排查業(yè)務問題幾乎沒法用。option dontlognull用于過濾掉那些沒有產生任何數據的空連接——很多端口掃描或監(jiān)控探測會產生這種連接不打日志能省不少磁盤。option forwardfor是給后端的真實 IP 傳遞用的。HAProxy 作為代理時后端服務器看到的所有請求來源都是 HAProxy 自身的 IP這會導致后端拿不到客戶端的真實地址。開了這個選項后HAProxy 會往請求頭里追加X-Forwarded-For字段后端用這個字段還原客戶端 IP。做日志分析、限流、黑白名單都靠它。except 127.0.0.0/8的意思是本機發(fā)來的請求不加這個頭防止某些內部應用來源信息被錯誤改寫。option redispatch在高可用場景比較重要。當某個后端服務器因為資源耗盡等原因導致會話無法完成時HAProxy 可以把這個請求重新調度到其他健康的服務器上避免用戶一直卡在故障機上。代價是某些依賴會話一致性的應用未做會話共享的可能會出現狀態(tài)錯亂所以要不要開需要結合業(yè)務判斷但對大部分無狀態(tài) Web 服務來說是值得開的。timeout 系列是 defaults 里的重頭戲也是新手最容易牽連踩坑的地方。行為邏輯timeout connect與后端服務器建立 TCP 連接的超時時間。這個值不要設太大因為正常的局域網連接都在幾十毫秒內完成設 10s 已經非常保守了。如果后端網絡質量差建議排查鏈路而不是盲目調大這個值。timeout client客戶端與 HAProxy 之間的空閑超時時間。注意這說的是“空閑連接”的超時——也就是客戶端發(fā)送完請求后長時間沒有再發(fā)送下一個請求或讀取響應時HAProxy 會斷開連接。設太短會導致長輪詢、WebSocket 等連接被意外斷開設太長又容易積壓一堆半死不活的連接。timeout server與后端服務器之間的空閑超時時間。含義和 client 對應但作用于 HAProxy 到后端那一段。如果后端程序處理請求特別慢比如某些報表類的同步接口要跑幾十秒這個值就需要相應調大否則請求剛算好結果就被掐斷了。timeout http-request接收完整 HTTP 請求頭的超時時間。這個值建議設小一點因為它主要用來防慢速攻擊——惡意客戶端一點一點地發(fā)請求頭把連接拖死。10s 已經夠寬裕正常用戶不會花超過幾秒鐘填一個請求頭。timeout http-keep-aliveHTTP 長連接的空閑超時時間??蛻舳擞?keep-alive 維持連接、準備發(fā)下一個請求時空閑超過這個值就會被斷開。有個容易誤會的點timeout client和timeout server設的是“空閑超時”不是硬性的最長請求時間。比如 timeout server 1m不是說后端處理請求超過 1 分鐘就會被殺而是說后端和 HAProxy 之間如果超過 1 分鐘沒有任何數據交互這個連接就會被回收。理解這個區(qū)別很重要否則你會在一堆長耗時請求的場景下糾結為什么明明設了很大的值還是斷連。2.3 frontend 段流量入口與基礎路由規(guī)則frontend 的職責是“接住流量”所以配置的核心是監(jiān)聽地址和路由決策??匆粋€最簡單的 HTTP 入口frontend web_front bind 0.0.0.0:80 mode http default_backend web_serversbind 0.0.0.0:80表示監(jiān)聽本機所有網卡的 80 端口。如果你只希望內網網卡接收流量可以寫成bind 192.168.1.10:80這樣外網網卡即使到達了也不會進這個 frontend等于從入口做了隔離。default_backend是兜底路由前面的請求如果沒匹配到任何別的規(guī)則就統(tǒng)一走這個后端池。實際生產中使用 HTTP 入口一般會加一些簡單的 ACL 路由比如根據路徑區(qū)分 API 請求和靜態(tài)資源frontend web_front bind 0.0.0.0:80 mode http acl api_path path_beg /api/ use_backend api_servers if api_path default_backend web_servers這里acl定義了一個名為 api_path 的規(guī)則條件是請求路徑以 /api/ 開頭。use_backend根據 ACL 規(guī)則選擇對應后端池不滿足就落到 default_backend。這個模式在微服務網關和前后端分離架構里非常常見基本可以覆蓋大多數路由需求?;A階段掌握bind、acl、use_backend、default_backend就夠了。ACL 的匹配字段很多域名、URL、Headers、來源 IP、HTTP 方法等后面有需要再看具體字段的語法這里先不做擴展。另外frontend 的名字是可以隨便起的比如 web_front、api_front但同一個文件里不能重復。名字起得規(guī)范一些多人協作時能把閱讀成本降很多。2.4 backend 段后端服務器池、權重與健康檢查backend 是真正干活的段——定義一組服務器以及負載均衡策略。基礎模板如下backend web_servers balance roundrobin option httpchk GET /health http-check expect status 200 server web1 10.0.0.11:8080 weight 100 check inter 3s fall 3 rise 2 server web2 10.0.0.12:8080 weight 100 check inter 3s fall 3 rise 2 server web3 10.0.0.13:8080 backup check inter 3s fall 3 rise 2balance roundrobin是最常用也最好理解的負載均衡算法——按順序輪流把請求分配給后端服務器。它適合后端性能大致相同的場景。如果后端機器性能差異大可以用balance leastconn新建連接時優(yōu)先分給當前活躍連接數最少的服務器適合長連接和請求處理時間不穩(wěn)定的場景。還有一個常用的balance source它會根據客戶端 IP 做哈希同一個 IP 的請求總是落到同一個后端——對會話保持要求高又沒有共享 session 的老系統(tǒng)比較友好。三個算法的適用場景我整理了一張表算法核心邏輯適用場景注意點roundrobin輪流分發(fā)后端性能近似、連接多為短連接最通用無腦首選leastconn挑選活躍連接數最少者請求耗時差異大、長連接較多需要配合健康檢查使用source按客戶端 IP 哈希需要 IP 級別的會話粘滯后端增刪節(jié)點會導致哈希漂移weight表示權重范圍 1~256默認 1。比如一臺新機器剛上線可以先給個較小權重觀察表現穩(wěn)定后再調正常。注意動態(tài)調整權重有兩種方式一種改配置 reload一種通過前面的 stats socket 執(zhí)行set weight web_servers/web1 50在線調整。后者對線上流量無感是非常實用的運維技巧。check參數是健康檢查的開關。沒有這個參數HAProxy 會把請求送到一個已經宕機的服務器上然后超時報錯。加上check后HAProxy 會按照inter 3s的間隔、每 3 秒對后端做一次健康探測。fall 3表示連續(xù) 3 次探測失敗就把節(jié)點標記為 DOWNrise 2表示連續(xù) 2 次成功后重新標記為 UP。這兩個值要按業(yè)務敏感度調后端重啟速度快的可以設小一點減少流量的空閑時間后端啟動慢比如 Java 應用冷啟動需要幾十秒的rise 就要設大一點防止剛起來還沒就緒就被塞流量。option httpchk GET /health配合http-check expect status 200把健康檢查從簡單的 TCP 端口探測升級成 HTTP 級別的探測。這非常關鍵——一個后端進程可能在正常運行但業(yè)務邏輯已經無法響應了比如數據庫連不上、內部線程池耗盡純 TCP 探測根本發(fā)現不了只有 HTTP 探測能真實反映業(yè)務健康度。幾乎所有面向用戶的 Web 服務都應該在后端應用里實現一個返回 200 狀態(tài)的 /health 接口然后在這里配置對應的健康檢查。沒有健康檢查的負載均衡等于把命運交給了運氣。還有一個backup參數值得了解加上后這臺服務器只在其他非 backup 節(jié)點都不可用時才接收流量。這是一種冷備策略。注意 backup 節(jié)點平時不接流量健康檢查照常執(zhí)行一旦切換到它它會默默抗住所有流量所以要對它的處理能力有清晰認知。別把它當普通節(jié)點用。3. 從零搭建一個 HTTP 負載均衡的完整配置配置文件每個段都過了基礎的關現在把它們拼起來完整走一遍實操流程。假設場景你有三臺后端 Web 服務器IP 分別是 10.0.0.11、10.0.0.12、10.0.0.13端口都是 8080它們對外提供相同的 HTTP 服務?,F在要在前臺的一臺 2C4G 的 Linux 服務器上部署 HAProxy監(jiān)聽 80 端口實現負載均衡、健康檢查、監(jiān)控頁面這三個基礎功能。3.1 環(huán)境準備安裝與目錄規(guī)范先裝 HAProxy。Debian/Ubuntu 系列直接用系統(tǒng) apt 源安裝apt install -y haproxyCentOS/RHEL 系列yum install -y haproxy系統(tǒng)包管理安裝的版本不一定是最新的但勝在穩(wěn)定和干凈適合不折騰的生產環(huán)境。安裝完成后配置文件默認在/etc/haproxy/haproxy.cfgHAProxy 進程以 haproxy 用戶運行。安裝后先驗證一下版本不同主版本的參數兼容性有差異haproxy -v看到輸出后記下版本號后面查閱文檔時用的都是對應版本的行為。我下面展示的配置兼容 1.8 到 2.x 的范圍內常用的參數但如果你用的是 3.x 新版?zhèn)€別寫法要參照官方文檔調整。另外一個容易被忽略的目錄管理建議把/etc/haproxy下的配置做成haproxy.cfg主文件加多個獨立片段文件的方式主文件里用include /etc/haproxy/conf.d/*.cfg引入。這樣每個業(yè)務模塊一個文件互不干擾后續(xù)維護時找一個業(yè)務改一個文件不會在巨型單文件里反復翻找。3.2 完整配置逐行注釋版下面就是整合后的完整配置。這個配置我直接在生產環(huán)境里驗證過重點參數都有注釋global log 127.0.0.1:514 local0 info maxconn 20000 user haproxy group haproxy daemon stats socket /var/lib/haproxy/stats mode 600 level admin defaults mode http log global option httplog option dontlognull option forwardfor except 127.0.0.0/8 option redispatch retries 3 timeout http-request 10s timeout queue 1m timeout connect 10s timeout client 1m timeout server 1m timeout http-keep-alive 10s timeout check 10s frontend web_front bind 0.0.0.0:80 default_backend web_servers # 可選啟用完整統(tǒng)計頁面 stats enable stats uri /haproxy-stats stats realm HAProxy\ Statistics stats auth admin:YourStrongPass stats refresh 30s stats admin if LOCALHOST backend web_servers balance roundrobin option httpchk GET /health http-check expect status 200 server web1 10.0.0.11:8080 weight 100 check inter 3s fall 3 rise 2 server web2 10.0.0.12:8080 weight 100 check inter 3s fall 3 rise 2 server web3 10.0.0.13:8080 backup check inter 3s fall 3 rise 2一段一段說。global 里maxconn 20000這是一臺 2C4G 服務器比較合理的估算值。硬要算的話按每個連接約 30KB 內存值20000 個連接最多占用約 600MB 內存加上進程本身和系統(tǒng)開銷4G 內存夠用。實際情況是 Web 短連接場景下同時到達 2 萬的連接數已經是很大的并發(fā)量了初期的服務完全不需要設更高。defaults 里的參數在上面已經全部解釋過不再重復。注意這臺前臺的 80 端口壓力不會太大所以 timeout 系列我都給了比較中庸的值如果想調優(yōu)再根據業(yè)務特征微調。frontend 段增加了一個統(tǒng)計功能。stats enable開啟頁面stats uri /haproxy-stats指定訪問路徑stats auth指定訪問用戶名和密碼stats refresh 30s表示頁面每 30 秒自動刷新。訪問http://前臺IP/haproxy-stats就能看到各后端的實時狀態(tài)包括當前連接數、會話總數、健康狀態(tài)等。這是個非常實用的運維頁面哪怕不做監(jiān)控系統(tǒng)集成手動看一眼也比猜強得多。stats admin if LOCALHOST限制只有本機訪問時才允許通過頁面修改后端狀態(tài)防止生產環(huán)境被人惡意操作。這里有個細節(jié)要提醒stats uri的路徑不要和業(yè)務路徑沖突。如果業(yè)務里剛好有/haproxy-stats這個路徑那就會被統(tǒng)計頁“劫持”。所以在規(guī)劃路徑時建議選一個業(yè)務永遠不會用到的路徑或者直接在文件名上加個隨機字符串前綴。backend 的三臺服務器中web1、web2 是正常節(jié)點web3 是 backup 冷備。健康檢查用的是GET /health后端應用需要實現這個接口正常時返回 200異常時返回非 200 狀態(tài)碼HAProxy 就會把節(jié)點自動摘除。3.3 配置校驗、啟動與常見啟動問題配置寫完后先做語法校驗再啟動。這個習慣極其重要不要跳過haproxy -c -f /etc/haproxy/haproxy.cfg-c表示僅檢查配置輸出提示說明配置有效Configuration file is valid如果配置里有錯誤它會明確打印出錯的參數和行號。這個校驗操作是零成本的幾秒鐘的事卻能把大量奇葩問題攔在重啟之前。校驗通過后有兩種啟動方式。用 systemd 管理systemctl restart haproxy systemctl status haproxy另一種方式是直接以前臺模式跑一下做快速驗證尤其是排查啟動時的問題非常方便haproxy -f /etc/haproxy/haproxy.cfg前臺運行的好處是日志直接打到終端啟動報錯一目了然。確認沒問題再CtrlC停掉改用 systemd 正式啟動。啟動后立刻做三件事第一驗證端口監(jiān)聽。ss -lntp | grep :80確認 80 端口已被 HAProxy 監(jiān)聽。第二驗證負載均衡。從本機用 curl 連續(xù)請求幾次后端接口觀察統(tǒng)計頁面的各節(jié)點請求數是否大致均勻增長。如果全跑到一臺機器上八成是算法配置有誤或健康檢查把大部分節(jié)點標 DOWN 了要看統(tǒng)計頁確認。第三驗證健康檢查。停掉其中一臺后端的 Web 服務等待約 10 秒覆蓋 inter 3s × fall 3 的周期再到 HAProxy 統(tǒng)計頁上看該節(jié)點應該已經變成紅色 DOWN 狀態(tài)。此時繼續(xù)發(fā)起請求流量只分布在剩余健康節(jié)點上。重啟這臺后端服務后等待 rise 2 × inter 3s 周期節(jié)點恢復 UP流量自動重新分布。這個驗證過程建議每次變更配置后都做一遍防止配置在“看起來正常”的狀態(tài)下對故障毫無反應。4. 用 listen 段實現一個最簡單的 TCP 轉發(fā)前面講的都是 HTTP 層面的負載均衡但 HAProxy 最初的優(yōu)勢其實在于 TCP 層的四層轉發(fā)能力。它的性能天花板很高很多團隊用它來轉發(fā) MySQL、Redis、各種自研 TCP 協議流量效果同樣出色。4.1 listen 段寫法和適用場景當場景非常簡單——一個端口進、一個端口出、不需要復雜的路由判斷——listen 段是最低成本的方案。看一個經典例子把本機的 3306 端口流量轉發(fā)到兩臺數據庫服務器上實現 MySQL 的讀寫分離或高可用入口這里以讀流量均衡為例listen mysql_front bind 0.0.0.0:3306 mode tcp balance roundrobin option tcplog server db1 10.0.0.21:3306 weight 100 check inter 5s fall 3 rise 2 server db2 10.0.0.22:3306 weight 100 check inter 5s fall 3 rise 2兩行的體量就完成了一個四層 TCP 負載均衡。mode tcp告訴 HAProxy 不要解析上層協議直接把 TCP 流量按字節(jié)流透傳開銷極小。這里option tcplog替代了 HTTP 場景的 httplog記錄 TCP 層的連接信息。listen 段的寫法在結構上的角色是 frontend 和 backend 的合體bind 定義入口server 定義目標池平衡策略直接寫在同一個塊里。適用場景就是入口和目標都唯一的簡單轉發(fā)如果你的場景里有多個不同入口要轉到不同目標還是用 frontend/backend 分離結構更清晰。4.2 tcp 模式下的健康檢查細節(jié)TCP 模式的健康檢查默認是純 TCP 連接探測HAProxy 去嘗試連一下后端的 IP:端口能連上就算健康。對 MySQL 來說這個探測方式夠用——如果能建立 TCP 連接通常意味著 mysqld 進程在監(jiān)聽端口但如果 MySQL 服務還在但業(yè)務層面已經卡死純 TCP 探測就會誤判為健康。進階做法是用更精確的業(yè)務級探測。比如 MySQL 場景可以配置option mysql-check user haproxy_check它會用指定的 MySQL 賬號連接一次后端用真實的認證流程做健康檢查這比 TCP 端口探測可靠得多。類似的還有 Redis 的option redis-check、PostgreSQL 的option pgsql-check。各數據庫場景的健康檢查做對了之后故障切換的準確率會提升一個量級。另外注意 TCP 模式下沒有option forwardfor這類 HTTP 頭操作后端的客戶端 IP 獲取方式不能在 HAProxy 層解決只能在業(yè)務應用層自行記錄對端地址此時對端地址就是 HAProxy 的 IP無法直接還原真實客戶端 IP。如果你的業(yè)務必須拿到真實客戶端 IP建議改用 proxy protocol這個是另一個進階話題基礎階段先了解有這個解決路徑即可。5. 常見問題與排查技巧實錄HAProxy 本身運行極穩(wěn)定真正的故障大多來自配置不當或周邊環(huán)境。下面這些問題是我實操中遇到頻率最高的每一個都有具體的現象和排查路徑。5.1 配置正確但啟動失敗端口權限與語法錯誤“配置文件明明校驗過了怎么啟動還是失敗”這是我被問過最多的問題之一。校驗通過只能說明語法沒有基本錯誤很多運行時問題需要啟動才會暴露。最常見的是非 root 用戶綁定 80 或 443 端口失敗。Linux 約定 1024 以下的端口只有 root 才能綁定HAProxy 默認以 haproxy 用戶運行如果 bind 了 80 端口又沒有配置特權啟動會提示Permission denied。解決辦法有幾種最常見的是保持 bind :80 寫法然后讓 HAProxy 以 root 身份啟動后切換到 haproxy 用戶global 里的 user/group 配置會在綁定完端口后才生效也可以加setcap cap_net_bind_serviceep /usr/sbin/haproxy給可執(zhí)行文件單獨授權但這在部分系統(tǒng)上需要額外配置。最簡單穩(wěn)妥的方式是讓 HAProxy 先以 root 啟動綁定端口后再切換到低權限用戶這也是全局配置里推薦的標準姿勢。另一個坑是配置文件里殘留了 Windows 換行符\r\n。把文件從 Windows 機器上編輯后傳到服務器上HAProxy 解析到行尾的\r就會報格式錯誤或參數異常。解決方式是用sed -i s/\r$// /etc/haproxy/haproxy.cfg清洗一遍再校驗。還有一個隱蔽的坑include引入的片段文件里如果定義了重名的 frontend 或 backend 名字啟動時會直接報duplicate name。這種問題在多人協作時尤其容易踩建議每個業(yè)務的配置文件頂部都寫清楚業(yè)務名和占用端口做一層清單登記從根源上避免撞名。5.2 能啟動但轉發(fā)不正常健康檢查引發(fā)的“靜默故障”很多“奇怪”的轉發(fā)問題本質上都是健康檢查沒配好。最典型的場景HAProxy 啟動了端口也監(jiān)聽了但請求梭到后端全部 503 或 504。查統(tǒng)計頁往往能看到節(jié)點狀態(tài)是 DOWN。排查思路分三步。第一步確認后端的 /health 接口是否真的返回 200。有的應用把健康檢查路徑寫錯了比如后端實際是/actuator/health配置里卻寫成/health返回 404HAProxy 根據http-check expect status 200判斷為不健康節(jié)點被摘除流量自然全掛。第二步確認 HAProxy 到后端的網絡是否通。用telnet 10.0.0.11 8080手動測試。第三步確認健康檢查超時時間是否合理。timeout check如果設得太短比如 1s而健康檢查接口本身響應較慢例如要查數據庫狀態(tài)需要 2s那每次探測都超時節(jié)點會反復抖動在 UP/DOWN 之間流量時通時斷。這種抖動比完全 DOWN 更折磨人因為它表現成偶發(fā)的 502非常難定位。我自己調試這類問題最常用的伎倆是開日志看。把 rsyslog 配好然后請求幾次出問題的接口去 /var/log/haproxy.log 里看那一行日志的狀態(tài)碼和耗時基本能判斷出問題出在 HAProxy 本身還是后端。日志里如果顯示后端返回 503問題大概率在后端如果顯示連接超時問題大概率在 HAProxy 到后端這條鏈路上。5.3 流量分布不均算法選擇與節(jié)點狀態(tài)排查流量分布不均是另一個高頻問題。你配置了 roundrobin但統(tǒng)計頁上每個節(jié)點的流量卻有明顯的傾斜甚至全跑在同一臺上。第一件要查的事那臺“偏瘦”的節(jié)點是不是處于 DOWN 或 MAINT 狀態(tài)。MAINT 表示節(jié)點被管理員手動停用或正在維護它不會接任何流量觀察這個狀態(tài)首先要看是不是有人通過 stats 頁面或 socket 執(zhí)行了 disable。第二件要查的事后端節(jié)點是否真的在 CHECK 狀態(tài)。如果配置里漏寫了check參數HAProxy 默認不會對這個節(jié)點做健康檢查但這反而會讓流量正常發(fā)過去——除非這臺機器本身都已經宕機了。如果一臺節(jié)點已經掛了但沒有配 checkHAProxy 還是會固執(zhí)地把流量往它上面發(fā)表現就是一部分請求超時、一部分成功。第三件事才是回顧算法本身。roundrobin 在連接數少時表現可能顯得“不均勻”——它按請求輪轉但如果客戶端使用了 keep-alive連接超時前會連續(xù)復用同一個后端連接長時間看統(tǒng)計頁就發(fā)現某些節(jié)點連接數特別多。這不是配置錯誤而是連接復用的正?,F象。如果你希望更均勻可以把模式改成leastconn或者減小timeout http-keep-alive強制更頻繁地建立新連接。5.4 連接頻繁斷開或超時timeout 參數的全鏈路思維和 timeout 相關的問題排查時一定要有“全鏈路”視角。一次完整請求經過的鏈路是客戶端 ? HAProxy ? 后端。任何一個環(huán)節(jié)的空閑超時都可能掐斷連接但表現往往都集中在前后端兩側的服務端日志里很難直接看清。舉例說明某業(yè)務是前端頁面定期向后端輪詢數據間隔 20 秒。如果timeout client設成 10s那么頁面發(fā)起下一次輪詢時客戶端發(fā)現之前的空閑連接早被 HAProxy 回收了于是重新走 TCP 握手建立新連接。這個現象本身不是錯誤但會讓網絡連接數量持續(xù)增高。如果后端的應用框架比較陳舊頻繁重連時會積累 TIME_WAIT日積月累可能導致端口耗盡。這類問題的排查思路是到統(tǒng)計頁看每個節(jié)點的活躍連接數再結合實際業(yè)務的長連接間隔反推 timeout 是否合理。還有一類和 timeout 相關的“事故現場”后端程序臨時卡頓導致某臺節(jié)點積壓了大量慢請求這些請求的處理時間超過了timeout serverHAProxy 直接把后端連接斷開客戶端收到 504。后端恢復后積壓的請求又瞬間全部集中到它身上引發(fā)雪崩。這種場景下合理做法是配合隊列和時間參數雙重限制在健康檢查層面提前摘除“亞健康”節(jié)點而不是單純調大 timeout 去硬扛。不過這個話題屬于高可用調優(yōu)范疇基礎階段先把每個 timeout 的語義理解到位遇到問題時能做到準確定位就算達標了。寫在最后的一點經驗這套配置跑熟之后HAProxy 在項目里基本就是個“透明但可靠”的存在了。不要急著上那些花哨功能先把負載均衡、健康檢查、日志、監(jiān)控頁這四個基礎能力用扎實日常運維就會輕松一大截。我個人在實際操作中養(yǎng)成的習慣是每次改完配置先執(zhí)行一遍haproxy -c -f校驗然后立刻看日志確認新配置對流量沒有異常影響。這個習慣幫我擋掉了不少線上事故建議你也試試。下一篇文章可以聊 ACL 規(guī)則和高級路由到時候見。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
韩国一级婬片A片AAAAA| 亚洲一区二区三区麻豆传媒| 亚洲欧美伦综合| 女人的久久久| 九九久久玖玖| 亚春色色| 日欧美色| 色婷视频| 国产精品自拍xxxx| 欧美不卡五十路| 欧美亚洲se91| 丰满人妻-区二区三区免费| 日本羞羞的视频在线播放| 99国内熟女露脸视频| 国产成人无码久久精品| WWW啪啪的com| 天天躁日日躁AAA片李宗瑞| 国产97色在线| 一二三区视频在线观看| 99久在线精品99re8a| 国内毛片无码一级毛片| 国产操偷| 99啪啪视频| 亚洲导航深夜福利| 人人模人人看| 深夜福利黄片| 免费一级精品啪啪视频| 天天操天天日天天干| 欧美国产精品久久九九| 天美传媒婬乱在| 蜜桃精品一区二区三区久在线| 偷拍 精品另类 凸凹了四区| 免费一级视频特黄色大片| 精品国产Av无码久久久亚洲| 秋霞网无码| 欧美人妻制服| 9.1小视频| 亚洲色综网| 久久精品福利影院| 操操AV电影| 国产99 中文字幕日韩小视频| 日韩肏逼视频| 97超碰人人操人人操| 天天躁日日躁狠狠狠躁| 色臀AV| 情色五月天就去干| 人妻免费观看| 熟女网站最新| 麻豆AV一区二区| 精品久久一区二区三区四区五区| 美國A片| 亚洲精品白浆高清久久久久久| 黑人免费福利视频| 日韩免费在线视频观看| 脫衣舞一区二区三区| 国产成人91一区二区三区| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 国产福利精品最新在线| 99久热| 大色综合网| 国产亚洲精品第一最新| 首页亚洲国产高跟丝袜诱惑视频| 亚洲啪啪性视频| 国产亚洲色婷婷久久99精品91葵花宝典 | 国内外激情在线| 日韩电影免费网站麻豆视频| 国产国产亚洲一二三久久| 视频在线97| 日本天天干天天日一区| 亚洲丝袜在线观看| 国产v片在线免费观看| 秋霞免费无码视频日韩A片| 三级日本一区二区三区| 性无码专区2020| 久久亚州精品成人Av无| 综合欧美日本三级| 男人干美女| 天堂亚洲精品久久老牛| 黄片aaaaa一区| 欧美日韩国产三级黄色| 欧美成不卡网| 天天综合麻豆视频| 日日骚AV| 中文字幕性感少妇av| 激情五月天视频| 婷婷五月花| 大鸡吧尹人在线| 18岁禁 茉莉成人久久| 黑丝日韩av丝袜av| 精品69网| 欧美性爱中文字幕无线码| 国产成人久久久精品免费AV| 伊人久久国产免费观看视频| 中国特猛少妇色xxx| 乱操乱伦AV| 两性综合网| 97色爱| 丁香五月综合| 色一射色一射| 这里都是精品| caoni国产亚洲av| 亚洲欧洲网站免费观看| 最新加勒比丝袜在线| 麻豆伊人网| 99视频自拍区| 中文字幕日韩人妻视频一区二区三区| 亚洲 se图 欧美电影| 亚洲交换| 男人天堂黄片| 德国一二三不卡| 欧美色图欧美| 人妻中文在线| 亚洲脚交| 免费一级视频特黄色大片| 久久欲| 成人av动漫在线观看| 九九九九一区| 26uuu最新| 欧美天天综合在线| 性站 | 日韩卡一卡二卡三在线| 欧美日本成人一区二区| 秋霞免费无码视频日韩A片 | 亚洲色图 91| 亚洲第一免费视频| 成人天天看站长推荐| 日韩人人精品| 黄片无码在线制服| 综合网欧| 97超碰免费生活| 蜜乳AV.COM| 成人午夜高潮av猛片| 久久久精品网| 国产精品一区二区黄片| 精精品人妻一区二区三区| 91爰爱欧美| 人人模人人看| 91天美传媒精品| 97九色| 99热精品在线播放| 日本操逼视频免费| 在线黄色污污网站| 亚洲国产成人精品无码专区| 91伊人久久在线| 天天色,天天干,天天干| 97chaopenrihan| 婷婷AV一区二区三区| 乱操9999| 亚洲AV小说| 人妻少妇精品久久久久久| 亚洲国产一区二区三区四区国产| 亚洲高清男人天堂| 国产 亚洲 丝袜 制服| 伊人991| 国语精品内射在线观看| 97超碰久久| 亚洲熟妇无码一区二区三区| 欧美性爱第一区| 老女人碰碰在线碰碰视频| 精品蜜乳AV免费观看| 中文字幕黄色片| 秋霞一集毛片观看| yw尤物av无码点击进入麻豆| 亚洲第一色页夜| 欧美国产欧美在线观看| 日日日日做夜夜夜夜做无码97| 国产h片在线观看视频| Aa东京男人的天堂| 人妻在线臀日韩| 精品久久久久久AV无码| 91色伦| julia高潮后不停追击中出| 少妇熟女一区二区三区| 97久久久精品| 97在线观| 激情四射五月天| 九九香蕉网| 欧美综合网在线| 国产乱弄免费在线视频。| av在线观看不卡网站| 老鸭窝在线视频播放| 99re6国产精品99re在线| 自拍视频一区在线观看| 色欲久久99精品久久| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 黄页18禁| 台湾成人无码AV| 久久亚洲日韩熟女精品| 激情小说亚洲图片| 欧美少妇第一页| 日本操逼视频导航| 亚洲国产成人综合碰碰三级经典| #NAME?| 日本人妻一区二区| 亚洲操操| 国产九九九九九九九九| 午夜精品五区| 小日子操bb在线看| 国产二区三区免费视频| 九九九九精| 天天摸天天舔天天操| 中文字幕第页| 大奶啊啊好爽 | www. 男人天堂成人在线| 黄色乱论网站| 青青国产在线拍揄自揄拍| 人人操人人摸人| 嗯~啊~轻一点 视频| 亚洲图片视频小说| 操我啊啊啊啊啊| 天美av在线观看| 性猛交| 婷婷中文字幕| 人妻久久久久久久久久久久久久久| 久久久久免费看少妇A片特黄| 综合久久9| 丰满人妻一区二区中文| 男人 天堂 日 亚洲| 91麻豆天美国产欧美日| 精品一区二区啪啪啪| 激情久久久| 黄片com.| 久久亚洲AV成人精品无码| 国产一区二区成人av在线播放| 网友自拍第一页| 我要色综合网| 亚洲一级黄色毛片| 色噜噜国产精品视频一区二区| 懂色av中文字幕| 清纯唯美综合亚洲| 青青草一区二区高清无码视频| 99热这里只有精品1| 精品视频久久区| 麻豆三极片| 一区二区三| 试看60秒 爽| 欧美狠狠| 无码直播久久久| 国产精品干干干| 亚洲综合中文字幕有码| 97自拍视频在线| 伊人91| 亚洲欧美精品91| 男人兔费天堂| 精品十三区| 偷拍色图| 97欧美精品| 国产11页| 五月婷婷无码| 韩国女主播青草在线| 一区,二区,三区视频| 人妻在线大香蕉| 天天爱综合网| 一级成人性爱| 日本3级一区二区免费| 97人人模人人爽人人| 婷婷丁香五月综合| 中文在线久久字幕| 91 亚欧| 中文字幕丰满子伦无码专区在线视频最新 | 亚洲av噜噜噜噜噜噜| 9国产超碰| 日本色色的视频| 色情综合网| 97色爱| 搡老熟女国产1000部| 操人妻视频| 91一区二区三区蜜桃| 内射小黄片| 日韩美女操b| 天天操天天插| 熟女久久久| 丰满人妻一区二区三区四区| 色色福利| 夜夜狠狠躁日日躁色视频| 91精品国产91久久久久久久久久久久| 亚洲天堂久久久久久粉红视频| 岛国片在线播放| 婷婷久久五月天| 色情亚洲日本成人| 欧美高清色| 91c色| 六月婷激情福利天堂69| 后入式五六区| 免费黄色片。| 九九亚洲精品| 国产精品盗摄 偷窥盗摄| 91暧暧| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 色偷偷色偷偷欧美日韩| 亚洲天堂男人天堂| 欧美精品99久久久| 日韩av性爱在线播放| 欧美亚洲日韩16色| 中文字幕丰满子伦无码专区在线视频最新| 日韩人妻精品久久久久| 91网站18在线| 免费一级欧美片片线观看| 99热在线播放| 欧美激情精品久久久久久| 日韩成人小视频| 国产 亚洲 丝袜 制服| 国产久久视频| 青草综合| 久久一二区四| 天天射日日干| 偷拍欧美综合| 一区二区三区国产在线播放 | 青草影院内射高潮| 国产精品色| 欧美综合91| 女同性恋中文字幕| 久热在线精品免费观看| 翘臀vidoes| 五月天激情网站| 新97国产超碰| 国产精品无码av| 夜精品久无码| 免费伦费视频在线观看| 欧美日韩97在线| 国产乱伦性爱AV| chaopen97久久| 日本人妻中文字幕精品| 国产丝袜高跟美女av免费观看| 国产强奸91| 18禁久极品美女久久哦哟呀!| 一级毛片久久久久久久女人18| 91精品婷婷国产综合久久竹菊| 人人做天天爱| 国产suv一区二区三区6| 欧美 日韩 国产传媒| 被男人添B超爽视频| 日本大香蕉综合网红本杳社区| 国产做?爰片久久毛片?片美国| 超碰97久| 欧美亚洲影视| 人妻 中文 日韩| 国内精品久9| 人妻嗯啊啊在线播放 | 中文?日韩?免费?精品| 九九九久千久久激情蜜桃在线看 | 日韩欧美蜜桃精品久久中文字幕久久| 色婷婷香蕉| 国产自制av蜜乳| 国产精品suv一区| 国产一区在线免费播放| 欧美亚洲天天| 国产第11页| 99碰碰| 99久久久久久亚洲精品不卡| 99精品无码| 99爱久久视频频| 国产小视频91| 欧美性爱第一页久久| 国产人妻精品一区二区三区秋霞| 日韩久久三区| 亚洲精品亚洲人成人网| 国产真乱mangent| 日韩 欧美 国产 麻豆| 性色一线| 欧美一区二区亚洲天堂| 欧美探花网| 欧美牲| 9999久久久久| 欧美 亚洲 制服 精品| 亚洲国产无码精品首页久久久| 404操逼福利视频| 射综合网| 男人的天堂VA| 亚洲网污污污污| 人人妻人人狠人人| 综合国产影视三级| 放黄片放3级黄片没穿衣服| 99精品人人爽| 亚洲欧洲无码97久久精品| 久久婷综合| 秋霞久久亚洲精品成人| 一级乱伦网站| 国产熟妇 码视频户外直播| 欧美情色亚洲| 夜夜春夜夜操| 国产一| 亚洲色性情三级| 五月花婷婷| 免费看欧美美女黄色大片 | 五月香婷婷| 国产AV超爽| 奇米四色影视777久久久| 久久精品人妻一区| 午夜小电影在线插入淫高潮| 热热色中文无码| 天天肏夜夜肏| 色综91| 亚洲天天操| 天美传媒AV在线播放| 久久久91福利姬| 欧美少妇第一页| 资源在线观一 二| 欧美日韩岛国大片在线观看| 欧美强奸乱| 最新av网站在线观看| 亚洲精品国产精品成人| 国产精品久久久久久亚洲色欲| 午夜爽爽爽| 欧洲精品二区| 日日夜夜骑| 麻豆AV一区二区天美传媒| 亚洲91射| 男人天堂新| 97碰碰色| 香蕉国产精品麻豆亚洲欧美日韩| 国产性爱在线视频一区二区| 中文字幕一区二区三区高清| 欧美性爱免费短视频| 国产视频人人网| 视频一区二区三区精品| 免费黄色片。| 偷拍偷窥与盗摄视频专区| 中文字幕在线免费观看2| 60秒不遮不挡| 国产精品国产亚洲区艳妇糸列| 小说区 图片区色 综合区| 超碰97人人cao| 日韩图区 偷拍| 欧美日韩一区二区三区四区蜜桃| 97人妻碰碰中文无码久热丝袜| 人妻久久久| 青青草伊人久久| 91丝袜美腿片| 农村妇女精品一二区| 国产精品女aA片爽爽视频| 欧美探花网| 天天躁日日躁AAAAXXXX国产 | 日日夜夜干| 人妻精品一区二区全免费| 久久亚洲天堂| 一中国女人毛片水真多| 操碰97| 久久久一级| 色欧美在线| 亚洲精品九九九| 亚欧免费| 欧洲无码一区二区| 在线小说视频一区| 国产乱伦搜索结果91P| 日本狂喷奶水在线播放212| 丁香六月激情综合| 久久色一区二区| 日夜精品| 国产中文精品一区二区在线观看| 久久人妻丝袜一区二区三| 国产精品久久久九九九| 麻豆久久精品亚洲精品88| 亚洲人妻中文高清| 精品十三区| 妇女一区二区三区| 艹少妇网站| 麻豆AV一区二区| 综合自拍| 婷婷天堂站| 91爱看| 久久久精品91八戒| 翘臀vidoes| 嗯~啊~轻一点 视频| av强奸乱轮| 免费农村成人少妇人妻Aa一区二区视频| 啊啊啊啊啊舒服| 午夜福利1区2区3区| 91亚州日韩高清| 老色鬼成人精品视频下载大在线观看| 探花一区二区三| 亚洲成人一二三区| 校园春色亚洲| 另类天堂| 亚洲高清91| 欧美成人午夜免费福利785| 国产乱码精品久久久久久| 国产精品久久久吖| 中文字幕 一区二区 亚洲无码| 夜夜夜夜久久久久| 国产一级不卡在线观看| 区二区亚洲婷| 国产黄片在线免费观看| 夜夜爽爽夜夜精品视频| 蜜乳AV.COM| 久久骚少妇| 人人操我人人干| 欧美日韩婷婷中文| 国产九九久久久精品| 日韩一级久久毛片| 密臀AV在线| 亚洲另类小说卡通动漫| 久久久久密臀视频| 国产在线能看的你懂的| 99久久99九九99九九九| 另类图片五月天| 亚洲色图图片| 久久黄黄黄| 黄片免费视频2019| 久久社区一区二区三区| 99操| 国模不卡| 人妻少妇久久| 九九色色| 免费视频在线一区二区不卡| 久久免费老司机精品| 欧美18老人禁| 欧美亚洲se91| 久久乐| 中文字幕人妻丝袜乱一区三区| 色狠狠 - 百度| 久久99久久99精品天美传媒棢·纸:.| 996热| 韩国一级做a久久久久| 97超碰天天| 日韩性爱免费视频在线网站| 骚货操死你| 天天综合网~69| 亚洲色图91| 探花一区二区三| 91人妻久久久久久久久久久久久| 色色色色日本| 在线观看综合精品亚洲| 丁香六月婷婷久久综合| 日韩欧美亚欧在线视频| 精品九九淫乱男| 97操操| 中文操逼字幕| 九九九九九九九九九九九蜜桃| www.色综合| a级免费在线观看| 97免费视频在线观看视频| 大香网伊人久久综合| 亚洲国产美女久久久久| 亚洲做性| 少妇三P| 五月婷视频| 波多野结衣一级视频| 99夜夜操| 99999这里都精品| 91美女视屏| 中国亚洲呦女专区| 激情黄色片在线观看| 97久久超碰日韩精品| 日韩美女高潮喷水视频| 亚洲图片欧美91N| 亚洲成?V人片在线观看福利| 天天谢天天干| 曰韩中文人妻视频| 四虎影视欧美| 久久久久久久久久久精| 夜夜综合| av影片在线观看不卡| 国内一区二区三区| 国产精品网站免费| 超碰久久中文| 亚洲AV噜噜狠狠网址蜜桃动漫| 探花精品 一区二区| 国产嫩草精品A88AV| 亚洲天堂人人妻| 99啪啪视频| 日韩97超碰中文字幕| 久久一区二区三区入口| 日韩免费av片高清无码| 中文乱码字字幕在线第5页| 黑人精品欧美一区二区蜜桃| 无码精品啪啪啪一区二区三区三州| 亚91亚洲网| 久久久噜噜噜久久久| 婷色五月| 色999亚洲人成色| 极品白嫩美女白浆成人福利在线看| 亚洲免费在线探花| 亚洲国产成人福利在线观看| 国产乱伦亚洲色图高清无码| 最新av中文字幕高清| 国产精品久久久久婷婷二区次| 人妻丰满熟妇av无码区蜜桃| 高清不卡 中文 人妻| 日韩图区| 青青草好吊| 精久久久| 欧美劲爆第一页| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 国产黄色影片在线观看| 天天日天天干天天色| 日本精品中文字幕视频| 岛国网址国产| 亚洲一区二区中文字幕| 精品亚洲国产成人AV制服丝袜 | 亚洲精品美女久久久久久久久| 日韩三级天堂在线观看| 国产无码一二三区| 国产原创自拍| 不卡九肏| 97视频新免费| 大香蕉99re| 超碰97丝袜| 国产亚洲色停停久久99精品91| 免费看黄片现成| 色综合天天| 国内三级自拍小视频在线观看| 色五月婷婷五月天| 综合网亚| 欧美综合网站999| 麻豆成人AV| 高清国产无码av| 国产 亚洲 丝袜 制服| 91一起操| 久久久久久久久久久999| 国产久久久久影院老熟女| 日日躁天天躁狠狠躁| 2019天天干| 久久精品国内Av熟女高清| 性饥渴少妇av无码毛片| 精品久久久亚洲AV成人网站| 婷婷色一区| 久久九精品| 亚洲高清欧美总合| 亚洲精品人妻在线| 日韩欧美视频青青| 东京热大香焦| 久久精品国产亚洲AV先锋| 日韩激情中文字幕有码| 久久怡红院| 欧美性爱在线无码| 一,爱啪啪,在线免费视频| 色官网色综合| 亚洲诱惑天堂 | 九九英色视频| 亚洲天堂少妇| 无码男人天堂| 国产精品久久久久久久无码AV| 一级A片女人高潮叫床| 强奸乱伦大香蕉网| 九九久久九九久久| 人妻少妇久久| 欧美日韩日产免费网站看| 日韩AV电影网站| 91在线|亚| 国产第二页| 久久日韩精品一区二区| 啊啊啊快操我视频| 黄色av一区二区在线| 日韩精品操少妇| 97操| 色色色综合网| 久久精品一区二区三区蜜桃臀| 狠狠操狠狠操操| 欧美色图下一页| 9999亚洲电影| 13小男生GAY自慰脱裤子| 中文字幕在线观看丝袜| 就去色综合| 国产激情av女片自拍| 1000午夜黄色| 国产三级在线现体验区| 无码久久国产 | 91午夜无码| 国产精品对白内射| 青青草在线视频播放器| 小视频国产| 国产超碰欧美| 色色网91| 亚洲国产一区二区日韩专区| 人妻久热在线| 色婷婷导航| 九九九网页| 久久九九网| 黄久久| 被体育老师抱着c到高潮| 日韩三级久久久| 97色碰| 97玖玖人妻| jizz啪啪| 精品人妻1237| 黄色操人| 丝袜狠狠草尤物 91| 欧美熟女操屄| 又黄又硬又粗又长国产视频| 欧美一级A片在线看视频性色| 国产少妇高潮| 探花激情视频| 欧美色图亚洲色| 亚洲日本韩国极品一区二区| 日韩av性爱在线播放| 性色av一区二区| 亚乱色| 成人片视频| 国产精品老师| 日韩欧美视频青青| 丁香婷婷啪啪| 日韩有码免费视频| 日韩av性爱在线播放| 欧美亚州综合图片| av一区二区三区 中文| 999久久久国产精品| 亚洲欧洲视频小说在线观看| 亚洲乱色熟女一区| 亚洲在线观看| 亚洲女毛多水多21P| 中文不卡视频| 久久只有精品一区二区三区| 中文字幕精品日韩中文字幕| 国产真乱mangent| 男人把坤坤插入女人的下体| 久久丁香五月婷婷| 久久精品国产亚洲av水密被窝| 99在线精品观看99| 51国产午夜精品视频| 久久是精品| 东京热激情视频一二三区| 中文字幕人妻资源在线| 综合欧美色图| 高潮嗯啊性感美女久久久| 国产成人久久久精品免费AV| 人人澡人人干| 日韩AV中文字幕电影| 中文自拍欧美影视| 免费?级毛片无码?∨蜜芽试看| 9.1小视频| 99re95| 欧美色性爱| 欧美男人的天堂| 久久色一区二区| 韩国一区二区精品亚洲| 日本亚洲熟女视频| 日本天天干天天操一区| 91 综合 色| 日韩人妻网站| 六月丁香婷| 国产剧情AV不卡在线观看| 国产精品白领在线观看| 国产成人五月天丁香花| 亚洲吊色| 久久,精品一二三| 无码久久国产 | 欧美色图 色综合图| 福利在线黄片| 欧美午夜视频免费观看| 97综合久久| 操熟女91| 超碰色美女| 青青三级视频| 久久久网一区| 欧美色图片91| 国产天天骚| 熟妇一区二区三区| 97视频在线观看高清资源| 精品国产一区二区三区久久久蜜臀| 青青爽| 美女啪欧美一区| 激情黄色五月天| 俺也射| 中文三一区| 激情小说亚洲| 97人人色| 国产精品午夜福利| 嗯嗯啊啊的视频| 91强在线播放| 国产精品在线一区二区| 碰超人人在线一区二区三区| 女人爽到高潮潮喷18禁网站| 久久性爱免费送| 日韩AV电影网站| 男女91| 综合天天。| 天堂性色| 被男人吃奶很爽的毛片| 国产成人免费观看在线视频| 亚洲天堂 视频你懂的| 亚州宗合另类| 青青草色插素人| 午夜亚洲| 久久久精品中文字幕爱豆| 影音先锋乱| 亚洲,欧美,春色,另类| 91九九九逼| 国产一区二区精品久久久不卡蜜臀| 999久久久国产精品| 久久无码一区二区二三区性色| 亚州操逼图| 亚洲图片欧美日韩| 欧美九九爱| 日韩激情中文字幕有码| 中文字幕三四区| 亚洲色悠悠久久88| 99re99在线视频| 四虎国产精品永久在线囯在线| 人妻 丝袜美腿 中文字幕| 日韩啪啪视频| 久久精9| 欧美性性性| 免费一级性爱久久| 床上啊啊啊一区二区三区| 熟妇精品juliaannAV| 91色婷婷综合久久中文字幕二区| 欧美一级美片在线观看免费| 另类在线| 97天天插| 日本一区视频在线观看| 欧美1727免费观看视频| 99国产精品自在自在| 久久久久久网址| 无套内射性感少妇视频| 亚洲国产精品久久久男人的天堂| 黄片www.| 日本不卡二三区| 欧美色宗合| 极品极品色影院| 日日噜噜夜夜久久亚洲一区二区 | 黑人娇小av在线播放| 男人的天堂一区三区| 久干网| 超碰日韩人妻| 天美传媒国产原创中文字幕亚洲欧美另类 | 久草五月| 五月婷视频| 亚洲色婷婷久久久综合日本| 骚女天天综合网| 国产精品久久伊人| 亚洲国产青青| 日韩黄片视频试看| 91色噜噜狠狠| 精品九九九| 9九九九九视频在线观看| 国产精品夜夜夜| 国产精品一二三在线看| 婷婷五月天激情网| 97视频在线免费观看| 色色激情五月天| 精品十八在线观看| 日韩性爱网址| 国产夫妻性生活视频| 国产色精品午夜大片| 青木玲在线不卡| 九色精品视频导航1| 91高跟美女在线播放| 思思视频免费看网站| 67194无码不卡| 午夜性生活av免费在线看| 国产91美女高潮| 骚女天天综合网| 射 色综合| 久久大黄片| 亚洲色图加勒比| 国产91av在线播放| 级品肉射| hd成人一区二区在线| 久久久96精品| 操逼日韩无码 | 91女日逼| 97色冈| 国产无码久久高清| 丝袜天堂| 国产精品制服丝袜清纯唯美| 国产精品久久久久久9999| 日韩AC| 成人怡红院| 青青操少妇| 奇米狠999| 日韩成人小视频| 综合色图区| 操逼视频国产无套| 五十路人妻在线| 日本三级中国三级99人妇网站| 国产三级片在线观看| 9 7超碰在线免费观看| 日韩亚洲国产视频| 97欧美资源| 久久免费中文字幕在线观看| 中文字幕精品一区欧美| 熟女熟妇一区二区三区视频| 久久久无码国精品无码三区三区| 欧洲在线性爱视频| 四虎在线免费视频| 一色网男人的天堂| 久久黄色性爱视频| 大香蕉日韩| 亚洲第91页| 九九九九九九九精品视频| 美女操逼A A| 91无码精品| 人妻少妇三级| 狠狠久久亚洲欧美专区| 国产久久成人| 伊人网高清| 无码高清操逼| 超碰成人免费| 99视频这有这里有精品| 欧美自拍网| 日韩视频小说在线观看 | 国产97/欧美| 9 7超碰在线免费观看| 99久在线精品99re8| 婷婷在线视频在线观看| 欧洲视频在线| 黄色片G G G| 91精品人妻一区二区三区蜜桃臀 | 欧美熟妇精品黑人巨大91| 亚洲少妇激情视频| 麻豆天美国美国产AV| 国产女生在线| 樱花蜜乳av| 91免费看一区二区三区| 青娱乐国产精品| 国产日韩精品suv| 亚洲图片91| 久久久久久无码人妻中文字幕| 欧美另类自拍| 精品v1区| 久久久久久中文字幕中文字幕最新| 日本精品一区二区中文字幕| 天天操人人操狠狠插| 日本一区二区中文字幕久久| 婷婷8月天青娱乐| 色97综合中文字幕| 欧美91丝袜| 99精品伊人| 天堂国产AV| 无码一区二区三区四区五区六区七区八区九区十区视频 | 曰本道人妻久久久在线不卡色视频| 中文字幕88av在线| 久久嫩草国产成人一区| 黄页18禁| 超碰调教97| 又黑又大又粗| 人人爽天天爽| 亚洲天堂性爱| 欧美综合骚| 亚洲色图激情小说| 成人资源中文字幕在线观看天天| 天天天天天干夜夜夜夜夜操| 国产九九九九九九九九| 日本在线播放不卡一区| 黄色av片三级三级三级免费看| 色呦呦呦在线观看视频| 欧美亚洲尤物久久| 欧美日韩国产中文精品字幕自在自线 | 国产 v乱码一区二| 国产女性无套 免费观看| 69精品久久久久中文字幕| 一区三区啪啪| 激情综合五月| 国产欧美日韩女同性恋ww喷水精品| 国产成人亚洲精品自产在线| 天天操av懂色| AND人妻系列| 丰满少妇高潮无码| 日韩无码久久熟女一级片| 玖玖爱综合网| 中文字幕成人乱码熟女精品国50| 五月天伊人网| 操一操摸一摸| 国产精品一区二区亚洲人成毛片| 奇米四色影视777久久久| 性爱乱伦网址| 天天干天天拍| 一区二区三区男女操逼黄色小电影| 久热精品色情| 超碰碰小说97| 酒色综合网| 国产隔壁老王影院在线| 日本性爱不卡视频| 国产原创自拍| 天美精品一区二区三区四区在线观看| 久日综合网| 久久精品国产亚洲粉嫩| 国内毛片欧美香蕉精品| 国产亚洲精品美女久久久久久2021| 免费黄色A片| 97中文天堂| 老司机久久| 九九九不卡| 人人模人人看| 成人免费福利网站国产| 激情五月婷婷| 试看福利| 舔足天天操天天射| 日本一级婬片试看三分钟| 色情综合| 天美精品一区二区三区四区在线观看| 麻豆a'v电影| 97色网| 亚洲高清无码AAA久久久精品| 日韩精品区二区三区不卡| 99国产精品免费| 超碰在线免费一区二区三区| 国产多人在线观看视频| 亚洲精品视频在线播放| 欧美亚洲影视| 欧中美三级一区二区三区| 欧美高清无码免费视频高清版| 天天色综亚洲91污| 成人影 天天操 亚洲| 久热网| av天堂精品久久| 综合熟女| 哑洲在线| 中文字幕日韩精品久久| 天天流夜夜操| 欧洲站一级二级三级h| 超清福利精品视频在线| 婷婷五月天丁香| 麻豆黄站| 欧美午夜视频免费观看| 亚洲情色五月天| 国产精选视频| 日本色色的视频| baiduhicn.com。| av网站免费看| 大香樵伊人网| 久久青娱乐| japan日本高清乱xxxx| 99re8免费高清在线| 97aiaiai| 亚洲天堂电影精品一区| 日韩欧美中文字亚洲慕| 人人操人人插人人摸人人干| 欧美最婬乱婬爆婬性视频 | 中文字幕版| 国产一区在线播放| 久久久久久人妻| 亚洲双插| 91性高潮久久久久久久久| 无毛精品| 亚洲一卡2卡3卡4卡乱码网站| 国产青视频| 日本韩国国产精品一区| 韩日男人的天堂| 三上悠亚在线毛片91| 无码色| 97超碰9| 色97| 精品亚洲| 美日韩一卡二卡三卡免费人妻精品| 精品九九九九九九| 91欧美高清| 色综合av综合久久| 精品v1区| 久久久精品电影| 歐美性天天| 人妻人人做人人澡人人爽欧美一区| 日本顶级天天操狠狠操夜夜操中文字幕| 黄片视频,下载| 亚州男人的天堂| 天天做日日爱夜夜爽| 国产熟码AV| 婷婷色导航| 91视频在线观看18| 日日干日日操五月天伦理视频| 人妻色偷色噜| 啊啊啊啊二区好大| 在线国产福利网址导航| 蜜臀aV午夜一区二区三区| 国模吧 一区二区三区| 97欧美综合网| 久久女人视频| 国产精品日韩在线一区| 日韩精品国模| 色色色五月婷婷| 色综合加勒比| 中文字幕人乱码中文字的预防方法| 久久av成人无码免费| 天天久久久久久| 炮色五月| 亚洲熟女性高潮久久久| 五月天精品| 97精品国产97久久久久久免费| 久久这里只精品免费福利| 夜夜爽爽夜夜精品视频| 综合激情五月天| 2023天天操夜夜操| 亚洲 综合 第一页| 色色无码| 亚洲成人性爱网站在线播放| 欧美在线|亚洲| 天综合网| 啪啪AV导航| 老妇女91| 校园春色宗合网| 99热官网| 欧美亚洲一级在线观看| 亚洲欧美综合图片| 97久久精品国产| 色五月综合| 国产日韩手机视频在线| 亚洲成人AB| 美女久久久久久久| 精品久久人妻成人网| 国产精品不卡av免费在线观看| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊 | 人人操人人摸人 | 久久国产精品91| 国产精品自拍欧美在线| 国产高清成人免费视频| 青青草中日韩在线| 丝袜内射| 91丨九色丨国产打屁股| 啪啪啪东京| 欧美精品97| 久久中久文96| 国精综合一二三区影视| 九九热在线视频| 国产日韩在线播放| 中文字幕日韩专区精品系列| 97操b| 蜜桃臀一区二区aV | 小日子操bb在线看| 黑人综合网| 97在线公开视频| 日韩综合97P| 久久水蜜臀亚洲AV无码精品| 中文字幕一区av| 亚洲精品无码少妇久久| 欧美日韩国产另类综合| 乱欲视频| 99re超碰| 91无码精品| 插B在线观看| 美女黑人91神马| 91久久18禁| 美女在线H91| 人妻加勒比东京热| 91九九| 欧美视频在线视频免费va| 人人摸人人添人人操| AV天堂国产| 亚洲av国产av综合av卡| 国产无码精品无码| 99re这里只有精品9| 加勒比综合88| 超碰97伊人| 精品国产a∨一区天美传媒| 天天搞欧美| 国产精品69久久久久久久| 亚洲国产亚洲天堂| 综合一区二区影视| 久久原创中文| 人妻大香蕉| 中文字幕在线第二页| 男人天堂网手机版婷婷| 欧美天堂亚洲电影院一区在线播放| 欧亚久久偷拍视频| 97超碰资源网| 91nbbbbbb| 日韩八十路老熟女| 成人一级二级| 九九九国产精品| 男人的天堂久久| 9丨久久九九九| 上特色A在线| 亚洲人成在线放东京热| 精品人妻免费观看| 五月天久久综合网| 亚洲啪啪视频一区二区| 小情侣高清国产在线视频| 狼人久草| 伊香蕉综合久久久久久久噜噜噜| 国产97色在线 | 亚洲|