久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析 先說結(jié)論Zabbix 監(jiān)控 Nginx最關(guān)鍵的環(huán)節(jié)不在 Server 端怎么寫監(jiān)控項(xiàng)而在 Agent 端怎么把 Nginx 的實(shí)時(shí)狀態(tài)穩(wěn)定采集上來。很多人裝了一堆組件最后發(fā)現(xiàn)數(shù)據(jù)過不來問題大多出在 Nginx 狀態(tài)頁沒開、Agent 配置文件沒改對(duì)、自定義監(jiān)控項(xiàng)寫錯(cuò)這三個(gè)地方。這篇文章適合兩類人。一類是剛開始接觸 Zabbix想用 Agent 方式給 Nginx 加監(jiān)控的新手另一類是已經(jīng)把 Zabbix Server 跑起來但搞不清客戶端、狀態(tài)頁、自定義 key 之間關(guān)系的人??赐曛竽隳馨错樞虼畛鲆粭l完整鏈路Nginx 暴露狀態(tài)頁Agent 執(zhí)行采集命令Zabbix Server 通過 key 拿到數(shù)據(jù)最終在 Web 界面看到指標(biāo)曲線和告警。下面按實(shí)際落地順序拆一遍。1. 先把Zabbix監(jiān)控Nginx的數(shù)據(jù)鏈路拆清楚1.1 Agent在監(jiān)控鏈路里到底干什么Zabbix 監(jiān)控 Nginx 可以有多種方式比如直接用 SNMP、用 Zabbix Agent、或者讓 Zabbix Server 主動(dòng)去請(qǐng)求 HTTP 接口。最常見、也最適合多數(shù)企業(yè)內(nèi)部場(chǎng)景的就是Zabbix Agent方式。Agent 本質(zhì)上是一個(gè)安裝在被監(jiān)控機(jī)器上的小服務(wù)。它負(fù)責(zé)做三件事接收 Zabbix Server 或 Zabbix Proxy 發(fā)來的數(shù)據(jù)請(qǐng)求執(zhí)行本地的采集命令、腳本或從狀態(tài)頁讀取數(shù)據(jù)把結(jié)果返回給 Server 端。所以Agent 不是直接“連”上 Nginx而是起到了一個(gè)翻譯和采集的作用。Nginx 本身不會(huì)主動(dòng)告訴 Zabbix “我的并發(fā)連接是多少”Agent 需要自己去讀 Nginx 暴露出來的狀態(tài)信息然后轉(zhuǎn)換成 Zabbix 能識(shí)別的數(shù)值。理解這條鏈路非常重要。很多人直接照著網(wǎng)上配置往配置文件里寫了幾行UserParameter發(fā)現(xiàn)沒數(shù)據(jù)就以為是 Zabbix 的問題。實(shí)際上往往是 Nginx 狀態(tài)頁本身打不開或者 Agent 所在用戶沒有權(quán)限執(zhí)行 curl又或者 key 名稱寫錯(cuò)了導(dǎo)致 Server 端拿不到結(jié)果。1.2 基礎(chǔ)監(jiān)控項(xiàng)可以直接用高級(jí)指標(biāo)要靠狀態(tài)頁或腳本如果你只是監(jiān)控“進(jìn)程在不在”那 Zabbix 自帶的模板和內(nèi)置 key 就夠了。比如用proc.num[nginx]或proc.num[nginx.exe]判斷 Nginx 進(jìn)程數(shù)量用system.cpu.load看 CPU 負(fù)載用net.if.in、net.if.out看網(wǎng)卡流量。這些不需要改動(dòng) Nginx 配置Agent 裝上之后就能用。但如果你想監(jiān)控 Nginx 的業(yè)務(wù)指標(biāo)比如當(dāng)前活躍連接數(shù)總連接數(shù)總請(qǐng)求數(shù)每秒請(qǐng)求數(shù)Reading、Writing、Waiting 的數(shù)量那一定要開啟 Nginx 的stub_status模塊并配置一個(gè)狀態(tài)頁。然后通過 Agent 的UserParameter去讀取解析。這里有一個(gè)常見誤解以為 Zabbix 官方模板會(huì)自動(dòng)采集這些數(shù)據(jù)。實(shí)際上官方模板里包含這些監(jiān)控項(xiàng)但前提是 Agent 端已經(jīng)裝好了 Nginx 狀態(tài)頁采集腳本或自定義 key。模板只是“裝了 CPU 插座”還得你自己把“電源線”接上。1.3 環(huán)境準(zhǔn)備和判斷標(biāo)準(zhǔn)準(zhǔn)備環(huán)境時(shí)先確認(rèn)以下條件Zabbix Server 已經(jīng)安裝并運(yùn)行Web 界面可以打開被監(jiān)控的 Nginx 服務(wù)器能訪問 Zabbix Server/Serve 端也能訪問 Agent 的監(jiān)聽端口Agent 版本盡量和 Server 主版本接近避免低版本 agent 不支持某些 keyNginx 編譯時(shí)帶上了--with-http_stub_status_module或者本身就是發(fā)行版默認(rèn)編譯好的版本如果是 Docker 部署的 Nginx也要確認(rèn)容器內(nèi)是否有 curl、grep、awk 這些基礎(chǔ)命令后面腳本采集時(shí)會(huì)用到。其中“Agent 版本和 Server 版本盡量一致”這條很多人會(huì)忽略。雖然 Zabbix Agent 大體上向后兼容但高版本 Server 搭配特別老的 Agent可能出現(xiàn)監(jiān)控項(xiàng)顯示“不支持”的情況。建議落地前先統(tǒng)一版本。如果只是學(xué)習(xí)測(cè)試單機(jī)部署一臺(tái) VM 就夠如果要進(jìn)生產(chǎn)建議把 Zabbix Server 和 Agent 分別部署在不同機(jī)器上避免性能干擾。2. Agent端安裝和基礎(chǔ)配置決定后面少踩一半坑2.1 安裝方式選擇Zabbix Agent 的安裝方式取決于操作系統(tǒng)。常見的有使用發(fā)行版官方倉庫或 Zabbix 官方倉庫安裝下載源碼編譯安裝使用 Docker 容器運(yùn)行 agent如果是 Windows Nginx還需要安裝 Windows 版本的 agent。安裝時(shí)最好不要用“從網(wǎng)上隨手找個(gè)包”的方式因?yàn)?Zabbix 官方倉庫會(huì)根據(jù)你使用的系統(tǒng)版本提供對(duì)應(yīng)的 agent 包依賴也能自動(dòng)處理。具體安裝命令這里不給死版本因?yàn)椴煌到y(tǒng)和 Zabbix 版本的倉庫地址差異很大。建議參考官方安裝文檔或者直接看倉庫安裝提示按照“添加官方倉庫 - 刷新包列表 - 安裝 zabbix-agent”的順序走。安裝完成后先不著急改配置確認(rèn) agent 二進(jìn)制文件已經(jīng)存在。which zabbix_agentd或者zabbix_agentd --version如果命令能打印出版本信息說明安裝成功。這一步能提前發(fā)現(xiàn)“安裝到一半缺依賴”“架構(gòu)不對(duì)”等問題。2.2 修改Agent配置文件Agent 的主配置文件一般叫zabbix_agentd.conf在 Linux 上常見路徑有/etc/zabbix/zabbix_agentd.conf、/usr/local/etc/zabbix_agentd.conf。Windows 上通常安裝在 agent 安裝目錄下。需要重點(diǎn)關(guān)注這幾個(gè)參數(shù)參數(shù)作用填寫建議Server允許向本 Agent 請(qǐng)求數(shù)據(jù)的 Zabbix Server 或 Proxy IP寫 Server 的實(shí)際 IP不要寫 0.0.0.0ServerActiveAgent 主動(dòng)連接 Server 的地址用于主動(dòng)模式同樣寫 Server IP 和端口HostnameAgent 在 Server 端注冊(cè)或顯示的主機(jī)名必須和 Web 界面創(chuàng)建的主機(jī)名一致UnsafeUserParameters是否允許自定義 key 包含特殊字符或帶參數(shù)如果自定義命令很簡(jiǎn)單可以設(shè)為 0如果帶參數(shù)、管道最好設(shè)為 1UserParameter自定義監(jiān)控項(xiàng) key 和采集命令可以寫在單獨(dú)文件里引用一個(gè)常見的問題是同時(shí)配置了Server和ServerActive但 Hostname 寫錯(cuò)了。結(jié)果就是 Zabbix Server 能看到主機(jī)但數(shù)據(jù)全斷斷續(xù)續(xù)。原因是被動(dòng)模式下 Server 根據(jù) IP 來找 Agent主動(dòng)模式下 Agent 要上報(bào)自己的 Hostname兩套機(jī)制的校驗(yàn)方式不一樣。我給你一個(gè)比較穩(wěn)妥的配置習(xí)慣先只配置被動(dòng)模式也就是Server和Hostname確認(rèn) zabbix_get 能取到數(shù)據(jù)后再按需開啟主動(dòng)模式不要一上來就同時(shí)開兩個(gè)模式排查起來不方便。2.3 啟動(dòng)與連通性驗(yàn)證配置文件改完后重啟 Agent 服務(wù)。systemctl restart zabbix-agent確認(rèn)進(jìn)程狀態(tài)systemctl status zabbix-agent然后看 Agent 日志確認(rèn)沒有報(bào)錯(cuò)。日志位置通常在/var/log/zabbix/zabbix_agentd.log。如果 Agent 和服務(wù)在同一臺(tái)機(jī)器可以用zabbix_get命令模擬 Server 拉取數(shù)據(jù)。zabbix_get -s 127.0.0.1 -k agent.ping返回1代表 Agent 活著。返回超時(shí)或cannot connect就要檢查端口監(jiān)聽和防火墻。接下來用同樣方式測(cè)試 Nginx 相關(guān)的內(nèi)置 key比如zabbix_get -s 127.0.0.1 -k proc.num[nginx]如果返回?cái)?shù)字說明 Agent 部署正常已經(jīng)能獲取系統(tǒng)數(shù)據(jù)。到這里基礎(chǔ)的 Agent 鏈路算通了。3. Nginx狀態(tài)頁開啟核心指標(biāo)都從這里來3.1 檢查Nginx是否帶stub_status模塊Nginx 的stub_status是官方自帶的一個(gè)模塊但很多源碼編譯的 Nginx 默認(rèn)并沒有把它帶上。所以第一步是先確認(rèn)??匆寻惭b Nginx 是否包含該模塊nginx -V 21 | grep stub_status如果有輸出說明模塊已經(jīng)編譯進(jìn)去了。如果沒有輸出有兩種處理方式重新編譯 Nginx在 configure 參數(shù)中加上--with-http_stub_status_module如果用的是發(fā)行版默認(rèn) Nginx可以檢查是否已經(jīng)默認(rèn)帶了這個(gè)模塊。比如某些 Linux 發(fā)行版的 nginx 包會(huì)默認(rèn)包含。重新編譯相對(duì)麻煩尤其會(huì)影響現(xiàn)有 Nginx 的平滑升級(jí)。建議先在測(cè)試環(huán)境驗(yàn)證不要直接在線上操作。如果線上 Nginx 是別人裝的你也不清楚編譯參數(shù)那就先跑nginx -V看看結(jié)果。3.2 配置location /nginx_status在 Nginx 配置中增加一個(gè)狀態(tài)頁 location。常見做法是新增一個(gè)獨(dú)立配置文件或者在server塊中新增 location。location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; }這里最重要的不是stub_status on;而是allow和deny的訪問控制。默認(rèn)情況下這個(gè)頁面會(huì)暴露 Nginx 當(dāng)前所有連接和請(qǐng)求狀態(tài)。如果不做限制外網(wǎng)可以隨便訪問等于泄露了服務(wù)運(yùn)行基礎(chǔ)信息。所以一般只允許本機(jī)或內(nèi)網(wǎng)監(jiān)控網(wǎng)段訪問。如果 Agent 和 Nginx 在同一臺(tái)機(jī)器allow 127.0.0.1就夠了。如果 Agent 要從另一臺(tái)機(jī)器抓取就把a(bǔ)llow換成監(jiān)控網(wǎng)段但這樣會(huì)對(duì) Nginx 暴露一個(gè) HTTP 端點(diǎn)必須在防火墻層面做好限制。有些朋友會(huì)問不是 Agent 本機(jī)采集嗎為什么還要允許局域網(wǎng)因?yàn)槿绻愕牟杉_本是跑在 Agent 本機(jī)通過http://127.0.0.1/nginx_status訪問那確實(shí)只需要允許本機(jī)。但如果你嘗試從 Zabbix Server 直接用 HTTP agent 監(jiān)控 Nginx那就必須允許 Server IP。本文統(tǒng)一采用 Agent 本機(jī)采集的方式所以只允許 127.0.0.1 最穩(wěn)。配置完成后重載 Nginx。nginx -t nginx -s reload3.3 本地curl驗(yàn)證輸出格式在 Agent 本機(jī)執(zhí)行curl http://127.0.0.1/nginx_status正常情況下會(huì)看到類似這樣的輸出Active connections: 12 server accepts handled requests 100 100 200 Reading: 0 Writing: 1 Waiting: 11四行數(shù)據(jù)的含義第一行當(dāng)前活躍連接數(shù)第二行三個(gè)計(jì)數(shù)器的標(biāo)題第三行總接受連接數(shù)、總握手連接數(shù)、總請(qǐng)求數(shù)第四行正在讀取請(qǐng)求頭的連接數(shù)、正在寫入響應(yīng)的連接數(shù)、空閑等待請(qǐng)求的連接數(shù)。如果 curl 返回空或者 403、404先查 Nginx 配置是否真正生效再查防火墻。403 通常是 allow/deny 規(guī)則問題404 通常是 location 路徑或配置文件沒加載。4. 自定義監(jiān)控項(xiàng)把status頁轉(zhuǎn)換成Zabbix能識(shí)別的數(shù)據(jù)4.1 用UserParameter定義KeyAgent 拿到 Nginx 狀態(tài)頁內(nèi)容之后還需要把它解析成獨(dú)立指標(biāo)。Zabbix 是通過自定義 key 來實(shí)現(xiàn)的。在/etc/zabbix/zabbix_agentd.d/目錄下新建一個(gè)配置文件比如userparameter_nginx.conf寫入U(xiǎn)serParameternginx.active,curl -s http://127.0.0.1/nginx_status | grep Active | awk {print $NF} UserParameternginx.requests,curl -s http://127.0.0.1/nginx_status | sed -n 3p | awk {print $3} UserParameternginx.reading,curl -s http://127.0.0.1/nginx_status | grep Reading | awk {print $2} UserParameternginx.writing,curl -s http://127.0.0.1/nginx_status | grep Writing | awk {print $4} UserParameternginx.waiting,curl -s http://127.0.0.1/nginx_status | grep Waiting | awk {print $6}注意這里的命令里用到了管道和grep所以UnsafeUserParameters需要設(shè)為1否則 Agent 可能拒絕執(zhí)行這類帶特殊字符的命令。配置完重啟 Agentsystemctl restart zabbix-agent用zabbix_get測(cè)試zabbix_get -s 127.0.0.1 -k nginx.active如果返回?cái)?shù)字說明自定義 key 已經(jīng)生效。4.2 用腳本代替多條命令上面的寫法雖然簡(jiǎn)單但每條 key 都執(zhí)行一次 curl而且解析邏輯各不相同。如果有 5 個(gè)指標(biāo)每次采集都要重復(fù)請(qǐng)求 5 次狀態(tài)頁。雖然對(duì)單機(jī)來說影響不大但會(huì)讓監(jiān)控?cái)?shù)據(jù)點(diǎn)的時(shí)間不完全一致尤其是 active、connections、requests 三個(gè)值是不同時(shí)間快照畫圖時(shí)可能看到輕微波動(dòng)。更好的方式是寫一個(gè)采集腳本一次請(qǐng)求拿到所有值再按需輸出。#!/bin/bash STATUS$(curl -s http://127.0.0.1/nginx_status) case $1 in active) echo $STATUS | grep Active | awk {print $NF} ;; requests) echo $STATUS | sed -n 3p | awk {print $3} ;; reading) echo $STATUS | grep Reading | awk {print $2} ;; writing) echo $STATUS | grep Writing | awk {print $4} ;; waiting) echo $STATUS | grep Waiting | awk {print $6} ;; *) echo UNKNOWN ;; esac把這個(gè)腳本放到/usr/local/bin/nginx_status.sh并加執(zhí)行權(quán)限chmod x /usr/local/bin/nginx_status.sh然后配置 userparameterUserParameternginx.status[*],/usr/local/bin/nginx_status.sh $1這樣在 Zabbix Server 端可以用nginx.status[active]、nginx.status[waiting]讀取不同指標(biāo)每次采集只請(qǐng)求一次 Nginx 狀態(tài)頁。這類腳本方案適合指標(biāo)多、采集頻率高的場(chǎng)景。缺點(diǎn)是腳本出了問題排查難度更大所以腳本里盡量減少對(duì)系統(tǒng)命令路徑的依賴。4.3 主動(dòng)模式和被動(dòng)模式對(duì)自定義key的影響自定義 key 本身不區(qū)分主動(dòng)還是被動(dòng)兩種模式都支持。區(qū)別在于被動(dòng)模式Zabbix Server 發(fā)起 TCP 連接向 Agent 請(qǐng)求 keyAgent 執(zhí)行命令返回結(jié)果。適合監(jiān)控項(xiàng)不多、Server 并發(fā)壓力不大的場(chǎng)景。主動(dòng)模式Agent 每隔一段時(shí)間主動(dòng)去向 Server 獲取監(jiān)控項(xiàng)列表然后執(zhí)行并上報(bào)結(jié)果。適合監(jiān)控項(xiàng)很多、網(wǎng)絡(luò)分區(qū)復(fù)雜的場(chǎng)景。如果你使用主動(dòng)模式ServerActive必須配置正確并且 Agent 能訪問 Server 的 10051 端口。同時(shí) Hostname 必須和 Web 界面創(chuàng)建的主機(jī)名完全一致否則 Agent 上報(bào)的數(shù)據(jù)找不到歸屬主機(jī)。在測(cè)試階段建議先使用被動(dòng)模式因?yàn)閦abbix_get就是模擬被動(dòng)模式的請(qǐng)求排錯(cuò)更直觀。5. Server端把主機(jī)和監(jiān)控項(xiàng)綁定起來5.1 在Web界面添加主機(jī)Zabbix Server 裝好并配置好 Agent 后登錄 Web 界面在“數(shù)據(jù)采集 - 主機(jī)”里創(chuàng)建新主機(jī)。需要填寫的內(nèi)容主機(jī)名稱必須與 Agent 配置里的Hostname一致可見名稱可以自定義顯示在頁面上模板可以先選擇自帶模板測(cè)試連接性群組選一個(gè)已有主機(jī)組或者新建一個(gè) Nginx 組Interface選擇 Agent填寫被監(jiān)控機(jī)器 IP 地址端口默認(rèn) 10050。創(chuàng)建時(shí)如果勾選了“添加后啟用”保存后主機(jī)應(yīng)該會(huì)出現(xiàn)在可用主機(jī)列表里。很多人第一次配置時(shí)會(huì)把“主機(jī)名稱”和“可見名稱”混在一起。實(shí)際上主機(jī)名稱是 Zabbix 內(nèi)部用于匹配 Agent 上報(bào)的標(biāo)識(shí)必須嚴(yán)格對(duì)應(yīng)可見名稱可以隨便寫。如果主機(jī)名稱填錯(cuò)主動(dòng)模式下數(shù)據(jù)絕對(duì)不來被動(dòng)模式下有時(shí)還能通過 IP 匹配所以這個(gè)坑要記住。5.2 關(guān)聯(lián)模板或手動(dòng)添加監(jiān)控項(xiàng)Zabbix 官方提供了 Nginx by Zabbix agent 模板里面已經(jīng)定義好了監(jiān)控項(xiàng)和觸發(fā)器。如果你的 Agent 端已經(jīng)配好了對(duì)應(yīng)的自定義 key直接關(guān)聯(lián)模板就能看到數(shù)據(jù)。關(guān)聯(lián)模板之后建議先看“最新數(shù)據(jù)”。如果監(jiān)控項(xiàng)顯示“不支持”說明模板里引用的 key 在 Agent 端并沒有定義要么是自定義配置文件沒生效要么是 key 名稱不匹配。不使用模板的情況下也可以手動(dòng)創(chuàng)建監(jiān)控項(xiàng)字段示例名稱Nginx 活躍連接數(shù)類型Zabbix agent鍵值nginx.status[active]信息類型數(shù)字無正負(fù)更新時(shí)間30s手動(dòng)創(chuàng)建的好處是靈活壞處是每臺(tái)主機(jī)都要配一遍效率低。建議至少從模板開始再按需修改。5.3 最新數(shù)據(jù)驗(yàn)證添加監(jiān)控項(xiàng)后等一兩個(gè)更新周期再到“監(jiān)測(cè) - 最新數(shù)據(jù)”里查看。判斷標(biāo)準(zhǔn)有數(shù)值且持續(xù)更新鏈路完全通顯示不支持Agent 執(zhí)行命令失敗或 key 名稱不對(duì)顯示“不支持”但 zabbix_get 正常檢查 Server 端 Agent 配置的 IP 和端口有數(shù)據(jù)但一直不變檢查腳本是否用了緩存或者 Nginx 狀態(tài)頁是否更新異常。有時(shí)候 Agent 端剛改了自定義配置需要等 Agent 重啟后才會(huì)重新加載。如果發(fā)現(xiàn)改了配置但沒生效先確認(rèn)是否重啟了 zabbix-agent。我用 zabbix_get 排查時(shí)會(huì)習(xí)慣在前面加一個(gè)timeouttimeout 5 zabbix_get -s 192.168.1.10 -k nginx.status[active]加上 timeout 可以避免命令長(zhǎng)時(shí)間卡住尤其當(dāng)腳本內(nèi)部頻繁請(qǐng)求外部地址時(shí)。生產(chǎn)上不建議讓監(jiān)控采集命令永久阻塞Zabbix Agent 本身有 timeout 限制但腳本內(nèi)部如果卡在某個(gè)命令上也會(huì)拖慢采集。6. 數(shù)據(jù)沒到、不支持、為0時(shí)按這個(gè)順序排查6.1 Agent狀態(tài)不可達(dá)現(xiàn)象Zabbix Server 頁面顯示主機(jī)離線zabbix_get -s 目標(biāo)IP -k agent.ping超時(shí)或 cannot connect。排查順序先確認(rèn)目標(biāo) IP 是否通ping 目標(biāo)IP確認(rèn) Agent 端口監(jiān)聽是否正常ss -lntp | grep 10050確認(rèn)防火墻是否放行端口Linux 檢查firewalld或iptables確認(rèn) Zabbix Server 能否連接到該端口用telnet 目標(biāo)IP 10050或nc -vz 目標(biāo)IP 10050如果前面都正???Agent 日志可能有配置錯(cuò)誤或啟動(dòng)失敗。大多數(shù)“不可達(dá)”不是 Zabbix Server 的問題而是防火墻或者 Agent 沒啟動(dòng)。6.2 監(jiān)控項(xiàng)顯示不支持現(xiàn)象agent.ping正常但 Nginx 相關(guān)監(jiān)控項(xiàng)顯示“不支持”。在 Agent 本機(jī)執(zhí)行zabbix_get -s 127.0.0.1 -k nginx.status[active]如果返回非數(shù)字或報(bào)錯(cuò)繼續(xù)看key 名稱是否和 Server 端完全一致自定義配置文件是否生效腳本是否有執(zhí)行權(quán)限腳本里的 curl 是否能訪問 Nginx 狀態(tài)頁Agent 日志里是否有cannot run command之類的記錄。這一層最常見的問題有兩個(gè)一個(gè)是UnsafeUserParameters0導(dǎo)致帶管道或參數(shù)字符的命令被攔截另一個(gè)是腳本權(quán)限不對(duì)Agent 執(zhí)行腳本時(shí)沒有執(zhí)行權(quán)限返回空值。6.3 數(shù)據(jù)為0或長(zhǎng)時(shí)間不變?nèi)绻?zabbix_get 能返回?cái)?shù)字但 Web 界面數(shù)據(jù)為 0 或不變可能的原因監(jiān)控項(xiàng)類型設(shè)置錯(cuò)誤比如把整數(shù)項(xiàng)配置成字符型更新周期太長(zhǎng)短時(shí)間內(nèi)看不到變化Agent 端腳本使用了緩存文件但緩存文件沒有及時(shí)更新Nginx 狀態(tài)頁的數(shù)值確實(shí)沒變化尤其是 Reading/Writing/Waiting請(qǐng)求量低的時(shí)候波動(dòng)很小。遇到這種問題先把監(jiān)控項(xiàng)改成 10s 更新間隔觀察同時(shí)把采集腳本手動(dòng)執(zhí)行幾次對(duì)比結(jié)果。如果手動(dòng)執(zhí)行有變化而 Zabbix 一直取舊值多半是 Agent 端緩存或 Server 端歷史數(shù)據(jù)存儲(chǔ)延遲。6.4 檢查權(quán)限和SELinux這個(gè)坑在 Linux 生產(chǎn)環(huán)境中非常普遍。如果 Agent 和 Nginx 都在同一臺(tái)機(jī)器Agent 執(zhí)行 curl 訪問http://127.0.0.1/nginx_status一般沒問題。但如果 SELinux 開啟可能會(huì)有連接被拒的情況。排查時(shí)先看/var/log/audit/audit.log有沒有 denied 記錄。有的話可以采用兩種方式放通相關(guān)端口或者把 SELinux 臨時(shí)轉(zhuǎn)為 permissive 測(cè)試。不要一上來就永久關(guān)閉 SELinux先確認(rèn)是不是它的原因。Zabbix Agent 默認(rèn)以zabbix用戶運(yùn)行這個(gè)用戶對(duì) Nginx 狀態(tài)頁的訪問是走 HTTP 協(xié)議的不涉及文件系統(tǒng)權(quán)限但要在操作系統(tǒng)層面允許它建立本地網(wǎng)絡(luò)連接。如果連本機(jī)回環(huán)都被限制curl 會(huì)返回空。7. 從單臺(tái)試跑到批量部署還要補(bǔ)三件事7.1 批量部署Agent單機(jī)跑通后批量監(jiān)控也別急著手工逐臺(tái)配置。建議提前準(zhǔn)備好 Agent 配置文件模板和安裝腳本利用自動(dòng)化運(yùn)維工具分發(fā)安裝。批量部署時(shí)每臺(tái)機(jī)器需要變化的內(nèi)容主要有兩個(gè)Hostname和Server。Server通常都指向同一個(gè) Zabbix ServerHostname則建議用機(jī)器名或業(yè)務(wù)名方便識(shí)別。如果沒有自動(dòng)化工具可以寫一個(gè)簡(jiǎn)單的 Shell 腳本在一批機(jī)器上執(zhí)行安裝、寫入配置、啟動(dòng)服務(wù)。關(guān)鍵點(diǎn)在于腳本要冪等重復(fù)執(zhí)行不會(huì)產(chǎn)生重復(fù)監(jiān)控項(xiàng)或配置沖突。7.2 模板復(fù)用和指標(biāo)命名規(guī)范批量部署前先定義一套統(tǒng)一的監(jiān)控項(xiàng)命名規(guī)范。比如nginx.active nginx.requests nginx.reading nginx.writing nginx.waiting不要每臺(tái)機(jī)器都用不同的 key 名。否則后面加圖形、加聚合、加告警時(shí)工作量會(huì)翻好幾倍。在 Zabbix 里一套完整的 Nginx 監(jiān)控模板應(yīng)該包含監(jiān)控項(xiàng)連接數(shù)、請(qǐng)求數(shù)、Reading、Writing、Waiting觸發(fā)器活躍連接數(shù)過高、請(qǐng)求數(shù)異常下降、Nginx 進(jìn)程數(shù)小于 1圖形連接數(shù)和請(qǐng)求數(shù)趨勢(shì)圖聚合原型如果需要按集群視圖查看可以配置聚合監(jiān)控項(xiàng)。模板設(shè)計(jì)好之后所有新主機(jī)直接關(guān)聯(lián)模板避免人工逐條添加監(jiān)控項(xiàng)。7.3 監(jiān)控頻率與告警閾值的取舍Nginx 的指標(biāo)采集頻率不建議太高。默認(rèn) 30 秒到 1 分鐘已經(jīng)足夠尤其是請(qǐng)求數(shù)、活躍連接數(shù)這類指標(biāo)本身就是瞬時(shí)快照采集頻率高并不能提高準(zhǔn)確性反而會(huì)增加 Agent 和 Server 的負(fù)擔(dān)。告警閾值要根據(jù)實(shí)際業(yè)務(wù)來定。比如活躍連接數(shù)超過某個(gè)值就告警但不同服務(wù)器的性能差異很大最好先采集一周數(shù)據(jù)再看基線請(qǐng)求數(shù)突然掉到接近 0可能是 Nginx 掛了也可能是業(yè)務(wù)本身陷入了低谷Reading、Writing 長(zhǎng)期偏高說明可能有大文件傳輸或慢客戶端不一定是故障。我在實(shí)際項(xiàng)目中用過的最不后悔的一個(gè)習(xí)慣是剛開始只采集不告警。先積累一兩周數(shù)據(jù)再根據(jù)真實(shí)基線設(shè)定閾值否則很容易被誤報(bào)刷屏。7.4 日志和備份最后補(bǔ)一個(gè)容易被忽略的點(diǎn)Agent 端自定義配置和腳本要納入版本管理不能只留在機(jī)器上。否則重裝機(jī)器后監(jiān)控配置就很難原樣恢復(fù)了。Zabbix 本身的模板、主機(jī)、監(jiān)控項(xiàng)配置也要定期導(dǎo)出備份。監(jiān)控系統(tǒng)一旦配置多了重新手搭非常痛苦。備份不只是保護(hù)數(shù)據(jù)也是在保護(hù)自己的運(yùn)維效率。如果只是學(xué)習(xí)按默認(rèn)配置跑通就可以了如果要長(zhǎng)期維護(hù)那就把日志、輸出目錄、模板備份和權(quán)限控制都提前整理好后面真的會(huì)省很多事。踩過幾次之后我發(fā)現(xiàn)Zabbix 監(jiān)控 Nginx 的坑很少在“功能不夠”上多半是前置環(huán)境不一致、狀態(tài)頁訪問受限、自定義 key 書寫習(xí)慣不統(tǒng)一。把這幾條理順整個(gè)監(jiān)控鏈路就穩(wěn)了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
蜜乳AV一区| 外国免费性情大片| 男生通女生屁股| 91香蕉视频在线观看免费| 激情久久av一区av二区av| 日韩一区二区熟女| 一本久道久久综合狠狠爱一密臀精| 美国精品国产精品| 久久久人体| 欧美色爱综合| 日本性爱网址| 97爱亚洲综合色| 男人的天堂2019| 久久老子无码午夜伦不卡| 成人性爱免费播放| 久久思思热| 伊人网在线点播| 美女极品一区二区三区| 金典av| 啪啪啪综合网| 成人精品电影| 亚洲黑人在线| 极品五月天噜噜| 91狠狠综合久久| 一区二区三区激情在线观看| 在线中文字幕视频| 激情文学网伊人| 亚洲熟女av中文字幕| 天天色播| 欧美人体性爱互联网第一页婷婷日本| 美女诱惑1区2区| 91亚洲最新在线| 亚洲欧美激情在线视频| 久久精品国产97欧美精品亚洲| 夜嗨影院| 后入精品| 嗯嗯啊啊用力视频免费| 精品久久久久久AV无码| 曰韩少妇无码| 色九月婷婷| 91人妻人人澡人人爽人人精品| 欧美在线播放aaaa| 97碰碰色| 密臀在线免费观看| 国产亚洲美日韩Aⅴ中文字幕无码成人| 啊啊啊啊啊啊啊好爽不要| 92性色国产午夜福利在线661| 99久久com免费视频′| 91日韩国产欧美亚洲另类精盘州至城都| 中文字幕精品资源在线| 啊啊啊啊免费视频| 综合一区中亚洲国产成人综合精品 | 青青草日韩无码| 999精品乱码| 久久五月综合| 综合激情二| 99精品人人爽| 夜夜爽爽爽| 少妇熟女1区2区3区| 99啪啪| 手机在线视频国内精品| 精品人妻一区二区蜜桃视频| 91狠狠综合久久久久久| 亚洲国产麻豆一区二区三区| 999久久久| 激情五月天色播| 成人免费视瓶| 欧美一区二区三熟女剧情| 日韩久久三区| 台湾成人无码AV| 久久久免费高清中文视频| 猛交交| 久久熟女人| 乱伦系列一区二区| 国产高清26uuu| 综合久久9| 一级黄碟在线观看| 伊人五月天激情| …亚洲黄色厕厕女女在线播…| 久艹伊人精品综合在线| 麻豆人妻精品一区二区| 首页中文字幕中文字幕免费| 1禁看欧美黄片免费看| 97色色色| 9久9久| 国产精品久久久视频| 无码人妻丰满热妇又大又粗| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 日韩黄色电影网站| 精品久久无码午夜福利| 巨乳特殊服务按摩| 97爱啪| 亚洲男人的天堂在线看| 亚洲熟妇丝袜在线观看| 日本污ww视频网站| 中文字幕一区二区三区高清| 亚洲AV秘无码一区..| www.人人摸在线视频| 丝袜综合色图| 91人妻爽爽人人做人人澡| av绯色| 黄色免费一级在线毛片| 亚洲欧美日韩不卡人妻| 91精品操美女| 941超碰| 一区 欧美 日韩 麻豆| 婷婷丁香五月激情啪啪| 日韩精品一区二区三区色欲| 天天操天天干一区二区 | 久久偷偷色综合蜜桃| 日韩精品人妻中文字幕有码午| 色婷婷狠狠| 久久精品三级影视| 久久久免费的精品| 日本操逼视频导航| 精品视频免费在线一区| 超碰无码加勒比| 人人操人人插 - 百度 - 百度| 天天日夜干| 人人操人人大香蕉| 一级久久性爱视频| 色婷婷久久| 国产av美女被艹的乱叫| www.色婷婷.com| 精品久久久久久中文| 麻豆三极片| 中英熟女操女| 国产精品分类在线观看| AV在线性爱| 亚洲精品国产熟女| 一区二区三区探花在线观看| 国产操操日韩三级黄| 自拍偷拍亚洲熟女妇人精品| 丰满岳乱妇一区二区三区| 国产白丝av| 青青草女人天天干| www国产精品| 中文字幕欧美丝袜07资源| 9118禁| 日本欧美中文字幕| 黄片免费久久久久久久| 99久久久久| 一区二区三区精品视频| 国产日本熟女顶级一区二区三区视频| 性欧美体内射精| 日韩天天本| 人妻素股| 蜜臀AV午夜精品久| 国产精品区在线12p| 无码 黑人一区二区三区| 亚洲免费在线探花| 一级黄色影片| 18一区二区三区| 国产亚洲欧洲在线观看| 无码人妻系列少妇| 97K超碰在线| 亚洲色图欧美一区二区不卡| 国产精品美女在线一区| www.zbzhongsen.com| 国产女上位好爽在线| 天天日天天舔东京热| 欧美婷婷久久| 上床啊啊啊| 欧美性爱日韩高清| 日韩有码免费视频| 精品国产久久乱码| 伊色久人大在线| 粉嫩av平台| 白嫩国模丰满一二三区| 人妻在线中出视频| 亚洲丨在线| 2019天天干| 青青久久手机线视频| 亚洲综合五月天| 丰满精品人妻少妇久久字幕| 欧美91网| 亚洲综合中文字幕有码| 中文字幕国产精品1区| 男人天堂综合| 激情黄色片在线观看| 国产91啪| 超碰97最新人妻| rion磁力链接| 男男H黄动漫啪啪无遮挡网站| 亚洲欧美精品一区天堂久久 | 欧美亚洲一级在线观看| 五月天婷婷久久| 91爱看| 美女网站91| 热99这里只有精品| 亚洲综合一| 久久无码一区二区二三区性色| 色五月婷婷中文字幕| 青青草字幕AV| 自拍偷拍国产欧美日韩韩| 综合婷婷| 校园春色亚洲色图| 国产成人精品日本亚洲语言| 91天美传媒在线观看| 成人国产视频在线观看| 亚洲高潮少妇| 久久在肏| 色哟哟的毛片| 久久精品国产亚洲AV清纯| 中国一区二区亚洲人妻| 天天综合网1| 免费观看日本操逼视频| 久九干| 欧洲一区二区| 精品视频久久久久九九九九9999| 色图四区| 亚洲AV无码| 日本韩高清无砖码22o| www.久久99| 亚洲图片欧美另类综合免费视频大大香| 国产亚洲精品激情| 日韩三级在线观看mp4| 欧美一区二区男人天堂| www.99热| 欧美日韩97| 99热18| 在线天堂资源亚洲| 精品女人999| 少妇久久久久久| 亚洲色图久久精品蜜| 蜜臀久久99精品久久久久电影| 任你爽视频| 麻豆熟妇乱妇熟色A片在线看| 国产AV超爽| 亚洲欧美啪啪| 亚洲天堂性爱| 超碰国产精品无码| 九九免费影片| 青青草中文-久久青草精品一区二区三| 91精品国产长腿丝袜美女| 欧美v亚洲v日韩v最新在线二区| 夜夜黄| 欧州色图区| 国产精品欧美在线观看| 91在线美女| 大香蕉视频一二三区| 97精品国产手机| 人妻乱仑一区二区三区| 超碰人妻久久| 今日头条成人一区二区三区四虎精品| 亚洲国产婷婷在线播放| 97超碰色| 久久久久元码视频| 色婷婷基地| 欧美天天弄| 日本A级视频| 伊人激情五月天一区二区| chaopen97久久| 婷婷五月天福利| 成人羞羞视频国产| 任你干在线视频| 亚洲天堂电影精品一区| 手机在线A片| 青青草在线视频播放器| 亚洲妇色| 午夜精品久久久久久久男人的天堂| 日韩免费簧片| 久久免费9| 熟女在线视频| 啪啪综合网| 天美精品原创av片国产| 久久久天美| 性色一线| 婷婷视频网| 啪啪啪精品| 久久久久成人网| 欧美韩国你懂得在线 | 日本性爱视频一级| 色图综合| 欧美国产一区二区三区麻豆传媒| 久久人妻精品| CCYY草草影院地址入口| 4虎在线观看| 亚洲限制级| 天天日天天操心| 久久精品中文字幕观看| 99热在线观看| 久久久青青草| 婷婷性网| 大但人体久久久久| 天天看片麻豆| 日本午夜福利视频| 乱日视频| 91亚·色| 超碰99在线观看| 强奸乱伦中文字幕AV| 国产精品久久久啊| 亚洲色图A| 欧美成人国产精品| 欧亚成人在线视频| 亚州高清色综合| 欧美一区二区传媒| 泰国AV在线观看| 无码9区| 精品亚洲国产成人AV制服丝袜| 亚洲?V无码专区在线电影| 天天亚洲| 99re欧美| 黄色视频高清无码网站| 婷婷色色五月天福利| 九久精品| 欧洲黄色网| 国产无码久久高清| 国产女人高潮嗷嗷嗷叫小说 | 97综合久第一页| 久神马| 丝袜美女诱惑 91 视频| 五十路熟女,国产欧美精品区一区二区三区| 天天爽夜夜欢视| av在线浏览| 日本曲间由美性生活片| 91啪9色| 久久久久骚| 亚洲丝袜色| 人妻夜夜爽天天爽麻豆三区网站| 午夜性| 97色色色综合网站| 麻豆 亚洲 97| 999熟女精品| 人妻素股| 91情色在线| 熟女人妻精品一区二区视频| 免费观看一区| 18禁止看精品中文字幕| 插穴性爱视频在线观看| 秋霞视频一区二区| 天天影视综合网欧美精品| 97超碰碰碰| 丝袜喷水在线| 操逼999| 黑人粗大V S日韩女优视频| 亚洲精品黄码久久久久| 1769成人国产精品视频| 丰满人妻一区二区三区四区| 国产1769在线| 9999久久久久| 超碰97男人| 超碰精品人妻狠狠干| 麻豆精品.欧美精品.日韩精品.| 校园春色AV天堂| 97超碰欧美| 国产女人和拘做爰视频| 亚洲色综合| 色老汉玖玖爱| 天天影视网色欲色香| 成人精品久久| 伊人网免费视频| 殴美大黄片| 精品一区二区三区最新| 97免费视频在线观看视频| 啊啊啊啊无码| 一区二区三区无卡视频在线观看| 清柠毛片| 五月综合视频| 18精品一二区| 91网站18在线| 久久久久日本视| 免费人成在线观看网站品爱网| 天天躁夜夜躁狠狠躁AV| 爽爽歪在线视频| 波多野结衣一级视频| 伊人午夜福利视频| 欧美狠狠弄| 国产亚洲精品自在线亚洲情侣| 欧美一区二区三区成人性生活| 婷婷99狠狠躁天天躁| 成人小说视频在线精品欧美| 日韩小电影| 天天天堂影视日韩亚洲91| 中文字幕视频在线观看一区二区| 欧美日韩性爱操大逼| 国产91 丝袜在线播放| 91精品久久久久久久久久| 夜夜夜久久| 日韩成人网址| 能直接看AV的网站| 日韩一级特黄av毛片| 人妻献身系列第54部| 亚洲欧美天| 亚洲色资源| 青青草在线视频人人想人人上 | 亚洲最大黄网| 色婷婷av在线观看| 五月婷婷六月丁香| 丁香五月性| 中国大陆国产高清AⅤ毛片| 欧美色图色综合| 97中文综合| 蜜桃臀一区二区三区久久| 欧美72网页| 亚洲美欧999| 91原创在线观看| 婷婷综合在线| 久久天天性久久伊人| 综合熟女| 神马视频久久久久久| 天堂岛av| 九九九九九九九九九九九免费国产| 日本中文字幕在线电影| 五月丁香成人网| 99热自拍| 天天摸天天插天天日| 亚洲男人天堂Av| 久超碰在| 久久久久ab| 久久夜嗨| 久久人妻一区二区三区高清| 另类图片五月天| 成人开心网在线视频| 精品久操| 思思热在线视频免费| 国产丝袜美女在线一区| 日韩在线一区二区| 九九探花视频在线观看| 国内自拍 日韩激情 99| 99色综合| 色好看av| 区二区亚洲婷| 在线色资源| 国产精品成人午夜福利| 熟妇xxxxx性春色| 精品成人动漫一区二区| 99热精品在线| 色综合中文字幕不卡| 99热精品青草在线| 天天在线91| 国产精品网址| 园内精品自拍视频在线播放| 日本欧美国内在线| 久久精品免费| 中国熟妇| 国产精品久久久吖| 双插性欧美一二三区| 午夜精品视频777| 麻豆视频test| 欧美性五月| 亚洲一区二区在线观看91| 久久这里是精品| 欧美日韩99| 大香蕉综合久久| 诱惑网综合| 在线观看一级α片刺激高潮视频| 日韩无码a片| 五月丁香影视| 超碰97首页| 火箭成精品视频884必出精品| 亚洲欧美日韩免费电影| 91精品无码人妻系列| 色婷婷影视| 国产乱码精品久久久久久 | 人妻天天爽天天爽三区| 日本高清有码网址视频| 美女淫穴| 无码一区免费在线不卡| 激情五月天视频| laoshunv91| 日韩一级欧美一级国产一级台湾| 欧美顶级黄片AAAAA在线免费看| 亚洲有码 欧美精品| 天天搞欧美| 做爱A级亚欧| 人妻出轨一区二区三区| 91高潮| 1769精品一区二区三区| 日韩欧美偷拍美女视频| 国产男女边吃边摸视频网站| 亚洲精品一区二区三区新线路| 人妻精品一区一区三区蜜桃91| 国产精品久久久久久高清无码免费看| 欧美一区91大爱| 欧美色蜜桃97| 99re公开精品免费视频| 二区熟妇韩日| 日韩性爱小视频| 久久一二三四五六七八九区区区 | 欧美日韩理论一区| 91丨人妻丨国产丨丝袜| 国色天香av| 超碰在线91| 丁香婷婷大香蕉| 91欧洲入口| 草莓精品视频| 日韩精品国模| 中国东北熟女老太婆内谢| 激情视频一二三| 日韩高清黄片| 人妻丝袜肏逼| 中文字幕在线高清男人的天堂| 日本精品国产视频| 92性色国产午夜福利在线661| 爱射综合| 婷婷干黄色| 精品久久久久久久久久久久 | 色婷视频| 伊人麻豆传媒| 亚洲中文字幕有码视频一区二区三区| 亚洲无码 国产无码| 亚洲最大黄网| 激情网色| 老鸭窝成人| 婷婷久久综合久| 麻豆久久一区二区三区| 91天美传媒精品| 国模无码人体一区二区三| 久噜噜| 午夜福利视频在线一区| 91精品少妇搡搡搡| 99在线精品视频| 欧美不卡五十路| 亚洲免费日韩在线一区二区| AV不卡在线| 九九九不卡| 五月天婷婷色色| 美女被啪到深处抽搐视频| 91中文精品日韩欧美在线| 无遮挡一级毛片视频免费的| 91网站18+| 国产又爽又黄| 97欧美视频| 大香蕉琪琪日本女优不卡| 欧美躁死她一区二区| 中文字幕精品一区二区精| 亚洲资源站| 亚洲亚洲亚洲天堂天堂| 午夜精品久久久99| 亚洲一区二区三区久久 亚洲一区二区| 操逼片国产| 午夜男人的天堂| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 一个色导综合| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 五月色网| 在线综合 亚洲 欧美中文字幕| 伊人久久亚洲色欲综合网站 | 久久原创中文| 青青草黑寡妇男人天堂| 色五月首页| 看大黄色大片原件| 少妇高潮九九九九| 亚洲日本大香蕉1| 中文字幕二区日韩天堂| 激情五月天色色网| 一级aaaaa欧美中文字幕录像片| 内射夫妻三片| 中文字幕女同在线| 欧美少妇性乱| 精品96久久| 欧美亚洲一区二区久久久婷精品大包诱| 婷婷中文字幕| 激情综合五| 五月丁香综合激情| 亚洲精品丝袜-不卡成人免费……| 第一高清av中文字幕| 黄色视频特级毛片| 男人的天堂一区三区| 国产树林里野战在线看| 久久精品色欧美aⅴ一区二区| 岛国黄色大片网站| 91精品国产麻豆国产自产在| 无码自拍SM| 97色碰| 久久午夜伦| 国产成人资源| 久久av色| 韩日精品福利视频一区不卡在线免| 久久久中文版| 手机av亚洲丝袜美腿日韩第一页二页| 久久亚州大香蕉| 亚洲 欧美 日韩另类 麻豆| 五月天日日操夜夜操| 久久黄人人爽视频| 午夜性生活av免费在线看| 国产亚洲精品一区二区三区| 欧美的性爱网站免费| 亚洲第一狼人丝袜美女另类| 色牛牛AV| 九九久久久久久爱| 新视频sss国产| 蜜桃臀久久| 伊人91| 五月天久久综合网| www.av在线观看| 亚洲色吧网| 亚洲性猛交| 91无码人妻精品一区二区三区蜜桃| 99夜夜操| 国产精品久久久无码aV去| 激情小说成人日本无码一| 五月丁香激情啪啪| 97超碰热线| 中文字幕第7页| 亚洲一区二区三区在线激情| 亚洲系列第一页| 婷婷激情五月综合| 好舒服视频| 黄色成年| 2018天天干在线视频| 丁香五月天啪啪| 日日夜夜噜| 久久久91| 99久久婷婷丁香| 97久久精品亚洲| 偷拍片久久| 久久AV无码AV| 操逼日韩无码| 97欧美日韩中文| 久久97超碰| A 天堂在线观看视频| 九九热免费在线国产视频伊人五月| 蜜臀无码一区二区| 在线播放成人高清免费视频 | 亚州乱码中文字幕综合久久久| 青青草中出视频| 日本人妻伦在线中文字幕| 五月色综合| 天欧美在线| 黄色av网站在线播放| 日韩在线76| 男人天堂最新手机版在线青青草| 国产精品亚洲天堂网址| 精品国产网站| 欧美 亚洲 在线| 女人双腿搬开让男人桶| 国产1727欧美| 影音先锋每日最新资源在线观看 | 97色涩| 中文字幕国产在线天堂| 亚洲丁香花色| 性欧美999| 色噜噜人妻丝袜a∨先锋影| 国产精品suv一区| 色综合国产在线观看| 口爆综合网| 狼人狠干| 香蕉在线一区二区三区| 夫妻日逼| 欧美国产日韩清纯唯美| 亚洲狠狠入| 9999免费精彩视频| 国产97/欧美| 成人性爱电影一区二区| 老熟妇一区二区三区| 激情接吻视频久久久久久| 97se综合| 无码日韩网站| 日韩天天综合| 中文字幕精品一区二区精品| 久久久一区二区三区四区五区| 欧美操人| 激情小说亚洲| 白丝AV网站| 欧美日韩色综合网| 亚洲人码13| 91人人臊| 啊啊啊啊操死我| 久久9亚洲| 人妻献身系列第54部| 天天操人人操骚逼网站| 婷婷五月天激情网| 天天天肏屄肏屄肏屄欧美欧美| 激情综合五月天| 色牛aV| 蜜桃色院一区久久| 国产亚洲色婷婷久久99精品91葵花宝典| 日本天堂在线播放| 五月丁香成人网| 中日韩一区二区三区欧美| 精品97精品97| 欧美成人午夜免费福利785| 欧美亚洲特P| 99久久无色码| 亚洲一区二区三区四区视频| 欧美色另类| 大香蕉综合| 日本一区二区不卡精品| 综合欧美亚洲| 欧美韩国你懂得在线| 另类小色呦| 中文字幕一区二区视频在线观看| 欧美综合在线91| 无码少妇精品一区二区60岁老人| 91亚洲电影| 欧美韩日精品资源| www.超碰| 国产精品黄色三级av| 欧美综合色,www| 亚洲国产精品久久久男人的天堂| www网站黄| 国产偷拍网站| 亚洲玖玖爱| ss久久| 1024人妻熟女一区二区三区| 超碰97中文| 超碰97在线中文| 长长久久免费视频| 一区二区影院| 国产v亚洲v日韩v欧美v片另类| 九九九九九九九九九五码| 人人扣人人操| 波多野结衣一级视频| 婷婷10月天青娱乐| 欧美天堂亚洲电影院一区在线播放| www.99视频| 亚洲国产av中文字幕久久| 日韩精品一区二区人人人| 国精综合一二三区影视| 91黑丝在线播放| 92午夜免费福利视频| 国产精品不卡一区二区三区av| 色天天野狼综合社区| 中文字幕97色| 久久综合日韩亚洲欧美| 亚洲无码色| 凸凹视频在线观看| 国产精品无码久久久久2028| 日本黄大片在线观看视频| 国产sv美女内射| 伊人在线大香蕉视频久久| 97视频7| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 成人av毛片在线观看| 日骚逼视频| 熟女少妇一区二区三区| 精品综合久久久久久97| 久久啊啊啊视频| 欧美韩国你懂得在线| 熟女一区二区| 97色插| 99丝袜福利在线播放| 超碰人人妻| 91性高潮久久久久久久久| 入口操逼网站| 欧美国产日韩高清在线| 18禁超污无遮挡无码免费网| 亚洲图片欧洲图片aⅴ| 新久久AV| 國產尤物AV尤物在線觀看| 国产理论视频在线播放| 波多野结衣先锋影音| 久久久久久亚洲中文| 国产曰批免费观看久久久| 少妇无码av专区线| 国产女人操逼视频| 婷婷视频在线免费观看| 少妇滛荡视频| 亚洲少妇喷视频看| 天美av在线观看| 欧美 传媒 麻豆 日韩 偷拍| 自拍视频大全亚洲专媒视频/一区二区三区 | 裸体1区| 国产成人久久精品蜜臀| 亚洲综合九九| 豆花视频操逼网址| 中文字幕中文字幕一区二区| aaaa少妇高潮大片| av九九| 国产精品对白内射| 日韩三级在线观看mp4| 国产精品久久久久久久免牛肉蒲团| 啊啊啊啊啊啊好湿好爽视频| 91麻豆一二三区| 91熟女视频网| 欧美综合网在线| 久久6热精品99视频| 精品中文一区二区| 伦理日韩国产久久| 黑人精品欧美一区二区蜜桃| 美女91在线| 国产精品视频自拍在线| 激情啪啪拍91| 精品无码一区二区| 人妻人妻天天碰| 玖玖爱视频网站| 中文乱码字字幕在线第5页| 亚洲精品国产熟女| 伊人久久艹| 偷拍亚洲高清图片| 91在线国产后入风骚翘臀美女素人| 国产精品不卡少妇白| 中文字幕一区二区三区四区在线视频| 日韩色| 东京太热久久久| 国产成人精品午夜福利| 欧美日韩传媒| 久久av成人无码免费| 亚洲综合激情五月久久| 色超碰综合| 色妺妺AⅤ| 99在线无码精品秘 入口黑人| 加勒比大香蕉视频在线| 青青伊人久久| 少妇久久久久久久久| 日韩色| 桃色六月天| 91天美免费| 在线观看高清AV| 粉嫩国产精品久久粉嫩| 99re在线视频这里只有精品| 日韩免费中文字幕视频| 99自拍视频| 青青草久草AV| 成人av在线播放| 天综合中文| 日本在线15p| 亚洲 自拍偷拍 欧美| 偷拍 亚洲| 久久久精精精| 一个人免费HD91视频| 伊人久久久日韩一区| 超碰78| 大香蕉婷婷| AV男人天堂网| 中文字幕一区电影在线观看| 美女啪欧美一区| 97爱综合| 麻豆天美国美国产| 成人性生活高清视频在线播放| 国产美女mm131爽爽爽爽| 亚洲高清内射| 午夜人人操| 夜夜狼人妻| 黑人娇小av在线播放| 欧美在线视频99| 欧美亚洲系列| 午夜大香蕉| 视频二区美腿制服人妻欧美| 精品亚洲国产成人AV制服丝袜 | 成人av影院在线观看| 4141514逼喷水三级片| 国产乱子伦久久精品综合一区二区三| 伊人五月天| 偷拍导航视频网站| 大香蕉九九| 欧美性爱一区二区三区| 91啪啪| 欧美色就是色| 在线女人91| 91一区二区三区蜜桃| 东北老女人的激情视频| 亚洲成人性爱网站在线播放| 三级日韩一区二区三区| 九九热五区| 久久久久久久伊人精品| 伊人久久久日韩一区| 久久精品国产亚洲AV嘿嘿| 国产精品在线一区二区| 国产 v乱码一区二| 理论久久婷婷网8| 9久超碰| 国产婷婷综合在线观看| 91久久伊人婷婷青青草| 波多野结衣先锋影音| 中文字幕精品三级久久久| 综合久久婷婷| 男女一进一出视频久久| 安徽熟妇视频| 无码高清专| 亚洲色图A| 观看视频图片一区二区三区| 亚洲无码太久| 狠狠干2020| 97超碰国产精品| 偷拍三区| 青青青草原| 亚洲天堂另类小说男人| 人人操人人搞人人草| 亚洲干B| 日日干日日操五月天伦理视频| 人人操肉肉| 懂色Av一区二区三区| 欧美精品第四五页中文字幕在线观看| 18禁网站在线播放| 少妇无码999| 2017大香蕉国产精品久久| 久久99亚洲精品久久99果| 欧美97超碰| 天天激色| 校园春色制服丝袜中文字亚洲| 欧美精品23| 校园春色AV天堂| 精品人妻视频一区二区三区蜜桃视频| 在线强奷到舒服的无码视频| 国产高清亚洲日韩一区| 久久久久久久久国产| 蜜臀久久一区二区| av日韩国产一区二区| 97 色综合| 91视频综合在线| 色香阁在线| 92午夜免费福利视频| 亚洲精品国语在线播放| 久久有码视频| 蜜桃一区二区三区| 91色艳| 欧美国产欧美在线观看| 日韩无码极品| 日日夜夜天天| 欧美日本国产日韩激情视频| 91中文字幕| 玖玖资源视频一区二区三区| 九九九九九九成人| 欧美专区第一页| 色综合色色| 强奸乱伦αv片| 26uuu偷拍亚洲欧洲综合| 亚洲色图 欧美| 风韵犹存大大大大香蕉 | 日夜伊人网| 97日韩欧美亚洲| 国产乱子伦一区二区三区免看| 一区中文字幕二区日韩| 99这里都是精品| 欧美成人性爱视频大全| 日韩欧美综合激情| 国产综合在线视频网站| 婷婷超| 色噜噜狠狠色综无码久久合欧美| 黑人干亚洲| 999 久久久| 日韩图区| 精品999日本| 亚洲国成人情色好看电影| 九九热免费国产视频婷婷伊人五月| 五月激情视频| 九九黄色网| 五月丁香影视| 欧美熟女少妇| 青青草九九九九九| renqi久久久久久久久久久久| 婷婷综合| 夜夜爽77777| 精品久久視頻在线| 97中文天堂| 久久久啊啊| 黑丝91视频| 综合网久久| 伊人网在线观看| av午夜玫瑰| 91熟女综合| 97干综合网| 俺去啦自拍| 欧姜老司机| 女色综合| 精品人妻一区二区三区四区石在线| 20cm女自慰在线日韩欧美| 激情小说图片亚洲首页| 日韩操逼性鲍| 日韩欧美中文| 国产女性无套 免费观看| 久草五月| 伊人青青一区成人视频在线观看区| 91九九九馒头| 99热导航| 天天综合网亚洲综合网| 黑人性暴力毛片| 日韩小电影| 国产精品久久久久久久AV大片 | 97在线欧| 美女网站91| 日本在线观看网址| 国产精品成人福利在线| 日韩婷婷| 欧美一区二区日韩传媒搭讪精品| 国产地址二三| 国产91丝袜 在线播放| 国产熟女精品一区二区| 亚洲精品国产专区在线观看| 大伊香蕉在线视频免费| 国产少妇肉丝在线观看| 1204av韩国| 日日干日日摸| 国产无码精品成人| 青青操狠狠撩| 伊人五月天青青草婷婷| 欧美91精彩| 火箭成精品视频884必出精品| 白丝被操91| 最新国产精品久久精品| 欧美日韩人人精品| 久久是精品| 午夜小电影在线插入淫高潮| 五月天丁香婷婷综合网站| 国产少妇肉丝在线观看| 97精品国产手机| 91丝袜人妻| 亚洲一区中文精品| 亚洲欧美日韩夜夜| 四虎影库国产精品免费| 99re在线视频| 中文?日韩?免费?精品| 在线观看精品国产免费| 欧美激情亚洲色图| 校园春色美腿丝袜 | 91综合网站| 欧美一区二区观看在线| 成年男人的天堂| 人妻第一页| 国产美女mm131爽爽爽爽| 高凊专区人人操| 久草综合网| 久久久久亚洲?V片无码V| 久久久久精| 久久东京热成人| 国产精品久久久久亚洲av| 久9久| 91五十路| 99久视频| 少妇高潮九九九九九九九| 十八禁av无码免费网站APP| 天堂av2019| 欧美少妇人妻| 八戒午夜福利理论片| 人人喜人人妻| 亚洲综合网91| 夜夜草网站| 中国熟女91| 欧美国产欧美在线观看| 欧美三级一级| 青娱乐休闲视频在线观看| 色色色热| 综合亚洲网| 影音先锋国产精品| 美女91网址| 性爱av网站| 少妇人妻在线| 欧美性爱一级操| 亚洲在钱| 丁香五月综合| 亚洲加勒比色图| 岛国视频免费在线观看| 精品九九九九九九九九九| 日韩簧片免费看| 夜夜嗷嗷一区二区| 日韩精品在线视频在线观看| 女同性恋一区二区三区精品视频| 蜜臀99久久精品久久久懂爱| 五月激情综合网| 日韩97P| 日韩国产品视频中文字| 日本天天干天天操一区| 人妻天堂综合网| AAAA级日本片免费视频 | 成人性爱视频在线看| 好看的久久不射无码影视影院| 吖在线不卡一区二区国产剧情| 亚洲情色图片区| 美国人人操人人操| 99re在线视频| 久久精品美女一区| 国产精品农村妇女精品| 激情第四色| 深夜福利黄片| 熟女中出视频| 欧美一级久久久久久久大片动画| 亚洲男人的天堂网| 日亚韩精品视频二区三| 超碰久超碰久| 欧美在线官网| 久久久久亚洲av综合波多野制衣| 伊人aaa| 久久五月丁香| 日本淫乱女一区二区三区视频| 国产精品色哟哟| 人人天天干干| 欧亚日韩中文在线| 精品176精品2| 99久久精品国产高潮| 日本加勒比无码专区| 丰满搜索结果 -第18页- 久久高清无码| 人人看人人爰人人操| 天天碰久久入| 日本丝袜美腿人妻九九| 天天搞在线综合网| 精品人妻一区二区免费看| 亚洲综合113页| 睡产熟女乱伦| aV中亚| 欧美在线|亚洲| 天天综合网一91网| 日韩人妻中文视频| 国产久久久| 欧美与日韩97| 欧美天天拍| 九九久久一区二区伦理| 无码人妻1727| 狠狠干妹子| 天天操天天射青青草| 国产黄色av大片网站| 久久专区| 欧美九一精品久久久熟妇| 一二三啪啪专区| 中文自拍欧美影视| 超碰在线人妻中文字幕| 99999久久精| 99久热精品99re6热| 中文字暮97| 国产精品香蕉热久久新品| 又粗又长又大国产不卡| 熟妇女伦乱视频视频 | 国产女人操逼视频| 欧美日韩国产成人高清| 男人的天堂三级| 国产二区三区粉嫩在线| 蜜桃久久综合视频| 亚洲无码久久久久久久| 综合激情二| 国产精品诱惑| 一二三四区电影| 久久精品国产久精国产| 一个人在线看的黄色电影网站| 99视频自拍| 偷拍自拍在线视频观看| yw尤物av无码点击进入麻豆| 日夜精品| 亚洲欧美校园| 嗯嗯啊啊的视频| 白丝少妇一区二区| 精品国产一区二区久久| 大香蕉伊人久久| 亚欧高清v| 欧美日韩国内不卡| 亚洲1区2区三区高清中文字幕| 综合久久久久久久久91| 国产白丝精品在线观看| 夜夜高潮夜夜爽夜夜爱爱一区| 少妇人妻好深太紧了vr91| 日韩性爱一级片| 九九热九九| 天天综合网网欲色| 色97干| AV女优男人的天堂| 超碰99在线| 日韩91网| 亚洲毛片久久| 色九久| 日骚逼视频| 国产91 丝袜在线播放00-百度| 亚洲欧美国产精品久久久久久久| 另类专区加勒比| 久久久久幕乱码| 中文字幕色AV| 97在线播放| 国产9l 大屁股| 99久久99九九99九九九| 九九热三级片| 久久精品国产亚洲5555| 欧美成人一级麻豆| 免费无码婬片AAAA片直播色戒| 丁香五六月啪啪| 人妻偷拍一区二区三区| 久久五月天婷婷丁香中文字幕| 成人免费看吃奶视频网站| 91精品在线播放| www激情| 狠狠狠狠狠狠|