久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Arthas實(shí)戰(zhàn):Java線上問題排查利器,無需重啟即可診斷JVM

Arthas實(shí)戰(zhàn):Java線上問題排查利器,無需重啟即可診斷JVM 真香定律放在技術(shù)圈一樣適用。以前總覺得線上排查問題靠日志、靠監(jiān)控、靠人肉加日志就夠用了直到真正把 Arthas 用起來才發(fā)現(xiàn)以前那些操作有多繞。Arthas 是一個(gè)開源的 Java 診斷工具不用改代碼、不用重啟服務(wù)可以直接 attach 到正在運(yùn)行的 JVM 進(jìn)程上實(shí)時(shí)查看類加載情況、方法出入?yún)?、調(diào)用棧、線程狀態(tài)、JVM 指標(biāo)還能反編譯和在線熱更新。它專門解決一類問題線上偶發(fā)、日志不全、無法本地復(fù)現(xiàn)、一重啟現(xiàn)場就沒了。無論你是后端開發(fā)、維護(hù)過老項(xiàng)目還是正在被“線上 bug 怎么都復(fù)現(xiàn)不了”折磨這篇文章都值得花十分鐘讀完。1. 為什么說它是排查線上問題的“真香”工具1.1 傳統(tǒng)排查方式的三座大山先聊聊大家最熟悉的排查流程。遇到線上故障第一反應(yīng)通常是翻日志。但日志工具抄出來的往往是“結(jié)果”不是“過程”很多關(guān)鍵參數(shù)、臨時(shí)變量、調(diào)用時(shí)序根本不存在。如果日志里什么都有那問題可能早就被監(jiān)控平臺(tái)發(fā)現(xiàn)了現(xiàn)實(shí)往往是日志不夠、不夠細(xì)、沒有參數(shù)上下文。接著你會(huì)想本地復(fù)現(xiàn)把線上數(shù)據(jù)導(dǎo)出來構(gòu)造請求打一遍結(jié)果發(fā)現(xiàn)本地怎么都復(fù)現(xiàn)不出來。因?yàn)椴l(fā)量、緩存狀態(tài)、時(shí)鐘順序、臟數(shù)據(jù)都可能影響最終結(jié)果本地環(huán)境永遠(yuǎn)只是線上環(huán)境的一種近似。最后一招是加日志重啟改一行 log.info編譯打包發(fā)版等流量進(jìn)入再看日志這中間耗時(shí)少說半小時(shí)多則幾個(gè)小時(shí)而且頻繁重啟會(huì)讓現(xiàn)場被破壞流量重放也未必能還原問題。這三座大山我相信每個(gè)后端都經(jīng)歷過。Arthas 恰好能繞開它們不需要提前埋點(diǎn)因?yàn)樗茉谶\(yùn)行時(shí)直接查看真實(shí)出入?yún)⒉恍枰磸?fù)發(fā)布因?yàn)樗苯硬僮鳟?dāng)前進(jìn)程不需要靠猜因?yàn)樗馨颜{(diào)用路徑和方法執(zhí)行細(xì)節(jié)攤開給你看。用過一次之后你會(huì)真心覺得“真香”。1.2 原理attach 與字節(jié)碼增強(qiáng)要理解 Arthas 為什么能做到這些得先知道它的原理基礎(chǔ)。Arthas 本質(zhì)上利用了 Java 的 attach 機(jī)制和字節(jié)碼增強(qiáng)技術(shù)。attach 是 JDK 提供的一種能力允許一個(gè) JVM 進(jìn)程運(yùn)行時(shí)連接另一個(gè) JVM 進(jìn)程并通過 Agent 方式執(zhí)行操作。字節(jié)碼增強(qiáng)則是在類加載或運(yùn)行時(shí)對已經(jīng)加載的類做動(dòng)態(tài)修改在方法執(zhí)行前后插入攔截邏輯相當(dāng)于給方法裝上一套“臨時(shí)探針”。這套探針是臨時(shí)的JVM 一重啟就沒了不會(huì)影響原有邏輯。原理本身在 Java 生態(tài)里不算多新鮮但真正難的是把這一套能力封裝得好用做成命令行交互式的產(chǎn)品。Arthas 做到的正是這一點(diǎn)從啟動(dòng)到使用幾乎不需要在應(yīng)用代碼里增加任何依賴這對排查場景來說是極大的優(yōu)勢。1.3 什么時(shí)候該想到用它很多人問什么場景下 Arthas 才是剛需。我的判斷標(biāo)準(zhǔn)很簡單只要你遇到“日志看不出來、重啟代價(jià)高、需要確認(rèn)運(yùn)行期狀態(tài)”這三個(gè)條件中的兩個(gè)就該考慮它。典型場景包括接口耗時(shí)突然變長、CPU 飆升、線程池被打滿、緩存數(shù)據(jù)異常、灰度環(huán)境某個(gè)請求表現(xiàn)不一致、老項(xiàng)目沒有源碼無法重新編譯。這里有一個(gè)容易被忽略的點(diǎn)Arthas 不是只給“救火”用的。在正常的壓測、聯(lián)調(diào)、性能分析階段也可以主動(dòng)用它。我經(jīng)常在壓測時(shí)開著 dashboard一邊加壓一邊觀察線程池大小、GC 頻率和熱點(diǎn)方法比事后看測試報(bào)告直觀得多。因?yàn)樗皇菑慕y(tǒng)計(jì)數(shù)據(jù)里做推測而是直接從運(yùn)行中的 JVM 里拿事實(shí)。1.4 為什么團(tuán)隊(duì)?wèi)?yīng)該統(tǒng)一學(xué)習(xí)Arthas 這類工具個(gè)人會(huì)用和團(tuán)隊(duì)都會(huì)用的效果差別很大。一個(gè)人掌握遇到問題只能是他上團(tuán)隊(duì)都掌握任何值班的人都能快速定位初級問題不用每次都把核心開發(fā)叫起來看服務(wù)器。我見過不少團(tuán)隊(duì)把 Arthas 列為后端必修技能要求每個(gè)人至少掌握 dashboard、thread、watch、trace 四個(gè)命令的基本用法我覺得是非常務(wù)實(shí)的做法。2. 上手必須先掌握的 6 個(gè)高頻命令命令速查表先放在前面后面會(huì)逐個(gè)細(xì)講命令用途典型場景dashboard全局面板CPU、內(nèi)存、GC、線程狀態(tài)一眼看全watch觀察方法出入?yún)⒋_認(rèn)參數(shù)是否正常、異常在哪拋出trace方法調(diào)用鏈耗時(shí)定位慢請求卡在哪個(gè)子調(diào)用thread線程分析CPU飆高、死鎖、線程阻塞jad反編譯看線上實(shí)際運(yùn)行的代碼mc redefine熱更新緊急修復(fù)后臨時(shí)止損2.1 啟動(dòng)與選擇進(jìn)程java -jar arthas-boot.jarArthas 的使用路徑非常直接。第一步下載 arthas-boot.jar放到服務(wù)器某個(gè)目錄下執(zhí)行java -jar arthas-boot.jar啟動(dòng)后它會(huì)自動(dòng)列出當(dāng)前機(jī)器上所有 Java 進(jìn)程輸入序號就能 attach。如果想跳過交互直接選進(jìn)程可以在后面直接加 PIDjava -jar arthas-boot.jar 1234512345 是目標(biāo)進(jìn)程的進(jìn)程號。剛上手時(shí)我建議大家執(zhí)行 help 看看當(dāng)前版本支持的命令列表因?yàn)椴煌姹局g命令細(xì)節(jié)會(huì)有差異老是照著老資料敲容易踩坑。有一個(gè)小細(xì)節(jié)Arthas 本身運(yùn)行需要 JDK但需要 attach 的目標(biāo)進(jìn)程不一定要用 JDK 啟動(dòng)部分 JRE 環(huán)境也可以兼容。不過實(shí)際部署中建議用和運(yùn)行環(huán)境同一版本的 JDK 去啟動(dòng) Arthas 客戶端減少無謂的兼容性問題。attach 成功后會(huì)進(jìn)入交互終端提示符變成$所有命令都在這里輸入。2.2 dashboard 一眼看全局attach 成功后的第一個(gè)建議命令是 dashboard。它會(huì)實(shí)時(shí)刷新一個(gè)面板展示 CPU 占用率、內(nèi)存使用、GC 次數(shù)、線程狀態(tài)分布、每個(gè)線程的 CPU 消耗等信息。這等于給 JVM 裝了一個(gè)實(shí)時(shí)監(jiān)控屏幕打開它就能快速判斷問題在哪一層是 CPU 整體打滿還是內(nèi)存上漲觸發(fā)頻繁 GC還是某個(gè)線程卡死。初次使用的人容易被大量指標(biāo)淹沒我一般只看四樣?xùn)|西最上面的 CPU 使用率、內(nèi)存區(qū)域變化、GC 頻率、線程狀態(tài)里 BLOCKED 和 WAITING 的數(shù)量。如果 GC 頻率異常優(yōu)先排查堆內(nèi)存和對象分配如果有大量 BLOCKED 線程優(yōu)先找鎖競爭。面板是持續(xù)刷新的按 q 可以退出回到交互終端。2.3 watch 查看入?yún)?、返回值和異常watch 是線上排查使用頻率最高的命令沒有之一。它的作用是對指定方法觀察當(dāng)方法被調(diào)用時(shí)打印出入?yún)?、返回值或者異常信息。watch com.example.order.OrderServiceImpl createOrder {params, returnObj, throwExp} -x 2這條命令的意思是觀察 OrderServiceImpl 類的 createOrder 方法當(dāng)它執(zhí)行時(shí)打印入?yún)?、返回值和異常對象嵌套展開深度 2 層。這里用了 OGNL 表達(dá)式用單引號包裹內(nèi)置變量包括 params 數(shù)組、returnObj 和 throwExp。我第一次用 watch 排查問題時(shí)整個(gè)人的感覺就是開了天眼。以前要加日志重新發(fā)版才能看到的參數(shù)現(xiàn)在直接在當(dāng)前進(jìn)程里實(shí)時(shí)看到而且可以臨時(shí)加條件只觀察特定用戶或特定業(yè)務(wù)類型watch com.example.order.OrderServiceImpl createOrder {params[0]} params[0].userId 10086 -x 3條件表達(dá)式寫最后返回布爾值只有滿足條件才打印。這樣在流量大的接口下看不會(huì)被無關(guān)請求刷屏。2.4 trace 定位方法耗時(shí)分布如果說 watch 解決的是“參數(shù)對不對”trace 解決的就是“時(shí)間花在哪”。它會(huì)輸出指定方法的調(diào)用鏈路上每個(gè)子方法的耗時(shí)自動(dòng)計(jì)算總耗時(shí)和每個(gè)節(jié)點(diǎn)耗時(shí)執(zhí)行效果類似一棵調(diào)用樹trace com.example.order.OrderServiceImpl createOrder命令執(zhí)行后目標(biāo)方法一旦被調(diào)用你會(huì)看到類似下面的輸出---createOrder() # 總耗時(shí) 823ms ---checkStock() # 56ms ---deductBalance() # 720ms ---sendMessage() # 47ms順著耗時(shí)最大的節(jié)點(diǎn)繼續(xù)往下 trace逐層鉆取就能鎖定真正慢的底層方法。這個(gè)過程就像剝洋蔥把慢請求一層層拆到最小執(zhí)行單元。有一點(diǎn)要提醒trace 是通過字節(jié)碼增強(qiáng)實(shí)現(xiàn)的它只增強(qiáng)執(zhí)行命令之后發(fā)生的調(diào)用歷史調(diào)用不會(huì)回溯。所以想抓到想要的 trace 結(jié)果必須讓目標(biāo)請求再進(jìn)來一次。如果接口觸發(fā)頻率低可以配合定時(shí)任務(wù)或者手動(dòng)打一個(gè)測試請求。2.5 thread比 jstack 更實(shí)用的線程分析很多同學(xué)排查線程問題只會(huì) jstack但 jstack 一下輸出大量線程棧分不清哪個(gè)線程才是問題源頭。Arthas 的 thread 命令可以直接按 CPU 消耗排序這個(gè)能力非常實(shí)用thread -n 3它會(huì)打印出 CPU 占用最高的 3 個(gè)線程同時(shí)帶上對應(yīng)線程棧。對比 jstack 還得自己去數(shù)線程 ID、對應(yīng) 16 進(jìn)制換算效率高了一個(gè)量級。它還能直接查死鎖thread -bFound one Java-level deadlock: thread-1: waiting to lock monitor ...thread -b會(huì)直接輸出檢測結(jié)果和相關(guān)線程棧不用再從 jstack 輸出里手工解析 Locked ownable synchronizers。如果需要看指定線程可以帶線程 ID 精確查看這個(gè)在分析阻塞場景時(shí)很管用。2.6 jad mc redefine 實(shí)現(xiàn)在線熱更新這一組命令要謹(jǐn)慎使用但在緊急情況下非常救命。jad 用于反編譯已加載的類可以看線上運(yùn)行的真實(shí)代碼而不是本地倉庫里可能已經(jīng)過期的版本mc 是內(nèi)存編譯基于 jad 查看后的源碼在內(nèi)存里重新編譯redefine 是把編譯好的字節(jié)碼替換到運(yùn)行中的 JVM 里。jad --source-only com.example.order.OrderServiceImpl /tmp/OrderServiceImpl.java mc /tmp/OrderServiceImpl.java -d /tmp redefine /tmp/com/example/order/OrderServiceImpl.class熱更新最典型的使用場景是線上有 bug 需要臨時(shí)改一行邏輯發(fā)布流程要走審批這時(shí)先用 Arthas 做臨時(shí)修復(fù)讓服務(wù)先恢復(fù)然后馬上走正規(guī)發(fā)布。要注意這個(gè)操作不會(huì)改磁盤上的 class 文件也不會(huì)寫回 jar 包服務(wù)一重啟就失效。而且不是所有代碼都能熱更新成功增加類、改變方法簽名的場景通常會(huì)失敗。3. 實(shí)戰(zhàn)從幾個(gè)真實(shí)故障看 Arthas 的實(shí)際用法3.1 場景一CPU 飆高快速定位到正則災(zāi)難性回溯我先講一個(gè)最常見的 CPU 100% 問題。某服務(wù)在活動(dòng)流量上來后CPU 使用率持續(xù)接近滿核業(yè)務(wù)方反饋接口響應(yīng)很慢。按老辦法先看 top 找到進(jìn)程 PID然后 jstack 導(dǎo)出線程棧再做 16 進(jìn)制轉(zhuǎn)換找到對應(yīng)線程整個(gè)過程相當(dāng)繁瑣。用 Arthas 的流程會(huì)快很多。attach 之后先執(zhí)行 dashboard整體看一眼 CPU 和線程狀態(tài)當(dāng)時(shí)很明顯看到幾個(gè)線程占用 CPU 非??鋸垺H缓髨?zhí)行thread -n 5它直接給出了 CPU 最高的 5 個(gè)線程及其調(diào)用棧。我看到一個(gè)線程棧反復(fù)停在同一個(gè)業(yè)務(wù)方法里跟進(jìn) trace 這個(gè)方法發(fā)現(xiàn)內(nèi)部有一段非常復(fù)雜的字符串正則匹配在特定輸入下觸發(fā)災(zāi)難性回溯CPU 全部耗在了正則引擎內(nèi)部。定位過程前后不到五分鐘全程沒有重啟服務(wù)。定位到原因之后我用 jad 反編譯出當(dāng)前代碼把正則邏輯臨時(shí)替換成樸素的字符串前綴匹配通過 mc 和 redefine 熱更新到線上進(jìn)程服務(wù)立刻恢復(fù)。這個(gè)案例給我的最大感觸是CPU 飆高和接口慢本質(zhì)上都是“定位問題”的效率問題。只要能看到線程在干什么排查時(shí)間就能從小時(shí)級縮短到分鐘級。3.2 場景二接口偶發(fā)超時(shí)trace 逐層揪出隱藏阻塞另一個(gè)案例是某接口偶發(fā)超時(shí)頻率不高大概每天幾次。這種偶發(fā)問題最折磨人日志里偶爾看到超時(shí)但不知道卡在哪個(gè)環(huán)節(jié)。我先用 watch 看接口入?yún)l(fā)現(xiàn)超時(shí)請求和正常請求的參數(shù)沒有明顯區(qū)別于是改用 trace 觀察調(diào)用鏈路。第一次 trace 還沒有抓到超時(shí)等了差不多十幾分鐘才有一次超時(shí)出現(xiàn)。這次 trace 輸出里接口方法總耗時(shí)接近 3 秒其中一個(gè)下游 RPC 調(diào)用的子節(jié)點(diǎn)耗時(shí)占 2.5 秒其他子節(jié)點(diǎn)都只有幾十毫秒。順著這個(gè)異步下游繼續(xù)往下定位最后發(fā)現(xiàn)是某個(gè)配置中心客戶端的刷新邏輯在特定時(shí)刻阻塞導(dǎo)致請求串行等待。這個(gè)例子想說明一個(gè)關(guān)鍵點(diǎn)很多偶發(fā)問題根本不體現(xiàn)在業(yè)務(wù)日志里因?yàn)闃I(yè)務(wù)代碼里沒有打印每一次下游調(diào)用的耗時(shí)明細(xì)。Arthas 的運(yùn)行時(shí)觀察能力等于給線上系統(tǒng)裝了一臺(tái)顯微鏡它能把正常日志看不到的細(xì)節(jié)全部拉到眼前。3.3 場景三驗(yàn)證修復(fù)方案不用發(fā)布就能試還有一種很常見的用法不是緊急救火而是驗(yàn)證方案。曾經(jīng)有一個(gè)灰度問題我們懷疑是某個(gè)枚舉映射導(dǎo)致數(shù)據(jù)錯(cuò)亂但不敢完全確定。改代碼發(fā)布會(huì)話成本高而且如果改完還是錯(cuò)的等于白折騰。我先用 jad 反編譯出線上實(shí)際運(yùn)行的類確認(rèn)枚舉字段順序和本地代碼不一致這是一個(gè)非常關(guān)鍵的信息。因?yàn)楸镜卮a經(jīng)過多次迭代線上的 class 可能已經(jīng)和 git 分支對不上。確認(rèn)問題后我在本地改好用 mc 和 redefine 熱更新到灰度進(jìn)程再跑一次請求問題復(fù)現(xiàn)時(shí)已經(jīng)不出現(xiàn)了這才放心走正式發(fā)布流程。很多人擔(dān)心熱更新有副作用。我的經(jīng)驗(yàn)是先在測試環(huán)境或灰度環(huán)境做驗(yàn)證確認(rèn)無誤后再對生產(chǎn)操作操作完成之后立刻用 watch 或重新發(fā)一次請求確認(rèn)行為符合預(yù)期。熱更新在 JVM 層是支持的但生產(chǎn)環(huán)境的變更仍要符合團(tuán)隊(duì)變更流程最好有同事在場一起確認(rèn)至少留一條操作記錄。4. 常見問題與排查技巧實(shí)錄4.1 attach 不上目標(biāo)進(jìn)程怎么辦我遇到最多的問題是 attach 失敗報(bào)錯(cuò)或者列不出進(jìn)程。這里有一個(gè)速查表基本覆蓋我遇到過的原因常見原因現(xiàn)象處理建議用戶權(quán)限不一致attach 時(shí)報(bào)錯(cuò)或無權(quán)限切換成目標(biāo)進(jìn)程同一用戶啟動(dòng)/tmp 空間滿了attach 后立刻異常退出清理 /tmp 下臨時(shí)文件目標(biāo)進(jìn)程已退出進(jìn)程列表里找不到用 jps 確認(rèn)進(jìn)程狀態(tài)端口被占用telnet 連接失敗指定新端口啟動(dòng)Linux 下 attach 有權(quán)限限制最好用和目標(biāo)進(jìn)程相同的用戶操作。Arthas attach 時(shí)會(huì)在 /tmp 寫臨時(shí)文件空間不足會(huì)導(dǎo)致各種奇怪問題。如果還是不行可以在啟動(dòng) arthas-boot.jar 時(shí)帶上--telnet-port和--http-port參數(shù)換兩個(gè)沒被占用的端口很多端口沖突的問題就解決了。4.2 對線上服務(wù)的影響到底有多大這是每個(gè)初次接觸的人都會(huì)問的問題。字節(jié)碼增強(qiáng)確實(shí)會(huì)帶來一些性能開銷但實(shí)際影響通常很小。我的實(shí)測經(jīng)驗(yàn)是在常規(guī)業(yè)務(wù)方法上開啟 watch 或 trace單次調(diào)用的額外開銷在幾毫秒以內(nèi)對整個(gè)請求來說幾乎感知不到。但如果是對超級熱點(diǎn)方法開 trace比如某個(gè)每秒調(diào)用上萬次的基礎(chǔ)工具方法開銷就會(huì)放大。這種基礎(chǔ)方法被所有上層業(yè)務(wù)調(diào)用攔截和記錄的成本會(huì)被放大到不可忽略。我的建議是精準(zhǔn)選擇目標(biāo)方法不要對整個(gè)包路徑做通配觀察觀察期間留意 dashboard 的 CPU 變化如果發(fā)現(xiàn)明顯升高立刻縮小范圍或者停掉觀察命令。4.3 權(quán)限控制不能忽視Arthas 很強(qiáng)強(qiáng)到可以隨時(shí)查看進(jìn)程內(nèi)數(shù)據(jù)、修改運(yùn)行中的代碼所以它也是一把雙刃劍。在團(tuán)隊(duì)里使用至少要做到三件事控制在指定的運(yùn)維和開發(fā)人員范圍內(nèi)使用不要全員開放服務(wù)器權(quán)限生產(chǎn)環(huán)境使用前提前申請臨時(shí)權(quán)限并記錄操作原因操作完成后及時(shí)退出交互終端不要長期掛著會(huì)話。有些團(tuán)隊(duì)會(huì)把 Arthas 封裝成內(nèi)部平臺(tái)通過 Web 界面暴露受限接口避免開發(fā)人員直接登錄服務(wù)器亂敲命令。我比較認(rèn)可這種思路能力強(qiáng)大和可控并不矛盾。安全這塊做到位工具才能長期用下去。4.4 部分命令在生產(chǎn)環(huán)境不可用跟具體 JDK 版本相關(guān)的問題也值得關(guān)注。某些 JDK 版本下 jad 反編譯可能不完美尤其是涉及 Lambda 表達(dá)式或者動(dòng)態(tài)代理生成的類時(shí)反編譯結(jié)果會(huì)讓人看得很困惑。redefine 的限制更多對新增成員變量、改變方法簽名這類結(jié)構(gòu)性變更通常不支持強(qiáng)行操作會(huì)報(bào)錯(cuò)。遇到這種情況不要死磕熱更新。先用 watch 拿到足夠信息確認(rèn)根因后該走發(fā)布流程就走發(fā)布流程。工具的作用是幫你看清現(xiàn)場而不是替代正常的變更管理。5. 使用經(jīng)驗(yàn)和技巧分享5.1 條件表達(dá)式讓 watch 不再刷屏watch 默認(rèn)打印所有請求在流量大的接口下輸出會(huì)刷得飛快關(guān)鍵是里面有價(jià)值的請求可能只占很小比例。用條件表達(dá)式可以做到精準(zhǔn)觀察比如只看某類訂單創(chuàng)建失敗的請求watch com.example.order.OrderServiceImpl createOrder {params[0], returnObj} params[0].orderType 2 returnObj.success false條件表達(dá)式寫在命令最后返回布爾值滿足條件才觸發(fā)打印。這個(gè)技巧能讓你在繁忙環(huán)境下直接鎖定目標(biāo)請求不用從大量日志輸出里去撈。5.2 ognl 命令主動(dòng)觸發(fā)靜態(tài)方法調(diào)用有些時(shí)候你不僅想看還想主動(dòng)觸發(fā)某個(gè)方法比如清理某個(gè)靜態(tài)緩存、查看某個(gè)配置項(xiàng)。Arthas 提供 ognl 命令可以不寫代碼直接執(zhí)行靜態(tài)方法調(diào)用ognl com.example.config.CacheManagerclear()這種操作在應(yīng)急時(shí)很有效但風(fēng)險(xiǎn)也高它相當(dāng)于直接往 JVM 里執(zhí)行代碼。我建的建議是先把命令在測試環(huán)境驗(yàn)證一次再上生產(chǎn)并且必須明確這個(gè)調(diào)用會(huì)影響什么、會(huì)不會(huì)有并發(fā)問題。5.3 腳本批量采集線程現(xiàn)場遇到周期性出現(xiàn)的問題比如每小時(shí)整點(diǎn)偶發(fā)一次卡頓單次執(zhí)行 thread 不一定能抓到現(xiàn)場??梢杂靡粭l簡單的 shell 循環(huán)把 Arthas 的批處理模式用起來while true; do echo --- $(date) --- thread_dump.log java -jar arthas-boot.jar PID -c thread -n 5 -i 1000 thread_dump.log 21 sleep 5 done這里用到了-c參數(shù)可以讓 Arthas 執(zhí)行一條命令后自動(dòng)退出非常適合在腳本里批量使用。-i 1000是采樣間隔單位是毫秒。把多次采集到的線程快照放在一起對比周期性問題的觸發(fā)特征就很容易暴露出來。5.4 工具是幫手不是萬能藥最后說一點(diǎn)個(gè)人觀察。Arthas 確實(shí)香但解決的是“運(yùn)行態(tài)信息不可見”的問題很多線上故障的根因其實(shí)是代碼邏輯、容量規(guī)劃或者架構(gòu)設(shè)計(jì)。工具能幫你更快定位問題但定位完之后該重構(gòu)要重構(gòu)、該擴(kuò)容要擴(kuò)容不能把熱更新當(dāng)成常態(tài)化修復(fù)方式。我現(xiàn)在的習(xí)慣是復(fù)雜問題先用 Arthas 快速觀察現(xiàn)場拿到關(guān)鍵證據(jù)后把結(jié)論和操作記錄整理到運(yùn)維工單然后走穩(wěn)定的修復(fù)流程。工具負(fù)責(zé)把定位時(shí)間從小時(shí)降到分鐘剩下的工程質(zhì)量問題還是要靠扎實(shí)的代碼和可靠的變更流程解決。前后踩過幾次坑之后我對 Arthas 的態(tài)度已經(jīng)從“要不要學(xué)”變成了“怎么用得更穩(wěn)”。如果你也被線上問題復(fù)現(xiàn)難、定位慢困擾別猶豫找個(gè)低峰期在測試環(huán)境把 watch、trace、thread 這幾個(gè)基礎(chǔ)命令練熟真到救火那一刻你會(huì)感謝這個(gè)“真香”工具。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
午夜精品久久久久久久久久久久久| 99精品网| 欧美熟妇色| 极品白嫩福利在线| 欧美午夜一区二区三区| 91精品人| 久久国产逼| 99日免费视频中文字幕| 神马午夜久久久| 狼人久草| 婷婷亚洲五月***久久| 婷婷超| 国产91专区| 96AV久久久| 国产一区二区在线电影| 亚洲精美粉嫩嫩泬在线观看| 91性感网站| 精品超碰中文在线| A 天堂在线观看视频| 亚州一区二区| 一级性爱视频免费在线| 午夜美女福利视频| 天天综合中文字幕 91| 中文字幕十五区| 污啪啪啪视频| 久久精品夜色国产亚洲AV| 五月天婷婷色色| 国产精品视频一区二区三区八戒| 成人无码在线超碰网| 少妇久久久| 91亚洲网站| yazhouzaixian| 天美传媒Av在线| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 日日骚一区二区三区| 吊色| 成人三级片一区二区三区视频| 亚洲宗合网| 亚洲情色在线| 上床不卡网站| 九九黄色网| 欧美一区二区观看在线| 亚洲第一成人影院色播| 婷婷99狠狠| 99无码视频| 久久激情视频| 天色综合网| 自拍丝袜美腿人妻| 91九九九小逼| 欧亚韩国999| 国产伊人精品在线| 91bbb| se吧提供国产乱老熟视频胖女人| 无码高清少妇久久| 极品尤物自安慰| 中文字幕日韩人妻视频一区二区三区| 午夜寂寞欧美| 欧美激情综合色综合啪啪五月| 色婷网| 嗯啊啊啊轻点视频 | 手机午夜电影神马久久| 做爱A级亚欧| 国产女生在线| 丝袜综合| 日韩在线一区高清在线| 中文精品一区二去| 啊啊啊操一区| 91亚州欧美| 日韩色女精品| 中日韩免费看男女操逼大全| 爆操无码| 欧美日韩另类字幕中文| 淫荡网址| 人妻中文字幕日韩电影| 亚洲综合春色| 亚州欧美另类| 亚洲日韩美国人妻| 久久超碰爱| 男人天堂网手机版婷婷| 免费精品无码一级毛片牛牛影视 | 日本护士高潮| 热热热热日日漂亮永久永久国产日| 欧美大干日韩| 日韩亚洲欧美中文字幕| 色爱综合网| 99这里都是精品| 乱人乱色一区二区三区免费| 操逼A∨| 殴美大黄片| 亚洲男人天堂Av| 精品网站99999| 加勒比性爱成人在线| 亚洲国产97| 97任你吞精| 你草精品在线视频| 秋霞视频一区二区| 在线视频五十市| 欧美宗合色| 免费一级黄色录像影片| 亚洲精品99| 日韩不卡一二三四| 男女日B国产| 亚洲 图片 综合91| 91色亚洲| 欧美综合区| 国产精品视频播放| 乱伦av.com| 色眯眯射| 精品一区二区在线针对华人免费观看这里只有精品免费观看 | 夜草网站| 天美AV片| 欧美色宗合| 99热在线播放| 成人性交午夜免费片| www.91理论| 闷骚老熟女15P| 性天堂| 综精品久久久aaaa| 久久专区| 青女在线| 国产亚洲精品农村妇女| 日韩天天本| 日韩欧美成人性爱在线| 久草看看看| 久久伊人大香蕉| 91精品老女人| 91人妻视频| 国产无码久久高清| 久久草草亚洲蜜桃臀| 人妻在线中出视频| 视频在线观看免费一区二区三区 | 中文字幕在线免费观看2| 欧美人妻精品| yiqicaoav| 欧美色图片91| 大香蕉人妻| 老熟女综合网| 99999精品成人| 高清有码一区二区| 国产久久天堂资源| 久久香蕉综合一本到3atv| 噜噜噜亚洲精品| 亚洲各类熟们中文字幕| 国语精品av| 亚洲中文字幕噜噜噜久久久| 日韩精品人妻一| 少妇贴图| 蜜桃臀av一区二区| www.高清无码诱惑一区.com | 91+欧美| 久久久久久电影| 欧美大干日韩| 色97| 久久av一级av少妇av高潮| 乱码人妻一区二区三区| 操91| 人人贴人人摸| 国产精品农村妇女精品| 日韩欧亚中文在线| 1024亚洲中文字幕久在线看片你懂的 | 91久热| 久操97| 久久综合女优| 激情丁香五月婷婷| 天天摸夜夜添无码小视频| 51一区二区三区| 欧美激情亚洲色图| 人人摸人人叼| 蜜乳AV一区二区三区四| 中文字幕av亚洲精品| 久久久91福利姬| 国产熟女少妇一区| 久久丁香| 秋霞免费AV| 国产呦精品系列在线观看| av东京热男人的天堂| 好吊妞转入那个网| 操人91| 亚洲天堂人妻熟妇视频| 精品国产Av无码久久久伦古装| 91nbbbbbb| 欧美性区| 97日本超碰综合| 国产亚州日韩欧美看片| 少妇无码av专区线| 久艾草在线精品视频在线观看| 九久精品| 日本天天干天天操一区| 99这里只有精品| 熟女AV一区| 欧美熟妇乱码在线一区| 久久婷婷五月| 操逼视频免费日韩无码| 中文字幕乱码人妻二区三区| 日本性感人妻91| 校园春色欧美色图| 欧美熟妇视频| 国产黄a三级三级三级av在线看| 成人免费看吃奶视频网站| 色五月AV| 男人天堂网站| 极品肉射| 啊啊啊慢点| 清纯唯美综合| 大白逼三四级| 加勒比久久av| 九九九九九精品十六| 国产午夜福利视频在线| 亚洲一二三精品久久网| 99国产精品人妻人伦| 中出91| 性做久久久久久久| 午夜精品五区| 91成人久久| 探花熟女,姿勢到位,體驗感也到位| 秋霞免费无码视频日韩A片| 国产精品在线免费| 亚洲黑人在线| 婷婷涩嫩草鲁丝久久午夜精品| 久久精品无码不卡| 加勒比无码毛片| 亚洲欧美啪啪| 少妇熟女一区二区三区| 亚洲密乳AV| 强奸乱伦麻豆| 97色色婷婷| 色五月大香蕉| 台湾大香蕉99热| 春色校园综合网| 97国产色综合| 熟妇熟女一区二三区| 日本啊啊啊啊啊视频| 日韩一级二级在线| 2019男人的天堂| 免看60秒涩涩视频| 麻豆91熟妇人妻中文字幕茄子| 综合亚州欧美| 性夜影院爽黄A爽免费动漫| 亚洲成人在线高清| 国产精品爽爽va在线观看98| 久久久com| 东北黄色电影| 国产亚洲色婷婷99精品91| 久久久久亚洲精品| 久草电影网| 狠狠久久手机视频精品| av网页一区二区三区| 久久久久国产一区二| 久久精品国产免费观看99| 高清国产av无码| 校园春色 男人天堂| 亚洲AV资源| 一本大道久| 亚洲天天更新| 在线A日本| 亚洲另类久操网| 亚洲第一二区另类图| 久久9999| 亚洲国产一级黄色视频| 日韩丝袜二区| 中文字幕在线观看第二页| 啊啊啊97视频| 夜夜躁狠狠躁日日躁av| 亚洲成熟国产精品美女| 综合日韩激情另类图片| 亚洲干B| 午夜男女爽爽爽影院视频| 中文字幕精品一区二区精| 亚洲天堂热| 免费农村成人少妇人妻Aa一区二区视频| 91爱做| 日韩无码一级黄色av片| 乱伦系列一区二区| 不卡一区视频| a亚洲欧美色欲| 久久一二三四五六七八九区区区| 青草视频人妻在线观看| 欧美第五页| 日本熟女中文字幕一区| AV高清一区| 亚洲图片视频小说| 中国一区二区亚洲人妻| 天天综合网~91综合网| 探花视频免费观看国产专区| 中文字幕一区av| 久久9999 | 男人天堂2012| 蜜桃臀av一区二区| 成人av在线播放| 国产又粗又长又大的视频| 91日韩国产欧美亚洲另类精盘州至城都| 国产97在线视频| 久久草草欧美精品| 国语精品av| 精品在线观看视频在线| 后入式视频国产自| 亚洲欧洲精品视频发布| 伊人国产视频| 国产白嫩漂亮KTV在线| 大香蕉免| 国产高清视频无码在线| 一级啊性爱在线视频| 人妻少妇久久| 欧美性爱十八禁| 欧美暴力猛交| 蜜乳AV一区二区三区四| 精国久久一区二区三区98| 国产精品麻豆成人av| 校园春色制服丝袜中文字亚洲 | 欧美丝袜亚洲| 九月婷婷| 伊人五月天婷婷| 97高清啪啪| 精品一区96| 又大又大又大又粗爽高潮观看 | 好涩综合| 99久久综合| 日韩激情毛片一级久久久| 精品无码久久久| 操逼操2| 亚洲最大的黄色电影网站。| 大黄片做爱的大的| 91高潮喷水美女| 国产日韩欧美亚洲精品95 | 欧美精品黑人猛交高潮| 精品制服美女中文一区二区三区| 亚州操逼图| 天天影视之亚洲综合网| 亚洲欧洲日韩国产自在线| 美国三级日本三级久久99| 亚洲成人美女无吗| 97伊人网| 午夜啊啊啊| 久久五十路熟女人妻| rivers-china.com| Av色五月| 极品尤物女神在线观看| 青青青在线高清视频在线一二三四区 | 色999五月色| 国产精品操| 东北老女人的激情视频| 免费一级毛片在线视频观看| 亚洲av噜噜噜噜噜噜| 在线一区| 天美传媒av 在线| 黄在线| 有码专区最新中文字幕有码| 日本污ww视频网站| 日韩精品一区二区高清| 青青操狠狠撩| 91色拍| AV中文字幕剧情1区2区3| 国模精品娜娜一二三区| 精品欧美乱码久| 色www精品视频在线观看| 婷婷在线精品| 秋霞久久亚洲精品成人| 亚洲超碰97| 亚洲色图伊人网| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 少妇人妻在线| 夜夜嗨绯色| 天天综合~91入口| 色久桃花影院在线观看| 啊啊啊想要| 青娱乐91| 色天使大香蕉| 久久xx| 久热最新在线杭州| 18+91网站| 欧美乱妇狂野欧美在线视频| 欧美精品第四五页中文字幕在线观看| 久久婷婷精品| 九九热精品| 家庭乱伦网站国产| 99这里只有精品国产| 精品国产AV一区天美传媒| 亚洲综合色图欧美| 男女香蕉一区二区| 成人片视频| 天天综合网在线| 天综合网| 黄色高清无码无码破解免费暗网| 九九精品无码专区免费| 精品久久无码午夜福利| jazzjazz国产精品麻豆| 国内偷拍精品一区二区| .精品人妻一区二区三| 白丝av| 96麻豆精品一区二区三区| 亚洲欧美清纯| 久久久999| 亚洲免费看片| 婷婷久草| 亚洲中文字幕噜噜噜久久久| 97操97色| 西西美女视频网| 啊啊啊啊在线观看网址| 97天天弄| 精久久久| 男人的天堂久久狠| 偷拍99| 麻豆av一区二区| 黄色工厂这里只有精品| 搡老女人老熟女91老熟女综合网| 精品传媒在线一区| 久久亚州精品成人Av无| 欧亚性爱在线视频| 人妻系列无码专区中文有码| 亚洲图片偷拍视频区| 91黑人无码激情在线| 亚洲精品丝袜-不卡成人免费……| 中文字幕日韩综合| 超碰 97国产熟女| 粉嫩国产精品久久久| 无码视频一区二区| 久久精品女同亚洲女同13| 不卡视频一区蜜桃视频| 热思思免费视频| 欧美激情性久久久久久| 浪人综合网| 婷婷精品视频| 亚洲精品丝袜| 亚洲欧美中日韩| 老鸭窝黄色视频网站| 久久久精品九| 少妇的嫩逼图片| 欧美影院一区二区三区| 久久一区二区高清免费| www.色婷婷.com| 亚洲熟久久| 农村妇女精品一二区| 97精品一区二区视频| 亚洲日韩美国人妻| 欧美性猛交美女自慰91| 国内精品不卡无毒99999| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 男人 天堂 日 亚洲| 午夜精品久久久99热蜜桃的功能特点| 校园激情狠狠四射| 午夜福利无毒不卡| 亚洲丝袜色| 日本免费二区三区| 内射小黄片| 亚洲欧美精品91| 成人熟女区| 欧美综合网在线| 综合激情五月丁香| 爱爱久久| 日本免费一级AAA大片器| 天天射影院| 日韩国产十八禁| 99抽插| 国产嫩草精品A88AV| 三久久久四久久久久| 日本亚洲熟女视频| 男人网站婷婷| 99久久精品无码一区二区毛片免费| 五月婷丁香| 久久成人午夜狠狠| 欧美日韩电影成人在线| 亚洲最大黄网| www久久国产精品| 婷婷五月天av| 久久精品无码专区| 国产精品视频精品一二| 久久婷婷欧美| 午夜影美女日鸡鸡天天视频国产| 黄总AV色图| 97亚洲精品| 五月丁香婷婷综合| 久久久无码视频| 久久极品一区二区| 99999re| 亚洲综合九九| 少妇高潮九九九九九九九| 国产女人操逼视频| 又黄又硬又粗又长国产视频| 成人性爱美曰韩| 久草草一二三四区久久| 九九九九精品一区| 男人的天堂午夜av| 国桃视频产巨乳精品一区二区在线| a男人的天堂久久一级A毛片| 欧美亚洲第1页| 日日骚AV| 日日干日日操五月天伦理视频| 18禁止看精品中文字幕| 老鸭窝黄色视频网站| 天天操人人操狠狠插| 加勒比综合九九99视频在线播放| 国产无码精品久久久久久| 96免费视频在线| 国产精品一区二区亚洲人成毛片| 天美精品一区二区三区四区在线观看| 日本性爰一道本| 色眯眯av| 国产剧情一区在线观看| 亚洲成人激情小说视频| 蜜桃不卡一区二区| 在线观看AV片| 欧美大的香蕉有线电视视频| 超碰人妻久久人妻中文97| 国产精品网址| 亚洲AV色图| 欧美男女午夜啪啪| 日韩人妻一二三区视频| chaopen97久久| 超碰免费在线| 3P乱轮视频| 欧美最婬乱婬爆婬牲视频| 久久乐| 国产精品高清2021在线| 熟妇人妻一区二区三区| 色悠久| 天天爽入口| 人妻天堂综合网| 日本免费一级AAA大片器| 91色色综合| 婷婷五月天av| 久久美女国产| 伊人网高清| 97超碰中文| 夜夜爽爽爽| 亚洲日本激情| 男人天堂东京热| 久草精品国产蜜臀| 丁香激情网| 伊人久久综合影院| 高清孕妇孕交 交| 一区二区视频你懂的| 高凊专区人人操| 久久高清欧美国产| 亚洲欧美人妻| 97精品熟女少妇一区| 国产尤物在线三区| 久久妇| 亚洲一区二区三区麻豆传媒| 婷婷五月综合在线| 国产av又色又爽又黄| 精品欧美不卡在线播放| 欧美性性性| 智利AV在线网| 日韩传媒在线| 男人的天堂2018.| 国产 三级自拍| 久久亚洲欧美中文字幕国语| 加勒比av网| 欧美日韩国产人人| 91嫩草欧美| 亚洲欧美大香蕉| 亚洲乱熟女一区二区三区大香蕉| 欧美日韩精品一区二区三区高清| 国产精品成人AV片免费看网站 | 精品国产91av一区二区三区| 好色综合| 亚洲天堂资源网| 天天欧美97| 亚欧美天堂在线| 殴美日韩m| 久久a久久| 后入美女国产| 亚洲色偷偷色噜噜狠狠99网| 亚洲天天艹| 欧美亚州手机在线| 美女尤物福利视频| 亚洲AV小说| 不卡人妻少妇精品毛片一区23区视频 | 乱伦a片视频| 在线观看一级α片刺激高潮视频| 在线日韩精品一区二区三区| 99久久无码| 国产熟女一区二区| 人人操人人93| 老子午夜伦不卡影院| 2020中文字幕在线| 操一区| 久久风骚城市| 一区二区三区看视频| 九九五月天| 久久国产乱子伦精品免费女,网站| 6080YYY午夜理论片在线观看| 国产辣妈在线视频福利| 精品久久久久久AV无码| 色y情视频免费看| 久干9操| 插欧洲美女欧美精品| 久久一区二区三区入口| 色啪网| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 人人射人人操人人摸| 久久精品店| 亚洲丝袜色| 青青草自拍视频在线播放| 强奸少妇AV导航网| 伦在线97| 亚洲日韩熟女人妻高清在线| 竹菊一区二区三区AV线| 蜜臀一区二区三区在线| 福利社区午夜一区二区| 国产18精品亚洲精品| 91久精品| 一区二三区四区视频大全套| 欧美激情精品| 人人妻人人爽 97人人看碰人免费公开视频| 强奸乱伦动态污图免费| 99激情| 日本大香蕉| 清纯唯美亚洲另类| av在线不卡一区二区三区| 激情综合久久| 久久鲁夜| 少妇熟女一区二区三区| 在线观看亚洲专区| 97资源超碰| 日韩欧美资源| 蜜桃久久一区二区| 国产成人精品亚洲日本| 91久久18禁| 亚洲综合色图欧美| 免费精品中文字幕| 99re不伦| 狠狠色五月亚洲91| 樱花蜜乳av| 久久超碰爱| 男人天堂无码| 国产精品美女久久久久AⅤ国产馆| 97人人草| 97久久天天综合色天天综合色电影| 绯色一区二区三区不卡少妇| 中文字幕亚洲在线一区| 北条麻妃性愛视频| 91美女小视频| 97最新在线播放视频| 欧美性爱网97| 2023天天操夜夜操| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 日韩欧美丝袜诱惑| 九九九精品美女| 人人操人人操草草| 国产久久日| 日韩操啪| 偷拍欧美激情| 久久久久久久| 九九热视频在线观看| 香蕉大久久久| 日本丝袜人妻内射| 日韩女优在线| 偷拍 欧美 日韩| 中文乱码99| 久久专区| 色婷婷基地| 国产精品在线免费| 免费一级视频特黄色大片| 91女优在线观看 | 日韩成人大片一区二区| 97视频在线免费| 操逼逼福利视频| 激情视频一二三| 18禁看网站一区| 欧美三级免费伊人| 自拍偷拍草一草| 人妻无码后入| 五月丁香六月综合缴清无码| 蜜桃视频一区二区三区在线观看| 欧美高清18A片| 夜夜操av亚洲一区二区| 亚洲第一狼人丝袜美女另类 | 欧美日韩资源| 久久嫩草国产成人一区| 亚洲av无码国产精品字幕| 99热精品在线在线| 手机午夜电影神马久久| 欧美 日韩 另类 亚洲| 精品久久久久久无码| 国产人人干| 妺妺跟我一起洗澡没忍住| 九九热av| 人妻在线臀日韩| 操高情无码| 99热欧美| 不卡码视频| 国产毛片片精品天天看视频| 97视频900| 无码国产精品久久久久| 精品一区二区三区蜜桃| 欧美第38页| 日韩国产成人自拍视频| 夜夜夜爽www精品视频| 久久极品一区二区| 国产第25页在线观看| 天天影视91看看| 殴美牲| 国产精品探花色| 草久在线| 99天天超碰| 天天色播亚洲综合网站| 成年人黄色视频免费| 国产日韩欧美| 人妻嗯啊啊在线播放| a片自拍直播视频| 免费男人的天堂| 日本青青草在线| 岛国艾薇凹凸视频天堂| 亚洲人妻久久| 五月天加勒比啪| 亚洲欧美精品一区天堂久久 | 青青草中文-久久青草精品一区二区三| 国产美女高潮| 91色伦综合| 91AV老熟女视频| 96久久精品一二三区色欲| 成人怡红院| 综合少妇网| 99热在线不卡| 嗯啊不要啊在线| 欧美性爱三区二区| 不卡av在线中文字幕| 色97干| 日本道日本道中文字幕日本道最新日本道在线观看 | 日本亚洲熟女视频| 国产三级资源在线观看| 久久超碰com| 亚洲综合 欧美| 亚洲天天影视综合网| 亚洲色图超碰在线| 免费人成?大片在线播放| 无码天天操| 国产欧美在线观看免费观看| 久久久月天| 亚洲天堂电影网| 色踪合AV| 精品久久久久久久久久久久| 久热69九色熟妇97| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 人人综合| 欧洲射精91| av资源在线观看少妇| 亚洲一本色道中文无码aV天美| 免费无码婬片AAAA片直播色戒| 亚洲乱妇p22| 天天综合-91入口| 3P丝袜熟女 色综合| 人人摸人人舔一区二区| 都市激情人妻一区二区青青操视频 | 成人情色一区二区| 亚洲综合婷婷| 猛交交| 男人的天堂2010| 99热精品在线| 丰满少妇人妻久久久久久| 欧美少妇熟女| 天堂蜜桃无码视频一区二区| 天天干天天干天天| 暖暖精品二区三区观看| 国产亚洲 中文欧美久久| 天天欧美欧美亚洲网| 欧美最婬乱婬爆婬性视频 | 日韩欧洲操屄视频| 黄片色区软件| 亚洲一区二区三区四区视频| 一区二区三区激情在线观看| 亚洲一区二区中文字幕| 920日本午夜免费| 中亚av| 97干在线看| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 色在线综合| 午夜视频好爽啊| 亚欧无码线免费观看视频| 国产成人亚洲精品无码最新在线| 国产亚洲日韩欧| 无套内射人妻在线播放| 熟女字幕| 夜夜一区二区| 鸥美精品一区二区久久婷婷| 精品乱子一区二区三区99| 欧美性爱网97| www.久久超碰| 亚洲97| 日韩不卡a级视频专区| 五月天婷婷小说| 国产无遮挡| 欧美亚洲清纯| 国产400孕妇孕交群| 在线免费观看高清无码视频| 欧美日韩国产三级黄色| 亚洲古典另类欧美在线| 丁香五月天社区| 日韩成人午夜精品久久高潮| 蜜臀网址在线| 日韩一级性爱无码| 殴美大黄片| 中文一区二区婷婷视频| 亚洲图片视频小说| 三级日本一区二区三区| 精品黑人一区二区| 欧美日韩婷婷中文| 9 1果冻精品视频| 欧美性爱18观看| 伊人久久大香大香线蕉中文| 91女网站| 欧美激情亚洲| 9999久久久| 日韩午夜啪啪视频| 日韩精品怡红院| 日韩一级免费性爱| 亚洲美乱| 97频视在线| 国产精品久久久久久久久久久久| 内射老妇BBWX0C0CK| 国产福利精品最新在线 | 美女久久久久久久| 国产精品另类| 日韩不卡av一二三| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 黄色AAAAA欧美| 亚洲 图片 综合91| 色区97| 免费作爱一级视频| 最新亚洲风情电影| 亚洲精品久久久久毛片A片拉屎 | 成人av福利在线观看| 亚洲综合激情五月久久| 91久久久久| 色五天伊人| 无码heyzo高清一区| 欧美综合亚洲综合| 色色丁香| 97在线观看免费| 立川理惠无码一区二区| 久久99精品九九久久久婷婷| 日本人妻丰满熟妇久久久久久| 欧美有码激情视频一区二区三区| 91九色丰满高潮| 曰韩操B| 色婷婷狠狠18禁| 一区二区三区一亚洲中文字幕、综合区灬 | 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 国模无码人体一区二区三| 欧美天天插| 91综合色噜噜| 台欧久久精品视频| 久久久久99999| 91女网站| 中国操逼无码| 欧美色图成人网一区二区| 日韩免费三级黄片电影| 色鬼在线综合| 欧美gv在线观看| 欧美在线55555| 天天色天天干天天爱| 亚洲妇色| 国产精品久久久久久久毛片1| 日韩草久视频| 精品视频一区二区| 日韩在线AB| 性饥渴少妇av无码毛片| 丰满欧美少妇| 亚洲色婷婷久久91| 另类av综合久久| AND人妻系列| AV天天在线观看| 色九色久| 青青草影视蜜久久| 国产精品亚洲高清在线| 特级大荫道BBwBBwBBW| 国产亚洲精品美女久久久| 色五月第四色| 91三级理论片播放器| 综合亚洲网| www五月| 色哟哟av| 亚洲日本韩国极品一区二区| 国产亚洲色停停久久99精品91| 色综合潮| av片在线观看免费播放| 精品久久97观看在线视频| 亚洲操逼视频网站| 久久久青青草| 综精品久久久aaaa| 激情抓乳插进去啪啪啪日韩 | 色色香蕉| 密臀在线视频| 日本人体九九九九九九| 91爱| 亚洲熟女乱熟乱熟妇综合网二区| 亚洲色图尤物视频| 欧美乱妇狂野欧美在线视频| 无码久久亚洲高清,| 欧美日韩另类字幕中文| 大香蕉久| 97亚洲在线| 99re在线视频| 丰满人妻一区二区三区四| 日韩一区二区高清在线观看的| 日韩无码服务区| 中文字幕一区二区三区蜜臀| 亚洲成人久久美女| 超碰午夜| 色97欧美| 人妻超碰青青草98| 超碰欧美COM| 亚洲激情色片| 婷婷五月天影院| 日韩黄片视频试看| 中文字幕精品探花视频| 日本黄页视频在线观看| 亚欧视频在线| 一区二区三区一亚洲中文字幕、综合区灬| 亚射在线| 日本三级中国三级99人妇网站| 日韩欧美午夜一区二区| 亚洲国产天堂| 色777999综合| 玖玖爱综合网| 东京热综合久久一区二区| 天天干天天日天天射黄色片| 超碰 97国产熟女| 牛牛aV| 久久久九九九| 性91| 亚春色色| 天天综合~91| 激情综合网亚洲| AV色五月天| 乱码熟妇人妻久久久| 狠狠爱综合网| 婷婷丁香熟妇综合网| 亚洲性爱免费电影| 操逼免费视频无码国产| 蜜臀在线视频| 水滴偷拍| 蜜臀久久99精品久久久久久婷婷| 少妇特黄一区二区三区| 久久国产99精品72福利| 天天欧美色| 六月天婷婷| 99热| 亚洲人妻av| 岛国片在线观看视频亚洲| 丁香五月天激情网站| 太久视频| 97av在线视频| 国产亚洲国产超碰| 国产精品成人蜜臀AV在线| 国产日韩在线播放| 精品性爱一二三区| 久久性视频| 丁香五月婷婷基地| 自拍鲍鱼一区在线高清观看免费| 久久东京国产精品视频| 激情久久久| 亚洲天堂热| h在线看免费版在线看| 99综合网| 亚洲中文字幕乱码无码一区二区| 狼人综合婷婷激情四射 | 5252色欧美在线| 蜜臀AV成人精品蜜臀AV久久| 综合天天网| 伊人991| 欧美色997| 加勒比色综合| 67914在线兔费成人视频| 四方色播| 秋霞色色影院| 免费一二区| AV一区观看| 免费αⅴ在线观看| 婷婷丁香五月激情啪啪| 亚洲久热| 亚洲宅男天堂| 亚洲免费97免费| 天天草AV| 97超碰久久| 成人无码在线超碰网| 国产福利小视频高清在线观看| 亚洲欧美在线观看2021| 超碰AV在线| 四虎免费看黄| 欧美线天码中字| 日韩欧美亚欧在线视频| 高清无码一区二区三区| 日韩人妻中文视频| 2001天天操| 蜜桃久久久久久久久久久久| 欧美色干| 超碰免费人妻人人| 日本熟妇人妻中出视频| 色97| 九一精品牛牛一区二区| 精品日日人妻| 成人无遮挡毛片免费看| 亚洲AV性爱电影| 久久一二三四五六七八九区区区 | 啊啊啊轻点在线观看| 少妇久久久久久久久| 诱惑网综合| 中文字幕奈奈美被公侵犯| 在线播放成人网站| 二三四区精品| 97超碰香蕉| 妺妺跟我一起洗澡没忍住| 99啪| 懂色影视久久| 强奸乱伦大香蕉| 天天干天天干天天| 超碰 国产熟女精品一区| 日本中文熟女视频| 午夜丁香| 久久久久9999精品九九九| 外站AV在线| 午夜一区| 好看的久久不射无码影视影院| 99re9| 婷婷深爱五月| 风月影院男女十八禁| 超碰97亚洲| 国产中文字幕曰本毛片| 无码人妻丰满熟妇奶水区毛片| 日本熟妇精品九九| 久久久久久网址| 色色色网站| 亚洲有薄码区久久在线一区| 18啪啪手机免费性爱| 高清国产av无码| 日韩特一级久久| 欧美极品性爱天天射| AV丝袜少妇| 91无码西班牙视频在线| 天天透伊人| 奶水 人妻 哺乳 在线| 日本精品成人无码| 国产精品不卡一区二区三区| 亚洲女人91| 五月丁香色综合| 欧美性少妇| 日韩人妻一区二区精品| 91欧美另类| 久久精品高清AV| 亚州 综合 色图| 91影库| 国产深喉视频一区二区| 丝袜熟女一区二区三区| 美女网站黄页| 浪人综合网| 啊啊啊轻点在线观看| 日韩综合无码色欲vv| 丁香婷婷激情五月天无毒不卡 | 夜夜黄| 欧美v亚洲v日韩v最新在线二区| 天美麻豆精品视频99| 国产美女高潮| 国产精品经典一卡久久久| 思思热在线视频免费| 久热色情精品| 丁香五六月啪啪| 四虎视频在线观看| 成人a大片在线观看| 97欧美日韩中文| 国产一区二区啪啪视频| 插B在线观看| 国产h片在线观看视频| 97国产精品久久久久| 性做久久久久久久| 精品久久97观看在线视频| www99热| 一区二区三区美女超清| 夜夜操91744565| 中国大陆国产高清AⅤ毛片| 91日产欧美| 91丨九色丨43老版熟女| 97Ai亚洲| 91色五月俺来也| 最新岛国大片| 97 超碰 人人做 人人爱| 精品v日韩欧美国产| 人妻天天爽夜夜爽2| 日韩草久视频| 久久欲| 国产1727欧美| 日韩AV一区二区三区四四| av网站免费看| 亚洲和欧美裸体美女双飞视频| 强奸乱伦资源| 麻豆精品.欧美精品.日韩精品.| 东北黄色电影| 欧美日韩国产另类综合| 亚州欧美一区| 亚洲久热| 看免费的黄片| 99热一区二区三区四区| 色哟哟-国产专区| 日韩久久激情精品| 日韩性爱长视频免费| 日韩八十路老熟女| 狠狠爱夜夜干| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 柠檬AV导航| 欧美黑人日韩少妇色情| 久久久久久久久久久久久久久性生活视频| 在线中文字幕| 亚州性色| 超碰天天操| 97蜜桃综合| 人人操人人摸人| 午夜视频久久久久一区| 校园春色 亚洲| 动漫av中文| 久久久久人妻| 性爱乱伦一区| 18禁在线视频| 国内伊人久久久久久网站视频| 伊人 俄罗斯 a v| 岛国小电影| 婷婷伊人网| 操逼操网| 26uuu成人影片| 91视频综合网| 四虎在线播放| 亚洲欧美国产中文字幕| 欧美日本国产日韩激情视频| 亚洲无无码αⅴ每日更新| 国产精彩女在线观看视频| 伊人一区二区三区| 超碰在线99| 亚洲另类电影| 特级特黄一级毛片免费| 日本人妻丰满熟妇久久久久久| 热热色国产一二区AV| 色 亚洲 91| 中文字幕超碰CAO| 久久大香蕉手机高清视频| 亚洲精品丝袜-不卡成人免费……| 日人妻视频91| 岛国在线一区二区三区| 强被迫伦姧在线观看无码网站| 欧美综合网| 天天干嫩逼网| 91亚洲综合| 欧美偷拍| 91色狼| 91久| 超碰78| 超碰97中文| 精品一区二区三区国产| 老熟女91视频| 亲子敌伦对白在线播放| 色综合91好| 日美免费黄片| 国产伦乱91| 3p国产色噜噜一区| 欧美精品999| 国产AV超爽| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 久久同城AV| 中文字幕免费看| 精品一区99999| 久久精品28|