久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實戰(zhàn)洞察。

SpringBoot集成Skywalking:微服務(wù)鏈路跟蹤與無侵入排查實戰(zhàn)

SpringBoot集成Skywalking:微服務(wù)鏈路跟蹤與無侵入排查實戰(zhàn) 如果你也經(jīng)歷過微服務(wù)環(huán)境下的深夜排查用戶反饋下單慢你打開三臺服務(wù)器的日志先按時間戳對齊再逐個服務(wù)找堆棧最后還得靠猜“大概是哪個環(huán)節(jié)”卡住了那這篇關(guān)于SpringBoot集成Skywalking鏈路跟蹤的內(nèi)容就是來解決這個問題的。這是SpringBoot綜合實戰(zhàn)系列的第三十二篇。這一篇不寫業(yè)務(wù)接口也不講數(shù)據(jù)庫優(yōu)化而是把一個日常排查利器裝進(jìn)你的項目里Skywalking。它通過Java Agent探針實現(xiàn)無侵入接入不需要改業(yè)務(wù)代碼、不需要給每個服務(wù)手動加依賴啟動參數(shù)里加一行-javaagent你的SpringBoot應(yīng)用就能自動上報調(diào)用鏈路、服務(wù)拓?fù)浜椭虚g件指標(biāo)。我會從“為什么需要鏈路跟蹤”講起把Skywalking的各個組件、后端部署步驟、SpringBoot接入方式、自定義埋點和日志關(guān)聯(lián)完整演示一遍最后附帶一個真實排查案例和一份踩坑記錄。適合正在做微服務(wù)改造、被“跨服務(wù)問題定位難”折磨過的后端開發(fā)者也適合想在項目里搭可觀測性基礎(chǔ)設(shè)施的技術(shù)同學(xué)。1. 一次“半小時排查”引發(fā)的思考鏈路跟蹤到底在解決什么1.1 日志碎片化時代的“拼圖游戲”單體應(yīng)用時代一次請求的日志都在同一個進(jìn)程里grep一下就完了。微服務(wù)拆開之后一次下單請求可能經(jīng)過網(wǎng)關(guān)、訂單服務(wù)、庫存服務(wù)、優(yōu)惠券服務(wù)中間還夾著MQ異步消息。日志散落在不同機(jī)器的不同文件里時間戳稍微偏移一點你拼出來的“調(diào)用順序”可能就是錯的。我見過太多團(tuán)隊在這種場景下的排查姿勢先在A服務(wù)找到“調(diào)用庫存服務(wù)超時”再跑去B服務(wù)翻對應(yīng)時間段的日志如果碰巧兩個服務(wù)都沒打traceId就要靠請求參數(shù)和時間窗口去關(guān)聯(lián)。運(yùn)氣好十分鐘運(yùn)氣不好一下午。這種“拼圖游戲”最可怕的地方在于——每次都要從頭拼一遍經(jīng)驗根本無法沉淀。鏈路跟蹤解決的就是這個核心問題把一個請求經(jīng)過的所有服務(wù)、所有中間件調(diào)用自動串成一條帶唯一ID的調(diào)用鏈告訴你每一跳花了多久、在哪里失敗、失敗原因是什么。它能幫你把排查從“按時間戳猜”變成“按瀑布圖精確定位”。1.2 誰最需要鏈路跟蹤如果你還在做單體應(yīng)用鏈路跟蹤的價值確實沒那么大單進(jìn)程里一臺Arthas基本夠用。但只要你滿足下面任意一條就應(yīng)該認(rèn)真考慮這件事服務(wù)拆成了三個以上且存在跨服務(wù)同步調(diào)用Feign、RestTemplate、Dubbo等。線上偶發(fā)慢請求日志里看不到明顯的Exception只能靠“感覺”判斷是數(shù)據(jù)庫慢還是外部調(diào)用慢。團(tuán)隊協(xié)作時經(jīng)常出現(xiàn)“A服務(wù)說是B服務(wù)的鍋B服務(wù)甩給C”的扯皮。想給技術(shù)團(tuán)隊建立一套統(tǒng)一的、不受業(yè)務(wù)代碼污染的可觀測性底座。只要命中其中一條鏈路跟蹤就不是錦上添花而是排查效率的剛需。1.3 為什么選Skywalking而不是Zipkin和Jaeger市面上的APM方案不少我周圍的人聊得最多的就是Zipkin、Jaeger、Skywalking三家。它們的定位略有差異我整理了一個對比供你選型參考維度SkywalkingZipkin/SleuthJaeger接入方式Java Agent無侵入依賴SDK/注解侵入性強(qiáng)Agent或SDK功能覆蓋拓?fù)洹⒆粉?、指?biāo)、告警一體以追蹤為主以追蹤為主存儲ES、MySQL、H2等ES、MySQL、CassandraES、Cassandra中文資料活躍踩坑文章多較少一般學(xué)習(xí)成本低基本不用改代碼中要寫配置和依賴中個人感受Spring Cloud Sleuth Zipkin那套勝在和Spring生態(tài)天然融合但每個服務(wù)都要引入依賴、寫配置已有的老項目接入成本偏高。Skywalking最打動我的一點是“探針注入”它基于Java Agent機(jī)制在類加載階段做字節(jié)碼增強(qiáng)應(yīng)用代碼一行都不用動。這個特性對老舊項目尤其友好——不用發(fā)版不用等排期改個JVM啟動參數(shù)就能把鏈路數(shù)據(jù)采起來。2. 別急著寫代碼Skywalking的四個角色先對齊2.1 Agent探針藏在JVM里的“臥底”Skywalking的Agent是一段獨(dú)立運(yùn)行的Java程序通過-javaagent參數(shù)掛載到你的SpringBoot進(jìn)程里。掛載之后它會在類加載的時候?qū)δ繕?biāo)類的字節(jié)碼做增強(qiáng)在HTTP入口、Feign調(diào)用、JDBC執(zhí)行等關(guān)鍵位置自動織入“埋點邏輯”。拿Tomcat內(nèi)嵌場景舉例SpringBoot啟動時Agent發(fā)現(xiàn)你要加載org.apache.catalina.core.StandardHostValve這類Servlet容器類就會在它的invoke方法前后插入耗時記錄和上下文傳遞邏輯。之后你完全感覺不到它的存在但它已經(jīng)在默默記錄每一次請求的入口、出口和中間經(jīng)過的組件。這才是“無侵入”的真正含義——不是少寫幾行代碼而是從機(jī)制上繞開了對業(yè)務(wù)代碼的觸碰。探針底層的字節(jié)碼增強(qiáng)用的是Byte Buddy這是Java生態(tài)里比較成熟的字節(jié)碼操作庫對類加載器兼容性處理得比較好。2.2 OAP、存儲和UI大腦、記憶與儀表盤Agent采集到數(shù)據(jù)之后需要有個地方接收、分析、存儲、展示這就要靠另外三個組件OAPObservability Analysis Platform接收Agent通過gRPC上報的數(shù)據(jù)做指標(biāo)聚合、鏈路關(guān)系分析相當(dāng)于整個系統(tǒng)的大腦。存儲OAP把處理好的數(shù)據(jù)寫入存儲層。默認(rèn)內(nèi)置H2生產(chǎn)環(huán)境一般換成Elasticsearch。Web UI一個獨(dú)立的前端應(yīng)用負(fù)責(zé)把拓?fù)洹⒆粉?、指?biāo)可視化成儀表盤。在實際部署中OAP、存儲、UI這三者可以拆開部署在不同機(jī)器上。Agent只跟OAP通信OAP只跟存儲和UI打交道鏈路很清晰。2.3 一次請求在Skywalking里的完整旅程為了讓你對整體流程有畫面感我按順序描述一遍用戶請求打到SpringBoot應(yīng)用Agent在入口Span上生成全局鏈路IDTraceId。應(yīng)用內(nèi)部調(diào)用另一個服務(wù)或訪問數(shù)據(jù)庫時Agent自動創(chuàng)建子Span記錄組件類型、目標(biāo)地址、耗時、狀態(tài)碼。請求結(jié)束后Agent把完整調(diào)用鏈分批通過gRPC上報到OAP默認(rèn)端口11800。OAP解析數(shù)據(jù)把鏈路以Span為單位入庫并計算服務(wù)間依賴關(guān)系、RT分布、成功率等指標(biāo)。UI通過OAP的HTTP接口默認(rèn)12800查詢數(shù)據(jù)渲染成你看到的拓?fù)鋱D和追蹤瀑布圖。只要理解了這條數(shù)據(jù)流后面排查“數(shù)據(jù)為什么沒出來”“為什么只有一個服務(wù)有數(shù)據(jù)”就會順手很多。3. 跑起來再說OAPUI后端部署與存儲切換3.1 下載發(fā)行包并啟動默認(rèn)版本后端部署最省心的方式是從Apache Skywalking官網(wǎng)下載二進(jìn)制發(fā)行包里面自帶OAP、UI和Agent三件套目錄結(jié)構(gòu)大概是skywalking/ ├── bin/ # 啟動腳本 ├── config/ # OAP配置 ├── oap-libs/ # OAP運(yùn)行依賴 ├── webapp/ # UI前端 └── agent/ # Java探針Linux/Mac啟動cd skywalking ./bin/startup.shWindows啟動cd skywalking bin\startup.batstartup.sh會同時拉起OAP和UI兩個進(jìn)程。默認(rèn)配置下OAP的gRPC端口是11800HTTP查詢端口是12800UI端口是8080。注意8080很容易被你的業(yè)務(wù)應(yīng)用占用如果啟動后發(fā)現(xiàn)UI訪問不了先進(jìn)去看日志多半是端口沖突。3.2 驗證安裝是否成功啟動后訪問http://localhost:8080如果能看到Skywalking的儀表盤首頁說明后端已經(jīng)跑起來了。沒有頁面的話按下面順序排查看logs/skywalking-oap-server.log搜“oap server started”或“started successfully”關(guān)鍵字??磜ebapp/logs目錄下的日志確認(rèn)UI的Tomcat是否正常啟動。檢查端口占用lsof -i:8080、lsof -i:11800、lsof -i:12800哪個被占就改哪個。這一步只需要“能打開頁面”就行頁面里暫時沒有數(shù)據(jù)是正常的因為還沒有任何Agent接入。3.3 把存儲從H2切到Elasticsearch默認(rèn)情況OAP使用H2文件數(shù)據(jù)庫適合本地演示但別用在生產(chǎn)數(shù)據(jù)量大了之后查詢明顯變慢而且H2畢竟不是為海量時序數(shù)據(jù)設(shè)計的。生產(chǎn)環(huán)境我建議用Elasticsearch。切存儲的操作在config/application.yml的storage段進(jìn)行。核心就兩個地方storage: selector: ${SW_STORAGE:elasticsearch} elasticsearch: clusterNodes: ${SW_STORAGE_ES_CLUSTER_NODES:127.0.0.1:9200} namespace: ${SW_NAMESPACE:prod_log_trace}順手給ES加一個namespace可以避免和其他系統(tǒng)共用ES時索引沖突Skywalking會在索引名前面拼上這個前綴。這里要特別提醒一個版本問題Skywalking和ES的版本是有兼容矩陣的。以Skywalking 9.x為例和ES 7.x搭配最成熟ES 8.x要用對應(yīng)的新版本支持。別想當(dāng)然地“ES越新越好”我有一個朋友就是把ES從7升到8之后OAP一直刷索引創(chuàng)建失敗最后查官方文檔才發(fā)現(xiàn)版本沒對齊。具體兼容性請以官方文檔的Compatibility列表為準(zhǔn)不要賭。4. SpringBoot接入Agent探針無侵入的關(guān)鍵一步4.1 命令行與IDEA本地調(diào)試的接入方式后端就緒后SpringBoot這邊要做的唯一操作就是給JVM加啟動參數(shù)。先看命令行方式j(luò)ava -javaagent:/opt/skywalking/agent/skywalking-agent.jar \ -Dskywalking.agent.service_nameorder-service \ -Dskywalking.collector.backend_service127.0.0.1:11800 \ -jar order-service.jar如果你在IDEA里做本地聯(lián)調(diào)不用每次敲命令直接在Run/Debug Configurations里找到你的SpringBoot啟動類在VM options里填入同樣的參數(shù)-javaagent:D:/skywalking/agent/skywalking-agent.jar -Dskywalking.agent.service_nameorder-service -Dskywalking.collector.backend_service127.0.0.1:11800Windows下-javaagent路徑如果有空格整體要加雙引號。這個坑很小但等你排查到深夜就會發(fā)現(xiàn)它有多煩人。參數(shù)說明-javaagent指向skywalking-agent.jar的絕對路徑。-Dskywalking.agent.service_name該服務(wù)在鏈路平臺里的顯示名。建議和spring.application.name保持一致團(tuán)隊內(nèi)必須約定統(tǒng)一命名規(guī)范否則UI里會出現(xiàn)一堆莫名其妙的名字。-Dskywalking.collector.backend_serviceOAP的gRPC地址即11800端口。多OAP節(jié)點用逗號分隔。4.2 Docker和K8s的接入方式容器化環(huán)境不能手改啟動命令最常用的辦法是利用JVM的JAVA_TOOL_OPTIONS環(huán)境變量。Docker啟動時指定docker run -d \ -e JAVA_TOOL_OPTIONS-javaagent:/opt/skywalking/agent/skywalking-agent.jar -Dskywalking.agent.service_nameorder-service -Dskywalking.collector.backend_serviceskywalking-oap:11800 \ -v /opt/skywalking/agent:/opt/skywalking/agent \ order-service:latestK8s的話在Deployment的env里加一條JAVA_TOOL_OPTIONS環(huán)境變量把Agent路徑通過emptyDir掛載進(jìn)去即可。這樣Pod每次重建時探針都在同一路徑下配置也統(tǒng)一。4.3 怎么確認(rèn)探針真的生效了接完Agent重啟應(yīng)用后最關(guān)心的第一件事就是“數(shù)據(jù)到底上報沒有”。我一般按三步驗證看應(yīng)用啟動日志Skywalking掛載成功時會有Skywalking agent相關(guān)輸出沒看到就是-javaagent參數(shù)沒生效??碼gent/logs/skywalking-api.log這個日志文件記錄了Agent的運(yùn)行狀態(tài)。看到gRPC連接成功類信息說明和OAP的網(wǎng)絡(luò)是通的。到UI的“服務(wù)列表”或“拓?fù)鋱D”頁面選對應(yīng)服務(wù)名多打幾個接口等十幾秒再看。第一次注冊有延遲別急著懷疑配置。如果前兩步都正常但UI里就是沒數(shù)據(jù)最可能的原因是我在第七節(jié)要講的幾個坑先繼續(xù)往下看。5. 進(jìn)階玩法自定義埋點、采樣控制與日志TID關(guān)聯(lián)5.1 哪些鏈路信息不用寫代碼就能拿到Skywalking的插件體系非常豐富以下場景默認(rèn)就能被自動增強(qiáng)HTTP入口SpringMVC / SpringBoot內(nèi)嵌Tomcat / 網(wǎng)關(guān)Spring Cloud Gateway。服務(wù)間調(diào)用Feign、RestTemplate、OkHttp、HttpClient、Dubbo。數(shù)據(jù)訪問JDBC、MyBatis、JPASQL語句和綁定參數(shù)都能記錄。緩存與消息Redis、Kafka、RocketMQ、RabbitMQ注意插件版本和中間件版本的對應(yīng)關(guān)系。這也是我推薦用它兜底的原因團(tuán)隊里有人忘了打日志、忘了埋點探針也會默默把數(shù)據(jù)采出來。尤其在接手一個沒做過可觀測性建設(shè)的“歷史遺留系統(tǒng)”時這套自動插件機(jī)制能讓你少寫幾千行代碼。5.2 用Trace和Tag補(bǔ)上業(yè)務(wù)關(guān)鍵方法自動增強(qiáng)覆蓋的是框架層調(diào)用但“優(yōu)惠計算里的某個核心算法耗時高”這類問題框架插件是看不到的。這時候就需要在關(guān)鍵業(yè)務(wù)方法上做自定義埋點。pom.xml里引入工具包dependency groupIdorg.apache.skywalking/groupId artifactIdapm-toolkit-trace/artifactId version9.2.0/version /dependency然后在方法上打注解import org.apache.skywalking.apm.toolkit.trace.Trace; import org.apache.skywalking.apm.toolkit.trace.Tag; import org.apache.skywalking.apm.toolkit.trace.Tags; Service public class PriceService { Trace Tags({ Tag(key skuId, value arg[0]), Tag(key skuCount, value arg[1]), Tag(key resultPrice, value returnedObj) }) public BigDecimal calcPrice(String skuId, int count) { // 復(fù)雜的業(yè)務(wù)計算 return result; } }Trace讓該方法變成一個獨(dú)立的SpanTag把方法參數(shù)、返回值塞進(jìn)Span標(biāo)簽里。這樣排查時你能直接看到“這個sku、這個數(shù)量下的計算結(jié)果”而不只是“優(yōu)惠計算耗時1秒”。工具包版本盡量和Agent版本保持一致避免出現(xiàn)注解類兼容問題。5.3 采樣率調(diào)整從“全量”到“夠用”鏈路跟蹤的數(shù)據(jù)量很大一個高并發(fā)系統(tǒng)如果全量上報所有請求存儲壓力和OAP壓力會直線上升。Skywalking的Agent在agent/config/agent.config里提供了采樣相關(guān)配置。老版本里常見的是agent.sample_n_per_3_secs意思是每3秒最多上報N條請求-1表示全量新版本可能改用sample_rate形式的百分比設(shè)置。具體字段名以你當(dāng)前Agent版本里的注釋為準(zhǔn)思路是一樣的。我個人建議測試環(huán)境全量生產(chǎn)環(huán)境先全量跑一周觀察OAP和ES的負(fù)載再把采樣率調(diào)低到能覆蓋峰值流量的水平。采樣率調(diào)低后單條請求的追蹤查詢可能查不到但服務(wù)指標(biāo)的統(tǒng)計依然準(zhǔn)確不影響告警和整體觀測。5.4 日志里帶上traceId日志平臺和鏈路平臺對賬鏈路平臺能看到調(diào)用鏈但如果你不知道這條鏈對應(yīng)業(yè)務(wù)日志里的哪幾行排查還是割裂的。解決辦法是把TraceId打進(jìn)日志里讓它和普通業(yè)務(wù)日志同屏出現(xiàn)。最通用的做法是用MDC。定義個過濾器import org.apache.skywalking.apm.toolkit.trace.TraceContext; import org.slf4j.MDC; public class TraceIdFilter implements Filter { Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { MDC.put(tid, TraceContext.traceId()); try { chain.doFilter(request, response); } finally { MDC.remove(tid); } } }在logback-spring.xml里把tid加到輸出模式中pattern%d{yyyy-MM-dd HH:mm:ss.SSS} %-5level [%X{tid}] %logger{36} - %msg%n/pattern之后日志里每一行都會帶上類似[f68d1d0e3a3344c5a8f0...]的鏈路ID在日志平臺搜索這個ID就能看到該鏈路過經(jīng)的所有日志反過來在Skywalking里也能用同樣的ID找到對應(yīng)的Trace詳情。新版Skywalking也提供了logback官方converter配置方式更簡潔但包路徑隨版本變化建議直接參考官方文檔。6. 真實排查實錄用追蹤視圖定位“下單慢”的根因6.1 現(xiàn)象與初步判斷線上場景大概是這樣的工作日晚上八點左右用戶集中反饋下單接口“轉(zhuǎn)圈很久”平均RT從平時的500ms飆到3秒以上但接口沒有大面積報錯只有零星超時。按照老辦法我第一反應(yīng)是去翻訂單服務(wù)的日志結(jié)果只看到一堆Read timed out根本不知道是下游哪個服務(wù)慢更不知道是不是所有用戶都受影響。這時候鏈路平臺的價值就顯現(xiàn)出來了。6.2 拓?fù)鋱D與追蹤頁的使用打開Skywalking的“拓?fù)鋱D”頁面一眼看到order-service指向coupon-service的連線明顯變粗、顏色變紅說明它們之間的調(diào)用流量和錯誤率都異常。接著去“追蹤”頁面按服務(wù)、接口名和時間范圍過濾按耗時降序排列挑一條3.2秒的樣本點進(jìn)去。追蹤瀑布圖把一次請求拆成了清晰的Span列表入口Span/api/order/create總耗時3.2秒。JDBC Span查訂單表耗時120ms正常。Feign Span調(diào)用coupon-service耗時1.5秒狀態(tài)為超時。coupon-service內(nèi)部Span本身耗時1.5秒其中“計算優(yōu)惠”的Span占用1.1秒。Feign重試Span超時后又重試了一次再次耗時1.5秒??吹竭@里其實已經(jīng)很明白了瓶頸不在訂單服務(wù)自己的能力而在優(yōu)惠券服務(wù)的“計算優(yōu)惠”邏輯。這條鏈路如果沒有Skywalking你得先懷疑訂單服務(wù)、再懷疑網(wǎng)關(guān)、再懷疑數(shù)據(jù)庫繞一大圈才能接觸到真相。6.3 根因確認(rèn)與處理方案再點開coupon-service的實例指標(biāo)頁發(fā)現(xiàn)該實例在高峰期GC耗時飆升Young GC頻繁Full GC也有好幾次。配合鏈路里“計算優(yōu)惠”邏輯的大量CPU計算和緩存未命中根因就釘死了優(yōu)惠券服務(wù)的JVM堆配置偏小加上優(yōu)惠計算邏輯里存在一個不合理的全量遍歷高峰期觸發(fā)了頻繁GC導(dǎo)致Feign響應(yīng)等待時間超長同時又疊加了調(diào)用方的超時重試下單接口雪上加霜。處理方案分兩步先把coupon-service的堆內(nèi)存調(diào)大、把優(yōu)惠計算中的全量遍歷改成增量緩存再把Feign的超時時間從默認(rèn)值調(diào)成更合理的閾值同時配置熔斷降級。上線后再次觀察拓?fù)鋱D紅色連線恢復(fù)正常晚高峰RT回落。這個案例最有價值的點在于Skywalking把“偶發(fā)的慢請求”從概率事件變成了可定量分析的數(shù)據(jù)。你不用再靠運(yùn)氣和感覺鏈路里每一跳的耗時、每一次重試、每一段GC回溯全部有據(jù)可查。7. 踩坑全記錄從探針不上報到數(shù)據(jù)錯亂的問題排查鏈路7.1 探針“靜默失敗”應(yīng)用正常但UI查不到數(shù)據(jù)最詭異的場景是SpringBoot應(yīng)用起來了日志也顯示Agent掛載成功但UI里就是看不到服務(wù)。按下面的排查順序走基本能定位確認(rèn)-javaagent是否真的生效。有時候IDEA的VM options寫在了錯誤的Run Configuration里應(yīng)用正常啟動不代表參數(shù)生效。檢查Agent日志agent/logs/skywalking-api.log搜error。常見報錯是Connection refused指向OAP的11800端口不通。這時候分別telnet測試11800和12800兩個端口再檢查防火墻和安全組。查看OAP日志確認(rèn)是否接收到了segment。OAP啟動后如果有大量IndexNotFoundException多半是存儲沒建好或者版本不對。檢查服務(wù)名是否和已有服務(wù)重復(fù)。如果多個實例用了同樣的service_nameSkywalking默認(rèn)會合并展示初次接入時容易誤判為“數(shù)據(jù)沒上報”。切記Skywalking的Agent默認(rèn)是“靜默失敗”的即使上報失敗也不影響業(yè)務(wù)進(jìn)程。這既是好事也是壞事排查時別指望它會主動彈錯誤提示。7.2 JDK版本和SpringBoot 3.x的兼容問題SpringBoot 3.x強(qiáng)制要求JDK17而JDK9之后Java模塊系統(tǒng)對字節(jié)碼增強(qiáng)有了更多限制。如果你用老版本Skywalking Agent掛載到Java 17的應(yīng)用里非常容易出現(xiàn)ClassFormatError、UnsupportedClassVersionError或者在啟動階段直接報transform失敗。解決思路不是改代碼而是版本對齊JDK17/21配SpringBoot 3.x的項目請使用較新的Skywalking發(fā)行版配套Agent版本對JDK17的支持才完善。如果你只想快速跑通演示也可以先用JDK8 SpringBoot 2.x的組合成功率最高少折騰。7.3 ES版本不匹配導(dǎo)致OAP啟動失敗這個問題在前面提過但值得單獨(dú)列入踩坑清單?,F(xiàn)象是OAP啟動后控制臺不斷刷新類似NoNodeAvailableException或index not found的異常ES索引一個都建不起來。正確做法是提前查官方兼容矩陣。Skywalking 9.x系列和ES 7.x的搭配經(jīng)歷了大量生產(chǎn)驗證最穩(wěn)妥想用ES 8.x的確認(rèn)你的Skywalking版本確實支持后再動手。同時注意如果ES集群啟用了安全認(rèn)證記得在application.yml里把用戶名密碼也配上不然客戶端會一直認(rèn)證失敗。7.4 數(shù)據(jù)亂序與鏈路斷半截的隱蔽原因有一種比較隱蔽的坑服務(wù)正常鏈路也有但Span耗時是負(fù)數(shù)上下游順序顛倒或者一條完整的調(diào)用鏈斷成了兩截。原因多半出在基礎(chǔ)設(shè)施層。最常見的是多實例部署時宿主機(jī)時鐘沒有同步。Skywalking計算Span耗時依賴時間戳如果A服務(wù)的服務(wù)器比B服務(wù)慢了十幾秒鏈路里就會出現(xiàn)“下游比上游先結(jié)束”“耗時是負(fù)數(shù)”的詭異數(shù)據(jù)。解決方法是把NTP時鐘同步這件事納入服務(wù)器基線配置不然后患無窮。另一個原因是跨線程調(diào)用沒有被正確處理。比如你用Async或自定義線程池發(fā)起了異步任務(wù)老的線程池場景沒有插件支持鏈路上下文就無法自動傳遞。新版插件對RocketMQ、Kafka這類中間件處理了上下文傳播但對自研線程池還是要靠TraceCrossThread這類工具注解來手工傳遞。7.5 探針性能損耗從“無感”到“需要調(diào)優(yōu)”Skywalking官方宣稱探針損耗很低實際用下來一般場景確實無感但不代表完全沒成本。如果你把所有HTTP參數(shù)、所有SQL都采集下來在高并發(fā)核心鏈路里RT和CPU都會有小幅上升。我的經(jīng)驗是分三步控制先把采樣率從一個保守值開始調(diào)觀察一周再放寬然后關(guān)掉不需要的插件在agent/config/agent.config里按需啟用最后對敏感參數(shù)做好脫敏尤其是用戶手機(jī)號、身份證等信息不要直接打成標(biāo)簽。鏈路觀測要服務(wù)于排查能力不是把原始數(shù)據(jù)全存下來才算成功。8. 寫在最后我在生產(chǎn)環(huán)境用了半年的幾點體會接入Skywalking這件事技術(shù)難度比我最初想象的低得多真正難的其實是讓它持續(xù)產(chǎn)生價值。初期大家會覺得拓?fù)鋱D很酷天天圍觀新鮮感一過沒人看面板了鏈路平臺就被晾在一邊。直到后來有一次線上故障靠著鏈路數(shù)據(jù)十分鐘就定位到問題團(tuán)隊才明白這個系統(tǒng)的意義不是“好看”而是把隱形的依賴關(guān)系和使用體驗變成可以回溯的數(shù)據(jù)資產(chǎn)。從那之后我們把“關(guān)鍵業(yè)務(wù)方法加Trace”“日志輸出帶TID”寫進(jìn)了開發(fā)規(guī)范新服務(wù)上線前會專門檢查Skywalking里有沒有這個服務(wù)的鏈路數(shù)據(jù)。給正準(zhǔn)備接入的朋友三個務(wù)實的建議第一服務(wù)命名規(guī)范一定提前定好別讓每個人自己起名第二先拿一個不重要的邊緣服務(wù)試水跑通全鏈路后再推廣到核心服務(wù)第三告警規(guī)則要配幾條比如服務(wù)成功率下降、平均RT突增把鏈路指標(biāo)變成主動通知而不是被動翻查。鏈路跟蹤不是什么高深技術(shù)但它能把團(tuán)隊從“反復(fù)猜問題在哪”的消耗里解脫出來。希望這篇實戰(zhàn)記錄能幫你把Skywalking順利跑起來省下更多本該用來寫業(yè)務(wù)代碼的時間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美激情久| 丁香婷婷激情五月天无毒不卡| 激情第四色| 男人的天堂激情| 嗯嗯啊啊视频一区二区三区| 久久国产熟女影院| 欧美亚洲日本视频久久久| 婷婷丁香久久| 亚洲清纯唯美| 神马久久久久久久| 美女露胸露屁股| 内射黑丝袜| 蜜臀99久久精品久久久懂爱| 亚洲一级特黄大片在线播放91| 亚洲熟女中文字幕在线| 黑人精品久久97| 精品九九九九九| 久操婷婷| 亚洲欧美日韩中文播放| 日本天堂网| 99re视频这里只有精品| 男人下部插入女人下部| 精品网站9999| 中文 人妻 制服| 亚洲综合色婷婷| 久久久久久久久一区二区三区| 99综合免费视频| 色色青青久久| 丝袜夫妻自拍| 亚洲第2页| 少妇久久久久久| 狠狠色婷婷7777久| 99热这里只有精品18| 女人被添高潮免费视频| 四虎在线观看视频| 日韩不卡码| 岛国激情视频在线观看| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 婷婷久久五月| 无码78| 江都AV在线| 亚洲97久久精品亚洲| 欧美日韩色| 亚洲丝袜B诱惑| 一级免费啪啪片| 天堂69亚洲精品中文字| 91精品人妻一区二区三区蜜臀| 国产丝袜美女诱惑| 久草大| 韩国手机不卡无码三级视频| 加勒比aⅴ| 欧美日韩亚洲五月天婷婷| 婷婷五月天成人网| 精品v日韩欧美国产| 亚洲天天操| 激情婷婷丁香| 97碰碰日本乱偷人妻中文的| 无码人妻丰满熟妇奶水区毛片| 上海一级黄片| 欧美一级美片在线观看免费| 超碰人妻久久| 欧美色图20p| 少妇蹲下露出大唇5| 啊啊啊好大好深| 久久久久96| 亚州欧美总和| 欧美性第1页| 清纯唯美综合亚洲| 99精品丰满人妻无码| 色老牛| surenchaopeng| 日韩熟女视频二区| 亚洲97超碰| 91亚洲人| 性爱视频啪啪啪啪| 四虎免费视频| 美女诱惑一区| 一本色道久久天天射天天干| 久久精品色欧美aⅴ一区二区| 熟女天天干| 伊人视频| 中文字幕天堂在线| 色综合色欲色综合色综合色综合| 噜噜在线| 国产成自自拍在线观看| 日韩有码回春沙龙第一页| 久久精品无码专区| 欧美精品一区二区少妇免费A片| 日韩人妻中文视频| 天天射网| 九月伊人中文字幕| 亚洲AV无线| 粉嫩国产精品久久粉嫩| 天天操天天日青青草超碰av| 超碰色老头| 亚洲女毛多水多21P| 日韩精品中文字幕二区| 日韩精品熟妇| 91久久久久久久久18| 在线观看不卡一区二区三区| 欧美熟爽综合| 偷拍盗拍亚洲色图图片| 留下AⅤ黄色片| 亚洲色图加勒比| 色哟哟av| 91小视频| 欧美97av| 婷婷色播婷婷| 精品无码少妇| 黄色免费网页无码| 亚洲色图综合网| 无码天天操| 大香蕉十区| 97射欧美| 俺去久久| 久久性爱精品一区| 综合网亚| 日韩激情啪啪| 啊啊啊啊啊在线| 亚洲成人免费电影| 17c嫩草51久久91嫩草| 精品国产嫩穴视频| 国产一级内射无挡观看| 中文字幕诱惑制服人妻丝袜美丝袜美 | 欧综合网| 91狠| 性爱网站一区二区| 久久久久深夜无码| 狠狠干狠狠干| 亚洲?V高清一区二区三区尤物| 亚洲欧美一区二区三区在钱蜜桃 | 青娱乐欧美激情一区二区| 欲射影视| 精品久久在线区一区| 国产在线能看的你懂的| 久久精品国产97欧美精品亚洲 | 无码一区免费在线不卡| 欧美黄色图片| 黄页大片在线观看| 日韩黄色成人性爱| 九九九精品成人免费视频小说| 国产情色第一第二页在线观看| 狠狠综合网| 国产精品久久泡妞网站| 亚洲怡春院| 欧美第38页| 熟妇在线视频一区二区| 国产热RE99久久6国产精品首| 亚州一区二区| 极品一区二区三区免费| 一道本东京热加勒比一区二区三区| 国产精品久久久久久久AV大片| 高清孕妇孕交 交| 99re在线视频这里只有精品| 极品粉嫩一区二区| 欧美成人精品A片免费一区99| 黑人嘿嘿嘿超爽免费视频| 日韩有码专区| 超碰97人妻| 五月丁香激情四射| 美女黄站| 日韩激情无码影院| 探花熟女,姿勢到位,體驗感也到位| 99re视频这里只有精品| 我想要 啊 啊 啊| 激情小说亚洲| 国产精品久久天天干| 国产无码一二三区| 不卡免费av在线播放| 可以在线观看AV的网站| 亚洲综合色婷婷| 色香阁在线| 天天操天天射青青草| 丝袜美腿校园春色| 香蕉av一区二区三区| 97就爱干| 青青草公开在线免费不卡视频| 清纯唯美综合| 99国产在线 精品 视频| 九九99精品| www.狠狠干.coom | 欧美日韩第一页| 18禁的网站在线| 玖玖爱免费观看视频| 先锋精品av色鲁| 九月AV| 成人情色综合网| 久久国产成人精品国产成人亚洲| 国产精品不卡一区二区电影| 啪啪啪精品视频| 狼天天狼天天大香蕉| 一区二区三区国产精产| 91精品在线播放| 一级性爱视频免费在线| 国产免费久久久久| 欧洲精品久久| 国产精品一区二区久久精品| 久久,精品一二三| 欧美日韩222| 97中文综合| 成人a级高清视频在线观看| 五月丁香综合激情| 成人小电影网站tex| 国产操偷| 热热色AV| 成人福利视频网| 91男同| 免费自拍三级综合| 干B视频伊人网| 日韩综合97p| 在线观看综合精品亚洲| 久久久555| 激情小说五月天| 国产9熟妇视频网站| 99熟女| 熟妇色99| 77国产精品| 国产色精品午夜大片| 日本999精品| 亚洲在线| 一区,二区,三区视频| 2017人人操,人人摸| 亚洲欧美伦综合| av黄图片在线观看| 91美腿丝袜在线观看| 欧美九九九九九| 日本狠狠干| 天天看夜夜看日日干| 美女大乳久久久久久久女人18| 日韩兔费看黄片| 大奶尤物鲍汁淫荡欧美视频粉嫩夜夜骚 | 午夜无码熟妇丰满人妻| 大香蕉123| 激情 欧美 亚洲 小说| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 亚洲淫色网中文| 久久久久国产一区二| 超碰人人干天天射| 天天综合网1| 天天日天天爽| 欧美十八禁网站| 91人妻精华帖| 国产午夜福利专区综合| www.人人摸在线视频| 欧美一区二区成人一卡| 丝袜美腿诱惑亚洲欧美视频在线观看| 日本三级一区二区 在线| 青青草五月份天| 色噜噜综合在线| 人人人人插| 一起草三级AV电影在线观看 | WWW操逼| 久久婷婷电影网| 高清不卡 中文 人妻| 97精品国产97久久久久久| 99精品视频在线观看免费| 2024年最新色情网站在线观看| 国产一区二区在线看| 久久久久久无码人妻中文字幕| 熟女丰满人妻一区| 日本高清_区二区三区 | 青青草影视蜜久久| 丰满少妇一区二区三区免费看| 东北女人性交| 日夜精品| 在线αⅴ| 国产亚洲国产超碰| 九九热男人天堂| 中文字幕55555| 嗯嗯啊啊好疼| 婷婷丁香人妻| 天天操天天射天天日| 超碰色男人操熟女| av天堂5| 老鸭窝亚洲毛片| 69视频福利导航| 亚洲综合一| 男人的天堂VA| 午夜福利激情在线视频| AV无码久久久精品| 躁躁日曰躁2020| 爱丝福利| 久久夜黄色无码A级大片| AV九九| 精品无码一区二区| 少妇大屁屁| 久久久久久久伊人精品| 亚洲国产第一页综合视频| 中国黑人三级片网站上区| 欧美女同在线| 欧美视频一区二区在线| 95精品在线| 性欧美999| 国产精品一区二区校花| 蜜臀99999| 日本三级韩国三级美三级91| 欧美激情性久久久久久| 97超碰国产亚洲精品资源| 欧日韩一二三f区| 无码高清操逼| 日韩三四五区| 欧美不在线| 人人摸人人叼| 啊啊啊好舒服好爽啊啊啊视频| 亚洲九九视频| 爱射综合| 97超碰公开| 91精品啪在线观看国产城中村| 日韩传媒在线| 涩综合导航| 熟女高潮合集-永久久久-成人AV| 91九九九馒头| 97操B| 欧美日韩99| 亚拍在线| 综合色99| 狠狠操官网| 插老姨肥穴| 国产一级内射无挡观看| 久9久9精品| 再深点灬舒服灬太大了添视频| 欧美色日本| 伊人久操| 国产免费黄色一级大片| 免费成人在线熟妇网| 九月激情婷婷| 久久一二三级一一一| 欧美一级AAAAAAA| 国产AV天美| 日本高清有码网址视频| 天天干嫩逼网| 91美女視頻| 九九色热| 18禁止看精品中文字幕| 欧美日韩黄色片一区二区三区四区人与兽做爱| 国产又黄又爽又刺激久久久久久| 亚洲另类色综合网站| 亚洲成人精品久久久| 日本肉体xxxx裸交| 日韩亚洲中文有码视频| 97色亚洲| 天天天堂影视日韩亚洲91| 97精品国产97久久久久久| 狠狠91| 任你干在线视频| 精品视频日日夜夜| 婷婷精品| 欧美性爱五月天| 老司机深夜18禁污污网站| 超碰吊日色| 欧美国产精品久久九九| 大香蕉在线SuP| 日韩不卡码| 2001天天操| 九月丁香| 国产粉嫩蜜臀av一区二区三区| 果冻传媒A片一二三区| 日日骚av| 91久久国产综合久久| 这里只有精品视频在线| 天天综合在线4| 亚洲丝袜天堂| 国产97av| 国产高清免费不卡av| 国产家庭乱伦网址| 久久香蕉国产传媒一区剧情天美| 男人的天堂在线有码| 青青草日本中文字幕| 精品二区三四区五电影 | 人妻激情偷乱视三区频一区二区| 婷婷五月天综合网| 日欧毛片久久| 激情综合网激情综合| 日韩欧美成人午夜福利| 丝袜无码a片| 97精品人妻一二三四| 粉嫩av在线| 激情久久久| 九九九久久久久| 欧美在线91| 果冻国产精品麻豆成人av| 丰满少妇一区二区三区专区| 天美麻豆黄色录像| 欧美偷拍区| 顶级少妇BT天堂| 欧美亚洲特P| 成人福利视频网| 老鸭窝日丰县女人| 精品人妻av在线播放| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 性性久久| 亚洲综合另类小说色区亚洲成av人片在www| 久久av成人无码免费| 97视频在线观看播放与子乱对白在线……| 亚洲综合射| 亚洲精品一区二区精华| 亚洲,欧美,春色,另类| 国产传媒操逼视频| 久久久久久久久久久久久久久乱码 | 亚洲一二三四区| 久久婷婷五月天| 99999国产| 五月天婷婷色| 蜜乳AV免费观看| 欧美 亚洲 91| 激情AV| 国产精品人妻无码久久久互動交流| 激情久久久| 成人怡红院| 操人妻逼91| 2017人人操,人人摸| 91 国产丝袜在线播放-百度| 天天干夜夜操网| 97鸡把在线视频| 中文字幕老熟妇黄色视频| 午夜操一操| 欧美 熟女 日韩| 成人丁香五月| 91亚洲精品青草| 欧美一级黄色免费专区| 青操影院| 91嫩草欧美| 99热这里是精品| 99在线免费公开视频| 麻豆a'v电影| 亚洲人在线成线成人| 伊人网综合在线视频| 好吊色青靑草| 精品综合久久久久久97| 亚洲精品蜜桃久久久久久久| 97亚洲综合电影| 婷婷午夜成人色中色| 91亚州| 青青草一本道福利视频| 亚洲老司机123专区| 日韩AV中文字幕电影| www久| 国内毛片免费h片在线| 亚洲综合一区二区| 激情小说亚洲| 搞中出视频在线观看| 久操com| 97超碰人妻| 女色视频社区| 久操99| 高清孕妇孕交 交孕妇| 嗯嗯啊啊操我| 色综合久| 老熟女综合网| 国产欧美亚洲精品a第2页| 国产五码丝袜屁眼| 亚洲午夜未满十八勿入网站日本又色又爽又黄| 无码精品人妻一区二区三区妖精| 午夜免费视频1000| 免费的av网| 国产精品久久久| 成人午夜小视频手机在线看| 国产在线综合福利网站| 欧美日韩亚洲电影| 国产又大又粗又长视频在线| www.色婷婷.com| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 91精品成人www| 国产精品老熟女一区二区| 色噜噜国产在线| 欧美亚洲高清不卡| 伦理第一页| 人人摸.人人色| 亚洲中文日韩精品| 精品免费1| 婷婷久草| 国内精品嫩模A∨私拍小视频| 日本高清视频xxxx| 久久激情网| 婷婷色网| 日日夜夜骑| 夜夜操av亚洲一区二区| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 精品性爱无码在线播放| 天天操女人| 欧美草草高清日韩视频| 岛国黄| 91在线美女| 九九久久玖玖| 深爱五月婷婷| 羞答答AV中文字| 国产最新小视频在线播放下载| 国产热RE99久久6国产精品首 | 亚洲一区二区中文字幕| 少妇高潮对白在线观看| 少妇500双飞99| 亚洲乱码精品一区二区| 男人的天堂,欧美亚洲另类国产日韩,日本高清一区二区 | 怡红院成人视频| 亚洲Av无码成人精品国产| 久久久99999久网站| 青娱乐二区免费| 欧美熟女妇同| 国产熟女乱论| 黄色成年| 中文一区二区婷婷视频| 欧美日韩大香蕉| 中文字幕版| 亚洲第一黄色av网站| 亚av顶级裸体一区二区三区四区五区 | 好爽,再快点啊哈嗯嗯嗯嗯| 91九色丨风韵犹存| 顶级少妇BT天堂| 97在线精品观看视频| 91少妇通奸网站| 亚洲精品三| 日本影视久久免费| 婷婷香网站| 5月婷婷6月六月丁香| 东京热综合久久一区二区| 精品.99999| 伊人久久大香线蕉无码| 亚洲男人天堂手机版| 亚洲综合性感在线| 凹凸视频特色日本特黄| 免费观看日本操逼视频| Aa东京男人的天堂| 无码heyzo高清一区| 国产一区二区三区视频在线看| 国产激情片在线观看| 久久超碰网| 99热这里只有精品8| 99热超碰| 国产成人亚洲精品自产在线| 欧美日韩在线小说| 日本操逼aaaaa| 日本欧美一区二区三区免费| 久久久精品日本一道| 青青草啪啪网| 亚洲人妻久久久| 天天看天天日天天操| 国产亚洲女v在线观看| 另类小色呦| 强上我不卡卡| 我爱操| 国产亚洲日韩欧| 99无码视频| 午夜后入| 久久久久久久免费A片国产成a人亚洲精∨品无码 | 欧美性爱一区二区| 国产亚洲精品美女久久久久久2021| 亚洲精品成人| 欧美在线色| 久久精品久久久久久久久| 色综合99| 欧美草草| 亚州AV无码国产精品| 欧美美女自慰一区二区三区| 大香蕉手机在线| 秋霞久久亚洲精品成人| 国产嫩草精品A88AV在线| 97操b| 久久婷婷精品| 91久久久久| 日韩乱伦影音先锋| 夜色综合| 国内精品嫩模A∨私拍小视频| 亚洲天堂资源网| 超碰人人干天天射| 超碰到97情色| 日日爱99| 色欲久久久久综合网| 久久久久久久9999| 密臀视频三区免费网站| henhen91| 久久大黄片| 97碰久久| 超碰在线欧美性爱激情| 久久久久久一日韩字幕无码| 欧美97av| 亚洲丝袜诱惑| 欧美天天综合| 成人日韩3| 亚欧高清在线| 日本好吊色视频| 一级毛片电影免费看| 久久黄黄| 国产精品久久久啊| 欧美综合色站| 日韩一区二区精彩视频| 熟妇一区二区三区| 国产无码高清操逼视频| 吉川爱美亚洲二区在线 | 91成人在线| 少妇厨房愉情理伦片bd在线观看 | 韩国国产欧美情侣视频在线| 日韩色欲久久一二三四区| 人人爽夜夜操| 日日操丁香五月天| 亚洲麻豆18发?| 抽插无码高清一区| www欧美91| 日韩熟女精品无码专区一区二区| 久草尤物| 色色青青久久| 九月婷婷| av在线播放国产一区| 97碰碰日本乱偷人妻中文的| 欧美顶级黄色大片免费| 91四海无码日韩欧美| 宗合情欲网| 资源在线观一 二| 色婷婷综合网站| 麻豆啪啪啪视频| 黄片国产精品一区二区| 4tube欧美女厕所| 欧美黄色图片| 欧美在线干| 福利操逼| 一级一性爱免费视频| 中文字幕精品专区搜索结果91| 人妻天天夜夜爽一区二区| 女优免费一区二区永久| 天天综合网1| 乱性AV| 五月天欧美色图| 91人妻超碰| 免费看污网站| 黄色片一区二区三区四区五区| 国产一区二区精品在线视频| 天天爱天天韩国日本牛牛牛牛| www.亚洲成人一区| 深夜激情 | 999熟女精品| 91色夜| 欧美最大综合网| 亚洲暴力强奸AV| 91粉嫩萝控精品福利网站_精品影音先锋国| 久久午夜伦| 毛片麻豆91糖心精品毛情片| 十八禁啪啦拍视频无遮挡| 东北女人高潮视频| 欧亚乱色熟一区二区三四区| 香蕉热人人精品| 婷婷丁香一区二区三区| 97超碰磁| 国产精品无码论坛| 防屏蔽在线视频| 一区 欧美 日韩 麻豆| 精品人妻伦一区二区三区久久| 熟妇无码视频三区| 亚洲欧美高清无码| 99久久久无码国产精品性男| 色五月婷婷五月天| 吉川爱美亚洲二区在线| 九九九九一区| 日日骚一区二区三区| 国产精品剧情| 精品人妻一区二区三区四区石在线| 亚洲人成网站7777| 97免费视频在线| 欧美不卡在线一区二区| 伊人久久大香大香线蕉中文| 污到发麻的视频 国产| 亚洲天堂资源| 欧美国产精品久久九九| 被男人添B超爽视频| 熟女突然公开看18禁影片| 又黑又大又粗| 熟女露脸激情自拍视频| 五月天婷婷在线看| 天天天天天天天天天天干美女| 九九热最新| 国产精品麻豆成人av| 久久草在线综合视频| 亚洲春色欧美激情自拍| 有码人妻系列| 国产一区二区三区免费视频在性观看| 欧美日韩97| 午夜激情床戏激情| 老子午夜伦不卡影院| 午夜福利在线视频1000| 近亲乱伦一区二区| 亚洲图片视频小说| 九九天堂| 在线观看色视频| 亚洲欧美变态| 小草三级久久观看| 伊人久久综合影院| 五十路成人在线视频二区三区| www.婷婷五月天| 搡老女人老熟女91| 99色骚| 国产97色在线| 手机午夜电影神马久久| 久久人妻无码毛片A片麻豆| 99色色网| 亚洲欧洲自拍图片专区满春格| 国产第二页| 婷色五月天| 性爱乱伦视频免费| 黑人性欧美| 婷婷香网站| 九九无码| 久久久精品视频免费观看| 日日爱99| 中日韩久久久免费看| 北条麻妃99精品青青久久| 园内精品自拍视频在线播放| 日韩熟女精一区二区三区不卡| 狠狠图片青青草| 五月激情在线| 欧美日韩一区二区三区四区蜜桃| 美国人人操人人操| 亚洲丝袜少妇在线| 国产精品久久久久久久免牛肉蒲团| 天天日日夜夜| 日逼国产| 91丨豆花丨熟女| 久久久96| 亚洲综合在线91| 9精品久久| 亚洲城人男人的天堂| 静品嫩模一区二区| 无套内射人妻在线播放| 91天天看| 好属操| 久久久久极品| x97av| 久久久久久久久久久999| 欧美色棕合| 人妻精品一区二区在线| 韩国一级婬片A片无码天美| 国产乱子伦久久精品综合一区二区三| 97chaopenrihan| 亚洲精品一区二区免费在线观看| 伊人97色天使| 91色碰| 无码免费一区二区三区啪啪| 日本污ww视频网站| 天天操天天舔| 97摸视频| 丰满人妻一区二区三区大胸懂色 | 亚洲精品第一| 亚洲AV无码AV吞精久久久久| 伊人黄色片| 97无码视频在线播放| 屁股久久久久久久久久| 人妻熟女一区二区三区视频| 九九超碰综合网| 精彩久久中文| 欧美洲精品一级| 天天情欲宗合网| 国产精品午夜福利视频| 无码操逼天堂| 久久精品高清无码一区| 黄色十八禁| 91 国产丝袜在线播放-百度| 涩涩久久精品| 国产丝袜高跟美女av免费观看| 内射中国少妇高清视频免费视频 | 精品一级毛片在线观看| 91色拍| 一级人妻性爱视频| 人妻丰满熟妇一区二区三| 久久久久人妻二区精品叶可怜| 亚洲成人无码影院| 久久高清欧美国产| 亚洲精品视频在线播放| 可以免费观看的AV| 精品久久99| 亚洲熟女乱色一区二区三区| 人人操人人干xxx| 人妻一二三区| 久久久久久精品免费看A级| 国模精品娜娜一二三区| 亚洲.欧美.丝袜.中文.综合| 欧美狠狠弄| 2017超碰| 麻豆亚洲AV成人无码久久精品| 久久性爱网站| 国产成人综合网| 日本淫乱女一区二区三区视频| 国产综合色精品在线观看| 欧美成年人性爱视频免费观看| 国产精品成人久久一区二区三区| 国产一级作爱毛片| 五月开心网| 综合激情97 | 亚洲一区二区三区在线激情| 亚洲精品人妻在线| 色色婷| 打av高清| 亚洲激情欧美色图| 亚洲国产成人7777| 精品超碰国产| 红桃视频高潮| 日日骚一区二区三区| 天天澡天天爽日日AV| 欧美αv.com| 熟妇熟女视频一区二区三区| 久久噜| 国产高清午夜成人在线观看| 国产精品久久久久综合| 国产有码一区| 无码粉嫩白虎一线天b区| 丁香五六月啪啪| 色情成人五月天| 亚洲资源网| 日韩成年人性爱视频| 精品黑人一区二区| 欧美伦乱爱| 蜜臀久久99精品久久久| 日韩AV熟女乱伦| 中文字幕人妻色偷偷久久皮| 免费国产视频| 伊人久久大香大香线蕉中文| 嗯嗯啊啊视频一区二区三区| 大奶的诱惑| 欧美网站免费| 亚洲综合一| 亚洲春色欧美激情自拍| 久久思思热| av橘色网站| 久久久久久久亚洲Av无码| 大鸡吧尹人在线| 国产美女自拍视频| 韩国一级婬片A片AAAAA| 欧美天堂第二区| 人人操人人插人人摸人人干| 性色高清在线| 日本影视久久免费| 日韩天天本| 久久久久久网址| 青青国产精品在线| 一区二区视频在看| 99视频自拍| 久久久性少妇| 免费看日本操逼视频| 色偷偷超碰亚洲| 亚洲97久久精品亚洲| 97超碰在线资源网站| 精品三级在线专区| 91色图片| 国产成人精品必看| 欧美亚洲高清不卡| 国产精品无码av嫩草| 丝袜无码a片| 欧美日韩国产三级黄色| 久热久| 国人欧美精品一区二区| 久9久精品视频| 精品v日韩欧美国产| 午夜福利在线合集| 免费作爱一级视频| 99精品在线| 欧美日韩91| 男人综合网| 成人AV素股で擦久久| 大香蕉免费3| 日本999精品| 中文字幕成人理论在线| 久9综合在线| 天天影视综合网欧美精品| 国产精品午夜AV完会免费| 99久久com免费视频′| 日韩三级伊人| 九九九久久久久| 黄色欧美性爱视频| aV中文麻| 亚洲色欲一区二区三区| 国产日韩区| 91天天综合在线观看| 久久性爱视频| 中国AV美女| 国产自产22区| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 一级久久久久久久久久久 | 操比国产| 欧美少妇人妻| 天堂国产AV| 激情接吻视频久久久久久| 91爱剪切久久| 东北老女人的激情视频| 国产精品久久久久久久黄无码| 久久久久久人| 免費人妻夜夜爽天天爽爽一区| 欧美极品性爱天天射| 亚洲精品熟妇1区2区3区。| 97玖玖人妻| 人人操人人操草草| 97碰久久| 99热国产精品| 色九九九| 桃色五月天| 国产在线激情视频| 日韩精品-原创伙伴| 免费看污网址| 久久精品一区二区三区不卡| 又大又长又粗又爽又黄| 蜜臀网 一区| 秋霞鲁丝午夜无码一区二区三| 欧美九9 9 9| 亚洲中文国际强奸字幕| 人妻激情偷乱视频一区二区三区| 国产粉嫩蜜臀av一区二区三区| 97国产中文| 午夜精品久久久99| 亚洲婷婷五月天| 国产午夜无码片在线观看影视| 99久久99久久免费精品蜜臀| 自拍啪啪视频| 97天天操天天干| 亚洲欧美校园另类春色| www成人啪啪18秘 免费| 啪啪啪东京| 日本一区二区不卡| 91美女片在线| 久久精品91| 日韩午夜国产| 久久9精品视频| 亚洲综合五月天婷婷丁香| 日韩成人精品视频自拍| 74成人在线| 午夜国产成人精品视频 | 精品国产网站| AV 少妇 人妻 偷拍| 黄色高清无码无码破解免费暗网| 国产精品人人爽人人做可爱福利| 天天综合亚洲综合| 97亚洲中文| 国产农村妇女毛片精品久久| 九99久久| 国产中午字一暮区| 东京热大香焦| 亚洲宗合网| 久久噜| 亚洲图片 激情小说| 91亚洲影院综合| 爱欲AV| 美女91在线观看| 欧美色图片91| 色九月综合| 最新亚洲风情电影| 日日干日日操五月天伦理视频| 国产一区二区三区中文字幕| 色五月av| 91麻豆天美国产欧美| 99在线精品视频| 天天射影院| 1956日韩精品| 嗯……啊…嗯嗯…啊…好舒服| 欧美久久草熟女| 日本天堂网| 99999精品成人| 妇女视频网站| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 欧美一区二区福利在线| 大香蕉黄色一级片免费看| 国产最火爆久久国产网站网站 | 97视频新免费| 中日韩久久久免费看| 97超碰国产亚洲精品| 2017天天操天天日| 日韩色香| 国产精品无码成人精品| 上海一级黄片| 色爱综合网| 中文字幕一区二区三区蜜臀| 久久久18禁| 欧美日韩 强奸乱伦| 日韩一级成人毛片免费观看 | 91少妇通奸网站| 99热在线只有精品| 久久夜夜| 国产99精品一区二区三区免费| 最新中文字幕在线亚洲| 欧美性生活综合| 日本少妇va7777| 欧美 综合 亚洲| 丝袜AV一区二区三区| 呦呦影院| 亚洲精品成人| 欧美日韩免费专区在线| 亚洲综合伊人| 精品国产Av无码久久久伦古装| 午夜激情成人在线观看| 中文字幕日本久久| 在线观看AV不卡| 人妻内射一区二区在线视频| 久久久555| 国产欧美精选自拍一区| 亚洲av无码成人精品国产| 美女啊啊啊啊啊啊啊| 免费啊啊啊| 亚州性色| 日韩午夜精品一区二区三区电影| 综合色图区| 色妇91| 午夜成人爽爽爽爽A片李冰冰| 欧美一级久久久久久久大片动画| 日日夜夜干| 免费亚洲国产精品久久一区| 免费观看一区| av午夜影院在线播放| 久久久久13| 超碰在线综合97| 久久国产熟女影院| 日本狠狠干| 婷婷久草| 精品人妻中文字幕4399| 狠狠 91| 日韩欧美久久婷婷网站| 人人操我人人干| 97香焦色区| 麻豆天美AV传媒第一页| 中文字幕AV乱伦| 国模限制级电影| 美女t无毒不卡不卡| 亚一综合久久久久久久久久| 欧美成人精品一区二区三区| 中文字幕一区二区无码成人| 1024人妻熟女一区二区三区| 啊啊啊在线观看免费视频| 嗯嗯啊好爽| 九九伊人网| 好爽要喷了| 日本无码1| 精品小视频在线| 富女玩鸭子一级毛片| 大香蕉av在线| 亚洲自拍小说| 深田咏美亚洲精品福利社| 骚人妻少妇视频| 秋霞久久亚洲精品成人| 久草精品国产蜜臀| 亚洲欧美国产中文视频| 日本人体九九九九九九| 99精品九九九九九九| 天堂8在线新版官网| 丰满人妻一区二区中文| 久操网无码在线| 天美传媒在线一区| 国产AV色黄看到爽| 91视频成人福利网站在线一区| 国产偷拍网站| 日韩一区二区熟女| 精品日韩人妻视频| 97超碰色屌| 久久久精品91八戒| 欧美白嫩女HD| 福利操逼| 国产一区二区精品在线视频| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 日本成人在线不卡一区二区三区| 精品国产乱码久久久久久久久1| 亚洲人妻精品一区二区| 久久久爆乳翘臀一线天伦理视频| 欧美亚洲今日在线| 欧美熟女少妇| 中文字幕第9页萱萱影音先锋| 91亚洲不卡一区| 人妻二区| 精品成人女人久久| 国产成人www免费人成看片| 蜜桃臀AV在线| 97人人草| 中国AAAAAA黄色片| 久久久久密臀一区二区| 乳欲人妻办公室奶水| 日本不卡一区二区三区| 免費黃色視頻觀看一| 久久国产精品m码| 有码人妻系列| 国产操操日韩三级黄| 久久久少妇诱惑精品视频| 丁香激情五月天| 亚洲影院无码在线| 麻豆天美在线喷水AV| 六月丁香婷| 国产中出内射一区二区| 麻豆国产成人精品| 欧美做爰无码A片视频| 国产400孕妇孕交群| 天天天天天超碰| 丁香婷婷色五月| 美女视频尤物网在线看| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 亚洲精品人妻吞精av| 色与欲影视| 人人搡人人肉久久精品| 欧美视频在线视频免费va| 免费精品无码一级毛片牛牛影视| 婷婷五月天无码 | 午夜精品久久久久久久99| 九九热在线精品视频| 人人操人人色人人摸| 久久久性少妇| 日本97久久久精品| 一区二区三区欧美激情| 影音先锋日本乱伦| 欧美成97爱| 热热热热日日漂亮永久永久国产日| 六月婷婷综合| 在线 亚洲 网爆 自拍| 亚洲精品中文字幕一区在线视频| 天美传媒精品一区二区| 日韩精品9区| 久久免费中文字幕在线观看| 国产中文字幕曰本毛片| 亚洲第一页第二页激情| 激情婷婷丁香网| 久久久久久久久久久久黄色| 五月婷婷综合网| 欧美午夜视频精品久久| 色综合国产在线观看| 97资源站国产精品| 91天天爱| 欧美情色亚洲| 97超碰人操| 综合网久久| 国产精品对白内射| 色色色999| 最新日产中文在线麻豆| 91影库| 精品视频在线观看精品| 女人香蕉久久毛毛片精品| 天天操天天日天天干| 75大香蕉| 国产久久一区二区三区野外在线| 亚洲五月天激情| 欧美强奸一区二区诱惑| 手机在线中文字幕国产| 大二网站亚洲| 天天色图| 热99这里有精品综合久久| 久久有码视频| 亚洲诱惑天堂| Aa东京男人的天堂| 青青草色插素人| 国产二区三区粉嫩在线| 中文字幕视频在线观看一区二区| 日韩久久三区| 另类小说五月天| 开心五月激情网| 六月婷婷色综合| 日日爽夜夜爽| 九九成人| 玖色AV| 天综合中文| 国产欧美第五页| 欧美 亚洲 综合 制服| 99热成人| 久7色| 第二页中文字幕| 亚洲第一页欧美| 人人综合| 天天舔天天日天天射| 天天天天天超碰| 99热18这里只有精品| 亚洲九九视频在线观看| 欧美亚洲清纯| 青青在线视频免费| 好属操| 精品日韩人妻视频|