久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐 微服務(wù)架構(gòu)解決了單體應(yīng)用擴(kuò)展難的問題卻把排障難度轉(zhuǎn)移到了日志和鏈路追蹤上。一次用戶請(qǐng)求跨越多個(gè)服務(wù)、多個(gè)數(shù)據(jù)庫、多個(gè)中間件任何一個(gè)環(huán)節(jié)超時(shí)或報(bào)錯(cuò)都需要從分散日志中還原現(xiàn)場。如果日志體系沒有設(shè)計(jì)好排障就變成低效的人工 grep。微服務(wù)日志體系不是簡單地接一個(gè)采集工具而是一套覆蓋日志產(chǎn)生、規(guī)范、采集、傳輸、存儲(chǔ)、檢索、告警和治理的完整鏈路。這里會(huì)先講清楚排障難點(diǎn)再逐步展開一套可落地的生產(chǎn)級(jí)日志體系設(shè)計(jì)。1. 為什么微服務(wù)排障難日志體系要解決什么問題1.1 微服務(wù)排障的三類典型困境第一類困境是日志分散。單體應(yīng)用時(shí)代一個(gè)請(qǐng)求的完整執(zhí)行過程基本都在同一個(gè)進(jìn)程里日志文件也相對(duì)集中。微服務(wù)化之后一個(gè)請(qǐng)求可能要經(jīng)過網(wǎng)關(guān)、用戶服務(wù)、訂單服務(wù)、支付服務(wù)、消息消費(fèi)者每個(gè)服務(wù)可能還有多個(gè)實(shí)例。日志散落在不同機(jī)器、不同容器、不同目錄里沒有統(tǒng)一線索時(shí)很難把一次請(qǐng)求串起來。第二類困境是格式不統(tǒng)一。不同團(tuán)隊(duì)寫的服務(wù)可能有的用 logback有的用 log4j2有的直接System.out.println。日志時(shí)間有的用本地時(shí)間有的用 UTC有的沒有毫秒。字段命名也各不相同userId和user_id同時(shí)存在。排障時(shí)每次都要先理解日志格式再去過濾效率很低。第三類困境是日志量大。微服務(wù)實(shí)例一多日志量會(huì)快速膨脹。如果直接全文檢索查詢會(huì)越來越慢如果不做索引生命周期管理磁盤遲早被寫滿。到了大促或故障高峰期日志系統(tǒng)本身也可能成為瓶頸反而拖慢業(yè)務(wù)恢復(fù)。1.2 生產(chǎn)級(jí)日志體系的目標(biāo)所謂生產(chǎn)級(jí)不是日志采集工具能跑起來就行而是必須滿足幾個(gè)基本要求。請(qǐng)求有鏈路標(biāo)識(shí)。入口生成 traceId下游服務(wù)通過調(diào)用鏈透傳日志中能根據(jù) traceId 查到一個(gè)請(qǐng)求的完整路徑。日志格式可解析。日志輸出為結(jié)構(gòu)化字段而不是只有一段模糊的文本。至少包含時(shí)間、級(jí)別、服務(wù)名、實(shí)例、traceId、業(yè)務(wù)消息和異常信息。日志延遲可控。從業(yè)務(wù)寫日志到 Elasticsearch 可檢索延遲需要在一定范圍比如分鐘級(jí)以內(nèi)。不能經(jīng)常出現(xiàn)日志丟失或幾個(gè)小時(shí)后才看到日志。日志有生命周期。熱數(shù)據(jù)保留幾天冷數(shù)據(jù)保留更長時(shí)間超過保留周期的數(shù)據(jù)要自動(dòng)刪除或歸檔而不是等磁盤告警后手工清理。日志系統(tǒng)本身不能影響業(yè)務(wù)。應(yīng)用寫日志是異步的采集鏈路故障時(shí)不能阻塞業(yè)務(wù)線程。生產(chǎn)級(jí)體系還要關(guān)注采集組件狀態(tài)、Kafka 消費(fèi)堆積和 ES 磁盤水位。2. 設(shè)計(jì)日志體系前先把日志規(guī)范定下來日志規(guī)范是整套體系的地基。如果每個(gè)服務(wù)輸出的字段都不一樣后面接 Filebeat、Kafka、Logstash、Elasticsearch 都會(huì)很被動(dòng)。排障效率提升的第一步不是工具而是標(biāo)準(zhǔn)。2.1 統(tǒng)一日志字段讓檢索有依據(jù)建議服務(wù)端日志統(tǒng)一輸出為 JSON 格式。每條日志的頂層字段盡量固定下面是一組常見字段。字段類型含義示例timestampstring日志產(chǎn)生時(shí)間2026-06-01T10:00:00.123Zlevelstring日志級(jí)別ERRORservicestring服務(wù)名order-serviceinstancestring實(shí)例標(biāo)識(shí)10.0.0.1:8080traceIdstring鏈路ID8f3a1b2c...methodstring請(qǐng)求方法POSTuristring請(qǐng)求路徑/api/orderstatusintHTTP 狀態(tài)碼500costMsint接口耗時(shí)毫秒128userIdstring用戶標(biāo)識(shí)u_10001messagestring業(yè)務(wù)消息訂單創(chuàng)建失敗exceptionstring異常棧原文java.lang.NullPointerException...字段不是越多越好但上面這些基礎(chǔ)字段能覆蓋大部分排障場景。service用于區(qū)分系統(tǒng)instance用于還原具體實(shí)例traceId用于串聯(lián)調(diào)用鏈costMs用于定位性能問題exception用于快速搜索異常棧。實(shí)際項(xiàng)目里團(tuán)隊(duì)可以先定一個(gè)最小字段集發(fā)布到協(xié)作文檔或代碼倉庫的模板中。新服務(wù)開發(fā)時(shí)必須按這套字段輸出老服務(wù)逐步遷移。不要指望所有服務(wù)一天改完但至少要有一個(gè)明確的規(guī)范版本。2.2 日志級(jí)別怎么定避免日志噪音日志級(jí)別是排障時(shí)最重要的過濾維度之一。級(jí)別定得不好會(huì)帶來兩種典型問題把 ERROR 當(dāng)普通日志打告警全是噪音或者把 DEBUG 打到生產(chǎn)日志量爆炸真正有用的 ERROR 被淹沒。級(jí)別使用場景生產(chǎn)預(yù)期ERROR業(yè)務(wù)失敗、異常導(dǎo)致流程中斷需要人工介入保留并告警WARN可以恢復(fù)但不正常比如緩存穿透、重試成功保留不直接告警INFO關(guān)鍵流程節(jié)點(diǎn)比如訂單創(chuàng)建、支付回調(diào)保留但要控制頻率DEBUG排查細(xì)節(jié)數(shù)據(jù)默認(rèn)關(guān)閉按需開啟TRACE內(nèi)部調(diào)用鏈細(xì)節(jié)很少開啟一個(gè)簡單判斷標(biāo)準(zhǔn)如果某條日志打出來之后值班同學(xué)不用看那它就不該是 ERROR。ERROR 應(yīng)該對(duì)應(yīng)一個(gè)需要關(guān)注的失敗事實(shí)而不是每次 catch 異常都打 ERROR。2.3 TraceID 貫穿始終從一次請(qǐng)求還原完整路徑TraceID 是微服務(wù)日志體系里最重要的字段。它的作用很簡單一次外部請(qǐng)求進(jìn)入系統(tǒng)時(shí)生成一個(gè)唯一 ID之后所有服務(wù)在處理這個(gè)請(qǐng)求時(shí)都攜帶這個(gè) ID并寫入各自日志。排障時(shí)只要搜索這個(gè) ID就能得到完整請(qǐng)求鏈路。常見做法是在網(wǎng)關(guān)或入口 Filter 中生成 TraceID并通過 HTTP Header 向下游傳遞。比如統(tǒng)一使用X-Trace-Id作為透傳 Header。以 Servlet 場景為例可以用一個(gè) Filter 在入口生成并寫入 MDC。public class TraceIdFilter implements Filter { Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { String traceId ((HttpServletRequest) request).getHeader(X-Trace-Id); if (traceId null || traceId.isEmpty()) { traceId UUID.randomUUID().toString().replace(-, ); } MDC.put(traceId, traceId); try { ((HttpServletResponse) response).setHeader(X-Trace-Id, traceId); chain.doFilter(request, response); } finally { MDC.remove(traceId); } } }MDC.remove很重要。線程池中的線程會(huì)被復(fù)用如果不清理下一條請(qǐng)求可能拿到上一個(gè)請(qǐng)求的 traceId導(dǎo)致日志串鏈路。下游服務(wù)在發(fā)起遠(yuǎn)程調(diào)用時(shí)要把 traceId 繼續(xù)傳遞下去。HttpHeaders headers new HttpHeaders(); if (MDC.get(traceId) ! null) { headers.set(X-Trace-Id, MDC.get(traceId)); }使用異步線程池時(shí)MDC 不會(huì)自動(dòng)傳遞。如果是 SpringThreadPoolTaskExecutor可以通過TaskDecorator在提交任務(wù)時(shí)拷貝 MDC執(zhí)行完后恢復(fù)如果只是在代碼里手動(dòng)new Thread則需要手工 put 和 remove。日志框架側(cè)也要把 traceId 輸出到結(jié)構(gòu)化字段中。使用logstash-logback-encoder時(shí)encoder 會(huì)自動(dòng)包含 MDC 中的字段。以 logback 為例一個(gè)最小 JSON 輸出配置如下。configuration appender nameJSON_FILE classch.qos.logback.core.rolling.RollingFileAppender file/data/logs/order-service/app.log/file rollingPolicy classch.qos.logback.core.rolling.TimeBasedRollingPolicy fileNamePattern/data/logs/order-service/app.%d{yyyy-MM-dd}.log/fileNamePattern maxHistory7/maxHistory /rollingPolicy encoder classnet.logstash.logback.encoder.LogstashEncoder includeMdctrue/includeMdc customFields{service:order-service,env:prod}/customFields /encoder /appender root levelINFO appender-ref refJSON_FILE/ /root /configuration這里把service和env固定寫進(jìn)了應(yīng)用日志配置避免了每個(gè)服務(wù)在業(yè)務(wù)代碼里重復(fù)拼接。不同版本 encoder 的配置略有差異落地前先確認(rèn)依賴版本。3. 日志采集層從服務(wù)本地日志到統(tǒng)一通道日志規(guī)范定好后下一個(gè)問題是日志怎么從應(yīng)用進(jìn)程到達(dá)統(tǒng)一的日志中心。生產(chǎn)環(huán)境常見的方案是應(yīng)用寫本地文件Filebeat 采集文件輸出到 Kafka。3.1 本地文件采集和直接上報(bào)怎么選有些新項(xiàng)目會(huì)直接在應(yīng)用里用 HTTP 或 SDK 把日志發(fā)送到 Logstash 或 Kafka。這種方式接入快但客戶端邏輯重還要處理發(fā)送失敗、緩沖區(qū)溢出、網(wǎng)絡(luò)抖動(dòng)等問題。應(yīng)用本身已經(jīng)有業(yè)務(wù)邏輯再承擔(dān)完整的日志傳輸職責(zé)容易引入不穩(wěn)定因素。更穩(wěn)妥的組合是應(yīng)用只負(fù)責(zé)把結(jié)構(gòu)化日志寫到本地磁盤采集器負(fù)責(zé)讀文件和傳輸。Filebeat 是常用選擇它輕量、內(nèi)存開銷小、支持?jǐn)帱c(diǎn)續(xù)采適合部署在應(yīng)用實(shí)例旁邊。采集端故障時(shí)應(yīng)用日志仍然寫在本地文件不會(huì)立刻丟失。這相當(dāng)于給日志多了一層本地緩沖。學(xué)習(xí)環(huán)境可以直接看控制臺(tái)或tail -f日志文件生產(chǎn)環(huán)境建議走文件采集。直接上報(bào)適合日志量不大、團(tuán)隊(duì)能接受客戶端 SDK 維護(hù)成本的場景但不是默認(rèn)首選。3.2 Filebeat 采集配置示例Filebeat 配置由 input 和 output 兩部分組成。下面是一個(gè)把訂單服務(wù)日志采集到 Kafka 的示例。filebeat.inputs: - type: filestream id: order-service-app enabled: true paths: - /data/logs/order-service/*.log fields: service: order-service env: prod fields_under_root: true processors: - add_host_metadata: ~ output.kafka: hosts: [kafka01:9092, kafka02:9092, kafka03:9092] topic: app-log partition: round_robin: reachable_only: true required_acks: 1 compression: gzip max_message_bytes: 1048576paths指定日志文件位置推薦一個(gè) input 只匹配一個(gè)服務(wù)的日志。fields用于給日志打上服務(wù)名和環(huán)境標(biāo)簽fields_under_root: true讓這些字段出現(xiàn)在日志頂層。add_host_metadata會(huì)把主機(jī)名和 IP 加進(jìn)來方便按實(shí)例過濾。output.kafka中的required_acks: 1表示 Kafka leader 寫入成功即可返回性能和可靠性比較均衡。compression: gzip可以降低網(wǎng)絡(luò)帶寬但會(huì)增加一點(diǎn) CPU 開銷。日志量很大時(shí)這個(gè)權(quán)衡通常值得。如果 Filebeat 版本較舊可能沒有filestream需要使用loginput。接入前先確認(rèn)版本不同版本的配置語法有差異。3.3 采集層最容易踩的坑第一個(gè)坑是多個(gè)服務(wù)共享同一個(gè)日志目錄。比如把所有服務(wù)的日志都寫到/data/logs/app.logFilebeat 采集后只能打同一個(gè)service標(biāo)簽無法區(qū)分來源。推薦按服務(wù)隔離目錄比如/data/logs/{service}/app.log。第二個(gè)坑是 Filebeat 重復(fù)采集滾動(dòng)日志。應(yīng)用日志按天滾動(dòng)后舊文件可能被改名成app.2026-06-01.log。如果 Filebeat 的 path 使用*.log可能把滾動(dòng)文件和新文件同時(shí)采集產(chǎn)生重復(fù)。建議嚴(yán)格約定文件名規(guī)則并在采集配置里避免把歸檔目錄包含進(jìn)來。第三個(gè)坑是采集延遲的假象。業(yè)務(wù)日志已經(jīng)寫到文件但 Filebeat 的ignore_older或close_inactive配置過大導(dǎo)致新日志不能及時(shí)讀取。排查時(shí)不要只看應(yīng)用日志有沒有寫還要看 Filebeat 是否處于運(yùn)行狀態(tài)、是否報(bào)權(quán)限錯(cuò)誤。4. 日志傳輸管道如何保證日志不丟不堵日志量是有峰值的。大促、秒殺、定時(shí)任務(wù)集中執(zhí)行時(shí)日志寫入速率可能瞬間翻幾倍。如果所有采集器直接把日志寫到 ElasticsearchES 寫入壓力會(huì)很大。引入 Kafka 作為緩沖是生產(chǎn)級(jí)日志體系里常見的解耦手段。4.1 Kafka 緩沖的作用和關(guān)鍵參數(shù)Kafka 在日志鏈路中負(fù)責(zé)削峰填谷。Filebeat 寫入 Kafka 后下游 Logstash 或消費(fèi)程序可以按照自己的節(jié)奏消費(fèi)不會(huì)因?yàn)闃I(yè)務(wù)流量突增而丟日志。Topic 設(shè)計(jì)時(shí)可以只建一個(gè)app-log主題通過日志中的service字段區(qū)分服務(wù)。也可以按環(huán)境分主題比如app-log-prod和app-log-test。分區(qū)數(shù)要結(jié)合下游消費(fèi)并發(fā)決定。單個(gè)分區(qū)只能被同一個(gè)消費(fèi)組里的一個(gè)線程消費(fèi)分區(qū)太少消費(fèi)并發(fā)上不去分區(qū)太多Kafka 元數(shù)據(jù)開銷也會(huì)變大。副本數(shù)建議生產(chǎn)環(huán)境至少 3并配置min.insync.replicas防止部分節(jié)點(diǎn)故障時(shí)寫入丟失。retention.ms可以設(shè)置日志在 Kafka 中的保留時(shí)間給下游鏈路故障留出恢復(fù)窗口。常見設(shè)置是保留 24 到 72 小時(shí)具體要看磁盤成本和團(tuán)隊(duì)對(duì)日志完整性的要求。分區(qū) key 的選擇也要考慮。如果希望同一實(shí)例的日志順序保持有序可以使用instance作為 key如果只關(guān)心吞吐可以使用輪詢策略。跨服務(wù)按 traceId 聚合到同一分區(qū)意義不大因?yàn)椴樵冸A段已經(jīng)在 ES 中完成聚合不需要在消息隊(duì)列里強(qiáng)制同分區(qū)。4.2 Logstash 消費(fèi)和寫入 ElasticsearchLogstash 在整個(gè)鏈路里負(fù)責(zé)消費(fèi) Kafka 消息、解析字段、補(bǔ)充信息再批量寫入 Elasticsearch。由于應(yīng)用側(cè)已經(jīng)輸出 JSON 日志Logstash 的 filter 可以保持很輕不需要用復(fù)雜的 grok 正則去切文本。一個(gè)最小 pipeline 配置如下。input { kafka { bootstrap_servers kafka01:9092,kafka02:9092 topics [app-log] group_id logstash-app-log codec json consumer_threads 6 } } filter { date { match [timestamp, ISO8601] target timestamp } if [exception] { mutate { add_field { error_flag true } } } } output { elasticsearch { hosts [http://es-data01:9200, http://es-data02:9200] index app-log-%{YYYY.MM.dd} } }codec json表示消息體本身就是 JSON。datefilter 把日志里的timestamp解析成 ES 使用的timestamp字段。error_flag是為了后續(xù)檢索時(shí)快速過濾異常日志。如果應(yīng)用日志里混入非 JSON 行比如System.out.println或啟動(dòng) Bannercodec json會(huì)導(dǎo)致解析失敗。這個(gè)問題最好在應(yīng)用層解決統(tǒng)一使用 logger 輸出不要混用標(biāo)準(zhǔn)輸出。如果無法避免可以改用純文本采集或獨(dú)立 topic再用 grok 解析。4.3 消費(fèi)堆積和背壓處理Kafka 消費(fèi)堆積是日志鏈路最常見的故障。現(xiàn)象是 Kibana 里最新日志遲遲不出現(xiàn)kafka-consumer-groups顯示的LAG持續(xù)增長。處理順序不要亂。先確認(rèn)是上游寫入變快還是下游消費(fèi)變慢。如果只是瞬時(shí)峰值可以等待消費(fèi)追平如果持續(xù)堆積優(yōu)先擴(kuò)容 Logstash 消費(fèi)吞吐也就是增加分區(qū)數(shù)和consumer_threads。但不要無限增加線程因?yàn)樽罱K瓶頸可能在 ES 寫入。ES 寫入壓力大時(shí)會(huì)表現(xiàn)為拒絕寫入或?qū)懭牒臅r(shí)上升。這時(shí)要檢查 ES 集群的寫入隊(duì)列、磁盤水位和 bulk 大小。生產(chǎn)環(huán)境建議將 ES 節(jié)點(diǎn)角色拆分?jǐn)?shù)據(jù)節(jié)點(diǎn)和協(xié)調(diào)節(jié)點(diǎn)分離避免高負(fù)載互相影響。還要給 ES 設(shè)置合理的索引分片數(shù)分片過少無法充分利用多節(jié)點(diǎn)過多會(huì)帶來資源浪費(fèi)。注意Kafka 消費(fèi)堆積本身不一定是故障如果業(yè)務(wù)日志量確實(shí)超過正常水位優(yōu)先擴(kuò)容而不是清空堆積。清空堆積會(huì)丟掉排障現(xiàn)場這是最不建議的做法。5. 日志存儲(chǔ)與檢索ES 索引設(shè)計(jì)決定查詢速度日志進(jìn)入 Elasticsearch 之后能不能快速查出來取決于索引設(shè)計(jì)和字段映射。生產(chǎn)環(huán)境見過太多“索引大了查不動(dòng)”的問題根源往往是最初沒有做索引規(guī)劃。5.1 按時(shí)間分索引避免單索引無限增長日志天然是和時(shí)間強(qiáng)相關(guān)的數(shù)據(jù)。按天建立索引比如app-log-2026.06.01是最常見的做法。好處很明顯查詢最近一天的數(shù)據(jù)只需要掃描當(dāng)天索引刪除過期數(shù)據(jù)只需刪除舊索引不用在單個(gè)大索引里做復(fù)雜清理。索引別名也可以配合使用。比如查詢最近 7 天日志時(shí)可以搜索app-log-*寫入側(cè)使用app-log-write別名由 ILM 管理實(shí)際索引。這樣可以保持查詢和寫入的穩(wěn)定。索引分片數(shù)要根據(jù)數(shù)據(jù)量和節(jié)點(diǎn)數(shù)預(yù)估。一個(gè)分片通常建議控制在 30GB 到 50GB 以內(nèi)。按天索引時(shí)如果每天日志量很大可以按天索引并配置多分片如果每天只有幾百 MB一個(gè)分片或少量分片就夠了。5.2 字段映射決定你是過濾還是全文搜索ES 中的字段類型直接影響查詢方式。精確匹配和聚合統(tǒng)計(jì)要使用keyword類型模糊匹配和關(guān)鍵詞搜索要使用text類型。排障中常用的service、level、traceId、instance、status都應(yīng)該設(shè)計(jì)為keyword或數(shù)值類型。一個(gè)參考 mapping 如下。{ mappings: { properties: { timestamp: { type: date }, level: { type: keyword }, service: { type: keyword }, instance: { type: keyword }, traceId: { type: keyword }, method: { type: keyword }, uri: { type: keyword }, status: { type: integer }, costMs: { type: long }, message: { type: text, fields: { keyword: { type: keyword, ignore_above: 256 } } }, exception: { type: text } } } }message使用text是為了支持關(guān)鍵詞搜索同時(shí)加了一個(gè)keyword子字段方便對(duì)短消息做精確過濾。exception使用text但要注意異常棧內(nèi)容很長不建議在 ES 中對(duì)全文做復(fù)雜聚合。如果日志字段不固定建議關(guān)閉動(dòng)態(tài) mapping 或使用 dynamic template 白名單。大量動(dòng)態(tài)字段會(huì)導(dǎo)致索引 mapping 膨脹嚴(yán)重時(shí)甚至讓集群停止寫入。統(tǒng)一日志字段規(guī)范也是保護(hù) ES 的一個(gè)手段。5.3 索引生命周期管理避免磁盤被打滿索引生命周期管理ILM是生產(chǎn)級(jí)日志存儲(chǔ)的必需環(huán)節(jié)。通過 ILM可以讓索引從熱階段滾動(dòng)到暖階段再按策略刪除。下面是一個(gè)簡單的 ILM 策略索引達(dá)到 50GB 或 7 天時(shí)滾動(dòng)超過 30 天的索引自動(dòng)刪除。PUT _ilm/policy/app-log-policy { policy: { phases: { hot: { min_age: 0ms, actions: { rollover: { max_size: 50gb, max_age: 7d } } }, delete: { min_age: 30d, actions: { delete: {} } } } } }ILM 需要配合索引模板使用把策略綁定到對(duì)應(yīng)索引模式上。PUT _index_template/app-log-template { index_patterns: [app-log-*], template: { settings: { number_of_shards: 3, number_of_replicas: 1, index.lifecycle.name: app-log-policy, index.lifecycle.rollover_alias: app-log-write } } }如果使用 ILM 的 Rollover寫入側(cè)應(yīng)使用別名app-log-write查詢則使用app-log-*。日志保留周期的選擇要結(jié)合業(yè)務(wù)需求ERROR 日志可以保留更久普通 INFO 日志保留 7 到 15 天通常就夠。注意不要只設(shè)置 ILM 而忽略磁盤容量評(píng)估。保留 30 天日志至少要把每天日志量乘以 30 乘以副本數(shù)再算上 ES 索引膨脹和 overhead才能確認(rèn)集群容量是否夠用。6. 排障實(shí)戰(zhàn)從一條報(bào)警到根因定位的完整鏈路日志體系設(shè)計(jì)得再好最終還是要回歸到排障場景。用一個(gè)常見例子說明凌晨收到告警訂單服務(wù) ERROR 增多接口 P99 升高。這時(shí)候應(yīng)該怎么查。6.1 先用時(shí)間和級(jí)別縮小范圍不要盲目搜全文排障第一步不是搜具體異常棧而是確定影響范圍。在 Kibana 中使用時(shí)間范圍過濾最近 15 分鐘再疊加服務(wù)名和級(jí)別。service:order-service AND level:ERROR AND timestamp now-15m如果日志量仍然很大可以加上uri或status進(jìn)一步縮小范圍。比如只查看POST /api/order的錯(cuò)誤日志。service:order-service AND level:ERROR AND uri:/api/order AND timestamp now-15m排序按timestamp升序先看最早的異常因?yàn)榈谝粋€(gè)異常往往是后續(xù)大量錯(cuò)誤的源頭。如果看到Connection timed out或Read timed out要意識(shí)到這可能是下游依賴導(dǎo)致的連鎖反應(yīng)先找出被調(diào)用方是否也有異常。6.2 用 TraceID 串聯(lián)完整調(diào)用鏈確定一條典型錯(cuò)誤日志后復(fù)制其中的traceId在 Kibana 中搜索。traceId:8f3a1b2c3d4e5f6a7b8c搜索時(shí)不限制服務(wù)名。只要 TraceID 在所有服務(wù)間透傳正確就能查到這個(gè)請(qǐng)求經(jīng)過的所有服務(wù)、所有實(shí)例的日志。按時(shí)間順序排列后可以看到請(qǐng)求從網(wǎng)關(guān)進(jìn)入訂單服務(wù)然后調(diào)用支付服務(wù)最后在哪里耗時(shí)最長。日志中會(huì)看到類似這樣的關(guān)鍵點(diǎn)訂單服務(wù)日志顯示調(diào)用支付服務(wù)開始和結(jié)束。支付服務(wù)日志顯示處理耗時(shí)超過 3 秒。支付服務(wù)之后出現(xiàn)數(shù)據(jù)庫超時(shí)或連接池等待。這一步的核心是確認(rèn)異常發(fā)生位置而不是只看最外層報(bào)錯(cuò)。外層的RestClientException可能只是下游超時(shí)的表象根因在支付服務(wù)的數(shù)據(jù)庫連接或 SQL 執(zhí)行上。6.3 從異常日志特征定位根因類型不同錯(cuò)誤特征對(duì)應(yīng)不同排查方向整理成速查表會(huì)很有用。日志特征可能根因下一步檢查status500 大量異常棧服務(wù)內(nèi)部異??串惓?、線程池、連接池Connection timed out網(wǎng)絡(luò)不通或連接池耗盡檢查目標(biāo)服務(wù)、端口、連接池配置Read timed out下游處理慢查看下游服務(wù)耗時(shí)、GC、慢 SQLlock wait timeout exceeded數(shù)據(jù)庫鎖競爭查數(shù)據(jù)庫事務(wù)、慢 SQL、死鎖日志OutOfMemoryError內(nèi)存不足或泄漏查看對(duì)堆配置、GC 日志和
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲在高跟鞋自慰久久在色线| 日本黄 R色 成 人网站| 色综合久久久久| 怡春苑东京热| 97免费视频在线观看| 日B操| 99久久婷婷国产综合| 98精品国产乱码久久久久久| 欧美性爱日韩高清| 久久夜嗨| 人人操人人干xxx| 亚洲精品无码少妇久久| 男人的天堂在线有码| 99国产精品自在自在| 奇米四色网| 91 丝袜在线| 国产日韩区| 久久久久性熟视频| 日韩福利综合一区| 伊人97超碰| 中日韓欧美高清| 成人在线日韩| 91爱啪| 午夜精品久久久久久久男人的天堂| 国产少妇高潮| 精品成人av一区二区三区在线| 四虎视频在线观看| 午夜视频久久久久一区| 国产又大又粗又长视频在线| 日美免费黄片| 日韩内| 五月天激情四射| 日本国产二线女色| 人、人、摸,人、人、草| 美女主播色欲91抠b在线播放| 久夜视频| 五月天色综合| 思思视频免费看网站| 欧美天堂日韩三级国产传媒| 国产超碰AV在线精品| 久久伊人网视频一区二区三区| 一级一性爱免费视频| 日韩/97| 亚洲欧美自拍偷拍| 欧美丝袜91| 麻豆天美国美国产| 91碰超| 久久久久久久一级黄色打同平台| 国产 亚洲 一二三四| 青青草五月天| 久久久久国产精品片区无码直播| 日韩无码一区二区三区| 97精品97| 懂色AV一区二区三区| 天天噜| 99久久综合| 中文字幕,人妻,日韩| 亚洲男人的天堂网| 九九黄色网| 91久久久亚洲| 久热99999| 啊啊啊com| 国产乱伦性爱区| 99在线精品观看视频中文 | 九月AV| 一级性爱aaaa| 狠狠久久手机视频精品| 日韩精品99久久久久久中文字幕| 91精品国产91久久久久久久久久久久| 亚洲好色人妻| 麻豆视频国产一区二区| 日韩欧美国产高清视频| 国产精品经典一卡久久久| 99热日| 中国少妇XXXX做受| 性爱av在线免费观看| 五月婷视频| 天天综合网1| 国产真实子伦对白| 欧美在线视频99| 精品久久9| 天天色黄色影院天天操| 日韩欧美亚洲国产日韩| 97 国产精品| 91精品久久久久久77777| 欧美日韩天堂| 精品一区二区亚洲国产| 美女天天干| 婷婷五月天伊人| 日韩性爱毛片操骚逼| 99色综合| 精品亚洲一区在线观看| 日本久久久久久久久久| 欧美午夜精品久久久久久3D| 视频国产成人精品日本亚洲18| 热的中文 热的有码 热的国产| 男女无套 免费网站| 久久欲| 亚洲精品国产av天美传媒| 久久超碰爱| 久久夜色一区二区| 激情综合五月| 久啪| 偷拍超碰| www久久久| 久久亚洲国产成人| 免费视频a级毛片免费视频| 丝袜美腿91| 五月天婷精品激情| 综合久久97| 天天舔九色婷婷| 欧亚乱色熟女一区二区| 亚洲高潮影院| 日产国产精品中文久久婷婷| 高潮毛片无遮挡高清免费| 91麻豆一二三区| 一级黄色影片| 人妻91少妇| 青青国产在线拍揄自揄拍| 亚州免费啪啪视频| 91亚洲电影| 天美传媒av一区二区| 啪啪啪综合网| 熟女色综合久久| 久久亚洲日韩熟女精品| 九九热免费视频| 水滴偷拍| 九区国产| 久久性视频| 啊啊啊啊啊啊在线| 久久是精品| 91丝袜激情在线 | 亚洲国产亚洲天堂| 久久熟女人| 大香网站| 久久直播国产| 久热影视| 国产精品ⅴ无码大片在线看.| 伊人网在线点播| 欧美 日韩 另类 亚洲| 欧美日不卡| 久久久夜夜嗨免费视频| 摸奶性爱视频网站在线免费播放| 欧美天天综合网版| 天美传媒精品久久视频| 岛国成人av在线播放网址| 日本在线伊人啪啪| 久久综合久久综合人久久夜精品| 青春草A| 欧美韩国你懂得在线 | 色香在线| 久久99深爱久久99精品| 大香蕉2017| 国产人妻精品一区二区三区秋霞| AV色女综合| 精品人妻一区二区三区四区不卡在| 97这里有精品| 可以免费看黄片的视频| www.91久久| 狠狠干综合| 国产精品秘 福利姬在线观看| 伊人成人中文字幕久久网| 一牛影视久久久一区二区三区| 无码一区二区三区四区五区六区七区八区九区十区视频 | 玖玖爱伊人玖玖爱| 91性网| 影音先锋少妇| av大香蕉| 天堂资源站| 人妻精品一区二区三区| 操B视频日韩无码| 在线国产探花| 啊啊啊不要啊啊受不了了视频在线| 91成人社区| 精品国产乱码久久| 国产在线76页| 亚洲一二三四区在线免费看视频| 亚洲在线a| 麻豆国产96在线| 亚洲av综合伊人久久| 亚洲一区二区性爱电影| 亚洲天堂电影精品一区| 玖色av| 日韩 欧美 另类 人妻| 中亚av| 91精品国| 人妻 中文 日韩| 五月天伊人| 蜜臀网 一区| 人妻av在线| 麻豆人妻偷人精品无码视频| 尤物网址| 情侣开房子拍 日韩无码 女的很漂亮| 欧美日韩亚洲少妇寂寞影院正在播放| 影音先锋视频在线| 伊人四虎综合| 日本高清一区二区在线| 九九九只有精品| 国产精品久久久无码AV网站| 熟女熟妇伦久久影院毛片一区二区| 日本精品加勒比海一区| 婷婷丁香成人| 淫淫综合网| 亚洲超碰AV| 久久久久久99999国产精品| 久久毛卡| 日韩日韩日韩-国产乱码精品一区二区| 亚州操操穴网| 成人精品视频| 亚州色综合| 欧美强奸乱| 免费久久9999| 男人的天堂com| 欧美日韩操逼嗦吊| 四虎国产精品永久地址入口| 99久热| 色偷偷2020免费视频播放| 午夜乱轮操逼视频免费看| 日本免费中文字幕在线| av凤凰久久久| 日本精品第一视频在'| 亚洲偷拍自拍在线视频| 另类天堂| 色哟哟的毛片| 久久一区无码| 免费成人在线熟妇网| 九九九九九九九九九五码| 蜜臀久久久久久999| 91亚洲精品青草| 99人妻碰碰碰久久久久禁片| 高清孕妇孕交| 天天舔天天日天天射| 天天影视综合色| 国产精品久久久鸭无码的功能| 欧美色图自拍| 色色激情五月天| 一区二区三区麻豆| 国产超碰国产97| 亚洲日韩人妻中文字幕一区| 久久鲁夜| 黄色性爱网网| 嫩草 我啊~嗯~在线| 亚洲欧洲综合视频在线| 精品午夜福利| 国产性爱欧美性爱在线| 色五月网址| 美女诱惑久久| 日韩99神马视频播放| 天天操天天干一区二区 | 99丝袜福利在线播放| 日本不卡二区| 97国产精品久久久久| 五月激情视频| 国产精品一区二区手机看片| 青青草好吊| 亚州国产精品乱| 一级人妻性爱视频| 中文字幕日韩情色| 大香蕉中文aV在线| 99热综合| 欧亚性爱在线视频| 中文字幕一区二区三区人妻不卡| 四虎884a| 日韩AV一区二区三区四四| 极品综合| 国产精品人妻无码久久久互動交流 | 99热99re6国产在线播放| 综合色色网| 激情天天视频| 天天操天天舔| 97久久天天综合色天天综合色电影| 大香蕉伊人色偷偷在线| 中国一区二区亚洲人妻| 男人的天堂三级| 久久不卡一区二区| 大香蕉啪啪网| 久久精视频美日韩在线视频| 91久久九九精品国产综合| 骚妻少妇精品性色无码四色A V| 欧美久久草熟女| 免费在线观看AV无码网站| 在线日韩精品一区二区三区| 一区二区视频在看| 33044男人的天堂深夜备| 成人欧美一区二区三区黑人一| 日韩精品在线观看观看| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 人妻啊啊人妻啊啊| 激情四射五月天| 亚洲伊人a线观看视频| 97干在线| 欧美色图20p| 亚洲做性| 久草成人影片| 97国产伦理| 欧美久久婷婷| 夜夜嗷嗷一区二区| 艳美熟妇先锋一二三区| 亚洲欧洲偷拍一区| 日本福利社| 操逼日批| 91精品亚洲内射孕妇| 九九无码| 日本中文熟女视频| 国产综合在线视频网站| 国产蜜臀精品一区二区尤物| 色欧洲| 丝袜AV一区二区三区| 激情视频图片| 色69大色97香蕉| 激情综合网一盗摄| 中文熟女五十乱码在线| 毛片99-全集电影手机免费观看完整-B029AV | 九九人妻| 我想要啊 啊 啊| 激情五月天中文字幕色| 啪啪资源网| 亚洲无992tv| 91天天| 欧美精品成人一区二区在线观看 | 波多野结衣先锋影音| 国产网红精品| 嗯啊抽插大香蕉网页| 屁股久久久久久久| 亚洲综合有码| 欧美天天射| 国产AV中文| 另类欧美色| 国产精品白丝www| 99热大香蕉伊在线| 啊啊啊好大好深| 欧美天天综合在线| 欧美人黑A片无码免视费| 天天看天天日天天操| 看免费一级在线播放毛片| 秋霞成人做爱| 久精品无码av一区二免费国产在线观看| 粉嫩绯色AV一区二区在线| 曰韩无码777| 五月丁香影院| 精品久久青青草| 啊啊啊好舒服好爽啊啊啊视频| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 青娱乐淫乱1314| 欧美高清18A片| 国产一区二区a毛片| 26uuu国产免费观看| 久久激情五月| 国产极品999| 大香蕉AV丝袜| 91亚.色| 久久男人天堂| 人人操人人大香蕉| 91人妻丝袜无码| 国产精品久久久九九九| A一级色女| 九九九九精| 小视频国产| 国产超碰| 四虎884a| 青青草AV色| 亚洲97在线观看| 国产成人精品无码久久| 99爱久久视频频| 亚洲图片偷拍欧美| 国产日韩怡红院| 收看日本人日bb| 色狠狠综合| 色香在线| 日本高清免费一本视频在线观看| 丁香五月天堂| 91成人久久| 懂色Av一区二区三区| 久操com| 夜夜一区二区| 青青草原成人| 日本性爱不卡视频| 欧美成人综合| 亚洲欧洲自拍图片专区满春格| 国产一级137片内射麻豆| 中文字幕永久在线| 欧美色图小说综合| 午夜理论片在线观看免费| 色五月天AV| 青娱乐国产剧情av一区| 乱伦图av| 粉嫩少妇自慰在线| 黄色免费一级在线毛片| 蜜臀少妇一区二区| 国语精品av| 欧美日韩精品一区二区三区高清| 九九九午夜| 蜜臀久久99精品久久久久久成人小说| 欧美日韩操逼动图| 欧美 牲| 高清国产精品福利网站| 青青操青娱乐| 亚洲天天综合| 国产夫妻一区二区| 亚洲影院365| 骚货人妻偷情自拍在线视频| 91国产丝袜美女| 精品久久久久久中文| 精品视频97| 人妻精品视频一区二区三区 | 丰满熟妇大乳做爰| AV污污污污| 一牛一区二区三区久久| 91狠狠| 东京太热久久久| 超碰欧美COM| 乱老女人一区二区视频| 91N综合网| 在线只有精品| 精品国产一区探花在线观看| 久操高青| 久久精品国产精品一区 | 一本久道在线综合视频| 91欧美另类| 大学生口爆吞精| 日本东京热大香蕉a片| 一二三四视频中文字幕在线看| 欧美精品久久96人妻无码| 亚洲资源一区| 超碰97资源大奶| 黄色人人| 青青草原av| 天天干天天做| 免费观看国产小粉嫩喷水精品午| 夜夜夜夜爽| 国产无马av| 99re99| 久久99操天天日| 亚洲无 码A片在线观看麻豆| 亚洲第一色页夜| 亚洲少妇综合在线播放| 欧美在线啊啊| 狠狠夜色午夜久久综合在线| 能直接看AV的网站| 天天插网| 欧美体内射精| 裸体女人草逼视频播放一区,二区,三区,四区,五区 | 欧美性xxxxx狂欢| 久久m| 婷婷综合网站| 黄片www视频免费| 白丝1区2区3区| 少妇3P性爱自拍| 超碰吊日色| 国产有码一区| 精品无码一区二区三区| 精品久久9| 精精夜夜| 亚洲激情综合| 日韩在线性爱免费视频| 青青草大香蕉视频| 尤物视频网 刘玥| 男人的天堂在线有码| 人人玩人人添人人澡免费| 国产91 丝袜在线播放 | 天天看天天在线精品| 91精品导航| 久久久久ab| 国产又猛又粗又爽又黄| 极品色综合| 日本中文字幕一区| 96精品久久久久中文字幕| 中国国产精品一区视频| 九九超碰综合网| 色综合加勒比四四季| 色噜噜精品一区二区三| 国产毛片片精品天天看视频| 一区二区三区看视频| 精品免费国产二区三区| 精品大久久| 大香蕉520| 日韩国产乱子伦App| 三上悠亚在线毛片91| 综合熟妇一区二区三区| 日韩人妻大香蕉| 中文字幕三四区| 天天夜夜久久| 丁香婷婷大香蕉| 日韩久久.一级黄色片| 视频国产成人精品日本亚洲18| 久久婷婷一区| 日韩精品电影| 97这里只精品| 美女裸体麻豆天美蜜桃91| 爽爽淫人网| 成人性爱电影网| 日韩一区二区三区四区五区| 国内偷自视频区视频综合| 2024年最新色情网站在线观看| 午夜福利在线合集| 日日日骚女人精品| 97自拍一区| 亚洲色图激情小说| 丝袜美腿诱惑亚洲欧美视频在线观看| 欧美顶级黄片AAAAA在线免费看| 人人看欧美性爱| 台湾成人无码AV| 日韩欧洲操屄视频| 99久久精品无码一区二区毛片免费| 超碰欧美97| 少妇人妻在线| 色色青青久久| 日韩久射综合| 国产白丝av| 9丨久久九九九| 欧美高清在线| 中文字幕一二三av| 婷婷激情丁香| 男女一进一出视频久久| 欧美人妻少妇| 欧美操人视频| 日韩国产精品人妻无码久久久| 哈哈操 大香蕉| 夜夜嗨一区二区三区三州加勒比| 乱操9999| 日日日日做夜夜夜夜做无码97| 久久久禁| 欧美色图欧美| 啊啊啊操死我| 精品人妻1区| 大香网站| 五月激情综合网| 亚洲久草AV色图| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | AV网站高清无码在线观看| a天堂视频| 婷婷中文字幕| 加勒比AV网| 超碰社区97| 欧美97爱| 欧美亚洲自拍另类人妻| 日本操大逼| 亚洲激情综合| 熟妇熟女一区二三区| A男人的天堂| 91日韩国产欧美亚洲另类精盘州至城都| 风月影院十八禁| 精品一区二区三区免费古装毛片香港三级日本三级人妇 | 欧美综合色,www| 韩国免费播放一级毛片| 亚洲一区二区三区欧美日韩| 天美国产三级传媒| 久婷婷一区| 97超碰亚洲| 97亚洲色图| 天天谢天天干| 久久久一级| 9精品久久| 好一吊区二区| 国内毛片无遮挡国产| 中文字幕一区二区三区视频播放| 久久9 9 9精品| 天天热精品| 大香久久| 久久久久九九九| 久久手机好看网站| 麻豆一区二区AV天美| 人人摸.人人色| 精品久久視頻在线| 蜜臀网址在线| 在线综合 亚洲 欧美中文字幕| 国产亚洲禁久一区二区| 超碰 av 女人天堂| 亚洲九九九| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 熟妇在线视频一区二区| 中文字幕精品一区二区精品| 亚洲成人一二三区| 欧美色图第一页| 日本免费一级AAA大片器| 国产欧美精品日韩区二区麻豆天美| 蜜桃精品一区二区三区久在线| 青娱乐福利99| 99热97| 国产精品3| 欧美另类精品xxxx| 亚洲激情色片 | 天天干天天燥| 亚洲丝袜B诱惑| 久久精品一区二区| 久久东京伊人一本到鬼色| 日产狠狠干| 免费网色网站| 国产最新小视频在线播放下载| 日韩人妻播放| 中文字幕人乱码中文字的预防方法| 夜夜夜夜久久久久| 亚洲操逼网| 国产嫩草精品A88AV| 精品日韩| 色香色欲天天综合网天天来吧| 美国美女AV在线| 呻吟 欧美 日本 中出| 乱伦一二三区| 五月天婷婷色色| 91久久国产精品| 国产一区二区视频在线播放| 综合熟妇一区二区三区| 色五月激情网| 亚州综合色| 亚码激情| 伊人九九九| 国产农村一一级特黄毛片| 久9爱精品| 欧美操逼一二三区| 欧美精品三级黄片| 日欧毛片久久| 国语av最新自产拍在线观看| 97爱碰| 青青免费在线视频一区| 日本999精品| 无码逼| 精品人妻一区二区蜜桃视频 | 亚洲做性| 天美麻花大全视频| 好属操| 精品国产一区二区三区久久久蜜臀| 影音先锋新男人| 色哟哟av网址| 天天日天天舔| 无码区蜜乳| 蜜桃臀一区二区三区久久| 日本一区二区不卡精品| 久久尹人大香焦视| 五十路熟女工口| 91操人| 亚洲综合电影| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 久久大精品乱码视频人妻熟女| 超碰人人超在线观看| 美女91AV| 91精品国久久久久久无码| 亚洲一本大道中文字幕无码在线| 欧美日韩亚洲天堂| 久久爽爽精品| 91大学精品激情戏| 日本性爰一道本| 日本精品一区二区三| 久久久九九网站| 韩美日操逼| 骚鸭AV| 丝袜喷水在线| 婷婷五月色| 亚洲无无码αⅴ每日更新| 亚洲精品蜜桃久久久| 无码天天操| 欧美色网| 久久久久深夜无码| 99蜜桃臀亚洲成人在线观看| 色优久久| 在线可观看的黄色网址| 色哟哟 日韩精品| 国产精品夜夜夜| AV高清一区| 91碰碰| 美国aaaaa一级黄片| 看全色黄大色大片免费视频| 亚欧操逼片在线观看 | 另类亚洲图色| 92人人操人人| 逼操网站| 免费中文综合精品| 亚洲精品99999| 91欧洲入口| 大香蕉啪啪啪啪在线| 欧美三级不卡| 亚洲精品aa久久伊人| 日本性交操一区二区不卡系列| 人妻激情视频| 欧美,亚洲,日韩,v,天堂,手机在线观看 | 玖玖久久久| 人妻喷水| 超碰伊人在线| 青青草成人视频在线观看二区| 女人天堂AV五区在线| 国产区91柔拿会所技师| 亚洲一卡二卡在线免费| 天天看天天日| 久久久新亚洲AV| 97干在线视频| 久久久久久久91| 黑人性暴力毛片| 日韩精彩视频| 大屁股熟女一区二区三区| 亚洲精品国产av天美传媒| 97硬碰| 欧美九9 9 9| 国产免费久久久久| 国内精品久久久久影院亚洲| xxx0国产在线播放| 99色热国产视频精品| 中国一级操逼视频| 成人av影院在线观看| 收看日本人日bb| 国产AV中文| 国产一区二区在线播放| 国产精品一区二区密臀| 人妻久久一区二区三区 | 日日干日日| 亚洲麻豆精品二区三区| 欧美久久九九| 夜夜爽妓女| www.99热在线只有精品| 久久骚| 天天影视之亚洲综合网| 亚欧操逼片在线观看 | 欧美日韩性爱操大逼| 手机在线观看不卡无码av| 伊人色综合网电影| 激情丁香五月| 中文字幕视频一区视频二区| 日本999精品视频| 麻豆 亚洲 97| 亚洲AV不卡在线观看| 亚洲色图综合网| 国产怡红院在线| 91国模| www.亚洲黄色| xxxx网站亚洲精品| 欧美国产日韩高清在线| 美日韩成人| 深爱五月婷婷| 久久超碰、| 偷拍片久久| 97亚洲色图| 一级做受视频免费是看美女| 日逼视频日本| 色色色热| 成人热久久精品| 精品无码一区二区三区| 亚洲图片另类| 五月丁香拍拍激情综合三级| AA丁香综合激情| 中文字幕天天天天天| 蜜桃丰满熟妇av无码区不卡| 欧美天天综合网版| 九月丁香综合网| 美女尤物福利视频| 亚洲双插| 91视频伊人| 午夜天堂精品久久久久91| 丝袜综合| 日韩精品 欧美激情| 亚洲精美粉嫩嫩泬在线观看| 青草视频在线看看看看看看看看看| 嗯嗯,好大,好爽,好骚| 97在线视频免费看| 激情五月天插| 日本超碰在线国产一区| 精品人妻夜夜草| 玖玖资源视频一区二区三区| 100啪啪视频大全| 97人妻碰碰中文无码久热丝袜| 欧美色66| 天天日天天干少妇日| 久久性爱视频99| 免费观看的av| 精品综合久久久久久97| 黄片免费视频2019| 中文字暮97| 亚洲另类色综合网站| 国产美女裸体秘 永久无遮挡| 天天天天操| 97伦乱| 测评在线观看AV| 婷婷色导航| 中文字幕版| 男啪女色黄无遮挡免费观看| 久久激情网| 日韩不卡一二三四| 色欲三区| 加勒比大香蕉视频在线| 国产黑白丝在线| 岛国黄| 91久久午夜无码鲁丝片久久人妻| JuliaAnn丝袜熟女系列| 亚洲最大无码中文字幕网站| 久久爽爽精品| 色臀AV| www99热| 欧美另类丝袜熟女| 日本午夜福利影院| 免费97视频| 18禁中文字幕| 欧美亚洲美少妇一区二区| 日韩视频中文字幕| 久久久久久久极品香蕉视频| 99少妇| 久久xx| 在线看污网站| 久久激情视频| 精品人妻15区| 涩涩五月天| 欧美性夜| 久久精品人体| 视频一区二区免费在线| 天天操女人| 17c嫩草51久久91嫩草| 欧美日韩第一页| 美女上床网站| 欧美性爱十八禁| 大粗鳼巴久久久久| 亚洲老熟妇xxx| 亚洲欧洲激情卡通另类文学四射小说网站| 五月婷婷综合激情| 亚州高清AV| 丁香五月婷婷基地| 日本最新免费韩国1区2区视频播放| 久久精品 六十路 熟女 欧美| 久久亚洲不卡一区二区三区| 中国AV美女| 极品五月天噜噜| 人人操人人摸人人骑| 九九色热| 91情色| 老色69| 黄色免费网| 女人的天堂大香蕉网| 国产综合网站在线播放 | 小少妇| 秋霞 色色| 国产丝袜美腿美女麻豆| 黄色电影观看久久9| 国产中午字一暮区| 屌逼传媒| 久久天天艹| 1204av韩国| 性爱av在线免费观看| 亚洲人妻爽爽爽| 中文字幕片| 欧美日韩国内不卡| 97精品免费视频网站| 久久精品老司| 天天躁日日躁XXXXYY| 欧美激情在线观看视频| 亚洲精品天天影视综合网| 亚洲国产欧美一区二区潘金莲 | 国产999精品久久久久久| 亚洲**2021在线观看| 国产风韵犹存熟妇三区| 久久伊人东京热| 亚洲一本色码中文字幕| 亚洲欧美天堂| 九一亚洲国产免费| 激情干在线| 欧美日韩国产成人高清| 99亚洲人人| 激激五月| 人人操人人摸人人看人人插| 综合色欧美| 香蕉在线一区二区三区| 中文字幕丰满人妻日本| 久久久久幕乱码| 亚射在线| 日本在线一二| 18禁美女裸体无遮挡啪啪| 天美传媒婬乱| KK色在线影院| 亚洲永久AV无码精品秋霞| 狠狠穞A片一區二區三區| 亚洲天堂7777| 东京热视频网| 亚洲情色欧美| 一二三四区电影| 丝袜色综合| 熟女色图在线| 国产无遮挡| 丁香五月偷拍| 日韩中文字幕视频在线观看| 欧美中文字幕日韩在线| 久久伊人最新网址视频| 亚洲中文字幕av| 骚日日av| 欧美在线视频播放| 久久久久网站-538在线视频-欧美永久乱码 | 五月丁香| 国产懂色精品国产av| 26uuu欧美日韩| 精品视频一区二区| 国产欧美另类久久久精品课程| 亚洲日韩XXX| 国产日韩人人| 蜜臀在线免费观看在线免费观看| 日本 欧美 亚中文字幕| 一区二区三区精品视频| 天天操天天干一区二区| 搡老女人911熟妇老熟女| 欧美色干| 2017天天操天天日| 日本国产二线女色| 美女91色黄18| 久久夜精品一区二区三区| 欧洲乱码一区二区| 熟妇人妻一区二区三区| 国模限制级电影| 射 色综合| 夜夜爽爽爽| 天天综合网国产| 亚码激情| 国产青一二三| 99999精品视频| ?亚洲伊人伊成久久人综合网| av日韩国产一区二区| 乱伦熟女论坛| 亚洲欧美国产va在线播放频| 97日韩| 蜜臀久久99精品久久久电影| 久久精品国产亚洲AV清纯| 亚洲本色精品一区二区久久| 日本高清免费一本视频在线观看| 中文字幕丰满人妻日本| 国产又色又粗又黄又爽| 黄色人人| 人妻少妇av在线观看| 亚洲欧洲网站免费观看| 又黄又爽在线观看视频| 天天干2区3区| 极品色电影院| 久操免费电影| 色综合加勒比| 亚洲国产欧美一区二区潘金莲| 午夜精品久久一区二区| 香伊人在线| 亚洲情色中文字幕一区| 2024人人操人人摸| 九九久久九九久久| 欧美五区| 亚洲射综合网| 亚洲欧美综合色| 97超碰在线资源网站| 超碰 国产熟女精品一区| 热热色青青草| 欧美色就是色| 国产欧美成人第一页在线观看 | 欧美性暴力| 美日韩男女操屄视频| 18禁美女裸体无遮挡啪啪| 久久男女激情视频网站| 97资源制服丝袜| 天美国产精品| 超碰97在线中文| 天天综合网91| 日韩无码a片| 伊人影院中文字幕| 制服中出中文人人精品| 欧美色偷偷| 99精品欧美一区二区三区桃色| 天天综合色| 九热大香蕉| 极品美女嘿咻| 中文字幕五月婷婷免费| 久久久久久欧美精品se一二三四| 色狠狠综合| 综合干干干av久久久综合网 | 午夜人妻精品综合在线| 射丝袜大香蕉| 97超碰站| 五月天综合| 熟女高潮合集-永久久久-成人AV| 久久久久九九九九| 亚洲成熟国产精品美女| 欧美久久久15P| 亚洲AV色图一区| 亚洲欧洲综合成人av一区| 欧美午夜一区二区三区| 午夜丁香| 精品一国2| 1769成人国产精品视频| 亚洲操人| 9长久久精品| av三级电影在线播放| 国产欧美日韩在线不卡第一页| 99热在线不卡| 亚洲综合在线91| 亚洲人妻在线一区| 1区2区3区中文字幕日韩| 麻豆成人影音在线| 日韩AV一起草| 操曰本熟女| A一区片| 97天天摸天天碰| 超碰色大香蕉| 91色综合| wwwss在线观看| 国产一区二区在线看| 日韩一区二区精彩视频| 欧美日不卡| 日韩三级av片| 亚洲第一成人影院色播| 2017大香蕉国产精品久久| 久久久性| 日少妇亚洲版| 91天天| 在线天堂999| 97色碰| 人夜夜精品网站香蕉嫩草| 亚洲激情在线| 国产日韩欧美三级片| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 日韩AV电影网站| 青青操视频在线| 首页中文字幕中文字幕免费| 亚洲精品一卡二卡三卡福利视频网站 | 久久视频少妇美女| 国产激情视频一区区三区| 女人被添高潮免费视频| 亚洲好色人妻| 亚洲黄网在哪免费看| 人人摸人人舔一区二区| 亚洲精品美女久久久久久久久| 午夜精品人妻二区三区| 无码高清专| 久久亚洲不卡一区二区三区| 午夜福利1区2区3区| 97高清啪啪| 伊人网免费视频| 亚洲无限观看| 久久精品中文字幕无码l| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 1024人妻熟女一区二区三区| 在线 欧美 亚洲| 久操视频资源站公开| 久久久极品| 熟女精品一区二区三区| 性猛交| 久久这里| 亚洲精品日韩国产欧美| 97免费在线观看| 99精品在线播放| 久久精品熟妇丰满人妻99| 超碰99在线| 国产午夜精品在线观看| 小骚逼被操的爽不爽| 亚洲最新a在线观看| 91性感在线| 欧美色997| 欧美经典一区二区三区| 夜夜欧美| 一区二区三区四区五区高清无码永久视频 | 熟女自慰久久久| 在线视频日韩欧美国产| 美女性91| 中文字幕日韩人妻视频一区二区三区交换夫妻| 日韩无码三级影院| 欧美的精品的视频| 久久久av爱| 家庭乱伦网站国产| 色综合加勒比| 国产九区| 男人亚洲91首页在线| 成人激情无码在线视频| 97在线观看视频| 99精品热| 国内毛片无码一级毛片| 伊人网免费视频| 99只有精品| 任你艹| 3D污黄视频在线观看| 亚洲成成熟女人综合一区二区| 国厂麻豆77q4| 粉嫩av在线一区二区| 91国模| 国产精品粉嫩福利在线| 中文高清一区二区的| 3D污黄视频在线观看| 美女久久久久久久久久久| 麻豆精品三区视频| 久久这里精品国产99丫e6| 国产亚洲精品玖玖玖在线观看| 亚洲中文字幕精品一区| 91在线丝袜| 欧美第38页| 中文字幕日韩国产传媒欧美精品| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 九九九九九九九九九九九蜜桃| 欧美一区91大爱| 日韩不卡在线一区二区| 亚洲久久久久| 四季av一区二区凹凸精品小说| 久久人人爽爽爽人久久久| 国产精品99久久久www| 啊啊啊爽爽| 欧美韩国你懂得在线| 国色天香av| 亚洲国产激情国产av| 久久久国产亚洲精品系列| 亚洲人妻爽爽爽| 久久精品操| 青青伊人加勒比海| 人妻密肉在线观看| 最新AVzaixian| 国产av波波国产精品| 日B操| 1000部熟女视频在线观看| 亚洲a色| 91久久国产精品| 色欧洲97| 精品成人女人久久| 夜夜骑操视频| 国产九区| 无码男人天堂| 色天堂在线观看| 日韩不卡码| 美女黑人91神马| 97在线青| 久久香蕉超碰97国产精品 | 欧美综合网| 精品一级毛片在线观看| 国产午夜精品在线观看| 亚洲自拍97| av激情亚洲五月天| 手机看片91人妻| 国产高清自拍| 国产精品国产亚洲区艳妇糸列| 91狠狠狠| 夜夜国自区| 九九热av| 97欧美日韩综合| 国产精品96| 秋霞操逼片| 久操操AV电影| 久久九九视频九九视频| 黑人操一区二区| 人人插人人摸人人| 日本女人操逼| 涩五月婷婷| 天天综合网~69| 97中文字幕色| 日日夜夜草草草| 中出后入| 国产一区二区在线看| 使劲用力艹少妇视频一区二区| 久湿久久| 欧美影音在线| 日日日日做夜夜夜夜做无码97| 亚州欧美在线| 亚洲天天操| 日韩成人无码| 自拍偷拍 高清无码| 亚洲欧洲日韩国产自在线| 玖玖玖玖精品国产剧情| 9l视频自拍9l九色成人| 男人天堂2012| av在线浏览| 熟妇视频一区二区三区在线观看| 亚洲一本大道中文字幕无码在线| 欧美精品1区2区3区| 夜夜操2028| 深爱激情五月天| 天天综合精品| 97超碰巨乳| 激情文学小说一区二区| 97免费视频在线| 精品九九国产无码| 色青青久久影视|