久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

XXL-JOB 企業(yè)微信機(jī)器人報(bào)警實(shí)戰(zhàn):自定義 JobAlarm 實(shí)現(xiàn)與避坑指南

XXL-JOB 企業(yè)微信機(jī)器人報(bào)警實(shí)戰(zhàn):自定義 JobAlarm 實(shí)現(xiàn)與避坑指南 1. 任務(wù)調(diào)度報(bào)警的痛點(diǎn)與破局思路做過分布式任務(wù)調(diào)度的同行大概都有過這種體驗(yàn)凌晨兩點(diǎn)某個(gè)核心對(duì)賬任務(wù)掛了XXL-JOB 的控制臺(tái)安安靜靜直到第二天業(yè)務(wù)方打電話來問“昨天的數(shù)據(jù)怎么沒跑出來”你才發(fā)現(xiàn)調(diào)度失敗了一整晚。XXL-JOB 自帶的郵件報(bào)警在真實(shí)生產(chǎn)環(huán)境里其實(shí)挺雞肋的——郵件容易被淹沒在各類通知里而且很多人根本沒有隨時(shí)查郵件的習(xí)慣。短信報(bào)警又要額外對(duì)接運(yùn)營商通道成本高、配置繁瑣。企業(yè)微信機(jī)器人報(bào)警就是在這個(gè)場(chǎng)景下最順手的一個(gè)方案。它的本質(zhì)是把 XXL-JOB 的調(diào)度失敗事件通過企業(yè)微信群的 Webhook 地址以 Markdown 消息的形式推送到運(yùn)維群或者業(yè)務(wù)群。群里的每個(gè)人都能第一時(shí)間看到還能直接 相關(guān)責(zé)任人。這篇文章我會(huì)把整個(gè)實(shí)現(xiàn)過程拆開講透包括 XXL-JOB 報(bào)警機(jī)制的底層原理、企業(yè)微信機(jī)器人的消息格式約束、自定義報(bào)警器的代碼實(shí)現(xiàn)、以及我在實(shí)際接入過程中踩過的那些坑。適合閱讀這篇內(nèi)容的讀者有三類一是正在用 XXL-JOB 做任務(wù)調(diào)度、想升級(jí)報(bào)警能力的后端開發(fā)二是負(fù)責(zé)運(yùn)維告警體系、需要把調(diào)度告警統(tǒng)一接入企業(yè)微信的運(yùn)維同學(xué)三是對(duì) Java SPI 擴(kuò)展機(jī)制感興趣、想通過一個(gè)真實(shí)案例理解框架擴(kuò)展點(diǎn)的開發(fā)者。不管你是剛接觸 XXL-JOB 還是已經(jīng)用了兩三年下面這些細(xì)節(jié)應(yīng)該都能給你一些參考。XXL-JOB 的報(bào)警能力本身是開放的它預(yù)留了 JobAlarm 接口默認(rèn)提供了郵件報(bào)警的實(shí)現(xiàn)。很多人不知道這一點(diǎn)以為只能用郵件其實(shí)只要實(shí)現(xiàn)這個(gè)接口并注冊(cè)成 Spring Bean就能接入任意報(bào)警渠道。企業(yè)微信機(jī)器人恰好提供了一個(gè)極簡(jiǎn)的 HTTP Webhook 接口不需要申請(qǐng)應(yīng)用、不需要配置回調(diào)地址、不需要處理加解密創(chuàng)建一個(gè)群機(jī)器人就能拿到一個(gè) URL往上面 POST JSON 就能發(fā)消息。這兩者結(jié)合起來整個(gè)接入成本非常低。但低成本不代表沒有細(xì)節(jié)。企業(yè)微信機(jī)器人的消息有格式要求XXL-JOB 的報(bào)警回調(diào)有觸發(fā)時(shí)機(jī)的限制多實(shí)例部署時(shí)還有重復(fù)報(bào)警的問題。這些如果不提前想清楚上線之后就會(huì)各種翻車。接下來我按照“整體設(shè)計(jì)思路 → 核心細(xì)節(jié)解析 → 完整實(shí)操過程 → 常見問題排查”的順序把整個(gè)方案講清楚。2. 整體設(shè)計(jì)與核心思路拆解2.1 為什么選企業(yè)微信機(jī)器人而不是其他渠道報(bào)警渠道的選擇本質(zhì)上是在“觸達(dá)率”“接入成本”“信息豐富度”三個(gè)維度之間做權(quán)衡。郵件觸達(dá)率低但接入成本幾乎為零短信觸達(dá)率高但需要付費(fèi)通道且內(nèi)容長度受限釘釘/企業(yè)微信/飛書機(jī)器人則處于中間位置——觸達(dá)率取決于群消息的活躍度接入成本很低消息支持 Markdown 格式所以信息豐富度也不錯(cuò)。企業(yè)微信機(jī)器人相比釘釘機(jī)器人有一個(gè)實(shí)際使用中的優(yōu)勢(shì)很多公司的內(nèi)部溝通主陣地就是企業(yè)微信運(yùn)維群、項(xiàng)目群、值班群都在上面報(bào)警消息直接推到這些群里不需要額外讓團(tuán)隊(duì)成員再裝一個(gè) App。而且企業(yè)微信機(jī)器人的 Webhook 接口非常穩(wěn)定我用了兩年多沒有遇到過接口本身不可用的情況。從技術(shù)實(shí)現(xiàn)角度看企業(yè)微信機(jī)器人只需要一個(gè) HTTP POST 請(qǐng)求請(qǐng)求體是 JSON支持 text 和 markdown 兩種消息類型。markdown 類型支持標(biāo)題、加粗、引用、鏈接、字體顏色等基礎(chǔ)排版對(duì)于報(bào)警消息來說完全夠用。唯一需要注意的是 markdown 類型不支持 某個(gè)人只有 text 類型才支持 mentioned_list 參數(shù)來 人。這個(gè)限制后面在消息設(shè)計(jì)時(shí)會(huì)專門處理。2.2 XXL-JOB 報(bào)警機(jī)制的底層邏輯XXL-JOB 的報(bào)警觸發(fā)鏈路是這樣的調(diào)度中心xxl-job-admin在執(zhí)行器任務(wù)調(diào)度失敗后會(huì)調(diào)用 JobFailMonitorHelper 這個(gè)失敗監(jiān)控線程。這個(gè)線程每隔一段時(shí)間掃描一次數(shù)據(jù)庫中的失敗日志記錄對(duì)于“報(bào)警狀態(tài)為未報(bào)警”的記錄遍歷所有注冊(cè)的 JobAlarm 實(shí)現(xiàn)類逐個(gè)調(diào)用 alarm() 方法。如果任意一個(gè)報(bào)警器返回 true就把該條日志的報(bào)警狀態(tài)標(biāo)記為已報(bào)警后續(xù)不再重復(fù)報(bào)警。這里有幾個(gè)關(guān)鍵點(diǎn)需要理解清楚。第一報(bào)警是在調(diào)度中心側(cè)觸發(fā)的不是在執(zhí)行器側(cè)所以自定義報(bào)警器要放在調(diào)度中心項(xiàng)目里而不是執(zhí)行器項(xiàng)目里。第二報(bào)警是異步的失敗監(jiān)控線程獨(dú)立運(yùn)行不會(huì)阻塞正常的調(diào)度流程。第三JobAlarm 是一個(gè) SPI 接口XXL-JOB 通過 Spring 的依賴注入把所有實(shí)現(xiàn)類收集到一個(gè) List 中遍歷調(diào)用。這意味著你只需要寫一個(gè)類實(shí)現(xiàn) JobAlarm 接口加上 Component 注解它就會(huì)自動(dòng)生效不需要修改任何框架代碼。JobAlarm 接口的定義非常簡(jiǎn)潔只有一個(gè)方法public interface JobAlarm { public boolean alarm(XxlJobInfo info, XxlJobLog jobLog); }XxlJobInfo 包含了任務(wù)的基本信息任務(wù) ID、任務(wù)描述、負(fù)責(zé)人、報(bào)警郵件等XxlJobLog 包含了本次執(zhí)行的日志信息執(zhí)行器地址、執(zhí)行結(jié)果、執(zhí)行備注等。這兩個(gè)對(duì)象里的信息足夠我們拼裝一條完整的報(bào)警消息。2.3 多實(shí)例部署下的報(bào)警去重問題如果你的調(diào)度中心是集群部署的生產(chǎn)環(huán)境通常會(huì)部署兩個(gè)節(jié)點(diǎn)做高可用那么失敗監(jiān)控線程會(huì)在每個(gè)節(jié)點(diǎn)上各跑一份。這就帶來一個(gè)潛在問題同一條失敗日志可能被兩個(gè)節(jié)點(diǎn)同時(shí)掃描到導(dǎo)致重復(fù)報(bào)警。XXL-JOB 本身對(duì)這個(gè)問題的處理方式是在更新報(bào)警狀態(tài)時(shí)使用樂觀鎖或者條件更新只有成功將“報(bào)警狀態(tài)”從未報(bào)警改為已報(bào)警的那個(gè)節(jié)點(diǎn)才會(huì)真正發(fā)送報(bào)警。但實(shí)際實(shí)現(xiàn)中不同版本的 XXL-JOB 處理方式略有差異。比較穩(wěn)妥的做法是在自定義報(bào)警器里也做一層冪等控制比如用 Redis 做一個(gè)短期的去重 keykey 的過期時(shí)間設(shè)置為報(bào)警間隔的兩倍左右。這樣即使框架層面有并發(fā)窗口業(yè)務(wù)層面也能兜住。不過話說回來對(duì)于報(bào)警消息來說偶爾重復(fù)一條并不是什么致命問題反而比漏報(bào)要好。所以如果你的環(huán)境里重復(fù)報(bào)警并不頻繁也可以不做額外去重接受這個(gè) trade-off。我在實(shí)際項(xiàng)目中觀察下來XXL-JOB 2.3.x 及以上版本在集群模式下的報(bào)警去重做得已經(jīng)比較好了重復(fù)報(bào)警的概率很低。3. 核心細(xì)節(jié)解析與實(shí)操要點(diǎn)3.1 企業(yè)微信機(jī)器人 Webhook 的獲取與限制創(chuàng)建企業(yè)微信機(jī)器人的操作路徑是進(jìn)入一個(gè)群聊 → 點(diǎn)擊右上角 → 群機(jī)器人 → 添加機(jī)器人 → 選擇“自定義” → 設(shè)置機(jī)器人名稱和頭像 → 獲取 Webhook 地址。這個(gè)地址的格式是https://qyapi.weixin.qq.com/cgi-bin/webhook/send?keyxxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx拿到這個(gè) URL 之后往上面 POST 一個(gè) JSON 就能發(fā)消息。但有幾個(gè)限制必須提前知道頻率限制每個(gè)機(jī)器人每分鐘最多發(fā)送 20 條消息。超過之后會(huì)被限流返回錯(cuò)誤碼 45009。對(duì)于任務(wù)調(diào)度報(bào)警來說如果短時(shí)間內(nèi)大量任務(wù)同時(shí)失敗比如數(shù)據(jù)庫掛了導(dǎo)致所有依賴數(shù)據(jù)庫的任務(wù)全部失敗很容易觸發(fā)這個(gè)限制。后面我會(huì)講怎么處理這種情況。消息長度限制markdown 類型的消息內(nèi)容最長 4096 字節(jié)超出部分會(huì)被截?cái)?。所以?bào)警消息里不要塞太多內(nèi)容關(guān)鍵信息點(diǎn)到為止。markdown 語法限制企業(yè)微信的 markdown 不是標(biāo)準(zhǔn) markdown支持的語法比較有限。支持標(biāo)題# 到 ######、加粗**、引用、字體顏色、鏈接、行內(nèi)代碼。不支持表格、不支持圖片圖片需要單獨(dú)用 image 類型消息發(fā)送、不支持有序列表的自動(dòng)編號(hào)。 人限制markdown 類型不支持 成員只有 text 類型支持 mentioned_list 和 mentioned_mobile_list。如果報(bào)警需要 到具體負(fù)責(zé)人要么用 text 類型要么在 markdown 里手動(dòng)寫上負(fù)責(zé)人的名字但沒有 的提醒效果。這些限制看起來多但對(duì)于報(bào)警場(chǎng)景來說其實(shí)夠用。報(bào)警消息的核心是“哪個(gè)任務(wù)失敗了、什么時(shí)候失敗的、失敗原因是什么、誰該去看”這些信息用 markdown 排版完全能表達(dá)清楚。3.2 報(bào)警消息的內(nèi)容設(shè)計(jì)一條好的報(bào)警消息應(yīng)該讓接收者在 3 秒內(nèi)判斷出“這事跟我有沒有關(guān)系、嚴(yán)不嚴(yán)重、要不要馬上處理”。基于這個(gè)原則我設(shè)計(jì)的報(bào)警消息模板包含以下字段字段說明是否必填任務(wù) IDXXL-JOB 中的任務(wù)主鍵是任務(wù)描述任務(wù)的業(yè)務(wù)含義是負(fù)責(zé)人任務(wù)的負(fù)責(zé)人是調(diào)度時(shí)間本次觸發(fā)調(diào)度的時(shí)間是執(zhí)行器地址實(shí)際執(zhí)行任務(wù)的節(jié)點(diǎn)是失敗原因執(zhí)行返回的備注信息是報(bào)警時(shí)間消息發(fā)送的時(shí)間否消息的 markdown 格式大概長這樣## 任務(wù)調(diào)度失敗報(bào)警 **任務(wù)ID** 1024 **任務(wù)描述** 每日訂單對(duì)賬 **負(fù)責(zé)人** 張三 **調(diào)度時(shí)間** 2024-01-15 02:00:00 **執(zhí)行器地址** http://192.168.1.100:9999/ **失敗原因** font colorwarningjava.lang.NullPointerException: .../font **報(bào)警時(shí)間** 2024-01-15 02:00:15用引用塊把信息包起來視覺上比較緊湊。失敗原因用 warning 顏色標(biāo)紅一眼就能看到。標(biāo)題用 ## 級(jí)別在企業(yè)微信里顯示為較大的字體起到醒目的作用。這里有個(gè)細(xì)節(jié)失敗原因可能非常長比如完整的異常堆棧直接塞進(jìn)消息里會(huì)超過長度限制。我的做法是截取前 200 個(gè)字符后面加省略號(hào)完整信息讓用戶去 XXL-JOB 控制臺(tái)查看。截取的時(shí)候要注意按字符而不是按字節(jié)截取避免把中文截成亂碼。3.3 報(bào)警器的代碼結(jié)構(gòu)設(shè)計(jì)自定義報(bào)警器的代碼結(jié)構(gòu)其實(shí)很簡(jiǎn)單核心就是一個(gè)類實(shí)現(xiàn) JobAlarm 接口。但為了代碼的可維護(hù)性和可測(cè)試性我建議拆成三層報(bào)警器層實(shí)現(xiàn) JobAlarm 接口負(fù)責(zé)從 XxlJobInfo 和 XxlJobLog 中提取信息組裝成消息內(nèi)容調(diào)用發(fā)送器。消息組裝層負(fù)責(zé)把結(jié)構(gòu)化數(shù)據(jù)渲染成 markdown 文本方便后續(xù)調(diào)整消息模板。HTTP 發(fā)送層負(fù)責(zé)實(shí)際的 HTTP POST 請(qǐng)求處理超時(shí)、重試、異常。這樣拆的好處是如果以后要換一個(gè)報(bào)警渠道比如換成飛書機(jī)器人只需要改發(fā)送層消息組裝層可以復(fù)用。如果以后要調(diào)整消息格式只需要改組裝層不影響其他部分。在 Spring 環(huán)境下這個(gè)報(bào)警器類加上 Component 注解就會(huì)被自動(dòng)掃描到。XXL-JOB 的 JobAlarm 收集邏輯是通過 Autowired 注入一個(gè) List Spring 會(huì)自動(dòng)把所有實(shí)現(xiàn)類注入進(jìn)來。所以不需要額外配置加個(gè)注解就行。但有一個(gè)坑需要注意如果你的調(diào)度中心項(xiàng)目里同時(shí)存在多個(gè) JobAlarm 實(shí)現(xiàn)比如默認(rèn)的 EmailJobAlarm 加上你的自定義報(bào)警器那么每次報(bào)警會(huì)同時(shí)觸發(fā)所有報(bào)警器。如果你只想用企業(yè)微信報(bào)警、不想發(fā)郵件需要把 EmailJobAlarm 的配置關(guān)掉在 application.properties 里設(shè)置 xxl.job.alarm.email 相關(guān)配置為空或者不配置。不過實(shí)際上同時(shí)保留郵件和企業(yè)微信報(bào)警也不是壞事多一個(gè)渠道多一份保障。4. 完整實(shí)操過程與核心環(huán)節(jié)實(shí)現(xiàn)4.1 環(huán)境準(zhǔn)備與依賴確認(rèn)在開始寫代碼之前先確認(rèn)幾個(gè)環(huán)境條件XXL-JOB 版本建議 2.3.0 及以上這些版本的 JobAlarm 接口比較穩(wěn)定失敗監(jiān)控線程的邏輯也比較完善。我實(shí)測(cè)過 2.3.1 和 2.4.0都能正常工作。調(diào)度中心項(xiàng)目你需要有 xxl-job-admin 的源碼因?yàn)樽远x報(bào)警器要加在這個(gè)項(xiàng)目里。如果你是用官方編譯好的 jar 包部署的需要重新拉源碼編譯。HTTP 客戶端調(diào)度中心項(xiàng)目本身依賴了 Spring Boot所以可以直接用 RestTemplate 或者 HttpClient。我習(xí)慣用 Java 11 自帶的 HttpClient不需要額外引入依賴。如果你用的是 Java 8可以用 OkHttp 或者 Apache HttpClient。JSON 庫XXL-JOB 本身依賴了 Gsoncom.google.gson可以直接用來組裝 JSON不需要額外引入 Jackson 或 Fastjson。確認(rèn)好這些之后在 xxl-job-admin 項(xiàng)目的 alarm 包下新建一個(gè)類比如叫 WeChatRobotJobAlarm。4.2 核心代碼實(shí)現(xiàn)先看消息組裝的部分。我定義了一個(gè)簡(jiǎn)單的消息模板方法private String buildMarkdownMessage(XxlJobInfo info, XxlJobLog jobLog) { StringBuilder sb new StringBuilder(); sb.append(## 任務(wù)調(diào)度失敗報(bào)警\n); sb.append( **任務(wù)ID** ).append(info.getId()).append(\n); sb.append( **任務(wù)描述** ).append(info.getJobDesc()).append(\n); sb.append( **負(fù)責(zé)人** ).append(info.getAuthor()).append(\n); sb.append( **調(diào)度時(shí)間** ).append(DateUtil.formatDateTime(jobLog.getTriggerTime())).append(\n); sb.append( **執(zhí)行器地址** ).append(jobLog.getExecutorAddress()).append(\n); String failMsg jobLog.getTriggerMsg(); if (failMsg ! null failMsg.length() 200) { failMsg failMsg.substring(0, 200) ...; } sb.append( **失敗原因** font color\warning\).append(failMsg).append(/font\n); sb.append( **報(bào)警時(shí)間** ).append(DateUtil.formatDateTime(new Date())).append(\n); return sb.toString(); }這里用了 XXL-JOB 自帶的 DateUtil 工具類來格式化時(shí)間避免自己寫 SimpleDateFormat 的線程安全問題。失敗原因做了 200 字符的截?cái)嗵幚矸乐瓜⑦^長。然后是 HTTP 發(fā)送的部分private boolean sendToWeChatRobot(String content) { try { MapString, Object body new HashMap(); body.put(msgtype, markdown); MapString, String markdown new HashMap(); markdown.put(content, content); body.put(markdown, markdown); String json new Gson().toJson(body); HttpClient client HttpClient.newHttpClient(); HttpRequest request HttpRequest.newBuilder() .uri(URI.create(webhookUrl)) .header(Content-Type, application/json) .POST(HttpRequest.BodyPublishers.ofString(json, StandardCharsets.UTF_8)) .timeout(Duration.ofSeconds(5)) .build(); HttpResponseString response client.send(request, HttpResponse.BodyHandlers.ofString()); if (response.statusCode() 200) { JsonObject result JsonParser.parseString(response.body()).getAsJsonObject(); int errcode result.get(errcode).getAsInt(); if (errcode 0) { return true; } logger.warn(企業(yè)微信機(jī)器人返回錯(cuò)誤errcode{}, errmsg{}, errcode, result.get(errmsg).getAsString()); } } catch (Exception e) { logger.error(發(fā)送企業(yè)微信報(bào)警失敗, e); } return false; }這段代碼有幾個(gè)細(xì)節(jié)值得說明。超時(shí)時(shí)間設(shè)置為 5 秒是因?yàn)閳?bào)警消息不需要等待太久如果企業(yè)微信接口 5 秒還沒響應(yīng)說明網(wǎng)絡(luò)有問題重試也沒有太大意義。返回結(jié)果里要檢查 errcode企業(yè)微信的接口即使 HTTP 狀態(tài)碼是 200也可能在 body 里返回業(yè)務(wù)錯(cuò)誤碼。常見的錯(cuò)誤碼有 45009頻率超限、93000機(jī)器人被移出群聊等。最后是 JobAlarm 接口的實(shí)現(xiàn)Component public class WeChatRobotJobAlarm implements JobAlarm { private static final Logger logger LoggerFactory.getLogger(WeChatRobotJobAlarm.class); Value(${xxl.job.alarm.wechat.webhook:}) private String webhookUrl; Override public boolean alarm(XxlJobInfo info, XxlJobLog jobLog) { if (webhookUrl null || webhookUrl.trim().isEmpty()) { logger.debug(未配置企業(yè)微信機(jī)器人 Webhook跳過報(bào)警); return false; } String content buildMarkdownMessage(info, jobLog); return sendToWeChatRobot(content); } }Webhook 地址通過配置文件注入這樣不同環(huán)境可以用不同的機(jī)器人開發(fā)環(huán)境推到開發(fā)群生產(chǎn)環(huán)境推到運(yùn)維群。如果沒配置 Webhook直接返回 false不影響其他報(bào)警器。4.3 配置文件與部署驗(yàn)證在 application.properties 里加上一行配置xxl.job.alarm.wechat.webhookhttps://qyapi.weixin.qq.com/cgi-bin/webhook/send?key你的key然后重新編譯打包 xxl-job-admin部署到調(diào)度中心。驗(yàn)證的方式很簡(jiǎn)單在 XXL-JOB 控制臺(tái)里手動(dòng)觸發(fā)一個(gè)會(huì)失敗的任務(wù)比如把一個(gè)執(zhí)行器的地址改錯(cuò)或者讓任務(wù)拋異常觀察企業(yè)微信群里是否收到報(bào)警消息。如果沒收到先看調(diào)度中心的日志搜索“企業(yè)微信”相關(guān)的日志輸出。常見的問題包括Webhook 地址配錯(cuò)了、網(wǎng)絡(luò)不通調(diào)度中心所在服務(wù)器無法訪問企業(yè)微信接口、消息格式不對(duì)被企業(yè)微信拒絕。日志里會(huì)打印具體的錯(cuò)誤信息按圖索驥基本都能解決。4.4 頻率限制的應(yīng)對(duì)策略前面提到企業(yè)微信機(jī)器人每分鐘最多 20 條消息。如果短時(shí)間內(nèi)大量任務(wù)失敗比如數(shù)據(jù)庫連接池耗盡導(dǎo)致所有任務(wù)全部失敗可能會(huì)瞬間產(chǎn)生幾十條報(bào)警觸發(fā)限流。我的應(yīng)對(duì)策略是在發(fā)送層加一個(gè)簡(jiǎn)單的令牌桶或者計(jì)數(shù)器。用 Guava 的 RateLimiter 就可以private final RateLimiter rateLimiter RateLimiter.create(0.3); // 每秒0.3個(gè)即每分鐘18個(gè) // 在發(fā)送前調(diào)用 if (!rateLimiter.tryAcquire(1, TimeUnit.SECONDS)) { logger.warn(企業(yè)微信報(bào)警頻率超限本條報(bào)警被丟棄); return false; }這樣最多每秒發(fā) 0.3 條每分鐘 18 條留一點(diǎn)余量給其他用途。被限流的報(bào)警消息會(huì)被丟棄但日志里有記錄事后可以追溯。如果你覺得丟棄不可接受也可以改成把消息攢起來批量發(fā)送但實(shí)現(xiàn)復(fù)雜度會(huì)高不少。對(duì)于報(bào)警場(chǎng)景來說我傾向于簡(jiǎn)單限流加日志記錄因?yàn)榇罅咳蝿?wù)同時(shí)失敗時(shí)看一條報(bào)警和看十條報(bào)警的信息量差不多關(guān)鍵是知道“出大事了”。5. 常見問題與排查技巧實(shí)錄5.1 報(bào)警不觸發(fā)或觸發(fā)異常這是最常見的問題類型。我整理了一個(gè)排查速查表現(xiàn)象可能原因排查方法任務(wù)失敗但完全沒報(bào)警報(bào)警器沒被 Spring 掃描到檢查類上是否有 Component包路徑是否在掃描范圍內(nèi)任務(wù)失敗但完全沒報(bào)警Webhook 未配置或配置為空檢查 application.properties 中的配置項(xiàng)任務(wù)失敗但完全沒報(bào)警失敗監(jiān)控線程未啟動(dòng)檢查調(diào)度中心啟動(dòng)日志中是否有 JobFailMonitorHelper 相關(guān)日志報(bào)警消息發(fā)送失敗網(wǎng)絡(luò)不通在調(diào)度中心服務(wù)器上 curl 一下 Webhook 地址報(bào)警消息發(fā)送失敗消息格式錯(cuò)誤查看企業(yè)微信返回的 errcode 和 errmsg報(bào)警消息發(fā)送失敗頻率超限查看 errcode 是否為 45009重復(fù)報(bào)警集群模式下多節(jié)點(diǎn)同時(shí)掃描檢查 XXL-JOB 版本考慮加 Redis 去重報(bào)警消息內(nèi)容為空XxlJobLog 字段為 null檢查 jobLog.getTriggerMsg() 是否為空加空值判斷其中“報(bào)警器沒被掃描到”是最容易犯的錯(cuò)誤。很多人把報(bào)警器類寫在了執(zhí)行器項(xiàng)目里或者寫在了調(diào)度中心項(xiàng)目但包路徑不在 SpringBootApplication 的掃描范圍內(nèi)。XXL-JOB 的調(diào)度中心啟動(dòng)類在 com.xxl.job.admin 包下所以你的報(bào)警器類要么放在這個(gè)包及其子包下要么在啟動(dòng)類上手動(dòng)加 ComponentScan。5.2 消息內(nèi)容顯示異常企業(yè)微信的 markdown 渲染和標(biāo)準(zhǔn) markdown 有一些差異我踩過的坑包括換行問題企業(yè)微信 markdown 里單個(gè) \n 不會(huì)換行需要兩個(gè) \n 或者用引用塊。我一開始用 \n 拼接結(jié)果所有內(nèi)容擠在一行后來改成每個(gè)字段后面加 \n并且用引用塊包裹顯示就正常了。字體顏色只支持 info綠色、warning橙紅色、comment灰色三種顏色寫其他顏色值不會(huì)生效會(huì)顯示為默認(rèn)顏色。特殊字符任務(wù)描述里如果包含 等字符可能會(huì)破壞 markdown 結(jié)構(gòu)。建議在拼接前做一次 HTML 轉(zhuǎn)義或者至少把 和 替換掉。超長內(nèi)容前面說過 4096 字節(jié)限制但實(shí)際測(cè)試下來超過 2000 字節(jié)左右企業(yè)微信客戶端就可能顯示不全。所以消息內(nèi)容盡量精簡(jiǎn)。5.3 集群環(huán)境下的重復(fù)報(bào)警如果你的調(diào)度中心部署了兩個(gè)節(jié)點(diǎn)理論上同一條失敗日志可能被兩個(gè)節(jié)點(diǎn)同時(shí)處理。XXL-JOB 在 JobFailMonitorHelper 里通過數(shù)據(jù)庫的樂觀鎖來保證只有一條記錄被更新成功但不同版本的實(shí)現(xiàn)細(xì)節(jié)有差異。我在 2.3.1 版本上實(shí)測(cè)集群模式下重復(fù)報(bào)警的概率大概在 5% 左右不算高但確實(shí)存在。如果你對(duì)重復(fù)報(bào)警零容忍可以加一層 Redis 去重String dedupKey xxl:alarm:dedup: jobLog.getId(); Boolean success redisTemplate.opsForValue().setIfAbsent(dedupKey, 1, 5, TimeUnit.MINUTES); if (Boolean.FALSE.equals(success)) { logger.debug(報(bào)警已發(fā)送過跳過重復(fù)報(bào)警logId{}, jobLog.getId()); return true; }用 jobLog 的主鍵作為去重 key5 分鐘內(nèi)不重復(fù)發(fā)送。這樣即使框架層面有并發(fā)窗口業(yè)務(wù)層面也能兜住。返回 true 是為了告訴框架“報(bào)警已處理”避免框架反復(fù)重試。5.4 報(bào)警消息的負(fù)責(zé)人 提醒前面提到 markdown 類型不支持 人。如果你確實(shí)需要 到具體負(fù)責(zé)人有兩個(gè)方案方案一改用 text 類型消息用 mentioned_mobile_list 參數(shù) 負(fù)責(zé)人的手機(jī)號(hào)。但 text 類型不支持 markdown 排版消息看起來比較樸素。方案二在 markdown 消息里手動(dòng)寫上負(fù)責(zé)人的名字雖然沒有 的強(qiáng)提醒效果但群里的人看到自己的名字自然會(huì)關(guān)注。我傾向于方案二因?yàn)閳?bào)警消息的排版清晰比 提醒更重要而且企業(yè)微信群里 太多也容易引起反感。如果一定要 可以發(fā)兩條消息一條 markdown 類型的詳細(xì)報(bào)警一條 text 類型的 提醒。但這樣會(huì)消耗兩倍的頻率配額需要權(quán)衡。5.5 報(bào)警消息的靜默與降噪上線一段時(shí)間后你可能會(huì)發(fā)現(xiàn)某些任務(wù)的報(bào)警特別頻繁比如一個(gè)每分鐘執(zhí)行一次的任務(wù)偶爾失敗一次就報(bào)警一天下來幾十條消息群里的人都麻木了。這時(shí)候需要做報(bào)警降噪。我的做法是在報(bào)警器里加一個(gè)簡(jiǎn)單的靜默邏輯同一個(gè)任務(wù)在 N 分鐘內(nèi)只報(bào)警一次。用 Redis 記錄每個(gè)任務(wù)的上次報(bào)警時(shí)間如果距離上次報(bào)警不足 N 分鐘就跳過。N 可以根據(jù)任務(wù)的執(zhí)行頻率來設(shè)置比如每分鐘執(zhí)行的任務(wù)設(shè)置 10 分鐘靜默每天執(zhí)行的任務(wù)設(shè)置 0 分鐘每次都報(bào)。String silenceKey xxl:alarm:silence: info.getId(); Boolean canAlarm redisTemplate.opsForValue().setIfAbsent(silenceKey, 1, silenceMinutes, TimeUnit.MINUTES); if (Boolean.FALSE.equals(canAlarm)) { logger.debug(任務(wù){(diào)}處于靜默期跳過報(bào)警, info.getId()); return true; }這個(gè)邏輯和前面的去重邏輯可以合并用同一個(gè) Redis key 同時(shí)實(shí)現(xiàn)去重和靜默。靜默時(shí)間可以通過任務(wù)的執(zhí)行頻率動(dòng)態(tài)計(jì)算也可以做成可配置的。5.6 測(cè)試環(huán)境與生產(chǎn)環(huán)境的隔離開發(fā)測(cè)試環(huán)境的任務(wù)失敗頻率通常比生產(chǎn)環(huán)境高很多如果測(cè)試環(huán)境的報(bào)警也推到生產(chǎn)運(yùn)維群會(huì)造成大量噪音。我的做法是通過配置文件區(qū)分不同環(huán)境的 Webhook 地址開發(fā)環(huán)境推送到開發(fā)群測(cè)試環(huán)境推送到測(cè)試群生產(chǎn)環(huán)境推送到運(yùn)維群。Spring Boot 的多環(huán)境配置application-dev.properties、application-prod.properties天然支持這一點(diǎn)。另外測(cè)試環(huán)境的報(bào)警可以設(shè)置更長的靜默時(shí)間或者干脆只在特定時(shí)間段比如工作時(shí)間發(fā)送報(bào)警避免半夜吵醒人。這些都可以通過配置項(xiàng)來控制不需要改代碼。6. 一些實(shí)操后的個(gè)人體會(huì)這套方案我在三個(gè)不同的項(xiàng)目里落地過從最初的簡(jiǎn)單版本迭代到現(xiàn)在帶限流、去重、靜默的完整版本前后大概改了五六次。最大的體會(huì)是報(bào)警系統(tǒng)的核心不是“發(fā)出去”而是“發(fā)得對(duì)”。發(fā)得太多大家會(huì)麻木發(fā)得太少又會(huì)漏掉關(guān)鍵問題。找到這個(gè)平衡點(diǎn)需要根據(jù)團(tuán)隊(duì)的實(shí)際情況不斷調(diào)整。另外一個(gè)容易被忽視的點(diǎn)是報(bào)警消息的可操作性。一條好的報(bào)警消息應(yīng)該讓接收者能直接點(diǎn)擊鏈接跳到 XXL-JOB 控制臺(tái)查看詳情而不是自己去翻控制臺(tái)找任務(wù)。企業(yè)微信 markdown 支持鏈接語法可以在消息里加上控制臺(tái)的任務(wù)詳情頁鏈接點(diǎn)擊直接跳轉(zhuǎn)。這個(gè)小小的改進(jìn)能顯著提升處理效率。最后分享一個(gè)小技巧企業(yè)微信機(jī)器人的 Webhook 地址里那個(gè) key 是敏感信息不要直接硬編碼在代碼里提交到代碼倉庫。用環(huán)境變量或者配置中心來管理避免泄露后被惡意利用。雖然機(jī)器人只能發(fā)消息不能讀消息但被人惡意刷消息也是挺煩的。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
家庭乱伦麻豆| 久久国产99精品72福利| 天天综合网91| 久久久久久九九九| 东京热91| 97资源站国产精品| 中文字幕精品专区搜索结果91| 曰韩av中文字幕专区| 国产黄色剧情影片麻豆免费播放| 久久人妻一区二区三区高清| 自拍视频大全亚洲专媒视频/一区二区三区 | 国产第二页| 亚洲中文字幕噜噜噜久久久| 欧美黄页在线| 久久99国产综合精品女同| 亚洲蜜桃V妇女| 亚洲国产一级黄色视频| 啪啪啪精品视频| 久久精品国产亚洲AV清纯| yazhououmeizongya| 夜夜久久| 欧洲小说色图视频另类| 色综合20p| 国产高清不卡视频| 国产精品午夜精品| 欧洲色综合| 丝袜狂射91| 草b在线| 欧美性爱另类综合| 日本www操操操| 免费A V在线播放| 青草草免费网站av| 国产操逼视频在线观看| 人人操 欧美| 天久久久噜噜噜久久国产精品爽爽| 999热日韩精品| 欧美综合中文| 97精品视频| 青草精品视频日本久久久久网站在线| 国产一区二区在线播放| 欧美真人抽搐一进一出gif| 肉嘟嘟www视频在线观看高清| 强奸乱伦亚洲第一页| 日韩高清黄片| 日韩精品在线观看网站| 性吧在线视频| 91是天天| 亚欧操逼片在线观看 | 精品欧美老熟女一二区| 日本韩国国产精品一区| 做爱A级亚欧| 爽 好舒服 无码刺激久久| 日韩AV熟女乱伦| 91丨九色丨东北熟女| 日本超碰在线国产一区| 性色国产东北露脸精品视频| 天天碰久久入| 九九碰九九爱97超| 亚州操逼图| 欧美性爱在线无码| 一区二区激情国产熟女 | 亚洲国产成人7777| 超碰在线香蕉| 97亚洲综合电影| 国产久久日韩网站导航| 操逼无毒无码免费视频| 诱惑网综合| 国产二区三区免费视频| 精品一区二区成人动漫| 97玖玖人妻| 91女优在线观看 | 午夜福利一区二区影院| 玖玖色综合| 久草婷婷| 老熟女综合| 婷婷在线视频在线观看| 天天日日夜夜| 欧美综合 站| 天天噜| 国产精品探花色| 免费中文在线| 欲色影视综合吧| 九九热只有精品| 日韩欧美午夜一区二区| 欧美九九爱| 欧美熟女丝袜| 中文字幕一区二区视频在线观看| 亚洲中文字幕网| 熟妇最新先锋一二三区| 91狠狠综合网| 偷拍 亚洲| 欧美变态激情网| 97在线公开视频| 日韩性爱1级片视频| 97久久超碰| 国产一区二区久久| 亚洲激情综合另类男同| 你草精品在线视频| 午夜性刺激视频免费观看| 人人妻人射| 97国产超湿| 国产AV天美传媒一区二区三区 | 超碰吊日色| 99e久久国产精品| 亚洲精品丝袜-不卡成人免费……| 中文在线久久字幕| 午夜精品99久久久久传媒| 久草成人影片| 91九九| 国产美女激情| 国产日逼视频| 欧洲精品一二三在线| 欧美日韩另类在线| 99黄页网站| 午夜.DJ高清在线观看免费7| 抽查国产福利主播| 乱伦一二三| 7月婷婷综合| 欧美精品黑人猛交高潮| 丁香婷婷久久| 日韩综合97p| 啪啪啪大香蕉| 91精品国产91久久青草| 国产传媒一区日韩| 无码WWW免费视频网站| 一区二区首页| 国产精品视频自拍在线| 国产精品一区二区麻豆| 亚洲五月婷| 99re99在线视频| 丁香久久| 欧美18老人禁| 日韩精彩视频| 开心五月天激情网| 亚洲综合影院| 东北女人| 蜜乳性色无码专日粉嫩骚逼AV| www久久精品| 国产精品交换一区二区| 韩国三级一线观看久| 九月AV| 亚洲成a人片在线观看中文!!!| 九一综合网| 操逼网免费无码视频| 青青草在线视频美女| 婷婷五月天小说| 久久色网| 快播久久人人aV| 天天天天操| 一区二区三区免费视频入口| 亚洲综合九| 国内自拍 日韩激情 99| 国产美女在线精品免费看| 艳尻美人妻| 久久草在线综合视频| 精品黄色电影| 久久精品99久久久久久| 六月丁香五月婷婷| 午夜电影在线观看无码专区| 欧美色图电影| 97国产色图| 欧美日韩操逼嗦吊| 天天欧美色| 亚州人妻| 久久风骚城市人| 97一区二压| 免费看日产一区二区三区| 婷婷激情四射| 久日91在线| 久久国产视频性吧 | 日韩精品在线观看网站| 亚洲一区操| 日日日日做夜夜夜夜做无码97| 久碰视频| 很很热性爱视频| 超碰2017| 欧洲视频在线| 97资源视频| 中文字幕国产| 91丝袜美腿片| 青青草原综合久久大伊人精品| 爱做久久久久久| 日逼逼免费看| 亚洲无吗在线视频| 中文字幕日韩电影人妻| 国产精品直播在线观看直播| 欧美热图99| 天天操人人操骚逼网站| 亚洲自拍欧美色综合| 天操天操夜操夜月操月年年操| 日韩欧美一级特黄大片| 日韩在线一区二区| 少妇一区二区三区精选| 欧美日本成人一区二区| 一本久道久久综合狠狠爱一密臀精| 一区| 神马久久久久久久久久久久| 少妇高潮99p| www色色色com| 在线99热| 五月丁香综合激情| 日韩乱码Av| 久久香蕉网| 亚洲欧美国产日本一区二区三区| 家庭乱伦网站国产| 草b在线 | 天天射天天| 综合久久9| 久久97视频| 超碰偷拍| 日韩欧美加勒比| 丝袜 中出 制服 人妻 美腿 中文字幕| 成人久久久精品| 精品欧美日韩在线观看| 欧美一区二区三区黄色影视| 加勒比伊人综合| 欧美日韩国产人人| 97 国产精品| 久久精品99| 精久久久| 久久婷婷成人综合色怡春院| 777超碰| 国产精品久久| 无码国产精品午夜不卡(| 五月天婷婷小说| 性爱av网站| 国产女人成人精品视频| 91九色首页| www色婷婷| 9l视频自拍9l九色成人| 色婷婷五月天| 精品一区二区三区四区外站| 亚洲人妻久久久| 嗯嗯啊啊啊好爽| 91丝袜美女视频| 另类图片欧美激情综合| 欧美性爱1080p| 99久久九九| 日韩亚洲美州欧洲综三区一品在线| 婷婷情色综合网| 南澳成人一级片在线播放| 97av在线视频| 艳尻美人妻| 伊人亚洲综合| 丁香九月婷婷| 精品一二三区久久AAA片| 亚洲久热| 欧美色综合图片| 91高清欧美| 中国操逼无码| 99在线观看| 久久欧洲| www.av在线观看| 一个国产在线综合网站| 精品少妇一区二区| 家庭乱伦国产| 欧日韩不卡视.频| baiduhicn.com。| 抽插亚洲无码| 人人操人人狠狠操| 久久免费精品96| 多乙久久久久久| 韩国一区二区精品亚洲| 97在线观看视频| 午夜国产综合视频在线观看| 六月丁香五月婷婷| 密臀国产在线| 色嗨嗨在线| 91色图片| 国产强奸乱伦第1页| 日本精品高清一二区一本到| 加勒比日本在线| 国产精品日日摸天天碰| 老司机深夜影院18未满| 天天色踪合| 亚洲国产精品无码AV久久久| 人妻天天夜夜爽一区二区| 69丨亚洲丨精品丨入口免费播放| 丁香五六月啪啪| 操久久久久久| 秋霞无码av鲁丝片一区| 91看黄片| 九九玖玖精品| 91精品国产91久久福利| 青青国产在线拍揄自揄拍| 精品福利| 国产亚洲人妻综合日韩 久久| 国产欧美成人精品| 变态乱伦伪娘灌肠一区二区| 330dv亚洲成年视频网| 测评在线观看AV| 五月激情天| 91bbbbbb| www鬼畜国产男人的天堂| 日本国产二线女色| 女人高潮抽搐喷水视频网站| 九九综合网| 91快色色色色色| 99精品人人爽| 免费在线观看国内色片网站网址| 色777999综合| 综合一区中亚洲国产成人综合精品| 国产精品久久久久久久久久久久久久久久 | a片自拍直播视频| 日日碰狠狠添天天爽超| 亚州色交| 91男同| 日韩精品国产一区二区| 少妇丝袜在线观看AV| 亚洲无码一二三区| 超碰欧美COM| 五月婷婷啪啪| 免费视频在线一区二区不卡| 330dv亚洲成年视频网| 国产综合网站在线播放| 亚洲激情深爱文学小说网站| 99自拍视频| 国产内射爽爽大片| 97爱b| av天堂5| 精品一区二区三区麻豆| 亚洲视频,小说| 偷拍自拍在线视频观看| 玖玖久久久| 91丝袜美女| 久干9操| 亚洲欧洲综合| 另类专区加勒比| 丁香六月激情综合| 国产二区视频在线观看电影| 久久这里只有精品9| 欧亚不卡| 91九久| 亚洲伊人a线观看视频| 免看60秒涩涩视频| 99自拍B亚洲| 国产传媒操逼视频| 国产强奸乱伦第1页| 日韩精品第3页| 超碰在线成人| 欧美爱三级日韩久久| av草草在线电影| 欧美男女午夜啪啪| 在线人人人人人人精品超| 少妇精品久久| 欧美日本视频一区| 上床不卡网站| 麻豆精品久久久久久久| 丁香六月婷婷久久综合| 少妇干B| 欧美91在线| 天天综合站| 在线 亚洲 网爆 自拍| AV无码久久久精品| 欧美岛国精品在线观看| 国产精品一区二区三区免费视频| 久久久久久裸体| 丝袜狠狠草尤物人妻av91| 97任你吞精| 国产女同视频在线播放| 亚洲人成网站7777| 亚洲性高潮| 亚洲系列欧美| 超碰98综合网| 夜夜騷av、一區二區| 99亚亚热| 大香蕉啪啪网| 五月婷久久| 欧美成人午夜免费福利785| 国产黄色视频久久| 中文字幕美女91| 秋霞 色色| 天天综合-91入口| 欧美在线大香999| 日韩大香蕉精品在线视频| 99re95| 大香蕉AV丝袜| 久久综合日韩亚洲欧美| 国产男女无套97| 亚洲熟女国产综合另类| 精品国产乱码久久久久久影片| 久久久九九网站| 3p国产色噜噜一区| 色综合尤物| 国产一区二区视频在线播放| 国产日本久久免费精品| 久久AV无码网址| 婷婷丁香五月天亚洲天堂网| 国产 v乱码一区二| 999国产精品999| 一区二区三区激情在线观看| 9+1视频网址| 一区二区日韩欧美久久| 97精彩视频网站| 欧美最婬乱婬爆婬性视频| 天天操天天射青青草| 午夜久久一区二区无码中出| 屌妞视频久久久久久久久久久久| 97视频7| 亚州综合AⅤ| 91丝袜美腿片| 日韩91网| 香蕉欧美| 乱伦3P视频| 大香网伊人久久综合| 中文字幕日韩综合| 色大师网站www永久网站视频| 密臀AV在线| 高清肉丝中文无码| 国产久久天堂资源| 岛国在线免费视频| www久| 69人妻精品一区二区绯色| 亚洲 91 在线| 91欧美综合在线| 殴美色网| 日本性爰一道本| 国产日本久久免费精品| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 日韩91网| 久久久久久久久久va| 久久av成人无码免费| 久久乐| 激情亚洲天堂| 久伊人网78| 亚洲 欧美 日韩 国产一区二区| 久久精品国产AV一区二区三区| www成人啪啪18秘 免费| 美女高潮视频91| 少好三P| 成人五月天丁香激情综合| 亚欧成人中文字幕一区| 天天日老熟妇| 亚洲清纯综合| 精品无码久久久久久国产浪潮| 国产原创剧情在线丝袜| 久久草视频污视频| 97超碰护士| 亚洲强奸乱伦影视网| 欧美美女自慰一区二区三区| 久久中文字幕人妻熟av女蜜柚| 18禁看网站一区| 九久9精品| 国产91精品久久久久久久网曝门| 青青青在线高清视频在线一二三四区| 成人性爱av| 美女露胸露奶头| 91美女片在线| 被体育老师抱着c到高潮| 99999精品成人| 亚洲欧美清纯| 久久婷色| 亚洲综合另类色图| 国产树林里野战在线看| 中国熟女网站| 69少妇一区二区| 久久久亚洲精品电影免费看| 久草免费在线视频| 天天影视网综合少妇| 久久久九九网站| 国产精品久久久久久久久久久久久久久久 | 婷婷五月天_亚洲小说欧美激情另类_精品久久国产字幕 | 青青草在线视频美女| 激情抓乳插进去啪啪啪日韩| 国产suv精品一区二区四| 91bbbbbb| 天天综合网国产| 蜜臀99久| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 亚洲精品久久久久毛片A片拉屎 | 射久久| 色噜噜狠狠色综无码久久合欧美| 极品美女嘿咻| 婷婷综合五月天| 78精品在线| 亚洲va综合va国产va中文| 欧美性色欧美| 97天天摸天天碰| 啪啪自拍九九综合| 啊啊啊 在线观看| 黑人娇小av在线播放| 超碰亚洲欧美日韩无| 国产精品九九九| 在线天堂999| 国产精品无码成人精品| 天天日天天屌天天操| 综合欧美激情网| 蜜桃狠狠色伊人亚洲综合| 91操人| 伊色久人大在线| 久久久无码国精品无码三区三区| 无码不卡亚洲成?人片| 欧美精品丝袜久久久中文字幕| 亚洲黄片免费在线播放| 大鸡吧尹人在线| 亚洲少妇在线影音| AV免费在线播放一区| 91一区二区| 欧美不卡五十路| 上床不卡网站| 中文字幕在线高清男人的天堂 | 国产高清视频无码在线| 97在线青| 婷婷久久久| 黄片www视频免费| 丁香婷婷激情五月天无毒不卡| 国产高清在线观看欧美| 欧美狠狠狠| 97超碰天天爱天天爱| 逼逼逼逼操操操操操操操操操午夜剧场| 超碰是碰在线观看| 亚洲熟妇乱女区二区三区| 国产一区二区三区久久久精品| 91老熟女91老女人| 一区二区三区 丝袜 高跟 美腿| 26UUU欧美激情一区二区| 少妇九九九九| 久久草视频污视频| 超碰三级秋霞| 福利在线观看一区二区| 中文久久| 欧美97网| 五月天欧美色图| 国产久久久9999| 不卡啪啪视频| 国产精品嫩草久久久久| 日韩少妇无码| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 91九九九逼| 亚洲综合小说另类图欧美视频激情小说色五月天 | 91强热人妻| 欧美激情综合| 抽插亚洲无码| 福利天天都操| 乱码人妻一区二区三区| 91麻豆天美传媒HD| 中文字幕一二三区| 狠狠色丁香| 成人免费福利在线观看| 热无码中文亚洲H一道本一区二区| 午夜亚洲| 亚洲影视高清三级-草1024榴社区入口-品爱AV| 日韩人妻精品中文字幕| 国产精品久久久久久夜夜夜| 99精品网| 色综合久久久久| www成人啪啪18秘 免费| av日韩国产一区二区| a片偷拍视频| 人妻少妇久久中文字幕一区二区 麻豆 | 色综合一区二区三区| 老熟女阿 国产91| 91国产丝袜美女| 国产青青美女玩逼视频| 超碰在线人妻不卡| 久插不卡| 麻豆 亚洲 97| 国产精品第二页| 骚熟女吞| 四虎在线观看网站| 天操天操夜操夜月月年年操操| 99色骚| 97超视频在线观看| 欧美人人天天网| 97se综合| 国产日韩美女小穴视频网站不卡| 高潮9999外国| 性感美女91影视| 97欧美日韩| 91伊人| 一级做a爰片性色毛片久久| 999久久久免费精品国产牛牛| 精品无码久久久久久久杏吧| 日韩成人精品| 丰满岳乱妇一区二区三区| 操逼www.| 97最新在线播放视频| 欧美日韩精品国产91| 中文字幕久久精视频久久大全| 天天干天天日天天射黄色片| 91路www| 国产夫妻性生活视频| 97这里有精品| 色哟哟511老熟女| 人妻 中文 日韩| 亚洲精品一卡二卡三卡福利视频网站 | 91天堂视频| 亚洲揄拍网| avav青青草久久夜| 五月丁香激情四射| 一级黄色视频网| 无码日韩网站| 男人下部插入女人下部| 91日产欧美| 91痴汉| 亚洲**2021在线观看| 精品中文字幕一区二区| 99久久网站| 欧美熟妇乱码在线一区| 欧美大片一区二区三区| 天美传媒婬乱在| 国产精品无码av| 熟女精品一区二区三区| 亚洲91网站| 久久久久99999| 日韩亚洲中文有码视频| 91狠| 综合色久欲| 蜜乳中文字幕a在线| 日韩一区二区三区四区五区| 91爱综合| 国产白丝网站| 色yeye成人免费视频| 超碰79人人乐| 日韩专区久久久| 亚洲图片日本AⅤ欧美在线| 99热日本| 999熟女精品| 中文字幕精品免费一区二区| 色色操| 亚洲AV色图一区| 久久久久久69国产一区二区| 粉嫩国产精品久久粉嫩| 日本免费二区三区| 在线视频免费播放一区| 欧美老妇综合网| 亚洲男人天堂网| 伊人久久婷婷| 超碰 欧美| 国产精品丝袜久久亚洲不卡| 成年在线视频日本亚洲在线视频区精品江靖宇公司 | 日本精品不卡一二三区| 一直超碰| 综合亚洲欧美精品日韩?v| 午夜天堂精品久久久久91| 亚洲风情在线观看| 色麻豆AV| 超碰在线一区二区| 91|九色|国产熟女| 亚洲一区操| 亚洲视频一二区| 国模吧 一区二区三区| 欧美亚洲成人在线一区二区三区| 亚洲国产一级黄色视频| 97在线观看播放视频| 老熟女熟妇| 人妻精品视频一区二区三区| 日本三级久| 91AV入口| 国产高清免费不卡av| 啊啊啊久久| 99久久99九九99九九九| 97人人夜| 屌逼传媒| 亚洲天堂精品日韩电影| www.狠狠操| 骚女天天综合网| 乱精品一区字幕二区| 在线中文字幕视频| 天天色悠悠激情| 女人天堂av在线播放| 67194无码不卡| 97无码视频在线播放| 国产天天骚| 老司机天天操| 色悠久久久av| 亚洲色诱惑| 精品熟女呻吟久久91| 有码免费观看| 人人操人人摸人人看人人干| 亚洲怡春院| 婷婷激情五月| 青娱乐淫乱1314| 美女诱惑在线一区| 日本韩欧美在线播放a| rion磁力链接| 亚洲色图国产另类| 色噜噜人妻丝袜a∨先锋影| 怡红院成人视频| 九九久久一区二区三区| 成年女人黄网站| 大鸡巴久久| 97干色天堂| 亚洲精品aa久久伊人| 色爱亚洲| 日日日骚女人精品| 99色视频| 福利操逼| 亚洲在线91| 伦在线97| caorenqi shipin| 97人人夜夜精品视频| 97se亚洲| 欧美天堂超碰97| 欧美操人| 天天摸夜夜添无码小视频| 久久久久女教师免费一区| 亚洲第一页欧美| 久操精品网| 性饥渴少妇av无码毛片| 中文字幕免费在线观看| 插老姨肥穴| 五月丁香婷婷啪啪| 成人激情无码在线视频| 国产成人久久精品蜜臀| 久久久久久久久国产| 久热色情精品| 国产精品一区二区黄片| 欧美天天干| 97日韩欧美| 亚洲色91| 992视频一区| AV天黑人| 青青三级视频| 久久綜合很很很| 精品夜夜澡人妻无码| 亚洲最大无码中文字幕网站| 乱伦一区二区三区‘| 曰韩人妻中文字幕在线| 肥臀熟女一区二区三区视频| 韩日精品福利视频一区不卡在线免| 婷婷久草一区二区三区| 五月丁香六月婷| 日本视频在线观看污污污| 自拍偷拍国产欧美日韩韩| 九九AV| 亚洲天天自拍| 啊啊啊啊,啊啊好多水| 裸体1区| 啊啊啊快操我视频| 91新在线欧美| 色好看av| 久偷拍| 丝袜无码a片| 秋霞男人网| 天堂资源欧美| 国产男女无套97| 2025亚洲男人天堂| 操我啊啊啊啊啊| 91色鬼| 人妻天天爽夜夜爽精品2| 国产精品一区二区三区在线密挑| 啊啊啊好爽快点啊啊啊嗯嗯| 色乱二区| 国产欧美日韩精品中文| 99re在线视频| 中文字幕欧美日本乱码一线二线| 日韩精品9999| 97这里都是精品| 玖玖爱视频网站| 天天影视射综合网| 日本免费一级AAA大片器| 一级片视频啪啪| 日韩啊V| 精品美女久久久久| 为用户提供免费看黄网址在线观看| 91亚洲色人| 久久国产热视频97电影| 日本高清_区二区三区| 在线视频日韩欧美国产| 色噜噜狠狠色综合日日| 97精品国产97久久久| 嫩草 人人网精品| 精品人妻一区二区三区夜夜| 欧美一区二区三熟女剧情| 天天色综合影视网| 碰碰97| 草莓精品视频在线免费观看| 精品在线观看视频在线| 色一情一乱一乱一区91Av| 婷婷综合在线观看| 麻豆精品三区视频| 欧美激情 亚洲色图| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 精品一区二区啪啪啪| 中文字日本乱码| 另类成人首页一区| 欧美日韩另类字幕中文| 精品国产无码中文| 传媒免费一区二区三区| 久久久96精品| 色激情综合网站| 粉嫩粉嫩一区性色AV片| 天天插天天干| 久久国语| 校园春色亚洲| 91快色色色色色| 最新欧美色网| 欧美人人天天网| 国产400孕妇孕交群| 精品九九国产无码| 色狠狠综合| 久久一区二区高清免费| 少妇九九九九| 天美欧美国产| 色好看av| 116美女午夜| 日本黄 R色 成 人网站| 日韩成人在线性爱视频| 精品视频在线观看精品| 久久久一二三四区| 亚洲脚交| 亚欧美色图| 亚洲人妻久久久| 日韩大香蕉精品在线视频| 日本高清视频xxxx| 久热99999| 日本不卡一区二区三区| 97精品在线| 精品大全99999| yazhououmeizongya| 好湿好紧视频| 欧美男人的天堂| 亚洲同性aV综合| 99在线精品视频| yw尤物av无码点击进入麻豆| 欧美91在线| 国产操逼视频在线观看| 国产亚洲精品久久久久小| 国产精品亚洲高清在线| 国产中文字幕曰本毛片| 国产亚洲色婷婷久久99精品91| 中文字幕一区二区三区视频播放| 久9视频| 日本有码影片下载 | 亚洲男人天堂视频| 国产精品另类| 大肥女高潮bbwbbwhd视频| 秋霞成人一级在线观看| 久久熟女嫩草成人片免费 | 久久精品女同亚洲女同13| 天天日天天舔东京热| 天天影视网色欲色香| 亚洲性高潮| 啪啪啪东京| 久久久久免费少妇| 人妻黑丝袜电影| 亚洲一二三四区| 免费簧片在线观看| 久久综合日韩亚洲欧美| 91在线丝袜| 欧美性爱免费短视频| 97久久超碰国产网站| 青青草中日韩在线| 国产精品第一区第一页| 97人人模人人爽人人| 91丝袜激情在线| 97色伦97色伦国产欧美| 小少妇| 欧美日韩精品久久久久东北老熟妇| 精品人妻免费观看| 开心激情婷婷| 久久久极品| 九九综合久久| 亚洲另类色综合网站| 日韩欧美午夜视频在线| 久久m| 日韩久久.一级黄色片| 97看操| 亚洲图片婷婷五月天| 欧美18禁91| 91精品久久久久五月天精品| 夜夜高潮夜夜爽| 国产午夜精品在线观看| 中文字幕视频2区| 国产亚洲福利第一页丝袜| 亚洲色堂免费视频| 51国产午夜精品视频| 91麻豆天美传媒HD| 日韩欧美成人午夜福利| 97超碰人操| 国产熟女一区二区丰满| 一区超碰一区| 婷婷久久网| 中文字幕欧美丝袜07资源| 吻戏激情性巴克| 日本人妻伦在线中文字幕| 久久中文色图| 99久久e免费热视| 91精品人妻一区二区三区蜜桃| 综合熟女| 波多野结衣被操50分钟免费视频| 嗯嗯啊啊视频一区二区三区| 天天躁日日躁xxxxx| 精品97久久| 天美精品一区二区三区四区在线观看| 欧美性爱中文字幕无线码| 久久久久九九九九九| 日本大片日本一区二区免费高清| 亚洲无992tv| 久久人妇| 1956日韩精品| 影音先锋中文字幕日本好一区二区| 就去色综合| 美女主播色欲91抠b在线播放| 国产日本久久免费精品| 精品高清av中文字幕| 日天天九九天堂666| 97视频7| 国产欧美精品日韩区二区麻豆天美| 亚洲国产一区二区入口| 97Ai亚洲| 欧洲精品久久| 美女AV一区二区| 怡红院视频在线| 97av在线视频| 97资源超碰| 九九九成人| 人人扣人人操| 国产女人视频三四五区| 亚洲影视高清第一页| 99热这里只有是精品10| 美女97超碰| 欧美大香蕉97| 少妇毛片久久| 欧美亚洲一区二区久久久婷精品大包诱| 狠狠激情综合狠狠操中文字幕| 在线综合 亚洲 欧美中文字幕| 97超碰日韩| 亚洲日韩天堂| 亚洲自拍偷拍视频在线| 无码78| 91综合在线| 无码直播久久久| 国内毛片热久久思思热| 精品丝袜无码一区二区三APP| 国产精品一区二区a| 香蕉欧美| 天天天天天天天天天天干美女| 91操人| 蜜桃久久一区二区三区| 亚洲丝袜B诱惑| 午夜福利在线视频1000| 精品无码产区一区二| 色噜噜人妻av中文字幕| 一区二区三| 乱伦一区二区三区‘| 一区在线观看中文字幕| 天天干2019| 物业黑人 AV一区| 97天堂| 免费的黄片有限公司| 尤物一级在线免费观看| 日韩精品国产精品五码一区二区| 中文字幕天天天天天| 97在线观看免费视频l| 色网亚洲人| 嗯啊视频免费在线观看| 精品久久99| 97网址97| 热思思免费视频| 97av在线视频| 亚洲欧洲色情高清| 97在线视频免费| 国产日本久久免费精品| 久久久久亚洲一区女同性恋中文字幕| 欧美亚洲高清晰| 无码人妻精品一区二区中文| 日本大片日本一区二区免费高清| 青青草大香蕉在线视频| 亚洲综合首页| 五月婷婷爱六月丁香色| 欧美日动态视频| 婷婷婷婷婷婷久久久久| 99视频只有精品| 色约约一区=区三区| 五月天黄色激情视频| 国产美女激情| 草草影院日本第一页| 亚洲另类色图片| 97综合网| 欧亚不卡| 超碰在线看| 无码人妻毛片丰满熟妇精品区| 国产黄片精品在线| 蜜桃丰满熟妇av无码区不卡| 性影在线视频| 国产精品一级二级在线| 色婷婷视频| 大色网久久| 一区二区日韩欧美久久| 精品人妻av区天天看片| 超碰 97国产熟女| 国产成人91一区二区三区| 秋霞男人网| 综合免费无码中文| 九九九九一区| 欧美日不卡| 一级片视频啪啪| 91久久堂| 亚洲va综合va国产va中文| 神马久久久久久| 亚洲成人色情五月天丁香花| 亚欧高清v| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 综合熟女| 欧美在线播放| 欧美在线干| 人人乐大香蕉| 秋霞网无码| 久久激情视频| 国产高清不卡视频| 韩国三级理论在线| 一级性爱视频免费在线| 黄资源| 精品视频久久久久九九九九9999| 少妇一级无码精品| 91高清欧美| 免费99精品国产自在在线| 天综合网| 激情99| 国产亚洲色婷婷久久99精品91葵花宝典 | 国内一区二区三区| 亚洲永久AV无码精品秋霞| 亚洲性爱高潮影院| 五月天黄色激情视频| 成人AV超碰免费在线| 久久久不卡| 97视频免费| 97在线播放| 自拍第一页| 后入式999| 国产99999久久精品| 超碰69| 亚洲综合69| 91精品少妇搡搡搡| 91欧美丨精品丨入口| 97精品国产手机| 嗯嗯啊啊好疼| 韩国女主播青草在线| 青青草色情网站视频| 啊啊啊好湿久久| 超碰97玖玖爱| 国产精品网站www| 久久有碼| 日韩中文字幕精品一二三事国产精品| 人人噜夜夜操| 极品少妇久久久久| 一本久道久久综合狠狠爱一密臀精| 亚洲天堂资源在线| 天天综合-91入口| 亚洲婷婷综合网| 久久中文字幕一区不卡| 在线播放一级无码视频| 日韩不卡毛片Av免费高清| 久久男女激情视频网站| 亚洲va综合va国产va中文| 97WW精品| yy少妇精品久久| 色97干| 国产9 9在线 | 亚洲| 26uuu性| 国产欧美第五页| 91爰爱欧美| 91中文字幕在线观看| 免费成人在线观看91| 爱av免费| 日本伦理一区二区| 999久久芭蕾| 亚洲欧美日韩制服另类| 色欲蜜臀AV| 999久久久免费精品国产牛牛| 亚洲图片另类| 在线看的av| 亚洲有薄码区日本系列中文字幕| 美女91在线观看| 97伊人网| 国产麻豆福利av在线播放| 亚洲精品久久久久久久久豆丁网| 国产精品久久久九九九| 国产剧情在线| 动漫爆乳3D奶水一区在线观看| 91欧美长吊| 久久六六| 啊啊啊啊嗯嗯嗯用力好爽| 日本黄色裸日本黄色裸体 | 丁香婷婷色五月| 四虎在线观看网站| 国产乱色国产精品免费视| 天天综合~91入口| 黄页| 人妻AV在线| 人妻天堂网| 国产精品 午夜福利| 国产成人一级av88| 超碰99在线| 激情五月天婷婷| 北京美女一区二区| 加勒比色99999| 亚洲综合九九| 天天狂操夜夜狂日| 91chinese在线| 久操免费观看| 婷婷情色综合网| 国产在线播放成人免费| 日韩精品区二区三区不卡| 日韩精品 欧美激情| 色噜噜综合在线| 久久丁香久草综合网| 午夜啊啊啊| 国产精品无码论坛| 日日不卡av| 久久精品72| 亚欧视频在线| 麻豆熟妇乱妇熟色A片在线看| 91超级碰| 日韩无码操逼片| 青青草华人在线欧美在线| 97香焦色区| 综合久久久久久久综合网| 人妻少妇久久| 嗯啊不要啊啊在线观看视频| 久久男人精品| 欧美激情高清性猛交| 日韩AV色图| 亚洲熟女中文字幕在线| 国产精品熟女一区二区三区| 亚洲青色欧美| 在线观看一卡二卡| 欧美亚洲日本视频久久久| 好吊色综合| 91狠狠狠| 久久、1234| 最新欧美色网| 色色色999| 国产无码一二三区| 国产成年女人免费视频播放a| 先锋女优在线观看视频| 我爱搞逼综合网| 久久久久久久久久久久黄色| 色99色| 午夜福利视频在线一区| 在线岛| 久久亚洲欧美中文字幕国语| 看全色黄大色大片免费视频| 97在线视频观看免费| 精品国产久久乱码| 香港日本韩国人妇99www.wccm20| 国产女人高潮视频| 98一区二区精品| 激情五月婷| 亚洲av在线免费观看| 婷婷色综合| 射 色综合| 久久这里都是精品| 黄色大片一区二区密桃丝袜| 91neishe| 开心六月色| 久久久专区| 人妻少妇精品久久久| 欧美 综合 亚洲| 99精品综合久久久久五月天| 国产2.3.4区| 青青草久草| 国产91亚洲精品一区二区三区| 秋霞一集毛片观看| 亚洲精品性爱片| 在线性黄高清免费视频| 一级AV性爱| 亚洲天堂性爱|