久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Manjaro + systemd 微服務(wù)編排:依賴、配額與自愈實(shí)踐

Manjaro + systemd 微服務(wù)編排:依賴、配額與自愈實(shí)踐 1. 為什么是 Manjaro systemd微服務(wù)跑在 Arch 系發(fā)行版上的真實(shí)體驗(yàn)先說結(jié)論把微服務(wù)跑在 Manjaro Linux 上再用 systemd 把啟動(dòng)順序和資源配額管起來這套組合解決的不只是開機(jī)之后手動(dòng)敲一串 docker start這種體力活而是把整臺(tái)開發(fā)機(jī)或者邊緣節(jié)點(diǎn)的服務(wù)生命周期真正納入一個(gè)統(tǒng)一控制系統(tǒng)里。很多人一聽 systemd 就想到開機(jī)自啟和查看日志但它在微服務(wù)場景下的能力遠(yuǎn)不止這些——依賴編排、故障自愈、資源限額、啟動(dòng)時(shí)序分析這些都是生產(chǎn)環(huán)境里天天要面對(duì)的問題而 systemd 全部原生支持不需要額外裝 supervisor 或者 monit。為什么單獨(dú)說 Manjaro因?yàn)樗?Arch 系發(fā)行版里對(duì)普通開發(fā)者和運(yùn)維最友好的一檔預(yù)裝桌面、硬件驅(qū)動(dòng)全、軟件源更新及時(shí)但同時(shí)保留了 Arch 的 systemd 體系和滾動(dòng)更新節(jié)奏。這意味著你可以直接在物理機(jī)或者虛擬機(jī)上跑微服務(wù)不用像容器方案那樣先折騰一層 Docker daemon也不用擔(dān)心 RHEL 系那種 systemd 版本偏老導(dǎo)致某些新指令不可用。Manjaro 自帶的 systemd 版本常年保持較新cgroup v2 默認(rèn)開啟MemoryMax、CPUQuota 這些資源控制指令能直接用這在某些老發(fā)行版上是要額外配置甚至踩坑的。這篇文章適合誰兩種情況最對(duì)口一是你的微服務(wù)還在起步階段團(tuán)隊(duì)想在開發(fā)機(jī)上把十幾個(gè)服務(wù)跑起來而不是非得先上 Kubernetes二是你已經(jīng)有一套微服務(wù)代碼但每次開機(jī)、斷電、或者更新系統(tǒng)之后服務(wù)啟動(dòng)順序亂掉、內(nèi)存被某個(gè)異常進(jìn)程吃滿、某個(gè)服務(wù)崩潰后沒人拉起想找一個(gè)輕量但靠譜的解決方案。這兩種場景systemd 都能覆蓋——畢竟它是 Linux 世界的 init 系統(tǒng)本身就長在進(jìn)程管理的土壤上。我自己在 Manjaro 上維護(hù)過一套約 20 個(gè)微服務(wù)的模擬項(xiàng)目從配置中心、網(wǎng)關(guān)到訂單、支付、通知前后折騰了大概三周才把啟動(dòng)鏈路調(diào)到穩(wěn)定。這個(gè)過程里踩過的坑、驗(yàn)證過的參數(shù)、總結(jié)出的套路我盡量在這篇文章里一次說透你照著做基本能少走一半彎路。1.1 微服務(wù)在開發(fā)機(jī)上最頭疼的三件事聊具體配置之前先說說我們到底在解決什么問題。微服務(wù)拆到十幾二十個(gè)以后開發(fā)機(jī)上最常碰到的三件事第一啟動(dòng)順序失控。網(wǎng)關(guān)要等注冊(cè)中心先起來業(yè)務(wù)服務(wù)要等配置中心拉完配置再注冊(cè)但如果你只是把這些服務(wù)一股腦寫成 shell 腳本加上扔到后臺(tái)每次啟動(dòng)都像開盲盒。某一個(gè)服務(wù)啟動(dòng)慢了幾秒后面依賴它的服務(wù)全部注冊(cè)失敗報(bào)錯(cuò)信息還千奇百怪排查半天發(fā)現(xiàn)根本不是代碼問題。第二資源互相擠占。二十個(gè)服務(wù)跑在一臺(tái)機(jī)器上里面有內(nèi)存泄漏的、有瘋狂刷日志的、有定時(shí)任務(wù)并發(fā)拉滿 CPU 的。沒有配額的情況下任何一個(gè)失控服務(wù)都可能拖垮整臺(tái)機(jī)器——最典型的是某服務(wù)把內(nèi)存吃到 swap整機(jī)響應(yīng)變慢其他服務(wù)跟著超時(shí)。第三故障恢復(fù)靠人肉。開發(fā)環(huán)境里服務(wù)崩潰太常見了測試同學(xué)跑一個(gè)邊界 case 就能把服務(wù)打崩。如果沒有自動(dòng)拉起機(jī)制你吃個(gè)午飯回來發(fā)現(xiàn)服務(wù)從上午十點(diǎn)就死了一下午的驗(yàn)證工作全白費(fèi)。手動(dòng)systemctl restart一次兩次還行天天盯就太浪費(fèi)了。這三件事恰好都是 systemd 的原生能力覆蓋范圍用After和Requires聲明依賴用CPUQuota和MemoryMax限制資源用Restart配置自動(dòng)拉起。不需要額外引入編排框架不用學(xué)新 DSL把 unit 文件寫好就夠了。1.2 systemd 不是只會(huì) start/stop它本身就是一套進(jìn)程編排器很多人對(duì) systemd 的認(rèn)知停留在systemctl start nginx這種層面實(shí)際上它內(nèi)置了相當(dāng)完整的進(jìn)程編排能力。After、Requires、Wants這些指令組合起來就是一個(gè)聲明式的依賴圖Typenotify配合服務(wù)內(nèi)部的sd_notify能讓 systemd 判斷服務(wù)真正就緒而不只是進(jìn)程已 forkRestart配合StartLimitBurst則是故障自愈策略。換句話說你在 Kubernetes 里常用的探針、重啟策略、資源 limitsystemd 在單機(jī)層面全部有對(duì)應(yīng)物只是名字不叫 probe、policy 而已。這套機(jī)制的底層是 cgroup。Manjaro 默認(rèn)啟用 cgroup v2每個(gè) service unit 啟動(dòng)后都會(huì)自動(dòng)掛到獨(dú)立的 cgroup 下systemd 能精確統(tǒng)計(jì)這個(gè)服務(wù)用了多少 CPU、多少內(nèi)存、多少 IO也能在超出配額時(shí)直接干預(yù)。這個(gè)特性對(duì)微服務(wù)的意義很大——你不用假裝它們彼此隔離systemd 在進(jìn)程樹層面就把隔離做掉了。另外systemd 的并行啟動(dòng)能力常被忽略。默認(rèn)情況下沒有依賴關(guān)系的 unit 會(huì)被并行拉起相比 shell 腳本的串行執(zhí)行十幾二十個(gè)服務(wù)的總啟動(dòng)時(shí)間能從幾分鐘壓到幾十秒。配合systemd-analyze blame還能精準(zhǔn)看出每個(gè)服務(wù)耗時(shí)多少優(yōu)化瓶頸一目了然。就沖這一點(diǎn)systemd 就值得認(rèn)真學(xué)一下。1.3 Manjaro 的滾動(dòng)更新對(duì)服務(wù)管理帶來的特殊挑戰(zhàn)Manjaro 是個(gè)滾動(dòng)更新發(fā)行版pacman -Syyu一天不跑就可能落后一個(gè)版本。好處是 systemd 和內(nèi)核都是新的壞處是更新完之后服務(wù)可能因?yàn)橐蕾囎兓鸩粊怼热缒撤?wù)鏈接的動(dòng)態(tài)庫升級(jí)了或者系統(tǒng)的 cgroup 配置變了。所以在 Manjaro 上做 systemd 服務(wù)管理要比在 Ubuntu LTS 上多考慮一層更新之后必須做一次完整的服務(wù)健康巡檢而不是只看系統(tǒng)能不能開機(jī)。我習(xí)慣的做法是每次系統(tǒng)大版本更新之后跑一遍systemctl list-units --failed把所有異常狀態(tài)一次性撈出來然后逐個(gè)journalctl -u 服務(wù)名 -b看啟動(dòng)日志。另外Manjaro 的 mkinitcpio 或者內(nèi)核更新之后重啟一定要確認(rèn) systemd 版本和 cgroup 掛載情況這些是服務(wù)管理穩(wěn)定性的底座。2. 動(dòng)手前先搞懂 systemd 的幾個(gè)核心機(jī)制這一節(jié)不直接上配置而是先把編排微服務(wù)最關(guān)鍵的幾個(gè) systemd 機(jī)制講清楚。這些概念看著簡單但組合方式千變?nèi)f化理解不到位后面排錯(cuò)會(huì)毫無頭緒。2.1 依賴關(guān)系A(chǔ)fter、Requires、Wants 到底怎么選依賴是微服務(wù)編排的核心。systemd 里有三組常用指令語義完全不同After和Before只決定啟動(dòng)順序不決定要不要啟動(dòng)。也就是說即使Aftermysql.service如果 mysql 沒啟用你的服務(wù)照樣會(huì)啟動(dòng)只是順序上排在后面。這相當(dāng)于說如果它存在那就在它后面啟動(dòng)而不是必須等它啟動(dòng)成功。Requires是硬依賴。如果Requiresmysql.service且 mysql 啟動(dòng)失敗你的服務(wù)也會(huì)被停止。這類指令適合沒有依賴方就完全沒有意義的服務(wù)比如網(wǎng)關(guān)沒有注冊(cè)中心就玩不轉(zhuǎn)。Wants是軟依賴。依賴方啟動(dòng)失敗不會(huì)影響你的服務(wù)啟動(dòng)它只是表達(dá)能啟動(dòng)的話盡量啟動(dòng)啟動(dòng)不了我自己也能活著。BindsTo則更嚴(yán)格依賴方停止時(shí)你的服務(wù)必須跟著停止適合同生共死的強(qiáng)綁定關(guān)系。實(shí)操經(jīng)驗(yàn)90% 的場景用AfterWants組合就夠。原因很簡單微服務(wù)之間大多不是啟動(dòng)即硬失敗的依賴而是晚點(diǎn)起來也能趕上注冊(cè)的弱依賴。真正的硬依賴留給基礎(chǔ)設(shè)施比如通用數(shù)據(jù)庫、消息隊(duì)列這類。如果用Requires把所有依賴都硬連起來任何一個(gè)服務(wù)掛了整條鏈上的服務(wù)全被拖下水故障隔離性反而更差。這個(gè)取舍一定要想清楚別一上來就是Requires拉滿。2.2 重啟策略與啟動(dòng)窗口把崩了自動(dòng)拉起來變成可控行為Restart選項(xiàng)有幾個(gè)值no不重啟、on-success正常退出才重啟實(shí)際用得少、on-failure非零退出碼才重啟、on-abnormal信號(hào)異常才重啟、always無論如何都重啟。對(duì)微服務(wù)來說最常用的是always和on-failure。always適合那種就算主動(dòng) stop 也要馬上拉起來的服務(wù)——尤其是你希望它在系統(tǒng)里長期存在的守護(hù)類服務(wù)。但要注意always在某些場景會(huì)造成困擾你明明執(zhí)行了systemctl stop它又立刻被拉起來排查時(shí)一臉懵。所以我更推薦開發(fā)環(huán)境用on-failure配合RestartSec3這樣的退避時(shí)間既保證崩潰后自動(dòng)拉起又保留人工 stop 的控制力。RestartSec是重啟間隔設(shè)多少合適經(jīng)驗(yàn)上3~5 秒比較常用。太短會(huì)導(dǎo)致崩潰循環(huán)時(shí)瘋狂重啟CPU 飆高太長又讓恢復(fù)時(shí)間難以接受。真正要防的是崩潰循環(huán)——服務(wù)一直起不來systemd 會(huì)進(jìn)入start-limit-hit狀態(tài)默認(rèn)策略是 10 秒內(nèi)失敗 5 次就放棄。這個(gè)默認(rèn)值對(duì)微服務(wù)來說往往太激進(jìn)建議用StartLimitIntervalSec30和StartLimitBurst10放寬窗口給服務(wù)更多自愈機(jī)會(huì)但同時(shí)也別放到無上限否則雪崩發(fā)生時(shí)系統(tǒng)會(huì)非常難恢復(fù)。2.3 資源配額CPUQuota 和 MemoryMax 的取值怎么算資源配額這塊Manjaro 上的 systemd 直接映射 cgroup v2語義很明確CPUQuota的單位是百分比CPUQuota150表示最多用 1.5 個(gè)核。注意這是相對(duì)單核的百分比不是相對(duì)整機(jī)。比如你機(jī)器有 8 核 CPU給某個(gè)服務(wù)設(shè)CPUQuota100它最多用滿一個(gè)核完全不理會(huì)其他核是否空閑。這個(gè)設(shè)計(jì)的好處是行為可預(yù)期缺點(diǎn)是如果整機(jī)只有這一服務(wù)在跑其余 7 個(gè)核被白白浪費(fèi)。所以計(jì)算時(shí)要結(jié)合服務(wù)的實(shí)際情況對(duì)計(jì)算密集型的消費(fèi)者服務(wù)給200甚至300都合理對(duì)大部分 IO 型微服務(wù)50到100已經(jīng)足夠。MemoryMax是硬限制超過就 OOM。MemoryHigh是軟限制超過后會(huì)加大回收壓力但不一定殺掉。這兩個(gè)參數(shù)組合起來非常實(shí)用MemoryHigh512MMemoryMax768M意味著平時(shí)超過 512M 就開始回收內(nèi)存逼近 768M 才會(huì)被殺給了服務(wù)一定的緩沖。取值怎么算我的方法是先在無限制狀態(tài)下穩(wěn)定跑一周用systemd-cgtop觀察每個(gè)服務(wù)的峰值內(nèi)存和 CPU 使用然后取一個(gè)峰值上浮 30%的余量作為MemoryHigh再上浮 50% 作為MemoryMax。別拍腦袋寫 1G那一會(huì)兒 OOM 一會(huì)兒資源的完全不可控。3. 實(shí)操給一套典型微服務(wù)寫 unit 文件光講理論沒用這一節(jié)我?guī)惆岩惶渍鎸?shí)場景完整搭一遍。先說清楚這套方案針對(duì)的是單機(jī)部署的微服務(wù)開發(fā)環(huán)境不是生產(chǎn)級(jí) K8s 集群的替代品但把 systemd 玩透之后很多思路遷移到生產(chǎn)環(huán)境一樣成立。3.1 場景定義與技術(shù)選型為了演示我定義一個(gè)模擬項(xiàng)目 X包含 6 個(gè)服務(wù)分別是基礎(chǔ)組件和業(yè)務(wù)服務(wù)混編infra-db數(shù)據(jù)庫技術(shù)棧不限但必須有服務(wù)端守護(hù)進(jìn)程infra-mq消息隊(duì)列負(fù)責(zé)服務(wù)間異步通信app-config配置中心其他服務(wù)啟動(dòng)時(shí)先拉取配置app-gatewayAPI 網(wǎng)關(guān)依賴配置中心和注冊(cè)中心app-order訂單服務(wù)依賴數(shù)據(jù)庫、消息隊(duì)列、配置中心app-notify通知服務(wù)消費(fèi)消息隊(duì)列中的通知消息這 6 個(gè)服務(wù)的依賴圖其實(shí)是有層次感的數(shù)據(jù)庫和消息隊(duì)列是底座配置中心屬于中間層網(wǎng)關(guān)和訂單、通知屬于上層。用 systemd 表達(dá)這種層次就是底層層After掛掉所有上層上層之間盡量并行。實(shí)際項(xiàng)目中注冊(cè)中心通常也要提前啟動(dòng)演示里我把它并入配置中心的服務(wù)內(nèi)不單獨(dú)拆開。unit 文件統(tǒng)一放在/etc/systemd/system/目錄下寫完后執(zhí)行systemctl daemon-reload讓 systemd 重新加載配置。3.2 基礎(chǔ)設(shè)施服務(wù)的 unit 編寫基礎(chǔ)設(shè)施服務(wù)的 unit 是最容易寫的因?yàn)樗鼈兓臼仟?dú)立進(jìn)程 外部訪問的模式。以infra-db為例# /etc/systemd/system/infra-db.service [Unit] DescriptionInfrastructure Database Service Afternetwork.target Wantsnetwork.target [Service] Typenotify ExecStart/usr/local/microsvc/bin/infra-db --config/etc/microsvc/db.yaml ExecReload/bin/kill -HUP $MAINPID Restarton-failure RestartSec3 # 資源配額 CPUQuota150 MemoryHigh768M MemoryMax1G TasksMax256 # 安全加固 NoNewPrivilegestrue PrivateTmptrue [Install] WantedBymulti-user.target這里有幾個(gè)值得解釋的細(xì)節(jié)。Typenotify意味著程序內(nèi)部要實(shí)現(xiàn)sd_notify在真正監(jiān)聽端口成功后告訴 systemd我準(zhǔn)備好了。如果程序不支持sd_notify退一步用Typesimple也行——但要接受進(jìn)程一啟動(dòng)就算就緒的語義可能在端口尚未監(jiān)聽時(shí)就被依賴方拉起。ExecReload/bin/kill -HUP $MAINPID是給數(shù)據(jù)庫類服務(wù)用的平滑重載生產(chǎn)環(huán)境經(jīng)常用systemctl reload而不是 restart避免連接閃斷。TasksMax256限制了服務(wù)能創(chuàng)建的線程和進(jìn)程總數(shù)防止線程泄漏的服務(wù)無限增長。NoNewPrivilegestrue和PrivateTmptrue屬于安全加固對(duì)微服務(wù)來說成本低收益高建議默認(rèn)加上。infra-mq的 unit 類似只是資源配額可以寬松一點(diǎn)畢竟消息隊(duì)列通常要扛吞吐。我給它的CPUQuota200MemoryHigh1G其他保持一致。3.3 業(yè)務(wù)服務(wù)的依賴編排與并行啟動(dòng)業(yè)務(wù)服務(wù)的 unit 才是編排的重點(diǎn)??碼pp-gateway# /etc/systemd/system/app-gateway.service [Unit] DescriptionAPI Gateway Service Afternetwork.target infra-db.service infra-mq.service app-config.service Wantsinfra-db.service infra-mq.service app-config.service PartOfapp-cluster.target [Service] Typenotify ExecStart/usr/local/microsvc/bin/app-gateway --config/etc/microsvc/gateway.yaml ExecStartPre/bin/bash -c until curl -sf http://127.0.0.1:8848/health /dev/null 21; do sleep 1; done Restarton-failure RestartSec5 # 資源配額 CPUQuota100 MemoryHigh512M MemoryMax768M [Install] WantedByapp-cluster.target注意ExecStartPre這一行的寫法。systemd 的After只保證順序不保證可用如果配置中心的健康檢查接口還沒就緒網(wǎng)關(guān)即使按順序啟動(dòng)也會(huì)注冊(cè)失敗。所以我在ExecStartPre里加了一個(gè)輪詢命令每 1 秒檢查一次配置中心健康接口通了才繼續(xù)啟動(dòng)。實(shí)際生產(chǎn)里我甚至見過有人把這種健康檢查直接寫進(jìn)服務(wù)代碼的啟動(dòng)流程中但用ExecStartPre做的好處是不侵入代碼改 systemd 配置就能調(diào)。PartOfapp-cluster.target配合末尾的WantedByapp-cluster.target相當(dāng)于把所有業(yè)務(wù)服務(wù)歸攏到一個(gè)上層 target 下。這樣你執(zhí)行systemctl start app-cluster.target就能拉起一整組服務(wù)反過來systemctl stop app-cluster.target也能整體停掉比逐個(gè)操作高效得多。target 本身不是一個(gè)進(jìn)程它只負(fù)責(zé)聚合 unit。再看app-order它依賴數(shù)據(jù)庫、消息隊(duì)列、配置中心但啟動(dòng)順序上不需要等通知服務(wù)所以# /etc/systemd/system/app-order.service [Unit] DescriptionOrder Service Afternetwork.target infra-db.service infra-mq.service app-config.service Wantsinfra-db.service infra-mq.service app-config.service PartOfapp-cluster.target [Service] Typenotify ExecStart/usr/local/microsvc/bin/app-order --config/etc/microsvc/order.yaml ExecStartPre/bin/bash -c until curl -sf http://127.0.0.1:8848/health /dev/null 21; do sleep 1; done Restarton-failure RestartSec3 CPUQuota100 MemoryHigh512M MemoryMax768M [Install] WantedByapp-cluster.target那app-notify呢它只依賴消息隊(duì)列和配置中心不依賴數(shù)據(jù)庫和網(wǎng)關(guān)。unit 文件的After就只寫infra-mq.service app-config.service。這樣 systemd 就能在滿足依賴的前提下讓app-order和app-notify并行啟動(dòng)整體啟動(dòng)時(shí)間大幅縮短。這就是 systemd 和 shell 腳本最大的區(qū)別你只需要描述依賴關(guān)系不需要關(guān)心執(zhí)行順序systemd 自己會(huì)做拓?fù)渑判蚝筒⑿姓{(diào)度。3.4 用 systemd-analyze 驗(yàn)證啟動(dòng)鏈路寫完 unit 文件后第一件事不是反復(fù)重啟服務(wù)而是用systemd-analyze驗(yàn)證配置正確性。兩條命令必用systemd-analyze verify /etc/systemd/system/*.service systemd-analyze critical-chain app-cluster.targetverify會(huì)檢查 unit 文件語法錯(cuò)誤和路徑問題比如寫錯(cuò)指令名、引用了不存在的服務(wù)文件它都會(huì)直接報(bào)出來。critical-chain則是打印關(guān)鍵啟動(dòng)鏈路能看到哪個(gè)服務(wù)是瓶頸、哪個(gè)服務(wù)花費(fèi)的時(shí)間最長。如果發(fā)現(xiàn)某兩步之間順序不對(duì)優(yōu)先檢查After有沒有寫全。常見的遺漏是把中間層服務(wù)漏掛在某個(gè)上層服務(wù)的After里導(dǎo)致上層提前啟動(dòng)。我在初期就犯過這個(gè)錯(cuò)網(wǎng)關(guān)忘了等配置中心結(jié)果每次重啟都間歇性注冊(cè)失敗日志里全是連接超時(shí)。后來用critical-chain一眼定位加上Afterapp-config.service后世界清凈了。啟動(dòng)時(shí)間的驗(yàn)證用這兩條systemd-analyze blame systemd-analyze plot /tmp/boot.svgblame按耗時(shí)排序列出所有服務(wù)plot生成可視化時(shí)間軸把每個(gè)服務(wù)的啟動(dòng)區(qū)間畫出來??催@兩張圖你就能直觀發(fā)現(xiàn)哪個(gè)服務(wù)拖了后腿、哪個(gè)階段是完全可以并行的。我實(shí)際調(diào)優(yōu)的那次初始串行啟動(dòng)全部服務(wù)大約需要 95 秒罪魁禍?zhǔn)资悄硞€(gè)服務(wù)在ExecStartPre里 sleep 了 30 秒。去掉無腦 sleep、換成健康檢查輪詢?cè)侔巡幌嚓P(guān)的服務(wù)盡可能并行跑起來總時(shí)間直接壓到 38 秒。這個(gè)優(yōu)化結(jié)果對(duì)于一個(gè)單機(jī) Microservices 開發(fā)環(huán)境來說已經(jīng)是質(zhì)變了。4. 資源效率調(diào)優(yōu)從能跑到跑得省啟動(dòng)速度解決了接下來是資源效率。微服務(wù)的資源開銷很大一部分不是業(yè)務(wù)邏輯本身而是無效損耗日志刷爆磁盤、線程無限增長、內(nèi)存閾值寫得太保守導(dǎo)致頻繁 GC、CPU 配額過寬導(dǎo)致相互爭搶。systemd 在資源管理上有一套完整的控制手段這一節(jié)把關(guān)鍵點(diǎn)全部拆開講。4.1 cgroup 層面的配額落實(shí)前面已經(jīng)講過CPUQuota和MemoryMax但真正落實(shí)到整體資源效率時(shí)還需要關(guān)注幾個(gè)容易被忽略的細(xì)節(jié)。首先是IOWeight和IOAccounting。微服務(wù)里經(jīng)常有某個(gè)服務(wù)瘋狂寫日志或者批量讀寫磁盤把整機(jī) IO 拖垮其他服務(wù)跟著卡頓。給關(guān)鍵服務(wù)設(shè)置IOWeight10左右的低權(quán)重配合IOAccountingtrue開啟 IO 統(tǒng)計(jì)再用systemd-cgtop觀察能有效抑制單點(diǎn) IO 風(fēng)暴。注意 cgroup v2 的 IO 控制依賴 io 調(diào)度器Manjaro 默認(rèn)情況一般沒問題但如果你用的是某些特殊內(nèi)核參數(shù)可能需要額外確認(rèn)。其次是CPUWeight與CPUQuota的區(qū)別。CPUQuota是絕對(duì)上限CPUWeight是相對(duì)權(quán)重只在競爭時(shí)生效。對(duì)微服務(wù)來說我建議所有關(guān)鍵服務(wù)都設(shè)絕對(duì)上限避免自適應(yīng)權(quán)重在突發(fā)流量下失控。唯一的例外是基礎(chǔ)設(shè)施服務(wù)比如數(shù)據(jù)庫我傾向于用CPUWeight100給它相對(duì)較高的權(quán)重但不用絕對(duì)配額讓它按需伸縮。然后是內(nèi)存層面的MemorySwapMax。cgroup v2 允許單獨(dú)控制 swap 使用量。開發(fā)機(jī)上如果有 swap服務(wù)內(nèi)存溢出時(shí)會(huì)先交換而不是被殺掉但這會(huì)帶來嚴(yán)重的性能抖動(dòng)。我通常給微服務(wù)設(shè)置MemorySwapMax0強(qiáng)制超過MemoryMax就直接 OOM把它殺得干凈利落寧可重啟也不拖垮整機(jī)。這個(gè)取舍在開發(fā)環(huán)境尤其有效——你會(huì)立刻在日志里看到 OOM 報(bào)錯(cuò)而不是整機(jī)卡死之后找不到原因。最后提一下TasksMax。線程泄漏是微服務(wù)最常見的隱形殺手。一個(gè)服務(wù)線程數(shù)從 100 漲到 10000內(nèi)存可能還沒到上限系統(tǒng)線程表已經(jīng)滿了。給每個(gè) unit 設(shè)置TasksMax512既保證正常業(yè)務(wù)并發(fā)又能阻止泄漏線程無限增長。排查時(shí)看到某個(gè)服務(wù)的 PID 數(shù)量異常一查線程數(shù)往往就是這里出了問題。4.2 journal 日志的瘦身與輪轉(zhuǎn)微服務(wù)的日志是資源黑洞。默認(rèn) journald 會(huì)把日志寫到/var/log/journal/不設(shè)限制的話幾個(gè)服務(wù)的高頻日志一周就能吃掉幾個(gè) GB 磁盤。所以日志策略必須主動(dòng)管理。systemd 提供兩種維度的控制全局的/etc/systemd/journald.conf和每個(gè)服務(wù)內(nèi)部的StandardOutput/StandardError。journald.conf里我有幾個(gè)習(xí)慣配置[Journal] SystemMaxUse1G SystemMaxFileSize100M MaxRetentionSec7day CompressyesSystemMaxUse1G把整個(gè) journal 總大小限制在 1GSystemMaxFileSize100M控制單個(gè)日志文件大小MaxRetentionSec7day保證最多保留七天Compressyes開啟壓縮日志體積通常能再縮一半。這套組合下來日志對(duì)磁盤的壓力基本可以忽略。服務(wù)側(cè)的日志策略要區(qū)分場景。如果是Typenotify的服務(wù)程序通常自己處理日志文件如果是Typesimple的腳本類服務(wù)可以把輸出重定向到獨(dú)立文件StandardOutputappend:/var/log/microsvc/app-order.log StandardErrorappend:/var/log/microsvc/app-order.error.log注意append:前綴直接寫路徑是覆蓋模式重啟一次就丟歷史。這個(gè)坑我踩過——第一次配的時(shí)候用的StandardOutput/var/log/xxx.log服務(wù)一重啟日志全沒了排查問題連現(xiàn)場都沒有。日志輪轉(zhuǎn)用logrotate配合 systemd timer 做核心是寫/etc/logrotate.d/microsvc配置把按大小切割和保留周期都定義好然后確保相應(yīng)的 timer 服務(wù)在跑。Manjaro 默認(rèn)已經(jīng)安裝了 logrotate 的 timer 配置你只要把服務(wù)配置文件填進(jìn)去就行。4.3 定時(shí)清理與維護(hù)讓滾動(dòng)更新不拖慢啟動(dòng)Manjaro 滾動(dòng)更新的特點(diǎn)是systemd 的自身行為可能會(huì)變但這個(gè)變化不會(huì)主動(dòng)向你報(bào)告。最典型的例子是某個(gè)服務(wù)的 unit 寫法和新版本 systemd 不再兼容systemd-analyze verify能查出來但沒人每天跑一次。所以我把服務(wù)健康檢查做成了定時(shí)任務(wù)每周自動(dòng)跑一次。我的做法是用 systemd timer 自己管自己# /etc/systemd/system/microsvc-weekly-check.service [Unit] DescriptionWeekly microservice health check [Service] Typeoneshot ExecStart/usr/local/microsvc/scripts/health-check.sh# /etc/systemd/system/microsvc-weekly-check.timer [Unit] DescriptionRun weekly microservice check [Timer] OnCalendarSun 03:00 Persistenttrue [Install] WantedBytimers.targethealth-check.sh腳本的核心邏輯是先systemctl list-units --failed檢查失敗狀態(tài)再逐個(gè)systemctl is-active檢查關(guān)鍵服務(wù)最后用journalctl --since 7 days ago -p err掃描最近一周的錯(cuò)誤日志把異常匯總到報(bào)告文件。這套自動(dòng)巡檢在滾動(dòng)更新后特別有用能第一時(shí)間發(fā)現(xiàn) systemd 升級(jí)導(dǎo)致的行為變化。還有一個(gè)細(xì)節(jié)Manjaro 每次大版本更新后重啟時(shí)機(jī)要選對(duì)。我習(xí)慣在更新完所有包、確認(rèn)systemd --version穩(wěn)定后主動(dòng)重啟一次讓系統(tǒng)在新內(nèi)核和新 systemd 下完整初始化。不重啟的話舊 systemd 跑在新文件系統(tǒng)上某些 unit 的狀態(tài)緩存可能會(huì)異常。5. 常見問題與排查技巧實(shí)錄這一節(jié)把我實(shí)際踩過、也幫別人排查過的問題整理成速查表。每個(gè)問題都給出定位方法和解決思路不再展開理論直接上操作。5.1 啟動(dòng)順序還是不對(duì)怎么定位如果你已經(jīng)寫了After但服務(wù)還是亂序啟動(dòng)第一反應(yīng)不是改 unit 文件而是先確認(rèn) systemd 看到的依賴圖長什么樣。systemctl list-dependencies app-order.service systemctl show app-order.service -p After -p Requires -p Wants第一條會(huì)遞歸打印所有依賴第二條直接查看生效的指令值。很多時(shí)候問題出在After寫在了錯(cuò)誤的 section——注意After必須放在[Unit]段落里如果放到[Service]里systemd 會(huì)直接忽略并且verify報(bào)錯(cuò)。還有一種隱蔽情況你依賴的服務(wù)根本沒有啟用enable也沒被任何 target 拉起來。After只排順序不負(fù)責(zé)啟動(dòng)。如果你執(zhí)行systemctl start app-order.service但app-config.service沒在運(yùn)行順序?qū)α藚s還是連不上。此時(shí)必須確認(rèn)基礎(chǔ)設(shè)施服務(wù)已經(jīng) enable 且 active或者用Wants把它們一起拉起來。排查順序的建議list-dependencies看結(jié)構(gòu) →show看實(shí)際生效值 →critical-chain看時(shí)序 → 最后看 journal 確認(rèn)服務(wù)到底在等什么。5.2 服務(wù)反復(fù)重啟進(jìn)入 start-limit-hit這個(gè)報(bào)錯(cuò)幾乎每個(gè)用 systemd 管理服務(wù)的人都遇到過。表現(xiàn)為systemctl status里寫著start-limit-hit服務(wù)處于failed狀態(tài)你手動(dòng) start 都拉不起來。原因是 systemd 默認(rèn)的啟動(dòng)失敗計(jì)數(shù)窗口太短服務(wù)短時(shí)間連續(xù)失敗多次就被熔斷。解決辦法兩個(gè)方向一是調(diào)整 window二是找根因。調(diào)整參數(shù)在 service 文件里加StartLimitIntervalSec30 StartLimitBurst10意思是 30 秒內(nèi)最多失敗 10 次超過才熔斷。這個(gè)閾值適合多數(shù)微服務(wù)。如果還是頻繁觸發(fā)就要看日志找根因journalctl -u app-order.service -b -p err定位到崩潰棧后先修代碼問題別指望調(diào)大 window 就能掩蓋一切。實(shí)際調(diào)優(yōu)時(shí)建議把 window 調(diào)寬一點(diǎn)的同時(shí)增加RestartSec的退避時(shí)間比如 5 秒。這樣崩潰循環(huán)時(shí)每次重啟間隔 5 秒10 次就是 50 秒的窗口systemd 不會(huì)誤判也給服務(wù)恢復(fù)留了時(shí)間。5.3 內(nèi)存限制導(dǎo)致 OOM 崩潰如何區(qū)分是配額還是代碼問題MemoryMax設(shè)置不合理最直接的后果是服務(wù)被 OOM kill?,F(xiàn)象是journalctl里有內(nèi)核的 OOM 記錄服務(wù)退出碼變成 137SIGKILL。問題是到底是配額設(shè)太低還是代碼真的泄漏區(qū)分方法很簡單。先把MemoryMax臨時(shí)調(diào)到無限制刪掉該行或者設(shè)個(gè)極大值觀察一段時(shí)間。如果內(nèi)存仍然持續(xù)上漲直到系統(tǒng)告警基本可以斷定是代碼泄漏去找 heap profile如果內(nèi)存穩(wěn)定在某個(gè)水平說明是配額問題按實(shí)測峰值重新計(jì)算即可。我維護(hù)的一套模擬項(xiàng)目中某個(gè)服務(wù)MemoryMax512M老是崩潰把限制放寬到 1G 后穩(wěn)定再觀察發(fā)現(xiàn)它實(shí)際峰值就是 800M 左右。后來定位到是某段批量任務(wù)一次性加載了太多數(shù)據(jù)到內(nèi)存優(yōu)化成流式處理之后峰值降到 300M再把配額調(diào)回 512M一切正常。配額限制本身是最后的防線不是優(yōu)化手段——真正省內(nèi)存還得從代碼層面做。5.4 快速排查工具組合拳最后整理一套我每天都會(huì)用到的排查組合拳# 看全局失敗狀態(tài) systemctl list-units --failed # 看單個(gè)服務(wù)的完整狀態(tài)和最近日志 systemctl status app-order.service journalctl -u app-order.service -n 200 --no-pager # 看服務(wù)的資源占用排行 systemd-cgtop # 看某服務(wù)關(guān)聯(lián)的 cgroup 配置 systemctl show app-order.service -p MemoryMax -p CPUQuota -p TasksMax這套流程覆蓋了有沒有掛、掛了為什么、資源占了多少、配置對(duì)不對(duì)四個(gè)問題。實(shí)際排查時(shí)我基本是按這個(gè)順序一路查下去80% 的問題能在五分鐘內(nèi)定位。另外強(qiáng)烈建議給journalctl配置別名我日常用的是alias jlogsjournalctl -u $1 -n 200 --no-pager -f-f是 follow 模式配合-n 200可以先看最近 200 行再持續(xù)跟蹤調(diào)試啟動(dòng)問題非常好用。--no-pager在腳本里順手加上免得每次都卡在 less 里。還有一個(gè)小技巧確認(rèn)某個(gè)服務(wù)是不是真的就緒了別只看進(jìn)程狀態(tài)要看它監(jiān)聽的端口。用ss -tlnp | grep app-order查看實(shí)際監(jiān)聽情況比systemctl is-active更靠譜——is-active只代表 systemd 認(rèn)為它活著不代表業(yè)務(wù)端口通了。寫在最后一些實(shí)際體會(huì)這套 systemd 方案我在 Manjaro 上跑了差不多三個(gè)月從最初的頻繁起不來、連不上、被打崩到現(xiàn)在的開機(jī)啟動(dòng)一條命令、資源占用穩(wěn)定、崩潰自動(dòng)拉起整個(gè)過程的收益非常直接。我個(gè)人體會(huì)最深的一點(diǎn)是別一上來就想著上 K8s。單機(jī)階段的微服務(wù)systemd 已經(jīng)解決掉了 90% 的進(jìn)程管理問題而且沒有額外的運(yùn)維負(fù)擔(dān)。等到真有多機(jī)、彈性伸縮的需求再遷移到容器編排也不遲——那時(shí)你對(duì)依賴編排、健康檢查、資源配額的理解都是從 systemd 這套機(jī)制里長出來的遷移成本反而低了。最后再分享一個(gè)小經(jīng)驗(yàn)unit 文件里寫注釋非常有用。systemd 的 unit 文件支持#注釋我會(huì)在每個(gè)服務(wù)的文件頭部寫清楚它的依賴關(guān)系、資源配額的取值依據(jù)、以及最近一次修改的原因。三個(gè)月后回來看這些注釋幫了大忙——你不可能記住當(dāng)時(shí)為什么給某個(gè)服務(wù)設(shè)了CPUQuota100而不是 150但注釋會(huì)替記憶買單。如果你也在 Manjaro 或者任何 systemd 發(fā)行版上跑微服務(wù)建議先把 unit 文件的骨架搭好再逐步加上資源配額和健康檢查從能跑進(jìn)化到跑得穩(wěn)、跑得省。這套思路不挑語言、不挑框架只要是 systemd 體系都能直接套用。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
免费的黄片wwwwww| 免费视频一二三区| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 欧美色图片91| 丝袜 亚洲 偷拍| 亚洲囯产精品女人久久久| 91丝袜视频在线观看| 成人热久久精品| 99亚洲精品| 五月婷网站| 99久久99久久免费精品蜜臀| 情色大香蕉| 色97综合中文字幕| 日韩欧美中文字| 久久久影院| 无码国产精品久久久久| 老司机天天操| 亚洲熟女精品| 18禁精品网站在线看| 久久久久夜夜夜夜| 加勒比综合88| 人人操人人操人妻人| 亚洲性综合| 夜夜夜夜夜夜夜夜夜狠狠狠狠狠狠狠| 十八禁网站在线| 97福利视频| 爱做久久久久久| 久久无码成人| 一级性爱啪啪视频| 噜噜噜在线视频| 五月丁香黄色网| 超碰在线一区二区三区| 热99re69精品8在线播放| 91熟女网| 欧美岛国精品在线观看| 五月婷婷hd| 啊啊啊操一区| 中 文字幕一区二区三四 五 区日 日 骚 | 国产亚洲 中文欧美久久| 精品伊人久久久大香线蕉小说| 一区操逼日比视频| 91性高潮久久久久久久久| 久久久久久久国产a∨| 国产人妖的免费的视频| 亚洲 一区二区 自拍| 草草影院最新网址| 五月丁香啪啪| 综合激情97 | 亚洲综合首页| 欧美不卡在线一区二区| 国产一区二区啪啪视频| 五月丁香影院| 日韩精品电影| 欧美亚洲首页| 欧美日韩*字幕一区| 人人看人人爰人人操| 日韩一级成人毛片免费观看 | 成人影 天天操 亚洲| 不卡在线一区,精品一区二区三区中| 久久99操天天日| 日本久操视频| 亚洲色丰满少妇高潮| 亚洲欧洲日韩中文字幕一区| 色哟哟 日韩精品| 操操逼视频| 这里只有精品视频在线观看麻豆 | 视频在线中文字幕| 97网色| 精品人妻中文字幕高清| 首页中文字幕中文字幕免费| 欧美精品另类人妖xxxx| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 日本欧美国内在线| 国产av高清版| 夜夜做夜夜爽精品视频| 亚洲中文字幕在现观看| 91色综| 中文字幕78| 超碰人人干天天射| 免费一级特黄特色大片在线观看看| 福利视频一区二区微拍| 人人喜人人妻| 欧美爱爱97| 国产偷人妻精品一区二区在线| 蜜臀一二三区| 一本久道在线综合视频| 久久91精品国产9丨久久分亭| 9丨久久九九九| 久久人妻少妇| 精品一区二区三区麻豆| 无码高清专| 麻豆2区1区天美| 欧美大片天天看| 五月情色天| 3D污黄视频在线观看| 97超级久久强资源| 欧美啪啪啪91| 色嗨嗨在线| 歐美一級亂黃99在綫精品| 久久久成人免费av电影| 国产精品视频一区二区三区八戒| 欧美色图亚洲色图成人在在线| 色悠久久久av| 欧美日韩在线国产在线| 日韩情色AV| 综合网 欧美| 国产又粗又长又爽又色| 欧美青青草视频| 色天使亚洲综合在线观看| 九色97| 97视频在线观看免费高清| 乱伦av麻豆| 色老牛| 亚洲 无码 偷拍| 色情成人五月天| 青青草久草AV| 国产福利小视频高清在线观看| 亚洲精品天天影视综合网 | 国内精品999| 91精品网站| 中文字幕人妻丝袜| 久久草草亚洲蜜桃臀| 啊好大好舒服| 国产探花日韩援交| 欧美色图人妻| 亚洲 国产 精品一区| 一区二区三区无卡视频在线观看| 另类小说综合网| 秋霞午夜视频一区二区| 国产精品秘 福利姬在线观看| 色天天野狼综合社区| 亚洲免费人妻在| 亚春色色| 亚洲天天艹| 亚洲在线a| 国产精品高潮久久AV| 男女性感激情网站| 午夜操操操| 超碰碰碰碰| 老鸭窝成人免费毛片视频| 9 9精品一区二区三区| 亚洲狠| 97久精品| 小日子操bb在线看| 熟女熟妇伦久久影院毛片一区二区| 思思热影视| 99999久久精| 97 亚洲 日韩 欧美 在线| 91人精品妻入口| 啊啊啊啊操死我了| 色狠狠色| 老熟女乱伦片| 欧洲视频在线| 鸥美极品| 久久久婷婷| 久久一区二区三区入口| 超碰成人人人爽人人爽| 麻豆国产第一| 激情丁香五月婷婷| 日韩性爱1级片视频| 91美女视频直播| 第二页中文字幕| 国产AV毛片| 超碰97 线线 在现| 免看60秒涩涩视频| 精品国产自在在线99| 思思热在线cao| 日韩久射综合| 欧日韩在线观看| 欧美激情综合| 深田咏美亚洲精品福利社| dy888午夜老子影视达达兔| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊| 色五月婷婷麻豆在| 美中日韩无码| 岛国片国产成人亚洲播放| 91综合网在线| 欧美人妖内射| 天天干1区2区在线| 十八禁黄色成人网站观看| 五月丁香综合啪啪| 男人a天堂手机在线版| 国产精品ww久久| 一二三四区电影| 91美女視頻| 日本天堂网| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 色色99| 久久亚洲欧美中文字幕国语| 国产品精品自在在线午夜免费| 操老熟女AV| 久久精品72| 97香焦色区| 免费观看啪视频| 亚洲无码一二三区| 逼逼逼逼操操操操操操操操操午夜剧场| 中国人高清www色视频免费| 日本不卡免费二区| 蜜桃精品一区二区三区久在线| 亚洲天堂第一页| 亚洲中文字幕噜噜噜久久久| 婷婷激情啪啪| 九九热在线视频| 国产福利第一视频| 五月天社区| 人人操人人摸人| 亚洲色图日韩精品| 色色婷婷五月| 骚货| 国产精品午夜福利视频| 超碰538| 夜夜综合| 亚欧美色图| 91伊人久久在线| 日韩中文字幕宗合在线| 少妇色综合| 久久久久国产精品人妻aⅴ天堂| 欧美 日韩 国产传媒| 婷婷三区| 97干天天| 四虎影视永久在线观看精品免费网站 | 99热8| 亚洲久草AV色图| 亚洲欧美91√| 国产91 丝袜在线播放00-百度| 另类图片综合| {男男暴菊gay无套网站| 手机在线人成免费视频| 麻豆精品久久久久久久| 久久久久久中文版| 丝袜视频网国产90| 九九九精品成人免费视频小说| 操逼网站网站| 综合欧美日韩在线观看| 成人AV素股で擦久久| 精品一久久久| AV女资源| 97在线精品观看视频| 国产亚洲日本精品在线| 成年人免费观看网站| 亚洲欧洲日韩中文字幕一区| 狠狠操使劲操| 亚洲中文字母在线播放| 大香蕉男女超碰精品在线| 蜜桃久久久久久久| 99超碰网| 日韩精品1区2区中文字幕| 麻豆国产96在线| 四虎AV无码| 国产成人精品一区| 妇女性内射冈站HDWWWCOM| 91精品啪在线观看国产城中村| 日本欧美成人片AAAA| 欧美老妇女内射网址| 国产2.3.4区| 99久久精品无码一区二区毛片免费| 国语精品内射在线观看| 欧美熟妇精品黑人巨大一二三区| 日本熟妇自慰性高潮一区二区三区| 99re98| 91午夜无码| 一区二区偷拍拍视频| 久久久99999久网站| 久久超碰com| 强奸乱伦av电影| 夜夜夜久久| 941超碰| 国产最新小视频在线播放下载| 99啪啪视频| 另类视频在线| 国产一级特黄大片处女| 超碰 97国产熟女| 天操天操夜操夜月操月年年操操| 影音先锋日本一区二区| 在线啊啊啊啊| 精品无码一区二区三区色欲| 91麻豆天美传媒HD| 超碰97久久| 99免费在线视频| 怡红院亚洲怡春院av| 欧美性生活男人的天堂| 激情综合av| 国产精品免费久久久久久久久久| 亚洲精品成人| 99色热| 亚洲精品乱码久久久久久蜜桃麻豆| 人人超碰在线观看黄| 九九九久久久| 真实高潮91| 中文字幕三四区| 五月丁香啪啪啪| 伊人宅男大香蕉| 国内精品久久久久影院亚洲| 国产91丝袜 在线播放| 一区二区三区激情在线观看| 夜夜免费视频| 午夜男女爽爽爽在线视频| 亚洲伊人久久精品影院| 伊人操操| 国产日韩欧美中文在线播放 | 26uuu成人影片| 亚洲自拍欧美国产首页网曝 | 大香蕉宅男伊人| 亚洲精品国产熟女| 91成人久久| 午夜福利免费精品视频| 清纯唯美综合亚洲| 男人的天堂啪啪啪啪啪蜜桃不卡| www国产精品| 又黑又大又粗| 永久免费av无码网站国产app| 国产一级久久久| 乱伦一区二区三区‘| 校园春色宗合网| 免费黄色A片| www.人人摸在线视频| 五月丁香色综合| 久久久96| 国模久久在线| 6080yy午夜理论三级一区二区三区无码 | 操操操日本的逼| 亚洲欧美91√| 大香蕉伊人亚洲| 麻豆国产视频精品观看| 人人澡人人澡人人| 国产伦精品免编号公布| 精品欧美А∨无码黑人大荫蒂| 内射黑丝袜| 99热官网| 尤物一级在线免费观看| 国产精品久久久| 国产精品久久久久999| 狠狠狠狠狠狠| 无码最新| 国产无吗在线播放| 91人妻在线视频| AV丝袜东京热| 东京成人一区| 婷婷导航| 成人八戒网站| 一级性爱视频免费观看| 久久9免费视频| 偷拍欧美激情| 亚洲日韩国产欧美综合v| 最近二区三区视频大全| 熟女91网| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 国产视频第2页| 人妻嗯啊啊在线播放| 911av网站免费观看| 韩国黄色片精品久久久| 日韩AV无码网站| 久草电影网| 操B久久| 五月婷在线| 国产三区免费在线观看| 日韩极品无码B| 狠日欧美| 91肉丝| julia国产在线 | 蜜桃传媒视频第一区入口在线看| 9长久久精品| 欧美.亚洲.另类.丝袜.制服.诱惑| 超碰在线香蕉| 十八岁啪啪视频免费看| 国产乱伦亚洲| 日韩免费在线视频观看| 国产无码三级视频在线观看| 男人的天堂2018| 久久九九97| 欧美最婬乱婬爆婬牲视频| 久久伊人青青草| 久久亚洲天天做| 午夜天天碰综合视频| 久久婷婷伊人| 99热综合| 97久久精品亚洲| 亚洲精品男人的天堂| 中文激情网| 亚洲高清在线| 国产原创自拍| 91人妻人人妻| 欲射影视| 国产熟女自拍| 亚洲丨在线| 男人的天堂1024| 99夜夜操| 天天日天天干天天操| 久久78| 精品免费视频国产一区| 久久精品午夜国产亚洲AV无码| 日日超碰亚洲| 性爱网站一区二区| 国产亚洲色婷婷久久99精品91葵花宝典| 免费一级特黄特色大片在线观看看| 在线岛| 日韩欧美午夜视频在线| 亚洲操逼网| 亚洲成人碰碰| 一区二区三区四区久久视1| 中文字幕-区二区三区四区视频中国| 色天使大香蕉| 天天情欲宗合网| 人妖欧美一区二区| 91丨人妻丨国产丨丝袜| 国产日韩欧美中文在线播放 | 日日夜夜模| 久久r精品| 91少妇人妻| 国产丝袜美女诱惑| 97色97好| 美女黄页网站| av最新免费中文字幕| A片三级无码| 成人五月香网在线| 欧美少妇高潮久久91| 果冻传媒A片一二三区| 精品人妻一区二区三区视频在线| 99婷婷一区二区| 国产美女mm131爽爽爽爽| 盗摄 精品 另类 一区| 欧美国产有色电影| 人人妻人人爱人人玩| 飘花国产午夜精品不卡| 久久97| 淫骚熟女一区二区三区| 超碰地址久久| 国产午夜激片Av毛片不卡| 国语人妻精彩刺激| 久久超碰天天| 国产成人欧美一区二区三区的国产| av在线资源| 亚洲91网站| 97在线视频免费| 影音先锋中文字幕日本好一区二区 | 91国产丝袜美女| 精品午夜福利| 97人人模人人爽人人| 欧美91在线+|+欧美| 97久久超碰日韩精品| 九九精品99| 你操综合| 超清中文乱码字幕| 免费看日本操逼视频| 亚洲视频一二区| 九九草| 亚洲第一在线视频| 久久九操在线观看| 亚洲成aⅴ人片不卡无码| 美女诱惑爱爱| 一级AAA片一区二区三区| 亚洲国产ⅴ高清在线观看| 天美精品av| 国产精品日日摸天天碰| 狠狠爱综合| 色综九九九一区| 无码高清专| 亚洲91大片| 日日摸夜夜夜夜爽| 曰本91情色| 午夜乱轮操逼视频免费看| 久操B网| 一区二区三| 超碰99在线| 999国产精品999久久久久久| 久久女婷| 精品午夜福利| 伊人影院在线理论播放| 国产成人在线观看网址| 国产四虎在线| 国内毛片热久久思思热| AV高清一区| 日韩性爱小视频| 区日韩亚洲乱码av电影| 日本东京热久久久电影| 在线岛| 亚洲免费97免费| 一区二区三区色综合| 亚洲国产一区二区日韩专区| 乱老熟女一区二区三区| 中日亚韩免费视频| 国产中文日韩欧美一区二区三区人妻丝袜美腿| 成年人黄色小视频网站| 老色鬼成人精品视频下载大在线观看| 黄色小视频日本txt| 青操影院| 天天插天天射| 无遮挡又黄又刺激的视频| 综合激情97| 亚洲 日韩 丝袜 熟女 变态| 色欧美在线| 日韩在线76| 中文字幕日韩电影人妻| 久久久内射良家| 激情五月婷| 成年无码动漫av片无尽在线 | 人妻色情天天操| 操美女高潮抽搐白浆| 夜夜欧美| 综合色拍| 男人夜色天堂ss| 国产美女销魂在线观看不卡| 婷婷九月丁香| 69综合网| 婷婷色导航| 草草电影院| 午夜精品人妻二区三区| 大香交伊人网| 欧美日韩 强奸乱伦| 久久久人妻| 色麻豆AV| 亚洲中文字幕乱码无码一区二区 | 亚洲AV色图一区| 亚洲五月丁香花狠狠干一区二区三区| 老司机天天操| 一区二区三| 欧美综合传媒| 嗯嗯啊啊亚欧精品| 色色婷婷丁香| 十八禁av无码免费网站APP| 日韩精品午夜操呦呦不卡影院| 久久偷拍人| 五月婷婷色| α√在线| 777AV电影| 亚洲色图图片| 久久久啊啊啊| 99精品丰满人妻无码| 亚洲乱色视频一区、二区在线| 无遮挡h肉动漫在线观看| 成人av在线播放| 91人人操| 91爱| 大奶的诱惑| 香蕉大久久久| 欧美激色| 欧美91久久久久| 97日视频| 久久天天躁日日躁狠狠躁| 美中韩AV综合网| 十八禁视频网站| 日人妻视频91| 艹比视频国产精品| 手机在线播放国产福利| 人人操人人摸人人看人人插| 老外又粗又长一晚做五次| 极品色| 欧美色图亚洲色| 91bbbbbb| 欧美天天射| 亚洲风情在线观看| 麻豆精品.欧美精品.日韩精品.| 爱丝福利| 欧美草草高清日韩视频| 大鸡巴久久| 丰满人妻-区二区三区免费看| 天天干夜夜操一区二区| 大香蕉99re| 78精品| 色妇综合网| 91人妻在线视频| 亚洲欧美另类小说| 91天天| 翔田千里爆乳巨臀无码| 免费成人在线观看91| 久久久性| 人妻一区视频| 国产免费久久久久| 男人的天堂啪啪啪啪啪蜜桃不卡| 91在线页| 青女在线| 72av视频| 日韩字幕一区| 囯产操逼片| 九九99精品视频在线观看| 狠狠操狠狠插| 久草色悠悠在线视频| 日韩精品三级片长长久久| 日韩精品影视| 国产熟女无套内射| 欧美性爱第一页久久| 2018天天干在线视频| 黄色性爱网网| 色综合中文字幕不卡| 狠综合网| 91欧美网| 性爱Av免费| 激情五月婷婷| 狠狠躁天天躁日日躁| 五月天AV资源| 秋霞一级鲁丝片A片| 播播亚洲小说亚洲| 亚洲人精品久久久喷水| 伊人久久亚洲色欲综合网站 | av网站免费线看| 殴美在线AⅤ| 日产狠狠干| 日本男人插女人的逼黄色| 亚州欧美在线| 丰满岳乱妇一区二区三区| 亚洲精品亚洲人成人网| 日韩99神马视频片| 东京热av影院| 欧美亚洲| 91精品丝袜久久久久久无码人妻| 深夜激情| 天堂中文日本在线观看| 国产青一二三| 久久三区四区| 国产强奸超碰AV| 真实高潮91| 78精品在线| 亚洲中文日韩欧美大香蕉视频| 91丨国产丨白浆| 一区二区播放| 精品久久久久av影院| 人妻精品综合中文字幕在线 | 97国产高清视频在线观看| 亚洲熟女国产综合另类| 婷婷性网| 久久 国产精品 一区| 男人精品天堂一区| 亚欧毛片基地国产毛片基地| 国产精品天美传媒| 97视频在线观看免费高清| 无码国产精品久久久久| 91l欧美在线| 男女啪啪啪18禁网站| 99国产人成精品| 青草伊人久久| 国产成人精品日本亚洲语言| 激情小说亚洲视频| 国产Aα| 97精品综合久久网| 欧美精品一区二区少妇免费A片| 99.色网| 操逼操逼操| 日韩精品99999| 夜夜嗨一区二区三区直播内容| 91精品伊人久久久大香线蕉91| 夜夜操中文字幕| 这里只有精品视频在线观看麻豆| 大香蕉欧美日韩| 中文字幕乱码人妻二区三区| 99在线观看无大码| av一区二区三区四区| 91嫩草欧美| 成人性爱av| 天天内射| 综合自拍| 人妻天堂三区| 极品丝袜无码| 操逼日批| 91国产丝袜美女| 国产成人久久久精品免费AV| 少妇无码999| 夜夜中出国产| 日韩簧片免费看| av东京热男人的天堂| 盗摄女人妻在线| 97精品一区| 999在线电影香蕉| 91香蕉国产尤物视频| 97玖玖超碰| 日本激情免费大片| 在线播放欧洲免费av| 久久久精品国产亚洲伊人| 男啪女色黄无遮挡免费观看| 青青草手机在线免费观看| 中文字幕交换人妻| 91n处女在线观看| 好淫网一二三视区| 国产欧美日韩一区二区三区| 国产三级中文字幕粉嫩| 色噜噜综合在线| 最新av中文字幕高清| 亚州国产成人精品女人久久| 99热在线播放| AV一区观看| 人妻熟妇一区二区三区| 亚州成人A√| 亚洲黄色网址视频| 亚洲精品九九九| 亚洲Av噜噜一区二区三区妖精| 美女黄频a美女大全免费皮| 欧亚日韩中文在线| 97欧美色资源| 国产 日韩 欧美 人妻 熟女 中文 69人妻精品一区二区绯色 | 人妻偷拍一区二区三区| 丰满少妇精品一区二区| 射丝袜高跟鞋99| 五月丁香社区婷婷日韩欧美精品影院 | 欧美日韩少妇色情| 国产农村一一级特黄毛片| 国语av狠狠色丁香婷婷综合激情| 91欧美综合在线| 中文字幕av色| 欧美成人性爱视频大全| 中文字幕日韩专区精品系列| 激情综合 婷婷五月 红杏| 青春草A| 激情网五月天| 人人摸人人摸人人干| 深夜福利黄片| 91欧美色| 国产又长又大又粗的视频| 91偷拍欧美亚洲| 看日韩美女二区三区免费操逼视频 | 日韩一级二级| 91精品无码人妻系列| 国产91会所女技师在线观看| 国产成人五月天丁香花| 亚洲日韩东京热一区| 日韩中文字幕熟妇人妻 | 国产精品另类一区大香蕉| 亚州综合AⅤ| 操我啊啊啊啊啊| 99热精品免费| 午夜男人一级A片7777| 日韩国产欧美伦理在线| jizz啪啪| 明星性猛交ⅹxxx乱大交| 欧美激情精品久久久久久| 亚洲日韩黑丝| 91精品少妇搡搡搡| 91超碰碰在线| 9999九九九久久久| 日韩精品怡红院| 神马午夜久久久| 亚洲狼狼干综合1| 熟妇熟女一区二三区| 精品视频123区小说区| 夜夜肏2021| 99亚亚热| 亚洲国产综合久久久性感熟妇| 人妻丝袜无 码视频专区| 丁香婷婷久久 | 中文字幕午夜精品久久久| 亚洲超碰综合网| 动漫av中文| 精吧天堂| 日韩欧美~中文字| 日产精品久久久一区二区| 9久9久| 殴美性天天| 丰满熟女一区二区三区在线播放| 久久久久久9| 久久精品国产亚洲5555| 亚洲人成网站7777| 亚洲图片日本AⅤ欧美在线| 天天激情综合站| 一区二区三区黄片免费观看| 国产极品一区二区三区三州| 色婷久久| 中文字幕视频在线观看一区二区| 99啪啪视频| 成熟熟女国产精品一区二区| 天欧美在线| 国产精品一区二区三| 中文字幕蜜乳av| 成人免费看吃奶视频网站| A 天堂在线观看视频| 26uuu国产| 97一区二区蜜臀| 天天综合网~91入口| 五月天精品| 免费在线看黄片av| 久久亚洲AV无码专区首页| 无码抄逼网| 97天天爽| 综合网97| 青青在线视频日韩欧美| 草草影院日本第一页| 日本岛国黄色网址| 欧美少妇第一页| 91无摭挡| 凹凸视频在线一区二区| 久干9操| 嗯嗯嗯啊啊啊在线免费观看| 亚洲精品1区| 97超碰色情| 国产自产自拍| 激情自拍 校园春色| 国产一区二区三区,在线观看观看| 欧美日韩中文字幕不卡| 欧美性生活男人的天堂| 91日本在线观看| 亚爽爽爽爽爽爽爽爽| 久久久性爱| 91精品女厕偷拍视频| 天天爽天天操| 东北操逼| 翔田千里无码中出中文字幕| 99热综合| 欧美在线综合| 日韩中文字幕视频| 大香樵伊人网| 亚洲91射| 手机在线A片| 99999久久久久9国产精品| 国产日韩中文字幕欧美| 永久免费av无码网站国产app| wwwss在线观看| 日韩久草| 手机在线播放国产福利| 日韩欧美成人大香蕉| 国产精品白丝www| 中日韩熟女| 屌妞视频久久久久久久| 大香蕉一级黄色片久久| 成人日韩欧美| 久久成人精品| 精品亚洲黄色片 国产精品导航一区二区| 中文字暮97| 久久久久久久9999| 免费一级毛片在线视频观看| 加勒比伊人综合| 亚洲激情综合另类男同| 淫色网综合| 久久神马| 高清不卡一二三区视频......| 精品夜夜澡人妻无码AV| 欧美A√综合网 | 久久久久久大| 另类图片综合| 按摩中文字幕| 热99这里有精品综合久久 | 精品熟女一区=区三区| 亚洲女人91| 久热这里| 亚洲天堂男人天堂网| 无码又爽又硬又激情免费视频| 99在线精品观看视频中文 | 欧美狠狠狠| 热九九精品| 国产激情在线| 亚州色交| 免费A片三p视频| 爱欲AV| 日韩免费在线视频观看| 成人五月天色网| 亚洲国产ⅴ高清在线观看| 人人搡人人肉久久精品| 在线观看免费视频国产| 欧亚揄拍偷拍精品视频| 久精品无码av一区二免费国产在线观看| 亚洲综合图片在线| 免费在线观看国内色片网站网址| 日本黄页视频在线观看| 亚欧高清在线| 欧美色图校园春色| 日本久久久久久久久| 国产1024在线播放| 大香蕉一人在线| 亚洲最新a在线观看| 国产精品午夜福利| 翘臀vidoes| 无码外流操逼视频| 后入福利视频| 99热| 91影库| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 一区麻豆 高清中文字幕| 91精品微拍福利| 日韩无码服务区| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 日本色色视频网站| 91劲爆| 欧美久久草熟女| 淫荡少妇免费| 啊啊啊啊啊啊啊啊在线观看| 爽爽爽免费视频| 国产精品免费视频人成| 欧美日韩1234| 劲爆欧美人妖三区91| 久久五月丁香| 天天干天天燥| 91爱剪切久久| 久草草一二三四区久久| 日韩精品国产精品五码一区二区| 人人看人人插| 91制服丝袜| 日本999精品视频| 综合色色网| 国产亚洲精品精AV.| 九九九不卡| 操死我了嗯嗯嗯| 色五月亚洲| 国产AV久久野战精品| 国产精品熟女一区二区三区| 人妻熟女一区二区| 亚洲丝袜天堂| 中文字幕在线观看视频www| 性爱视频啪啪啪啪| 欧美亚洲综合高清在线| 久久久91福利姬| 97高清啪啪| 玖玖在线视频| 亚洲一区二区三区AV无码| 日本孕妇一区二区视频操逼免费看 | 亚洲欧美国产其他二区| 涩综合导航| 日本色日夜干| 竹菊一区二区三区AV线| 欧美色日本| 国产夜夜艹| 婷婷色综合| 亚洲精品成人激情在线| 免费一级a毛片久久久久久鸭绿欲| 搡老女人老91二区| 90后后入| 中文字幕一品色图| 天天操美美| 欧美中字二区| 5252色欧美在线| 操死我干死我| 99这里有精品| 亚州精人品大香蕉| 大香蕉123| 婷婷大香蕉| 日本三级日本三级99| 手机在线人成免费视频| 中文字幕国产| 五月婷婷六月丁香网址| 亚洲啪啪视频免费| 日韩激情电影中文字幕| 亚洲中文字幕熟女| 精品九九| 偷拍偷窥与盗摄视频专区| 久久久蜜桃臀无码视频| 热热色中文无码| 欧美劲爆第一页| 九九九九九精品视频| 91美| 欧美亚洲高清| 国产免费黄色一级大片| 69国产对白刺激| 成人性爱免费播放| 国产家庭乱伦表演| 久久久亚洲Av| 天天色,天天干,天天干| 99精品欧美一区二区三区桃色| 一级日本牲交大片好爽在线看| 日韩无码视频黄色| 日韩成人在线性爱视频| 国产精品69人妻无码久久久| 偷拍自拍在线视频观看| 18禁超污无遮挡无码免费网| 亚洲欧美经典一区二区| 色情成人五月天| 少妇蜜汁| 白 大 人妻 区 在线| 综合网97| 欧美色干| 欧美gv在线观看| 少妇一级婬片免费放一级a性色.| 手机在线播放国产福利| 色青青久久影视| 狠狠久久亚洲欧美专区| 嗯嗯啊啊亚欧精品| 色悠久久久av| 粉嫩AV一区二区夜夜| 色哟哟 日韩精品| 伦伦成年午夜免费视频| 色丁香久久| AND人妻系列| 老女人91| 亚洲黑人在线| 无码最新| 久久久久久亚洲精品不卡人乳| 国产有码一区| 国产热av| 欧洲在线性爱视频| 成人 日本A片无码8888| 亚洲日本成人动漫| 北京美女一区二区| 性高潮久久久久久久久久久| 91免费看一区二区三区| 亞洲久久直播| 玖色AV| 老女人91| 一二三区操逼国产91| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 九九激情网| 操B久久| 大香蕉中文网| 国产精品人妻熟女aⅴ| 欧美在线干| 久久中日麻豆| 亚州综合在线| 92人人操人人| 天天日天天舔东京热| 色淫网站优优视频| 国产高清免费不卡av| 1956日韩精品| 九九九不卡| www.大香| 中文字幕制服欧美久久一区| 91美女视频直播| 日日噜噜夜夜狠狠视频无| 97精品国产97久久久久久| 国产欧美日产一区二区三区 - 国产欧美日| 国产9区| 自偷自拍的亚洲视频| 97频视在线| 91人妻人人澡人人爽人人精品| www激情| 风月影院男女十八禁| 一区操逼| 国产精品九9| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 99∨VTV| 久久女女| 日韩成人精品视频自拍| 东北女人的毛片| 2024黄色视频| 亚洲无套久久嗯嗯| 久久久亚洲精品中文字幕人妻| 国产一区在线免费播放| 日韩丝袜高跟制服在线观看| 国内毛片欧美香蕉精品| 精品一区二区三区蜜桃臀赵总| 一区e区三| 亚洲av影院在线观看| 久久这里| 精品国产一区二区三区香蕉欧美| 婷婷色香| 日本三级久| 中日韩久久久免费看| 国产熟女乱论| 国产精品3| JIZZJIZZ国产精品喷水| 亚洲在钱| 午夜高清成人在线视频| 久久久久久中文| 黄色高清无码无码破解免费暗网| 日韩精品系列| 欧美v亚洲v日韩v最新在线二区| 美熟女逼导航AV操逼| 国产精品激情久久久久久久| 国产精品午夜福利视频| 久久亚洲AV成人精品无码| 97超碰超欧美。| 亚洲古典另类欧美在线| 91超碰丝袜制服| 国产成人综合网| 久久粉色| 中文字幕一二三区| 成年人网站在线免费观看| 插入粉嫩少妇视频| 日本三级R| 国产精品乱码久久久| 婷婷色一区| 亚洲欧洲中文日韩女优乱码| 99re只有精品| 亚洲黄色a级片| 岛国天天午夜影院传媒网| 丁香五月成人| 国内精品嫩模A∨私拍小视频| 躁躁日曰躁2020| 久久性爱网站| 黄页av| 夜夜嗷嗷一区二区| 久久精品店| 久久一区二区蜜桃| n1038 一二三区| 夜夜影视四色| 国产精品96久久久久久| 亚州乱码中文字幕综合久久久| 日韩一性一交一A片俄罗斯| 精品二区久久| 亚洲日韩av一区二区三区百合| 欧洲综合无码| 97亚洲自在精品在线观看| 99久久这里只有精品| 国产亚洲精品美女久久久| 国产中文字幕在线| 久久久久久夜夜夜夜夜| 狠日操| 男人久久天堂| 玖玖草久草99蜜月一区二区三区| 婷婷五月综合激情| 国产精品99精品视频网站| 91在线丝袜| 国产传媒日本欧美专区| 色噜噜人妻丝袜a∨先锋影 | 亚洲第一页色| 91深夜夜| 亚洲综合20p| 十八禁一区二区无码观看| 欧美夜夜狠| 丁香六月东京热| 久久精品国产亚洲AV清纯| 国产女主播视频在线观看| 熟妇人妻一区二区三区| 国产精品无码在线| 91肉片| 久久东京热成人| yy少妇精品久久| 97精品国产97久久久久久户外免费| 大香蕉黄色一级片免费看| 777超碰| 99热这里只有精品1| 色眯眯射| 久久香蕉国产传媒一区剧情天美| 欧美少妇性爱网站| 色哟哟 日韩精品| 亚洲天堂资源在线| 欧美91久久久久| 日韩国产十八禁| 亚洲男人天堂2019| 人成午夜免费大片| 成人性爱视频在线看| 日韩操啪| 免费国产视频| 少妇三p| 玖玖无码超碰| 后入式999| 在线观看午夜婷婷久久久久清性观看| 97 亚洲 日韩 欧美 在线| 狠狠色婷婷| 91热爆在线| 亚洲AV无码成人精品久久| 国产操操日韩三级黄| 亚洲av综合伊人久久| 日韩欧无码一区二区三区免费不卡| 欧美少妇色图| 国产区性爱在线视频秋霞豆| 青青青国产手线观看视频2| 91色香| 久久系列| 热热色91| 99中文字幕| 久久97超碰| 青青草国产欧美非洲黑人| 久久尹人大香焦视| 超碰99re| 91肉丝| 成人羞羞视频国产| 中文字幕三四区| 成人精品无码| 日韩一级免费性爱| 欧美性爱97超碰| 综合亚洲网| 亚洲精品 欧美精品| 成人 日韩欧美一区| 国产曰批免费观看久久久| 欧美97爱| 欧美性爱一区二区三区| 屁股久久久久久久久| 日日日骚女人精品| 久久久9品一区二区三区| 久草大| 久久人人看| 深爱激情五月天| 97在线视频观看| 日韩欧美女优电影| 高清不卡视频| 久插不卡| 激情文学 亚洲图片|