久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Kubernetes端口不通但資源正常?Invalid Container Port排障全解析

Kubernetes端口不通但資源正常?Invalid Container Port排障全解析 凌晨三點(diǎn)的告警電話我接過(guò)太多次了但每一次還是讓人瞬間清醒。業(yè)務(wù)同學(xué)在群里說(shuō)“某某服務(wù)超時(shí)率飆升趕緊看看”我打開監(jiān)控面板翻了半天Pod 全是 RunningCPU、內(nèi)存曲線平得像一條直線連日志都沒(méi)有報(bào)錯(cuò)。可服務(wù)就是訪問(wèn)不通。當(dāng)時(shí)的第一反應(yīng)是檢查網(wǎng)絡(luò)插件、防火墻、安全組折騰了一大圈最后才發(fā)現(xiàn)問(wèn)題出在一個(gè)不起眼的地方——Invalid Container Port。這個(gè)場(chǎng)景在 Kubernetes 里非常典型資源都正常、Pod 也活著、網(wǎng)絡(luò)看起來(lái)也沒(méi)問(wèn)題但流量就是到不了應(yīng)用。這篇排障手記我就把“端口不通但資源都正?!边@一類問(wèn)題的完整排查思路、根因分析和實(shí)操步驟整理出來(lái)尤其適合正在做 Kubernetes 運(yùn)維、DevOps 或者后端開發(fā)的朋友遇到同類故障時(shí)可以直接照著抄。1. 癥狀與初始定位明明一切正常為什么就是連不上1.1 這類問(wèn)題最容易讓人誤判的三個(gè)方向先說(shuō)說(shuō)我那次踩坑的經(jīng)歷。業(yè)務(wù)服務(wù)通過(guò) Service 對(duì)外暴露監(jiān)控顯示異常之后我先后懷疑過(guò)三件事。第一個(gè)懷疑的是 CNI 網(wǎng)絡(luò)插件。因?yàn)?Kubernetes 的 Pod 網(wǎng)絡(luò)是靠 Calico、Flannel、Cilium 這類組件來(lái)維護(hù)的一旦網(wǎng)絡(luò)插件出問(wèn)題最常見的表象就是端口不通。我當(dāng)時(shí)先看了網(wǎng)絡(luò)插件的 Pod 狀態(tài)全部正常又看了節(jié)點(diǎn)上的網(wǎng)絡(luò)策略也沒(méi)有異常。這一輪排查純屬浪費(fèi)時(shí)間。第二個(gè)懷疑的是云平臺(tái)的安全組和防火墻。因?yàn)樵谠骗h(huán)境里安全組規(guī)則確實(shí)會(huì)影響 NodePort 和 LoadBalancer 類型的訪問(wèn)。我把安全組規(guī)則翻了又翻發(fā)現(xiàn)規(guī)則都是對(duì)的放行的端口也沒(méi)問(wèn)題。后來(lái)證明這個(gè)方向也是錯(cuò)的。第三個(gè)懷疑的是 Service 的 selector 沒(méi)有匹配上 Pod。這個(gè)方向?qū)α艘话搿獑?wèn)題確實(shí)和 Service 有關(guān)但我當(dāng)時(shí)只看了一眼 selector發(fā)現(xiàn)標(biāo)簽?zāi)芷ヅ渖?Pod就以為 Service 配置沒(méi)問(wèn)題。實(shí)際上問(wèn)題出在更隱蔽的 targetPort 上。現(xiàn)在回頭看這類問(wèn)題之所以容易繞彎路是因?yàn)樗耐庠诒憩F(xiàn)太像“網(wǎng)絡(luò)不通”但資源指標(biāo)又太像“一切正?!?。Pod 沒(méi)重啟、內(nèi)存沒(méi)飆升、CPU 也沒(méi)打滿任何人第一反應(yīng)都不會(huì)是配置問(wèn)題。但恰恰是這種“看著一切正?!钡谋硐笞钊菀鬃屓撕雎宰罨A(chǔ)的配置檢查。1.2 先理清流量路徑再動(dòng)手吃了一次虧之后我養(yǎng)成了一個(gè)習(xí)慣遇到端口不通先不碰網(wǎng)絡(luò)插件也不碰防火墻而是先理清楚流量走的哪條路徑。Kubernetes 里訪問(wèn)一個(gè)應(yīng)用的路徑通常有幾種直接訪問(wèn) Pod IP這個(gè)路徑最底層繞過(guò)了 Service、kube-proxy、DNS 轉(zhuǎn)發(fā)直接打到容器網(wǎng)卡。通過(guò) ClusterIP 訪問(wèn) Service這是最常用的路徑流量經(jīng)過(guò) kube-proxy 轉(zhuǎn)發(fā)的 iptables 或 IPVS 規(guī)則再到達(dá)后端 Pod。通過(guò) NodePort 或 LoadBalancer 訪問(wèn)在 ClusterIP 的基礎(chǔ)上多了一層節(jié)點(diǎn)端口映射。通過(guò) Ingress 訪問(wèn)多一層七層轉(zhuǎn)發(fā)。排查的時(shí)候要一步一步收縮范圍。我的做法是先用kubectl run臨時(shí)起一個(gè)調(diào)試 Pod里面放 curl 或 wget分別測(cè)試這幾條路徑kubectl run debug --imagenicolaka/netshoot --rm -it --restartNever -- /bin/bash進(jìn)去之后先直連 Pod IPcurl http://Pod-IP:port如果直連 Pod IP 能通說(shuō)明容器里的進(jìn)程本身在監(jiān)聽、端口沒(méi)問(wèn)題那問(wèn)題就出在 Service 層。如果直連都不通問(wèn)題大概率在容器內(nèi)部比如進(jìn)程沒(méi)監(jiān)聽、監(jiān)聽地址綁錯(cuò)了、或者協(xié)議不匹配。這個(gè)順序至關(guān)重要。先確認(rèn)底層通不通再往上層查效率至少提高一倍。我見過(guò)不少同事一上來(lái)就去翻 kube-proxy 日志或 iptables 規(guī)則翻了半天才發(fā)現(xiàn)容器里監(jiān)聽的端口跟 Service 配的 targetPort 根本不是同一個(gè)數(shù)。基礎(chǔ)層沒(méi)確認(rèn)上層查得再深都是白搭。2. Invalid Container Port 到底是誰(shuí)在“判定無(wú)效”2.1 containerPort 只是“說(shuō)明書”不是“開關(guān)”Kubernetes 里有個(gè)非常容易被誤解的概念Pod 的containerPort字段。很多新手以為寫了這個(gè)字段Kubernetes 就會(huì)幫你在容器里打開某個(gè)端口。實(shí)際上完全不是這么回事。containerPort不是一個(gè)“開關(guān)”K8s 不會(huì)去監(jiān)聽這個(gè)端口也管不了容器進(jìn)程到底有沒(méi)有在這個(gè)端口上做監(jiān)聽。它只是一份“說(shuō)明書”把信息寫在 Pod 的定義里告訴別人“這個(gè)容器預(yù)期會(huì)使用這樣的端口”。真正把端口打開并監(jiān)聽的是容器里的業(yè)務(wù)進(jìn)程本身。我習(xí)慣用一個(gè)生活化的比喻來(lái)解釋這件事containerPort相當(dāng)于你家門口貼的門牌號(hào)寫的是“302室”。Kubernetes 的 Service 就像快遞員按照門牌號(hào)去送包裹。但如果 302 房間里面根本沒(méi)有人在聽門鈴——也就是說(shuō)容器進(jìn)程根本沒(méi)有監(jiān)聽這個(gè)端口——快遞員按了半天門鈴沒(méi)人開門包裹就只能被退回。此時(shí)快遞員會(huì)報(bào)告“這個(gè)門鈴無(wú)效”這就是我們看到的 Invalid Container Port 現(xiàn)象。理解了這一點(diǎn)你就明白為什么“資源都正?!眳s“端口不通”了容器里的進(jìn)程確實(shí)在跑內(nèi)存、CPU 都正常但它要么沒(méi)有監(jiān)聽 Service 指向的那個(gè)端口要么監(jiān)聽地址不對(duì)要么 Service 引用了一個(gè)根本不存在于 Pod 定義里的端口名。Pod 本身活著但流量沒(méi)人接。2.2 五種常見成因逐個(gè)拆解根據(jù)我處理過(guò)的真實(shí)故障Invalid Container Port 這類問(wèn)題可以歸納成下面五種典型成因。第一種也是最常見的一種targetPort使用了命名端口但在 Pod 里找不到同名的containerPort或者大小寫不一致。Kubernetes 的targetPort支持兩種寫法數(shù)字端口和命名端口。當(dāng)targetPort寫的是數(shù)字時(shí)控制面會(huì)直接把流量轉(zhuǎn)發(fā)到 Pod IP 的對(duì)應(yīng)數(shù)字端口這個(gè)場(chǎng)景下即使containerPort沒(méi)有聲明也能通。但當(dāng)targetPort寫成命名端口時(shí)控制面就必須去 Pod 的 spec 里找名字完全一致的containerPort。注意名字是完全區(qū)分大小寫的HTTP和http是兩個(gè)完全不同的名字。我踩過(guò)最經(jīng)典的一個(gè)坑是Service 里寫的是targetPort: HTTPPod 里聲明的是containerPort: 80, name: http。服務(wù)控制面找不到HTTP這個(gè)名字于是把 endpoint 置空表現(xiàn)就是端口完全不通但 Pod 一切正常。第二種targetPort配的數(shù)字端口跟容器進(jìn)程實(shí)際監(jiān)聽的端口不是同一個(gè)。這種情況不需要命名端口匹配endpoints 也是能生成出來(lái)的Service 的底層規(guī)則也正常但流量到容器門口時(shí)容器里沒(méi)有進(jìn)程在對(duì)應(yīng)端口監(jiān)聽。比如業(yè)務(wù)進(jìn)程監(jiān)聽的是 8080Service 的targetPort寫成 80結(jié)果就是訪問(wèn)超時(shí)或連接拒絕。問(wèn)題的根源在于K8s 不會(huì)因?yàn)槟阏f(shuō)了 80 就去調(diào)用進(jìn)程切換端口它只是原樣把流量送過(guò)去。第三種多容器場(chǎng)景下端口名定義在了錯(cuò)誤的容器上。一個(gè) Pod 里可能跑多個(gè)容器比如業(yè)務(wù)容器加 sidecar 容器。如果targetPort的命名端口匹配到了 sidecar 容器而業(yè)務(wù)進(jìn)程實(shí)際在另一個(gè)容器里監(jiān)聽就會(huì)發(fā)生“端口聲明有但實(shí)際沒(méi)人處理業(yè)務(wù)流量”的情況。這種問(wèn)題檢查起來(lái)特別費(fèi)勁因?yàn)槊謱?duì)得上、endpoints 也正常就是不通。第四種協(xié)議不匹配。Service 定義端口的時(shí)候可以指定protocol默認(rèn)是 TCP。如果容器里業(yè)務(wù)進(jìn)程實(shí)際監(jiān)聽的是通過(guò) UDP 通信的服務(wù)而 Service 定義的protocol: TCP同樣會(huì)出現(xiàn)端口不通。反過(guò)來(lái)也是同樣的問(wèn)題。這種問(wèn)題在日志里最不明顯因?yàn)?TCP 和 UDP 都是同一個(gè)端口號(hào)肉眼很難發(fā)現(xiàn)。第五種業(yè)務(wù)進(jìn)程監(jiān)聽的地址不對(duì)。這不是 Kubernetes 的配置問(wèn)題但很容易被誤認(rèn)為 K8s 問(wèn)題。比如很多 Node 應(yīng)用默認(rèn)只在127.0.0.1上監(jiān)聽這個(gè)地址在容器里只有自己能看到外部流量從 eth0 進(jìn)來(lái)自然連不上。查看監(jiān)聽狀態(tài)時(shí)一定要確認(rèn)監(jiān)聽地址是0.0.0.0或至少是 Pod 的網(wǎng)卡地址。2.3 事件日志里的有效線索遇到這類問(wèn)題一定要會(huì)看事件日志。kubectl describe svc的輸出里會(huì)直接告訴我們關(guān)鍵線索。kubectl describe svc demo-svc正常情況下輸出里會(huì)顯示Endpoints字段帶有實(shí)際的 Pod IP如果端口聲明有問(wèn)題Endpoints會(huì)顯示none。與此同時(shí)Service 的TargetPort字段會(huì)顯示你配置的值比如HTTP/TCP這時(shí)候你去對(duì) Pod 里的containerPort一眼就能發(fā)現(xiàn)大小寫不一致的問(wèn)題。在比較新的 Kubernetes 版本里EndpointSlice Controller 還會(huì)在事件里輸出類似 “invalid container port” 的警告信息直接告訴你目標(biāo)端口在 Pod 里找不到對(duì)應(yīng)項(xiàng)。不同版本的具體文案可能不一樣但排查思路完全一致事件里只要提到invalid container port或failed to build model for service十有八九就是targetPort引用出了問(wèn)題。3. 完整排查流程從 Pod 命令到抓包驗(yàn)證下面這段是我現(xiàn)在遇到“端口不通但資源都正?!鳖悊?wèn)題時(shí)實(shí)際執(zhí)行的標(biāo)準(zhǔn)流程每一步都有對(duì)應(yīng)的命令和判斷邏輯你可以直接拿來(lái)當(dāng)模板用。3.1 第一步確認(rèn)端口是“假活”還是“真活”第一個(gè)動(dòng)作永遠(yuǎn)不是查網(wǎng)絡(luò)插件而是進(jìn)到 Pod 里看進(jìn)程到底監(jiān)聽了什么。這一步的目的是回答最基礎(chǔ)的問(wèn)題容器里到底有沒(méi)有進(jìn)程在監(jiān)聽對(duì)應(yīng)的端口kubectl exec -it pod-name -n namespace -- netstat -tulpn如果 Pod 里有多個(gè)容器記得加-c container-name指定容器kubectl exec -it pod-name -n namespace -c container-name -- netstat -tulpn有些基礎(chǔ)鏡像里沒(méi)有netstat可以用ss命令kubectl exec -it pod-name -n namespace -- ss -tlnp判斷邏輯很簡(jiǎn)單如果看到目標(biāo)端口有進(jìn)程在監(jiān)聽而且監(jiān)聽地址是0.0.0.0或::那容器這一層沒(méi)問(wèn)題。如果端口根本沒(méi)有監(jiān)聽記錄說(shuō)明業(yè)務(wù)進(jìn)程沒(méi)起來(lái)或者起來(lái)了但監(jiān)聽的不是這個(gè)端口。這時(shí)候去容器里看進(jìn)程列表確認(rèn)進(jìn)程是否活著。如果監(jiān)聽了但監(jiān)聽地址是127.0.0.1那流量從外部進(jìn)不來(lái)需要改應(yīng)用的監(jiān)聽配置讓它監(jiān)聽0.0.0.0。這個(gè)步驟能快速把問(wèn)題縮小到“應(yīng)用問(wèn)題”還是“Kubernetes 配置問(wèn)題”。我在這一步至少救回過(guò)三次誤判都是因?yàn)橄热霝橹饔X得資源正常進(jìn)程就一定健康結(jié)果發(fā)現(xiàn)業(yè)務(wù)進(jìn)程其實(shí)已經(jīng)悄然退出了容器靠 init 進(jìn)程活著看著是 Running 但業(yè)務(wù)早已不服務(wù)。3.2 第二步Service 與 Endpoints 的關(guān)聯(lián)排查如果容器里監(jiān)聽正常下一步就看 Service 層。先看 Service 配置kubectl get svc service-name -n namespace -o yaml重點(diǎn)看三個(gè)字段selector、ports[].port、ports[].targetPort。然后把 selector 選中的 Pod 標(biāo)簽對(duì)比一下確認(rèn)匹配關(guān)系kubectl get pod -n namespace --show-labels再查看 endpoinds。老版本里這個(gè)對(duì)象叫 Endpoints新版本切到了 EndpointSlice但kubectl get endpoints依然能看到聚合結(jié)果排查思路是一樣的kubectl get endpoints service-name -n namespace這里會(huì)出現(xiàn)三種結(jié)果第一Endpoints顯示none說(shuō)明后端的地址列表沒(méi)有生成。此時(shí)有兩種可能selector 沒(méi)匹配到任何 Pod或者targetPort引用的命名端口在 Pod 里找不到。區(qū)分方法很簡(jiǎn)單看kubectl describe svc的輸出如果 selector 匹配了 Pod但Endpoints還是空那幾乎可以斷定是targetPort的問(wèn)題。第二Endpoints顯示了 Pod IP用kubectl get endpoints能看到類似10.244.1.5:8080這樣的記錄。這說(shuō)明 Service 層正常endpoint 已經(jīng)生成。如果這時(shí)候再?gòu)募簝?nèi)訪問(wèn) ClusterIP 不通問(wèn)題就出在 kube-proxy 轉(zhuǎn)發(fā)這一層。第三Endpoints顯示 Pod IP 和端口但端口號(hào)跟你預(yù)期的不一樣。這通常也是targetPort的問(wèn)題——你寫成命名端口匹配到了 Pod 里另一個(gè)容器的端口。這一步是最關(guān)鍵的一步。一個(gè)空 Endpoints 直接說(shuō)明問(wèn)題在 Service 引用上不用再去翻網(wǎng)絡(luò)插件。3.3 第三步kube-proxy 規(guī)則層面的驗(yàn)證如果前兩步都正常Service 和 endpoints 都有內(nèi)容但通過(guò) ClusterIP 訪問(wèn)還是不通這時(shí)候再來(lái)看節(jié)點(diǎn)上的轉(zhuǎn)發(fā)規(guī)則。先確認(rèn) kube-proxy 使用的模式?,F(xiàn)在大多數(shù)集群默認(rèn) IPVS 模式有些還是 iptables??梢杂孟旅娴拿畲_認(rèn)kubectl logs -n kube-system kube-proxy-pod | grep Using如果是 iptables 模式在 Service 對(duì)應(yīng)的節(jié)點(diǎn)上查一下 nat 表規(guī)則iptables -t nat -S | grep service-name如果是 IPVS 模式ipvsadm -L -n | grep ClusterIP要特別提醒的是這一步不要放在排查的第一步去做。原因很簡(jiǎn)單iptables 和 IPVS 規(guī)則非常多在沒(méi)確認(rèn) endpoints 正常之前去看規(guī)則等于大海撈針。而且 kube-proxy 的規(guī)則本身就是根據(jù) endpoints 生成的endpoints 是空的規(guī)則自然也是空的endpoints 正常規(guī)則大多也正常。在這一步你還可以做一個(gè)快速的連通性測(cè)試。找一個(gè)集群節(jié)點(diǎn)直接 curl Service 的 ClusterIPcurl http://ClusterIP:port如果這個(gè)都不通而直連 Pod IP 又是通的再考慮是不是 kube-proxy 的問(wèn)題。有一種比較少見但真實(shí)存在的情況endpoints 變化后kube-proxy 規(guī)則刷新有延遲或者卡住了。這時(shí)候解決辦法通常是刪除并重建一個(gè) Pod強(qiáng)制觸發(fā) endpoint 刷新極端情況下重啟 kube-proxy 也能解決。3.4 修復(fù)操作兩種典型場(chǎng)景的改法定位到根因之后修改通常很簡(jiǎn)單但操作過(guò)程中有一些細(xì)節(jié)需要注意。場(chǎng)景一命名端口大小寫不一致。Service 里寫的是spec: ports: - port: 8080 targetPort: HTTP而 Pod 里聲明的是ports: - containerPort: 80 name: http解決辦法是把 Service 的targetPort改成http或者把 Pod 里的端口名改成HTTP。修改 Service 是動(dòng)態(tài)生效的改完之后 endpoint 會(huì)立刻重建不用重啟任何 Pod。場(chǎng)景二targetPort 寫的是數(shù)字端口但和容器實(shí)際監(jiān)聽端口不一致。Service 里spec: ports: - port: 8080 targetPort: 8080容器實(shí)際監(jiān)聽的是 80 端口ports: - containerPort: 80這種情況要改 Service 的targetPort為 80或者改容器監(jiān)聽的端口為 8080取決于業(yè)務(wù)約定。如果改 Pod 配置記得是修改 Deployment 的模板然后滾動(dòng)更新而不是直接改運(yùn)行中的 Pod否則 Pod 重建后配置就沒(méi)了。我個(gè)人的一個(gè)建議是能用數(shù)字端口就用數(shù)字端口簡(jiǎn)單直接不依賴containerPort的聲明如果團(tuán)隊(duì)規(guī)范要求解耦就必須使用命名端口并且把命名規(guī)則寫進(jìn)規(guī)范避免“HTTP”和“http”這種低級(jí)問(wèn)題反復(fù)出現(xiàn)。4. 常見問(wèn)題速查表與避坑經(jīng)驗(yàn)4.1 癥狀-根因-解法速查表實(shí)戰(zhàn)里遇到的情況多種多樣我整理了一張速查表做二次排障的時(shí)候?qū)χ匆谎勰苁〔簧贂r(shí)間。癥狀最可能根因快速確認(rèn)方法解法資源正常SVC訪問(wèn)不通Endpoints為空targetPort是命名端口但Pod里無(wú)同名端口或大小寫不一致describe svc對(duì)比TargetPort與Pod端口名修正端口名或改用數(shù)字端口Endpoints有IP但訪問(wèn)不通直連PodIP也不通容器進(jìn)程沒(méi)監(jiān)聽對(duì)應(yīng)端口或監(jiān)聽地址為127.0.0.1exec進(jìn)Pod執(zhí)行netstat/ss改應(yīng)用監(jiān)聽0.0.0.0改containerPort聲明Endpoints有IP直連PodIP通ClusterIP不通kube-proxy規(guī)則刷新異常或延遲節(jié)點(diǎn)上curl ClusterIP檢查iptables/ipvs刪掉重建Pod觸發(fā)endpoint刷新必要時(shí)重啟kube-proxy只有NodePort不通ClusterIP正常節(jié)點(diǎn)端口被占用或安全組未放行檢查nodePort占用檢查安全組調(diào)整nodePort端口配置安全組放行headless Service訪問(wèn)不通繞過(guò)了kube-proxy直接走Pod IPdig解析域名直連解析出的Pod IP按Pod IP不通的方向排查多容器場(chǎng)景下命名端口聲明在錯(cuò)誤容器targetPort匹配到了sidecar容器端口查看Pod內(nèi)多個(gè)容器端口名將containerPort聲明調(diào)整到正確的容器Service的protocol和業(yè)務(wù)實(shí)際協(xié)議不一致TCP/UDP不匹配確認(rèn)業(yè)務(wù)實(shí)際使用的協(xié)議修改Service的protocol字段4.2 讓這類問(wèn)題少發(fā)生的幾條工程習(xí)慣排查是事了但反復(fù)踩同一個(gè)坑就是工程管理的問(wèn)題了。我歸納了幾條實(shí)際操作中驗(yàn)證過(guò)的經(jīng)驗(yàn)。第一嚴(yán)格約定端口命名規(guī)則。如果團(tuán)隊(duì)決定使用命名端口就一定要在小寫、短橫線分隔的規(guī)范上達(dá)成一致。寫 Service 的人、改 Pod 模板的人、負(fù)責(zé)評(píng)審的人都要清楚targetPort是大小寫敏感的。這個(gè)問(wèn)題在 CI/CD 流程里很容易被忽視因?yàn)?YAML 校驗(yàn)通常只檢查語(yǔ)法不檢查端口名是否真的存在。第二區(qū)分“Pod 狀態(tài)正?!焙汀皯?yīng)用可用”是兩碼事。Kubernetes 里的 Running 只說(shuō)明容器起來(lái)了不代表業(yè)務(wù)就緒。排查端口不通問(wèn)題時(shí)先看kubectl get pod輸出的 READY 列確認(rèn)前面的數(shù)字和容器數(shù)一致。如果Running 但 0/1 Ready說(shuō)明探針沒(méi)通過(guò)endpoint 也不會(huì)掛到 Service 上這同樣會(huì)表現(xiàn)為“資源正常但端口不通”。第三做好端口連通性監(jiān)控。Kubernetes 平臺(tái)自己有健康檢查還不夠最好在集群外部加一層黑盒監(jiān)控比如定時(shí)從測(cè)試機(jī)去撥測(cè) Service 的端口或者用 Prometheus Blackbox Exporter 做 TCP 探測(cè)。只有業(yè)務(wù)視角的監(jiān)控才能在你睡覺的時(shí)候幫你從“Pod 還活著但服務(wù)掛了”的假象里醒過(guò)來(lái)。第四排障順序固化下來(lái)。我現(xiàn)在遇到端口不通心里默認(rèn)走的流程是先看 READY 列再 exec 到 Pod 里確認(rèn)監(jiān)聽再查 Endpoints再查 Service 的 targetPort最后才考慮 kube-proxy 和網(wǎng)絡(luò)插件。這套順序能把 90% 的“端口不通但資源正?!眴?wèn)題在十分鐘內(nèi)定位。4.3 一個(gè)容易被忽略的“假端口”陷阱最后單獨(dú)提一個(gè)小眾但真實(shí)發(fā)生過(guò)的場(chǎng)景有些業(yè)務(wù)進(jìn)程監(jiān)聽的端口是 IPv6 地址比如監(jiān)聽在[::]:8080而 Kubernetes 的網(wǎng)絡(luò)路徑走的是 IPv4。從 IPv4 角度看去這個(gè)端口是“不存在”的因?yàn)?netstat 里可能看到tcp6而不是tcp。某些語(yǔ)言或框架默認(rèn)綁定到 IPv6 時(shí)會(huì)同時(shí)支持 v4-mapped 地址但并非所有框架都會(huì)這樣做。真遇到這種情況去容器里執(zhí)行cat /proc/net/tcp /proc/net/tcp6對(duì)比 IPv4 和 IPv6 的監(jiān)聽情況很快能找到答案。解決辦法是改應(yīng)用的監(jiān)聽配置明確綁定到0.0.0.0。我個(gè)人在實(shí)際操作中的體會(huì)是這類“端口不通但資源都正?!钡膯?wèn)題最大的困難從來(lái)不是技術(shù)本身而是心理上的“它看起來(lái)沒(méi)事”帶來(lái)的迷惑感。資源指標(biāo)正常、Pod 沒(méi)崩、日志干凈太容易讓人把注意力引向網(wǎng)絡(luò)層。但只要耐住性子按“Pod 內(nèi)監(jiān)聽 → Endpoints → Service targetPort → kube-proxy 轉(zhuǎn)發(fā)”的順序一步步排除幾乎都能在十分鐘內(nèi)把根因揪出來(lái)。最后再分享一個(gè)小技巧我寫 Service 時(shí)習(xí)慣在targetPort上直接使用命名端口并且把 Pod 的containerPort名字寫進(jìn)注釋里。這個(gè)習(xí)慣看起來(lái)不起眼但配合代碼評(píng)審能從源頭攔住一大批大小寫不一致、端口名對(duì)不上的問(wèn)題。如果你現(xiàn)在正被端口不通的問(wèn)題折磨先別急著重啟 Pod花兩分鐘看一眼kubectl get endpoints很多時(shí)候答案就擺在那里。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
嗯嗯不要 视频| 插入逼91| 国产精品毛片?v一区二区三区| 99在线精品视频| 九热久| 欧美视频在线视频免费va| 91痴汉| 麻豆天美国美国产| 日逼视频日本| 大茄子熟女AV导航| 2010男人的天堂| 国产中出内射一区二区| 亚洲精品一区中文字幕乱码| 亚洲不卡三级手机播放| 欧美人人天天网| 国产精品免费视频人成| 欧美Ⅴ性爱| 亚州高清色综合| 日韩 欧美 另类 人妻| www.人人摸在线视频| 丁香六月综合激情| 手机在线视频国内精品| 曰韩香蕉97| 久久国产精品一级二级三级| 18禁中文字幕| 久久天堂| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 日韩99精品视频综合区| 成人免费视瓶| 内射夫妻三片| 日韩电影天堂视频一区二区| 精品久久99| 国产亚洲精品A在线观看下载| 中文字幕在线观看网页| www99热| 亚洲伊人a线观看视频| 酒色综合网| 99这里只有精品| 玖玖超碰熟| 久热91| 日韩无码黄色片| 伊人国产成人av网站| 人妻丝袜日本| 中文字幕av片| 伊人久大| 伊香蕉综合久久久久久久噜噜噜| 中文字幕久久精视频久久大全| 99综合网| 999久久久久久久精| 欧美综合骚| 99日精品欧美国产| 亚欧成人综合影院| 人人操人人摸人 | 亚洲精品xxx| 亚洲激情综合另类男同| 久久精品黄色| 97天天综合| 91精片| 国产精品内射婷婷一级二| 日产操逼| 岛国大片在线观看网站入口| 欧美人妻久久精品二区三区 | 在线人人人人人人精品超| 亚洲无码一二三区| 美女黄色一级A视频| 五月婷婷丁香中文字幕| 97 亚洲 日韩 欧美 在线| 97二区四区| 色综合超碰超| 欧美色图亚洲特色| 91 丝袜在线观看| 第一高清av中文字幕| 97色涩| 日韩精品大香蕉伊人在线| 97综合久第一页| 很很很很操| 欧美激情在线观看视频| 午夜视频久久久久一区| 久久曰曰| 九九热精品免费视频| 91 丝袜在线| 97人人爱人人乐| 中文字幕日韩电影人妻| 婷婷AV一区二区三区| 日韩射图| 久久肏大逼| 欧美少妇熟女| 午夜噜噜噜| 变态乱伦伪娘灌肠一区二区| 亚洲精品一区中文字幕乱码| 91成人亚洲色图| 久久久久久网址| 黄色视频特级毛片| 亚洲诱惑天堂| 乱伦1色页| 九九九综合精品| 亚欧美综合网| 国产又粗又又黄又猛| 欧美性综合| 日本韩高清无砖码22o| 91精品久久久久久综合五月天| 亚洲一区二区三区麻豆传媒| 黄色视频高清无码网站| www.97在线| 九九九九精品| 国产九九久久久精品| 亚洲网站一区二区在线| 一区二区三区蜜桃成人撸久久东京热| 呦呦一区| 美女啊啊啊啊pc| 清纯唯美激情| 67914亚洲精品| 九九碰九九爱97超| 超碰99热中文字幕| 精品人妻中文字幕高清| 人妻熟妇久草在线| www.av在线观看| 亚洲drav色图| 精品夜夜澡人妻无码| 97超碰色色| 色综合色色| 在线观看中文字幕| 久久久久久久久久久久久久久久9| 日韩A优精品在线观看| 人妻插插人妻人| 91被操| 国产久久一区二区| AV天天综合| 国产精品呦一区二区三区| 97人人夜| 久久久久亚洲精品| 亚一综合久久久久久久久久| 热热色91| 日产123区精品免费观看| 91久久久久久| 自怕偷自怕亚洲精品| 丝袜视频网国产90| 日本九九久久99| 亚洲综合精品国产一区| 无码人妻一区二区三区色欲aⅴ | 五十路熟女,国产欧美精品区一区二区三区| 精品一二三区久久AAA片| 欧美夜夜| av影片在线观看不卡| 日韩操呦呦影院在线观看| 蜜乳AV一区二区三区四| 欧美大香蕉久| 日本不卡一区二区| 亚洲图片欧美偷拍| 伊人性在线视频| 丝袜天堂网| 97五月天| 黄色高清无码无码破解免费暗网 | 69XX一中文字幕人妻91| 久久久久久久| 性91| 精品久久久av无码免费| 囯产精品久久久久久久久久梁医生 | 狠狠搞 亚洲91| 精品亚洲| 涩涩久久精品| 蜜臀AV网站| 日韩精品人妻中文字幕久久久| 视频在线观看一二三区| 欧美淫穴| 精品国产污一区二区三区| 大香蕉啪啪网| 91 手机在线播放 绯色| 91大学精品激情戏| 国产怡红院| 吉川爱美98堂在线| 五月开心久久AV官网| 91精品久久久久久久久久| 日韩影片中文字幕一区二区三区| 成人性爱电影网| 日韩人妻 中文字幕| 青娱乐亚洲自拍| 欧美性爱www免费版| 第一高清av中文字幕| 天天干美少妇一区| 欧美色997| 麻豆福利视频导航| 日日97| 91社区伊人| 国内偷拍精品一区二区| 国产剧情AV不卡在线观看| 婷婷综合久久| 亚洲第91页| 漂亮人妻被强中文字幕hd| 欧美综合91| 久久久久免费看少妇A片特黄| 国产精品自在自拍视频| 亚洲高清在线| 啊啊啊啊啊啊啊在线| 国产精品福利视频| 中文字幕在线日亚州9| 欧美性后入| 亚洲天堂电影网99999| 亚洲欧美色图| A久久| 亚洲欧美色综合| 麻豆成人影音在线| 久久国产视频性吧 | 另类图片天天影视| 激情干在线| 操人妻逼91| 人人操人人色网| 久热9| 成人欧美日超碰| 久久久精品中文字幕爱豆| 91狠| 大色综合| 中文字幕少妇色| 97超碰超碰| 91久精品| 97免费在线观看| 九热视频| 天天色怡春院| 激情久久久| 国产精品白丝AV| 天天爽天天操| 狠狠色五月亚洲91| 免费观看的av| 一本大道久| 狠狠干综合| 欧亚日韩中文在线| 亚洲欧洲美腿丝袜| 岛国黄| 91久久国产综合精品| 国产Aα| 天天天干977| 亚洲性综合9| 99热这里只有精品18| 国产欧美伊人| 一区二区视频在线播放| 久久久久久免费电影| 日本福利社| 亚洲图片欧美色| 亚州乱码中文字幕综合久久久| 人人弄人人摸| 亚洲中文国际强奸字幕| 少妇高潮喷水无套久久久久久| 综合激情五月天| 久久激情网| 欧美第一页性| 91久久国产综合精品| 蜜臀久久99'精品久久久| 岛国天天午夜影院传媒网| 久久国产乱子伦精品免费女,网站| 超碰在线一区二区| 欧亚乱色熟女一区二区| 久久久久久久一级黄色打同平台| 久久精9| 亚洲精品97中文字幕| 日韩欧视频| 久久国产熟女影院| 久久性爱免费送| 欧美熟女少妇| 亚洲第一页综合在线| 国产高清亚洲日韩一区| 无套内射性感少妇视频| 超碰碰激情97+久| 夜草网站| 天美国产精品| 欧美综合色图片| 国产一区二区三区白丝| 深夜啪啪啪视频免费| 亚洲综合一| 中文字幕在线免费观看2| 国产成人bd在线观看| 精品国产网站| 精品无码久久久久久久久果冻糖心| 青娱乐久久艹| 欧美亚洲成人在线一区二区三区| 操逼视频国产无套| 爱射综合| 日韩日本欧美在线观看| 久久女婷| 91久久婷婷| 亚洲精品美女久久久久久久久| 亚州久久9| 欧美夜夜| 色综合91| A一区片| 国产精品久久9| 啊啊啊好舒服视频| 久久精品一区二区三区不卡| 91福利网在线观看| 亚洲伊人久久精品狠狠在线| 亚欧色图在线激情| 色噜噜人妻av 中文字幕| 天天日夜干| 久草婷婷| av网站国产主播在线| 水澄无码AV| 丰满人妻一区二区三区蜜桃视频| 丁香五月天婷婷姐| 在线午夜成人无码视频| 97一本大道亚洲一区| 五月天我淫我色av| 亚洲色资源| 国模艳艳啪啪一区| 东北操逼| 77777亚洲蜜臀精品久久综合蜜臀| 99精品九九九九九九| 五月婷色| 成人一二| 日噜夜夜夜夜夜夜夜夜夜夜爽爽爽爽爽爽爽爽爽爽爽爽 | 九九九九免费视频| 岛国成人av在线播放网址| 欧美日韩精品久久久久东北老熟妇| 亚洲精品啪视频| 久久天堂网| 丁香五月电影| 天天看天天日天天操| 欧美一区二区在线资源| 在线免费观看日韩一区| 亚欧操逼片在线观看| 久久乐| 国产精品视频内谢女人| 亚洲色图综合网| 91精品久久久久久77777| 日本精品999| 97色色国产视频| 亚洲欧美日韩夜夜| 91无码西班牙视频在线| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 欧美天天谢综合网| 无码高清专| 亚洲区 欧美区| 综合色图亚洲欧美| 岛国片国产成人亚洲播放| 校园春色 亚洲| 日本少妇va7777| 久久一区二区高清免费| 中文久久久| 久热精品色情| 日本精品一区三区| 首页中文字幕中文字幕免费| 久久97超碰| 国产第二页| 欧美人妻精品| 激情五月天丁香社区| 人人性爱视频免费| 欧美色91| 久久精品成人一区二区三区蜜臀| 久操B网| 欧美人妻精品一区二区| 天天综合91| 亚洲第一视频 欧美风情 日韩| 久久久久久性爱视频| 色99视频| 亚洲人妻中文高清| 五月丁香六月综合缴清无码| 国产久久天堂资源| 俺也射| 大香蕉99热| 午夜天堂精品久久久久91| 亚洲最新av无码成人精品区| 国产精品人妻无码久久久互動交流| 国产久久久久影院老熟女| 97色插| 99色| 又黄又爽在线观看视频| 五月天色综合| 我要看免费韩日黄片| 国产精品熟女九色九色蜜臀| 一区二区三区免费视频入口| 精品九九九九九九| 嗯嗯不要视频| 少妇无码999| 大干人妻| 麻豆色约约| 国产热av| 九久久精| 亚州一区二区| 亚洲码在线中文在线观看| 久久久久九九九| 麻豆精品.欧美精品.日韩精品.| 国产吹潮女在线观看| 无码人妻精品一区二区三区九九| 超碰在线97国产| 成人热久久精品| 97色色国产视频| 国产少妇高潮| 老女人老91妇女老热女| 成人欧美日超碰| 久噜噜| 久久久久9| 肉丝无码中文高清| 九九热午夜欧亚国产视频| ...日韩成人一区二区三区字幕| 成人在线午夜视频一区| 97伦乱| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 久久久精品无码亚免费| 美女被艹尤物视频| 婷婷五月在线视频| 亚洲AV免费在线观看| 免费人人搞97| 加勒比av网| 亚洲九九视频| 国产高清成人免费视频| 亚洲国产欧美一区二区潘金莲| 激情五月综合开心五月| 国产又色又爽又舒服的三级视频| 国产原创精品| 夜夜 中文视频rt| 精品无人区麻豆乱码1区2区图片| 欧洲精品一级二级精品综合视频综合 | 免费看A片毛毛片在线播| 精品-91人妻子系列| 激激五月| 无码男人天堂| 欧综合网| 成人小说视频在线精品欧美| 日韩av在线播放不卡| 婷婷五月天激情网| 欧美论理片| 亚洲欧美清纯| 你想操日本小逼吗| 日韩乱码Av| 操逼999| suv精产一二三区| 日本一区二区三区免费观看| 亚洲第一在线视频| 精品国产污一区二区三区| 久久久精品一区二区| 欧美色图 色综合图| 午夜AV人气不卡| 亚洲精品99| 60秒免费视频| 操b在线观看| 色色激情五月天| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 天堂九九九九九九九九九| 97精品国产手机| 高清孕妇孕交 交| 人妻中文字幕精品无码| 日韩人妻资源网| 999熟女精品| 91国产操逼视频| 天美麻花大全视频| 99热导航| 精品人妻一区二区三区四区石在线| 图片区小说区| 日韩欧美水蜜桃人妻| 久艹日日日| 国产精品99久久久www| 欧美伦乱爱| 校园春色综合网| 久久婷综合| 欧美在线 亚洲| 俺去啦俺来也久久综合| 无码99| 夜夜欢天天干| 91美女中出| 青青草原av| 国人欧美精品一区二区| 夜夜爽爽夜夜精品视频| 亚洲国产欧美一区二区潘金莲| 九九九综合精品| 九九九久久久| 欧美少妇一区二区三区| 大色综合| 亚洲91色在线| 看大黄色大片原件| www.男人天堂| 九九探花视频在线观看| 天天搞欧美| 日韩黄色成人性爱| 91大香蕉伊人| 激情综合网激情五月天| 亚洲情色 欧美| 99热免费| 91久久青青草原精品| 国产成人亚洲精品自产在线| 一区二区影视| 另类综合另类| A片A5445444| 色999偷自拍拍| 欧美日产国产在线成人第一区| 国产精品 午夜福利| 亚洲?V无码专区在线电影| 校园春色综合色| 午夜.DJ高清在线观看免费7| 亚洲天天精品| 婷婷色综合| 天天综合中文字幕 91| 欧美极品女人的天堂| 2021国产成人精品久久| 99热在线不卡| 韩国三级理论在线| 97欧美综合| 99re在线观看| 91久久久久久久| 国产高清成人免费视频| 欧美91网站| 极品尤物在线观看| 日本韩高清无砖码22o| 欧美老妇综合网| 太久视频| 亚洲高清自拍| 欧美亚州色的图| 色婷久久| 影音先锋每日最新资源在线观看 | 国产精品一区av在线| 夜夜嗨免费视频| 日日干夜夜干| 成人八戒网站| 狠狠超| 日韩不卡一二三四| 97超碰jingpin| 色情乱伦AV| 麻豆久久一区二区三区| 九九九九97| 青青草密桃在线播放| 3d成人精品一区二区| 久草这里只有精品| 国产人妻精品一区二区三区秋霞 | 91日产欧美| 亚州情色j区| 亚洲暴力强奸AV| dy888午夜老子影视达达兔| 欧美日韩另类字幕中文| 骚乳在线| 920日本午夜免费| 久久成人午夜精品影院| 亚洲成a人v欧美综合天堂下载| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 人人看人人摸人人色| 美女裸体无遮挡永久免费观看网站| 一本色道久久综合熟妇| 99国产精品免费| 天天日老熟妇| 欧美色五月| 久久精品三级影视| 在线观看亚洲专区| 伊人久久在线视频观看| 一个人免费视频观看在线WWW| 亚洲激情在线| 欧美宗合网| 免费男人的天堂| 亚熟hd视频在线| 天美一二三在线观看Av| 啪啪91| 吻戏激情性巴克| 婷婷视频网| 免费视频a级毛片免费视频| 久热香蕉精品在线视频| 亚洲天堂人妻熟妇视频| 性久久| 久久这里是精品| 免费1级a做爰片观看| A片A5445444| 日韩99精品视频综合区 | 欧洲一区二区三区免费| 精品一久久久| 情侣操 逼视频99| 亚洲限制级| 97一本大道亚洲一区| 欧美亚洲日韩16色| 99国产精品自在自在| 欧美国产操逼| 激情婷婷黑人91| 欧美日韩另类激情图片| 亚州欧美色图| 眼镜人妻101.com| 欧美黑人精品在线播放| 亚洲精品一区二区三区在线播放| 日本精品高清一二区一本到| 国产麻豆一级精品视频| 99热综合| 麻豆乱码久久精| 欧美 亚洲 另类 综合| 久久成人午夜狠狠| 舔足天天操天天射| 久热影视| 国模无码一区二区三区在线| 欧美激情综合| 99re这里只有精品3| 久久內射| 亚州黄站| 成人小说另类在线| 五月综合婷婷久久网站| 日韩97超碰中文字幕| 天天综合欧美综合| 久草电影网| 青娱乐淫乱1314| 国产高清MV操逼视频| 农村妇女一级二级三级视频| 超碰精品| 激情婷婷黑人91| 乱伦日本中文自拍| 久久精品色欧美aⅴ一区二区| 日韩有码一区三区| 久久噜| 九九九久久久| 亚洲AV无码乱码在线观看性色| 日本有码久久| 亚洲精品久久一区二区三区蜜桃臀| 九九热精品视频六| 无码天天操| 91麻豆天美国产欧美| 久久熟女久| 国产一级高清免费观看| 色噜噜人妻丝袜a∨先锋影| 啊啊啊啊视频免费| 强乱老妇中文字幕| 中文字幕一区电影在线观看| 精品无码一区二区| 97中文综合| 艹精品| 狼人综合婷婷激情四射| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 草莓精品视频在线免费观看| 99热在线观看| 午夜九九| 乳欲人妻办公室奶水| 精品人妻1237| 超碰人妻久久| 麻豆国产免费影片| 超碰97导航| 国产日逼视频| 亚洲瓯美色图| 老熟妇乱轮| 四虎AV在线观看| 黄页网站成人免费| 手机在线看片免费人成视频| 人人澡人人弄| 亚洲国产成人精品999| 久久久久13| 亚洲天堂加勒比| 九九色婷婷| 91麻豆天美国产欧美高潮| 在线无码网站| 久久久99999久网站| 天天谢天天干| 日本大香蕉| 家庭乱伦国产| 日欧毛片久久| 色伊人91| 中字一区| 女人爽到高潮潮喷18禁网站| 五月天AV资源| 91综合在线| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 欧美色偷拍 | 日韩亚洲Av人人夜夜澡人人爽| 综合欧美日韩在线| 日韩探花精品在线视频| 国产人妻精品一区二区三区秋霞 | 日韩9999| 日韩一性一交一A片俄罗斯| 69久久久久久久久久久久久| 艹少妇网站| 怡红院亚洲怡春院av| 在线观看综合精品亚洲| 嗯嗯啊啊啊好爽| 综合久草| 国产一区二区三区视频在线看| 久久久久密臀视频| 婷婷丁香五月激情啪啪| 婷婷爽人人婷婷爽视频| 欧美日韩资源在线| 中国乱伦一区二区| 亚洲小说视频| 嫩草 人人网精品| 青娱乐亚洲自拍| 97 国产精品| 亚洲情色电影网| 另类小说综合网| 大香蕉伊然在亚洲91| 人妻AV在线| 乱性AV| 热热色国产一二区AV| 一区二区三区色综合| 十八禁电影伊人网| 噜噜噜噜天天狠狠| 天天日日舔舔| 色在线亚洲视频www| 色综合 加勒比| 精品国产一区二区三区av在线资源| 97久久国产| 美女淫穴| 国产欧美一区激情交| 国产深喉视频一区二区| 欧美国产成人在线| 99re在线观看| 欧美激情性爱视频网站| 玖玖综合视频| 男人的天堂2018.| 成人乱码一区二区三少妇| 我想要 啊 啊 啊| 性性欧美| 黄色污污污污污污网站| 日韩中文字幕人妻视频| 加勒比中文av| 久久视频,这里只有精品| 天天色综合图片| 亚洲成a人在线观看久| 亚洲精品97| 国产AV线| 天天天乱色综合全| Julia在线播放亚洲久久| 精品国产人成在线| 久久国产在线一区二区| 亚洲成人帖图| 伊人网在线视频| 手机av天堂久久久久| 国产亚洲国产超碰| 91碰超| 91网站18| 东北女人高潮视频| 久艹99| 日日做夜狠狠爱欧美黑人| 啊啊啊com| www.色婷婷| 久久99午夜精品一区人妻| 欧美成熟性爱精品| 精品久久久久久中文字幕视频免费| 人妻少妇精品无码专区二区密桃| 日韩欧美中文字| 国产熟妇一区二区| 黄总AV色图| 欧美专区在线| 91n美女视频| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 人人操人人摸人| 在线有码中文字幕| 伊人一级免费黄片| 污色区网站| 搡老女人老91妇女老熟女| 亚洲一区二区av| 夜夜夜爽www精品视频| 超碰 欧美| 噜噜噜亚洲精| 东京热,男人的天堂| 亚洲春色欧美| 欧美大的香蕉有线电视视频| 怡春院久久| 97久久久久| 人妻精品一区二区| 国产精品福利视频| 免费操逼91| 视频一区二区三区精品| 情趣丝袜无码操逼视频| www.91人妻.com| 再深点灬舒服灬太大了添视频 | 99热97| 97超碰天天爱天天爱| 亚洲精品天天影视综合网| 亚洲综合小视频小说在线观看| 精品无人区麻豆乱码久久久| 97视频在线观看高清资源| 伊人一区二区三区| 操91| 91狠狠综合久久| 男人午夜天堂| 高清国产成人无码| 91丨熟女丨丰满熟女| 大香蕉乱伦视频网| 久久国产精品一级二级三级| 久久亚州高清| 亚洲诱惑天堂 | 欧美性爱三区二区| 色色操| www四虎| 中文字幕AV片| 暴力av在线| 蜜臀久久99精品久久久电影| 肏逼福利网站| 中文字幕aⅴ在线视频| 免费视频a级毛片免费视频| 920日本午夜免费| 国产中文福利| 欧美综合色图网| 一级做受视频免费是看美女| 亚洲色图日韩精品| 97人肏| 免费超碰97久久| 日韩无限资源| 国产精品宅男免费| 人人爽天天爽| 极品一区二区三区免费| 黄片www视频免费| 亚洲国产午夜真人一级片中文字幕精品黄网站 | 亚洲一区中文精品| 日本理论在线| 99re8免费高清在线| 欧美在线亚洲| 日韩熟女乱伦中出| 久久精品国产精品亚洲艾通辽熟妇| 丝袜喷水在线| 国产精品久久久亚洲第一牛牛_在线观看| 欧美人人操人人插| 色色操| 天天躁夜夜躁狠狠躁AV| CCYY草草影院地址入口| 人妻少妇色综合| 色综合20p| 中英熟女操女| 熟女性视频| 97超碰欧美手机在线| 最近2018中文字幕在线高清第一页| 不卡免费av在线播放| 精品176精品2| 人妻三级在线中文字幕| 激情五月婷婷| 舔人妻中文免费视频| 欧美性爱免费短视频| 97视频在线免费看| 97超碰欧美手机| 国产精品熟女丝袜一区二区| 久久日本熟女精品一区| 思思视频免费看网站| 2020视频1区2区3区| 天天影视综合色| 欧美日韩国产高清在线一二三区 | 久久精品高清无码一区| 激情抓乳插进去啪啪啪日韩 | 日日夜夜精品视频| 99亚洲精品| 91制服丝袜| 立川理惠加勒比无码| 伊人久久亚洲色欲综合网站 | 色色毛片| 一区黄二区黄| 午夜精品久久一区二区| 嗯啊免费视频| 亚洲人成在线放东京热| 久久久艹艹艹| 亚洲影院成人| 内射黑人| 性爱Av免费| 亚洲性少妇| 成人三一级一片aaa| 日日摸日日碰| 无码乱人伦中文视频| 久久久神马影院| 岛国成人av在线播放网址| 日韩在线观看AV| 337p大胆噜噜噜噜噜91Av| 欧美色图片色哟哟| 又大又白奶子| 久久精品国产亚洲5555| 天天综合香 ld视频| 久久免费99精品久久久久久| 大香蕉欧美国产日韩高潮| 高清成年美女黄网站免费大全| 日日干夜夜欢| 婷婷五月天成人网| 狠狠爱综合网| 亚洲天堂人人妻| 婷婷中文网| AV女优男人的天堂| 江都AV在线| 涩涩这里只有精品视频| 久久久9 9 9精品| 25国产精品免费观看| 欧美精品久久96人妻无码| 久久99999| 中文字幕性感少妇av| 少妇精品久久| 人人澡人人弄| 六月色色| 黄色香蕉视频网站一区| 色婷婷一区二区三区久久午夜 | 亚洲欧美日韩激情不卡| 欧美视频第二页| 国产99 中文字幕日韩小视频| 日日夜夜精品视频| 欧美日韩人妻婷婷一区| 操操啪| 操婢日韩| 国产精品不卡少妇白| 男人干美女| 日韩国产中文字幕| 操逼A∨| 久久久久久久久久久精| 久久久久久大| 亚洲欧洲综合视频在线| 三级日韩一区二区三区| 97超碰影音| 青青操少妇| 亚洲激情综合| 久久久久久国产无码精品| 亚洲91网| 在线电影亚洲色图| 国模不卡一本二本三电影| a网站免费观看| 国产精品极品美女视频| 国产传媒av天美传媒在线| 久久久久921| 国产自产91区13区| 婷婷久草| 乱伦3P视频| 性饥渴少妇av无码毛片| www.男人的天堂| 老女人91| 999综合色| 五月天黄色av| 噜噜在线| 欧美黄色片AAAAA| 激情无码日韩| 亚欧高清| 久久婷婷电影网| 中文字幕制服诱惑| 亚洲操操操无码| 伊人午夜福利视频| 神马久久啊啊| 嗯嗯,好大,好爽,好骚| 久久精品视频久久久| 久久五月婷| 日本高清一区二区在线| 飘花国产午夜精品不卡| 污色区网站| 国产精品日日摸夜夜添骚逼| 亚洲区 欧美区| 久久9免费视频| 久久噜| 亚洲日韩欧美一区二区| 欧美亚洲日韩16色| 欧美色日本| 欧美中字二区| 国产乱码精品久久久久久| 日本不卡卡一区| 东京热激情视频一二三区| 91精品综合久久久久久五月丁香| 秋霞视频一区二区| 亚洲高清无码AAA久久久精品| 国产人伦a片信息免费片| 琪琪精品免费一区二区三区 | 欧美最婬乱婬爆婬性视频| 91蜜臀在线久久久久| 野狼激情网| 99中出在线| 熟女在线视频| 欧美曰韩国产精品| 人妻少妇三级| 亚洲超碰综合网| 天天综合网合集91| 婷婷10月天青娱乐| 91亚洲影视| 欧美色网| 秋霞一级A片黄色视频| 日韩性爱1级片视频| 伦伦成年午夜免费视频| 一区二区三区 日韩欧美| 麻豆啪啪啪视频| 婷婷五月色| 超碰亚洲欧美日韩无| 日本少妇va7777| 久久久专区| 99这里只有精品| 97资源久久| 少妇一级无码精品| 国产精品自拍xxxx| 丁香五月电影| 久久国产精品,久久国产| 97在线观视频免费观看| 四虎精品亚洲| 超碰在线人人射| 99精品欧美一区二区三区桃色| 国产精品自在线发布| 色色婷婷五月| 超碰97男人| 男人天堂最新手机版在线青青草| 1024精品在线| 欧美精品23| 91色久| 久久男人网| 2020天天色综合| 探花视频免费观看国产专区| 国产黄片精品在线| 丁香五月天堂网| 白丝jkav| 欧美丝袜中文字幕07在线| PMv在线观看| 操逼网免费无码视频| 欧美AB在线观看| 色97综合中文字幕| 一起草三级AV电影在线观看 | 性在久久久久久| 大香蕉97久久| 精品乱码在线观看| 日韩成年人性爱视频| 亚洲最新a在线观看| 九九热免费国产视频婷婷伊人五月 | 伊人aaa| 91综合中文字幕| 郑州宾馆老熟女露脸啪啪| 欧美另类色图片| 欧美激情亚洲情色| 蜜臀一区二区三区在线| 曰韩成人免费视频| 青草香蕉网| 青青草国产欧美非洲黑人| 欧美丝袜制服久久| 91精品人妻一区二区-全集完整版免费正片国语-B02AV | 色牛牛AV| 性老妇一区二区三区| 日本天天干天天操一区| 久久亚洲AV成人精品无码| 亚洲美欧999| 中文久久久| 成视频在线观看免费看| 色超碰综合| 日韩免费在线观看不卡| 日本熟妇一区二区三区| 天天操福利视频综合网站| 日本三级一区二区 在线| 99爱久久视频频| 久久久人妻| 婷婷色色网| 99精品在线| 亚洲国产一级精品毛一级精品看免费视频| 欧美久久毛片基地| 亚洲欧美人妻| 亚洲一区深夜| 精精品人妻一区二区三区| 天天躁日日躁AAA片李宗瑞| 超碰欧美在线欧美| 欧美日韩免费性爱| 亚洲永久AV无码精品秋霞| 97超碰人人模人人拍人人| 日夜啪电影| 九九碰九九爱97超| 亚码激情| 日韩兔费看黄片| 97蜜桃综合| 日本成人在线不卡一区二区三区 | 91五十路| 97超碰国产精品| 男人天堂网址| 日产国产精品中文久久婷婷| 欧美色就是色| 欧美中文字幕男人天堂久久精品| 色噜噜狠狠色综无码久久合欧美| 午夜人妻精品综合在线| 色噜噜国产精品视频一区二区| www.色婷婷.com| 亚洲资源站| 精品免费1| AV乱伦专区| 操一区| 思思性爱| 国产久久天堂资源| 天天欧美欧美亚洲网| 九九九色| 九九九久久久久| 404操逼福利视频| 91熟女视频网| 欧美亚洲日韩人妻在线观看| 97视频在线| 无码久| 成人av动漫在线观看| 亚洲人久久久久日| 欧美天天谢综合网| 一起草日韩| 密臀在线视频| 欧美日韩国产中文精品字幕自在自线, | 国产精品午夜福利亚洲综合网| 天天天天做夜夜夜夜做| 国产精品久久久久无码AV会牛| 日比av无码| 天天综合网久久ww| 国产91精品福利在线| 中国韩国明星一极片一区乱码毛片人妻熟女一区二区三区 | 国产亚洲福利第一页丝袜| 亚洲一二三| 国产成人+综合亚洲+天堂| 国产精品99999| 超碰免费欧美7| 人妻少妇精品一区二区三区| 91P0RNY大屁股人妻| 国产精品九九| 亚洲欧美大| 18禁美女裸体无遮挡啪啪| 黄色工厂这里只有精品| 大香蕉 222| 日本精品第一视频在'| 国产午夜精品在线观看| 嗯~啊~快点 死我视频免费看网站| 亚洲成人网站在线观看| 伦激情人妻另类人妻| 色97欧美| 天天干天天日天天射黄色片| 婷婷天堂站| 精品国产无码中文| 国产视频第二页| 9长久久精品| 欧美大码在线视频| 日韩欧美经典在线观看| 9色国产精品一区粉嫩| 无码精品啪啪啪一区二区三区三州| 夜夜操天| 天天天天天干夜夜夜夜夜操| 日韩字幕一区| 青青草好吊色| 91亚洲狠狠色| 9久久美女首页| 欧美超碰9798| 香蕉久久国产AV一区二区| 一类av片在线看| 青娱乐国产剧情av一区| 91超碰在线观看| 狠综合网| 日韩少妇丰满亚洲| 国产久久一区二区午夜| 欧亚在线视频| 思思热在线cao| 欧洲黄色网| 中文字幕三四区| 欧美综合天堂| 97在线日韩中文字幕| 精品美女久久一二三| 国产精品午夜成人福利| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 国产亚洲福利第一页丝袜| 啊啊啊啊好多水| 中文字幕熟女人妻丝袜丝| 91欧美综合在线| 麻豆一区在线| 香蕉久久精品| 曰本熟女视频| 人妻插插人妻人| 97干在线看| 成年男人的天堂| 一二三啪啪专区| 国产视频一区二区在线| 亚洲日产专区| 久久久999日本大片| 免费观看有码高清视频| 大香蕉九九| 婷婷五月成人| 亚洲成人在线播放| 丁香六月婷婷久久综合| 激情开心五月天| 91丝袜美女国产| 国产久久一区二区午夜| 亚洲 图片 综合91| 少妇国产不卡| 嫩草 人人网精品| 91久久18禁| 无码人妻精品一区二区三区九九| 金典av| 激情啪啪视频| 91麻豆天美国产欧美高潮| 黄呦呦在线| 亚洲美女AV无码| 日本中文字幕不卡视频| 日韩免费一级性爱视频| 超清福利精品视频在线| 国产精品永久免费10000| 午夜AV人气不卡| 欧美顶级黄色大片免费| 国产精品久久伊人| 99色色|