久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Floodlight 控制器實(shí)戰(zhàn):從 PacketIn 到流表下發(fā)與排錯

Floodlight 控制器實(shí)戰(zhàn):從 PacketIn 到流表下發(fā)與排錯 簡介面向SDN初學(xué)者、網(wǎng)絡(luò)實(shí)驗(yàn)課程學(xué)習(xí)者以及需要搭建控制器環(huán)境的Java開發(fā)者這份資料圍繞開源SDN控制器Floodlight的安裝部署展開重點(diǎn)幫助讀者理解Floodlight在SDN網(wǎng)絡(luò)中的定位并完成基礎(chǔ)實(shí)驗(yàn)環(huán)境的準(zhǔn)備。壓縮包約64.72MB下載頁暫未提供具體文件總數(shù)與類型明細(xì)使用前可結(jié)合資源說明確認(rèn)內(nèi)容構(gòu)成。已有554人瀏覽學(xué)習(xí)說明其在SDN控制器入門與部署實(shí)踐方面具有一定參考價值。內(nèi)容圍繞安裝部署主題組織可幫助讀者在正式動手前建立環(huán)境準(zhǔn)備、依賴檢查與運(yùn)行驗(yàn)證的整體框架減少盲目嘗試。對于希望在Ubuntu等Linux環(huán)境中熟悉Floodlight部署流程、梳理安裝要點(diǎn)與常見問題的人而言可將其作為搭建實(shí)驗(yàn)平臺和后續(xù)配置練習(xí)的參考材料并為后續(xù)SDN實(shí)驗(yàn)與二次開發(fā)打下基礎(chǔ)。1. Floodlight 是什么一條 PacketIn 消息能幫你驗(yàn)證多少假設(shè)floodlight 進(jìn)場的時機(jī)通常很樸素你已經(jīng)能用 Mininet 拉起一堆虛擬交換機(jī)但不知道控制平面在背后做了什么想找個能改源碼、能掛自己模塊、還能用一條 curl 就把內(nèi)部狀態(tài)看清楚的 OpenFlow 控制器。Floodlight 就是這類工具里上手成本偏低的那個——純 Java、單進(jìn)程、自帶 REST 接口跑起來之后對外兩條主線一條面向交換機(jī)的 OpenFlow 通道一條面向人和腳本的 HTTP 接口。前者負(fù)責(zé)收 PacketIn、下 FlowMod后者負(fù)責(zé)讓你在不重啟進(jìn)程的前提下查看拓?fù)?、讀寫流表。它適合的讀者畫像很具體想把流表邏輯跑通一遍的網(wǎng)絡(luò)方向?qū)W生、要做控制器二次開發(fā)的工程師、需要給測試環(huán)境造一個可控控制平面的驗(yàn)證人員。它不承諾生產(chǎn)級高可用也不打算替你做集群選主但能把“我寫的轉(zhuǎn)發(fā)邏輯到底對不對”這件事壓縮到幾分鐘內(nèi)看到結(jié)果。下面從跑通、寫模塊、下發(fā)流表一路寫到排查按我自己搭環(huán)境的順序來。2. 從源碼到 8080 端口Floodlight 本地跑通的最小路徑2.1 構(gòu)建前的依賴清單JDK、Maven 與三個容易漏的環(huán)境項Floodlight 是 Maven 工程構(gòu)建鏈路上翻車最多的地方不在代碼在工具鏈版本。它多數(shù)分支的pom.xml把maven.compiler.source/target鎖在 1.8用 JDK 8 構(gòu)建最省事如果你機(jī)器上只有 JDK 11 以上會在編譯期撞到package javax.annotation is not declared這類錯誤原因是高版本 JDK 移除了部分 Java EE 模塊而老代碼還在直接引用。解決辦法兩條裝一個 JDK 8 并讓JAVA_HOME指過去或者手動往 pom 里補(bǔ)javax.annotation-api依賴。我一般選前者省得后面還有別的模塊踩同一個雷。Maven 這邊3.6.x 是比較穩(wěn)的選擇。3.8.1 之后默認(rèn)阻塞 HTTP 倉庫而一些老 pom 里的 repository 地址還寫著http://構(gòu)建時會直接報Blocked mirror for repositories。這不是網(wǎng)絡(luò)問題是 Maven 的策略變更。要么在settings.xml里給這個倉庫配一個放行規(guī)則要么把地址換成 HTTPS 鏡像。別急著重裝 Maven先看報錯里那行 URL 的協(xié)議頭。# 1. 確認(rèn) JDK 版本1.8 開頭最穩(wěn) java -version javac -version # 2. 確認(rèn) Maven 版本3.6.x 優(yōu)先 mvn -v # 3. 顯式指定 JDK 8避免 shell 里殘留的 JAVA_HOME 干擾 export JAVA_HOME/path/to/jdk8 export PATH$JAVA_HOME/bin:$PATH # 4. 跳過測試打包第一次構(gòu)建不建議跑全量單測 mvn clean package -DskipTests # 5. 產(chǎn)物確認(rèn)正常會生成 target/floodlight.jar ls -lh target/*.jar這段命令的邏輯是“先鎖版本、再打包、最后確認(rèn)產(chǎn)物”。第三步的JAVA_HOME覆蓋很關(guān)鍵很多人java -version看到的是 8但 Maven 用的是另一套 JDK因?yàn)閙vn腳本會讀JAVA_HOME而不是PATH里的java。第五步如果只看到original-floodlight.jar而沒有floodlight.jar說明 shade 或 assembly 插件沒跑完通常是依賴下載中斷刪掉本地倉庫里對應(yīng)的.lastUpdated文件重來。提示第一次構(gòu)建會拉大量依賴網(wǎng)絡(luò)不穩(wěn)時容易出現(xiàn)“編譯到一半缺包”的假成功。構(gòu)建完先看一眼 jar 體積幾百 KB 的量級基本意味著依賴沒打進(jìn)去。2.2 啟動命令與配置文件-cf 改的是哪幾個值Floodlight 啟動時靠一個 properties 文件驅(qū)動默認(rèn)讀 classpath 里的floodlightdefault.properties。想改端口、改加載模塊列表用-cf指定自己的配置文件別去改 jar 里的那份。啟動成功的標(biāo)志是日志里出現(xiàn) OpenFlow 監(jiān)聽端口的行和 REST 服務(wù)的啟動行這兩行沒出現(xiàn)后面所有操作都免談。配置項作用什么時候必須改net.floodlightcontroller.core.FloodlightProvider.openFlowPort交換機(jī)接入端口端口被占用或要和 Mininet 的--controller對齊net.floodlightcontroller.restserver.RestApiServer.portREST 服務(wù)端口8080 被別的服務(wù)占了floodlight.modules啟動時加載的模塊列表加了自己寫的模塊必須顯式登記net.floodlightcontroller.core.FloodlightProvider.keyStoreTLS 證書路徑只做明文本地實(shí)驗(yàn)時建議去掉相關(guān)配置# 用自定義配置啟動前臺運(yùn)行方便看日志 java -jar target/floodlight.jar -cf ./my-floodlight.properties # 后臺跑并留日志排查時用這個 nohup java -jar target/floodlight.jar -cf ./my-floodlight.properties \ floodlight.log 21 # 起來了沒有返回 [] 說明控制器活著但還沒有交換機(jī)接入 curl -s http://127.0.0.1:8080/wm/core/controller/switches/json-cf后面的路徑建議用絕對路徑相對路徑在nohup場景下會因?yàn)楣ぷ髂夸涀兓x不到。第二條命令里21不能省Floodlight 的異常棧大多打在 stderr只重定向 stdout 會讓你在日志里看到一片空白卻查不出原因。第三條 curl 是最輕量的存活探針?biāo)灰蕾嚾魏文K業(yè)務(wù)邏輯只要 REST 服務(wù)起來就有響應(yīng)返回空數(shù)組是正常狀態(tài)返回連接拒絕才是真出問題。2.3 第一次握手Mininet 建拓?fù)浜蟠_認(rèn)交換機(jī)真的上線了控制器空轉(zhuǎn)沒意義得讓它接上交換機(jī)。本地最省事的做法是用 Mininet 起一個線性拓?fù)浒?controller 指到本機(jī)。這里有兩個參數(shù)必須對齊端口和 OpenFlow 版本??刂破鞅O(jiān)聽 6653Mininet 就得連 6653控制器按 1.3 解析消息交換機(jī)就得用protocolsOpenFlow13起。這兩個對不上握手階段就會失敗日志里刷的是解析異常而不是連接拒絕容易被誤判成網(wǎng)絡(luò)不通。# 起一個 3 節(jié)點(diǎn)的線性拓?fù)浣粨Q機(jī)用 OpenFlow 1.3 sudo mn --controllerremote,ip127.0.0.1,port6653 \ --switchovsk,protocolsOpenFlow13 \ --topolinear,3 # 另一個終端里確認(rèn)交換機(jī)是否上線正常會返回 DPID 列表 curl -s http://127.0.0.1:8080/wm/core/controller/switches/json | python -m json.tool # 看某個交換機(jī)的流表把 dpid 換成上一步返回的值 curl -s http://127.0.0.1:8080/wm/core/switch/dpid/flow/json | python -m json.tool--controllerremote表示不啟動 Mininet 自帶的控制器ip和port指向你剛起的那個進(jìn)程。protocolsOpenFlow13是給ovsk交換機(jī)傳的不寫這個部分版本默認(rèn)按 1.0 建鏈。第二條命令返回的數(shù)組長度應(yīng)該等于拓?fù)淅锏慕粨Q機(jī)數(shù)量少一臺就去floodlight.log里搜那臺交換機(jī)的連接記錄。第三條命令是第一手調(diào)試手段流表里能看到priority、match、instructions三個字段后面所有下發(fā)動作的效果都要回到這里驗(yàn)證不要只看 ping 通沒通。3. 模塊機(jī)制為什么你的自定義模塊收不到 PacketIn3.1 IFloodlightModule 六個方法的職責(zé)邊界Floodlight 的功能全部由模塊拼起來一個類要實(shí)現(xiàn)IFloodlightModule就得回答六個問題。這套接口設(shè)計的好處是加載順序由容器管你只需要聲明“我依賴誰”不用操心誰先 new。壞處是錯一個方法就可能靜默不生效——不報錯但你的代碼就是不會被調(diào)用。方法容器什么時候調(diào)常見寫錯的地方getModuleServices掃描階段登記本模塊對外提供的服務(wù)返回 null 和返回空集合語義不同前者表示不提供服務(wù)getServiceImpls同上返回接口到實(shí)例的映射提供了服務(wù)卻沒在這里注冊實(shí)現(xiàn)類getModuleDependencies加載排序前聲明依賴的服務(wù)接口只寫了接口類名忘了 import 或?qū)戝e泛型init依賴就緒后拿context.getServiceImpl取服務(wù)在構(gòu)造器里取服務(wù)此時容器還沒注入startUpinit之后注冊監(jiān)聽器、啟動線程監(jiān)聽器注冊在這里最穩(wěn)不要放 initshutdown進(jìn)程退出前釋放資源起了線程池卻沒關(guān)熱重啟會殘留最容易出問題的是init和startUp的分工。init只做“取服務(wù)、存字段”不要在里面注冊消息監(jiān)聽器startUp才是注冊監(jiān)聽的正確時機(jī)因?yàn)榇藭r依賴的模塊已經(jīng)完成初始化順序有保證。我見過把a(bǔ)ddOFMessageListener寫在init里的寫法表現(xiàn)是模塊時好時壞取決于哪個模塊先加載這種時序問題排查起來很麻煩。3.2 寫一個最小 PacketIn 記錄模塊并掛上去目標(biāo)很小交換機(jī)發(fā)來的每個 PacketIn打印源 MAC、目的 MAC 和入端口。這段代碼不長但每一行都對應(yīng)上面表格里的一個方法可以當(dāng)作模板改。package net.floodlightcontroller.packetlogger; import java.util.Collection; import java.util.Collections; import java.util.Map; import net.floodlightcontroller.core.FloodlightContext; import net.floodlightcontroller.core.IFloodlightProviderService; import net.floodlightcontroller.core.IOFMessageListener; import net.floodlightcontroller.core.IOFSwitch; import net.floodlightcontroller.core.module.FloodlightModuleContext; import net.floodlightcontroller.core.module.FloodlightModuleException; import net.floodlightcontroller.core.module.IFloodlightModule; import net.floodlightcontroller.core.module.IFloodlightService; import net.floodlightcontroller.packet.Ethernet; import org.projectfloodlight.openflow.protocol.OFMessage; import org.projectfloodlight.openflow.protocol.OFPacketIn; import org.projectfloodlight.openflow.protocol.OFType; import org.projectfloodlight.openflow.types.OFPort; public class PacketLogger implements IFloodlightModule, IOFMessageListener { private IFloodlightProviderService provider; // 本模塊不對外提供服務(wù)返回 null 即可 Override public CollectionClass? extends IFloodlightService getModuleServices() { return null; } Override public MapClass? extends IFloodlightService, IFloodlightService getServiceImpls() { return null; } // 聲明依賴容器保證 init 之前 provider 已經(jīng)就緒 Override public CollectionClass? extends IFloodlightService getModuleDependencies() { return Collections.Class? extends IFloodlightServicesingletonList( IFloodlightProviderService.class); } Override public void init(FloodlightModuleContext context) throws FloodlightModuleException { this.provider context.getServiceImpl(IFloodlightProviderService.class); } Override public void startUp(FloodlightModuleContext context) { // 注冊監(jiān)聽放在 startUp依賴已完成初始化 this.provider.addOFMessageListener(OFType.PACKET_IN, this); } Override public void shutdown() { // 沒有線程池留空 } Override public String getName() { return PacketLogger; } Override public Command receive(IOFSwitch sw, OFMessage msg, FloodlightContext ctx) { OFPacketIn pi (OFPacketIn) msg; // 從上下文里取已解析的以太幀避免自己再解析一遍 Ethernet eth IFloodlightProviderService.bcStore.get( ctx, IFloodlightProviderService.CONTEXT_PI_PAYLOAD); OFPort inPort pi.getMatch().get(MatchField.IN_PORT); if (eth ! null) { System.out.println([PacketLogger] dpid sw.getId() in inPort src eth.getSourceMACAddress() dst eth.getDestinationMACAddress()); } // CONTINUE 表示交給后續(xù)監(jiān)聽器STOP 表示到此為止 return Command.CONTINUE; } Override public boolean isCallbackOrderingPrereq(OFType type, String name) { return false; } Override public boolean isCallbackOrderingPostreq(OFType type, String name) { return false; } }邏輯上有三處必須說清。第一receive里沒有自己去調(diào)parse解析字節(jié)流而是用bcStore取上下文里已經(jīng)解析好的Ethernet這樣性能和正確性都由框架保證第二返回值選Command.CONTINUE而不是STOP因?yàn)槲疫€想讓默認(rèn)的轉(zhuǎn)發(fā)模塊繼續(xù)處理這些包一旦返回STOP這個 PacketIn 就到此為止網(wǎng)絡(luò)會直接不通第三isCallbackOrderingPrereq和isCallbackOrderingPostreq都返回 false表示不干預(yù)和其他監(jiān)聽器的相對順序?qū)砣绻阋鶕?jù)流表判斷、必須跑在轉(zhuǎn)發(fā)模塊之前就要在這里對forwarding這個名字返回 true。注意pi.getMatch().get(MatchField.IN_PORT)需要 importorg.projectfloodlight.openflow.protocol.match.MatchField漏了這個 import 編譯期會報泛型推斷失敗報錯信息看著像類型問題實(shí)際只是少了一行。3.3 依賴聲明與加載順序模塊沒生效的三個原因代碼寫完了重啟控制器日志里一條[PacketLogger]都沒有。這是新手最??ㄗ〉牡胤皆蚧咎硬怀鋈N。第一種模塊沒登記。Floodlight 不會自動掃描 classpath 下的所有IFloodlightModule實(shí)現(xiàn)必須把類名寫進(jìn)配置文件的floodlight.modules列表用逗號分隔。加了新模塊卻沒改這行等于沒寫。第二種登記了但加載失敗。日志里會有一行加載異常但它往往被埋在幾千行 DEBUG 里。把日志級別臨時調(diào)高到 INFO或者直接grep -i PacketLogger floodlight.log能快速定位是構(gòu)造失敗還是依賴沒找到。第三種類沒打進(jìn) jar。這在自己加源碼、用mvn package重新構(gòu)建的場景下很常見——你改的是 IDE 里的源碼目錄跑的還是上一次構(gòu)建的 jar。判斷方式很簡單unzip -l target/floodlight.jar | grep PacketLogger看不到類文件就說明構(gòu)建沒帶上你。# 配置文件里顯式登記追加在原有模塊列表后面 # floodlight.modules ...,net.floodlightcontroller.packetlogger.PacketLogger # 構(gòu)建后確認(rèn)類真的進(jìn)了 jar unzip -l target/floodlight.jar | grep -i packetlogger # 啟動后確認(rèn)模塊被加載 grep -i PacketLogger floodlight.log | head -20這三條命令的順序就是排查順序先確認(rèn)配置登記再確認(rèn)產(chǎn)物包含最后確認(rèn)運(yùn)行時加載。跳過任何一步都可能白折騰半小時。4. 流表下發(fā)從 PacketIn 到 FlowMod 的完整閉環(huán)4.1 PacketIn 到達(dá)后你有三種處理方式交換機(jī)遇到匹配不上的包默認(rèn)動作是把它整個或頭部加一段發(fā)給控制器這就是 PacketIn??刂破魇盏街笥腥齻€選擇選哪個決定了這條流量后面怎么走。第一種是泛洪也就是讓包從除入端口外的所有端口發(fā)出去適用于你還不知道目的端在哪的場景學(xué)習(xí)型交換機(jī)的初始行為就是這個。第二種是丟棄直接不回適合做策略阻斷。第三種是下發(fā)一條 FlowMod把“以后遇到同類型的包該怎么辦”寫進(jìn)交換機(jī)后續(xù)同流量的包不再上送控制器。第三種是真正把控制平面用起來的方式前兩種更像是調(diào)試手段。這里有個容易忽略的細(xì)節(jié)PacketIn 可能攜帶 buffer_id表示交換機(jī)把原始包暫存在本地緩沖區(qū)了。如果你下發(fā)的 FlowMod 帶上了同一個 buffer_id交換機(jī)會直接把緩存里那個包按新流表轉(zhuǎn)發(fā)出去不需要你重發(fā)如果帶的是OFP_NO_BUFFER那個包就丟了得等重傳。首包丟失在 TCP 場景下表現(xiàn)為建連慢半拍很容易被誤認(rèn)為“流表沒生效”。4.2 用 Java 構(gòu)造一條 FlowModMatch、Instructions、buffer_id下面這段代碼完成的事收到 PacketIn 后按“入端口 IPv4”匹配下發(fā)一條 30 秒空閑過期的流動作為從指定端口輸出。這是一個最小可用的轉(zhuǎn)發(fā)邏輯改匹配字段就能擴(kuò)展成別的策略。// 在 receive 方法內(nèi)部拿到 pi 之后 private void installFlow(IOFSwitch sw, OFPacketIn pi, OFPort outPort) { // 用交換機(jī)自己的 OFFactory保證版本和協(xié)商結(jié)果一致 OFFactory factory sw.getOFFactory(); Match.Builder mb factory.buildMatch(); // 精確匹配入端口避免影響其他端口進(jìn)來的同目的流量 mb.setExact(MatchField.IN_PORT, pi.getMatch().get(MatchField.IN_PORT)); // 只對 IPv4 生效ARP 等二層流量交給默認(rèn)邏輯 mb.setExact(MatchField.ETH_TYPE, EthType.IPv4); // 動作從指定端口輸出 OFAction output factory.actions().buildOutput() .setPort(outPort) .setMaxLen(0) // 0 表示不截斷 .build(); // 指令立即執(zhí)行上面的動作 OFInstruction applyActions factory.instructions().buildActions() .setAction(output) .build(); OFFlowMod flowMod factory.buildFlowAdd() .setMatch(mb.build()) .setPriority(32768) // 高于 table-miss 的 0 .setIdleTimeout((short) 30) // 30 秒無流量即刪除 .setHardTimeout((short) 0) // 0 表示不設(shè)絕對過期 .setBufferId(pi.getBufferId()) // 復(fù)用交換機(jī)緩存的原始包 .setInstructions(Collections.singletonList(applyActions)) .build(); sw.write(flowMod); }關(guān)鍵在sw.getOFFactory()這一行。不要用全局靜態(tài)的 factory也不要用按 OpenFlow 1.0 構(gòu)造的 builder 去給 1.3 交換機(jī)下發(fā)版本字段對不上會導(dǎo)致交換機(jī)回一個錯誤消息而控制器側(cè)只看到流表沒增加很容易誤判。setBufferId(pi.getBufferId())是首包不丟的關(guān)鍵pi.getBufferId()在交換機(jī)不緩存時會返回OFP_NO_BUFFER這時行為等同于不指定屬于安全寫法。setMaxLen(0)表示輸出完整包如果你在做抓包分析、只關(guān)心頭部可以設(shè)成 128 之類的小值來降低帶寬。4.3 用靜態(tài)流表 REST 接口手工下發(fā)curl 與字段對照不想每次改邏輯都重啟控制器就用 REST 的靜態(tài)流表接口。它是排查和驗(yàn)證流表字段的最快通道也是把“控制器邏輯”和“流表內(nèi)容”分開驗(yàn)證的好辦法。注意接口路徑在不同分支之間變過/wm/staticflowpusher和/wm/staticentrypusher兩種前綴都出現(xiàn)過先探一下哪個有響應(yīng)再發(fā)數(shù)據(jù)。# 先探測路徑返回 200 說明這個前綴可用 curl -s -o /dev/null -w %{http_code}\n \ http://127.0.0.1:8080/wm/staticflowpusher/json # 下發(fā)一條 IPv4 轉(zhuǎn)發(fā)流actions 里的 output2 表示從 2 號端口出去 curl -s -X POST \ -d { switch: 00:00:00:00:00:00:00:01, name: f-ipv4-01, eth_type: 0x0800, ipv4_src: 10.0.0.1, ipv4_dst: 10.0.0.2, priority: 32768, idle_timeout: 30, active: true, actions: output2 } \ http://127.0.0.1:8080/wm/staticflowpusher/json # 查已下發(fā)的靜態(tài)流確認(rèn)字段沒被吞 curl -s http://127.0.0.1:8080/wm/staticflowpusher/list/00:00:00:00:00:00:00:01/json \ | python -m json.tool # 用完刪掉避免殘留影響后續(xù)實(shí)驗(yàn) curl -s -X DELETE \ -d {name:f-ipv4-01,switch:00:00:00:00:00:00:00:01} \ http://127.0.0.1:8080/wm/staticflowpusher/json字段對照關(guān)系要記牢switch是交換機(jī)的 DPID也就是dpid的十六進(jìn)制形式name是這條流的唯一標(biāo)識刪除時必須帶active是字符串true而不是布爾值寫成布爾會被靜默忽略actions是一段用逗號分隔的動作串outputN里的 N 是交換機(jī)端口號不是主機(jī)編號。返回體里如果是status:Entry pushed就說明成功如果是could not be pushed先檢查字段名拼寫——1.0 和 1.3 的匹配字段名不通用。4.4 優(yōu)先級、idle_timeout、buffer_id 三個必調(diào)參數(shù)參數(shù)取值范圍設(shè)錯的典型后果我一般怎么設(shè)priority0 到 32768比已有流低導(dǎo)致永不命中業(yè)務(wù)流 32768table-miss 固定 0idle_timeout秒0 表示永不過期設(shè)太短導(dǎo)致流反復(fù)重建、控制器 CPU 高實(shí)驗(yàn)環(huán)境 30演示環(huán)境 300buffer_id交換機(jī)分配或OFP_NO_BUFFER用錯導(dǎo)致首包丟失、TCP 建連慢直接用 PacketIn 攜帶的值priority的坑在于它是全局比較而不是按表比較在單表場景下一條 priority 為 100 的寬匹配流會擋住后面所有 priority 更低的精確流。table-miss 那條流必須保持 priority 0、match 為空它決定的是“沒命中任何流轉(zhuǎn)發(fā)控制器”這個兜底行為刪了它交換機(jī)遇到未知包會直接丟表現(xiàn)為新連接全部失敗但已有連接正常非常具有迷惑性。idle_timeout的坑在于它是空閑計時不是生存計時。有人設(shè) 5 秒想“快速回收資源”結(jié)果低頻心跳流量每小時才來一次流表里那條記錄反復(fù)被刪了重建控制器側(cè)日志刷得飛快。實(shí)驗(yàn)環(huán)境下 30 秒足夠演示環(huán)境建議 300 以上寧可多留一會也別讓它頻繁抖動。buffer_id的坑上面提過這里補(bǔ)一個排查技巧如果懷疑是首包丟失導(dǎo)致的建連慢先在receive里打印pi.getBufferId()和pi.getTotalLen()交換機(jī)不緩存時會明確給出OFP_NO_BUFFER這種情況你只能靠重傳不是代碼寫錯了。5. 排查交換機(jī)連不上、流表不生效的六個坑5.1 連接層的三個坑端口、版本與加密坑一交換機(jī)一直重連日志里是握手失敗?,F(xiàn)象是 Mininet 起來后pingall全丟控制器日志里反復(fù)出現(xiàn)連接建立又?jǐn)嚅_的記錄但沒有任何業(yè)務(wù)日志。原因通常是 OpenFlow 版本不匹配Mininet 的交換機(jī)默認(rèn)按 1.0 建鏈而控制器這邊按 1.3 解析雙方在 hello 階段商量不出共同版本直接斷開。解決是給 Mininet 顯式加protocolsOpenFlow13或者在控制器配置里允許 1.0。判斷依據(jù)很簡單看斷開前的最后一條日志里有沒有版本號字段??佣丝趯戝e連的是沒人監(jiān)聽的地址?,F(xiàn)象比坑一更安靜Mininet 側(cè)沒有任何報錯控制器側(cè)連一條連接記錄都沒有。原因是--controllerremote,ip...,port...里的端口和配置文件里的openFlowPort不一致常見組合是 6633 和 6653 混用。老版本默認(rèn) 6633新版本默認(rèn) 6653Mininet 不同發(fā)行版的默認(rèn)值也不一樣。解決是先ss -lntp | grep java確認(rèn)進(jìn)程真實(shí)監(jiān)聽的端口再把這個數(shù)字抄到 Mininet 參數(shù)里不要憑記憶。坑三控制器要加密連接交換機(jī)只會明文?,F(xiàn)象是 TCP 能連上但握手階段立刻斷開日志里出現(xiàn)證書或 TLS 相關(guān)字樣。原因是默認(rèn)配置里帶了 keyStore 路徑控制器啟動時生成了自簽證書并要求加密通道而 Mininet 的交換機(jī)默認(rèn)走明文。解決是在自己的配置文件里把 keyStore 相關(guān)項刪掉或置空重啟控制器。這個坑的隱蔽之處在于TLS 失敗和版本失敗的表面現(xiàn)象很像都是連上就斷只能靠日志里的關(guān)鍵字區(qū)分。5.2 轉(zhuǎn)發(fā)層的三個坑table-miss、ARP 與殘留流坑四流表查得到但 ping 就是不通?,F(xiàn)象是 REST 接口能查到剛下發(fā)的那條流match和instructions都正確但流量不命中。原因多半是 table-miss 那條兜底流被刪了或者 priority 被改過導(dǎo)致交換機(jī)遇到需要上送控制器的包直接丟棄ARP 請求根本到不了控制器自然也就沒有后續(xù)的流表下發(fā)。解決是確認(rèn) table-miss 存在且 priority 為 0或者干脆重啟控制器讓它重新下發(fā)默認(rèn)流。排查時先看 ARP 通不通再看 IP順序反了會浪費(fèi)很多時間??游錓P 流表寫了但 ARP 沒人管主機(jī)學(xué)不到 MAC?,F(xiàn)象是流表里 IPv4 轉(zhuǎn)發(fā)規(guī)則齊全但主機(jī)側(cè) ARP 表一直是 incompleteping 直接報“目的主機(jī)不可達(dá)”。原因是你的模塊只處理了 IPv4 的 PacketIn把 ARP 的包也一并STOP掉了或者沒有讓默認(rèn)轉(zhuǎn)發(fā)模塊接手。解決是把receive的返回值按包類型區(qū)分非 IPv4 的包一律返回CONTINUE讓默認(rèn)邏輯去泛洪。這個坑的典型特征是“流表看起來完美網(wǎng)絡(luò)就是不通”。坑六改了邏輯重啟舊流表還在新邏輯不生效?,F(xiàn)象是代碼改了、jar 換了、進(jìn)程重啟了行為卻和改之前一模一樣。原因是流表存在交換機(jī)側(cè)控制器重啟不會清空它們舊的高優(yōu)先級流還在生效新下發(fā)的流因?yàn)閮?yōu)先級相同或更低永遠(yuǎn)不會被匹配到。解決是重啟后先對每臺交換機(jī)做一次全量清流再驗(yàn)證新邏輯。清流之后建議先pingall跑一遍確認(rèn)兜底路徑正常再去看具體策略。# 清空某臺交換機(jī)的全部流表謹(jǐn)慎使用會短暫中斷該交換機(jī)上的所有轉(zhuǎn)發(fā) curl -s -X GET http://127.0.0.1:8080/wm/core/switch/00:00:00:00:00:00:00:01/flow/clear/json # 確認(rèn)流表已空 curl -s http://127.0.0.1:8080/wm/core/switch/00:00:00:00:00:00:00:01/flow/json \ | python -m json.tool清流這個動作要養(yǎng)成習(xí)慣它相當(dāng)于給自己留了一顆后悔藥任何“改了不生效”的懷疑先用它排除交換機(jī)側(cè)殘留再去查代碼。跳過這一步直接讀代碼經(jīng)常是讀了兩小時發(fā)現(xiàn)邏輯沒錯只是舊流沒刪。6. 進(jìn)階把 REST 接口串成回歸腳本驗(yàn)證下發(fā)是否真的生效手工 curl 在驗(yàn)證階段夠用但當(dāng)你開始反復(fù)改模塊邏輯就需要一個能一鍵回答“這次改動有沒有破壞原有行為”的腳本。我的做法是用 Python 寫一個小回歸器只做三件事下發(fā)前清流、下發(fā)后輪詢流表確認(rèn)條目存在、跑一次連通性檢查。它不追求覆蓋所有場景但能把“看起來成功了”和“真的成功了”區(qū)分開。import json import time import requests BASE http://127.0.0.1:8080 DPID 00:00:00:00:00:00:00:01 def clear_flows(): # 清空指定交換機(jī)的流表避免上一輪殘留干擾 requests.get(f{BASE}/wm/core/switch/{DPID}/flow/clear/json, timeout3) def flow_exists(cookie_prefix): # 輪詢交換機(jī)流表按 cookie 前綴匹配確認(rèn)下發(fā)的流真的落地 for _ in range(10): resp requests.get(f{BASE}/wm/core/switch/{DPID}/flow/json, timeout3) flows json.loads(resp.text).get(DPID, {}).get(flows, []) for f in flows: if f.get(cookie, ).startswith(cookie_prefix): return True time.sleep(0.5) # 交換機(jī)寫入有延遲別只查一次 return False if __name__ __main__: clear_flows() time.sleep(1) # 這里換成你自己的下發(fā)邏輯或者直接走靜態(tài)流表接口 print(flow landed:, flow_exists(0x0))腳本里有兩個細(xì)節(jié)值得說。一是time.sleep(0.5)加輪詢而不是查一次就下結(jié)論交換機(jī)寫入流表到 REST 接口能查到之間有毫秒級延遲單次查詢會偶發(fā)誤判這種偶發(fā)失敗最消耗排查時間。二是按 cookie 前綴匹配而不是按名字因?yàn)殪o態(tài)流表接口和模塊下發(fā)的流在字段上不完全一致cookie 是兩邊都能設(shè)且不參與匹配的字段適合當(dāng)標(biāo)記位。三種驗(yàn)證手段的取舍可以對著下表選手段能看到什么開銷適合階段控制器日志打印模塊是否被調(diào)用、參數(shù)是什么低但需要改代碼開發(fā)期定位邏輯分支REST 查流表交換機(jī)側(cè)實(shí)際生效的條目低無需改代碼每次下發(fā)后的必查項端到端連通性測試數(shù)據(jù)面是否真的通中要起拓?fù)涮峤磺暗淖罱K確認(rèn)我踩過最貴的一次坑是只看了日志就認(rèn)為功能正?!罩纠锬K確實(shí)被調(diào)用了參數(shù)也對但下發(fā)的那條流因?yàn)閮?yōu)先級和已有的 table-miss 撞了交換機(jī)根本沒執(zhí)行。日志是控制器的視角流表是交換機(jī)的視角這兩個視角不一致的時候永遠(yuǎn)以交換機(jī)為準(zhǔn)。后來我給自己定了個規(guī)矩任何涉及流表的改動必須同時有日志、流表、連通性三樣證據(jù)缺一樣就先別提交。希望這些步驟能幫你在自己機(jī)器上把這套東西跑順少走幾段我走過的回頭路。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
97色论| 韩国手机不卡无码三级视频| 成人a v在线播放免费| 亚洲欧洲无码bt精品合集| 18禁看网站一区| 性影在线视频| 婷婷91| 美女啊啊啊啊啊啊啊| 中文97国产| 屁股久久久久久久久| 青青草影视蜜久久| 天天干人人看综合| 岛国色情视频在线观看| 六月色色| 亚洲精品一卡二卡三卡福利视频网站| 九九九九97| 亚洲少妇视频| 人人操人人搞人人草| 涩涩这里只有精品视频| 99热在线观看| 9久精品视频在线观看| 色网亚洲人| 日韩免费中文字幕视频| 簧片免费看视频| 日韩影片中文字幕一区二区三区| 一区久久久二区| 五十路熟女工口| 91精品导航| 精品久久久高清无码| 秋霞视频一区二区| 熟妇人妻一区二区三在线| 一级二级三级黑人无码| 久久原创中文| 噜噜噜噜天天狠狠| 殴美性天天| 国产女人和拘做爰视频| 久久亚洲av成人无码国产| 国产精品三级视频网站| 97视频7| 劲爆欧美人妖三区91| 69天堂| 加勒比久久综合网高清| 草草影院最新网址| 一牛影视久久久一区二区三区| 日日碰视频网| 日本精品一级二级三级| 无码国产精品久久久久| 久久国产精品91| 男人天堂网手机版婷婷| 欧美成人A√在线一区二区| 国产99 中文字幕日韩小视频| 国产AV天美| 777超碰| 91成人久久| 最新国产亚洲精品精品国产亚洲综合| 久久精品一区| 国产无码久久高清| 2020中文字幕| 午夜亚洲| 日本网色| 九九九九免费高| 九九综合九九综合| 久久久久久午夜男人的天堂| 久久精品区| 可免费观看的av毛片中日美韩| 日本无码1| 欧色综合| 欧美色欧美| 欧美一区二区亚洲天堂| 91成人国产综合久久精品蜜月| 淫淫综合网| 熟女精品va中文字幕| av在线人气| 国产精品久久久 | 精品人妻一区二区三区四区不卡在| 国产九九九九九九九九| 久久久久夜夜夜夜| 麻豆人妻精品一区二区| 夜夜嗨一区二区三区直播内容| 自拍偷拍 日韩无码| 美女AV一区二区| 日本一区二区三区免费观看| 先锋音影AV| 日本性爱视频一级| 欧美性天天影视| 天天天肏屄肏屄肏屄欧美欧美| 超碰成人公开| 夜夜综合| 大香网站| av草草在线电影| 91露脸熟女专区| 999久久久九| 免费试看60秒| 日韩素人无码一区二区三区三州| 78久久| 国产AV超爽| 国产精品97超碰| 日本理论在线| 久久久久96| 亚洲少妇中文字幕网址| 激情综合 婷婷五月 红杏| 91足交| 亚洲系列欧美| 五月天综合| 99热这里只有精品18| 色五月婷婷在线| 亚洲色图欧洲| 久久精品国产99国产精品亚洲| 99在线免费公开视频| 日韩精品电影| 免费黄色视频网址| 国产色产精品在线观看| 天天综合网在线| 一级毛片久久久久久久女人18| 亚洲免费97免费| 九月丁香婷婷色| 久久9999 | 在线观看综合精品亚洲| 91欧美情色| 夜夜一区二区| 国模无码人体一区二区三| 日欧毛片久久| 婷婷综合激情| 97爱| 国产性爱欧美性爱在线| 去干网最新版| 欧美夜夜草视频| 超碰98综合网| 97日本超碰综合| 乱伦a片视频| 国产精品第一页国产大屁股视频免费区i| 久久久精品国产亚洲AV无码| 久久中文字幕人妻熟av女蜜柚| 午夜精品视频777| 久久精品无码专区| 欧亚日韩三区| 综合色色婷婷| 淫荡网址| 热久久无毒不卡| 人妻日日夜夜精品| 爆操无码| 日韩操p| 97chaopenrihan| 人妻夜夜爽天天爽麻豆三区网站| 人妻乱仑一区二区三区| 日韩日本欧美在线观看| 一本大道久| 中文字幕55555| 8050午夜少妇无码| 久久久久夜夜夜夜| 日韩97精| 青青草色情网站视频| 国产69精品久久久久99尤物| 一区二区影视| 十八禁黄色成人网站观看| 国产欧美一区激情交| 午夜福利一区二区影院| 国产深喉视频一区二区| 大香蕉性欧美| 天综合网欧美| 四虎 精品 WWW| 99操99| 视频黄色国产一级| 黑人免费福利视频| 人人妻人人澡人人爽人人精品浪潮| 熟女AV一区| 久久久亚洲精品电影免费看| 99在线精品视频| 国产高清MV操逼视频| 2017大香蕉| 黄页网站成人免费| h色99999| 亚洲、日韩、综合、另类| 97任你吞精| 色y情视频免费看| 男人天堂2017| 男同专区一区二区三区在线| 久久精品男人的天堂| 蜜桃在线观看一区二区三区| 欧美日韩国第一区| 五月婷婷五月天| 白嫩国模丰满一二三区| 天堂俺去俺来也www久久婷婷| 亚洲交性| 中文字幕乱妇免费视频| 超碰97综合网| 欧美日本不卡| 99最新日韩偷拍视频| 1二区9| 日本女厕偷拍| 神马午夜久久久| 天天日日本| 色综合中文字幕不卡| 人妻熟女一区在| 亚洲性爱无码乱伦av| 看一级特黄a大一片| 九九热久久99精品re| 沈阳熟女高潮对白视频| 91香蕉国产尤物视频| 欧美日日人人天天| 超碰吊日色| 欧美热图99| 桑老女人九区| av橘色网站| 91青青| 欧美精品系列| 一本久久久精品| 亚洲综合射| 9超碰免费| 九九九久千久久激情蜜桃在线看 | 人妻少妇精品无码专区二区密桃| 青青操在线亚洲视频观看欧美在线 | 亚洲骚男同com| 夜夜嗨一区二区三区三州加勒比| 亚欧美综合| 玖玖超碰熟| 伊人四虎综合| 91久| www国产无码| 又大又大又大又粗爽高潮观看 | 操逼视频亚洲| 青娱乐日韩无码| 精品久久人妻成人网| 日韩乱伦视频| 狠狠爱综合网| 小草精彩毛片| 久久99手机免费视频| 伊人久久大香线综合无码| 亚洲综合113页| 超碰 av 女人天堂| 偷拍片久久| 欧美性少妇| 亚洲高清综合网| 91肉丝| 日韩熟女操逼| 欧美系列在线一区二区| 激情综合五月| 人妻在线臀日韩| 大香蕉男人的天堂| 骚妻少妇精品性色无码四色A V| 欧美少妇高潮| 快灬快灬 一下爽蜜桃在线观看 | 欧美成人精品一区二区三区| 老女人老91妇女老热女| 精品无人区麻豆乱码1区2区图片| 91精品国产91综合久久蜜臀| 国产一级不卡在线观看| www.99热| 国产少妇肉丝在线观看| 韩国女主播青草在线| 综合网97| 后入国产| 日本欧美韩国国产在线| 久久一区二区三区入口| 天天日日舔舔| 中国熟女91| 成人青青草原伊人| 日韩av性爱在线播放| 国产精品蜜臀久久久久无码AV| 强奸乱伦大香蕉| 天天日夜夜爽| 欧美激情一区二区| 偷拍导航视频网站| 伊人专区一区二区三区| 狼人久草| 亚洲天堂美臀在线| 欧美一级黄色免费专区| 国产无马av| 国产久久视频| 91熟女丨老女人| 日韩人妻一区二区| 看日韩操逼| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 久久久久久亚洲Av无码精| 五月天玖玖资源站| 清柠毛片| 99热在线不卡| 欧美一二级| 欧美v日韩v亚洲v最新在线| 91在线视频观看国产| 男人的天堂2010| 岛国不卡超碰护士AV在线播放| 国产99热| 操屄不卡视频| 9999亚洲电影| 在线αⅴ| 久久极品一区二区| 91中文字幕在线观看| 国产精品ww久久| 国产成人精品日本视频| 久久 亚洲 日韩 人妻| 欧美美女视频| 青青操狠狠撩| 超碰人妻中文在线| 国产精品久久| 天天干天天做| 蜜桃网熟妇| 国产一区二区三三视频| 麻豆 欧美 日韩| 97人人夜| 亚洲精品三| 一区| AV乱伦专区| 精品妇女一区二区三区| 欧美色图20P| 玖玖爱免费观看视频| 九X超碰| 97视频播放| 国产无马视频| 超碰天天操你比| 日本爽爽爽爽爽爽免费视频| 久久久人体| 色吊丝 日日骚 清纯唯美| 日韩 欧美 视频 在线 一区| 久久免费精品96| 亚洲 欧美 精品专区 极品| 丰满人妻一区二区三区免费,| 3级毛片一二| 久久免费精品视频免一| 久久久9 9 9精品| 日韩精品国产一区二区| 亚洲综合性感在线| 日韩极品无码B| 日韩精品三区四区| 久久大黄片| 麻豆天美国美国产| 大JI巴好深好爽又大又粗视频| 国产精品色色| 人妻精品一区二区| 黑操B| 欧美 亚洲精品首页| 熟女精品va中文字幕| 欧美精品偷拍| 国产乱伦亚洲色图高清无码| renqi久久久久久久久久久久| 97日韩欧美亚洲| 日韩一级欧美一级在线观看| 蜜臀99久久精品| 国产 v乱码一区二| 密臀在线视频| 殴美性色a级欧美| 久久春色| 精品无人区麻豆乱码久久久| 日韩无码精品综合久久| 热热热热日日漂亮永久永久国产日| 最近2018中文字幕在线高清第一页| 69综合网| 欧美十八禁导航成人| 91综合国产精品| 93人人操人人| 亚洲精品电影| 少妇蜜汁| 精品人体无圣光凹凸| 果冻传媒一区二区三区| 久久人妻视频网| 亲子敌伦对白在线播放| 欧美人妻色| 97国产高清视频在线观看| 亚洲第一页综合在线| 精品亚洲黄色片 国产精品导航一区二区 | 日韩无码专区| 一区二区三区国产在线播放| 91久久堂| 九九香蕉网| 亚洲色天| 欧美成人一区二区| 婷婷丁香熟妇综合网| 亚州男人天堂| 性爱AV天堂| 日本性爱少妇| 精品人妻一区二区三区四区不卡在| 色诱中文字幕| 思思热免费视频观看| 亚洲人妻久久| 欧美日本天堂| 天天干天天插| 欧美日韩*字幕一区| 国产精品在线一区二区| 五月综合视频| 成人三一级一片aaa| 97中文字幕九区| 欧亚第一综合网| 日韩av不卡在线观看| 久久东京热久久| 热久日综合| 91日本在线观看| 亚洲自拍偷拍视频在线| 骚妻少妇精品性色无码四色A V| 一级久久久久久久久久久 | 美女淫穴| 99人人干| 蜜乳Av成人片网站| 日韩射精| 免看60秒涩涩视频| 成人日本精品九区| 欧美一区二区亚洲天堂| A级片日韩欧美国产欧美视频精选观看| 亚州男人的天堂| 亚洲av在线免费观看| 久久av成人无码免费| 男人的午夜天堂| 久热99999| 色狠狠综合噜一二三区| av凤凰久久久| 黑人白女精品一区| 日韩欧美性吧婷婷乱伦大香蕉| 91亚洲丝袜| 欧美老熟另类| 五月天色色色| 91快色色色色色| 视频一区二区免费在线| 九热超碰| 人妻人妻天天碰| 欧美AB在线观看| 韩国一级婬片A片AAAAA| 26uuu国产日韩综合在线观看| 一区二区三| 久肏视频字幕| 人人操人人射人人干| 超碰性爱97| 亚洲日韩一区电影| 深田咏美亚洲精品福利社| 亚洲色狠| 日本在线15p| 欧美爆操91| 欧美国产日韩清纯唯美| 大香蕉黄色一区| 台湾成人无码AV| 精品国产乱码久久| 亚洲风情在线观看| 久久成人东京热人妻| 久久婷婷欧美| 神马午夜久久久| 国产又黄又猛又粗又爽的网站| 午夜色婷婷| JIZZJIZZ国产精品喷水| 国产人伦a片信息免费片| 色欲Av人妻精品一区二| 亚洲综合欧美| 国产高清成人免费视频| 美女黄站| 97久久国产精品女不卡| 色亚洲欧美| 亚洲AV色图一区| 狠操91,com| 欧美日韩青操| 日韩综合97P| 熟妇高潮一区二| 日本特黄f c2| 天天色悠悠激情| 天综合中文| http://qxhbdz.com| 秋霞欧美性爰视频| 精品人妻美妇91job| 日韩乱伦视频| 成人国产精品三级A片| 亚洲制服欧美另类内射| 免费综合亚洲中文| 高清在线偷拍自拍视频| 激情久久久| 大香蕉啪啪啪| 伊人亚洲国产一成人久久精品,久久| 久久婷婷视频| 亚洲 日韩 欧美 国产综合体| 成年人性爱日韩| 国产精品久久久久无码AV会牛| 中文字幕123| A片 AV一级在线播放观看免费| 久久精品高清AV| 强奸乱伦亚洲第一页| 欧美 日韩 亚洲 春色| 2019久久久久久久久福利| 欧美性爱三区二区| 任你爽视频| 丁香激情五月| 日本青青草在线| 欧美亚洲日韩人妻在线观看| 麻豆国产av网| 欧美色图 人妻| 俺去啦自拍| 久久东京热久久| 玖草在线视频| 小日子操bb在线看| 日韩探花精品在线视频| www.超碰在线| 日韩伦理久 久久 清纯| 91天天c| 91久久堂| 婷婷精品国产欧美精品亚洲人人爽| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 大香蕉久| 日本不卡码黄色| 久热久操| 欧美色97| 欧美激情视频在线一区| 在线人人人人人人精品超| 精品久久99| 91色鬼| 98福利在线视频| 一卡二卡三卡| 欧美性爱精品七区| 福利伊人玖玖国产| 欧美久久九九| 国产第11页| 九九九国产| 亚洲成aⅴ人片不卡无码| 青娱乐国产盛宴视频| 久热免费视频| 精品乱码久久久久| 少妇天堂| 99久久久无码精品国产人| 中文字幕 国产区| 四虎永久在线精品免费网址| 骚人妻少妇视频| 国产suv精品一区| 欧州一区二区三区四区| 亚洲偷拍自拍在线视频| 一区=区三区视频| 97chaopenrihan| 国内毛片欧美香蕉精品| 韩国一级婬片A片AAAAA| 国产精品网站www| 青青草依人大香蕉| 亚州免费啪啪视频| 91精品电影18| 天堂亚洲精品| 激情抓乳插进去啪啪啪日韩 | 9 9精品一区二区三区| 天天日日夜夜| 欧美传媒一区| 少妇久久久久久| 免费看久久久性性| 亚洲吊色| 欧美色图偷拍另类| 亚洲视频精选| 人妻少妇av在线观看| 亚洲精品天天影视综合网 | 91色图片| 五月婷亚洲精品天堂| 日本精品高清一二区一本到| 国产AV人人 夜夜人人澡| 欧美性性性| 狠日操| www.色婷婷.com| 男人的天堂久久狠| 很很操在线| 激情开心五月天| 屁股久久久久久久久| 碰碰97| 婷婷五月激情综合| 熟女精品一区二区在线观看| 国产精品熟女一区二区三区| 久久综合激情| 超碰在线1234区| 嫩呦国产一区二区三区AV| 后入美女国产| 天天综合网在线观看| 爱做久久久久久| 熟妇激情| 日韩国产欧美伦理在线| 亚洲日韩青青草色月| 精品免费一区| 天美精品av| 大香蕉狠狠爱| 色色激情五月天| 福利天天都操| 自拍大香蕉乱插| 最新9久久久9免费视频| 久久久久久久国产视频| 天操老女人| 欧美的性爱网站免费| 中文字幕精品丝袜| JIZZJIZZ亚洲女人被躁| 淫色网综合| 97操| 日韩一999精品| V A在线| 日本天堂网| 老女人综合网| 精品免费一区二区三区在线亚洲人成| 蜜臀中文字幕| 激激五月| 天天色,天天干,天天干| 飘花国产午夜精品不卡| 欧美疯狂做爰xxxx| 在线观看啊啊啊啊啊| 极品色www影院| 日本不卡免费二区| 天天视频黄网站| 亚洲综合骚逼| 奇米狠999| 麻豆天美在线喷水AV| 国产精品久久久久中文字幕| 九九人妻| 日韩性爱网址| 夜夜爽夜夜摸夜夜操免费视频| 中文字幕免费看大片| 国产精品99精品视频网站| 大香伊人在线一区| 激情网色| 四虎精品永久在线观看| 天天操综合网| 韩国免费播放一级毛片| 伊人一区二区三区| 青椒国产97在线熟女| 欧美线天码中字| 91综合在线| 亚洲精品九九九| 国产超碰在线一区| 欧美日韩国产另类综合| 999 久久久| 欧美日韩岛国大片在线观看| 99999国产| 人妻久热在线| 影音先锋新男人| 97超碰欧美手机在线| www色日本| 超碰久超碰久| 性色avv| 性色生活片久久毛片婬片免费放女人一级毛片| 国产精品午夜福利视频| 深夜激情无码| 最新三级网址| 免看60秒涩涩视频| 成人av在线播放| 免费看国产大AB| 亚洲va综合va国产va中文| 美国日韩黄片| 另类欧美| 艳美熟妇先锋一二三区| 亚洲密乳AV| av日韩中文字幕| 日本曲间由美性生活片| 乱伦色图网址是多少| 91欧洲入口| 人妻插插人妻人| 91人妻尻屄视频| 精品一级| 国产中文福利| 人人爱操| 精品视频免费在线一区| 丰满人妻-区二区三区免费看| 黄色小说亚洲| 国产精品一区二区黄片| 91精品无码久久久久久久 | 99热国产精品| 在线天堂999| 老熟乱一区二区三区四区| 久久草视频污视频| 日韩视频精品在线观看| 欧美日韩美女精品久草一区二区三区| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 久久久精品无码亚免费| 久久久久亚洲Av无码专区老牛影视| 日韩 欧美 国产 麻豆| 国产av高清版| 99精品久久久久久久婷婷蜜桃| 欧美人与动性人交a| 亚洲色图片区| 97超碰免费生活| 精品91摸| 亚洲色婷婷| 日韩无码黄色片| 97超碰人人模人人拍人人| 校园春色美腿丝袜 | 色五月婷婷久久| www.av在线视频| 日韩成人性日韩成人性爱视频在线免费观看| 欧美最大综合网| 大香蕉色网| 91久久国产综合久久| 日韩av影片在线观看| 亚洲色欲天天天堂色欲网女| 97免费在线观看| 超碰在线日韩一区| 天天综合麻豆视频| 热久久99999| 青青草原人妻| 天天干天天拍| 日本污ww视频网站| www.99中文字幕| a片久久久久久久久久久久| 国产免费内射视频| 国产精品对白自产拍| 蘋果手機免費看成人Av| 另类亚洲图色| 亚洲熟妇丝袜在线观看| 色性综合| 99无码视频| 高清国产av无码| 17c在线成人免费A片观看| 超碰97久久| 久久青娱乐| 懂色av中文字幕一区二区三区天美| 国产av尤物| 99热这里只有精品地址 | 亚洲精品欧洲精品| 蜜桃中文字日产乱幕4区| 大香蕉色十月| 69超碰综合| 亚洲国产第一页综合视频| 婷婷综合激情| 久热99| 亚洲色诱惑| www激情| 日本中文字幕在线电影| 欧美性爱在线无码| 日韩不卡av一二三| 三级色综合| 日韩性爱视频在线免费观看 | 亚洲,日韩,欧美,成人播放 | 精品久久久高清无码| 久久久精品91八戒| 久久精品国产亚洲AV高清演员表| 先锋影音av先锋一区| 26uuu成人影片| 成人AV超碰免费在线| 影音先锋每日最新资源在线观看 | 国产亚州精品美女久久久免费| 青草青草久热| 日韩免费看黄片| 欧美日综合| 五月天婷婷成人网| 天天舔天天 | 欧美成人性活片| 秋霞 色色| 国产精品久久久久久高清无码免费看 | 日韩欧美一级特黄大片| 国产三级电影免费观看| 色色色999| 女优免费一区二区永久| 国产精品小视频一区二区三区| 中文字幕在在线观看网站| 秋霞男人网| 97视频900| 乱操9999| 亚洲天堂资源网| 亚洲性爱成人| 久久透逼视频| 九九精品无码专区免费| 无码WWW免费视频网站| 国产综合操逼高清| av天天在线观看| 色婷婷成人综合| 欧美日韩另类字幕中文| 国产久9| 欧美人妻少妇| 国内偷自视频区视频综合| 亚洲精品xxx| 丁香六月综合激情| 久久9精品视频| 亚洲精品1区| 九九九九九九精品| 91天堂| 日语五十路和六十路亚洲国产精品 | 精品久久久九九九孕妇| 蜜桃精品视频一区| 91N综合网| 国产无码精品无码| 人人摸人人叼| 1956日韩精品| 精品无码一区二区人妻久久蜜桃| 97国产|免费| 少妇厨房愉情理伦片bd在线观看| 最近2019中文字幕国语免费版| 久久五月婷| 99久久综合| 中文字幕欧美精品亚洲日韩蜜臀| 国产性爱强奸乱伦大全| 国产AV激情无码久久无码| 天天干一干| 性性欧美| 澳门色噜噜色噜噜色噜噜色噜噜色噜噜| 亚洲电影中字一区二区| 天天操天天舔| 欧美色图私拍91| 91超碰在线观看| 国产91亚洲精品一区二区三区| 天天操天天射天天日| 亚洲AV免费在线| 青青草白白色| 色九久| 芊芊操逼视频无码| 蜜臀久久99精品久久久老,,| 风月影院男女十八禁| 最新日本中文字幕| 免费毛片在线播放| 欧美色一二三| 久久久久99999| 日韩av一级黄片| 97久久超碰国产网站| 9精品久久久久| 性爱视频免费网址| 亚洲欧美精品91| 啊嗯嗯啊好大好爽| 强奸抽插av| 婷婷激情啪啪| 亚洲区限制级 99| 国内毛片无遮挡国产| 先锋精品av色鲁| 国产精品动态一区二区三区四四| 98人妻精品一区二区色欲| 玖玖婷婷五月天| 操曰本熟女| 我要去看2个日本美女.com曹逼| 强奸乱亚洲| 亚洲男人天堂网久久| 精品免费囯产一区二区三区| 日韩午夜精品一区二区三区电影| 青青草视频久久久久| 天啪| 九九RE视频在线精品| 日日噜噜夜夜久久亚洲一区二区 | 免费看毛片操穴| 国产日韩中文字幕欧美| 亚洲伊人a线观看视频| 久草精品热视| 欧美在线大香999| 天天操人人操狠狠插| 性感女人网页在线观看视频| 亚洲熟妇A V黑人| 97香蕉碰碰人妻国产欧美| 97精品在线| 亚洲图片婷婷五月天| 中美日韩毛片| 人妻夜夜爽天天爽三区麻豆AV网站| 久热婷婷| 97超碰伊人| 久久亚洲AV成人精品无码| 国产13区| 性色A∨91| 丁香五月影院| 天天影视亚洲| 91美女丝袜诱惑视频| 久9爱精品| av午夜影院在线播放| 黄日韩| 中文字幕在线观看永久| 大香网伊人久久综合网eew| 亚洲男人综合| 成人女人国产| 欧美97爱| 97AV爱| 91香蕉国产尤物视频| 操九九九九九九| 国产捆绑一区| 亚洲国产一区二区三区在线| 九九热AV| 少妇诱惑视频| 日韩中文字幕视频| 天天天天天天天天综合| 无码免费在线观看黄色片| 亚洲 se图 欧美电影| 五月丁香黄色网| 欧美18禁91| 中文?日韩?免费?精品| 骚逼高潮久久精品| 一区二区中文| 欧亚不卡| 韩国黄片aaaa| 激情四射婷婷六月天| 曰韩av中文字幕专区| 国产农村妇女毛片精品久久| 激情综合色| 97免费视频在线| 亚洲欧洲视频小说在线观看| 13小男生GAY自慰脱裤子| 久久夜夜夜夜| 老外又粗又长一晚做五次| 人妻熟女一区二区三区在线| 黄片com.| AV女资源| 曰韩欧美国产传媒麻豆第一区| 最新亚洲黄色免费电影 | 中文字幕一区二区日韩网| 欧美综合色站| 强奸乱伦中文字幕AV| 67914在线兔费成人视频| 偷拍伦理视频| 欧美在线永久天堂| 欧美91久久久久| 大香蕉520| 蜜臀99久久精品久久久懂爱| 东京热av男人的天堂| 欧美亚洲日本视频久久久| 91亚洲最新在线| 日日日日日| 青娱乐福利99| 亚洲极品| 狼人综合婷婷激情四射 | 小视频国产| chaopen97久久| 欧插网站| 淫荡少妇免费| 中文字幕视频二区| 蜜桃不卡一区二区| 黄片www.| 人人模人人看| 少妇精品久久久八区九区| 久久久久成人蜜桃精品| 亚洲中文字幕在线视频一区二区| 青青草玖玖爱| 美女诱惑爱爱| 99精品视频在线观看免费| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 肥臀熟女福利视频一区二区| 久久精品国产亚洲AV无码做| 91欧美经典| 久久久久亚洲一区女同性恋中文字幕| 大香蕉丝袜一级片| 成年人网站在线免费观看| 疯操AV| 欧美在线伊人色| 美国aaaaa一级黄片| 国产伊人精品在线| 久久综合女优| 亚洲黑丝在线| 萌白酱自拍视频| 91成人无码| 啊啊啊啊啊啊啊网址在线观看| 欧美综合自拍成人自拍第二十页| 小日子操bb在线看| 久久久久幕乱码| 亚洲美乱| 欧美日韩中文亚洲v在线综合| 最新国产精品| 超碰9 7女人| 亚洲综合影片| 人妻久久久久久| 91精品女厕偷拍视频| 国产白丝av| 99热日| 亚洲人在线| 久热9| 99久久e免费热视| 成人午夜高潮av猛片| 欧美亚洲系列| 久久超碰av在线| 天天综和| 99人人干| 欧美性爽xyxOOOO| 久热这里只有精品9| 超碰97首页| 无码人妻丰满熟妇奶水区毛片| 婷婷九月色| blacked精品一区国产| 日韩一级久久毛片| 亚洲欧美洲综合| 欧美熟妇亚洲版| 嗯嗯嗯啊啊啊操的我好爽| 久久久一级| 丁香九月激情啪| 欧美强奸乱能| 天天操人人操狠狠插| 秋霞色色影院| 91亚洲综合在线| 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | 亚码激情| 国产懂色精品国产av| 很很操在线| 免费国产视频| 97免费视频在线观看视频| 国产又黄又猛又粗又爽的网站| 欧美人妻精品一区二区| 日本人妻最新在线中| 97色综合中文网| 五十路人妻在线| 97爱欧美| 天色综合网| 性感女人网页在线观看视频| 激情开心五月天| 婷婷视频网| 国产高清成人传媒影视| 免费强奸av| 人妻 中文 日韩| 人人爱人人乐人人操| 亚洲欧美999| 亚洲动态色图| 97精| 天天综合网~91| 久久色AV线| 中文字幕乱碼在线| 亚码激情| 婷婷综合久久| 强奸乱伦av电影| 亚洲黄色a级片| 亚瑟国产精品久久无码| 国产强奸无码乱伦| 国产高清成人免费视频| 九九九免费视频| 96久久久| a'v在线资源| 亚洲高清欧美总合| 国产97在线播放| 秋霞福利网| 2019AV天堂| 台湾佬中文娱乐自偷自拍| 黄污污污污| 久久婷婷色| 中文字幕亚洲在线一区| 中日韩久久久| 蜜乳Av成人片网站| 最新av网站在线观看| 国产AV色黄看到爽| 欧美日韩在线国产在线| 熟女字幕| 五月丁香影院| 中日韩欧美精品无码AⅤ一区二区| 波多野42部无码喷潮在线观看| 天天干干天天干干| 自拍偷拍 日韩无码| 在线观看国产黄色| 熟女人妻一区二区三区| 久久丁香五月婷婷| 91 手机在线播放 绯色| 任我爽视频在线观看| 国产精品一二三区福利| 久久婷婷五月| 狠狠躁AV| 精品久久久av| 91熟女综合| 久久久久久久久久久久九| 婷婷丁香一区二区三区| 97超碰精品成| 日韩本不卡视频在线观看 | 久久久久成人蜜桃精品| 人妻出轨一区二区三区| 亚洲少妇在线影音| 加勒比性爱成人在线| 欧美精品激情| 色欧洲| 国产精品盗摄 偷窥盗摄| 久久一级无码精品毛片6| 五月丁香成人网| 精品免费一区二区三区在线亚洲人成| 国产精品情侣啪啪| 日韩少妇在线视频| 欧美九九九| 亚洲成人激情小说视频| 操b在线观看| 91av一区二区在线观看| 探花一区二区三| 五月丁香激情综合| 日韩天堂av电影在线观看| 久久综合女优| 国产深喉| 秋霞怕怕片| 免费日韩黄片| 日本精品高清一二区一本到| 9色在线| 欧美 传媒 麻豆 日韩 偷拍| 情色五月天网| 人妻大香蕉| 97天天| 中文字幕日韩专区精品系列| 国产狂喷潮在线精品| 视频在线观看免费一区二区三区| 黄色免费网页无码| 五月天社区| 亚洲天堂自拍| 欧美色97| 园内精品自拍视频在线播放| 色五月婷婷在线| 亚洲色资源| 超碰99在线| 好吊色综合| 日韩一级二级三级| 99re国产精品视频| 东京日日夜夜| 加勒比av官网在线| 精品欧美老熟女一二区| 亚洲一区二区精品福利| 蜜桃精品一区二区三区ww| 亚欧操逼片在线观看| 亚洲欧美一区二区网址| 巨爆乳肉感一区二区三区竹菊影视| av大香蕉网站| 色图四区| 久久亚洲AV成人精品无码| 天天看少妇| 精品美女少妇一区二区| 欧美日产国产在线成人第一区| 精品久久視頻在线| 色五月AV在线| 国产亚洲性生活视频播放| 嗯嗯啊在线视频| 无码精品啪啪啪一区二区三区三州| 中文字幕欧美日韩三级| 青青久久手机线视频| 精品超碰中文在线| yy少妇精品久久| 精品视频在线观看精品| 色噜噜狠狠色综合日日| 欧美91久久久久| 国产狂喷潮在线精品| 精品精品精品| 国产精品69久久久久久久| 日韩综合无码色欲vv| 91N五十路| 蜜臀久久久99久久久久 | 国产高清成人传媒影视| 中文字幕一区二区三四五区日日骚| 日本黄色精品专区网站| 久久久9品一区二区三区| 亚洲国产97| 亚洲成人碰碰| 另类欧美色| 亚洲精品男人的天堂| 欧美丝袜中文字幕07在线| 婷婷久久大香蕉| 久久99干一本高清| 国产精品亚洲美女久久久久| 超碰97资源网亚洲| 岛园激情| 91欧美少妇| 欧美成人性爱视频大全| 另类图片五月天| 人人天天干干| 日产123区精品免费观看| 亚洲色图尤物视频 | 超碰4A| 午夜精品探花| 欧美性五月| 探花一区二区三| 精品无吗久久| 亚州综合色| 日韩国语字幕| 久久啊啊啊| 一区二区偷拍拍视频| 亚洲人久久久久日| 屌色在线97视频| 久久久久久久| 国产11页| 日韩一级二级三级在线不卡观看完整| 激情婷婷五月天| 99re超碰| 啊啊啊啊啊啊在线看| 久久天堂| 91丝袜美腿网站| 色欲天天婬色婬香WWW夜色| 人妻精品4K4K4K4K4| 97超碰磁| 1204av韩国| 强奸国产在线| 久久机热| 偷窥自拍A片| 一二三区视频在线观看| 色婷婷五月综合| 久久超碰日韩精品| 人妻久久久| 欧美高清第一页| 91丝袜美腿网站| 欧美gv在线观看| 天天插夜夜爽| 搡老人老9丨女老熟人| 一区二区播放| 婷婷五月天成人网| 91色欧美| 婷婷中文字幕| 亚洲久久久|