久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

基于LSTM的SDN控制器流量預(yù)測與智能負載均衡方案

基于LSTM的SDN控制器流量預(yù)測與智能負載均衡方案 簡介一套完整可運行的基于LSTM的SDN流量預(yù)測與負載均衡Python工程面向網(wǎng)絡(luò)方向研究生、高年級本科生及SDN/機器學(xué)習(xí)入門者解決SDN控制器下流量建模與動態(tài)調(diào)度問題代碼已完整測試通過可在Mininet等虛擬網(wǎng)絡(luò)環(huán)境中直接運行適合作為畢業(yè)設(shè)計、課程作業(yè)或?qū)嶒炘汀嚎s包共10個文件包括8個Python腳本、1個已訓(xùn)練模型pkl文件與1個csv流表數(shù)據(jù)集其中csv數(shù)據(jù)為真實流量記錄pkl文件保存了訓(xùn)練好的LSTM模型省去重復(fù)訓(xùn)練開銷8個腳本則分別覆蓋網(wǎng)絡(luò)拓撲構(gòu)建、流量預(yù)測、轉(zhuǎn)發(fā)策略與命令行交互等模塊注釋詳細便于逐段閱讀與二次改造。目前已有348人學(xué)習(xí)下載。在此代碼基礎(chǔ)上可修改拓撲、調(diào)整模型參數(shù)或擴展負載均衡策略進一步驗證算法效果或開展相關(guān)研究。1. 為什么SDN控制器需要LSTM先預(yù)測再轉(zhuǎn)發(fā)而不是等網(wǎng)絡(luò)堵了再反應(yīng)做過SDN控制器二次開發(fā)的人應(yīng)該都有體會控制器拿得到全局拓撲和端口統(tǒng)計卻只能看到“現(xiàn)在”而下發(fā)流表這件事本質(zhì)上是面向未來的。傳統(tǒng)負載均衡靠的是當前鏈路利用率誰空閑走誰但一條大流剛從交換機出去下一秒就可能把這條鏈路的剩余帶寬打滿。LSTM這類循環(huán)神經(jīng)網(wǎng)絡(luò)擅長的就是抓住流量序列里的小時級周期和突發(fā)趨勢把預(yù)測結(jié)果交給路由模塊做“提前量”的路徑調(diào)整流量預(yù)測和負載均衡才算真正閉環(huán)。這篇筆記用Python寫LSTM模型配一份可用于訓(xùn)練的流量序列數(shù)據(jù)和詳細注釋講清楚從數(shù)據(jù)預(yù)處理、滑窗構(gòu)造、模型訓(xùn)練到把預(yù)測值換算成OpenFlow流表動作的完整落地路徑。適合做SDN畢設(shè)、想給控制器加智能調(diào)度能力、或者只想復(fù)現(xiàn)一版LSTM流量預(yù)測代碼的人閱讀。2. 流量預(yù)測在SDN里的定位把全局視圖變成提前量2.1 反應(yīng)式負載均衡的短板和預(yù)測驅(qū)動的閉環(huán)SDN控制器的數(shù)據(jù)平面會周期性上報端口統(tǒng)計常見做法是每1到5秒采集一次各交換機的字節(jié)計數(shù)和包計數(shù)?;谶@些實時數(shù)據(jù)做負載均衡本質(zhì)上是“已經(jīng)堵了再繞路”鏈路利用率到達閾值再去改流表這期間的丟包和時延已經(jīng)產(chǎn)生了。更麻煩的是一條TCP大流傾向于填滿路徑上最窄的鏈路等你用ECMP等開銷負載均衡重新選路時新選擇的路徑很可能已經(jīng)被其他并發(fā)流搶占了。預(yù)測驅(qū)動的思想是把控制閉環(huán)往前移一步控制器先收集過去一段時間的端口速率序列用LSTM預(yù)測未來幾個時間步的鏈路負載然后路由模塊按“預(yù)測剩余帶寬”來計算路徑權(quán)重而不是按當前剩余帶寬。這樣一來流表下發(fā)發(fā)生在擁塞出現(xiàn)之前交換機轉(zhuǎn)發(fā)行為從“事后糾偏”變成了“事前規(guī)避”。這個閉環(huán)里的關(guān)鍵點在于預(yù)測的不是網(wǎng)絡(luò)全局流量總量而是每一條關(guān)鍵鏈路的負載。控制器只需要從拓撲里篩選出可能出現(xiàn)瓶頸的鏈路通常是核心層到匯聚層之間的鏈路對每條鏈路跑一個LSTM模型即可。模型輸入是這條鏈路的累計字節(jié)數(shù)差分得到的速率序列輸出是未來一小段窗口內(nèi)的速率預(yù)估。2.2 LSTM為什么比ARIMA和GRU更合適做網(wǎng)內(nèi)流量預(yù)測網(wǎng)絡(luò)流量數(shù)據(jù)有三個讓傳統(tǒng)時序模型頭疼的特征一是非平穩(wěn)性工作日和周末的基線流量差很多視頻流量突發(fā)更是常見二是長距離依賴下午某段時間的擁塞往往和上午的業(yè)務(wù)高峰有相關(guān)性三是強噪聲尤其是小粒度統(tǒng)計秒級幾乎被TCP重傳和突發(fā)包淹沒。ARIMA這類線性模型把流量當成線性函數(shù)加噪聲來處理遇到突發(fā)流量時殘差方差會急劇變大預(yù)測曲線普遍偏向于歷史均值在擁塞前無法給出有效的“上升趨勢”信號。LSTM通過輸入門、遺忘門和輸出門控制信息留存可以在長序列里記住數(shù)小時前出現(xiàn)的相似模式對非線性的短期趨勢也更敏感。GRU是LSTM的簡化版參數(shù)更少、訓(xùn)練更快但同樣結(jié)構(gòu)下對周期性較強的數(shù)據(jù)收斂精度通常比LSTM略低。以下是對比模型非線性擬合能力長時間依賴訓(xùn)練開銷適合的數(shù)據(jù)粒度ARIMA弱不支持低分鐘級以上的平穩(wěn)序列GRU中支持較低秒級到分鐘級突發(fā)少LSTM強支持中等秒級周期性明顯、突發(fā)多的鏈路流量實際項目里我一般直接把LSTM作為默認選項只有在嵌入式控制器上部署、算力明顯受限時才換成GRU。原因很簡單LSTM的可調(diào)參數(shù)隱藏層數(shù)和dropout對流量預(yù)測這類數(shù)據(jù)的適應(yīng)面更寬翻車以后還有調(diào)參余地。2.3 數(shù)據(jù)組織方式滑窗、歸一化和時間順序劃分訓(xùn)練LSTM之前要先把原始流量數(shù)據(jù)處理成有監(jiān)督學(xué)習(xí)的樣本格式。假設(shè)控制器每隔1秒記錄一次端口速率取最近240個時刻的值要預(yù)測未來5秒的平均流量那么一條樣本的形狀是(240, 特征數(shù))標簽是(5, 1)。特征數(shù)可以只取速率本身也可以加入小時序號、星期序號等周期性特征效果更穩(wěn)。歸一化這里有個很多人踩過的坑常見做法是MinMaxScaler把速率壓縮到0到1之間但必須保證訓(xùn)練集里出現(xiàn)的最大值覆蓋未來真實流量的可能范圍。如果訓(xùn)練數(shù)據(jù)只包含低峰時段而模型部署在晚高峰場景預(yù)測值會被截斷在0.8以下實際擁塞發(fā)現(xiàn)不了。我一般會在采集數(shù)據(jù)時先存一整周的流量找出真實峰值后再做歸一化而不是直接用第一版數(shù)據(jù)的max。訓(xùn)練集和測試集的劃分必須按時間順序不能用隨機打亂。流量序列的時間相關(guān)性意味著一旦打亂模型會學(xué)會“偷看”未來測試集上表現(xiàn)虛高部署后立刻打回原形。下面的代碼用模擬數(shù)據(jù)演示如何生成一個帶周期和突發(fā)噪聲的序列并把原始序列轉(zhuǎn)成訓(xùn)練樣本/標簽的數(shù)組這個套路同樣適用于真實SDN控制器導(dǎo)出的CSVimport numpy as np import pandas as pd def generate_traffic(hours72, base_rate20.0): 生成模擬鏈路速率序列單位Mbps模擬周期突發(fā)噪聲 ts np.arange(hours * 3600) # 按秒生成 # 24小時周期 12小時小周期模擬業(yè)務(wù)高低峰 daily 30 * np.sin(2 * np.pi * ts / (24 * 3600)) half_daily 10 * np.sin(2 * np.pi * ts / (12 * 3600)) # 隨機突發(fā)模擬視頻流量等大流啟動 burst np.zeros_like(ts, dtypefloat) for i in range(0, len(ts), 3600 * 6): burst[i:i 120] np.random.uniform(15, 25) noise np.random.normal(0, 2.0, sizets.shape) rate base_rate daily half_daily burst noise return rate rate generate_traffic() df pd.DataFrame({rate: rate}) df.to_csv(simulated_traffic.csv, indexFalse)這段代碼生成的序列包含了流量預(yù)測里最常見的兩種特性周期性業(yè)務(wù)高峰低谷和短時突發(fā)大流啟動后面對LSTM模型的驗證也更有說服力。參數(shù)說明base_rate是基線帶寬hours72生成三天數(shù)據(jù)突發(fā)窗口設(shè)為120秒模擬跨鏈路的大象流。真實場景里把這一步換成從控制器采集端口流表統(tǒng)計按字節(jié)差除以采樣間隔得到速率核心的數(shù)據(jù)形態(tài)完全一致。3. 訓(xùn)練一個可用的LSTM流量預(yù)測模型從數(shù)據(jù)生成到指標評估3.1 構(gòu)造滑窗樣本的代碼與邊界檢查拿到原始速率序列后洗數(shù)據(jù)的第一步是構(gòu)建(輸入窗口, 預(yù)測窗口)的樣本對。窗口大小直接決定模型看到多長的歷史也決定樣本數(shù)量。鏈路口徑下我常用window60秒、horizon5秒因為控制器輪詢周期是1秒60秒歷史足夠覆蓋突發(fā)流量的啟動過程而5秒的預(yù)測提前量剛好夠負載均衡模塊重新計算路徑并下發(fā)流表。下面的函數(shù)把一維速率序列變成LSTM需要的三維輸入(樣本數(shù), 時間步, 特征數(shù))。注意不要用df.shift(-horizon)這種直接對齊方式容易在樣本邊界處混入未來數(shù)據(jù)。def create_sequences(data, window60, horizon5): 將一維速率數(shù)組轉(zhuǎn)換為LSTM訓(xùn)練樣本。 data: 歸一化后的速率序列 window: 每個樣本的歷史時間步數(shù) horizon: 需要預(yù)測的未來時間步數(shù) X, y [], [] for i in range(len(data) - window - horizon 1): X.append(data[i:i window]) y.append(data[i window:i window horizon]) return np.array(X), np.array(y) # 歸一化后調(diào)用 from sklearn.preprocessing import MinMaxScaler scaler MinMaxScaler(feature_range(0, 1)) rate rate.reshape(-1, 1) rate_norm scaler.fit_transform(rate).flatten() X, y create_sequences(rate_norm) print(f輸入形狀: {X.shape}, 標簽形狀: {y.shape})邏輯說明create_sequences里循環(huán)的終止條件是len(data) - window - horizon 1這樣最后一個樣本剛好可以拿到真實的未來窗口不會讀取到數(shù)組外的下標。y的形狀是(樣本數(shù), horizon)即每個輸入樣本對應(yīng)未來5個時間步后面在模型輸出層用Dense(horizon)直接預(yù)測這5個值。參數(shù)說明window不是越大越好。窗口拉到240秒確實讓模型更容易學(xué)習(xí)日周期但樣本量會縮減到原來的四分之一訓(xùn)練時間也翻倍。對秒級SDN流量60秒窗口和5秒預(yù)測是一個平衡點如果你采樣的間隔變成5秒窗口對應(yīng)關(guān)系要同步調(diào)整一般讓窗口覆蓋2到5分鐘即可。3.2 LSTM模型結(jié)構(gòu)與超參選擇的理由流量預(yù)測模型不需要設(shè)計得太復(fù)雜兩層LSTM加dropout是實踐中驗證最穩(wěn)的組合。第一層return_sequencesTrue保留完整的時間步輸出讓第二層LSTM繼續(xù)提取時間依賴第二層只輸出最后一步交給全連接層映射到預(yù)測值。dropout放在兩層LSTM之間防止模型把訓(xùn)練集里的突發(fā)噪聲當成規(guī)律。from tensorflow.keras.models import Sequential from tensorflow.keras.layers import LSTM, Dense, Dropout, Input def build_lstm_model(window60, horizon5, units32): model Sequential([ Input(shape(window, 1)), LSTM(unitsunits, return_sequencesTrue), Dropout(0.2), LSTM(unitsunits // 2, return_sequencesFalse), Dropout(0.2), Dense(horizon) ]) model.compile(optimizeradam, lossmse, metrics[mae]) return model model build_lstm_model() model.summary()代碼邏輯說明units是每個LSTM層隱藏狀態(tài)維度。第一層保留全部時間步輸出第二層壓縮成最后一個時間步的向量再映射到5個預(yù)測值。Dense(horizon)意味著模型把流量預(yù)測當成多步回歸任務(wù)而不是把5步拆成5個二分類或滾動單步預(yù)測。多步直接回歸的好處是訓(xùn)練和推理都簡單缺點是預(yù)測誤差會隨時間步累積實際部署時如果發(fā)現(xiàn)第5個預(yù)測值明顯發(fā)散就把horizon縮短到3或者改成自回歸單步預(yù)測。參數(shù)說明units32對鏈路級流量預(yù)測已經(jīng)夠用。數(shù)據(jù)量只有幾萬條時units超過64很容易過擬合反之如果訓(xùn)練集有上百萬條樣本可以提高到64或128。優(yōu)化器用Adam默認學(xué)習(xí)率0.001就行不要一上來就試很大的學(xué)習(xí)率流量預(yù)測的loss曲面有較多平臺區(qū)學(xué)習(xí)率過大會讓訓(xùn)練穩(wěn)定在一個較大的誤差附近下不來。3.3 訓(xùn)練腳本、早停和三個評估指標訓(xùn)練過程要保留一份按時間順序切出來的驗證集不能用交叉驗證原因前面說過。下面這段是把滑窗樣本切成三段前70%訓(xùn)練、15%驗證、最后15%作為測試保證測試部分是整個序列里最晚發(fā)生的數(shù)據(jù)模擬真實部署時的“未來”X_train, X_valid, X_test X[:int(len(X)*0.7)], X[int(len(X)*0.7):int(len(X)*0.85)], X[int(len(X)*0.85):] y_train, y_valid, y_test y[:int(len(y)*0.7)], y[int(len(y)*0.7):int(len(y)*0.85)], y[int(len(y)*0.85):] # 用早停在驗證集loss連續(xù)20輪不降時終止 callbacks [ EarlyStopping(monitorval_loss, patience20, restore_best_weightsTrue) ] history model.fit( X_train, y_train, validation_data(X_valid, y_valid), epochs100, batch_size64, callbackscallbacks, verbose1 )訓(xùn)練完之后不要只看loss流量預(yù)測的落地效果要結(jié)合原始量綱的誤差一起看。因為模型是歸一化后訓(xùn)練的評估時要先把預(yù)測值逆變換回Mbps再算MAE、RMSE和MAPEfrom sklearn.metrics import mean_absolute_error, mean_squared_error pred model.predict(X_test) # 逆歸一化注意標簽形狀是(樣本數(shù), horizon)要逐列還原 pred_rescaled scaler.inverse_transform(pred) y_test_rescaled scaler.inverse_transform(y_test) mae mean_absolute_error(y_test_rescaled.flatten(), pred_rescaled.flatten()) rmse np.sqrt(mean_squared_error(y_test_rescaled.flatten(), pred_rescaled.flatten())) # MAPE只在真實值不為0時計算 mape np.mean(np.abs((y_test_rescaled - pred_rescaled) / (y_test_rescaled 1e-6))) * 100 print(fMAE: {mae:.4f} Mbps, RMSE: {rmse:.4f} Mbps, MAPE: {mape:.2f}%)參數(shù)說明batch_size64是在內(nèi)存和梯度穩(wěn)定性之間的折中流量序列本身有很強的時間相關(guān)性batch太大容易讓梯度在拐點處對沖patience20對應(yīng)20輪太少會在驗證loss還沒探到底時就把訓(xùn)練停掉太多則浪費時間。MAE反映了平均預(yù)測偏差RMSE放大個別時間步的大誤差MAPE適合和別的論文橫向?qū)Ρ取N乙话阋驧APE低于15%才敢把預(yù)測值送入負載均衡模塊超過20%寧愿先調(diào)數(shù)據(jù)不要硬上模型。4. 負載均衡模塊把預(yù)測值換算成流表動作而不是直接按歷史擁塞搬數(shù)據(jù)4.1 等開銷負載均衡和預(yù)測驅(qū)動負載均衡的差異傳統(tǒng)SDN負載均衡做的是等開銷鏈路聚合ECMP把所有等價路徑都下發(fā)到交換機的組表里按哈希把流量分散到不同鏈路。它完全不感知鏈路帶寬占用兩條大流哈希到同一條鏈路就會在交換機緩存隊列里排隊。預(yù)測驅(qū)動的負載均衡思路完全不同控制器根據(jù)LSTM輸出的未來流量為每條關(guān)鍵鏈路計算一個“預(yù)測剩余帶寬”剩余帶寬等于鏈路容量減去預(yù)測流量然后路由模塊為每條新流選擇預(yù)測剩余帶寬最大的路徑。兩者不是替代關(guān)系而是分層配合ECMP負責(zé)把并發(fā)小流散列到多路徑預(yù)測模塊負責(zé)為大流或者已知即將擁塞的路徑做顯式路由調(diào)整。這里的“大流”一般通過交換機流表里的字節(jié)計數(shù)識別超過閾值比如10MB的流才觸發(fā)預(yù)測選路避免每個短連接都去查預(yù)測結(jié)果把控制器壓垮。4.2 用預(yù)測值計算路徑權(quán)重的代碼示例假設(shè)拓撲里已經(jīng)能用K條預(yù)計算路徑連接源和目的每條路徑由若干鏈路組成。鏈路預(yù)測流量來自LSTM模型的輸出鏈路容量在初始化拓撲時已知。下面這段代碼計算每條路徑的預(yù)測最小剩余帶寬按“最大最小剩余帶寬”原則選路避免選中一條雖然總余量大、但某段即將擁塞的路徑def select_path_by_prediction(paths, link_capacity, pred_load): paths: 預(yù)計算的候選路徑每條是鏈路id列表如 [[s1-s2, s2-s4], ...] link_capacity: dict鏈路id - 帶寬容量(Mbps) pred_load: dict鏈路id - LSTM預(yù)測的未來流量(Mbps) scored_paths [] for path in paths: # 取路徑上最小剩余帶寬作為該路徑的得分 min_bw float(inf) for link in path: remain link_capacity[link] - pred_load.get(link, 0.0) min_bw min(min_bw, remain) scored_paths.append((min_bw, path)) # 按預(yù)測剩余帶寬降序選擇最寬裕路徑 scored_paths.sort(keylambda x: x[0], reverseTrue) return scored_paths[0][1] best_path select_path_by_prediction(potential_paths, link_capacity, lstm_predictions)邏輯說明路徑得分取所有鏈路剩余帶寬的最小值這樣選出的路徑不會包含任何可能在預(yù)測窗口內(nèi)擁塞的瓶頸鏈路。lstm_predictions來自上一章訓(xùn)練好的模型實際工程中還要加一個邊界檢查如果預(yù)測負載超過鏈路容量該鏈路直接標記為不可用不再參與選路。參數(shù)說明這里有一個需要結(jié)合實際調(diào)的點——pred_load是未來5秒的平均流量而一條大流的持續(xù)時長可能是幾十秒。如果你的預(yù)測窗口只有5秒可以在密集采集幾個周期后對預(yù)測結(jié)果再做一次指數(shù)平滑用平滑后的值作為選路依據(jù)防止某次預(yù)測偏高導(dǎo)致路徑頻繁切換。平滑系數(shù)α我一般取0.6到0.7太小選路反應(yīng)慢太大又回到抖動問題。4.3 下發(fā)流表到交換機的實現(xiàn)邊界路徑選好之后剩下的事情是把轉(zhuǎn)發(fā)決策落到交換機上這個環(huán)節(jié)的代碼和控制器類型強相關(guān)。以O(shè)penFlow 1.3為例常見做法是用控制器庫封裝的接口發(fā)OFPFlowMod消息指定匹配字段、出端口和優(yōu)先級# 以Ryu控制器風(fēng)格示意實際請按你所用控制器的API調(diào)整 from ryu.ofproto import ofproto_v1_3_parser from ryu.ofproto import ofproto_v1_3 def install_path_flow(datapath, match_rule, out_port, priority100, idle_timeout30): ofproto datapath.ofproto parser datapath.ofproto_parser match parser.OFPMatch(**match_rule) actions [parser.OFPActionOutput(out_port)] inst [parser.OFPInstructionActions(ofproto.OFPIT_APPLY_ACTIONS, actions)] mod parser.OFPFlowMod( datapathdatapath, matchmatch, instructionsinst, prioritypriority, idle_timeoutidle_timeout ) datapath.send_msg(mod)邏輯說明這段代碼把一個匹配規(guī)則比如源IP加目的IP和出端口綁定成流表項下發(fā)。idle_timeout30表示該流表項30秒沒有流量命中就自動刪除避免預(yù)測選路產(chǎn)生的流表項殘留堆積同時也給路徑調(diào)整留出“后悔藥”——預(yù)測錯誤時舊流表項會自然老化不會一直占著錯誤路徑。priority100要高于控制器默認的table-miss流表項優(yōu)先級別否則匹配不到這條新規(guī)則。邊界說明真實交換機對流表下發(fā)是有延遲的尤其是Open vSwitch在用戶態(tài)處理FlowMod時高峰期可能積壓幾十毫秒。所以預(yù)測窗口不能太短至少要比流表下發(fā)時延加上路徑切換緩沖大一個數(shù)量級5秒的預(yù)測窗口在多數(shù)場景下是可用的。另一個邊界是TCP連接狀態(tài)直接改出端口會把已建立的TCP連接打斷所以生產(chǎn)環(huán)境里要么用鏈路聚合組配合哈希搬遷要么選擇在預(yù)測到擁塞前給新流安排路徑已有大流的重路由需要額外做會話保持機制。監(jiān)控方向的新連接、周期性小流可以直接走預(yù)測路徑敏感業(yè)務(wù)的存量長連接建議還是讓ECMP來管。5. 避坑與常見問題LSTM流量預(yù)測落地時我踩過的四個坑5.1 預(yù)測曲線整體比真實值滯后一個窗口看起來像“把上一秒的值搬過來”現(xiàn)象預(yù)測曲線形狀和真實值高度相似但整體向右平移了幾十秒擁塞峰值出現(xiàn)時預(yù)測值還沒上去等預(yù)測值上去了擁塞已經(jīng)結(jié)束。訓(xùn)練集上的loss很低但線上意義不大。原因流量序列本身自相關(guān)性很強LSTM容易學(xué)到“當前值就是下一個值的預(yù)測”這種偷懶路徑。窗口過長時模型可以只依賴最近幾個時間步做預(yù)測而窗口前部的歷史信息沒有被有效利用導(dǎo)致輸出近似于滯后拷貝。解決先檢查窗口是不是開到了120秒以上如果是按60秒重新構(gòu)造樣本再用更大的學(xué)習(xí)率微調(diào)最后兩層或者直接減少LSTM層數(shù)到一層強制模型從長期趨勢里找規(guī)律。如果這些都沒用檢查歸一化是否把峰值壓得太扁MinMaxScaler的max值如果不是流量真實峰值模型會認為所有值都在低段波動自然學(xué)習(xí)不到上漲趨勢。5.2 訓(xùn)練時隨機打亂樣本測試集指標虛高現(xiàn)象訓(xùn)練代碼里用了np.random.shuffle或者train_test_split(random_state42)打亂數(shù)據(jù)驗證集MAPE只有5%但切換到后續(xù)真實時間段的流量上預(yù)測誤差飆升到30%以上。原因流量序列時間相關(guān)打亂之后同一時刻附近的數(shù)據(jù)被同時分進訓(xùn)練集和測試集測試樣本里包含了和訓(xùn)練樣本幾乎相同的前后文模型等于“開卷考試”。解決這是流量預(yù)測最常見的翻車點。訓(xùn)練測試必須嚴格按時間先后截斷前70%訓(xùn)練、中間15%驗證、最后15%測試?;皹?gòu)造過程中也要保證窗口之間不能重疊到測試段數(shù)據(jù)我的做法是測試段單獨跑一遍create_sequences而不是在全量序列上一次性切分。5.3 預(yù)測值本身沒問題但負載均衡模塊在兩條路徑之間來回切換現(xiàn)象監(jiān)控圖上看到路徑A和路徑B每幾個周期就互換一次網(wǎng)絡(luò)時延不降反升交換機CPU也明顯升高。原因LSTM每個預(yù)測周期輸出的值天然帶有波動相鄰兩次預(yù)測即使真實流量平穩(wěn)預(yù)測誤差疊加后也會讓剩余帶寬排名翻轉(zhuǎn)。負載均衡策略如果只按當前預(yù)測值選絕對最優(yōu)路徑就會產(chǎn)生抖動。解決加兩條保險。第一對預(yù)測剩余帶寬做指數(shù)平滑讓路徑得分變化不過于劇烈第二設(shè)置切換閾值只有當新路徑的預(yù)測剩余帶寬比當前路徑大15%以上才真正切換。這個15%是我在多個模擬環(huán)境里試出來的折中值太小時有切換抖動太大時預(yù)測結(jié)果基本起不到作用。還要給每條路徑設(shè)置一個“冷卻時間”切換后至少維持30秒內(nèi)不允許再切回。5.4 通過控制器API下發(fā)流表后用ovs-ofctl查不到轉(zhuǎn)發(fā)表項現(xiàn)象代碼執(zhí)行沒有報錯客戶端確實收到了OpenFlow消息但ovs-ofctl dump-flows br0查不到新下發(fā)的規(guī)則流量還是按原先路徑走。原因Open vSwitch的table-miss默認流表項優(yōu)先級可能是0如果你下發(fā)的流表項匹配條件寫得太寬比如只匹配目標IP段交換機會先命中更精確的已有規(guī)則如果idle_timeout設(shè)成0部分OVS版本會當成永久流表項也可能和組表沖突被丟棄。解決下發(fā)前先用ovs-ofctl dump-flows看當前所有表項的match和priority。排查順序是用curl或抓包確認FlowMod消息確實發(fā)出檢查流表項的priority是否高于現(xiàn)有沖突項檢查match字段是否精確到了源和目的IP加端口。還有一個經(jīng)驗在Mininet環(huán)境里模擬多級流表時消息要指定table_id默認下發(fā)到table 0有時會被安全策略規(guī)則擋住。5.5 在線預(yù)測延遲太高預(yù)測結(jié)果到負載均衡模塊時已經(jīng)“過期”現(xiàn)象控制器收到新流請求后調(diào)用model.predict()單次推理耗時能到80毫秒加上采集和路由計算整個流程超過150毫秒而預(yù)測窗口只有5秒等于竟爭條件里白白損耗了3%。原因Keras模型在CPU上對單條樣本推理時TensorFlow的圖執(zhí)行和線程池調(diào)度開銷占了相當比重批量推理效率高但控制器是連續(xù)單條觸發(fā)每次都重新初始化圖上下文。解決常見做法是把預(yù)測模塊從控制器的轉(zhuǎn)發(fā)主循環(huán)里拆出去用獨立進程每N秒批量跑一次所有關(guān)鍵鏈路的預(yù)測結(jié)果寫進共享內(nèi)存或Redis緩存負載均衡模塊從緩存讀取?!芭俊币馕吨A(yù)測頻率從每條流一次降為每個周期一次CPU占用率顯著下降。另一個降低延遲的招數(shù)是把LSTM模型轉(zhuǎn)成TensorFlow Lite格式再部署推理時間能壓到10毫秒以內(nèi)。6. 自測這套方案是否有效一組能說服自己的對比實驗驗證預(yù)測驅(qū)動的負載均衡有沒有用不要只看預(yù)測誤差要連著網(wǎng)絡(luò)性能一起看。我在Mininet里搭過一個3層拓撲核心層兩兩互聯(lián)下掛8臺主機跑三組對比最短路徑優(yōu)先、ECMP、LSTM預(yù)測負載均衡。每組都用iperf同時拉兩條長期TCP流和若干短突發(fā)流統(tǒng)計吞吐量和平均時延。指標最短路徑優(yōu)先ECMPLSTM預(yù)測負載均衡總吞吐(Mbps)212287342平均端到端時延(ms)12.89.45.6路徑切換次數(shù)/分鐘021結(jié)果表能說明兩個問題ECMP因為哈希沒有帶寬感知兩條大流偶爾哈希到同一鏈路LSTM預(yù)測負載均衡在擁塞發(fā)生前就把第二條流的路徑切到預(yù)測剩余帶寬最大的鏈路上所以時延優(yōu)勢明顯。要復(fù)現(xiàn)這組實驗關(guān)鍵是控制變量三組實驗跑同樣的流量腳本預(yù)測模塊單獨記錄每次預(yù)測的MAPE并觀察預(yù)測誤差和路徑切換次數(shù)的聯(lián)動誤差超過15%時切換頻繁說明模型需要重新訓(xùn)練誤差在10%以內(nèi)但時延沒改善說明負載均衡策略在“選路閾值”上需要微調(diào)。我有一個用了很久的習(xí)慣把模型訓(xùn)練腳本、預(yù)測推理模塊、路由策略三部分拆成獨立模塊用配置文件控制啟用哪個策略灰度上線時先只預(yù)測不下發(fā)等離線評估連續(xù)三天MAPE穩(wěn)定在15%以下再打開自動選路。這套方案的價值不在模型多深而在于預(yù)測和轉(zhuǎn)發(fā)這兩個環(huán)節(jié)能不能平滑咬合一旦把接口和監(jiān)控指標定好后面換GRU、換更大的窗口都是小改動。希望這些思路能幫你在自己的網(wǎng)絡(luò)環(huán)境里少折騰幾個來回。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
不卡在线观看视频| 亚洲免费成人在线高清无码视频| 成人综合色网| 最新三级网址| 中国AAAAAA黄色片| 69AV女优男人的天堂| 色黄污美女啪啪啪免费网站| 色婷婷狠狠18禁| 不卡六六在线91| 一区 欧美 日韩 麻豆| 亚洲色系另类精品国产| 黄片免费日韩| 久久伊人东京热| 亚洲自拍一区夜夜操| 國產尤物AV尤物在線觀看| 少妇被c 黄 免费观看| 久操视频免费观看| 久久精品视频久久久| 把腿张开老子CAO烂你| 91人妻在线视频| 91碰碰| 99热超碰| 欧美最婬乱婬爆婬性视频| 国产AV久久野战精品| 免费视频一二三区| 天天插夜夜爽| 中文字幕一区二区三区人妻少妇在线| 久久香蕉国产线看观看猫咪av| 欧美色欧美| 91天堂丝袜美腿| 超碰天天操| 精品久久一区二区三区四区五区| 另类TS人妖一区二区三区| 理论久久婷婷网8| 91国内外在线| 大香蕉2017| 嫩草 人人网精品| 亚洲综合影片| 欧美A√综合网| 久久久不能久久久久| 色婷婷导航| 综合欧美日本三级| 粉嫩av在线一区二区| 91碰超| 久久青青草原免费视频| 日本熟女不卡视频| 人人操人人摸avav| 岛国激情视频在线观看| 国产日本一区二区三区蜜臀在线观看| 国产精品直播在线观看直播| AV在线性爱| 午夜精品久久久久久久久久蜜桃 | 狠狠操狠狠操操| 四虎影视 亚洲无码| 欧美大干日韩| 偷拍99| 成人一二三区| 操逼操2| 乱伦a片视频| 午夜.DJ高清在线观看免费7| 日本色色色网站免费看不卡| av在线不卡一区二区三区| 亚洲图片色图欧美另类| 天天操天天谢| 亚洲 无码 有码 中文字幕| 超碰人人乐97| 青青青青草av在线观看| 久久久精品一区二区| 色综合99999| 视频二区熟女人妻| 久久久久久十| 欧美特大AA级黄片| 免费看黄视频亚洲网站| 日韩亚洲美女一区久久| 骚逼一区二区| 少妇精品| 91欧洲国产成人久久精品网站| 伊人网高清| 九九碰九九爱97超碰| 亚洲AV无码秘 蜜桃臀国精产品| 国产精品露脸在线观看| 国产尹人在线视频免费| 欧亚乱色熟一区二区三四区| 午夜精品人妻二区三区| 人人妻人人爽一区二区三区| 蜜乳AV免费观看| 秋霞免费无码视频日韩A片| 伊人女女资源在线观看| 欧美少妇一区二区三区| 久久久涩| 丁香九月 婷婷| 亚洲欧美在线观看2021| 岛国小电影| 一区二三区四区视频大全套| 极品欧美一区二区三区| 中文字幕亚洲在线一区| 亚洲天堂人人妻| 亚洲丝袜二区在线| 日本免费人成视频播放120秒| 久久久精品无码亚免费| 青青草吊丝| 日本幼女18+| 婷婷婷婷婷婷久久久久| 国产精品电影| 天天超级碰碰碰| 日韩福利电影网| 性色av婷婷久久一区二区点复制| 中文字日本乱码| 高清无码学生妹高潮| 亚洲一区二区三区春色| 婷婷丁香久久| 中文字幕av片| 激情网色| 男人的天堂久久狠| 熟妇熟女一区二区三区| 亚洲经典啪啪| 射丝袜大香蕉| 欧美日韩插逼视频| 殴美性色a级欧美| 亚洲人妻色图| 天天激情干| 精品人人| 大JI巴好深好爽又大又粗视频| 欧亚免费视频| 亚洲天堂久久| 国产乱码久久| 2020中文字幕在线观看| 91N欧美| 夜夜春夜夜操| 另类在线| 91中文字幕| Julia在线播放亚洲久久| 亚洲色天堂九9| 亚洲欧美成人在线| 极品出轨视频网站| 日本大片日本一区二区免费高清| 超碰在线97国产| 欧洲在线性爱视频| 天天享受天天看| 囯产精品久久久久久久久久梁医生| 99熟女| 91精品婷婷国产综合久久| 无码人妻精品一区二区中文| 日韩不卡网操逼中文字幕日韩| 久久草草亚洲蜜桃臀| 亚洲码和欧洲精品激情系列| 人人玩人人添人人澡免费| 国产白领连续中出在线观看| 成人免费毛片| 啊啊啊好舒服视频在线观看| 秋霞蝌科网日本一区| 亚洲啪啪啪啪视香蕉| 久久久精品视频免费观看| 久久精品高清无码一区| 丁香五月综合| 日B操| 蜜臀久久99精品| 久96热在线观看视频| 亚洲AO在线| 日韩熟女操逼| 青草地一本线一区二区三区| 国产超碰在线一区| 97最新在线播放视频| 中国91AV| 玖玖资源中文字幕制服丝袜| 99热这里只有精品地址| 国产精品人妻免费精品| 国偷自 一区二区| 国产原创剧情在线丝袜| 天天色图| 日本精品九九九| 国产色呦呦| 视频二区美腿制服人妻欧美| 加勒比综合a∨| 日韩另类色图| 岛国黄| 色与欲影视天天看综合网| 91亚州日韩高清| 99婷婷一区二区| 亚洲做性| 九九九九免费视频| 日韩欧美麻豆大片| 久青草影院| 久久毛卡| 九九热精品| 91久久久久久久久久久| 天堂俺去俺来也www久久婷婷| 亚洲做性| 久久九操在线观看| 中美日韩毛片| 快点操死我| 欧美色视频在线| 中字幕人妻一区二区三区| 欧美色图自拍| 一线黄色免费性爱片| 97免费在线| 中文字幕av一区二区三区人妻少妇 | 天天日天天舔东京热| 国产乱伦性爱区| 高颜值美女口爆高潮浪叫| 亚洲综合小视频小说在线观看| 日本福利二区视频| 激情小说图片亚洲首页| 久久久无码精品人妻二区| 欧美少妇第一页| 亚洲1区| 亚洲高清无码在线桃色| 东京热一区二区中文字幕| 夜夜嗨TV| 国产精品3| 精品成人女人久久| 久久亚洲色图中文字幕| 久久久性爱视频| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 久久久久久99999国产精品| 自拍视频大全亚洲专媒视频/一区二区三区| 午夜免费视频1000| 色色色综合| 色色婷婷五月天| 久久无码电影| 久久天天艹| 超碰在线人人射| 中文字幕后石码四区五区| 亚洲 在线| 五十路一区无码| 大香蕉中文在线| 91n免费处女| 久久久久久久久国产| 粉嫩AV一区夜夜嗨| 嫩草黄页| 欧美色图片色哟哟| 欧美日韩制服| 欧美日韩一二三| 国内精品久9| 超碰视97中文| 国产丁香精品露脸视频 | 久久久精品国产亚洲AV无码| n1038 一二三区| 午夜福利久久久噜久噜久久综合 | 日韩精品第3页| 蜜桃久久久久久久久久久久| 欧美伦乱| 操逼操2| 国产精品分类在线观看| 中文字幕一区二区韩| 久久亚洲AV无码专区首页| 新婚人妻扶着粗大强行坐下| 99九九精品| 久久久久亚洲?V片无码V| 亚洲网站一区二区在线| 亚洲性爱免费电影| 中文字幕成人| 亚洲三级网址久久最新| 久久亚洲不卡一区二区三区| 高颜值美女口爆高潮浪叫| 久久久96| 岛国大片在线观看网站入口| 五月丁香综合| 天天弄欧美| 蜜臀一二三区| 秋霞 色色| 91影库| 爱做久久久久久| 天天操女人| 久神马| 欧美专区17页| 美女视频尤物网在线看| 日本有码久久| 熟妇一区,二区,三区。| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 国产亚洲日本| 69av一区二区三区| 色丁香五月婷婷| 四虎视频在线观看| 性色av大全| 亚洲av影音先锋| 黄色网址久久精品欧美喷水| 亚洲国产精品久久久久婷婷老年 | 欧美偷偷网| 超碰在线综合97| 高清国产无码av| 3d成人精品一区二区| 久久综合18p| 久操 高清| 久久二| 欧美疯狂做爰xxxx| 亚洲清纯唯美| 好色综合| 另类综合另类| 色综合20p| AAAA欧美日韩| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 国产女上位好爽在线| 精品丰满熟妇人妻一区| 午夜无码精品免费看性色| 熟妇最新先锋一二三区| 精品黄色电影| 色色操| 国产乱码久久久| 在线看片国产精品每日更新| 制服少妇欧美| ,成人免费啪啪视频| 9/A片| 欧美精品偷拍| 国产中文大片资源中文字幕| 蜜桃狠狠色伊人亚洲综合| 九九九精品成人免费视频小说| 婷婷五月花| 欧美综合网A| 大香蕉专区| 大香蕉欧美伊| 欧美日韩国产另类综合| 男人干美女| 精品无码一区二区三区色欲| 日本在线一二| 精品久久九| 亚洲日韩美国人妻| 老汉网| 婷婷干黄色| 人妻熟女一区二区在线视频| 96国产精品| 国产伦乱91| 91女优在线观看| 日本123区操B视频| 老司机午夜精品视频| 国产亚洲 中文欧美久久| 超碰在线一区二区| 久久综合久久综合人久久夜精品| 手机在线免费看的av| 无码视频黄色网战| 九九久久久| 亚洲AV无码天美传媒一区| 99热在线播放| 久久久久久久少妇| 99热精品国产| 女同性恋久久| 蜜臀视频网站| 青青草字幕AV| 99热伊人| 人妻丝袜美腿中文字幕| 香港成人一级视频在线青青草| 色97干| 久久色人体 | 人人操肉肉| 一级免费精品| 120分钟婬片免费看| 一级性爱网| 欧美色图亚洲特色| 欧美日韩免费性爱| 4tube欧美女厕所| 啊a一区在线| 亚洲欧洲日韩国产自在线| 2017天天拍大香蕉| 久久9999| 最新av在线| 天天干人妇| 欧美日韩1234| 91白虎| 中文字幕免费观看| 五月婷婷丁香六月| 性久久| 久草在线| 亚洲怡春院| 18一区二区三区| 国产三级资源在线观看| 欧洲在线性爱视频| 人妻铁牛TV| 亚州色阁| 中国小夫妻勾搭露脸淫荡对白| 五月婷婷六月丁香| 手机看av网站在线看| 亚洲高清视频在线免费观看| 神马麻豆福利院| 欧洲亚洲综合| 男人的天堂日韩| 好吊色一区| 精品一区二区亚洲国产| 神马久久久久久伦理片| 国产一区二区三区久久久精品| 欧美亚洲特P| 日日干夜夜欢| 天天操人人操骚逼网站| 日欧美色| 天天看人人操屄犊摸阴| 日韩亚洲美女一区久久| 99这里只有精品| 日韩国产成人自拍视频| 在线看片国产精品每日更新| 午夜男人av| 国产91av在线播放| 天天操人人操狠狠插| 性爱AV天堂| 久神马| 97碰碰日本乱偷人妻中文的| 美女啪欧美一区| 中文字幕片| 日韩另类色图| 亚洲综合码| 快点操死我| 天天看综合网| 草b在线 | 欧洲小说色图视频另类| 先锋音影AV| 啪啪91| 欧美日韩222| 亚洲色图加勒比| 日日日啊啊啊| 性生活无遮挡纯毛片在线看| 日本道日本道中文字幕日本道最新日本道在线观看 | 日日夜夜精品| 日韩欧美俄罗斯A片| aaaa黄片| 日韩人妻精品久久久久| 欧美老熟另类| 亚洲第一色页夜| 澳门人妻久久| 熟妇一区,二区,三区。| 欧美 亚洲| 中文字幕精品探花视频| 精品成人动漫一区二区| 日本国产成人亚洲精品无码| 激情五月综合| 伊人五月天青青草婷婷| 91高潮喷水美女| 性欧美| 久久久久久9| 亚洲一卡二卡在线免费| 91狼人| 少妇一线天久久久久久| 日韩99神马视频片| 中文字幕第7页| 国产视频第二页| 欧美黄色手机在线观看| 日韩乱插| 色爱欲亚洲| 怡红院亚洲怡春院av| 大香蕉中文在线| 欧美翘臀视频网站一区二区三区| 天天色,天天干,天天干| 毛片电影一区二区三区| 嫩草 人人网精品| 亚洲中文丝袜美腿诱惑字幕| 91爱| 极品白嫩美女白浆成人福利在线看| 开心婷婷五月| 久久久久久少妇| 亚洲色图欧美一区二区不卡| 日韩中文字幕人妻视频| 天堂蜜桃无码视频一区二区| 久久精品人妻一区二区三区| 亚洲色图尤物视频| 91xingse| 五月天婷婷社区| 国产在线激情视频| 久久99亚洲精品久久99果| 九九英色视频| 亚洲九九视频在线观看| 亚洲天堂资源网| 户外裸露刺激视频第一区| 中文字幕一区 二 区 三 四 五 区日 日 骚| 国产怡红院| 97资源站日韩| 日韩性爱再线视频| 久久一本大香蕉 | 看大黄色大片原件| 少妇免费视频| 99久在线精品99re8蜜桃| 国产 日韩 欧美高清| 色综合美国| 91天射| 黄色免费一级在线毛片| 久久欧美按摩999| 日韩欧美麻豆| 久99久视频| 国产青视频| 久久超碰国产一区二区三区| 婷婷久久综合| 美女啊啊啊啊啊| 婷婷丁香五月天综合东京热| 四虎在线观看网站| 日韩人妻免费精品| 欧美第一页| 久草国产在线视频| 玖日综合网| 久久肏大逼| 日本国产二线女色| 亚洲AV无码国产精品久久久久| 九九国产热| 精品国产丝袜一区二区三区乱码| 九九久久久久久爱| 日韩无码视频黄色| 91中文精品日韩欧美在线| 黄色免费网| 97色97好| 国产探花精品在线| 9997se| 99精品久久| 天天噜| 麻豆蜜桃视频在线观看| 舔足天天操天天射| 欧美日韩理论一区| 国产一在线观看| 久久后入制服| 久久久蜜桃一区二区三区| 久久久久国产精品久久久| 极品五月天噜噜| 天天激情综合站| 日噜夜夜夜夜夜夜夜夜夜夜爽爽爽爽爽爽爽爽爽爽爽爽 | 婷婷激情五月| 日韩成人高清一区二区| 超碰色中文| 97综合久久| 天天干天天日天天射黄色片| 秋霞影音一区二区三区| 一二三区精品视频| 熟女一区二区三区| 屌逼传媒| 在线观看高清AV| 欧美狠狠狠| 91在线欧色| 精品一区二区成人| 亚洲加勒比| 日韩紧密久久| 日韩另类| 啪啪啪东京| 熟妇女伦乱视频视频| 色呦呦、国产精品| 日欧操屄视频| 内射老妇BBWX0C0CK| 试看福利| 女人天堂AV五区在线| 成人性爱视频在线看| 天天综合站| 婷婷五月天_亚洲小说欧美激情另类_精品久久国产字幕 | 大香蕉中文| 99热在线播放| 久久九九视频九九视频| 男人的天堂日本东京热| 国模无码一区二区三区在线| 99精品国产户外露出| av久日| 俺去俺来也在线www| 亚洲欧美另类激情小说| 97资源站日韩| 日日橹狠狠爱欧美超碰| 亚洲成av人片色午夜乱码| a男人的天堂久久一级A毛片| 欧美亚洲首页| 人妻天天爽夜夜爽2| 91扒丝袜综合在线| A V少妇特黄三级| 草草影院日本第一页| 综合另类| 精品999999| 日韩精品 欧美激情| 欧美大干日韩| 丁香六月啪| 极品尤物女神在线观看| 艹精品| 日韩射图| 国产夫妻性生活视频| 啊啊啊不要嗯嗯在线观看| 日韩精品熟妇| 人妻丝袜无 码视频专区| 91精品无码人妻系列| 亚洲AV秘 精品久久老牛影视| 午夜美女诱惑电源网| 亚洲天堂自拍| 欧美日韩少妇色情| 日韩传媒在线| 人妻 制服 日韩 中文 在线| 国产熟女精品区| 欧美78| 秋霞一区二区三区四区五区六区七区| 欧美丝袜激情| 黄资源| 亚洲熟久久| 亚洲精品不卡一二三区| 少妇内射www在线观看视频| 欧美 熟女 日韩| 啊好爽快点-国产一区二区三区撒尿在线-成人AV| 男人的天堂2018东京热啪啪啪| 丝袜美腿诱惑亚洲欧美视频在线观看 | 亚洲精品免费中文字幕| 久久av一级av少妇av高潮| 浓厚中出中文字幕在线| av绯色| 强奸乱伦动态污图免费| 九九热在线精品视频| 久久乐| www.狠狠干.coom | 夜夜一区二区| 强免费黄色网址| 久久综合九九| 天天爽夜夜欢视| 亚洲AV乱码专区国产噜噜亚洲| 欧美一二三区四五区| 午夜精品久久久99| 欧美综合777| 亚洲国产精品无石码久久| 五十路熟女人妻一区二区三区四区五| 日本熟妇浓毛hdsex| 97在线观看| 欧美老妇曰批的视频| 日本精品第一视频在'| 亚洲男人的天堂亚洲| 99欧美| 日韩ab网 | 国产辣妈在线视频福利| 大香蕉专区| 六月色婷婷| 伊人AAA| 久草在| 国语精品av| 欧美 日韩 亚洲 春色| 黄色av一区二区在线| 美女露胸露屁股| 丝袜狠狠草尤物 91| 亚洲区小说| 欧美 精品国产制服第一页 | 美女黄码视频午夜| 少妇久久久久久久| 日韩,欧美,中文在线| 欧美激情亚洲色图| 日本2020一区二区| 亚洲国产成人精品久久久国产成人一区二区三. | 婷婷超| 超碰在线人妻| 真实高潮91| 97在线/亚洲| 国产又黄又爽又刺激久久久久久| 免费看欧美美女黄色大片| 婷婷色婷婷| 日本中文字幕熟妇| 13小男生GAY自慰脱裤子| 激情久久久| 91处女在线视频| 18禁在线视频| 九九九综合精品| 欧中美三级一区二区三区| 69少妇一区二区| 黄色乱论网站| 97超碰香蕉| 亚洲欧美激情在线视频| 天天操美美| 欧美性爱18观看| 91在线|亚| 欧美日韩亚洲天堂| 日韩成人大片在线观看| 久湿久久| 99re国产精品视频| 久偷拍| 激情内射| 岛国精品视频在线观看 | 熟女色综合久久| 青娱乐亚洲热| 日本不卡一区| 日韩精品三区四区| 日本操逼视频免费| 色噜噜国产在线| 九九九色| 超碰在线成人| 有码专区最新中文字幕有码| 国产成人无码高清| 人人澡人人爽人人精品| 欧美亚洲手机在线| 先锋精品av色鲁| 91色宗合| 97干日韩| 无码区蜜乳| 99 国产丝袜在线| 370p日韩欧美亚洲精品| 天天摸天天舔天天操| 女人与公拘交酡2020视频| 玖玖综合色| 色天使亚洲综合在线观看| 目产99999久久999| 在线精品福利免费播放| 性感美女91影视| 91oumei| 日产操逼| 亚洲drav色图| 亚欧成人综合影院| 91 亚欧| 97干在线视频| 亚欧无码线免费观看视频| 91最新综合| 黑人精品XXX一区一二区| 91日产欧美| 日韩乱伦视频| 97干在线| 亚洲国产精品久久久男人的天堂| 日本性爱网址| 亚洲色图A| 国产欧美第五页| 亚洲国产成人7777| 人妻 欧美 中文| 人人考人人摸人人干| 中文久久久| 艹我哪美一区无码| 白嫩少妇| 国产精品网站www| 无码 有码 国产18p| 久久久久99999| 欧美色图 人妻| 99热啪啪| 插入逼91| 日本一二三免费久久| 韩国轻伦国内自拍一区| 国产小黄片在线免费观看| 蜜臀在线网站| 国产13区| 亚洲操操操| 午夜AV人气不卡| 午夜精品久久久久久久久久久久久 | 2017人人操,人人摸| 综合亚洲欧美| 亚洲综合贴图91 | 免费观看国产不卡av| 亚洲日本天堂| 麻豆天美国美国产AV| 色久桃花影院在线观看| 啊啊啊啊网站| 日本精品88888888| 久操大香蕉| 亚洲欧美综合| 操淫穴亚洲五月丁香| 三级网色| 人人模人人看| 日本 情色 1区| 日欧毛片久久| 色99视频| 国产在线精品偷| 国产传媒操逼视频| 国产嫩草精品A88AV| 日韩欧美偷拍美女视频| 成人AV素股で擦久久| 99在线观看| 一个国产在线综合网站| 日韩精品中文字幕人妻| 欧美综合亚洲综合| 国产精品欧美在线观看| 先锋激情∨在线视频播放| 无码粉嫩白虎一线天b区| 一区 欧美 日韩 麻豆| 99色悠悠| 麻豆天美国美国产| 欧美图片偷拍| 男人天堂婷婷五月天校园春色| 成人性爱高清视频免费看| 熟妇熟女一区二区三区| 蜜臀久久99精品久久久久久婷婷| 新怡红院| 中文字幕视频在线观看| 97亚洲中文| 9997se| 熟女熟妇一区二区三区视频| 99精品丰满人妻无码| 97人人爱人人做人人乐| 大奶尤物鲍汁淫荡欧美视频粉嫩夜夜骚| 亚洲美乱| 凹凸视频特色日本特黄| 97在线精品| 九九碰九九爱97| 成人看片网站| 亚洲色图91欧美日韩| 天天综合日韩网| 97色97好| 女同性恋一区二区三区精品视频| 激情网五月天| 夜夜爽33333| 97视频网站在线观看| 暖暖精品二区三区观看| 色 婷97| 9久热| 伊人大香蕉在线| 啊啊啊啊啊在线视频| 一区,二区,三区视频| 成人久久久精品| 亚洲少妇自拍中文字幕懂色| 啊啊啊好大好深| 免费A片三p视频| 少妇被c 黄 免费观看| 免费国产电影一区二区| 欧美日韩性爱无码| 人妻一区视频| 人人操AV| 国产欧美一区二区| 人人人人人人少妇| 屌妞视频久久久久久久 | 欧美激情内射| 欧美爆乳精品一区二区| 波多野42部激情无码喷潮| 蜜乳Av成人片网站| 99操视频| 色综合美国| 丝袜翘臀后入欧美校园亚洲自拍另类小说一区中文字幕少妇诱惑 | 色妇91| 久久久九精品| 日韩视频中文字幕| 99婷婷一区二区| 欧美日韩亚洲一区二区在线观看| 欧美中出1| 激情综合婷婷| 国产高清成人传媒影视| 精品人妻一区二区三区-国产| 亚洲色图伊人网| 国产精品操| 日韩在线观看字幕精品| 亚洲情色五月天 | 久久青娱乐| 国产第二页| 日本人妻丰满熟妇久久久久久| 欧美精品91| 亚洲精品九九九九九九| 91无码人妻精品一区二区三区蜜桃| 欧美少妇色图| 福利视频一区二区微拍| 天天欧美色| 久久久久亚洲一区女同性恋中文字幕| 天堂亚洲精品| 成人自拍三级在线观看| 中出91| 91大胆欧美| 天堂伊人久久| 国产精品ww久久| 牛黄色久午久| 丰满少妇人妻久久久久久| 另类图片五月天| 性爱免费视频成人| 成年男人的天堂| 人人操人人摸超碰| 人人妻人人狠人人| 亚洲视频小说| 日韩免费中文字幕视频| 亚洲天堂男人在线| 伊人玖玖网| 欧美大波激情xxxx| 天天操av懂色| 美女啊啊啊啊啊啊| 中文字幕亚洲在线一区| 欧美A√综合网| 亚洲春色一区二区三区| 发朗少妇买婬全视频中文| 综合网亚洲在线| 国产捆绑一区| 日韩Va亚洲va欧美Ⅴa久久| 亚洲综合激情五月久久| 国产久久男人天堂| 青娱乐淫乱1314| 91婷婷伊人狠人| 男人天堂资源| 久久九九视频九九视频| 91中文精品日韩欧美在线| 国产日韩无码一区二区三区久久区| 三级三久久线久久99久目本WW| 久久久精| 国产精品盗摄 偷窥盗摄| 人人喜人人妻| 一级做a爰片性色毛片久久| 欧美在线播放aaaa| 色色97爱| 97精品国产97久久久| 国产精品丝袜在线| 色九九综合| 亚洲好色人妻| 岛国网址国产| 天天情欲宗合网| 色官网在线| 91性网| 日本三级久| 秋霞一集毛片观看| 东京太热久久久| 日韩激情电影中文字幕| 亚洲天堂自拍| 嫖老熟女A片一二三区| 亚洲制服欧美另类内射| 91一区二区三区蜜桃| 婷婷91| 手机在线视频国内精品| 97超碰超| 人妻 欧美 中文| 欧在线一二区| 欧美一区二区三区成人性生活| 欧美在线伊人色| 久久久婷婷| 亚洲天堂2020| 亚洲熟女乱熟乱熟妇综合网二区| 夜夜夜久久| 无码国产精品午夜不卡(| 欧美黄页在线| 怡红院视频在线| 少妇高潮九九九九九九九| 近亲乱伦一区二区| 久久精品女同亚洲女同13| 精品久久99| 丁香五月久久| 久久精品72| 亚洲男人天堂视频| 日本精品五区| 夜夜影视四色| 九月丁香婷婷| 国内毛片无码一级毛片| 香一区二区三区| 精品亚洲| 国产农村妇女精品一二区| 亚洲天堂一二| 丁香五月激情网| 久久 精品| 色一射色一射| 亚洲色人| 国产熟妇一区二区| 人妻中文在线| 九一屌逼| 美國A片| 9Ⅰ老熟女| 91操人| 熟妇一区二区三区| 久操热| 性爱视频免费网址| 麻豆一区二区三区在线看| 60秒试看最爽10分钟网站| 偷拍自拍在线视频观看| 久久综合九色综合欧洲98| 日本中文字幕一区| 大鸡吧尹人在线| 日本中文字幕在线电影| 国产在线观看一区二区三区| 九九九不卡| 亚洲有码 欧美精品| 日韩性爱1级片视频| 超碰91在线| 深夜激情| 久久成人午夜狠狠| 亚洲色图久久成人| 九九九九热| 亚洲美女黄色| 韩国轻伦国内自拍一区| 日逼逼免费看| 蜜臀久久99精品久久久电影| 国产精品另类| 加勒比综合在线| 青青青艹在线视频| 亚洲三级网址久久最新| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 亚洲无线码一区国产欧美国| 被窝影院午夜看片无码| 亚洲中文sv| 女同性恋中文字幕| 校园春色欧美| 囯产精品强| 久久伦理视频久久大香蕉视频| 天美一二三在线观看Av| 亚洲色图 欧美热图 清纯唯美 另类自拍| 日韩啪啪啪啪啪| 激情五月天色播| 无码国产Av| 一类av片在线看| 伊人久久综合影院| 成人av影院在线观看| 日本黄大片在线观看视频| 日本操逼无码| 亚洲AV麻豆Aⅴ无码电影一| 欧美精品三级黄片| 青春草莓视频在线观看网址| 97色网| 精品国产乱码久久久| 亚洲小说视频| 久久九九精品一区二区| 破处bbq| 999 久久久| 欧洲精品久久| 人妻熟女一区二区| 99热国产| 91超碰在线| 免费试看60秒| 国产强奸91| 中文字幕高清精品一区| 97爱爱爱| 色操逼网| 精品国产久热在线观看| 成人夜夜爽| 蜜伊人色综合97| 久久99精品九九久久久婷婷| 最新中文字幕在线亚洲| 中文字幕一区日韩精| 国产精品天美传媒| 亚洲精品骚逼| 色综合久久夜色精品国产天堂| 久久久中文版| 日韩丨制服丨中文|在线| 男同专区一区二区三区在线| 视频不卡中文字幕| 91在线免费精品视频| 丁香六月激情| 播播亚洲小说亚洲| 欧美性猛交美女自慰91| 都市激情人妻一区二区青青操视频| 大奶尤物鲍汁淫荡欧美视频粉嫩夜夜骚| 78p欧美| 少妇高潮九九九九九九九| 翔田千里AV无码秘 三区| 97精品熟女少妇一区| 五月婷婷综合在线| 中文字幕日产av人| 超碰亚洲欧美日韩无| 丝袜美腿射精91| 欧美综合亚洲综合| 欧美性爱www免费版| 国产在线76页| 黑人粗大V S日韩女优视频| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 中国熟女网站| 中文字幕欧美丝袜07资源| 太久视频| 乱人伦 国语对白:视频直接看| 亚洲限制级| 亚洲影视综合| 五月丁香社区婷婷日韩欧美精品影院 | 亚洲色棕合| 欧美午夜视频免费观看| 久久久无码国精品无码三区三区| 成人热久久精品| 欧州91高潮| 26uuu性| 久热伊人| 欧美在线色| 午夜国产综合视频在线观看| 久久99视频| 欧洲精品欧洲精品| 乱性AV| 欧美亚洲丝袜人妻制服99| 久久久成人精品| 无码操逼视频一下| 亚洲日本韩国极品一区二区| 97网站在线观看| 国产精品爽爽va在线观看98| 97视频在线视频| 日本精品五区| 乱日视频| 天天看夜夜看日日干| 欧美日韩夜夜| 78精品在线| 久久思思热| 亚洲 欧美 色图| 中文字幕二区日韩天堂| 天美av在线| 99色视频| 亚洲欧美首页| 九九性爱网| 97一区二压| 国产精品女生av| 久久蜜色情在线视频xxx免费观看| 久久AV无码AV| 美女尤物福利视频| 久久色精品视频在线| 午夜免费视频1000| 国产精品久久久久久久久久久久久久吹| 3p国产欧美99热| 久久人人爽av亚洲精品天堂桃色| 色在线视频导航| 99热精品在线| 超碰视97中文| 亚洲AV噜噜狠狠网址蜜桃动漫| 97色色色综合网站| 大色综合| 麻豆福利视频导航| 在线观看不卡一区二区三区| 青青操少妇| 亚洲图片色图欧美另类| 91大胆欧美| 欧美日本不卡在线| 综合网天天| 99少妇精品视频| 久久精品国产Aⅴ| yazhousetuoumei| 天天色黄色影院天天操| 免费亚洲国产精品久久一区| 黄片无码在线制服| 18精品一二区| 欧美大香蕉专区网| 死我十八禁| 国语av最新自产拍在线观看| 后入日本1234| 成人情色一区二区| 国产精品不卡av免费在线观看| 天天香香欲综合| 99精品视频在线观看免费| 欧美大香蕉97| 亚洲国产精品无码AV久久| 免费伦费视频在线观看| 色97欧美| 久久久久久久久久久97| 日本性爱欧美性爱| 夜夜嗨一区二区三区三州加勒比| 99精品无码| 国产成人 综合亚洲 天堂| 玖玖爱综合网| 日韩天美| 精品中文字幕一区二区| 涩涩久久精品| 婷婷五月天成人网| 国产高清自拍视频| 久久精品一区二区三区不卡| 国产熟女精品一区二区| 欧美A√综合网| 亚洲色图欧美色图日韩色图| 综合亚洲网| 欧美色棕合| 色吧91| 免费久久9999| 丁香五月天视频| 变态乱伦伪娘灌肠一区二区| 智利AV在线网| 欧美黑人性猛交91| 91操人| 国产精品国产亚洲区艳妇糸列| 99re在线视频这里只有精品| 中日无幕一二三四区| 91精品啪在线观看国产城中村| 高清无码91| 老熟女中文字幕高清| 熟妇艹鸡八| 狠狠操夜夜操蜜桃视频三区| 亚洲欧洲综合av在线| 一级做受视频免费是看美女| 久久国产乱子伦精品免费女,网站| 97草草| 嗯~啊~快点 死我视频| 大香蕉123| 久久98| a在线观看| 啊视频在线| A V视频日本| 天天干天天燥| 亚洲日本激情| se吧提供国产乱老熟视频胖女人| 人人操欧美风骚| 中文区中文字幕免费看| 亚洲自拍小说| 999久久久久久久久| 亚洲不卡一| 91欧美性| 伦理弟一页| 99热日| 亚洲欧洲激情| 激情久久日韩精品中文字幕麻豆| 99天天超碰| 欧美熟女妇同| 中文字幕AV片| 久草草一二三四区久久| 97超碰久久色| 做爱福利视频一区二区| 9999亚洲电影| 成人片视频| 欧洲性人爱视频| 欧美日韩亚洲天堂网| 久久伦理视频久久大香蕉视频| 日韩中文字幕宗合在线| 在线观看A啊啊啊|