久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

AI Agent調(diào)度中心如何重塑智能交通信號協(xié)同控制

AI Agent調(diào)度中心如何重塑智能交通信號協(xié)同控制 但凡在早高峰開車都會對路口信號燈的“脾氣”印象深刻這條路明明已經(jīng)堵到下一個路口了綠燈卻還在放行對面車道空空蕩蕩紅燈卻讓人等到懷疑人生。這些場景背后其實是傳統(tǒng)交通信號系統(tǒng)在用“固定配時”和“簡單感應(yīng)”邏輯硬扛動態(tài)變化的交通流。我參與的模擬項目X就是嘗試把AI Agent調(diào)度中心引入智能交通系統(tǒng)讓16個路口、2條干線、1條公交線路和1條應(yīng)急通道在同一個決策體系里協(xié)同工作。這個項目解決的核心問題是把信號配時、區(qū)域緩堵、公交優(yōu)先、特種車輛優(yōu)先這些分散的智能能力統(tǒng)一收斂到一個可協(xié)作、可編排的調(diào)度中樞里讓信號機不再是“單打獨斗的定時器”而是一群能商量著辦事的智能體。這篇文章適合正在做智能交通、車路協(xié)同、邊緣計算調(diào)度方向的人參考也適合剛接觸強化學(xué)習(xí)與交通仿真結(jié)合的開發(fā)者。我會把項目從架構(gòu)選型、Agent設(shè)計、訓(xùn)練調(diào)優(yōu)到現(xiàn)場聯(lián)動部署的完整過程拆開講重點說明每一步背后的取舍邏輯和實際踩過的坑。1. 項目整體設(shè)計思路與架構(gòu)選型1.1 為什么調(diào)度中心必須引入AI Agent先講一個直觀對比。傳統(tǒng)路口信號控制方案大多是基于固定時段配時表早晚高峰各一套參數(shù)平峰再換一套偶爾加上視頻檢測或者地磁檢測的簡單感應(yīng)控制。這種方案在車流量規(guī)律穩(wěn)定的城市外圍區(qū)域還能應(yīng)付但放到早晚高峰潮汐明顯、節(jié)假日流量突變、偶發(fā)事故造成擁堵的復(fù)合場景里就明顯吃力了。我當(dāng)時在項目初期做過一個實驗?zāi)媚承聟^(qū)一個常態(tài)化擁堵路口的歷史數(shù)據(jù)去復(fù)盤發(fā)現(xiàn)固定配時方案在早高峰7:30到8:30這一個小時內(nèi)有近20分鐘時間處于“某一個方向嚴(yán)重排隊而另一個方向綠燈空放”的狀態(tài)。這說明什么說明交通流本質(zhì)上是一個非平穩(wěn)的隨機過程單純靠人工經(jīng)驗固化參數(shù)是跟不上真實流量變化的。引入AI Agent調(diào)度中心的思路就是想把這些被動的、靜態(tài)的控制邏輯升級成一套能實時感知、持續(xù)決策、動態(tài)協(xié)同的智能體系統(tǒng)。AI Agent在這里不是一個跑算法的程序而是一個有明確目標(biāo)、有感知輸入、有動作輸出、能和其他Agent協(xié)作的決策單元。每個路口的信號配時Agent、每個區(qū)域的緩堵Agent、每輛公交的優(yōu)先Agent、每個特種車輛調(diào)度Agent都是獨立的“大腦”它們通過中心調(diào)度層交換信息、協(xié)商優(yōu)先級、消解沖突。這個思路解決的關(guān)鍵問題有三個。第一把“單點最優(yōu)”變成“區(qū)域協(xié)同”信號燈不再只盯著自己這個路口而是看向上下游的排隊情況。第二把“事后響應(yīng)”變成“事前預(yù)測”路徑重規(guī)劃Agent會根據(jù)未來15分鐘的流量預(yù)測提前調(diào)整策略。第三把“規(guī)則固死”變成“持續(xù)學(xué)習(xí)”模型可以在仿真環(huán)境里反復(fù)訓(xùn)練迭代再部署到真實場景。1.2 整體架構(gòu)與技術(shù)路線選擇這個項目的整體架構(gòu)我最終拆成了三層邊緣感知層、Agent決策層、中心調(diào)度層。邊緣感知層負(fù)責(zé)接入所有底層數(shù)據(jù)包括卡口過車數(shù)據(jù)、地磁檢測器數(shù)據(jù)、浮動車GPS軌跡、信號機當(dāng)前狀態(tài)和公交車輛的位置信息。這些數(shù)據(jù)通過消息總線統(tǒng)一匯聚實時性要求高的走低延遲鏈路批處理要求的走離線通道。Agent決策層是核心每個路口部署一個信號配時Agent每個區(qū)域部署一個緩堵與路徑重規(guī)劃Agent公交線路和應(yīng)急通道分別部署對應(yīng)的優(yōu)先調(diào)度Agent。它們之間不直接互相調(diào)用接口而是通過中心調(diào)度層的事件總線進(jìn)行消息交互。這樣設(shè)計的好處是Agent之間解耦任何一個Agent升級或者故障不會拖垮整條鏈路。中心調(diào)度層承擔(dān)三件事全局狀態(tài)匯聚、Agent間沖突消解、模型訓(xùn)練與下發(fā)。全局狀態(tài)匯聚就是把所有路口的排隊長度、飽和度、車均延誤匯總成一張實時態(tài)勢圖沖突消解是處理多個Agent同時搶占同一個通行資源的問題模型訓(xùn)練與下發(fā)則是把仿真環(huán)境里訓(xùn)練好的強化學(xué)習(xí)模型參數(shù)同步到邊緣節(jié)點。技術(shù)路線選擇上信號配時Agent我用了DDQN也就是Double Deep Q-Network主要考慮它比傳統(tǒng)DQN更適合處理交通配時這種動作空間相對離散、狀態(tài)維度中等的問題。區(qū)域緩堵Agent用的是基于加權(quán)排隊長度的事前預(yù)測加動態(tài)路徑分配沒有引入太復(fù)雜的圖神經(jīng)網(wǎng)絡(luò)原因是項目初期數(shù)據(jù)維度不夠簡單模型反而更穩(wěn)。仿真驗證用SUMO這是一款開源微觀交通仿真工具支持自定義路網(wǎng)、信號燈邏輯、車輛行為和流量輸入和Agent層對接非常方便。消息通信在中心內(nèi)部用Kafka傳遞高吞吐事件流邊緣節(jié)點和中心之間走M(jìn)QTT輕量且斷線自動重連。這套架構(gòu)上線之后最直觀的好處是擴容簡單。想加一個路口只需要在仿真里生成路網(wǎng)、在邊緣部署一個信號配時Agent、注冊到中心調(diào)度層剩下的協(xié)作邏輯不需要改。這一點在項目后期新增3個路口時節(jié)省了大量開發(fā)時間。2. 核心Agent模塊的設(shè)計與構(gòu)建2.1 信號配時Agent從固定配時到實時自適應(yīng)信號配時Agent是整個調(diào)度中心的基石其他Agent的很多決策最終都要落回到“某個路口某個相位怎么放行”上。設(shè)計這個Agent時我重點解決三個問題狀態(tài)空間里裝什么、動作空間怎么定義、獎勵函數(shù)怎么設(shè)置。先說狀態(tài)空間。每個Agent在每個決策時刻會接收到四組數(shù)據(jù)四個進(jìn)口方向的排隊長度、當(dāng)前相位已經(jīng)持續(xù)的時間、路口飽和度也就是流量與通行能力的比值、以及最近5分鐘的車輛平均延誤。排隊長度可以從地磁檢測和卡口數(shù)據(jù)融合估算飽和度和平均延誤通過中心調(diào)度層下發(fā)。這套狀態(tài)設(shè)計不是一次到位的早期版本只用了排隊長度結(jié)果Agent學(xué)會了在排隊長度短的方向頻繁換相導(dǎo)致主線通行效率下降。后來加上了平均延誤和飽和度策略明顯穩(wěn)健很多。動作空間我采用了“保持當(dāng)前相位”和“切換到下一個相位”兩種離散動作。為什么不把動作定義成具體的綠燈時長因為在實際信號控制中相位切換還要考慮最短綠燈時間和行人過街時間約束如果Agent直接輸出一個30秒的綠燈時長很容易違反安全約束。用“保持/切換”這樣的離散動作配合一個最小綠燈時間參數(shù)Agent學(xué)到的是“什么時候該換相”而不是“精確給多少秒”落地的時候更貼合信號機的控制邏輯。獎勵函數(shù)是最需要反復(fù)調(diào)的部分。我最初用的是“優(yōu)先降低車均延誤”但跑了幾輪訓(xùn)練發(fā)現(xiàn)模型傾向于讓所有方向的延誤都變得差不多——聽起來很公平但實際上是把主干道的通行效率犧牲掉了。后來改成多目標(biāo)加權(quán)獎勵車均延誤降低占60%權(quán)重、排隊長度均衡占25%權(quán)重、公共交通優(yōu)先占15%權(quán)重。這樣既保證整體效率又兼顧公平性和公交優(yōu)先策略。DDQN在這里的優(yōu)勢需要多說一句。傳統(tǒng)DQN在計算目標(biāo)Q值時會使用同一個網(wǎng)絡(luò)來選擇和評估動作這容易造成Q值過估計導(dǎo)致模型在訓(xùn)練過程中出現(xiàn)不可控的高估偏差。DDQN把動作選擇和動作評估拆到兩個網(wǎng)絡(luò)里有效緩解了這個問題。我在實驗里對比過使用DDQN訓(xùn)練的配時策略比原版DQN收斂更快且收斂后的方差明顯更小。訓(xùn)練參數(shù)方面我做了多次網(wǎng)格搜索最終穩(wěn)定在這樣一組配置學(xué)習(xí)率0.001折扣因子gamma取0.95經(jīng)驗回放緩沖大小20000條批處理大小32探索率epsilon從1.0逐步衰減到0.05。這個參數(shù)組合不算特別復(fù)雜但對這個規(guī)模的路口群來說收斂效果和穩(wěn)定性都夠用。2.2 區(qū)域緩堵與路徑重規(guī)劃Agent信號配時Agent解決的是“路口怎么放行”區(qū)域緩堵Agent解決的是“車流怎么走”。在智能交通系統(tǒng)里有時候路口的信號配時已經(jīng)做到局部最優(yōu)了但整條干線的擁堵依然存在。原因在于駕駛員沒有獲取到足夠有效的誘導(dǎo)信息車流在某幾個路段上過度集中。區(qū)域緩堵Agent的核心是一個滾動預(yù)測模塊。它基于歷史流量規(guī)律和實時過車數(shù)據(jù)預(yù)測未來15分鐘內(nèi)各個路段的排隊長度和擁堵指數(shù)。預(yù)測的基礎(chǔ)不是復(fù)雜深度學(xué)習(xí)模型而是加權(quán)滑動平均加隨機森林回歸的組合。這里不追求模型本身多花哨強調(diào)度中心最重要的是“預(yù)測結(jié)果能用、夠穩(wěn)、可解釋”。我在項目里對比過LSTM和隨機森林的預(yù)測效果數(shù)據(jù)量不足時LSTM的預(yù)測波動太大反而隨機森林在特征少、樣本量有限的情況下表現(xiàn)更穩(wěn)定。預(yù)測出未來15分鐘的擁堵熱點后Agent會生成路徑重規(guī)劃建議。這些建議不是強制性的而是通過可變信息標(biāo)志牌向駕駛員推送。比如預(yù)測到上游某路段未來10分鐘會達(dá)到擁堵狀態(tài)Agent會把部分過境車流引導(dǎo)到平行的次干路同時通知下游路口的信號配時Agent提前增加該方向的綠信比。這個“預(yù)測—誘導(dǎo)—信號聯(lián)動”的閉環(huán)是區(qū)域緩堵Agent最有價值的地方。這里有一個典型聯(lián)動案例。項目區(qū)域內(nèi)有一條東西向主干道早高峰東向西流量遠(yuǎn)大于西向東。區(qū)域緩堵Agent預(yù)測到東向車流會在7:45左右達(dá)到排隊溢出風(fēng)險于是提前15分鐘通知沿線的5個信號配時Agent把東向西方向的綠信比上調(diào)10%到15%同時通過誘導(dǎo)屏提示東向西車輛可以繞行南側(cè)次干路。實測下來早高峰東向西方向的平均通過時間縮短了約18%而南側(cè)次干路的通行時間只增加了不到7%。這個結(jié)果是單靠路口級Agent無法達(dá)成的必須依賴區(qū)域級協(xié)同。2.3 公交優(yōu)先與特種車輛調(diào)度Agent公交優(yōu)先和特種車輛優(yōu)先本質(zhì)上都是“特定車輛擁有更高通行優(yōu)先級”的問題但它們的實現(xiàn)機制完全不同。公交優(yōu)先Agent的工作流程是車載終端通過定位系統(tǒng)上報公交車位置Agent結(jié)合線路和站點信息預(yù)測到站時間。當(dāng)檢測到公交接近路口且預(yù)計到達(dá)時間小于當(dāng)前相位剩余時間時Agent會向信號配時Agent發(fā)送優(yōu)先請求。信號配時Agent收到請求后會根據(jù)當(dāng)前各方向的排隊情況決定是延長當(dāng)前綠燈還是提前切換相位。如果當(dāng)前放行方向和公交行駛方向一致就延長綠燈窗口如果方向不一致就判斷能否在保證行人安全的前提下在公交到達(dá)前切入對應(yīng)相位。這里有個平衡決策需要考慮。如果每輛公交車都要優(yōu)先那主干道的社會車輛通行效率會明顯下降。所以在項目里我加了一個“擁擠度懲罰因子”當(dāng)某個方向飽和度超過0.9時公交優(yōu)先Agent會自動降級為“建議模式”只向中心調(diào)度層發(fā)送提示不硬性請求優(yōu)先。這個邏輯參考了實際運營中“公交優(yōu)先但不過度犧牲社會車流”的通行原則實測效果也驗證了這一點。特種車輛調(diào)度Agent因為涉及應(yīng)急場景邏輯上比公交優(yōu)先要“霸道”一些。特種車輛位置和行駛意圖會通過車載網(wǎng)關(guān)實時上報Agent需要計算它從當(dāng)前位置到目標(biāo)位置經(jīng)過的所有路口然后生成一條綠波帶策略沿途路口的信號配時Agent按特種車輛預(yù)計到達(dá)時間提前切換相位形成一個連續(xù)的綠色通行通道。這個綠波帶的計算有幾個關(guān)鍵參數(shù)特種車輛車頭時距、路口間距、平均車速、當(dāng)前排隊長度。我初期實現(xiàn)時直接用路網(wǎng)距離除以固定速度來計算到達(dá)時間結(jié)果在晚高峰場景下嚴(yán)重失真——因為排隊長度會影響實際通行速度到達(dá)時間誤差能到1到2分鐘綠波帶根本接不上。后來改成了“動態(tài)速度估計模型”把排隊長度折算成時間損耗再疊加到預(yù)計到達(dá)時間計算中綠波帶的銜接成功率從63%提升到了91%。2.4 多Agent協(xié)作與沖突消解機制多Agent協(xié)作是這個調(diào)度中心成敗的關(guān)鍵。單個Agent再聰明如果它們之間互相爭搶資源整體性能也會崩塌。項目里最容易出現(xiàn)的沖突場景是公交優(yōu)先Agent請求某個路口延長綠燈信號配時Agent的模型判斷此刻應(yīng)該切換相位同一時刻特種車輛Agent又發(fā)來綠波帶請求。我是怎么設(shè)計沖突消解機制的呢核心思路是“分級優(yōu)先、軟硬結(jié)合、可降級通信協(xié)作”。中心調(diào)度層維護(hù)一張優(yōu)先級表特種車輛通行最高優(yōu)先級公交優(yōu)先次之正常信號配時最低。當(dāng)多個請求同時到達(dá)時中心調(diào)度層會先判斷最高優(yōu)先級請求是否可行如果可行就強制執(zhí)行其他請求將被標(biāo)記為“降級等待”。這個優(yōu)先級表不是死板口訣而是帶輔助判斷條件。比如特種車輛Agent的綠波帶請求雖然優(yōu)先級最高但它的影響范圍可能只涉及某一條路線上的5個路口而公交優(yōu)先請求覆蓋的是另一條干線上的8個路口且每輛公交的發(fā)車間隔只有3分鐘。如果無條件讓特種車輛請求壓過所有請求可能造成大范圍的公交延誤連鎖反應(yīng)。所以在實際實現(xiàn)里中心調(diào)度層會計算“沖突影響面積”只有當(dāng)特種車輛的影響范圍可控時才會執(zhí)行全鏈路綠波帶如果影響面積過大則退化為局部優(yōu)先只在特種車輛即將進(jìn)入的路口做短時相位搶占。分布式鎖也是必須考慮的。多個Agent如果同時對同一個路口的信號控制機下發(fā)指令會造成指令覆蓋甚至信號機狀態(tài)錯亂。中心調(diào)度層按路口維度維護(hù)了一個輕量級分布式鎖只有持有鎖的Agent才能下發(fā)該路口的操作指令。這個鎖粒度很小不會影響整體性能但能徹底避免Agent間的寫沖突。說實話沖突消解機制的代碼量不大但調(diào)通的過程比想象中曲折。早期版本因為優(yōu)先級判斷寫得太簡單出現(xiàn)過一次特種車輛Agent和公交優(yōu)先Agent同時鎖定相鄰路口導(dǎo)致車輛等待超時的情況。后來花了兩個星期補上了“沖突影響面積”計算邏輯配合單測覆蓋多Agent協(xié)作才真正穩(wěn)定下來。3. 實操落地從仿真驗證到現(xiàn)場部署3.1 仿真環(huán)境搭建與數(shù)據(jù)接入訓(xùn)練和驗證AI Agent調(diào)度中心不能直接拿真實路口做實驗必須先在仿真環(huán)境里跑通。我用的仿真工具是SUMO它支持手工構(gòu)建路網(wǎng)或?qū)隣penStreetMap數(shù)據(jù)也可以配置各類信號燈控制邏輯和車輛跟馳模型。項目起步時先在SUMO里構(gòu)建了目標(biāo)區(qū)域16個路口的路網(wǎng)每個路口定義了進(jìn)口車道、轉(zhuǎn)向關(guān)系、車道限速和信號相位方案。這里有個基礎(chǔ)但重要的細(xì)節(jié)SUMO路網(wǎng)里的連接關(guān)系必須和真實路口的車道導(dǎo)流線對應(yīng)上否則仿真出來的排隊長度和真實情況的出入會非常大。我在初期偷懶直接用了簡化路網(wǎng)結(jié)果模型在仿真里表現(xiàn)不錯但遷移到真實拓?fù)鋾r性能明顯下降最后只能推倒重做路網(wǎng)。數(shù)據(jù)接入這塊我設(shè)計了三個仿真數(shù)據(jù)源卡口過車數(shù)據(jù)模擬器、浮動車GPS軌跡模擬器、信號機狀態(tài)采集器。卡口數(shù)據(jù)模擬器按照真實過車規(guī)律生成到達(dá)分布浮動車模擬器則隨機抽取車輛生成位置更新消息信號機狀態(tài)采集器把SUMO中每個路口的當(dāng)前相位和剩余時間實時轉(zhuǎn)成標(biāo)準(zhǔn)消息格式。這些消息統(tǒng)一發(fā)送到消息隊列再被Agent消費。仿真環(huán)境里有一項重要配置容易被忽略隨機種子。SUMO和強化學(xué)習(xí)環(huán)境都需要固定隨機種子否則每次訓(xùn)練的數(shù)據(jù)分布都不同實驗結(jié)果無法復(fù)現(xiàn)。我在所有訓(xùn)練腳本里都限定了隨機種子并且在訓(xùn)練日志里記錄種子編號做實驗對比時才不會因為“這次效果好是運氣好還是策略變好了”而糾結(jié)。3.2 模型訓(xùn)練與調(diào)優(yōu)過程模型訓(xùn)練是在一臺配了中等規(guī)格GPU的服務(wù)器上跑的。訓(xùn)練過程分兩階段第一階段是預(yù)訓(xùn)練加載歷史流量數(shù)據(jù)讓模型先學(xué)會“不犯錯”也就是在固定配時方案基礎(chǔ)上做小幅度調(diào)整第二階段是探索優(yōu)化放開探索率讓Agent嘗試更大膽的配時策略累計獎勵逐步上升。這里想重點聊聊獎勵函數(shù)的設(shè)計教訓(xùn)。我第一次把獎勵函數(shù)設(shè)計成“車均延誤降低率”訓(xùn)練出來的策略確實降低了平均延誤但分布極不平衡某個方向的延誤大幅下降另一個方向的延誤急劇上升。后來把獎勵函數(shù)改成加權(quán)組合但沒有對權(quán)重做歸一化結(jié)果模型被“排隊長度均衡項”帶偏開始頻繁切換相位導(dǎo)致綠燈時間碎片化嚴(yán)重。最終試出了相對穩(wěn)定的權(quán)重組合車均延誤占主要權(quán)重平衡項作為輔助約束公交優(yōu)先只在特定情況下激活獎勵加成。這個調(diào)優(yōu)過程比較曲折需要反復(fù)實驗但獎勵函數(shù)設(shè)計投入的時間絕對值得模型策略的上限基本取決于這一環(huán)節(jié)。訓(xùn)練過程中還要持續(xù)監(jiān)控一個重要指標(biāo)Q值的分布。如果Q值持續(xù)偏高且方差很大多半是DDQN的雙網(wǎng)絡(luò)切換還沒有充分發(fā)揮作用或者是經(jīng)驗回放緩沖里的樣本分布不均勻。我的解決辦法是增加一個“近期樣本加權(quán)采樣”的機制讓模型更關(guān)注最近發(fā)生的高影響交通事件比如事故導(dǎo)致的排隊突變。訓(xùn)練大約持續(xù)了兩個月累計步數(shù)達(dá)到300萬步模型在仿真環(huán)境中的平均車均延誤相對傳統(tǒng)固定配時方案下降了22.4%在晚高峰高負(fù)荷場景下效果更明顯達(dá)到了約29%的優(yōu)化幅度。對比實驗數(shù)據(jù)非常穩(wěn)定說明模型學(xué)到的不是偶然策略而是真正捕捉到了交通流的動態(tài)規(guī)律。3.3 邊緣節(jié)點與中心調(diào)度聯(lián)動部署訓(xùn)練完成的模型不能直接丟給現(xiàn)場用因為仿真環(huán)境的狀態(tài)空間和真實信號機的狀態(tài)空間存在差異。我在落地時采用了“中心訓(xùn)練、邊緣執(zhí)行”的兩層部署模式。具體來說中心調(diào)度層負(fù)責(zé)跑高計算量的任務(wù)區(qū)域緩堵預(yù)測、多Agent沖突消解、模型版本管理。邊緣側(cè)只跑輕量級推理信號配時Agent加載一個壓縮后的模型配置用當(dāng)前路口的實時狀態(tài)做推理輸出保持或切換相位的動作。這個部署模式的核心優(yōu)勢是邊緣側(cè)不需要做強化學(xué)習(xí)訓(xùn)練只需要一次前向推理延遲能控制在幾十毫秒級別。邊緣節(jié)點和中心之間用MQTT通信。我在配置里把信號狀態(tài)上報頻率設(shè)為1秒一次Agent決策觸發(fā)頻率按路口繁忙程度動態(tài)調(diào)整最繁忙的路口每3秒做一次決策流量低的路口每10秒做一次就夠了。MQTT的QoS設(shè)為1保證消息至少到達(dá)一次。時鐘同步走NTP但這個細(xì)節(jié)需要特別提醒如果邊緣節(jié)點和中心調(diào)度層的時鐘偏差超過500毫秒時間敏感的車輛到達(dá)時間預(yù)測就會出錯進(jìn)而影響綠波帶銜接。部署完成后我額外加了一個手動回退機制。如果連續(xù)3分鐘信號配時Agent輸出的策略導(dǎo)致路口平均排隊長度超過閾值系統(tǒng)會自動切回固定配時方案同時向中心調(diào)度層發(fā)送告警。這個回退機制在初期很重要真實場景的不確定因素比仿真多得多保證系統(tǒng)在邊緣情況下依然安全運行比追求極致效率優(yōu)先得多。4. 常見問題與排查技巧實錄4.1 數(shù)據(jù)質(zhì)量引起的決策誤判智能交通系統(tǒng)最怕的不是算法不夠先進(jìn)而是數(shù)據(jù)不干凈。項目里踩過的最大一個坑是卡口過車數(shù)據(jù)的重復(fù)計數(shù)某些卡口設(shè)備因為觸發(fā)邏輯異常同一輛車在1分鐘內(nèi)被記錄兩次導(dǎo)致Agent感知到的排隊長度比實際高出三分之一結(jié)果模型輸出了過長的綠燈時間造成另一個方向不必要的紅燈等待。排查這個問題不能只盯算法側(cè)要建立數(shù)據(jù)質(zhì)量監(jiān)控看板。我在消息鏈路里加了一個“數(shù)據(jù)一致性校驗”環(huán)節(jié)對每個路口的過車數(shù)、速度、排隊長度做時間窗口內(nèi)的平滑對比一旦發(fā)現(xiàn)跳變超過閾值就發(fā)出告警。同時在信號配時Agent的狀態(tài)輸入里增加了“數(shù)據(jù)置信度”字段當(dāng)置信度低于60%時Agent會主動降低決策頻率保持當(dāng)前相位直至數(shù)據(jù)恢復(fù)。這類問題在項目文檔里往往看不到但實際發(fā)生的概率不低尤其是設(shè)備老化或者網(wǎng)絡(luò)抖動的時候。4.2 獎勵函數(shù)設(shè)計的典型誤區(qū)獎勵函數(shù)設(shè)計誤區(qū)前面提到過一些這里系統(tǒng)整理三個最常見的問題。一是權(quán)重未歸一化導(dǎo)致目標(biāo)失衡。各項獎勵的量綱不同車均延誤可能是秒級排隊長度可能是輛級如果直接加權(quán)數(shù)值大的項會主導(dǎo)梯度更新。辦法是每個獎勵項先做min-max歸一化再加權(quán)合并。二是忽略了約束條件。信號控制有最短綠燈時間、最大紅燈時間、行人綠閃時間等硬約束如果獎勵函數(shù)沒有懲罰違規(guī)行為模型會在仿真里學(xué)會走約束漏洞。我的方案是把約束違反設(shè)計成“巨大負(fù)獎勵”一次違規(guī)的懲罰足以抵消數(shù)百步正常決策的正收益。加上這個負(fù)獎勵項之后訓(xùn)練過程中違反約束的次數(shù)幾乎降到了零。三是獎勵過于稠密或過于稀疏。過于稠密的獎勵會讓模型陷入短期局部最優(yōu)過于稀疏則會讓模型無法收斂。我試過只在路口整體效率指標(biāo)變化時給獎勵結(jié)果訓(xùn)練半天Q值都不動后來改成“每次相位切換后給一次即時獎勵 每隔5分鐘給一次長時間維度的獎勵”這兩類獎勵結(jié)合模型收斂速度明顯改善。4.3 多Agent沖突死鎖問題多Agent系統(tǒng)里有一個經(jīng)典問題兩個Agent各自等待對方釋放資源形成死鎖。我在項目里遇到過一次這樣的場景路口A的信號配時Agent在等待上游區(qū)域緩堵Agent的路徑調(diào)整建議而區(qū)域緩堵Agent在等待路口A的信號數(shù)據(jù)反饋兩邊都在“等對方先動”結(jié)果整個區(qū)域的調(diào)度策略在幾十秒內(nèi)沒有任何更新。排查方法是給所有Agent間的關(guān)鍵消息加上了超時機制和“現(xiàn)狀保持”策略。每條請求發(fā)出后如果在規(guī)定時間內(nèi)沒有收到響應(yīng)請求發(fā)起方就默認(rèn)使用上一周期的策略繼續(xù)執(zhí)行而不是無限期等待。另外中心調(diào)度層加了一個兜底死鎖檢測任務(wù)定期檢查所有Agent的請求隊列發(fā)現(xiàn)有超過兩個相互等待的請求積壓時直接釋放低優(yōu)先級請求保證高優(yōu)先級任務(wù)繼續(xù)執(zhí)行。這個機制上線之后死鎖問題再沒出現(xiàn)過。4.4 時鐘同步與綠波帶銜接失敗特種車輛綠波帶的成功率之所以從63%提升到91%很大程度上是因為解決了時鐘同步和圖計算問題。最初只用了NTP做粗同步但邊緣節(jié)點和中心之間的網(wǎng)絡(luò)延遲抖動比較大導(dǎo)致預(yù)計到達(dá)時間和實際到達(dá)時間錯位最多達(dá)到20秒。后來升級了同步策略給每個邊緣節(jié)點配置了本地原子鐘模塊并讓特種車輛Agent在距離路口約300米時發(fā)送“即將到達(dá)”信號中心根據(jù)這個信號重新修正綠波帶窗口。雙重校驗機制落地后綠波帶的銜接穩(wěn)定可靠再沒有出現(xiàn)過信號燈提前切走導(dǎo)致特種車被攔下的情況。下表匯總了我認(rèn)為最有代表性的幾個問題及對應(yīng)排查思路常見問題根因分析核心排查手段卡口重復(fù)計數(shù)設(shè)備觸發(fā)邏輯異常時間窗口平滑檢測置信度預(yù)警模型頻繁切換相位獎勵函數(shù)中平衡項權(quán)重過高歸一化處理后調(diào)權(quán)重監(jiān)控相位切換頻率兩個Agent互相等待消息請求缺少超時兜底增加請求超時和現(xiàn)狀保持策略綠波帶銜接失敗時鐘偏差、到達(dá)時間估算失真本地原子鐘同步近距離重新修正窗口仿真效果和現(xiàn)場差很多路網(wǎng)建模簡化狀態(tài)空間偏差重建和真實路網(wǎng)對齊增加回退機制5. 如何把經(jīng)驗復(fù)制到更大的場景這套智能交通系統(tǒng)里的AI Agent調(diào)度中心除了信號配時之外還可以向兩個方向延伸。第一個方向是把調(diào)度中心擴展到行人過街、潮汐車道、可變車道控制?,F(xiàn)在很多路口有動態(tài)可變車道過去靠人工定時切換智能Agent完全可以根據(jù)實時的方向流量比自動建議切換甚至提前預(yù)測到半小時后的潮汐變化。第二個方向是把調(diào)度中心的經(jīng)驗做成“仿真驗證、小范圍試點、灰度擴展”的標(biāo)準(zhǔn)流程任何一個新路口都可以先在SUMO里訓(xùn)練模型再通過小規(guī)模試點驗證效果最后接入中心調(diào)度層參與協(xié)同決策。我在做這個項目時的體會是智能交通系統(tǒng)里“智能”不是指模型有多深、算力有多強而是指系統(tǒng)能在不確定的真實環(huán)境中持續(xù)做出可解釋、可控制、可回退的決策。AI Agent調(diào)度中心最大的價值不是替代交警或者信號機廠商的既有方案而是提供一套能不斷學(xué)習(xí)和演化的調(diào)度邏輯框架。只要數(shù)據(jù)鏈路穩(wěn)、沖突消解可靠、模型可回退這套架構(gòu)就能在越來越多的交通場景中發(fā)揮作用。最后分享一個不起眼但很細(xì)節(jié)的技巧在邊緣節(jié)點部署Agent時把模型推理的超時上限設(shè)為200毫秒同時給每次決策加日志編號。真實路口的信號機對指令延遲很敏感如果你發(fā)現(xiàn)某個路口的信號指令經(jīng)常超時第一件事不是調(diào)模型而是查邊緣節(jié)點到信號機的鏈路延遲和日志80%的問題都出在鏈路而不是算法上。這個排查習(xí)慣能省下大量的夜間值班時間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
青青草原香蕉日本Ap| 高清国产成人无码| 91久久久老司机| 亚洲精品三| a一区二区三区乱码在线| 超碰九7| 日本不卡二三区| 国产成人综合网| 国产亚洲女v在线观看| 亚洲日韩电影| 一级性爱视频免费观看 | 偷拍综合亚洲| 中文字幕av久久爽Av| 丝袜熟女一区二区三区| 日韩人妻有码免费视频| 国产18精品亚洲精品| 国产强奸乱伦第1页| 91狠狠狠| 97伦综合| 熟妇一区,二区,三区。| 国产欧美日产一区二区三区 - 国产欧美日| 色九区| 日本性爱少妇| 欧美成人午夜免费福利785| 国产精品久久久啊| 一起草在线视频| 曰本人妻人人澡人人夹| 很很操在线| 香蕉精品二区二区| 91精品久久久久久| 中日韩久久久免费看| 综合91网| 97精品97久久| 肉丝无码中文高清| 加勒比av官网在线| 国产国产亚洲一二三久久| 黑人与人妻| 夜夜嗨av午夜成人| 怡红院怡春院| 欧美 亚洲 大香| 亚洲射综合网| 少妇第一页| 超碰人妻久久人妻中文97| 色色操| 粉嫩av在线一区二区| 99精品欧美一区二区三区桃色| 91色人妻| 思思热久久成人| www.av在线视频| 无码av永久免费专区网站| 九九综合久久中文字幕| 国产亚洲精品av一区| 免费1级a做爰片观看| 9国产超碰| 国产树林里野战在线看| 欧美在线官网| 97人妻人人躁人人玩人人| 亚洲区限制级 99| 亚洲91射| 美女久久久| 欧美成人免费在线观看| 中文字幕91页| 99色悠悠| 青青草成人视频在线观看二区| 女上位精品在线| 亚洲欧美清纯| 日B操| 亚瑟国产精品久久无码| 在线99热| 久久精品72| 91男人天堂网| 欧美97爱| 波多野结衣先锋影音| 国产亚洲女v在线观看| 在线观看av区| 九九成人精品| 精品亚洲国产成人av网站| 人妻系列无码专区中文有码| 最新欧美色网| 日韩三级av片| 丁香五月综合| 色情亚洲日本成人| 成人一二三区| 欧美亚洲尤物久久| 躁躁日曰躁2020| 天天操熟妇| а√天堂资源官网在线资源| 五月色综合| 亚洲AV无码久久精品蜜桃小说| 骚鸭AV| 美国日韩黄片| 亚洲有码 视频一区| 人人操人人射人人干| 中文字幕制服诱惑| 久久婷婷综合国际产色怕| 国产在线76页| 久久成人精品| 成人av影院在线观看| 超碰AV在线| 日韩精品操少妇| 91肉丝| 国产极品一区二区三区三州| 操一区| 亚洲欧美日韩偷拍色图| 久热久| 欧美97日韩精品| 男人天堂欧美| 先锋精品av色鲁| 啊啊啊啊啊好舒服视频| 韩三级a视频在线观看 | 亚洲春色欧美激情自拍| 亚洲激情网一二三四区| www.av不卡中文字幕| 中字幕人妻一区二区三区| 激情丁香五月婷婷| 精品69网| 亚欧精品久久久久久久久久久| 人妻少妇久久| 男人的天堂,欧美亚洲另类国产日韩,日本高清一区二区 | 强奸乱伦av电影| 91久久18禁| 91av一区二区在线观看| 久久綜合很很很| 操逼无码操逼| 亚洲色棕合| 入口操逼网站| 九九热re99re6在线精品| 无遮挡h肉动漫在线观看| 色综合1991| 人人摸人人干人人拍97| 99re98| 久久丁香| 久久超碰网| 久久久久国产亚洲一区欧美色图日韩| 偷拍精品一区二区三区| 超碰在97| 丝袜狠狠草尤物人妻av91| 日本精品一级二级三级| 国产精品午夜成人福利| 一级日本牲交大片好爽在线看| www.高清无码诱惑一区.com| 免费作爱一级视频| 久久久78| 少妇国产不卡| 啪啪免费| 电家庭影院午夜69久久夜色精品国产69乱 | 天堂日本亚洲欧美| 欧美精品成人在线播放| 久久中久文96| 欧美性天天影视| 亚洲无码国产探花在线观看| h色99999| 99色色| 操国产逼| 国产日韩中文字幕欧美| 五月天色图影视| 污色区网站| 国产精品天干天干综合网麻豆 | 亚洲色图 91| 超碰99在线| se吧提供国产乱老熟视频胖女人| 欧美性爱超碰97| 中文字幕在在线观看网站| 黄色操人| 日韩欧美女求操每天更新| 97人肏| 秋霞成人做爱| 五月丁香久久| 亚洲无线码欧洲精品区别| 激情五月天校园春色网| 嗯嗯,啊啊,国产精品| 俄罗斯一区二区视频在线观看| 我爱操| 免费视频在线观看啊啊啊啊啊| 密乳无码| 伊人丁香五月婷婷| 97超碰色色| 天天操天天7| 1956日韩精品| 伊人婷婷五月天| 永久免费av无码网站国产app| 中文字幕人乱码中文字的预防方法 | 国产呦精品一区二区三区下载| 亚洲欧美色图| 久久久久久十| 黑人干亚洲| 欧美综合加勒比在线| 中文字幕av乱伦| 久久av成人无码免费| 男人天堂2017| 97爱亚洲| 亚州综合色| 欧美色老汉| 天天干人妻| 美女97超碰| 五月丁香影院| 国产一区二区三区影片| 色99视频| 色婷婷电影网| 欧苏综合色综合| 国产精品无码论坛| 日本在线激情一区二区三区| 九九探花视频在线观看| 亚洲精品国产专区在线观看| 精品国产丝袜一区二区三区乱码| 黑人美精品 A片| 色网在线视频观看免费| 免费看久久久性性| 大屁股xxxxx| 國產尤物AV尤物在線觀看| 99e久久国产精品| 亚洲美女AV无码| 91美女视频在线观看| 欧美性夜| 91搡老女人老妇女老熟女歌词翻译| 欧美性爱一区二区三区| 91东北熟女| 天天射天天操天天干天天吃2018| 国产强奸乱伦无码视频| 少妇一区二区三区精选| 嗯嗯啊啊啊好舒服| 插老姨肥穴| 成人热久久精品| 欧美日韩人妻婷婷一区| 九九人妻| 精品国产乱子伦一区二区三区,精品一| 欧美肥臀在线| av黄图片在线观看| 亚川综合视频| 日日碰狠狠添天天爽超| 色色五月天婷婷| 中文字幕国产精品1区| 成人女人国产| 亚洲综人网| 日韩大香蕉AV影片| 日本性爱欧美性爱| 国产亚州高清国产拍精| 欧美欲色| 久久99干一本高清| 无遮挡又黄又刺激的视频| 欧美大波激情xxxx| 婷婷AV一区二区三区| 97色碰| 亚洲第一页欧美| 久久香蕉超碰97国产精品| 亚洲少妇免费视频\| 欧美瑟综合| av黄图片在线观看| 91|九色|国产熟女| 一区中文字幕二区日韩| 国产熟女高潮一区二区三区| 亚洲在饯| 免费看A片毛毛片在线播| 激情五月天丁香| 97久久精品国产| www.acm成人黄色毛片| 91熟女在线| 亚洲无吗在线视频| 97色在线观看| 欧美 日韩第一性色| 青青草中文字幕| 婷婷去俺也去六月色| 日本在线一二 | 東南亚性呦成人伦理资源在线视频| 97天天日| 9色在线| 日本精品久久久久久久| 九九碰九九爱97超碰| 国产欧美岛国精品一区| 中文字幕亚洲欧美在线不卡| 亚洲综合另类| 99999精品视频| 岛国天天午夜影院传媒网| 日韩熟女操逼| 极品色社| 蜜臀视频网站| 欧美超碰9798| 嗯嗯啊啊啊好爽| 欧美性爱视频免费一区一A | 18禁网站在线播放| 伊人操操| 高清在线不卡一区二区 视频| 曰韩av中文字幕专区| 人人操人人爽人人操人人| 日本一级黄色电影| 国产精品丝袜在线| 亚洲综合色网| 蜜臀网 一区| 操比国产| 超碰97国产欧美| 18禁中文字幕| 91爱看| 免费av在线播放二区| 亚洲欧美一区二区三区在钱蜜桃| 国产精品香蕉| 人妻精品综合中文字幕在线| 蜜桃狠狠色伊人亚洲综合网站| 日亚韩精品视频二区三| 国产精品乱码久久| 久久精品欧美一区蜜桃| 日韩免费在线观看不卡| 久久综合18p| 欧美日本成人一区二区| 日韩伦理久 久久 清纯| 欧美性xxxxx狂欢| 97久久久网站| 欧美综合91| 精品亚洲国产成人精品| 性色av婷婷久久一区二区点复制| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 狠狠色五月亚洲91| 日本人妻中文字幕| 亚洲欧美国产中文字幕| 午夜亚洲国产理论秋霞| 久久99999| 日韩综合无码色欲vv| 熟女一区二区三区| 精品一区二区人妖| 日韩综合97p| 欧美亚洲玖玖玖| 久久久久9999| 少妇内射www在线观看视频 | 亚洲诱惑| 激情看片网站| 亚洲影院成人| 亚洲污污网站| 久操热线| 秋霞网—男女啪啪亚洲免费体验区 | 夜夜夜夜爽| 99日韩| 9118禁| 97色爱| 精品国产丝袜一区二区三区乱码| 九九九国产精品| 超碰97欧美在线| 伊人网免费视频| 日本一久是| 伊人色综合网| 成全在线观看免费观看| 中文三一区| 亚洲欧美另类少妇精品| 久久久久日本视| 国产无码高清操逼视频| 色噜噜狠狠色综无码久久合欧美| 素颜老阿姨乱情色| 九一屌逼| 人妻人人操| 久久久一区二区三区三州| 日韩欧美中文字亚洲慕| 亚洲国产一级中文综合久久天堂在线免费观看| 无码在线亚洲| 国产精品ⅴ无码大片在线看.| 亚洲国产精品久久久久婷婷老年| 欧美亚洲影视| 天天影视综合网欧美精品| 日韩亚洲国产视频| A片大香蕉在线| 国产又粗又长的视频| 亚州久久9| 少妇99成人麻豆| 91精品国产麻豆国产自产在| 亚洲最大成人a毛毛片| 啊啊啊啊啊啊在线观看| 国产suv精品一区| 日日日骚女人精品| 久草色悠悠在线视频| 69人妻精品一区二区绯色| 无码免费精品高清| 日本人人操人人操| 成人八戒网站| 国产一区二区精品久久99| 秋霞Av理论一级在线| 加勒比色99999| k频道色撸撸| 久久xxxx| 影音先锋乱伦资源| 国产v片在线免费观看| 天天综合欧美| 精品人妻一区二区三区四区不卡在| 后入式999| 无码男人天堂| 久久久国产精品亚洲精品| 在线黄色污污网站| 神马久久69| 男人的天堂欧美| 欧美成人亚洲精品| av天天在线| 麻豆精品天美| 久久久精品中文字幕麻豆| 91美女色视频亚洲| 日本三级韩国三级美三级91| 97欧美色综合| 婷婷激情丁香| 国产精品96久久久久久| 四虎国产精品永久入口| 成人无码在线视频网站| 欧美亚洲| 亚洲无码一区二区三区三州| 久久精品性| 99精品在线观看| 亚洲色色色| 91 在线亚洲| 九九玖玖精品| 风月影院男女十八禁| 超碰偷拍| 91情色| 久久久一区二区三区三州| 婷婷去俺也去六月色| 自拍大香蕉乱插| 婷婷色综合| 青青色综合| 人妻少妇色综合| 日韩精彩视频| 久久九色| 美女97超碰| 中文字幕人乱码中文字的预防方法 | 中文字幕AV片| 激情小说激情视频| 熟妇xxxxx性春色| 亚洲国产午夜真人一级片中文字幕精品黄网站 | 欧美色棕合| 欧美日动态视频| 国产suv精品一区二六| 视频不卡中文字幕| 国产一区二区av综合| 无码9区| 久久综合久色欧美综合狠狠 | 国产黄片在线免费观看| 色妹子A V| 日韩噜噜69| 啪啪啪男女亚洲中文字幕99| 国产美女在线精品免费看| 午夜福利免费精品视频| 视频在线观看一二三区| 九九九九精品一区| 久久在线观看免费视频| 久久激情五月| 91色伦综合| 91天堂网| 日本护士高潮| 国产视频大全| 日韩熟女三十乱伦| 中文字幕人妻丝袜| 伊人四虎综合| 国内精品a| 天天射影院| 中文无线日韩一区| 三级色综合| 97一区二区蜜臀| 激情在线青青操| 人妻精品一区二区在线| 91夜夜蜜桃臀1区2区3区| 神马麻豆福利院 | 综合网亚洲1| 中国国产精品一区视频| 欧美亚男人的天堂| 女性91网站| 国产免费一区二区在线A片视频| 国产乱弄免费在线视频。| 欧美天天综合在线| 六月色色| 欧美性高潮| 亚卅熟女乱色| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 欧美宗合网| 粉嫩在线一区二区懂色| jiujiujiujingpin| 美女操逼福利视频| 久草成人影片| 激情五月天网| 九九九九亚洲| 99在线免费观看| 免费视频观看60秒| 日本久久99| 太久视频| 青青操视频在线| 精品亚洲国产成人精品| 91欧美性| 人人干人人搞人人摸| 色香综合天天影视综合| 精品性爱无码在线播放| 97久久超碰日韩精品| 国产日比| 欧美综合网| 亚洲人在线| 亚洲天堂五月天国产| 亚洲av热热色| 成人八戒网站| 精品人妻少妇| 麻豆天美国美国产| 强奸乱伦AV网址| 欧美999999| 国产精选三级在线观看| 久久久久99精品成人片蜜臀| 艳美熟妇先锋一二三区| 久操操AV电影| 欧美日本不卡| 久久天天摸| 中文字幕五月婷婷免费| 91熟女少妇| 亚洲婷婷五月天| 亚洲国产另类在线中文| 加勒比少妇AV婷婷六月天超碰超碰| 浪人综合网| 欧美 亚洲 在线| 欧美亚洲影视| 国产精品三级视频网站| 成人性爱免费播放| 精品二区三四区五电影 | 日韩专区久久久| av九九| 免费视频在线一区二区不卡| 日本熟妇自慰性高潮一区二区三区| 国产精品色| 成人小说视频在线精品欧美| 久久日韩肥臀| 老女人老91妇女老热女| 久久免费老司机精品| 午夜120视频在线观看| 欧美性性性| 情侣操 逼视频99| 懂色AV一区二区三区| 亚洲国产婷婷在线播放| 少妇一区二区三区| 亚洲精品97久久中文字幕| 97免费在线视频在线观看| 国产自产自拍| 日本孕妇一区二区视频操逼免费看| 五月天欧美色图| 精品无吗久久| 熟女性视频| 在线观看综合精品亚洲| 日本狂喷奶水在线播放212| 99热这里只有精品18| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 国产JDAV无码视频在线观看| 中文字幕一区二区三区人妻不卡| 国产自产22区| 久久中出在线| 九九九九九九九九九九九免费国产| 欧美三级中文字幕hd| 秋霞操逼片| 91精品人妻一区二区三区蜜桃| 龙兴卡官方查询| 大香蕉99热| 97操97色| 色女网日韩| 9九九九九视频在线观看| 强奸乱伦av电影| 国产探花精品在线| 亚洲成人免费中文字幕| 97资源视频| 18禁在线视频| 亚洲精品一区中文字幕乱码| 久久精品国产72国产精品福利| 国产AAAAAABBBBB| 偷拍 欧美 日韩| 91天天| 毛片一区二区| 天天影视色香欲综合网小说| 91国产操逼视频| 12一15性XXXX粉嫩国产| 一起草三级AV电影在线观看| 又粗又长又大国产不卡| 国产精品懂色tv影视免费观看| 欧美亚洲综合高清在线| 大香蕉欧美| 欧美色图片| 精品无码秘 人妻一区二区| 超碰97久久| 日韩亚洲欧美中文字幕| 99久久亚洲精品无码毛片潘甜甜| 亚洲国产一级黄色视频| 欧美日韩另类在线播放| 国产熟女完整版中字| 久草免费福利在线播放| 狠狠激情综合狠狠操中文字幕| 欧亚在线视频| 亚洲人妻一区二区三区| 一区,二区,三区网站| 97色论| 午夜精品人妻二区三区| 国产白丝网站| 日语五十路和六十路亚洲国产精品| 国产在线综合福利网站| 国产传媒操逼视频| 欧美性生活综合| 99re9在线| 加勒比综合九九99视频在线播放| 欧美超碰人妻97| 青青草大香蕉视频| 国产乱伦视频污| 淫荡少妇免费| 国产免费永久精品无码| 久操B网| 欧美论理片| 日韩有码中文字幕女同性恋| 国产男女边吃边摸视频网站| 最近2019中文字幕国语免费版| 丁香婷婷久久| 夜夜久久| 亚洲色图A| 无码外流操逼视频| 99热综合| 北条麻妃性愛视频| 97在线免费视频观看| 在线观看无码三级少妇| www.久久| 日韩大香蕉精品在线视频| 五十路一区无码| 天天色,天天干,天天干| 猛交交| 亚洲日韩乱码中文无码蜜桃臀网站| 上床啊啊啊| 国产精品亚洲天堂网址| 99这里有精品视频| 97久久国产亚洲精品超碰热| 日本淫乱女一区二区三区视频| 亚洲天堂7777| 97人人爱人人做人人乐| 999精品女人| 欧美性巨大╳╳╳╳╳高跟鞋| 亚洲人人操| 蜜臀久久99'精品久久久| 欧美乱伦专区| 亚州色图第三区| 啊嗯嗯啊好大好爽| 2017人人操,人人摸| 日本超碰在线国产一区| 干美女人妻| 人人操人人搞人人草| 性欧美体内射精| 丝袜足交视频| www九九热| 激情小说亚洲视频| 狠狠中文字幕| SS久久| 操b在线观看| 禁片 高清 在线观看视频网站| 1204人成网站色www| 人人操人人插人人摸人人干| 国产a级精品| 极品销魂美女一区二区| 91久热这里只有精品| 不卡二三区人妻少妇| 熟女六十路| 男人天堂久久精品不卡| 三级网色| 女人18精品一区二区三区| 一区二区三区四区免费视频| 91色综合色| 青草青草久热| 欧美日日人人天天| 91超碰在线播放| 欧美91视频| 天天综合网1| 天天插夜夜操| 天天操人人操骚逼网站| 污污汅18禁网站在线永久免费观看| 日韩精品人妻中文字幕有码午| 国产精品美女视频诱惑| 亚洲乱色视频一区、二区在线| 亚洲网站一区二区在线| 色女99一级片在线观看| 三级特黄60分钟播放| 校园春色中文字幕AV| 欧美少妇性爱网站| 超碰97人妻自拍| 蜜桃久久一区二区三区| 97超碰超碰| 97香蕉人人乳| 九月丁香综合网| 啊啊啊啊嗯嗯在线久久久| 99色热| 欧美v日韩v亚洲v最新在线| 色五月天AV| 人人摸人人干人人拍97| 免费在线视频97| 国产精品久久发布| 久久成人午夜精品影院 | 天堂а√在线最新版在线| 蜜臀无码一区二区| 男人天堂久久精品| 国产精品毛片?v一区二区三区| 丰满人妻一区| 蜜桃视频精品一区二区| 人人操人人摸avav| 久久久久久免费电影| 国产女人高潮视频| 天天躁日日躁xxxxx| 欧美日韩小说| 亚洲色香| 精品国产乱码久久久久久影片| 啪啪啪精品| 69人妻精品丰满熟女区| 成人av影院在线观看| 99xav| 丁香五月偷拍| 亚洲字幕一区二区| 色香AV| 久久久久久裸体| 厕所偷拍在线| 国产超碰| 国产日逼视频| 九九九九热| 亚洲交换| 精品一久久久| 午夜精品久久久久久久男人的天堂 | 久久一级无码精品毛片6| 中文字幕一二三| 亚欧洲一区二区视频| 天天干2019| 午夜男女爽爽爽在线视频| 香蕉国产精品麻豆亚洲欧美日韩| 欧美激情 亚洲色图| 超碰地址97| 情色av电影| 一二三区在线| 亚洲精品亚洲人成人网| 中文操嬖片。| 高潮的A片激情扒开一区| 欧美日韩97| 99少妇| 青青草好吊| 成人热久久精品| 人人操天天爽| 嗯嗯嗯啊啊啊在线免费观看| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 中文字幕第95页| 亚洲图片 激情小说| 97色欧州| 97内射偷拍| 高清不卡一二三区视频......| 1024日韩| 婷婷在线视频| 色99色| 五月婷婷基地| 97人人射| 日韩高潮一区| 久久久一级| 草草影院在线视频| 男人的天堂2010| 人妻AV 中文字幕的| 亚洲激情AV| 婷婷中文字幕| 激情五月激情综合网| 婷婷午夜| 天天影视网综合少妇| 亚洲色图超碰在线| 91爱综合| 99999亚洲| 96国产精品| 亚洲熟女诱惑| 蜜臀99久久精品久久久懂爱| 欧美一级A一级a爱片久久| 亚洲国产成人精品女人久久久| 97综合国产| 国产一级高清免费观看| 久久婷婷电影网| 亚洲国产精品成人综合| 秋霞成人一级在线观看| 激情网色| 操人91| 大香蕉男女超碰精品在线| 97超碰jingpin| 亚洲乱色视频一区、二区在线| 一区二区首页| 超碰97在线中文| 综合亚洲网| 97视频在线免费观看| 操逼视频色| 在线观看精品国产免费| 久操大香蕉手机视频在线看| 91女神在线视频| 99久热精品99re6热| 久久久九九| 亚洲熟女综合网| 人妻干天天| av资源在线观看少妇| 老鸭窝亚洲毛片| 秋霞一区二区三区四区五区六区七区| 黄久在线| 天天干人人看综合| 日韩亚洲国产视频| 乱人伦 国语对白:视频直接看| 青青草视频爽一爽| 天海翼久久| 99999re| 亚洲国产尤物yw在线观看| 久久人人爽人人爽人人片Ⅴ| 亚洲熟妇丝袜在线观看| 欧美激情精品久久久| 97色综合中文网| 久久男人精品| 秋霞怕怕片| 人妻在线大香蕉| 91精品啪在线观看国产城中村| 中文字幕在线免费观看 | 99久久精品无码一区二区毛片免费 | 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 黄色激情电影在线观看| 亚洲AV无码国产精品久久久久| 一本一道人妻久久一区二区三区 | 97人人色| 国产视频一区二区三区在线免费观看| 成人性爱全视频观看| 台欧久久精品视频| 嗯~啊~快点 死我视频免费看网站| 蜜汁欧美| 美女写真| 少妇一区二区三区在线观看| 久久久999国产| 宅男影院久久久,99| 69超碰综合| 日韩人妻精品| 日韩熟女操逼| 天天操综合网| 久久久91福利姬| 自怕偷自怕亚洲精品| 欧美乱色| 懂色Av一区二区三区| 亚洲精品中文字幕一区在线视频 | 久久午夜色播影院免费高清| 亚州AV无码国产精品| 97免费免费视频网| 国产精品高潮久久久无码| 97干在线| 亚洲久久东京热一二三四五区视频| 欧美日韩插逼视频| 日韩人体偷拍| 伦理第一页| 久久激情视频| 亚洲综合在线91| 曰韩av中文字幕专区| 午夜操一操| 一区在线国产播放| 久久亚洲天堂| 高清无码 国产精品| 亚洲AV无码久久精品蜜桃小说| 91精品国产综合久久久蜜臀酒店| 亚洲av无码成人精品国产| 欧美青青草视频| 国产黄色 A 片免费看| 青青草色情网站视频| 一级片视频啪啪| 少妇毛片久久| 日本国产亚洲一区在线观看| 91暧暧| 久久 国产 无码| 肥臀熟女福利视频一区二区| 天天激清| 性欧美天天| 被窝影院午夜看片无码| 青青草在线视频人人想人人上| 999综合网| 国产伦精品免编号公布| 偷拍精品一区二区三区| 精品国产一区二区久久| 久久久久亚洲Av无码专区老牛影视| 人妻天堂综合网| 97欧美超碰| 亚州成人A√| 亚洲图片激情综合另类| 99re在线精品78| 看一级黄色视频| 欧美97爱| 18岁禁 茉莉成人久久| 亚洲综合91| 1234区中文字幕在线观看_青青草国产在线_日韩一区二区 | 久久久亚洲精品电影免费看| 操逼视频国产无套| 97精品97久久| 婷婷五月天社区| 精品人成视频在线观看| 日韩欧美偷拍美女视频| 色婷亚洲五月在线观看| 免费国产视频| 99re99视频在线免费观看| 欧美性爱伊人| 亚洲在线| 91九九九吃| 亚洲天堂区| 一区不卡在线观看av| av草草在线电影| 中文字幕在线24| 伊人久久在线视频观看| 蜜桃臀av一区二区| 麻豆天美传媒在线视频天堂| 日韩性爱小视频在线观看| 91 欧美| 中字一区| 丝袜性亚洲| 亚洲欧美国产日本一区二区三区| 可免费观看的av毛片中日美韩| 日日骚精品视频| 亚洲欧美校园另类春色| 国产精品色片一区二区| 一区二区三区不卡视频| 日韩资源网| 嗯嗯嗯啊啊啊在线免费观看| 网页导航五月天免费一二三区| 日韩成年人性爱视频| 青青草影视蜜久久| 东北女人| 91人妻视频在线| 97干在线视频| 国产网红精品| 日韩精品中文字幕人妻| 风韵犹存大大大大香蕉 | 亚洲**2021在线观看| 天躁夜夜躁2021| 国产和美国毛片| 99xav| 亚洲AV免费在线观看| 婷色五月| 亚洲欧美国产其他二区| 巨爆乳一区二区爆乳区| 成人精品在线免费视频| 中文字幕丝袜| 一区二区播放| 天美一区在线| 久草综合视频| 亚洲 se图 欧美电影| 中文字暮97| 91蜜桃婷婷狠狠久久综合9色| 91人妻中文| 中文字幕日韩人妻视频一区二区三区| 色哟哟 日韩精品| 屁股久久久久久久| 最近二区三区视频大全| 亚洲性高潮| 日本幼女18+| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 日本精品中文字幕视频| 超碰在线一区| 亚洲成a人v欧美综合天堂下载| 超碰97COm中文| 懂色Av一区二区三区| 一本色道久久综合精品婷婷| 婷婷丁香人妻| 78精品| 亚洲欧美色图片| 精品九九九| 9色国产精品一区粉嫩| 国产毛片毛片4p懂色| 国产主播福利| 人人玩人人添人人澡免费| 成人精品久久久午夜福利| 级做a爱无码性色永久免费| 欧美日韩啪啪电影| 久久91精品国产9丨久久分亭| 日本丝袜人妻内射| 狠综合网| 素人无码中文字幕| 97精品视频在线| 国产精品乱码久久久| 亚洲天堂男人| 亚洲成人在线高清| 做爱A级亚欧| 亚洲国产欧美中文永久| 日韩啪啪啪啪啪| 亚洲情色一区综合| 91性感网站| 欧美综合色| 电家庭影院午夜69久久夜色精品国产69乱| 天天看天天日| 3d成人精品一区二区| 日本肉体xxxx裸交| 色香色香欲天天天影视综合网| 久久嫩草国产成人一区| 99精品高潮| 久久αⅴ| 久久国产免费激情视频| 爱我干综合| 厕所偷拍在线| 日韩高清一二三| 亚洲天堂2020| 亚洲精品人妻在线| 亚洲 日本 一 二 三| 嗯嗯,好大,好爽,好骚 | 婷婷五月天基地| 大香蕉国产中文自拍| 日韩欧美中文字亚洲慕| 亚洲色欧美| 熟女人妇一区二区三区| 极品丝袜无码| 久久色AV线| 麻豆天美传媒毛片| 国产家庭乱伦网址| 在线啊啊啊啊| 日本不卡免费二区| 国内毛片热久久思思热| 亚欧性爱在线无码| 天天日天天射天天干| 亚洲色图8| 中文字幕一二区二三区人妻专区| 五月丁香婷婷综合| 日日日骚女人精品| 97超碰超碰| 欧美在线观看综合国产| 蜜臀人妻少妇久久在线观看| 大香蕉草草| 老司机老司机午夜影院| 午夜久久一区二区无码中出| 91在线国产后入风骚翘臀美女素人| 国产性爱强奸乱伦大全| 偷窥自拍A片| 在线亚洲精品久久久| 欧美亚洲小说| 国产97色在线| 强奸熟女一区二区三区| 亚洲欧美日韩制服另类| 99这里有精品| 少妇熟女视频一二三区| 成人a大片在线观看| 久久9 9 9精品| 加勒比海人人操超碰在线| 欧美视频一区二区在线| 久久久久亚洲精品| 蜜臀一区二区三区在线| 五月天综合网| 国产深喉| 婷婷中文网| 长久操视频| 亚洲三区视频| 久久偷拍人| 天天干天天舔| 人妻天天爽夜夜爽爽| 美女91AV| 国产少妇肉丝在线观看| 欧美中日韩XXXX| 日本午夜福利影院| 久湿久久| 精品黑人一区二区| 夜夜免费视频| www成人啪啪18秘 免费| 91人妻久久久久久久久久久久久| 成人无遮挡毛片免费看| 情色av电影| 色婷婷六月丁香七月婷婷| 96精品久久久久中文字幕| 日本人妻最新在线中| 欧美人妻精品| 一起草三级AV电影在线观看| 亚洲。日韩。欧美| 日本精品一级二级三级| 精品久久久中文字幕不| 韩国免费播放一级毛片| 少妇天堂网络| 国产日韩在线播放av| 制服中出中文人人精品| 国产亚洲精品美女久久久m| 超碰97欧美日韩| 久久AV无码网址| 欧美草草高清日韩视频| www.99视频| 欧美91在线| 99青青草国产视频| 国产91精品福利在线| 蜜桃臀久久| 五月天婷婷综合网| 伊人国产成人av网站| 中文字幕-区二区三区四区视频中国| 国产精品一区二区亚洲人成毛片| 久操在97| 成人av动漫在线观看| 免费视频97| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 男女啊啊啊啊啊| 亚洲另类久操网| 91精品微拍福利| 天天日骚逼熟女| 亚洲,欧美,春色,另类| 日韩 国产 欧美自拍| 欧美熟女丝袜| 五月丁香网站| 91搞逼视频| 97在线播放 | 欧美色九九| 爱啪精品一区| 成人片在线播放| 永久电影三级在线观看| 国产久久男人天堂| 婷婷五月天av| 黄色电影在线播放综合网站 | 99精品在线| 久久这里只精品免费福利| 日本精品一区二区三| 欧美日韩国产中文精品字幕自在自线, | 99re免费视频精品全部| 久艹视频在线| 中文字幕制服欧美久久一区| 久久精品国产96精品亚洲拳交| 91网亚洲| 91 丝袜在线| 日韩乱伦影音先锋| 大香蕉中文| 欧洲大香蕉| 不卡九肏| 大香蕉久久| 久久美女国产| 亚洲婷婷丁香在线| 综合色久欲| 久久少妇视频| 五月天婷婷欧美三区| 岛国在线一区二区三区| 无码国产精品96久久久久孕妇| 久久久草草精品| 韩国女主播青草在线| 国产玖玖| 日韩国产中文字幕| 中文日本免费高清| 九九九九热| 国产精品丝袜在线| 天堂精品| 天天操人人操骚逼网站| 色鬼在线综合| 亚州色交| 国产亚洲在线| 福利色色| 日韩欧美国产一区二区三区四区| 操逼网站网站| 极品色| 国产97色在线 | 亚洲| 大香蕉欧美国产日韩高潮| 天堂资源欧美| 亚洲AV无码| 久久超碰久| 操碰97| 亚洲日本韩国在线| 狠狠色噜噜狠狠狠狠狠色综合久久 | 色99999| 欧洲精品一级二级精品综合视频综合| 激情文学小说一区二区 | 74成人在线| 亚洲精品国产精品成人| 久久一区二区三区四区五区| 99re欧美| 欧美日韩久久精品爱爱| 日本2020一区二区| 午夜福利合集| 久久黄黄黄| 欧美宗合网| 99夜夜操| 久久久久久九九九九| 欧美资源| 国产无码成人无码| 人妻少妇久久中文字幕一区二区 麻豆| 97Ai亚洲| 亚洲啪啪综合?v一区综合精品区| 视频不卡中文字幕| 秋霞色色影院| 久久性爱视频99| 7777奇米影视久久| 人人操人人搞人人草| 欧美人妻久久精品二区三区| 人人操人人摸人| 亚洲日韩精品在线播放| 狠狠狠狠狠狠| 啊啊啊啊啊在线观看网址 |