久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Linux內(nèi)核軟件定時器詳解:從jiffies到時間輪算法

Linux內(nèi)核軟件定時器詳解:從jiffies到時間輪算法 “拼湊內(nèi)核”這套連載做到第三章第三節(jié)前兩回我們已經(jīng)把中斷控制器、時鐘芯片驅(qū)動和任務(wù)切換勉強跑通代碼能在一個模擬環(huán)境下“活”起來。這一節(jié)要聊的軟件定時器正好是整個內(nèi)核里非常討巧的一塊基礎(chǔ)設(shè)施它不直接碰硬件卻依賴時鐘中斷這個“心跳”來驅(qū)動自己。你可能會說不就是一個到了時間就執(zhí)行回調(diào)的機制嗎實際寫起來遠沒那么簡單從數(shù)據(jù)結(jié)構(gòu)怎么設(shè)計、時間怎么換算到高并發(fā)下怎么安全地刪一個定時器坑一個接一個。這篇內(nèi)容適合兩類讀者一類是正在跟做操作系統(tǒng)實驗、想把手寫內(nèi)核里程碑補全的學(xué)生另一類是剛接觸內(nèi)核驅(qū)動開發(fā)、想弄明白timer_list和hrtimer到底怎么用的工程師。我會從“為什么需要軟件定時器”講起一路說到時間輪算法、實際驅(qū)動里的用法和調(diào)試經(jīng)驗盡量把教材里一筆帶過的地方展開講透。1. 軟件定時器是什么為什么內(nèi)核離不開它1.1 從硬件定時器到軟件定時器硬件定時器是芯片上一組獨立的計數(shù)器電路比如常見的可編程間隔定時器它由外部晶振提供時鐘源計數(shù)到設(shè)定值后觸發(fā)中斷。問題在于一塊板子上的硬件定時器通道非常有限而內(nèi)核里需要“延遲執(zhí)行”“超時判斷”“周期性任務(wù)”的地方數(shù)不勝數(shù)網(wǎng)絡(luò)協(xié)議棧要重傳超時、塊設(shè)備層要處理請求超時、內(nèi)核線程要做周期調(diào)度統(tǒng)計??坑布〞r器一個一個去滿足完全不現(xiàn)實。所以內(nèi)核把硬件定時器當(dāng)作一個“節(jié)拍發(fā)生器”讓它以固定頻率產(chǎn)生時鐘中斷每次中斷到來時軟件定時器模塊就被喚起一次檢查哪些定時器到期然后執(zhí)行對應(yīng)的回調(diào)函數(shù)。這樣一個或幾個硬件通道就能支撐無數(shù)個軟件定時器同時運行。軟件定時器的本質(zhì)就是把“時間維度上的事件調(diào)度”從硬件遷移到軟件層面。它犧牲了一點精度換來的是數(shù)量上的幾乎無上限。編寫驅(qū)動時你申請一個軟件定時器只是在內(nèi)存里填了個結(jié)構(gòu)體注冊到內(nèi)核的定時器鏈表里不再占用任何硬件資源。這東西在實戰(zhàn)里的出場頻率極高凡是驅(qū)動里需要“等一會兒再做事”的邏輯基本都要靠它。1.2 兩個必需的基礎(chǔ)概念時鐘節(jié)拍與 jiffies理解軟件定時器繞不開兩個底層概念一個是時鐘節(jié)拍tick一個是jiffies。系統(tǒng)開機后硬件定時器被編程為每1/HZ秒產(chǎn)生一次中斷這個時間單位被稱為一個 tick。HZ是一個編譯期常量常見取值是 100、250、1000含義是每秒產(chǎn)生多少個時鐘中斷。如果HZ250那么每個 tick 就是 4 毫秒軟件定時器的精度上限就鎖死在 4 毫秒——你說我想定時 1 毫秒老式的低精度定時器是做不到的這是你先要接受的一個硬約束。jiffies是內(nèi)核里的全局“心跳計數(shù)器”每次時鐘中斷它自增 1。它從開機開始累積類型是unsigned long volatile在 32 位系統(tǒng)上大約 497 天后會回繞一次64 位系統(tǒng)上這個概念基本可以忽略。所有軟件定時器的到期時間都以jiffies為單位表示。一個定時器的生命周期是這樣的初始化時填好回調(diào)函數(shù)和參數(shù)設(shè)置一個到期時間差比如“10 個 jiffies 之后”然后掛到內(nèi)核的管理結(jié)構(gòu)中。之后每來一次時鐘中斷內(nèi)核就把jiffies加 1并檢查有沒有到期項。這種設(shè)計把硬件只需要負責(zé)“周期性發(fā)中斷”這一件事其余全部邏輯都收攏到通用的軟件框架里。2. 定時器對象與常用 API一切從數(shù)據(jù)結(jié)構(gòu)開始2.1 struct timer_list 是怎么設(shè)計的經(jīng)典低精度定時器的結(jié)構(gòu)體定義不同內(nèi)核版本略有差異但核心成員一直是那幾項。我以比較普及的內(nèi)核版本為參考struct timer_list { struct hlist_node entry; // 掛入時間輪散列表的節(jié)點 unsigned long expires; // 到期時刻單位jiffies void (*function)(struct timer_list *); // 回調(diào)函數(shù) u32 flags; // 標(biāo)志位 } __randomize_layout;entry用來把定時器節(jié)點掛到內(nèi)核的時間輪桶里這個成員在用戶視角不需要碰。expires是絕對到期時間注意是“絕對值”而不是“還要等多久”。如果現(xiàn)在jiffies是 10000你想等 20 個 tick就要填 10020而不是填 20。這個細節(jié)新手經(jīng)常搞反一旦填了相對值定時器要么立即觸發(fā)要么等到系統(tǒng)運行很久很久之后才輪到它看起來就是“定時器完全不可用”。function是回調(diào)函數(shù)指針?biāo)娜雲(yún)⑹莝truct timer_list *也就是說回調(diào)函數(shù)能拿到定時器結(jié)構(gòu)體本身。經(jīng)典教材里老版本內(nèi)核經(jīng)常寫void my_callback(unsigned long data)這是 2.6 時代的老接口?,F(xiàn)在統(tǒng)一改成傳入struct timer_list *好處很明顯回調(diào)里可以直接用container_of通過定時器結(jié)構(gòu)找到宿主數(shù)據(jù)結(jié)構(gòu)不需要依賴一個裸的unsigned long參數(shù)。比如你在一個設(shè)備結(jié)構(gòu)體里內(nèi)嵌了定時器回調(diào)函數(shù)里就能通過container_of找回整個設(shè)備結(jié)構(gòu)體。flags字段在正常驅(qū)動開發(fā)時通常直接傳 0。它內(nèi)部可能攜帶一些與 CPU 親和性相關(guān)的標(biāo)記但這是內(nèi)核框架自己用的驅(qū)動層一般不需要主動設(shè)置。2.2 初始化的正確姿勢timer_setup初始化接口現(xiàn)在統(tǒng)一使用timer_setup它把setup_timer那套老 API 淘汰了。一個典型的初始化是這樣的static struct timer_list my_timer; static void my_timer_handler(struct timer_list *t) { // 定時器到期的處理邏輯 } static int __init xxx_init(void) { timer_setup(my_timer, my_timer_handler, 0); // 此時定時器還沒掛到時間輪上只是完成了對象初始化 return 0; }timer_setup會把回調(diào)函數(shù)指針填好把節(jié)點的鏈表指針清空標(biāo)志位置好。這一步只做“對象初始化”不參與調(diào)度。很多不熟悉內(nèi)核框架的人以為初始化完就開始計時了其實還差兩步設(shè)置到期時間把定時器真正掛載到時間輪桶中。獨立設(shè)置到期時間可以用timer-expires jiffies x但更推薦用輔助函數(shù)mod_timer(my_timer, jiffies msecs_to_jiffies(100));mod_timer是“修改到期時間并掛載”的復(fù)合操作。如果定時器已經(jīng)在時間輪里它會把舊的桶節(jié)點摘下來按新到期時間重新插入如果定時器還沒掛載它就直接以新到期時間掛進去。這個接口內(nèi)部會做必要的同步保護是驅(qū)動開發(fā)里最常用的一個入口。還有一對容易混淆的刪除接口。del_timer只是把節(jié)點從時間輪里摘下來不關(guān)心是否已注冊也不關(guān)心是否正在其他 CPU 上執(zhí)行回調(diào)流程。del_timer_sync額外保證當(dāng)函數(shù)返回時該定時器的回調(diào)函數(shù)一定沒有在其他 CPU 上運行或者已經(jīng)運行完畢。在驅(qū)動卸載路徑上最穩(wěn)妥的選擇是del_timer_sync。2.3 改期mod_timer 的語義坑mod_timer的語義比很多入門文檔寫的更強。除了“改到期時間”它實際上等價于“若已激活則先刪除、再按新時間激活”。這意味著一個已激活的定時器可以反復(fù)用mod_timer調(diào)整時間實現(xiàn)“滾動定時器”也就是周期性任務(wù)。但這里有第一個值得警惕的坑mod_timer返回 0 表示定時器之前是未激活的返回 1 表示它之前已經(jīng)激活并被重新調(diào)度了。有些驅(qū)動代碼只關(guān)心“定時器有沒有被激活過”就可以利用這個返回值做狀態(tài)判斷。不過我要提醒你別在工作量很大的回調(diào)函數(shù)里反復(fù)高頻調(diào)用mod_timer那會引入不必要的鎖競爭和處理器間干擾。批量執(zhí)行周期任務(wù)時更推薦用hrtimer或者內(nèi)核工作隊列配合延時函數(shù)。3. 時間換算的藝術(shù)從用戶態(tài)的毫秒到內(nèi)核的 jiffies3.1 常用換算函數(shù)清單應(yīng)用層程序員用毫秒、微秒內(nèi)核里的人卻活在jiffies里。兩種時間單位之間必須顯式換算不能想當(dāng)然地直接賦值。Linux 內(nèi)核提供了一組語義清晰的輔助函數(shù)msecs_to_jiffies(m)毫秒轉(zhuǎn) jiffies向上取整usecs_to_jiffies(u)微秒轉(zhuǎn) jiffies向上取整timespec_to_jiffies(ts)結(jié)構(gòu)體時間轉(zhuǎn) jiffiesjiffies_to_msecs(j)反向換算用于把內(nèi)核時間輸出給用戶態(tài)為什么要“向上取整”因為內(nèi)核定時器的到期檢查粒度是 tick。當(dāng)HZ1000時每個 tick 是 1 毫秒user 傳一個 1.5 毫秒的延時如果不向上取整直接按照 1 毫秒算實際延時就會比請求時間短。向上取整能保證“只晚不早”這在超時類業(yè)務(wù)里是行規(guī)——寧可晚一點喚醒不能早一點誤判超時。來看一個實際換算unsigned long delay msecs_to_jiffies(250); mod_timer(my_timer, jiffies delay);當(dāng)HZ100時250 毫秒等于 25 個 jiffies取整后沒有任何誤差。當(dāng)HZ1000時250 毫秒等于 250 個 jiffies。但如果傳入 255 毫秒且HZ100因為一個 tick 是 10 毫秒25.5 必須向上取整到 26 個 tick實際到期時間就變成了 260 毫秒誤差 5 毫秒。注意在模塊代碼中做了msecs_to_jiffies之后不要再試圖把結(jié)果轉(zhuǎn)換成毫秒傳回用戶態(tài)。內(nèi)核內(nèi)部的時間處理必須保持在 native 單位里進行反復(fù)橫跳只會引入無謂的精度損失。3.2 HZ 的取值是個權(quán)衡不是越大越好有人覺得把HZ配成 1000定時器精度變成 1 毫秒豈不是更好事情沒有這么簡單。HZ越大每個 tick 間隔越短做一次進程調(diào)度、檢查定時器、更新系統(tǒng)統(tǒng)計的頻率就越高。這些工作全部疊加在中斷上下文里會吃掉不少 CPU 周期。桌面內(nèi)核傾向于 250 或 1000 讓交互更順滑服務(wù)器內(nèi)核反而傾向 100因為大批量計算任務(wù)根本不在乎這幾毫秒的定時粒度省下中斷開銷才是實打?qū)嵉氖找?。低精度軟件定時器的精度上限就是/HZ秒。有些課程實驗把HZ設(shè)成 10那定時器誤差高達 100 毫秒做簡單的 LED 閃爍沒問題做網(wǎng)絡(luò)重傳計時就完全不可用。所以你寫代碼時凡是精度敏感的場合要對HZ足夠敏感凡是要求微秒級定時的場合就該扭頭去看hrtimer而不是指望提高HZ來硬扛。3.3 和 real time 的差異定時器到點了不代表現(xiàn)在是那個時刻軟件定時器的到期事件發(fā)生在時鐘中斷上下文里它表示的是“系統(tǒng)運行了足夠多的 tick”而不是“現(xiàn)實世界過去了準(zhǔn)確的時間”。系統(tǒng)休眠、內(nèi)核被搶占、中斷長時間關(guān)閉都會讓定時器觸發(fā)晚點。如果你在用戶態(tài)通過gettimeofday去測量定時器到點的真實時刻會發(fā)現(xiàn)它可能偏差幾毫秒甚至更久。這在實時性要求到“必須準(zhǔn)點”的應(yīng)用里是不能接受的。結(jié)論很簡單低精度定時器適合做“相對延時、超時判斷、輪詢節(jié)流”不適合做“硬實時調(diào)度”。要硬實時用hrtimer它基于硬件時鐘提供的精確時間線與jiffies解耦。4. 定時器核心機制從樸素鏈表到多級時間輪4.1 樸素鏈表實現(xiàn)為什么不行如果讓你設(shè)計一個最簡單的定時器框架腦子里第一反應(yīng)肯定是維護一個全局有序鏈表每個節(jié)點記錄到期時間。時鐘中斷來了從鏈表頭開始檢查凡是expires jiffies的節(jié)點都取出來執(zhí)行然后把它們從鏈表里摘除。插入時按到期時間排序保持鏈表有序。這個方案的瓶頸非常明顯。插入一個定時器的時間復(fù)雜度是 O(n)因為要沿著鏈表找到合適的位置最壞情況下系統(tǒng)的定器數(shù)量如果有數(shù)千個每次插入都是一次大規(guī)模的線性掃描。海量定時器情況下中斷處理函數(shù)里做這種高成本操作是不可接受的。你想想網(wǎng)絡(luò)棧里每個連接可能同時掛著若干超時定時器高并發(fā)服務(wù)器上定時器數(shù)量輕松上萬線性掃描幾萬個節(jié)點中斷延遲會被拖垮。4.2 多級時間輪的核心思想內(nèi)核采用的多級時間輪本質(zhì)上是“以空間換時間”的典型代表也是各種高性能定時器方案的基礎(chǔ)思想。想象鐘表上的表盤秒針走一圈 60 格每走一格是 1 秒分針 60 格時針 12 格。秒針走完一圈分針動一格分針走完一圈時針動一格。多級時間輪完全復(fù)刻了這種“進制”思想。具體到內(nèi)核時間輪有 5 個級別每個級別是一個桶數(shù)組。第一級桶數(shù)量較多每個桶代表一個 tick后面每個級別的桶數(shù)量變少但每個桶代表的 tick 數(shù)成倍放大。當(dāng)?shù)谝患壍哪硞€桶輪轉(zhuǎn)到位時如果發(fā)現(xiàn)里面有定時器就把他們從第一級的桶取出來重新按剩余時間散列到更精確的級別里去。這個動作叫“級聯(lián)”。在中斷處理里內(nèi)核只需要看當(dāng)前 tick 對應(yīng)第一級的哪個桶把那個桶里的定時器全部取出來執(zhí)行即可。每過固定數(shù)量的 tick才需要把下一級的桶展開、重新散列所以平均下來每個 tick 的開銷非常小插入和刪除還是 O(1) 時間。它跟有序鏈表最大的差別在于不排序只散列到固定的時間區(qū)間里。4.3 索引計算一個簡化的時間輪推導(dǎo)我用一個簡化版本來演示索引計算邏輯幫助你建立直覺。假設(shè)第一級桶數(shù)組有 8 個桶時間范圍是一個 8-tick 周期?,F(xiàn)在jiffies當(dāng)前值是base某個定時器到期值是expires。它在第一級桶里的索引可以直接用index (expires 7);因為底層是 8 個桶取低 3 位即可。問題在于當(dāng)?shù)谝患壿嗈D(zhuǎn)多次以后只靠低 3 位就無法區(qū)分這個到期時間落在哪一個輪次里。所以需要二級輪子。兩級時間輪做法是第一級 8 個桶每格 1 個 tick第二級也是 8 個桶但每格代表“第一級完整輪轉(zhuǎn)一圈”的長度。第二級一個格子里掛的定時器到期時間離jiffies的距離會是“幾個完整輪”加“桶內(nèi)偏移”。計算第二級索引時需要先算出時間差再除以第一級周期得到“圈數(shù)”然后對第二級取模。處理流程是這樣的每次 tick檢查第一級對應(yīng)的桶執(zhí)行桶內(nèi)所有到期定時器。當(dāng)?shù)谝患夀D(zhuǎn)完一整圈觸發(fā)一次提升把第二級當(dāng)前桶里的定時器全部取出。對每個取出的定時器按新的剩余時間重新放回第一級的某個桶或者放到更高一級。這就是級聯(lián)定時器的基本運作。真實內(nèi)核里的時間輪比這個演示復(fù)雜但底層的“區(qū)間劃分、級聯(lián)、O(1) 插入刪除”核心一模一樣。在實現(xiàn)自己的小內(nèi)核時你完全可以先用這個簡化版本先把功能跑通再去考慮匹配真實內(nèi)核的實現(xiàn)細節(jié)。重要提醒寫內(nèi)核代碼時別自己去實現(xiàn)一套多級時間輪替代內(nèi)核自帶定時器除非你是在課程作業(yè)里自己拼一個微型內(nèi)核。真實內(nèi)核的時間輪已經(jīng)處理了 SMP 并發(fā)、回調(diào)上下文、延遲遷移等各種邊界自己造輪子很難在正確性上勝過它。5. 實操在一個內(nèi)核模塊里用好軟件定時器5.1 場景設(shè)計與完整示例現(xiàn)在我們把知識落到代碼上。場景寫一個非常簡單的內(nèi)核模塊它提供一個 proc 節(jié)點用戶往節(jié)點寫一個毫秒數(shù)值模塊就在指定時長后打印一條日志并自動把時間重置為下一個周期實現(xiàn)周期性打印。#include linux/module.h #include linux/kernel.h #include linux/timer.h #include linux/jiffies.h #include linux/proc_fs.h #include linux/uaccess.h static struct timer_list demo_timer; static unsigned long interval_jiffies HZ; /* 默認(rèn) 1 秒 */ static void demo_timer_callback(struct timer_list *t) { pr_info(demo timer fired at %lu\n, jiffies); /* 周期持續(xù)運行把到期時間改到當(dāng)前時間再加一個間隔 */ mod_timer(demo_timer, jiffies interval_jiffies); } static ssize_t demo_write(struct file *file, const char __user *buf, size_t count, loff_t *ppos) { char kbuf[32]; unsigned int msecs 0; if (count sizeof(kbuf)) return -EINVAL; if (copy_from_user(kbuf, buf, count)) return -EFAULT; kbuf[count] \0; if (kstrtouint(kbuf, 10, msecs)) return -EINVAL; if (msecs 0) interval_jiffies HZ; else interval_jiffies msecs_to_jiffies(msecs); mod_timer(demo_timer, jiffies interval_jiffies); pr_info(timer interval updated to %u ms\n, msecs); return count; } static const struct proc_ops demo_proc_ops { .proc_write demo_write, }; static int __init demo_init(void) { timer_setup(demo_timer, demo_timer_callback, 0); mod_timer(demo_timer, jiffies interval_jiffies); proc_create(demo_timer, 0666, NULL, demo_proc_ops); pr_info(demo timer module loaded\n); return 0; } static void __exit demo_exit(void) { remove_proc_entry(demo_timer, NULL); del_timer_sync(demo_timer); pr_info(demo timer module unloaded\n); } module_init(demo_init); module_exit(demo_exit); MODULE_LICENSE(GPL);這個模塊的設(shè)計有幾個值得琢磨的點。第一回調(diào)函數(shù)里把mod_timer放在最后一行而不是放在回調(diào)一開始這樣能避免一種競爭如果定時器剛被觸發(fā)此刻還沒有重新排隊用戶在 proc 寫操作里改時間邊界的順序就變得可控。先重新排期再打印日志是更好的做法但為了代碼簡潔放在pr_info之后也問題不大——只要你不在這兩者之間做狀態(tài)清理。第二del_timer_sync是卸載時最關(guān)鍵的一行。模塊退出函數(shù)里先刪除 proc 節(jié)點防止新用戶操作進來再同步刪除定時器保證回調(diào)函數(shù)已經(jīng)不在任何處理器上運行之后才能放心釋放模塊申請的資源。順序不能反如果先刪定時器再刪 proc 節(jié)點中間窗口期用戶還是可能改定時器的到期時間卸載路徑上就多了一個需要同步的變量。第三用戶傳入 0 毫秒時的處理。把它當(dāng)成重置為默認(rèn)值這里使用 0 作為非法值是刻意設(shè)計避免msecs_to_jiffies(0)直接生成 0 個 jiffies 導(dǎo)致定時器立刻觸發(fā)讓系統(tǒng)陷入空轉(zhuǎn)。5.2 回調(diào)函數(shù)里什么事情絕對不能做如果說定時器 API 是形式那回調(diào)函數(shù)的約束才是靈魂。軟件定時器的回調(diào)運行在軟中斷上下文準(zhǔn)確說是TIMER_SOFTIRQ這種軟中斷環(huán)境里不是進程上下文。這里有幾條高壓線不能調(diào)用sleep或任何可能睡眠的函數(shù)比如msleep、wait_event、mutex_lock。睡眠會導(dǎo)致軟中斷卡死進而連累整個系統(tǒng)的定時器分發(fā)。不能調(diào)用kmalloc并帶有GFP_KERNEL標(biāo)志因為分配內(nèi)存可能需要阻塞來回收頁面。這時候要用GFP_ATOMIC但也要盡量少用。不能直接操作用戶態(tài)內(nèi)存比如通過指針訪問用戶空間地址。因為此時沒有合法的進程地址空間上下文。不能長時間自旋忙等因為軟中斷期間本地中斷處理也受約束長時間忙等會讓其他中斷延遲劇增。如果回調(diào)里確實需要做耗時操作標(biāo)準(zhǔn)做法是立刻把一個工作項提交到 Linux 工作隊列定時器回調(diào)只是“叫醒服務(wù)”真正干活的人在進程上下文里運行。用一句話概括定時器回調(diào)是門鈴不是廚師。門鈴響了廚師才從休息室出來開火你不能讓門鈴自己把一整桌菜做出來。static void timer_cb(struct timer_list *t) { /* 只投遞不干活 */ schedule_work(my_work); }5.3 周期定時器三種寫法的取舍實現(xiàn)周期任務(wù)有三種常見寫法我也給新手一個選擇依據(jù)。第一種回調(diào)函數(shù)末尾再調(diào)用mod_timer。優(yōu)點是代碼簡單缺點是如果回調(diào)執(zhí)行時間波動較大周期會跟著漂移因為它總是從“回調(diào)執(zhí)行時刻”重新計算下個到期點。第二種在回調(diào)開頭記錄jiffies末尾用“基準(zhǔn)時刻加上固定間隔”重新設(shè)置到期時間。這能讓周期盡量逼近理想值但要小心如果回調(diào)執(zhí)行時間已經(jīng)超過一個周期就會出現(xiàn)到期時間落在當(dāng)前時間之前的情況mod_timer會對過去時間做什么它會直接通知你馬上到期導(dǎo)致連續(xù)觸發(fā)俗稱“追趕”。第三種用hrtimer的HRTIMER_MODE_REL或HRTIMER_MODE_ABS模式實現(xiàn)高精度周期任務(wù)。雖然更復(fù)雜但能利用硬件時鐘的精確性。比起糾結(jié)低精度定時器的周期漂移直接提升定時器精度往往更省心。我個人寫驅(qū)動時除非目標(biāo)是極簡驗證流程否則周期任務(wù)優(yōu)先考慮用內(nèi)核工作隊列的schedule_delayed_work它自帶延遲調(diào)度語義也更適合跑流程較重的邏輯。6. 常見問題與調(diào)試實錄6.1 癥狀定時器從不觸發(fā)如果加載模塊后日志里一次回調(diào)都沒出現(xiàn)先別急著懷疑 API 用法。多數(shù)情況是下面三個原因之一。第一個原因是到期時間設(shè)置為相對值而不是絕對值。比如寫的是timer.expires 100意思想表達“等 100 個 tick”實際語義卻是“系統(tǒng)運行到 100 個 tick 時就觸發(fā)”。如果系統(tǒng)已經(jīng)跑了幾十萬個 tick這個定時器永遠等不來。解決方式是在打印日志時把jiffies也輸出對比一下當(dāng)前值和到期值。第二個原因是定時器根本沒有被掛到時間輪上。只調(diào)用了timer_setup沒調(diào)add_timer或mod_timer定時器只是初始化了但不在任何桶里。檢查代碼里有沒有真的執(zhí)行掛載操作以及掛載操作是否在 error path 里被跳過。第三個原因是回調(diào)函數(shù)本身出錯導(dǎo)致模塊崩潰但這個癥狀往往不是“從不觸發(fā)”而是觸發(fā)后系統(tǒng)死掉或者模塊 unload 失敗。用 dmesg 抓一下崩潰的棧信息基本都能定位到回調(diào)函數(shù)的哪一行出了問題。我在調(diào)試時習(xí)慣在初始化和回調(diào)入口各打一條帶jiffies的日志這樣能立刻看到時間是否在推進、定時器是否到期、回調(diào)是否入庫。6.2 癥狀模塊卸載時死鎖或者崩潰卸載時遇到死鎖首先要想到del_timer_sync和回調(diào)函數(shù)的鎖順序問題。假設(shè)回調(diào)函數(shù)持有一個鎖 A卸載路徑先拿到同一個鎖 A再去調(diào)用del_timer_sync等回調(diào)結(jié)束這種情況下必定死鎖。因為回調(diào)在等鎖而持鎖方在等回調(diào)結(jié)束。這類死鎖的本質(zhì)是“回調(diào)函數(shù)和卸載路徑共享了同一把鎖”。解決辦法是不要讓卸載路徑持鎖去等待定時器同步結(jié)束可以在釋放鎖之后再做del_timer_sync或者回調(diào)函數(shù)內(nèi)部只用無鎖的原子變量傳遞狀態(tài)。如果卸載時直接崩潰大概率是del_timer_sync之后仍然訪問了回調(diào)函數(shù)可能用到的數(shù)據(jù)。比如某個設(shè)備結(jié)構(gòu)體已經(jīng)被kfree而回調(diào)函數(shù)里還通過container_of把這個結(jié)構(gòu)體取出來用。標(biāo)準(zhǔn)做法是先del_timer_sync保證回調(diào)不再運行再釋放相關(guān)數(shù)據(jù)結(jié)構(gòu)。次序錯了就是“定時器先釋放、回調(diào)后訪問”的懸垂指針災(zāi)難。6.3 癥狀定時器回調(diào)里睡眠導(dǎo)致系統(tǒng)異常新手最容易踩的就是在回調(diào)函數(shù)里調(diào)用msleep(10)。表面看只是一次毫秒級睡眠實際上軟中斷上下文不允許睡眠內(nèi)核會在調(diào)度器入口處打出BUG: scheduling while atomic的警告系統(tǒng)進入不穩(wěn)定狀態(tài)時不時無響應(yīng)。要徹底扭轉(zhuǎn)自己的直覺不是“盡量別在回調(diào)里睡眠”而是“回調(diào)里絕對不許睡眠”。耗時工作全部外包給schedule_work或者queue_work。頻繁觸發(fā)的高頻定時器外包時要注意合并請求避免產(chǎn)生堆積的大量工作項可以考慮使用work_pending之類的判斷來防止重復(fù)提交。附上一份我在教學(xué)時常用的排查速查表可以幫你快速定位問題癥狀可能原因排查方向定時器完全不觸發(fā)expires 填了相對值、沒掛載打印 jiffies 對比檢查 add_timer/mod_timer觸發(fā)時間偏晚HZ 太小、回調(diào)被搶占核對 HZ 配置區(qū)分開軟件定時器與 hrtimer卸載時死鎖鎖順序問題分析卸載路徑與回調(diào)的鎖依賴卸載后崩潰del_timer_sync 之后數(shù)據(jù)被釋放調(diào)整釋放順序先同步刪除定時器再釋放結(jié)構(gòu)體系統(tǒng)警告 scheduling while atomic回調(diào)中睡眠改用工作隊列禁止在回調(diào)里調(diào)用可睡眠函數(shù)定時器被重復(fù)觸發(fā)回調(diào)里 mod_timer 邏輯有誤檢查邊界條件保證至少有一個固定間隔間隔6.4 調(diào)試技巧利用軟中斷上下文信息當(dāng)你在dmesg里看到BUG: scheduling while atomic這類消息時它其實帶著一份調(diào)用棧足以指出睡眠發(fā)生的位置。不要只盯著最后一行BUG標(biāo)題往上翻找__might_sleep調(diào)用之前的函數(shù)鏈找到的是你的定時器回調(diào)被調(diào)用的入口。如果系統(tǒng)只是卡死而不報錯優(yōu)先懷疑鎖的問題而非死循環(huán)。軟中斷里死循環(huán)的現(xiàn)象是所有 CPU 軟中斷被卡住而普通用戶態(tài)任務(wù)可能還能運行。這種區(qū)分方式比無腦打印日志更高效。配合perf采樣可以更精準(zhǔn)定位熱點不過很多人忽略了這里也算一個經(jīng)驗之談。6.5 一個容易忽視的提升點定時器對象的復(fù)用注意定時器對象可以被反復(fù)mod_timer但它不能被同時掛到兩個不同的執(zhí)行路徑上。比如驅(qū)動里如果有兩個線程都想操作同一個定時器各自調(diào)用mod_timer最后的到期時間取決于后調(diào)用的那個。這種競爭在低并發(fā)場景下可能無害但在高并發(fā)驅(qū)動里可能導(dǎo)致一個事件的超時判斷被另一個無關(guān)請求覆蓋。解決辦法很簡單要么保證代碼里只有一個執(zhí)行路徑能修改定時器要么為每個需求創(chuàng)建獨立的定時器實例要么用spinlock保護對定時器的所有操作。我在實際項目中偏好“獨立實例”因為鎖雖簡單但一旦回調(diào)里再操作同一把鎖死鎖風(fēng)險就悄悄爬上來了。獨立實例讓鎖定邊界更清晰是一個工程直覺上的加分選項。收尾之前一句話給你兜底軟件定時器這個模塊說簡單也簡單說難也難。簡單在于它的 API 只有初始化、改期、刪除三個動作復(fù)雜在于它和時鐘中斷、軟中斷、并發(fā)安全、鎖依賴這些問題緊緊抱在一起。在我?guī)н^的新人里能把mod_timer用得順手的人不算少但能同時說清楚“為什么回調(diào)不能睡、為什么卸載要先刪 proc 再刪定時器、為什么 expires 必須填絕對值”的基本都能算對內(nèi)核調(diào)度有點真理解了。最后一件事分享給做實驗的同學(xué)HZ設(shè)置成 100 做演示沒有什么問題但你在文檔里描述定時器精度時記得把CONFIG_HZ的值寫進去否則別人復(fù)現(xiàn)你的實驗換個HZ1000的發(fā)行版內(nèi)核得到的觸發(fā)間隔和你的結(jié)論對不上排查半天發(fā)現(xiàn)是配置差異。我在指導(dǎo)某個學(xué)生項目時踩過這個坑后來所有實驗文檔第一行就固定寫清環(huán)境參數(shù)這類問題再也沒出現(xiàn)過。拼湊內(nèi)核拼到定時器這一站后面的路就順了——畢竟時間能“軟”起來剩下的調(diào)度、超時、協(xié)作就都有地方落腳。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
无码高清专| 日本淫色网| 美国美女AV在线| 亚洲欧洲激情| 日本天天操| 禁十八久久| 99re免费| 欧美黄色图片| 久久精品国产亚洲AV清纯| 久热9| 亚洲综合贴图91| 乱伦熟妇一区二区| 香蕉一区二区三区在线视频| 日本精品五区| 日本九九久久99播| gogogo免费高清看中国国语| 性爱欧美五月| 国产特级毛片AAAAAA高潮流水 | 六月丁香婷| 狠色婷婷久久一区二区三区_| 在线视频亚洲无码| 亚洲综合影视| 国产69精品久久久久99尤物| 色网综合网| 可能人人看人人摸| 天天干人妻视频| 黄片不用下载在线观看| 国产97av| 性色乱AV一区二区| 色狠狠 - 百度| 韩国国产欧美情侣视频在线| 国产综合网站在线播放 | 9.1小视频| 欧洲一级性爱视频在线观看| 国产97/欧美| 99热精品在线| 久久春色| 日韩精品人妻中文字幕有码午| 秋霞Av理论一级在线| 九九无码久久精品视频| 操人人| 青青操在线亚洲视频观看欧美在线 | 精品亚洲天堂| 东北老女人的激情视频| 不卡av在线中文字幕| 欧美97在线观看| 成人精品一区二区91毛片不卡| 日少妇亚洲版| 日本日皮视频逼| 精品国产乱码久久久A| 开心五月深爱五月| 久久大黄片| 人妻一区久久二区三区色播| 国产亚洲精品第一最新| 日韩有码专区| 色老汉色| 操逼日韩无码| 久久中文字幕一区不卡| www.91视频网| 夜夜人妻爽| 久久一区二区三区入口| 四虎在线观看视频| 亚洲色资源| 在线v中文字幕一区二区三区| 最新制服中文第一页| 国产精品 午夜福利| 日韩欧美成人性爱在线| 欧美激情专区| 97操综合| 秋霞男人网| 国产精品探花在线| 亚洲色图欧美色图另类图片| 一区二区播放| 久热精品色情| 无码色| 久久久久久久伊人精品| 男人的天堂VA| 青青草日本中文字幕| 国产精品老师| 很很操在线| 日产成人久久| 欧美午夜色妇色鬼| 色色色综合网| 人人摸人人干人人拍97| 翔田千里AV无码秘 三区| 国产乱弄免费在线视频。| 婷婷在线视频| 婷婷视频在线免费观看| 人人操人人干xxx| 一级免费精品| 青青操在线亚洲视频观看欧美在线| 国产成人自拍视频在线| 国内精品a| 久久久性爱| 风月影院男女十八禁| 蜜桃色色网站视频三区| 日韩一级片在线看| 免费伦费视频在线观看| 中文字幕日韩人妻视频一区二区三区 | 亚洲国产欧美另类自拍| 另类图片天天影视| 欧日韩一二三f区| 无码久| 澳门成人网站久国产日韩| 久久久免费一级黄片| 大香蕉一区二区在线观看.| 日本一区不卡| 久久系列| 欧美色女人| 久久黄黄黄| 久久少妇人妻| 和协影院中文字幕三区| 9 7超碰在线免费观看| 九九九九久久久| 加勒比久久综合网高清| 国产极品美女高潮无套在线观看| 国产精品一区av在线| 91天天看| 夜夜嗨视频| 在线综合网| 成人一二三区| 99热销国产这里有精品| 久久国产精品m码| 人妻91少妇| 国产久9| 人妻激情在线视频| 97少妇人妻中文字幕久久| 91丝袜激情在线| 欧美猛交黑寡妇中文字幕| 久久精品亚洲婷婷| 97看操| 2019AV天堂| 久久人妻四季| 求求你操操我| 污污污8888| 99热在线不卡| 日日摸日日碰| 熟女熟妇伦久久影院毛片一区二区| 在线观看视频91| 中文字幕少妇色| 一区二区三区日韩欧美 | 91强热人妻| 欧美日韩国内不卡| 丁香五月社区| 97国产超湿| 亚洲免费精品一区| 激情图片伦理国产一区二区日韩| 在线黄色污污网站| 91在线/欧洲| 中文字幕二区| 国产捆绑一区| 国产三区免费在线观看| 欧美日韩成人| 男人的天堂.com| 精品一久久久| 少妇久久久免费| 欧亚 另类 久| 婷婷干黄色| 手机在线A片| 成人免费在线网站| 麻豆区99999| 操死我了嗯嗯嗯| 97爱碰| 黄页| 亚洲国产一区二区日韩专区| 婷婷中文网| 天天做天天爱天天高潮| 大香蕉十区| 亚洲的天堂网| 一级性爱视频免费观看| 色综合九九| 中文字幕黑人大片| 美日韩一二三区| 高清视频一区| 久综合国内精品自在自线| 欧美日韩性爱视屏免费看了| 欧美人妻精品| 偷窥自拍亚洲| 老司机天天操| 婷婷色色五月天| 欧美性爱一内片一区二区三区| 久久视频少妇美女| 亚洲综合 欧美| 色香综合| 思思热在线cao| 久久丁香五月天| 日韩国产十八禁| 99日视频在线免费| 影音先锋视频在线| 超碰免费在线| 校园春色宗合网| 欧美丝袜中文字幕07在线| AV天堂国产| 激情久久久| 7月婷婷综合| 色香91| 韩国三级一线观看久| HEYZO高无码国产精品227| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 久久专区| 99在线精品视频| 四虎影视永久在线观看精品免费网站 | 精品一区二区国产日韩| 国产精品一区二区黄片| 吉川爱美亚洲二区在线| 97超碰欧美中文字幕| 久久精品国产96精品亚洲拳交| 色婷婷六月| 亚洲综合九| 天天综合中文字幕 91| 久久毛卡| 乱日视频| 屁股久久久久久久| 麻豆2区1区天美| 啊嗯嗯啊好大好爽| av一区二区三区不卡| 日本日逼视频网| 久久人妇| 久久透逼视频| 91丝袜在线观看视频在线观看| 国产青青综合伊人| 亚洲第一成人影院色播| 亚洲综合九| 白丝被操91| 综合网,亚洲,欧美| 亚洲国产精品无石码久久| 无码免费精品高清| 成人久久久精品| 免费看黄片现成| 嗯啊啊啊轻点视频 | 亚瑟国产精品久久无码| 久久天天摸| 成人日本片久久久蜜桃| 亚洲最大无码中文字幕网站| 久久久精品一区二区| 91精品久久久久五月天精品| 日韩中文字幕av在线播放| 操国产逼| 美日韩一卡二卡三卡免费人妻精品| 欧美色另类| 五月婷婷性爱| 欧美96精品在线| 熟妇在线视频一区二区| 91亚洲综合| 亚洲18禁| 久久久久久久久久va| 欧美熟妇乱码在线一区| 亚川综合视频| 成人久久久精品| 在线观看色视频| 四虎精品一区| 99热这里是精品| 国产精品丝袜在线| 91九九九馒头| 狠狠操,使劲操| 精久久久91| AV一区观看| 国产欧洲精品亚洲午夜拍精品| 狠狠色狠狠色狠狠五月| 中文字幕无码不卡啪啪| www.av在线观看| 中文字幕在线免费观看 | 亚洲免费在线探花| 久久后入制服| 99综合| 日韩熟女精一区二区三区不卡| 亚洲综合色婷婷| 97超级久久| 爽极品影院| 激情婷婷丁香| 久久久久久久久久久久久久久性生活视频| 日本操逼视频在线| 久久久久久裸体| 国产精品视频精品一二| 国产精品 视频| 曰本熟女视频| 亚洲激情网| 亚洲国产成人综合碰碰三级经典| 亚洲永久永久永久永久一级一级一级精品 | 五月激情综合网| 欧美色图片| 东北老女人的激情视频| 三级日韩一区二区三区| 美女上床网站| 日韩欧美午夜视频在线| 亚洲97综| 久久精品日韩专区免费观看| 狠狠色丁香| 欧美日韩国产另类综合| 尤物AV免费网站| 欧洲中文字幕| 曰韩无码777| 高清无码久操视频| 久久青娱乐| 国产欧美一区二区| 在线观看黄色电话| 伊人热综合| 欧美性Fer办公室秘书| 超碰亚洲欧美日韩无| 不卡av在线中文字幕| 国产农村妇女毛片精品久久| 夜夜操一区二区| 五月婷婷六月激情| 淫荡少妇免费| 日本黄大片在线观看视频| 91男人天堂网| 久久国色天香香蕉| 天天插天天插| 91小视频| 欧美精品一区二区少妇免费A片 | 午夜久久无码1000合集| 国产特级毛片AAAAAA高潮流水 | 人人考人人摸人人干| 中文字幕日韩精品久久| 亚洲有码视频二区| 快灬快灬 一下爽蜜桃在线观看 | 91快色色色色色| 欧美 亚洲精品首页| 日本不卡一区二区三区| 麻豆天美制片厂网站视频| 亚洲男人的天堂亚洲| 中文字幕亚洲热播人妻| 亚洲精品国产专区在线观看| 青草成人免费视频一COm| 加勒比综合a∨| 亚洲天堂自拍| 欧美熟妇视频| 日本有码久久| 99九九久久| 国产一区二区三区影片| 中文字幕乱在线伦视频中文字幕乱码在线| 91人精品妻入口| 超碰九区| 欧美 亚洲 第一页| 大香蕉99re| 四季av一区二区凹凸精品小说| 大香蕉99热| 久久超碰、| 欧洲乱码一区二区| 精品免费1| 艳美熟妇先锋一二三区| 亚州情色j区| 操操碰| 免费看一级a性色生活片久久无| 天天弄天天操| 人妻少妇被猛烈进入中| 大香蕉视频一二三区| 日本中文熟女视频| 边做饭边操逼逼| 青娱乐妇女性生活| 999精品久久久久久久| 老熟女阿 国产91| 亚洲中文字幕av| 人妻喷水| 99热在线观看| 亚洲AV成人精品网站在AV| 国产高清午夜成人在线观看| 日韩三级伊人| 成年无码动漫av片无尽在线| 亚洲男人天堂网| 最近二区三区视频大全| 欧美亚洲综合高清在线| 91亚洲电影| 久9爱精品| 91美女视频直播| 亚洲精品熟妇1区2区3区。| 99精品九九九九九九| 高颜值美女口爆高潮浪叫| 一区二区三区一亚洲中文字幕、综合区灬| 精品人妻一区二区三区视频在线| 熟女人妻精品一区二区视频 | 一本大道不卡一二三区| 国产精品爽爽va在线观看98| 开心激情婷婷| 国产农村妇女精品一| 九九九九日本| 中文字幕av一区二区三区人妻少妇| 日韩精彩视频| 91狠狠| 亚洲 欧美 偷拍 唯美| 加勒比久久综合网高清| 亚洲色诱惑| 成 人 影视 一区 二区 三区 四区 | com 首页 18岁 禁区 女优 免费 精选 同城 | 日韩中文字墓| 97这里都是精品| 99黄页网站| 日韩 女同 综合| 一级岛国大片| 国产农村妇女精品1区二区| 天天干美少妇一区| 欧美男人一区| 97视频免费| 口爆吞精在线观看| 精品97久久综合| 竹菊一区二区三区AV线| 国产Av超碰| 色色婷| ai欧美亚洲小说| 美女诱惑久久| 最新国产亚洲精品精品国产亚洲综合| 亚洲精品久| 天美传媒精品一区二区三区| 18禁在线视频| 91久久精品国产| 中文字幕无码不卡啪啪| 欧美黄色大片在线观看| 熟妇精品juliaannAV| 少妇高潮喷水无套久久久久久| 激情黄色片在线观看| 精品一区二区3区| 骚鸭AV| 国产亚洲国产超碰| 中文字幕在线第二页| 日韩欧美中文日韩欧美色| 精品视频专区| 久久av一级av少妇av高潮 | 亚洲综合99999| 日韩在线地址一| 日韩午夜国产| 欧美日韩亚洲一区二区在线观看| 天天摸天天舔天天操| 欧美一级AAAAAAA| 超碰久久性爱| 一起草日韩| 久久9精品网站| 人人做人人妻人人夜视频| 伊人久久大香蕉线AV五月天| 欧美大香蕉久| 美女诱惑在线一区| 日韩av不卡在线观看| 欧美大片天天看| 国内毛片国产专区二| 97操97干| 九九九午夜| 欧美日韩国产另类综合| 99re这里| www.99在线| 午夜精品久久99蜜桃的功能章节 | 91在线视频免费播放| 自拍亚洲综合| 亚洲情色91| 大香蕉天天看妹子| 欧美大香蕉专区网| 亚州一区二区| 亚洲男人综合网| 99热成人| 粉嫩不卡一区二区性爱| 69XX一中文字幕人妻91| 狠狠97| 国产九月婷婷| 福利在线观看一区二区| 国产强奸乱伦第1页| 91操人| 久操视频免费在线观看| a级成人毛片免费视频高清| 亚洲色婷婷久久久综合日本| 亚洲高清在线se| 性感女人网页在线观看视频| 欧美成人性爱视频大全| 欧美片第一页| 嗯嗯啊啊操我| nuu12国产麻豆精品| 久久天天性久久伊人| 国产精品一区二区手机看片| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 无码区蜜乳| 久草精品在线| 亚洲中字慕不卡| 日韩无码AB| 欧美日本天堂| 丰满少妇一区二区三区四区观看 | 中国熟妇| 精品一区二区三区麻豆| 曰韩成人免费视频| 91欧美另类| 强奸乱伦AV网址| 九九热av| 亚洲欧美综合色| 九一综合精品视品av| 1024香蕉视频| 超碰 97国产熟女| 国模一区二区三区| 中文字幕片| 天天干2区3区| 久久超碰免费的| 人妻少妇蜜桃视频欧美一区| 亚洲激情综合| 日本三级中国三级99人妇网站| 密桃99999| 好淫网一二三视区| 亚洲中文字幕有码视频一区二区三区| 中文字幕国产精品1区| 九九九九九九精品| 久久久91福利姬| 99最新日韩偷拍视频| 欧美日韩系列| 97色碰| 欧美黄页| 欧美一二三级精品在线| 人人干黄色| 婷婷视频在线免费观看| 丁香五月激情综合国产| 日韩成人免费电影| 亚洲精品欧洲精品| 黑人粗大V S日韩女优视频| 蜜区区视频79| 天天夜躁日日躁狠狠2002| av在线免费一区二区| 天美麻花大全视频| 超碰97男人| 国产超碰欧美| 性天堂| 成人性爱视频在线看| 久热91| 精品网站9999| 日韩成年人性爱视频| 大香蕉一级黄色片久久| 精品一区二区三区蜜桃臀赵总 | 天天色播亚洲综合网站| 青青草精玖玖69精品| 日本不卡五区| 97香蕉人人乳| 免费观看网黄| 偷拍超碰| 久久免费少妇| 亚洲天堂女优在线| 色欲天天婬色婬香WWW夜色| 夜夜爽77777| 97手机日韩| 熟妇人妻精品一区二区视频色欲| 玖玖久久久| 亚洲国产精品久久久久久久久久| 九九九久久久W精品| 久久草大香蕉| 亚洲欧美日韩制服另类| 国产精品欧美激在线| 亚洲性爱免费电影| 中文字幕av一区二区三区人妻少妇| 国产精品一级毛片不卡视| 超碰一区二区| 红杏大香蕉| 操B视频日韩无码| 岛国大片国产| 999精品女人| 久久9亚洲| 国产精品免费美女视频| 国产精品欧美在线观看| 亚洲综合小视频小说在线观看| 久干9操| 日韩一二三区| 91AV天美在线视频| 老女人爆菊| a v网站在线播放| 美女久久久久久久久久久| 中文字幕精品免费一区二区| 综合一区二区影视| 欧美日韩国产传媒在线精品| 9久精品| 风月影院十八禁| 中文字幕欧洲有码| 久久高清欧美国产| 亚州性色| av大香蕉网站| 黑人嘿嘿嘿超爽免费视频| 智利AV在线网| 婷婷五月天在线观看| 富女玩鸭子一级毛片| 国产美女精品| 色人久久| a一区二区三区乱码在线| 老色鬼成人精品视频下载大在线观看| 欧美日韩香蕉| 亚洲欧洲自拍| 超碰久在线天天做| 日本免费不卡二区| 久久超碰免费的| 特级毛片特黄久久免费看| 久久一区二区蜜桃| 色999偷自拍拍| 亚洲欧洲偷拍一区| 自拍偷拍 高清无码| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 国产一区二区三三视频| 青青草中出视频| 欧美大香蕉在线观看| 欧美黑人精品在线播放| 啊啊啊不要好疼视频| 曰韩av中文字幕专区| 级做a爱无码性色永久免费| 大干人妻| 天天综合日韩网| 女人被添高潮免费视频| 370p日韩欧美亚洲精品| 国产一区二区三区高清视频| 日天天九九天堂666| 国产suv精品一区二六| 骚货 中文字幕 av| 粉嫩久久久极品| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 青青操97| 乱伦日本中文自拍| 91欧美www| 欧美亚洲韩国视频十五区 | 91国产伊人大香蕉| 天美传媒av在线| 中出人妻中文字幕91在线| 怡红院成人av| 国产精品久久久久久夜夜夜| 亚洲天堂另类小说男人| 婷婷成人久久久精品| 91操人视频| 国产精品秘 福利姬在线观看| 搡老熟女老女人老熟妇免费视频| 99久久九九| 丁香六月激情| 国产精品一区av在线| 国内亚洲精彩视频在线| 二男一女成人A片| 性影在线视频| 亚洲国产欧美中日韩成人综合视频| 综合激情五月天| 99热这里只有精| 欧洲综合视频| 啊啊啊啊啊好大好舒服想要| 蜜臀无码一区二区| 久久久久久久97| 91精品久久久| 精产品久久| 日韩有码中文字幕女同性恋| 精品一区二区三区丰满熟女-亚洲欧美一区| 亚洲欧美第一页| 亚洲美女自拍偷拍视频| 亚州精品一区二区三区香中文字幕在线| caopeng97| 无毛精品| av网站免费线看| 五月婷婷久久综合| 欧美熟女丝袜| 91久久久亚洲| 人妻中文字幕日韩电影| 91女网站| 国语少妇精| 草草网站影院白丝内射| 国产高清精品福利| 日日干夜夜操视频h| 欧美激情亚洲情色| 国产强奸AV在线| 色五月激情综合网| 久热99999| 国产乱伦亚洲色图高清无码| 欧美黄片视频在线观看免费| 婷婷综合在线观看| 手机看片91人妻| 大香蕉在线视频15| 高清有码一区二区| 亚洲精品男人的天堂| 少妇精品久久久| 欧美日韩国产黄色片| 欧洲精品在线播放| 可以在线观看的黄色网址| 爱干爱射网啊啊啊| 26uuu久久| 婷婷久月| 日韩天天综合| 六月婷婷激情| 国产精品久久久久久久久久久久久久吹| 久久一区二区三区入口| 久草在| 色嗨嗨在线| 久久久内射良家| 另类一区| 青青草在线视频美女| 丁香五月综合| 天美传媒精品一区二区三区| 日日夜夜天天| 欧美性爽xyxOOOO| 日影院久久婷婷夜夜网| 午夜120视频在线观看| 久久精品成人| 玖玖玖玖精品国产剧情| 欧美 日韩第一性色| 欧美婷婷| 操逼逼一区视频| 欧美激情片一区二区| 操婢日韩| 久久久国产护士丝袜美腿一| 日本天天色| 亚洲视频中文一区| AV色图| 国产操逼逼网| 好爽免费视频| 美女淫穴| 久久五月天婷婷| 日本韩国国产精品一区| 色亚州人久干视频在线观看免费版| 手机在线观看不卡无码av| 欧美97色| 99re6国产精品99re| 久久九九99| 亚洲精品一区二区精品| 中文字幕欧美精品亚洲日韩蜜臀| 日本不卡三级网在线播放| 黄色欧美性爱视频| 亚洲AV无码秘 蜜桃臀国精产品| 少妇色综合| 97精品熟女少妇一区 | 淫荡熟女乱伦网| 亚洲97在线观看| 日本三级人妻a人妻一在线| 在线观看中文av字幕| 午夜亚洲国产理论秋霞| 中国操逼无码| 欧美黑人熟妇精品91| 国产诱惑| 人妻 欧美 中文| 无码精品蜜桃一区二区三区ww| 天天狠操| 亚洲天堂五月天国产| 精品无码秘 人妻一区二区| 亚洲国产天堂| 综合网亚洲在线| 无码人妻丰满熟妇区毛片| 韩国国产欧美情侣视频在线| 精品久久視頻在线| 日本人妻A片成人免费看片| 欧美精品999| 97av在线观看| 强奸乱伦Av网| 亚洲人妻中文高清| 日韩成人性爱电影在线播放| 丰满高潮18xxxx| 免费一级特黄特色大片在线观看看| 水多多映视AV| 亚洲国产一级黄色视频| AA级电影三区| 成人97人人超碰人人| 午夜福利无毒不卡| 亚洲一区二区三区欧美日韩| 免费观看国产不卡av| av强奸乱轮| 伊人久久大香线蕉无码| 久久香蕉综合一本到3atv| 国产日逼视频| 深田咏美亚洲精品福利社| 亚洲aV性爱| 婷婷中文网| 国产精品交换一区二区| 麻豆AV一区二区| 亚洲视频二区 | 欧美精品三区| 12一15性XXXX粉嫩国产| 一起草日韩| 色色婷| 爱欲AV| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 日韩91网| 欧美性爱一区二区三区| 人人操欧美风骚| 亚洲无线码欧洲精品区别| 欧美劲爆视频一区二区| 好吊色在线观看| 精品九九淫乱男| 亚洲图片另类| 国产小u女在线观看| 日韩乱码Av| 久噜噜| 欧美一区二区三区不卡高清视频| 天堂v无码免费视频| 五十路六十路素人熟女| 日本操大逼| 女同在线视频一区| 国产精品禁久久久精品| 成全在线观看免费观看| 美女97超碰| 97干97色| 天天日天天插| 密臀国产在线| 黄色性爱网网| 天天综合麻豆视频| 思思热免费在线视频| 中文字幕在线观看AV| 超碰97色| 三级三级三级日本99| 四虎884| 中文字幕在线高清男人的天堂| 六月婷婷一区二区三区| 日韩欧美亚洲自拍偷拍| A V少妇特黄三级| 亚洲同性aV综合| 久久精品色欧美aⅴ一区二区| 国产一区麻豆免费观看| 欧美18老人禁| 超碰午夜在线| 亚洲av综合色区图片亚洲| 亚洲欧洲色情高清| 草草影院最新网址| av久日| 日va操| 后入式五六区| 国产精品嫩草影院免费| 91N综合网在线| 一级特级aaaa毛片免费观看| 欧美一区二区三区成人性生活| 日本高清视频xxxx| 欧美乱妇狂野欧美在线视频| 99re9在线| 91少妇人妻| 日产国产精品中文久久婷婷| 欧美洲精品一级| 无码少妇精品一区二区60岁老人| 超碰吊日色| 亚洲熟妇图片| av凤凰久久久| 婷婷伊人五月| 日日黄色三级网站| 91黑人无码激情在线| 性91| 97超碰资源网| 久久‘黄片视频| 四虎av在线| 91熟女熟妇视频网站| 国产精品一二三区18| ai欧美亚洲小说| 屌逼麻豆| 人妻啪| 天美av在线| 中文字幕丝袜人妻| 一级久久性爱视频| 99re超碰| 国产精品3| 日韩精品一二三四| 亚洲成a人片在线观看中文!!!| 欧美精品久久| 欧美熟爽综合| 人妻系列无码专区中文有码| 久热最新在线杭州| 欧美色图91p| AV一二区| 色婷婷激情| h无码动漫在线观看| 九九九九精品视频| 激情视频图片| 欧天美中出| 久久久久久久久999| 吉川爱美亚洲二区在线| 色性荡荡荡荡视频| 日本天天操| 亚洲偷拍自拍在线视频| 高跟丝袜AV专区国产| 日韩熟女无码| 试看日韩黄片| 欧洲久久一二线| 97干97色| 欧洲性爱无码区| 操久久久久| 日韩精品啪啪啪| 欧美性高潮在线| 亚洲天堂男人的天堂| 国产拍偷精品网站| 另类小说综合网| 大香蕉一区二区在线观看.| www.久久制服糖| 思思热影视| 亚洲国产高清福利视频| 免费一级毛片在线视频观看| 九九RE视频在线精品| 丝袜狠狠草尤物人妻av91| 91色黑人少妇| 婷婷成人久久久精品| 亚洲欧洲视频小说在线观看| 欧美一级色| 欧美中文字幕男人天堂久久精品| 人人手机欧洲亚洲国产人妻| 日韩三级在线观看mp4| 欧美日韩国产中文精品字幕自在自线, | 狠狠干综合| 国产精品天美传媒| 裸体1区| 97超碰大| 精品中文字幕一区二区| 五月激情小说| 超碰久久草| 天天操熟妇| 少妇高潮流水av免费| 午夜福利精品| 91亚州日韩高清| 亚洲综合99999| 日逼97| 夜夜操91744565| 日韩精品系列| 熟女探花啪啪| av资源在线播放天堂| 欧美精品另类人妖xxxx| 亚州色国| 国产无马在线| 婷婷久草| 国产乱不卡| 自拍偷拍草一草| 日本一区二区三区精品| 日韩有码专区| 大香蕉乱伦视频网| 十八禁一区二区无码观看| 青娱乐福利99| 久久超碰爱| 亚洲人妻色图| 日本色色色视频| 日日夜夜草草草| 91色花堂| 久久香蕉国产传媒一区剧情天美| 四虎884| 日韩不卡毛片Av免费高清| 91AV天堂| 午夜偷拍久久熟女| 欧美成人一区二区| 久久精品熟妇丰满人妻99| av一区二区三区 中文| 97免费视频在线观看视频| 亚洲巨爆乳一区二区三区四季网| 九九热男人天堂| 明星性猛交ⅹxxx乱大交| 日韩 人妻 精品| 亚洲日韩乱码中文无码蜜桃臀网站 | 七月婷婷综合| 日韩在线女优天天干| 深夜福利黄片| 江都AV在线| 亚洲人体视频在线观看| 九九自拍伦理| 大香蕉久| 精品国产av一区二区三区四区入口| 精品国产99| 国产尤物AV尤物在线观看不卡| 日韩中文字幕精品一二三事国产精品| 激情干在线| 91亚洲黄色网| 97香焦色区| 九月丁香婷婷色| 色诱中文字幕| 日本三级网页| 青青操狠狠撩| 丰满人妻一区二区三区四区| 久久人妻四季| 无码日韩人妻av一| 狠狠干91| 青青色综合| 91久久久久久久| 日本羞羞的视频在线播放| 9长久久精品| 志村玲子视频一区二区| 日本黄色大片一级视频免费麻豆| 丁香六月婷婷综合| 强歼乱伦资源网| 午夜精品久久一区二区| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 国产在线播放成人免费| 999狠狠综合| 久久精品毛片免费不卡| 啊啊啊网站| 欧美 亚洲精品首页| 久久人人爽av亚洲精品天堂桃色| 日韩传媒在线| 九九精品美女高溯喷水| 久久精品国产亚洲AV片多多| 久久久一区二区三区三州| 91东北熟女| 99999久久精| 九九久精品| 亚洲男人的天堂V| 婷婷五月天_亚洲小说欧美激情另类_精品久久国产字幕 | 日韩精品永久在线观看| a片自拍直播视频| 精品人妻一区二区三区四区不卡在| 大但人体久久久久| 欧美天天综合站| 国产亚卅97| 男人天堂综合| 亚州高清色综合| 中文久久96| 久久人人爽av亚洲精品天堂桃色| 乱子伦一区二区三区国产精品| 你草精品在线视频| 九九拍拍精品视频在线播放 | 天天综合香 ld视频| 中文字幕一区二区三区人妻少妇在线| 玖玖视频在线资源一区二区三区| 日日夜夜狠狠| 蜜桃臀 后入 一区 二区 三区 在线| www久久久| 97超碰碰碰| 欧美日韩亚洲高清不卡一区二区三区| 国产性感在线观看| 91丝袜美腿片| 久久綜合很很很| 久操| 青娱乐妇女性生活| 五月丁香黄色网| 日本操逼视频导航| 国产一区二区三区白丝| 精品丝袜无码一区二区三APP| 三级三级三级a级全黄三| 一块操欧美| 色哟哟-国产专区| 9999伦理视频| 久久偷偷色综合蜜桃| 精品午夜福利| 一区二区三区精品久久| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 三级片大波波| 久久久久久久久久久久久久久久9| 亚州中文字幕超碰97| 97中文字幕一区| 成年人三级黄色片视频| 日本黄 R色 成 人网站| 天天摸夜夜摸| 久九九九九九九九热| 久久二| 免费中文在线| 丝袜制服字幕在线| 日韩精品人妻中文字有码在线| 欧美亚洲日韩16色| 男女啊啊啊啊啊| 成人麻豆av电影网站| 久久天天摸| 9 1超碰九色| 99在线免费公开视频| 艹我哪美一区无码| 日韩欧美~中文字| 国产家庭乱伦网址| 国产欧美一区激情交| 国产精品久久久999| 国产操逼视频在线观看| 97在线欧洲| 人人操人人插人人摸人人干| 欧美图片色综合| 亚洲中文字幕精品一区| 99国产天美| 无遮挡一级毛片视频免费的| 日han少妇无码| 亚洲激情综合另类男同| 久久夜嗨| 日韩视频啪啪| 97国产超碰| 美女诱惑爱爱| 99久久久久久亚洲精品不卡| 男人的天堂2000| 麻花传媒免费网站在线观看| 色麻豆AV| 久青草影院| 探花精品 一区二区| 亚洲视频,小说| 久久久久国产精品片区无码直播| 97欧美资源| 极品粉嫩一区二区| 久草国产在线视频| 蜜臀99久| 亚洲s色图| 欧美日韩m| 夜色AV无码手机在线影院| yiqicaoav| 性九九九九九九| 国产女上位好爽在线| 久久久麻豆精品| 99热在线观看| 国产熟码AV| 亚洲精品一卡二卡三卡福利视频网站 | 日欧毛片久久| 一区二区激情国产熟女 | 伦伦成年午夜免费视频| 97欧美日韩综合| 97天天在线| 性爱AV天堂| 97色在线观看| www.色综合| 国产精品无码在线| 日韩成人精品| 亚州综合在线| 精品天堂| 欧美高清16| 久9综合在线| 亚洲精品人伦一区二区| 91总综合网| 国产自制av蜜乳| 友优传媒精品在线一区二区| 夫妻AV网站| 91国产美女丝袜足交精品视频 | 亚洲va综合va国产va中文| 欧美系列在线一区二区| 日韩人妻一二三区视频| 国产91乱伦| 岛国片在线播放| 777琪琪午夜免费A片| 日本欧美韩国国产在线| 大香蕉中文网| 一区二区三区精品视频| 国产精品女久久久久av爽| 天天做日日做天天欢。| 嗯啊抽插大香蕉网页| 亚洲欧美日韩精品久| www成人啪啪18秘 免费| 国产精品成人无码av无码免费| 操逼视频免费日韩无码| 九九性爱网| 五月天激情小说| 日韩性色b| 欧美韩国你懂得在线 | 熟妇的味道HD中文字幕| 午夜啪啪片| 妺妺跟我一起洗澡没忍住| 操操啪| 9超碰免费| 超碰538| 日韩99999| 艹精品| 欧美色图天堂在线| 97视频在| 999精品女人| 麻花传媒免费网站在线观看| 自慰白浆在线观看| 黄页大片在线观看| 超碰久草| 国产综合日韩伦理| 国产午夜无码片在线观看影视| 精品国产一区二区三区av在线资源| 日韩av色图综合| 日韩综合97p| 久久夜黄色无码A级大片| 国产极品999| 日韩大香蕉精品在线视频| 夜夜嗨视频| 九九色婷婷| 美女91色黄18| 密乳视频在线| 国产又爽又黄| 日本中文字幕熟妇| 张柏芝国产一区在线观看| 久久男女激情视频网站| 97操在线| 91精品人妻一区二区三区蜜桃臀| 亚洲综合九| 国产高清视频无码在线| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 操逼操逼逼操操逼91 | 欧美性视频二区三区| 黄色免费网| 一区二区三区四区色图| 国产AV线| 99自拍视频在线观看| 超碰97首页| 久久亚洲AV无码专区首页| 后入式在线免费观看60秒| 加勒比在线观看一区二区| 欧美大码在线视频| 操逼操逼操| 激情文学欧美| 人人操人人摸人人看人人插| 欧美日本天堂| 韩国黄片aaaa| 床戏久久久av一区二区麻豆| 最近的最新的中文字幕视频|