久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線(xiàn)實(shí)戰(zhàn)洞察。

C++靜態(tài)成員變量線(xiàn)程安全:從數(shù)據(jù)競(jìng)爭(zhēng)到鎖、原子變量與安全單例實(shí)戰(zhàn)解析

C++靜態(tài)成員變量線(xiàn)程安全:從數(shù)據(jù)競(jìng)爭(zhēng)到鎖、原子變量與安全單例實(shí)戰(zhàn)解析 我先說(shuō)一個(gè)前提如果你寫(xiě)過(guò)多線(xiàn)程 C你遲早會(huì)遇到這么一種崩潰——日志上沒(méi)有任何明顯異常報(bào)錯(cuò)位置每次都不一樣甚至同一個(gè)版本跑了幾天才出現(xiàn)一次。某個(gè)項(xiàng)目組曾經(jīng)有個(gè)采集模塊十幾個(gè)工作線(xiàn)程會(huì)同時(shí)更新一個(gè)保存統(tǒng)計(jì)結(jié)果的靜態(tài)成員變量代碼量不大邏輯也不復(fù)雜但壓測(cè)跑到兩千萬(wàn)請(qǐng)求量的時(shí)候進(jìn)程開(kāi)始偶發(fā)異常退出。查了幾天最后定位到根因我才真正意識(shí)到一個(gè)很多人沒(méi)當(dāng)回事的事實(shí)靜態(tài)成員變量的線(xiàn)程安全問(wèn)題從來(lái)不只是“結(jié)果不對(duì)”那么簡(jiǎn)單。從一個(gè)普通類(lèi)成員開(kāi)始靜態(tài)成員變量和普通成員變量在內(nèi)存與生命周期上的差異決定了它天然就是多線(xiàn)程程序的雷區(qū)。這篇內(nèi)容適合正在寫(xiě)或維護(hù)多線(xiàn)程 C 服務(wù)的開(kāi)發(fā)者也適合把 C11 之后新特性當(dāng)黑盒在用的朋友。我會(huì)先講清楚為什么靜態(tài)成員變量容易出問(wèn)題再給出鎖、原子變量、線(xiàn)程局部存儲(chǔ)和單例場(chǎng)景的正確做法最后用 ThreadSanitizer 演示一次真實(shí)的競(jìng)態(tài)定位過(guò)程。整個(gè)過(guò)程盡量少堆標(biāo)準(zhǔn)條文多給能直接落地的結(jié)論。1. 靜態(tài)成員變量與普通成員變量的本質(zhì)區(qū)別——線(xiàn)程不安全的根源1.1 它根本不在對(duì)象里內(nèi)存與生命周期先講一個(gè)經(jīng)常被忽視的事實(shí)靜態(tài)成員變量并不存在任何對(duì)象實(shí)例里。類(lèi)里面的非靜態(tài)數(shù)據(jù)成員每個(gè)對(duì)象都有一份整體存放在對(duì)象的內(nèi)存布局中靜態(tài)成員變量則完全不同它在程序的數(shù)據(jù)段或 BSS 段分配空間生命周期從程序加載開(kāi)始一直持續(xù)到進(jìn)程退出。用一個(gè)不嚴(yán)謹(jǐn)?shù)芎糜浀念?lèi)比普通成員變量是每個(gè)對(duì)象自己的私人物品靜態(tài)成員變量是類(lèi)名下的公共倉(cāng)庫(kù)所有對(duì)象共用同一扇門(mén)、同一份庫(kù)存。這個(gè)差異直接帶來(lái)兩個(gè)結(jié)果。第一sizeof(對(duì)象)完全不包含靜態(tài)成員你把實(shí)例創(chuàng)建、銷(xiāo)毀多少次它都紋絲不動(dòng)進(jìn)程不結(jié)束它就不釋放。第二任何線(xiàn)程都能通過(guò)類(lèi)名訪(fǎng)問(wèn)這同一個(gè)實(shí)體不需要先拿到對(duì)象指針也不需要經(jīng)過(guò)實(shí)例方法。從多線(xiàn)程的角度看它和一個(gè)用 extern 聲明的全局變量沒(méi)有任何區(qū)別區(qū)別只在于名字前面多了一個(gè)類(lèi)的作用域前綴。所以當(dāng)你想“把它當(dāng)作類(lèi)的一部分因此天然受到類(lèi)設(shè)計(jì)的保護(hù)”時(shí)這種保護(hù)并不存在。它不是對(duì)象成員它是全局狀態(tài)。全局狀態(tài)一旦允許寫(xiě)就必須在所有寫(xiě)者和讀者之間建立同步否則就是在走鋼絲。1.2 共享帶來(lái)的一觸即發(fā)一個(gè)副本和 N 個(gè)線(xiàn)程共享帶來(lái)的問(wèn)題用一個(gè)最樸素的場(chǎng)景就能說(shuō)明。假設(shè)你寫(xiě)了這樣一個(gè)類(lèi)class Metrics { public: static long total; }; long Metrics::total 0;然后八個(gè)線(xiàn)程各自執(zhí)行Metrics::total;跑十萬(wàn)次按直覺(jué)總該是八十萬(wàn)了吧實(shí)測(cè)大概率不是數(shù)值可能小于八十萬(wàn)而且每次都不一樣。之所以這樣是因?yàn)閠otal在底層并不是一步操作。它要先從內(nèi)存把total讀到寄存器加一再寫(xiě)回內(nèi)存。兩個(gè)線(xiàn)程可能同時(shí)讀到同一個(gè)舊值然后各自加一寫(xiě)回兩次加一只有一次生效。這就是數(shù)據(jù)競(jìng)爭(zhēng)的最小雛形。如果你覺(jué)得這只是數(shù)值誤差那還不夠嚴(yán)重。C 標(biāo)準(zhǔn)把這種并發(fā)訪(fǎng)問(wèn)定義為未定義行為意味著編譯器可以做任何它認(rèn)為合理的優(yōu)化結(jié)果甚至不一定是“數(shù)值偏小”。這一點(diǎn)放到第二章細(xì)講。1.3 早就該破除的誤區(qū)volatile 不解決線(xiàn)程安全這里必須先破除一個(gè)流傳很久的誤解加個(gè) volatile 就能解決。volatile 告訴編譯器“這個(gè)變量可能在別處被修改不要把它優(yōu)化到寄存器里”它確實(shí)能讓一些極端場(chǎng)景下更容易觀(guān)察到正確值但它既不能保證操作的原子性也不能提供多線(xiàn)程之間的順序約束。在 C 的內(nèi)存模型里volatile 和線(xiàn)程同步機(jī)制是兩個(gè)維度。想達(dá)到線(xiàn)程安全要么用原子操作要么用互斥量要么在線(xiàn)程內(nèi)部私有一份數(shù)據(jù)。volatile 幫不上忙反而可能給你一種“我已經(jīng)處理過(guò)了”的錯(cuò)覺(jué)讓隱患繼續(xù)潛伏。2. 數(shù)據(jù)競(jìng)爭(zhēng)是未定義行為不是“結(jié)果不對(duì)”2.1count在匯編層面到底做了什么我們前面看到了total不是一步這里把它看成三條指令會(huì)更清楚讀、改、寫(xiě)。CPU 執(zhí)行時(shí)會(huì)加載load修改modify存儲(chǔ)store。無(wú)論是編譯器還是 CPU都不會(huì)因?yàn)槟銓?xiě)了“一句代碼”就保證三者之間沒(méi)有別人插進(jìn)來(lái)。更麻煩的是編譯器在優(yōu)化時(shí)可以把不相關(guān)的代碼重排可以在滿(mǎn)足“單線(xiàn)程可觀(guān)察語(yǔ)義”的前提下自由安排讀寫(xiě)順序多線(xiàn)程環(huán)境下的觀(guān)察結(jié)果就和源代碼順序沒(méi)什么必然關(guān)系了。所以?xún)蓚€(gè)線(xiàn)程分別執(zhí)行total可能出現(xiàn)兩個(gè)線(xiàn)程都讀到 0、都寫(xiě)回 1最終total是 1 而不是 2。這個(gè)結(jié)果在單線(xiàn)程世界里不可能出現(xiàn)但在并發(fā)世界里是完全合法的未定義行為。不要把這種錯(cuò)誤歸類(lèi)為“精度損失”它不屬于任何數(shù)值誤差范疇。2.2 CPU 緩存、指令重排與 happened-before即使沒(méi)有編譯器重排CPU 這一層也有自己的脾氣?,F(xiàn)代多核處理器每個(gè)核都有獨(dú)立的 L1/L2 緩存一個(gè)核寫(xiě)入total后新的值可能還在自己的緩存行里還沒(méi)有同步到共享內(nèi)存另一個(gè)核在另一個(gè)時(shí)刻讀到的仍舊是舊值。硬件會(huì)通過(guò)緩存一致性協(xié)議最終保持一致但“最終”是多長(zhǎng)時(shí)間、什么順序程序如果不使用同步原語(yǔ)觀(guān)察不到確定的邊界。C 內(nèi)存模型引入了一個(gè)核心概念happens-before。你只有在兩個(gè)線(xiàn)程之間建立某種同步關(guān)系讓一個(gè)線(xiàn)程的寫(xiě)操作在另一個(gè)線(xiàn)程的讀操作之前發(fā)生數(shù)據(jù)競(jìng)爭(zhēng)才被排除。能夠建立這種關(guān)系的機(jī)制只有少數(shù)幾種互斥鎖的加鎖與解鎖、std::atomic 的讀寫(xiě)以及相應(yīng)的內(nèi)存序、線(xiàn)程的 join 等。普通的賦值和讀取無(wú)法建立這種關(guān)系。這也就是說(shuō)判斷一段代碼是否線(xiàn)程安全不能靠“我運(yùn)行了好幾次都沒(méi)出事”。你只是沒(méi)有撞上那個(gè)時(shí)機(jī)并不代表它沒(méi)有發(fā)生數(shù)據(jù)競(jìng)爭(zhēng)。2.3 “崩潰在很遠(yuǎn)的地方”是怎么發(fā)生的數(shù)據(jù)競(jìng)爭(zhēng)最坑的地方在于問(wèn)題不一定出現(xiàn)在肇事代碼附近。線(xiàn)程 A 先寫(xiě)了共享靜態(tài)對(duì)象線(xiàn)程 B 在另一個(gè)函數(shù)里讀它中間隔著大量調(diào)用。編譯器發(fā)現(xiàn)某個(gè)字段只在個(gè)別路徑被寫(xiě)而其他路徑讀出來(lái)可能是個(gè)未初始化或部分更新的值于是大膽把看起來(lái)很冗余的代碼刪掉或者把分支重排。最終表現(xiàn)是某個(gè)不相關(guān)的邏輯點(diǎn)開(kāi)始出錯(cuò)離源頭十萬(wàn)八千里。我開(kāi)頭說(shuō)的那個(gè)服務(wù)崩潰堆棧在日志模塊和對(duì)象析構(gòu)里真正原因卻是另一個(gè)線(xiàn)程在改緩存。這就是為什么這類(lèi)問(wèn)題特別難查。你盯著崩潰堆棧找原因找三天也可能找不到因?yàn)橐蚬湕l已經(jīng)被編譯器和緩存切碎了。3. 靜態(tài)成員初始化階段的線(xiàn)程安全魔法靜態(tài)與隱藏的坑3.1 C11 之后的局部靜態(tài)變量魔法靜態(tài)先說(shuō)一個(gè)好消息C11 之后的函數(shù)局部靜態(tài)變量其初始化是線(xiàn)程安全的。標(biāo)準(zhǔn)要求當(dāng)控制流并發(fā)進(jìn)入某個(gè)局部靜態(tài)變量的聲明時(shí)初始化必須只發(fā)生一次其他線(xiàn)程要等待這次初始化完成。編譯器通常會(huì)在變量旁邊生成一個(gè) guard 標(biāo)志第一次進(jìn)入時(shí)加鎖并判斷狀態(tài)后續(xù)進(jìn)入直接跳過(guò)初始化。你對(duì)這個(gè)機(jī)制最常見(jiàn)的感知就是所謂“魔法靜態(tài)”。來(lái)看最典型的寫(xiě)法class Logger { public: static Logger get() { static Logger instance; return instance; } private: Logger() { /* ... */ } };多個(gè)線(xiàn)程第一次同時(shí)調(diào)用get()會(huì)有一個(gè)線(xiàn)程真正構(gòu)造instance其余線(xiàn)程阻塞等待。構(gòu)造完成之后后續(xù)調(diào)用不再有任何加鎖開(kāi)銷(xiāo)。這個(gè)特性后來(lái)成為安全單例的基石第五章會(huì)再提到。這里值得注意的是線(xiàn)程安全保障僅限于“初始化那一次”。如果你之后還在多線(xiàn)程里修改instance的內(nèi)部狀態(tài)那依然是數(shù)據(jù)競(jìng)爭(zhēng)。魔法靜態(tài)只負(fù)責(zé)把對(duì)象造出來(lái)不負(fù)責(zé)你后續(xù)怎么用。3.2 類(lèi)靜態(tài)數(shù)據(jù)成員初始化時(shí)機(jī)與靜態(tài)初始化順序問(wèn)題那類(lèi)里直接定義的靜態(tài)成員變量呢比如static Metrics metrics;這種非常量表達(dá)式初始化通常發(fā)生在程序啟動(dòng)的動(dòng)態(tài)初始化階段。絕大多數(shù)程序在這個(gè)階段還沒(méi)有創(chuàng)建業(yè)務(wù)線(xiàn)程所以并發(fā)初始化的問(wèn)題不突出但另一個(gè)問(wèn)題隨之而來(lái)不同編譯單元的靜態(tài)對(duì)象初始化順序在 C 標(biāo)準(zhǔn)里是不確定的。假如Metrics的構(gòu)造函數(shù)依賴(lài)另一個(gè)全局配置對(duì)象的初始化結(jié)果而那個(gè)對(duì)象恰好在你這個(gè)編譯單元之后才初始化就會(huì)出現(xiàn)“構(gòu)造時(shí)訪(fǎng)問(wèn)未初始化對(duì)象”的經(jīng)典故障通常叫靜態(tài)初始化順序問(wèn)題。解決思路有兩個(gè)方向。一是把非平凡的初始化延遲到第一次使用時(shí)函數(shù)局部靜態(tài)是現(xiàn)成的工具二是消除依賴(lài)構(gòu)造時(shí)不依賴(lài)其他全局狀態(tài)。如果項(xiàng)目里有多個(gè) .cpp 都定義了帶有動(dòng)態(tài)初始化的靜態(tài)成員并且它們之間存在依賴(lài)不要指望鏈接順序救你標(biāo)準(zhǔn)層面就不可靠。3.3 類(lèi)模板里的靜態(tài)成員延遲實(shí)例化的特殊場(chǎng)景類(lèi)模板的靜態(tài)成員還有一處容易被忽略多數(shù)情況下模板靜態(tài)成員的定義是在頭文件里實(shí)例化發(fā)生在第一次使用某個(gè)具體模板參數(shù)時(shí)。也就是說(shuō)它可能不是在程序啟動(dòng)階段初始化的而是在運(yùn)行中某個(gè)線(xiàn)程第一次觸發(fā)實(shí)例化時(shí)才進(jìn)行動(dòng)態(tài)初始化。如果你在頭文件里寫(xiě)了這樣的東西template typename T struct Registry { static std::mapT, int table; }; template typename T std::mapT, int RegistryT::table;那么Registryint::table這個(gè)對(duì)象到底在哪個(gè)線(xiàn)程第一次被實(shí)例化取決于哪段代碼先被調(diào)用。多個(gè)線(xiàn)程同時(shí)首次觸碰不同實(shí)例時(shí)編譯器需要保證靜態(tài)成員初始化線(xiàn)程安全但實(shí)現(xiàn)細(xì)節(jié)可能比局部靜態(tài)更微妙。我的建議是別讓模板靜態(tài)成員承載非平凡的動(dòng)態(tài)初始化需要時(shí)就放在一個(gè)函數(shù)局部靜態(tài)對(duì)象后面讓那個(gè)標(biāo)準(zhǔn)保證的守衛(wèi)機(jī)制來(lái)兜底template typename T struct Registry { static std::mapT, int table() { static std::mapT, int table; return table; } };這樣得到的仍然是你想要的進(jìn)程級(jí)唯一實(shí)例但初始化時(shí)機(jī)由函數(shù)局部靜態(tài)統(tǒng)一接管行為更可控。4. 鎖、原子變量、線(xiàn)程局部存儲(chǔ)——三類(lèi)做法怎么選4.1 互斥鎖最簡(jiǎn)單也最容易被用錯(cuò)的方案如果共享靜態(tài)成員是一段需要保持多個(gè)字段一致的復(fù)雜數(shù)據(jù)直接用互斥鎖是最穩(wěn)的方案。原則很樸素凡是可能發(fā)生讀寫(xiě)的入口全部經(jīng)過(guò)同一個(gè)鎖。寫(xiě)要鎖讀也要鎖。很多人只給寫(xiě)加鎖讀不加鎖認(rèn)為“讀一下問(wèn)題不大”實(shí)際上讀線(xiàn)程和寫(xiě)線(xiàn)程之間沒(méi)有任何同步關(guān)系讀線(xiàn)程完全可能讀到寫(xiě)了一半的數(shù)據(jù)這依然是數(shù)據(jù)競(jìng)爭(zhēng)。一個(gè)常見(jiàn)的類(lèi)是這樣class Metrics { public: static void Add(long v) { std::lock_guardstd::mutex lock(mu_); total_ v; count_ 1; } static long Snapshot() { std::lock_guardstd::mutex lock(mu_); return total_ / count_; } private: static std::mutex mu_; static long total_; static int count_; }; std::mutex Metrics::mu_; long Metrics::total_ 0; int Metrics::count_ 0;這里Add和Snapshot都走mu_保證讀的時(shí)候看到的是完整快照。優(yōu)點(diǎn)是簡(jiǎn)單正確容易給不熟悉內(nèi)存模型的同事看懂缺點(diǎn)是每次調(diào)用都要經(jīng)過(guò)鎖如果這是熱點(diǎn)路徑可能成為性能瓶頸。補(bǔ)充一個(gè)工程經(jīng)驗(yàn)鎖的粒度要盡量小。把鎖放在單個(gè)函數(shù)內(nèi)部只保護(hù)真正共享的字段操作不要在外部“幫別人加鎖”。例如有些人喜歡讓調(diào)用方自己 lock這個(gè)約定很容易被后來(lái)的人漏掉代碼腐化速度極快。不如把共享字段設(shè)為私有只暴露已經(jīng)加好鎖的靜態(tài)方法。4.2 原子變量讓簡(jiǎn)單的計(jì)數(shù)和標(biāo)志位不再需要鎖如果共享靜態(tài)成員只是一個(gè)計(jì)數(shù)器、一個(gè)標(biāo)志位或一個(gè)可以單獨(dú)讀寫(xiě)的數(shù)值優(yōu)先用std::atomic。它用底層的原子指令把讀改寫(xiě)打包成一個(gè)不可分割的操作從語(yǔ)言層面規(guī)定了對(duì)該變量的并發(fā)訪(fǎng)問(wèn)是良定義的不需要再額外加鎖。例如剛才的累計(jì)計(jì)數(shù)可以寫(xiě)成這樣class Metrics { public: static void Add(long v) { total_.fetch_add(v, std::memory_order_relaxed); } static long Get() { return total_.load(std::memory_order_relaxed); } private: static std::atomiclong total_; }; std::atomiclong Metrics::total_{0};fetch_add是原子操作不會(huì)出現(xiàn)兩個(gè)線(xiàn)程同時(shí)讀到舊值的情況最終結(jié)果必然等于所有線(xiàn)程成功執(zhí)行的累加之合。代碼里用了 relaxed 內(nèi)存序很多教材會(huì)告訴你這是性能最高的寫(xiě)法但請(qǐng)一定確認(rèn)你真的不需要跨線(xiàn)程順序約束。如果你只關(guān)心“總數(shù)是多少”不在乎它和其他事件的先后關(guān)系relaxed 沒(méi)問(wèn)題如果某個(gè)線(xiàn)程要先更新完一批數(shù)據(jù)再讓另一個(gè)線(xiàn)程通過(guò)這個(gè)原子變量看到“數(shù)據(jù)已經(jīng)準(zhǔn)備好了”那么需要 release/acquire 或更強(qiáng)的 seq_cst。新手階段統(tǒng)一用默認(rèn)的 seq_cst正確性?xún)?yōu)先性能瓶頸出現(xiàn)后再回頭摳這些細(xì)節(jié)。還有一個(gè)坑std::atomic并不等于“把一個(gè)結(jié)構(gòu)體塞進(jìn)去就完事”。只有那些在目標(biāo)平臺(tái)上有原子指令支持的寬度才免鎖超過(guò)機(jī)器字長(zhǎng)的結(jié)構(gòu)體std::atomic內(nèi)部會(huì)退化到鎖而且不同平臺(tái)的鎖實(shí)現(xiàn)不可見(jiàn)。這種場(chǎng)景直接用專(zhuān)門(mén)的互斥鎖反而更清楚。4.3 線(xiàn)程局部存儲(chǔ)能不分就不分并不是所有共享數(shù)據(jù)都必須被所有線(xiàn)程共享。如果每個(gè)線(xiàn)程都只需要自己的那份副本事后各自統(tǒng)計(jì)或合并那最干凈的做法是用thread_local靜態(tài)成員。語(yǔ)法上就是static thread_local或者類(lèi)外定義class Worker { public: static void AppendLog(const std::string s) { log_buffer_ s; } private: static thread_local std::string log_buffer_; }; thread_local std::string Worker::log_buffer_;初看可能覺(jué)得奇怪它和static不矛盾嗎一點(diǎn)都不矛盾。thread_local決定的是線(xiàn)程維度每個(gè)線(xiàn)程都有一份獨(dú)立拷貝static決定的是生命周期這份拷貝不對(duì)應(yīng)任何對(duì)象實(shí)例只對(duì)應(yīng)線(xiàn)程和類(lèi)名。也就是說(shuō)不同線(xiàn)程修改的都是自己的log_buffer_彼此天然隔離不需要鎖?,F(xiàn)實(shí)項(xiàng)目里線(xiàn)程局部存儲(chǔ)非常適合日志緩沖、臨時(shí)緩存、線(xiàn)程池上的會(huì)話(huà)數(shù)據(jù)處理這類(lèi)場(chǎng)景。不過(guò)有兩個(gè)注意點(diǎn)。第一線(xiàn)程退出時(shí)thread_local 對(duì)象會(huì)析構(gòu)不要在析構(gòu)函數(shù)里依賴(lài)另一個(gè)線(xiàn)程的 thread_local 數(shù)據(jù)。第二線(xiàn)程池中的線(xiàn)程任務(wù)邊界不明顯線(xiàn)程局部緩存在任務(wù)結(jié)束后如果不清理容易把上一個(gè)任務(wù)的數(shù)據(jù)帶到下一個(gè)任務(wù)里必須在任務(wù)入口或出口顯式重置。4.4 選型的底層原則總結(jié)一下常見(jiàn)場(chǎng)景下我一般按這個(gè)表選型場(chǎng)景推薦方案原因復(fù)雜對(duì)象多個(gè)字段需要保持一致mutex / scoped_lock鎖定一段邏輯操作整體狀態(tài)計(jì)數(shù)器、標(biāo)志、單一數(shù)值std::atomic免鎖吞吐高語(yǔ)義清晰讀多寫(xiě)少的高頻查詢(xún)std::shared_mutex多讀者并發(fā)寫(xiě)者互斥每個(gè)線(xiàn)程獨(dú)立處理數(shù)據(jù)static thread_local物理上不再共享免同步初始化后不再修改constexpr / 只讀不可變靜態(tài)成員沒(méi)有寫(xiě)操作天然安全選型之外還有一條更底層的心法能減少共享就不要增加鎖。鎖不是免費(fèi)的就算無(wú)鎖的原子變量也會(huì)增加指令數(shù)和緩存一致性壓力。如果一段數(shù)據(jù)其實(shí)沒(méi)必要被所有線(xiàn)程共享優(yōu)先通過(guò)任務(wù)拆分、線(xiàn)程私有副本或不可變數(shù)據(jù)把它變成“不需要同步”的結(jié)構(gòu)這比任何同步原語(yǔ)都高效。我自己在評(píng)審代碼時(shí)看到有人往共享靜態(tài)成員上加鎖第一反應(yīng)不是夸他會(huì)加鎖而是先問(wèn)這一步真的需要共享嗎5. 單例模式的經(jīng)典重災(zāi)區(qū)雙重檢查鎖與安全的單例實(shí)現(xiàn)5.1 為什么靜態(tài)成員變量是單例的最常見(jiàn)載體靜態(tài)成員變量最常見(jiàn)的用途之一就是單例。單例的本質(zhì)是進(jìn)程內(nèi)只有一個(gè)實(shí)例這個(gè)事實(shí)和靜態(tài)存儲(chǔ)區(qū)天然契合用靜態(tài)成員指針或引用持有那個(gè)唯一的對(duì)象是幾乎所有實(shí)現(xiàn)的第一步。也正因?yàn)槿绱藛卫龑?shí)現(xiàn)里線(xiàn)程安全的坑特別密集。尤其是“雙重檢查鎖”它幾乎是 C 社區(qū)反復(fù)踩了十幾年的經(jīng)典雷區(qū)。我先解釋它為什么吸引人再解釋它為什么沒(méi)那么好用。5.2 看看這段“老江湖”代碼為什么錯(cuò)雙重檢查鎖的出發(fā)點(diǎn)是單例創(chuàng)建一次之后每次讀取都是熱點(diǎn)路徑如果每次都加鎖開(kāi)銷(xiāo)太大能不能先無(wú)鎖判斷指針是否為空為空才加鎖創(chuàng)建于是出現(xiàn)類(lèi)似下面的代碼static Singleton* inst nullptr; static std::mutex mu; Singleton* GetInstance() { if (inst nullptr) { // 第一次無(wú)鎖讀 std::lock_guardstd::mutex lock(mu); if (inst nullptr) { // 第二次判斷 inst new Singleton(); // 創(chuàng)建 } } return inst; }問(wèn)題在于inst的第一次無(wú)鎖讀和另一個(gè)線(xiàn)程里的new Singleton()之間沒(méi)有任何同步關(guān)系。new 表達(dá)式本來(lái)就是三步分配內(nèi)存、在內(nèi)存上構(gòu)造對(duì)象、把地址寫(xiě)入inst。編譯器或 CPU 可能把“寫(xiě)入 inst”提前到構(gòu)造完成之前也可能把它推遲線(xiàn)程 B 在第 1 行看到inst不為空時(shí)線(xiàn)程 A 可能還沒(méi)完成構(gòu)造。于是 B 返回了一個(gè)半成品指針調(diào)用成員函數(shù)時(shí)讀取的是未初始化的字段。在某些編譯器上它可能“看起來(lái)能用”但跨平臺(tái)、跨優(yōu)化等級(jí)之后就會(huì)在運(yùn)行期炸掉。而如果第 1 行看到的inst仍為空多個(gè)線(xiàn)程會(huì)依次進(jìn)入并重復(fù)創(chuàng)建對(duì)象單例退化成多例內(nèi)存泄漏都算輕的。很多人覺(jué)得加 volatile 就能解決。volatile 不能提供原子性和內(nèi)存順序前面說(shuō)過(guò)這里同樣不成立。甚至static volatile Singleton* inst;也不能保證構(gòu)造完成的 happens-before它只是讓編譯器不緩存這個(gè)指針變量而已。真正的解法要么讓標(biāo)準(zhǔn)機(jī)制直接保證初始化要么使用原子量配合 memory_order。5.3 三套可靠實(shí)現(xiàn)函數(shù)局部靜態(tài)、call_once、只讀單例最省事的寫(xiě)法C11 以后的函數(shù)局部靜態(tài)變量已經(jīng)幫你把初始化競(jìng)態(tài)解決了class Singleton { public: static Singleton Get() { static Singleton instance; return instance; } private: Singleton() default; Singleton(const Singleton) delete; Singleton operator(const Singleton) delete; };多線(xiàn)程第一次調(diào)用Get()時(shí)初始化由編譯器生成的 guard 保證只執(zhí)行一次后續(xù)訪(fǎng)問(wèn)無(wú)鎖。這個(gè)模式因?yàn)楹?jiǎn)潔到幾乎不可能寫(xiě)錯(cuò)強(qiáng)烈優(yōu)先推薦。唯一限制單例對(duì)象的構(gòu)造函數(shù)不能依賴(lài)另一處同樣需要復(fù)雜初始化的全局狀態(tài)否則你不過(guò)是從線(xiàn)程安全問(wèn)題換到了初始化順序問(wèn)題。如果需要給單例傳參數(shù)或者初始化邏輯比較復(fù)雜可以用std::call_onceclass Singleton { public: static Singleton Get(int input 0) { std::call_once(once_, [] { inst_ new Singleton(input); }); return *inst_; } private: explicit Singleton(int v) { /* ... */ } static std::once_flag once_; static Singleton* inst_; }; std::once_flag Singleton::once_; Singleton* Singleton::inst_ nullptr;call_once的承諾是即使多個(gè)線(xiàn)程同時(shí)調(diào)用初始化回調(diào)也只會(huì)執(zhí)行一次其他線(xiàn)程會(huì)阻塞等待這次回調(diào)完成。注意回調(diào)里不能提前返回once_flag 一旦執(zhí)行成功后續(xù)所有線(xiàn)程看到的都是已初始化的狀態(tài)。如果你非要在回調(diào)里拋異常異常會(huì)傳播給當(dāng)前線(xiàn)程once_flag 會(huì)重置下一次調(diào)用會(huì)重試這是標(biāo)準(zhǔn)行為寫(xiě)代碼時(shí)要考慮清楚。還有一類(lèi)更極端的場(chǎng)景單例對(duì)象沒(méi)有任何可變狀態(tài)或者所有字段都是編譯期常量。這種時(shí)候直接用constexpr靜態(tài)成員或函數(shù)內(nèi)static constexpr對(duì)象就行沒(méi)有運(yùn)行時(shí)初始化也就不存在初始化競(jìng)態(tài)。很多人一聽(tīng)到單例就條件反射寫(xiě)鎖實(shí)際上一個(gè)全 constexpr 的消息格式描述符完全不需要任何同步設(shè)施。5.4 關(guān)于析構(gòu)順序的提醒函數(shù)局部靜態(tài)對(duì)象在程序退出時(shí)會(huì)自動(dòng)析構(gòu)析構(gòu)順序與構(gòu)造順序相反。如果單例在析構(gòu)時(shí)還依賴(lài)另一個(gè)局部靜態(tài)對(duì)象而對(duì)方已經(jīng)析構(gòu)就可能踩到空指針或未初始化數(shù)據(jù)。我的建議是單例析構(gòu)函數(shù)保持簡(jiǎn)單不要訪(fǎng)問(wèn)其他可能先析構(gòu)的全局狀態(tài)如果主線(xiàn)程之外還有工作線(xiàn)程在運(yùn)行必須在 main 里先 join 所有線(xiàn)程再退出而不是讓進(jìn)程在還有線(xiàn)程運(yùn)行時(shí)走到靜態(tài)析構(gòu)階段。還有一類(lèi)懲罰是我見(jiàn)過(guò)不少團(tuán)隊(duì)踩過(guò)的為了嚴(yán)格“禁止拷貝”把單例基類(lèi)寫(xiě)成宏或者一大堆代碼反倒是構(gòu)造函數(shù)忘記私有化了。其實(shí) C11 之后delete 拷貝構(gòu)造和賦值就夠了Singleton(const Singleton) delete; Singleton operator(const Singleton) delete;別為這種小事發(fā)明新框架。6. 跑一遍才踏實(shí)ThreadSanitizer 實(shí)測(cè)與排查心得6.1 一個(gè)能穩(wěn)定暴露競(jìng)態(tài)的測(cè)試用例理論講再多不如讓工具在眼前把競(jìng)態(tài)抓出來(lái)。我常用的做法是先寫(xiě)一個(gè)很小的復(fù)現(xiàn)程序規(guī)模不大但循環(huán)次數(shù)足夠多保證競(jìng)爭(zhēng)窗口能被撞上。比如前面那個(gè)計(jì)數(shù)器例子的完整版#include thread #include iostream struct Stats { static long counter; }; long Stats::counter 0; int main() { std::thread threads[8]; for (int i 0; i 8; i) { threads[i] std::thread([] { for (int j 0; j 1000000; j) { Stats::counter; } }); } for (auto t : threads) t.join(); std::cout Stats::counter \n; return 0; }按正常邏輯輸出應(yīng)該是 8000000直接編譯運(yùn)行你大概率會(huì)得到一個(gè)更小的數(shù)甚至偶爾看起來(lái)像 8000000因?yàn)楦?jìng)爭(zhēng)窗口不是每次循環(huán)都能命中。所以靠數(shù)值猜“是不是競(jìng)態(tài)”很不靠譜數(shù)值對(duì)也不能證明線(xiàn)程安全。想要穩(wěn)定暴露問(wèn)題得用專(zhuān)門(mén)工具。6.2 編譯并運(yùn)行 TSan看它怎樣報(bào)告ThreadSanitizer簡(jiǎn)稱(chēng) TSan是 GCC 和 Clang 都內(nèi)置的競(jìng)態(tài)檢測(cè)工具思路是在編譯時(shí)做插樁運(yùn)行時(shí)記錄每次內(nèi)存訪(fǎng)問(wèn)再判斷是否存在兩個(gè)線(xiàn)程對(duì)同一地址的無(wú)同步訪(fǎng)問(wèn)。編譯命令很簡(jiǎn)單g -stdc17 -fsanitizethread -g -O1 -pthread race.cpp -o race_tsan注意這里務(wù)必加上-g否則報(bào)告里的棧信息沒(méi)有行號(hào)-O1是 TSan 官方推薦的優(yōu)化等級(jí)既能暴露多數(shù)問(wèn)題又不會(huì)像-O0那樣把代碼拍得太平。跑起來(lái)之后如果存在數(shù)據(jù)競(jìng)爭(zhēng)程序會(huì)在控制臺(tái)打出類(lèi)似這樣的信息WARNING: ThreadSanitizer: data race Read of size 8 at 0x... by thread T2 #0 main::$_0::operator() ... Previous write of size 8 at 0x... by thread T1 #1 main::$_0::operator() ... Location is global Stats::counter它會(huì)準(zhǔn)確標(biāo)出參與競(jìng)態(tài)的兩個(gè)訪(fǎng)問(wèn)、各自的線(xiàn)程棧以及出問(wèn)題的變量名Stats::counter。看到這份報(bào)告已經(jīng)不需要我們?cè)偃シ瓍R編猜“會(huì)不會(huì)真是這里”。修復(fù)之后再編譯運(yùn)行直到 TSan 零告警我才敢說(shuō)這個(gè)復(fù)現(xiàn)用例的事情結(jié)束了。TSan 在使用上有兩個(gè)小坑值得提前說(shuō)。一是它和 ASanAddressSanitizer不能混用加了-fsanitizeaddress再同時(shí)開(kāi)sanitizethread行為不可預(yù)期可能直接鏈接失敗。二是 TSan 對(duì)運(yùn)行時(shí)環(huán)境有額外要求在部分老內(nèi)核或容器里需要額外配置如果直接跑報(bào)“FATAL: ThreadSanitizer: unexpected memory mapping”通常和環(huán)境不支持有關(guān)換個(gè)常規(guī)環(huán)境或者更新工具鏈一般就能解決。這屬于檢測(cè)工具本身的環(huán)境問(wèn)題不要因?yàn)樗鼒?bào)錯(cuò)就懷疑自己的代碼。6.3 真實(shí)項(xiàng)目里的排查思路和預(yù)防措施真實(shí)項(xiàng)目里的靜態(tài)成員變量不會(huì)像復(fù)現(xiàn)程序這么干凈。我的排查習(xí)慣是先把所有帶 static 且可寫(xiě)的成員列出來(lái)按“是否在多于一個(gè)線(xiàn)程里出現(xiàn)”分類(lèi)只讀的定義為安全寫(xiě)者只有啟動(dòng)階段的可以重點(diǎn)檢查初始化順序運(yùn)行期有多個(gè)寫(xiě)者的直接進(jìn)觀(guān)察名單。第二步找出所有訪(fǎng)問(wèn)入口看看讀和寫(xiě)是否有共同的同步對(duì)象。讀加鎖、寫(xiě)加鎖但用的是兩把不同的鎖等于沒(méi)鎖。第三步上 TSan 跑一輪覆蓋主要業(yè)務(wù)路徑的壓測(cè)通常十分鐘就能抓到第一塊視野盲區(qū)。修復(fù)時(shí)也要小心修復(fù)動(dòng)作本身引入新問(wèn)題。很多人第一反應(yīng)是在每個(gè)方法入口加鎖但忘了靜態(tài)成員變量可能被外部通過(guò)返回值獲得引用然后繞過(guò)方法直接改。正確做法是讓靜態(tài)成員盡可能私有對(duì)外只暴露加好鎖的靜態(tài)方法如果實(shí)在需要返回引用必須返回一個(gè)同樣受鎖保護(hù)的代理或者直接返回副本。我現(xiàn)在設(shè)計(jì)任何類(lèi)時(shí)遇到靜態(tài)成員變量的第一個(gè)問(wèn)題都是這個(gè)變量是只讀的嗎如果不是只讀下一個(gè)問(wèn)題就是什么時(shí)候?qū)懩男┚€(xiàn)程讀用什么同步如果回答不上來(lái)我就不讓它作為裸的靜態(tài)成員存在。寧可多寫(xiě)一層函數(shù)局部靜態(tài)的間接層把初始化和訪(fǎng)問(wèn)都收口到一個(gè)地方。見(jiàn)過(guò)太多因?yàn)殪o態(tài)成員線(xiàn)程安全翻車(chē)的案例之后我的體會(huì)是數(shù)據(jù)競(jìng)爭(zhēng)很少是“運(yùn)氣不好”它是共享、可變、缺少同步三個(gè)條件同時(shí)成立的必然結(jié)果。把這三者拆掉任何一個(gè)問(wèn)題就能從根上消失。診斷時(shí)可以靠工具防御時(shí)還是得靠設(shè)計(jì)習(xí)慣。希望你下次看到static關(guān)鍵字時(shí)能多停留兩秒。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
美国日韩黄片| 欧洲综合视频| 国产精品呦一区二区三区| 精品视频久久| 无码人妻毛片丰满熟妇精品区 | 97国产|免费| 99re在线精品78| 久久精品亚洲婷婷| 99热网站| 日韩av不卡在线观看| 久久久精品91八戒| 夜夜躁狠狠躁日日躁av| 91热色| 超碰 av 女人天堂| 亚洲熟女国产综合另类| 老熟女91av| www超碰| 激情啪啪拍91| 性爱Av免费| 青青草福利视频| 啊啊啊骚| 午夜操操操| 怡红院亚洲怡春院av| 久久国产对白激情浪潮| 欧美高潮在线| 亚州再线| 91总综合网| 冬京热男人的天堂| 色噜噜国产在线| 狠狠干综合| 在线播放成人网站| 色九区| 亚欧国产无码精品在线| 1024人妻| 久久女婷| 激情久久久| 伊人91| 亚洲综合色婷婷| 97碰在线视频| 99操逼| 日本www操操操| 亚洲精品中文字幕一区在线视频| 亚洲国产精品成人无码久久久| 国产精品亚洲天堂网址| 亚洲制服aⅴ中文字幕| 亚瑟国产精品久久无码| 日韩国产在线观看av| 精品人妻一区二区视频| 国产成年精品高清在线观看91| a片偷拍视频| 日本成a人v网站在线观看| 97视频在线看| 国产毛片毛片4p懂色| 精品少妇999| 亚洲最新Av| 久久 国产 无码| 老外又粗又长一晚做五次| 国语对白露脸XXXXXX| 国产日韩无码一区二区三区久久区| 天天久久| 韩国一级做a久久久久| 日韩免费福利在线观看| 一级片在线观看高清无码| 操婢日韩| 家庭乱伦网站国产| 91精品久久综合熟女| 丁香婷婷啪啪| 91在线页| 成人色女网| 国产亚洲色婷婷99精品91| 搞中出视频在线观看| 97欧美日韩中文| 插入粉嫩少妇视频| 99热线麻豆 | AA丁香综合激情| 操操啪| 91 手机在线播放 绯色| 操人妻逼91| 媚薬在线视频麻豆| 欧美色91| 日韩成人无码| 国产熟女乱论| 欧美一区二区情色| 亚洲凸凹超碰成人| 久久超碰天天| 自怕偷自怕亚洲精品| 一级A片女人高潮叫床| 狠狠色综合网| 天天摸夜夜摸| 青青草原成人| 五十路熟女人妻一区二区在线观看 | 人人操人人摸人| 日韩成人电影AV| 精品国产乱码久久久久久久久1 | 国产大学生口爆吞精合集| 亚洲欧美国产其他二区| 天无日色综合| 97视频一区| 操国产高清| 久久黄色视频一区二区三区| 亚洲 欧美 天天| 色 婷97| 大白逼三四级| 91人妻人人澡人人爽人人精品| 精品成人亚洲午夜电影| 99热66| 91综合国产精品| 欧美综合色图网| 国产二区三区免费视频| 1769精品一区二区三区| 国产天天骚| 极品一区二区三区免费| 亚洲影院成人| 婷婷亚洲天堂| 欧美色一二三| 中文字幕乱妇免费视频| 成人av在线播放| 久久老子无码午夜伦不卡| 91亚洲精品青草| 亚洲色图 图片| 神马久久久久久| 1禁看欧美黄片免费看| 天天爱天天韩国日本牛牛牛牛 | 久久久一区二区三区三州| 国产激情在线| 天美精品一区二区三区四区在线观看| www欧美91| 手机在线播放国产福利| 人妻天天爽夜夜爽爽| 91亚洲狠狠色| 巨爆乳一区二区爆乳区| 日韩一级二级| 欧美另类天堂| 亚洲导航深夜福利| 免费人人搞97| 久久精品国产亚洲5555| 综合久久中文字幕综合日韩精品| 亚洲诱惑| av毛片aaaaa免费看| 五月天久久久| 欧美偷| 午夜一级免费毛片| 超碰在线974| 久久婷婷苹果| 超碰成人最新最好看| 久久25| 亚洲色图A| 国产成年精品高清在线观看91| 97人肏| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 日本九九九九| 屁股久久久久久久久| 久久超碰国产一区二区三区| 伊人久久88国产女| 一区二区视频在看| 精品少妇一区二区三区在线视频| 超碰中文字幕人妻草一区| 国产免费一区2区3区| 91啪啪视频| 大香蕉色欲AV| 欧美成人四级在线播放| 午夜精品久久久久| 青青青国产手线观看视频2| 大香蕉碰碰| 91大香蕉伊人| 亚洲AV成人无码久久精品播放| 嗯嗯啊啊视频一区二区三区| 久操91视频| 天天欧美欧美亚洲网| 天天影视综合色| 亚洲一本大道中文字幕无码在线| 日韩欧亚中文在线| 樱花蜜乳av| 亚州久久9| 18啪啪手机免费性爱| 中文字幕在在线观看网站| 丰满人妻-区二区三区| www色日本| 亚州国产成人精品女人久久| 日本韩欧美在线播放a| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 91亚州欧美| 2024年最新色情网站在线观看| 国内外色色色色色成人视频| 亚洲高清欧美总合| 男人兔费天堂| 亚洲成人在线高清| 日韩中文字幕2020| 岛国网址国产 | 国产不卡免费在线视频| 加勒比伊人综合| 少妇啪啪自拍| 91网站18+| 国产女人91精品嗷嗷嗷嗷| 91热色| 亚洲啪啪性视频| 亚州,欧美在线| www.色婷婷| 日夜精品| ss久久| 搡老熟女免费视频| 欧美激情一区二区| 成人性爱美曰韩| 欧美另类天堂| 亚洲天堂综合AV| 91在线欧美| 日欧美色| 欧美大香蕉专区网| 精品十八在线观看| 日韩成人色图| 国产精品99精品视频网站| 麻豆伊人网| 亚洲美女自拍偷拍视频| 天天干人人乐| 久久a久久| 日本欧美韩国国产在线| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 人人澡人人干| 欧美欲色| 在线一道啪| 欧美色爱综合| 色综合美国| 日本爽爽爽爽爽爽免费视频| 69丨亚洲丨精品丨入口免费播放| 在线播放成人网站| 成人一二| 97爱碰| 激情综合五月丁香| 91大神精品长腿在线观看网站| 中文字幕十五区| 久久AV无码网址| 国产97视频| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 天天插天天插| 成人AV超碰免费在线| 日韩精品影视| 中文字幕二区日韩天堂| 天天躁日日躁xxxxx| 精品丰满熟妇人妻一区| 密臀在线免费观看| 五月婷婷丁香中文字幕| 男女无套 免费网站| 欧美在线色| 综合熟女| 在线免费观看日韩一区| 夜夜爽夜夜操| 激情四射熟女丝袜| 午夜精品99久久久久传媒| 欧美1区二区三区公司 | 色九月| 另类小说综合网| 日韩性爱啪啪视频| 五月婷在线| 久久香蕉国产线看观看亚洲女人 | 九九热精品免费视频| 国产对白刺激视频| 搡老女人老熟女91老熟女综合网| 麻豆 亚洲 97| 色五月婷婷久久| 成人26uuu| 精品一区二区2| 18一区二区三区| 嫩草影院在线观看精品| 五十路熟女人妻一区二区在线观看| 欧美 亚洲 另类 综合| 五月丁香婷婷综合| 曰韩操B| 欧美碰碰综合色| 1二区9| 色婷婷亚洲婷婷| 日本三级一区二区 在线| 中文字幕成人乱码熟女精品国50| 伊人991| 黑丝内射一区二区三区| 亚洲中文日韩欧美大香蕉视频| 91亚洲欧美| 蜜桃AV天堂| 91总综合网| 中文字幕一区 二区三四五 区日 日骚| 亚洲av影音先锋| 狠狠操狠狠操操| 色欧美色交综合| 91在线色| 91欧美长吊| 少妇超碰在线| 欧美啪啪女女| 青青操综合网| 国产精品久久久久久久久久梁医生| 日本Suv精品一区二区| 久久综合久色欧美综合狠狠| 精品小视频在线| 国产超碰国产97| 99色婷婷| 去干网最新版| 欧美亚洲日本视频久久久| 成人无遮挡毛片免费看| 中文字幕一区二区视频在线观看 | 夜夜性| 亚洲精品国产熟女久久久| 久久久18禁| 区一在线观看| 久久女人视频| 欧美AB在线观看| 最新欧美色网| 九九热精品视频在线观看| 国模精品娜娜一二三区| 秋霞欧美性爰视频| 强奸a片网| 黄色免费网页无码| 中文字幕精品资源在线| 国产又色又爽又舒服的三级视频| 亚洲黄色a级片| 国产高清精品一区二区三区毛片 | 亚洲 欧美 另类 综合 偷拍| 久久久久国产亚洲一区欧美色图日韩 | 超碰av在线| 成人性爱电影一区二区| 尤物一级在线免费观看| 日韩成人性爱电影在线播放| wwwcaobibi| 啪一啪免费视频| 天堂无码精品国产久| 国产日韩在线播放av| 一级岛国大片| 性色生活片久久毛片婬片免费放女人一级毛片 | 激情丁香五月婷婷| 日韩免费人妻色情网站| 久热69九色熟妇97| 伊人大香蕉在线| 岛国小电影| 色综合中文字幕不卡| 999久久久久久久精| 91久久久久久久久久久| 97超碰色五月| 欧美狠狠弄| 亚洲另类色图片| 欧美亚洲一区二区久久久婷精品大包诱| 欧美最婬乱婬爆婬性视频 | 无码一区二区三区四区五区六区七区八区九区十区视频 | 夜夜嗨av午夜成人| 久久久中文版| 蜜桃精品一区二区三区久在线| 亚洲日韩乱码中文无码蜜桃臀网站| 91性感网站| 99re在线视频| 亚洲第一视频 欧美风情 日韩| 97色欧洲| 香蕉人欧美综合| 亚洲婷婷丁香在线| 香蕉久久AⅤ...| 亚洲色图殴美色图激情乱伦| 91久久久久久| 91老司机在线视频免费观看| 91欧美丨精品丨入口| 无码人妻系列少妇| 3P丝袜熟女 色综合| 亚洲天天更新| 国产又黄又爽又刺激久久久久久| 日本国产高清色www视频在线| 国产精品熟女丝袜一区二区| 欧洲无码一区二区| 国产不卡中文字幕免费avi| 亚洲凸凹超碰成人| 欧美色网络| 国产成年女黄特黄| 可能人人看人人摸| 色综合天天| 9热9热综合网| 九九人妻| 日本欧美中文字幕| 成人八戒网站| 鲁鲁色综合网| 黑人精品久久97| 九九九九九九精品| 久久久性| 人妻激情视频| 久久久久久99AV无码免费网站| 18禁免费视频| 丁香五月激情五月| 亚洲揄拍网| 欧成人在线| 精品蜜乳AV免费观看| 岛国大片在线观看网站入口| 九九热精品| 91成人在线| 亚洲国产福利视频| 美女裸体无遮挡永久免费观看网站 | 国产精品人妻熟女aⅴ| 婷婷色导航| 麻豆精品A片免费观看| 日韩干B| 无码人妻一区二区三区色欲aⅴ| 久草免费在线一区二区| 欧洲综合视频| julia ann久久| 亚洲欧美高清| 综合自拍| 精品十三区| 亚洲同性aV综合| 午夜a成v人电影| 色婷婷av在线观看| AV色图| 东北毛片| 亚洲欧美激情在线视频| 99热精品国产| 欧美综合另类| www.国产高潮精品| 色香在线| 国产自制av蜜乳| 三级片网站在线播放| 操美女人妻| 超碰超碰超碰超碰的大鸡吧操黑丝袜| 东北丰满熟女国产一区| 国产人伦精品一区二区三区| 熟妇人妻丰满久久久久久久无码| 欧美天天干| 偷窥自拍亚洲色图| 九久久九九久视频| 青草青草久热| 97久久免费| 狠狠爱综合网| 狠狠色丁香| 青操影院| av天堂天堂av日韩| 91夜夜蜜桃臀1区2区3区| 日韩十八禁| 在线性黄高清免费视频| 嗯嗯啊好大| 一区在线精品中文字幕| 五月丁香久久| 99视频自拍区| 亚洲国产麻豆一区二区三区 | 老子午夜伦不卡影院| 亚洲少妇色| www.人人摸在线视频| 乱伦1色页| 亚洲天堂第一页| 日本淫乱女一区二区三区视频| 久久香蕉影院| 人妖欧美一区二区| 97摸视频| 久久妇| 亚洲欧美日韩二区视频| 美国久久一二三四| 亚洲一区二区三区春色| 超碰97欧美在线| 亚洲毛片久久| 婷婷五月影院| 亚洲欧美97√| 欧美日韩999| 人妻丰满熟妇av无码区蜜桃| 久草免费在线一区二区| 亚洲一二三四区在线免费看视频| 国产精品呦一区二区三区| 欧美国产视频| 亚洲春色欧美激情自拍| 成人日韩中文字幕| 国内精品a| 欧美少妇一区二区三区| 日韩精品中文字幕人妻| 91+欧美| av毛片aaaaa免费看| 亚洲熟妇图片| 中文AV制服乱伦| 亚洲城人男人的天堂| 伊人影院日本| 啊啊啊97视频| 亚洲h片在线免费观看| 麻豆一区在线| 色色色天美视频| 熟女91网| 日韩精品人妻| 91超碰人人| 麻豆久久精品亚洲精品88| 啊啊啊用力在线观看| 粉嫩av在线| 99re3这里只有精品| 黄色免费网| 啊啊啊97视频| 黄色大香焦1级‘′‘| 人妻无码一区二区三区久久99| 人人爱人人操人人性| 好一吊区二区| 涩五月婷婷| 啪啪啪综合网| 天天碰操中国年青熟妇| 日韩精品碰碰| 欧美黑人日韩少妇色情| 中出91| 欧美视频一| 日韩美女,国产传媒,视频一区| 操逼逼中文字幕| 国产精品对白自产拍| 狠狠五月天| 欧美狠狠干| 美欧老女人97| 天天干人妇| 亚洲熟女人妻中文字幕一区二区 | 日韩欧美资源| 97人人草| 97超碰磁| 亚洲欧美视| 亚洲av夫妻操穴网| 国产精品 久久久精品一牛| 免费草草草草草视频| 五月婷婷五月天| jazzjazz国产精品麻豆| 欧美性综合| 日本一级一级一级一级| 欧美性爽xyxOOOO| 不卡一区视频| 九九九九久久久| 极品综合| 亚洲中文sv| 伊人97色天使| 自拍大香蕉乱插| 国产一区在线播放| 91超碰碰在线| 国产少妇与亚洲av| 无码天天操| 久久一区二区蜜桃| 亚洲国产精品久久久男人的天堂| 国模吧 一区二区三区| 亚洲欧美天堂| 久久精品高清无码一区| 91婷婷伊人狠人| 国产亚洲美日韩Aⅴ中文字幕无码成人| 老熟女天天操| 日韩在线97| 大香蕉五月天| 国产精品黄色三级av| 精品久久97| 伦在线97| 亚洲综合色男人网| 99精品成人免费看| 人人操人人干xxx| 伊人网在线点播| 99www.bibizy香蕉资源国产一区二区三区高清 | 天天看少妇| 日韩精品亚洲专区在线影视| 一区二区三区四区久久视1| 日韩九区| 超碰在线观看av不卡| 黄页av| 无码人妻系列少妇| 97爱欧美| 亚洲欧美大香蕉| 精品在线观看视频在线| 97超碰磁| 九九九精品美女| 97av,com| 亚洲国成人情色好看电影| 欧美色婷婷| 日韩欧美午夜视频在线| 美日韩男女操屄视频| 黄色工厂这里只有精品| 欧美第一页| 啊啊啊好舒服好爽啊啊啊视频| 五月丁香成人网| 一本一道vs波多野结衣| 超碰在线欧美性爱激情| 夜夜爽夜夜高潮夜夜爽| 亚洲综人| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 在线看片国产精品每日更新| 亚洲影院无码在线| 天天92av| 好湿好紧视频| 色偷偷超碰亚洲| 亚洲 欧美 小说| 国产精品国产自产拍高清AV| 九九热免费视频| 国产动漫操逼视频| 国产精品蜜乳AV| 樱花蜜乳av| 男人女人18禁片免费看网站| 无码人妻1727| 亚州综| 蜜臀久久99精品久久久久电影| 中文字幕人乱码中文字的预防方法 | 中文字幕一区av| 中日高清无码操逼视频| 蜜乳性色无码专日粉嫩骚逼AV| 精品国产91内射久久| 久久精品国产亚洲5555| 国产精品视屏| 日韩情色一区二区| 黄页av| 丰满人妻-区二区三区免费看 | 亚洲综合首页| 精品国产乱码久久久久久蜜臀| 久操电影网| 99热线麻豆| 亚洲熟妇AV日韩熟妇在线| 内射卯月麻衣| 加勒比人妻综合| SUV一区二区在线看| 99国产精品免费| 久久免费精品96| 久干网| 91久久久老司机| 日韩精品电影| 蜜桃丰满熟妇av无码区不卡| 97超碰人操| 91国精产品| 人妻少妇久久中文| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | 丝袜av一区二区三区| 日韩精品99久久久久久中文字幕| 鸥美插入视频| 我中文字幕6区| 亚洲色图欧美色图制服诱惑| 蜜乳av一区二区三区四区不卡| 欧美 综合 亚洲| 亚洲人精品午夜不卡| 热久久无毒不卡| 欧美综合色图片| 色欲久久99国产精品久久久久久| 91五十路| 97精品一区二区视频| 91露脸熟女专区| 人妻一区视频| 久草视频分类在线| 五月丁香六月| 亚洲最大黄网| 中文幕97| 亚洲久草AV色图| 啊啊啊啊好疼| 一起草三级AV电影在线观看| 可以免费看黄片的视频| 无码操逼网| 亚欧性爱在线无码| 色97| 青青草在线视频欧美| 精品九九九九九九九九九| 欧美洲精品一级| 亚洲 日本 不卡| 亚洲欧美色图| 美国精品国产精品| 99精品成人免费看| 日韩AV一区二区三区四四| 日本精品88888888| 香蕉av一区二区三区| 99在线精品观看视频中文 | 92福利社视频| 欧亚久久偷拍视频| 肉丝中文无码高清| 丝袜亚洲综合| 脫衣舞一区二区三区| 亚洲精品成人激情在线| 乱日视频| 亚洲综合射| 俞拍久久国应视频| 无码一区二区精品视频久久久春药| 97人妻免费中文字幕| 色优久久| 日日夜夜国产综合| 国产精品久久久午夜夜伦鲁鲁| 亚洲一二三四区| 欧美日韩亚洲一区二区在线观看| 国产福利第一视频| 欧美有码亚洲中文字幕一区二区三区四区| 啊啊啊不要好爽日韩无码一区| 99精品在线| 日本阿v天堂在线观看| 国产福利在线视频网站| 婷婷六月天| 91国产美女丝袜足交精品视频 | 狠狠狠狠狠干| 怡红院成人av| 精品天堂| 黄页网站免费高清在线观看| A V少妇特黄三级| 亚洲欧洲无码一区夜| 婷婷激情四射| 综合欧美激情网| 性欧美另类高清| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 殴美大黄片| 九九九久千久久激情蜜桃在线看 | 亚洲综合五月天| 日本五十路在线| 不卡二三区人妻少妇| 精品人妻中文字幕4399| 色欧美天天| 任你干在线视频| 日韩一级欧美一级国产一级台湾| 99热这里都是精品| 不卡av在线中文字幕| 日日狠狠久久偷偷色综合免费| 96国产污污污丝袜| 97在线免费视频| 亚洲精品日日夜夜52| 91欧美成人色站| 九九热国产| 强奸乱伦资源| 欧美视频第二页| 久夜视频| 97人人模人人爽人人| 日韩电影天堂视频一区二区| 久久大黄片| 日本99久久| 久久精品99久久久久久| www熟女乱伦com| 日本三级韩三级99久久| 女人天堂网| 国产成人无码啪| 色91综合网| 天天肏天天干| 九九在线精品| 夫妻AV网站| 91c色| 天天看特黄的免费网站| 欧美中文字幕精品人妻| 婷婷丁香久久| 日本五区不卡| a天堂视频| 久久99999| 激情黄色片在线观看| 精品女人999| 国语精品av| 92人人操人人| 色欧洲97| 天天看天天在线精品| 97se综合网| 思思久热在线精品66| 日韩久久三区| 78精品| 伊人久久婷婷| 亚洲精品乱码久久久久久蜜桃麻豆 | 日本高清_区二区三区| 白 大 人妻 区 在线| 三级日韩一区二区三区| 欧美色三级片91| 丰满人妻一区二区三区免费| 色五月婷婷中文字幕| 欧美在线第五页| 欧日a| 日韩av电影网站| 秋霞影音一区二区三区| 欧美色综合图片| 约操熟妇| 久久久久久少妇| 日韩丰满熟妇| 99re在线视频国产| 欧美成人一级免费电影| 超碰97在线中文| 综合影视国产无码| 男人成人黄色视频在线观看免费下载| 国产精品久久久久久久毛片1| 新视频sss国产| 国产Aα| 美女丝袜激情小说| 殴美在线AⅤ| 欧美亚洲韩国视频十五区| 美国日韩黄色片| 久久久免费高清中文视频| 亚洲啪啪性视频| 天天综合网在线91| 日韩AV片| 精品一区二区三区免费古装毛片香港三级日本三级人妇 | 青青草在线视频人人想人人上| 日韩肏逼视频| 欧美综合色站| 高潮毛片无遮挡高清免费| www.高清无码诱惑一区.com | 国产做?爰片久久毛片?片美国| 亚洲综合另类色图| 99综合免费视频| 91丝袜美女视频| 日韩pv中文| 国产免费黄色一级大片| 99re3这里只有精品| 一级AV性爱| 久久久久久久久久久久久久久久9| 欧美成人AⅤ大片在线观看| 岛国不卡超碰护士AV在线播放| 久久免费精品视频免一| 久久精品国产精品亚洲艾通辽熟妇 | 香蕉视频精品亚洲一区二区三区在线播| 欧美1727免费观看视频| 日韩无码人妻| 欧美成人综合| 全球成人中文在线| 美女诱惑久久| 用力操死我| 性爱免费视频成人| asc国产精品| 人妻天堂综合网| www熟女乱伦com| 亚洲素人网| 免费黄色片子| a级免费在线观看| 午夜毛片高清免费不卡| 国产精品视频白浆免费| 欧美宗合网| 久久一区,青青青青草视频在线播放| 亚洲免费成人在线高清无码视频| 久久禁| 亚洲激情网一二三四区| 伊人久久综合影院精品久久久 | 九九精品网| 99r九九| 国产精品女久久久久av爽| 99精品综合久久久久五月天| 国产伊人自拍| 操逼免费视频无码国产| 伊人网在线点播| 性色乱AV一区二区| 亚洲图片欧洲图片aⅴ| 黑人性欧美| 大香蕉99热| 天天插天天操| 日本韩国国产精品一区| 91网站在线播放| 色哟哟国产精品免费网址| 性爱免费视频成人| 国产精品96久久久久久| 欧美后入视频| 欧美亚洲日韩人妻在线观看| 日韩偷拍一区二区三区| 1204人成网站色www| 美女黄页| 激情五月天社区| 乱伦熟女论坛| 一本大道久| 午夜天堂精品久久| www久| 17c在线成人免费A片观看| 久久久无码精品人妻二区| 91暧暧| 五月丁香激情综合网| 国产黄色视频久久| 精品玖九九久| 亚洲自拍一区夜夜操 | 青青草好吊色| A一级色女| 熟妇最新先锋一二三区| 久久精品国产亚洲AV成人直播| 亚洲阿v天堂在线| 夜夜国自区| 美欧老女人97| 爽爽淫人网| 亚洲图片欧洲图片aⅴ| 狠狠婷婷亚洲中文综合久久| 美女爽到高潮91| 欧美亚洲日韩16色| 97网址www| 日本肉体xxxx裸交| 免费超碰97在线观看| 九九热九九| 久久久久久99999国产精品| 九九热超碰97亚洲最新香蕉| 激情综合五| 亚洲一区二区精品福利| 欧美一级美片在线观看免费| 国产精品久久蜜乳av| 黄色一区三区| 91久久堂| 在线天堂999| 大香交伊人网| 久久美女福利是上海美女| 黄色电影在线播放综合网站 | 中国少妇XXXX做受| 一起草三级AV电影在线观看| 日韩精品午夜操呦呦不卡影院| 亚洲黄色网址| 日日AV加勒比| 高凊专区人人操| 99热免费| 免费一级欧美片片线观看| 最新三级网址| 人妻一区二区三区视频| 极品销魂美女一区二区| 搡老女人老熟女91老熟女综合网| 青青久久久| 劲爆欧美人妖三区91| 青青久操| 欧美综合加勒比在线| 天美av在线观看| 91操操操操| 91丝袜美女视频| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区 | 国产亚洲色婷婷久久99精品91 - 百度| 丝袜视频网国产90| 加勒比色综合| 天堂涩涩| 亚洲综合贴图91| 国产熟女二区| 久久久久ab| 久久鲁夜| 三级网站超变态精品| 超碰在线人妻不卡| 久久久久国产亚洲一区欧美色图日韩| 亚洲另类综合欧美| 丁香激情五月天| 综合熟女| 99视频只有精品| 日本久久99| 色噜噜婷婷| 色婷视频| 五月婷婷五月天| 婷婷五月天色| 婷婷在线视频| 久久精品小视频| 98一区二区精品| 丝袜熟女2P| caopeng97| 大香蕉免| 成人综合网 欧美| 亚洲 欧美 小说| 秋霞午夜视频一区二区| 国产肏屁眼视频| 久久久18禁| 丝袜翘臀后入欧美校园亚洲自拍另类小说一区中文字幕少妇诱惑 | 少妇三P| 蜜臀亚洲综合一二三四区| 亚洲欧美在线综合| 久久↗↗| 2017,超碰| 97天天操| 91在线免费精品视频| 亚洲中文字幕精品一区| 人人做,人人操,人人摸| 国产在线激情视频| 3P乱轮视频| 国产亚洲禁久一区二区| 欧美十八禁在线看| 这里有精品| 97精品国产97久久久久久免费| 影音综合网| 久啪| 熟妇一区,二区,三区。| 性欧美999| 后入式免费视频| 日本熟女不卡视频| 欧美一级特黄淫片在线观看| 粉嫩不卡一区二区性爱| 91超碰人人操| 女人爽到高潮久久久| 自拍盗摄一区| h色99999| 久区视频| 秋霞色色影院| 色五天伊人| 国产成人久久久精品免费AV| 亚洲五月丁香花狠狠干一区二区三区 | 四虎国产成人精品免费一女五男| 青青欧美| 999国产精品999久久久久久| 99999精品| 国产一区二区在线播放量| 久久久国产亚洲精品系列| 色色婷| 大香蕉 222| 91伊人久久在线| 丰满人妻-区二区三区免费看| 久久成年片色大黄全免费网站| 粉嫩av久久一区二区三区| 日韩乱伦视频| 精品夜夜澡人妻无码| 精品国产国产AV| 啊啊啊慢点| 男女啪啪啪18禁网站| 国产麻豆福利av在线播放| 色色99| 啊啊啊啊二区好大| 精品国产乱码久久久影院| 欧美色综合| 人妻系列无码专区中文有码| 久久人妻视频| 久久国模av| 精品久久97| 黄色片一区二区三区四区五区| www.色婷婷色综合| 一牛影视久久久一区二区三区| 色哟哟av网址| 午夜精品久久久| 午夜120视频在线观看| 女同在线视频一区| 97视频900| 屁股久久久久久久久久| www.av在线视频| 九九成人| 狠操91,com| 亚洲天堂一区| 天天日B夜夜干B时时操B| 久久久久久大| 五月天人妻综合| 日韩操p| 五月激情影院| 亚码人妻| 91亚州| 另类一区| 97精品视频免费| 猛猛干| 亚洲黄色a级片| 艾草av| 亚洲欧美校园| 2020中文在线一区二区三区| 精品超碰中文在线| 青草视频人妻在线观看| 思思热一热婷婷热一热| 9 9精品一区二区三区| 亚洲素人网| TS人妖另类精品视频系列| 久久美女福利是上海美女| 日日橹狠狠爱欧美超碰| 国产免费内射视频| 综合影视国产无码| 97国产亚洲中文在线| 精品久久97观看在线视频| 色哟哟511老熟女| 91欧美偷拍| 成人怡红院| 精品国产片亚洲一区| 色婷婷久久综合超碰| 中文字幕丰满人妻日本| 四色永久成人网站| 久久久精品久久| 国内精品a| 久久精品视频久久久| 蜜臀久久99精品久久久久久成人小说 | 男同专区一区二区三区在线| 欧美日韩精品一区二区三区高清| 91在线限制级| 久久免费9| 不卡啪啪视频| 97精品中文字幕| 精品丝袜无码一区二区三APP| AV天堂丝袜| 亚洲欧洲综合| 韩国黄色片精品久久久| 加勒比少妇AV婷婷六月天超碰超碰| 无遮挡男女激烈动态图| 亚洲天堂综合AV| 欧中美三级一区二区三区| 99久久久er直播网址| 亚州中文字幕超碰97| 激情黄色片在线观看| 亚洲18禁| 99热这里只有精品18| 成人性爱电影一区二区| 亚洲国产亚洲天堂| 日韩Va亚洲va欧美Ⅴa久久| 亚洲色图20p| 日本久久女同性恋视频| 不卡在线一区,精品一区二区三区中| 一区二区三区男人的天堂| 欧美三级中文字幕hd| 99热8| 日韩精品免费高清视频在线| 麻豆伊人网| 欧美激情视频在线一区| 人妻出轨一区二区三区| 亚洲国产精品久久AV| 日韩pv中文| 97在线视频观看| 天天操天天射青青草| 国产精品剧情| 天天日日舔舔| 成人线上超碰| 偷拍欧美激情| 久久伊人最新网址视频| 日韩97视频!在线| 欧美日本成人一区二区| 久久综合18p| 9色国产精品一区粉嫩| 日韩99999色| 亚洲码在线中文在线观看| 日本三级日本三级三级人妇四虎| 97超碰人人操人人操| 中美日韩毛片| 日本一区二区亚洲综合| 嗯阿好爽好紧| 亚洲春色欧美激情自拍| 日韩二三区| 色就色综合| 亚洲综合贴图91 | 99久久综合| 久久超碰com| 91色艳| 91精品国产91综合久久蜜臀| 超碰色中文| 午夜.DJ高清在线观看免费7| 91久久堂| 成人免费福利在线观看| 少妇熟女视频一区二区三区| 国产又爽又黄| 啊啊啊久久| sss视频华人在线| 丰满美女一级毛片在线播放| 欧美97视频| 最新啪啪视频| 欧美综合色图网| 97中文天堂| 综合国产影视三级| 少妇色综合| 丁香婷婷啪啪| 精品91日日夜夜超清资源| 91视频观看网站| 亚洲欧洲综合成人av一区| 吊色| 无码色| 国产美女在线精品免费看| 久久色一区二区| 一区二区视频在线播放| 色欧美在线| 五月天春色激情网| 国产成人精品必看| 亚洲AV色图一区| 亚洲 日本 一 二 三| 国产免费黄色一级大片| 大肉棒导航| 婷婷色播婷婷| 欧美一级A一级a爱片久久| 99RE在线视频精品,这里只有精品| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 午夜福利区| wwwcaobibi| 婷婷综合伊人一区| 麻豆天美制片厂网站视频| 亚洲日韩精品一区视频在线| 九九九九热只有精品| 女人天堂AV五区在线| 黄色av网站在线播放| 在线电影亚洲色图| 人妻加勒比东京热| 精品毛片av一区二区| 极品人妻少妇综合| 一牛影视久久久一区二区三区| 午夜性| 亚洲黄色影视| 久草看看看| 嗯啊不要啊在线| 亚洲码在线中文在线观看| 久久久99999久网站| 国产人妻天天干精品| 亚洲91色| 亚洲综合射| 久久极品伊人| 亚洲欧洲综合av在线| 99在线精品观看视频中文 | 精品十八在线观看| 久久久久9久久久久| 欧美人妻精品一区二区| 女优大全 - 91n| 97精品97| 污啪啪啪视频| 天天操夜夜嗨| 伊人网高清| 老女人碰碰在线碰碰视频| 五月开心网| 亚洲国产奇米影视久久| 五月天伊人网| 操淫穴亚洲五月丁香 | 日韩AC| 日韩精品中文字幕人妻| 女人高潮抽搐喷水视频网站| 亚洲色图 图片|