久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

嵌入式Linux驅(qū)動(dòng)開(kāi)發(fā)實(shí)戰(zhàn):并發(fā)、中斷與NFS調(diào)試經(jīng)驗(yàn)談

嵌入式Linux驅(qū)動(dòng)開(kāi)發(fā)實(shí)戰(zhàn):并發(fā)、中斷與NFS調(diào)試經(jīng)驗(yàn)談 1. 入行三年我理解的驅(qū)動(dòng)開(kāi)發(fā)到底在做什么很多剛接觸嵌入式的朋友問(wèn)我驅(qū)動(dòng)開(kāi)發(fā)是不是就是對(duì)著芯片手冊(cè)配置寄存器把外設(shè)“點(diǎn)亮”就完事了我入行頭兩年也這么以為。直到被現(xiàn)實(shí)狠狠教育過(guò)幾次——產(chǎn)品在實(shí)驗(yàn)室跑得好好的一到產(chǎn)線就偶發(fā)死機(jī)按鍵按下去偶爾沒(méi)反應(yīng)網(wǎng)絡(luò)偶爾掉包。這些問(wèn)題最后都指向同一個(gè)根源我對(duì)驅(qū)動(dòng)的理解太淺了。真正的驅(qū)動(dòng)開(kāi)發(fā)本質(zhì)上是在做兩件事一是把硬件的時(shí)序和協(xié)議翻譯成軟件能調(diào)用的接口二是在這層翻譯里扛住一切不確定性和并發(fā)沖突。前者是基礎(chǔ)功后者才是決定一個(gè)驅(qū)動(dòng)工程師能走多遠(yuǎn)的分水嶺。我見(jiàn)過(guò)太多把驅(qū)動(dòng)寫(xiě)成“一把梭”的代碼初始化函數(shù)里噼里啪啦配一堆寄存器然后read函數(shù)里直接讀數(shù)據(jù)就返回。單看功能好像沒(méi)問(wèn)題可是一旦接入中斷、DMA、多線程立馬出錯(cuò)。因?yàn)橛布遣⑿械摹⑼獠渴录遣淮_定的而你的代碼卻是串行的、順序的——這中間的矛盾就是驅(qū)動(dòng)開(kāi)發(fā)真正的戰(zhàn)場(chǎng)。這篇文章不講那種“照著寄存器手冊(cè)一步步點(diǎn)燈”的初級(jí)教程而是想聊聊我摸爬滾打幾年后對(duì)驅(qū)動(dòng)開(kāi)發(fā)核心能力的理解內(nèi)核機(jī)制怎么用、文件系統(tǒng)怎么搭、代碼怎么分層、面試和項(xiàng)目怎么匹配。內(nèi)容比較雜但都是我實(shí)際驗(yàn)證過(guò)的經(jīng)驗(yàn)希望能給正在往這個(gè)方向走的同行一些參考。2. 決定驅(qū)動(dòng)質(zhì)量的內(nèi)核機(jī)制并發(fā)、中斷與內(nèi)存屏障2.1 并發(fā)問(wèn)題不是只有多核才叫并發(fā)我在帶新人時(shí)最常說(shuō)的一句話是驅(qū)動(dòng)里有九成以上的bug都是并發(fā)引起的。很多新手不理解——我單核CPU單線程執(zhí)行哪來(lái)的并發(fā)舉個(gè)最典型的場(chǎng)景。你的驅(qū)動(dòng)注冊(cè)了一個(gè)中斷處理函數(shù)同時(shí)應(yīng)用程序通過(guò)read()系統(tǒng)調(diào)用來(lái)讀數(shù)據(jù)。中斷隨時(shí)可能到來(lái)它會(huì)打斷正在執(zhí)行的read()代碼。假設(shè)read()函數(shù)先讀了狀態(tài)寄存器判斷“數(shù)據(jù)就緒”然后準(zhǔn)備讀數(shù)據(jù)寄存器——就在這一瞬間中斷來(lái)了中斷處理函數(shù)把數(shù)據(jù)寄存器里的值讀走了并清除了就緒標(biāo)志。等read()恢復(fù)執(zhí)行時(shí)它讀到的就是空數(shù)據(jù)或者舊數(shù)據(jù)。這就是并發(fā)問(wèn)題的本質(zhì)單核上的搶占同樣能制造競(jìng)態(tài)。所以寫(xiě)驅(qū)動(dòng)時(shí)鎖不是可選項(xiàng)是必選項(xiàng)。我在實(shí)際項(xiàng)目里常用的并發(fā)保護(hù)手段按優(yōu)先級(jí)排序是這樣的用mutex保護(hù)那些可能睡眠的臨界區(qū)比如i2c傳輸、spi傳輸因?yàn)檫@類(lèi)操作本身就會(huì)睡眠等待硬件完成spinlock在這時(shí)候不能用。用spinlock保護(hù)中斷處理函數(shù)和進(jìn)程上下文共享的數(shù)據(jù)持鎖期間絕對(duì)不能睡眠否則就是內(nèi)核oops。用atomic_t或bitops處理簡(jiǎn)單的標(biāo)志位、引用計(jì)數(shù)能不用鎖就不用鎖。用完成量completion實(shí)現(xiàn)“等事件”的同步比信號(hào)量更輕量、語(yǔ)義更清晰。這里要特別提醒一個(gè)細(xì)節(jié)加鎖的粒度一定要小。我見(jiàn)過(guò)有人把一個(gè)幾十行的傳輸函數(shù)整體鎖住結(jié)果持鎖時(shí)間太長(zhǎng)實(shí)時(shí)性完全廢了。鎖的粒度應(yīng)該只覆蓋臨界區(qū)也就是“訪問(wèn)共享數(shù)據(jù)”的那幾行代碼不要順帶把耗時(shí)操作也包進(jìn)去。2.2 中斷上下文的約束一半的驅(qū)動(dòng)問(wèn)題都出在這中斷處理函數(shù)跑在原子上下文里這意味著你不能調(diào)用任何可能睡眠的函數(shù)。這個(gè)約束從書(shū)本到面試題都在講但真正踩過(guò)坑的人才知道邊界在哪。我踩過(guò)最深的一個(gè)坑是在中斷處理函數(shù)里調(diào)用了kmalloc(GFP_KERNEL)當(dāng)時(shí)覺(jué)得“分配內(nèi)存總沒(méi)問(wèn)題吧”。結(jié)果內(nèi)核直接報(bào)“BUG: sleeping function called from invalid context”。因?yàn)镚FP_KERNEL標(biāo)志允許睡眠等待內(nèi)存回收這在進(jìn)程上下文沒(méi)問(wèn)題但中斷上下文根本不允許睡眠。正確做法是用GFP_ATOMIC。另外一個(gè)高頻坑是中斷處理函數(shù)里的耗時(shí)操作。如果中斷處理函數(shù)執(zhí)行時(shí)間太長(zhǎng)會(huì)阻塞其他中斷的響應(yīng)。特別是共享中斷號(hào)的情況你一個(gè)人的延遲會(huì)影響所有共享這個(gè)中斷號(hào)的設(shè)備。我現(xiàn)在處理中斷的思路基本固定為兩步中斷處理函數(shù)只做最快的事讀硬件清中斷標(biāo)志、用workqueue或tasklet把重活挪出去、喚醒等待隊(duì)列。真正的數(shù)據(jù)搬運(yùn)、協(xié)議解析、內(nèi)存拷貝全部放到下半部bottom half去執(zhí)行。這里順便說(shuō)一句線程化中斷threaded IRQ的事。request_threaded_irq()把中斷處理變成一個(gè)內(nèi)核線程這樣你可以在中斷處理里放心使用mutex和阻塞API調(diào)度開(kāi)銷(xiāo)也更容易控制。我現(xiàn)在做新驅(qū)動(dòng)默認(rèn)優(yōu)先考慮線程化中斷除非實(shí)時(shí)性要求極高才會(huì)回退到傳統(tǒng)方式。2.3 內(nèi)存屏障編譯器和CPU都會(huì)“重排”你的代碼這個(gè)知識(shí)點(diǎn)屬于“八股文里的高頻、實(shí)際項(xiàng)目里的深坑”。我在做DMA驅(qū)動(dòng)的時(shí)候真切體會(huì)到了它的重要性。場(chǎng)景是這樣的CPU把數(shù)據(jù)寫(xiě)到DMA描述符的緩沖區(qū)地址字段然后寫(xiě)“啟動(dòng)”位告訴DMA控制器可以開(kāi)始搬運(yùn)了。從CPU的角度看這兩次寫(xiě)操作的順序是明確的。但到硬件層面寫(xiě)“地址”的操作可能還躺在CPU的寫(xiě)緩沖區(qū)里DMA控制器卻已經(jīng)看到“啟動(dòng)”位被置位于是它去讀了一個(gè)還沒(méi)生效的地址——數(shù)據(jù)全亂了。解決這個(gè)問(wèn)題就需要內(nèi)存屏障。在ARM架構(gòu)下我常用的屏障是dma_wmb()保證DMA描述符里的數(shù)據(jù)在“啟動(dòng)”位之前寫(xiě)入內(nèi)存。dma_rmb()保證DMA完成后CPU讀取的數(shù)據(jù)一定是硬件已經(jīng)寫(xiě)入內(nèi)存的。這里有個(gè)細(xì)節(jié)很多人容易忽略內(nèi)存屏障不是所有架構(gòu)都需要的。x86的存儲(chǔ)模型相對(duì)強(qiáng)一致很多場(chǎng)景下不需要顯式屏障但ARM是弱內(nèi)存模型編譯器優(yōu)化和CPU亂序執(zhí)行都可能重排訪問(wèn)順序。所以同一個(gè)驅(qū)動(dòng)代碼x86上跑得好好的搬到ARM上就出詭異問(wèn)題多半就是少了屏障。當(dāng)然大部分情況下你不需要手工去寫(xiě)屏障——內(nèi)核的DMA API已經(jīng)幫你處理好了。你要做的只是用對(duì)APIdma_alloc_coherent()分配一致性緩沖區(qū)或者用dma_map_single()配合dma_sync_single_for_device()做同步。最好的內(nèi)存屏障是根本不需要你寫(xiě)的那道屏障。3. 從零折騰根文件系統(tǒng)NFS掛載的實(shí)戰(zhàn)與避坑3.1 為什么開(kāi)發(fā)階段一定要用NFS啟動(dòng)在開(kāi)發(fā)Linux驅(qū)動(dòng)和應(yīng)用程序的階段最痛苦的事情莫過(guò)于每次改一行代碼都要重新燒寫(xiě)整個(gè)根文件系統(tǒng)到板子的flash里然后等它啟動(dòng)完再跑測(cè)試發(fā)現(xiàn)問(wèn)題回到宿主機(jī)改代碼。這個(gè)循環(huán)極其低效。NFSNetwork File System掛載根文件系統(tǒng)的意義在于開(kāi)發(fā)板的根文件系統(tǒng)不再放在本地存儲(chǔ)上而是通過(guò)網(wǎng)絡(luò)直接掛載宿主機(jī)上的一個(gè)目錄。你改代碼、編譯、把新文件放到宿主機(jī)的共享目錄里開(kāi)發(fā)板重啟后看到的就是最新的文件。整個(gè)過(guò)程零燒寫(xiě)、零等待。我在一個(gè)項(xiàng)目里驗(yàn)證過(guò)同樣一輪“改代碼-跑測(cè)試”的迭代用傳統(tǒng)燒寫(xiě)方式大約需要8到10分鐘換成NFS啟動(dòng)后壓縮到1分半以內(nèi)。一天下來(lái)能省下兩個(gè)多小時(shí)而且精神損耗小得多——因?yàn)榈却钊菀紫ツ托?。使用NFS有前提條件開(kāi)發(fā)板能穩(wěn)定聯(lián)網(wǎng)而且網(wǎng)絡(luò)環(huán)境相對(duì)可靠。如果現(xiàn)場(chǎng)環(huán)境惡劣網(wǎng)絡(luò)頻繁掉線那還是老老實(shí)實(shí)用本地存儲(chǔ)啟動(dòng)別和自己過(guò)不去。3.2 完整的NFS根文件系統(tǒng)掛載步驟下面是我反復(fù)驗(yàn)證過(guò)的完整流程以常見(jiàn)的嵌入式Linux開(kāi)發(fā)板 宿主機(jī)Ubuntu為例。宿主機(jī)側(cè)配置安裝NFS服務(wù)sudo apt install nfs-kernel-server編輯/etc/exports添加共享目錄配置/opt/nfs_rootfs 192.168.1.0/24(rw,sync,no_root_squash,no_subtree_check)這里解釋一下幾個(gè)關(guān)鍵選項(xiàng)都是踩坑換來(lái)的經(jīng)驗(yàn)rw允許讀寫(xiě)。如果漏了這個(gè)開(kāi)發(fā)板只能讀不能寫(xiě)很多程序跑起來(lái)會(huì)報(bào)段錯(cuò)誤很難排查。sync強(qiáng)制同步寫(xiě)入。開(kāi)發(fā)階段必須開(kāi)sync否則開(kāi)發(fā)板上的寫(xiě)入可能還在宿主機(jī)緩存里開(kāi)發(fā)板一斷電數(shù)據(jù)就丟了。no_root_squash允許root用戶保持root權(quán)限訪問(wèn)。如果不加這個(gè)在開(kāi)發(fā)板上以root身份寫(xiě)的文件到宿主機(jī)上會(huì)變成nobody用戶的權(quán)限非?;靵y。no_subtree_check減少NFS的子目錄檢查開(kāi)銷(xiāo)。性能有提升但在某些文件系統(tǒng)上有兼容性小坑如果遇到奇怪問(wèn)題可以去掉試試。重啟NFS服務(wù)并驗(yàn)證sudo exportfs -ra sudo systemctl restart nfs-kernel-server開(kāi)發(fā)板側(cè)配置在U-Boot里設(shè)置啟動(dòng)參數(shù)關(guān)鍵在bootargs環(huán)境變量setenv bootargs root/dev/nfs nfsroot192.168.1.100:/opt/nfs_rootfs,v3,tcp rw ip192.168.1.101:192.168.1.100:192.168.1.1:255.255.255.0::eth0:off saveenv這里有個(gè)容易翻車(chē)的點(diǎn)內(nèi)核需要開(kāi)啟NFS_V3和網(wǎng)絡(luò)文件系統(tǒng)相關(guān)選項(xiàng)。我在內(nèi)核配置里經(jīng)常漏了CONFIG_NFS_V4反而開(kāi)著然后開(kāi)發(fā)板的NFS客戶端默認(rèn)優(yōu)先用NFSv4去握手如果宿主機(jī)端的NFS服務(wù)器只支持v3或者兩邊版本不匹配就報(bào)mount: Operation not permitted或者直接mount超時(shí)。所以我的建議是掛載參數(shù)里顯式指定v3或v4別讓它自動(dòng)協(xié)商。版本協(xié)商在NFS這里很容易出事明明網(wǎng)絡(luò)通、目錄存在、權(quán)限也對(duì)就是掛不上多半是版本問(wèn)題。還遇到過(guò)兩次詭異的問(wèn)題最后都定位到同一個(gè)根因開(kāi)發(fā)板的/etc/nsswitch.conf或DNS解析配置有問(wèn)題導(dǎo)致mount時(shí)嘗試解析主機(jī)名卡了很久。如果你用的是IP而不是hostname還出現(xiàn)長(zhǎng)時(shí)間卡頓檢查一下是不是同時(shí)開(kāi)了IPv6。根文件系統(tǒng)本身的內(nèi)容要求NFS掛載成功后開(kāi)發(fā)板訪問(wèn)的是宿主機(jī)的目錄但這個(gè)目錄必須是一個(gè)“能用的根文件系統(tǒng)”。我一般從已有系統(tǒng)拷貝骨架目錄過(guò)來(lái)或者用Buildroot先構(gòu)建一份基礎(chǔ)根文件系統(tǒng)再放到NFS共享目錄里。最低限度得有的目錄/dev /proc /sys /tmp /etc /bin /sbin /usr。特別提醒/dev目錄不能空。至少要先用靜態(tài)方式創(chuàng)建console和null設(shè)備節(jié)點(diǎn)或者在根文件系統(tǒng)的init腳本里提前掛載devtmpfs、sysfs、procfs否則內(nèi)核啟動(dòng)到掛載根文件系統(tǒng)后會(huì)卡在找不到console設(shè)備上。3.3 掛了NFS之后還得處理這些“第一眼看不見(jiàn)”的問(wèn)題NFS啟動(dòng)成功后開(kāi)發(fā)板的系統(tǒng)會(huì)有幾個(gè)和本地啟動(dòng)完全不同的表現(xiàn)這些坑如果不提前知道會(huì)浪費(fèi)你半天時(shí)間。第一網(wǎng)絡(luò)啟動(dòng)依賴。根文件系統(tǒng)在網(wǎng)絡(luò)協(xié)議棧起來(lái)之后才能掛載所以網(wǎng)卡驅(qū)動(dòng)必須是內(nèi)核內(nèi)置的built-in不能是模塊。內(nèi)核配置里把對(duì)應(yīng)的網(wǎng)卡驅(qū)動(dòng)設(shè)成*y不然啟動(dòng)順序上根本輪不到它。這不是猜的我已經(jīng)見(jiàn)過(guò)不止一個(gè)新人把網(wǎng)卡驅(qū)動(dòng)編譯成模塊然后NFS死活起不來(lái)。第二寫(xiě)操作的損耗。開(kāi)發(fā)中經(jīng)常出現(xiàn)開(kāi)發(fā)板上創(chuàng)建了一個(gè)文件但宿主機(jī)上看不到或者內(nèi)容還是舊的。這通常是sync選項(xiàng)沒(méi)開(kāi)或者兩邊緩存不一致導(dǎo)致的。開(kāi)發(fā)階段還是老老實(shí)實(shí)把sync開(kāi)著別為了那點(diǎn)性能去踩這個(gè)坑。第三掉電壓測(cè)的假象。生產(chǎn)環(huán)境里開(kāi)發(fā)板都是焊接穩(wěn)定的但開(kāi)發(fā)階段大家常常直接拔電重來(lái)。NFS啟動(dòng)的板子拔電后宿主機(jī)NFS服務(wù)端可能會(huì)有殘留的鎖和連接重啟后偶爾出現(xiàn)文件無(wú)法訪問(wèn)。一個(gè)字等MySQL鎖超時(shí)不是是等幾秒鐘讓NFS服務(wù)自己清掉死鎖或者exportfs -ra一下就好。第四別忘了根文件系統(tǒng)里網(wǎng)絡(luò)配置的優(yōu)先級(jí)。開(kāi)發(fā)板如果同時(shí)開(kāi)了DHCP、又配了靜態(tài)IP啟動(dòng)階段可能先DHCP拿到一個(gè)別的網(wǎng)段的IP導(dǎo)致NFS掛載時(shí)用的IP不對(duì)。我一般啟動(dòng)參數(shù)里直接指定ip靜態(tài)地址不讓它走DHCP少一個(gè)變量就少一個(gè)故障點(diǎn)。4. 按鍵驅(qū)動(dòng)不只是“判斷電平”非阻塞掃描里的架構(gòu)思維4.1 為什么我不建議在驅(qū)動(dòng)里用阻塞輪詢講按鍵驅(qū)動(dòng)大部分教程會(huì)讓你在read函數(shù)里死等按鍵事件用阻塞式輪詢或直接讀GPIO電平。但我在實(shí)際項(xiàng)目里幾乎不用這種方式原因不復(fù)雜——嵌入式系統(tǒng)里沒(méi)有“只為一個(gè)按鍵服務(wù)”的CPU。按鍵本身是一個(gè)極低速的事件人的手指按下一次保持幾十毫秒然后松開(kāi)。如果你用while循環(huán)去死等這個(gè)事件CPU就在這一個(gè)按鍵上浪費(fèi)了海量的算力。而同一塊板子上可能還跑著LCD刷新、網(wǎng)絡(luò)協(xié)議棧、傳感器采集、控制算法。所以在我的體系里按鍵永遠(yuǎn)用非阻塞掃描實(shí)現(xiàn)。核心思路是把“掃描”放在一個(gè)周期性的時(shí)間片里而不是放在read函數(shù)的阻塞循環(huán)里。這樣CPU只是每隔幾毫秒查一次按鍵狀態(tài)其他時(shí)間該干嘛干嘛。4.2 非阻塞按鍵掃描的分層設(shè)計(jì)我常用的設(shè)計(jì)分三層這也是我寫(xiě)代碼一貫的分層習(xí)慣第一層硬件抽象層HAL這一層只管“某個(gè)IO口在某一時(shí)刻是高電平還是低電平”。做到函數(shù)級(jí)別就可以了/* 按鍵硬件抽象層 */ int btn_gpio_get_value(int btn_id);實(shí)際實(shí)現(xiàn)可能是讀GPIO寄存器、也可能是通過(guò)GPIO子系統(tǒng)接口但對(duì)上層完全透明。這就是驅(qū)動(dòng)分層的第一層隔離——硬件變了只改這一層。第二層掃描與消抖層按鍵最經(jīng)典的坑就是機(jī)械抖動(dòng)——你按一次電平會(huì)在高低之間來(lái)回彈跳好幾毫秒。必須在軟件上做消抖。我用的消抖策略是4毫秒掃描周期 連續(xù)8次采樣一致才認(rèn)為狀態(tài)穩(wěn)定。也就是按下后至少32毫秒的確認(rèn)窗口這個(gè)時(shí)間足夠覆蓋絕大部分機(jī)械按鍵的抖動(dòng)又不至于讓人感覺(jué)按鍵遲鈍。消抖層的輸出不是原始電平而是“穩(wěn)定的按鍵事件”按下、抬起、長(zhǎng)按。這些事件需要維持一個(gè)小的狀態(tài)機(jī)來(lái)處理不能是簡(jiǎn)單的電平讀取。第三層事件分發(fā)層這一層把按鍵事件翻譯成應(yīng)用層能用的回調(diào)或消息。比如短按、長(zhǎng)按、連續(xù)按多次——這些組合語(yǔ)義不在驅(qū)動(dòng)里做而是在這個(gè)分發(fā)層完成。這樣應(yīng)用層代碼完全不用關(guān)心底層是GPIO按鍵、矩陣鍵盤(pán)還是IO擴(kuò)展芯片。4.3 中斷式按鍵與狀態(tài)機(jī)思路的取舍說(shuō)到這有人會(huì)問(wèn)既然中斷可以做到“有事件才觸發(fā)”為什么還要用輪詢掃描我的回答是兩者不沖突看場(chǎng)合。系統(tǒng)處于休眠狀態(tài)時(shí)中斷式喚醒是必須的——深度睡眠期間不可能靠輪詢來(lái)低功耗掃描按鍵這時(shí)候按鍵必須接到可喚醒中斷源上。但系統(tǒng)正常運(yùn)行時(shí)一個(gè)已經(jīng)休眠不下來(lái)的系統(tǒng)里輪詢反而比中斷更可控因?yàn)樗烊粠r(shí)間基準(zhǔn)和消抖能力不依賴硬件觸發(fā)條件。這里有一個(gè)我在實(shí)際項(xiàng)目里踩過(guò)的坑說(shuō)出來(lái)供參考一開(kāi)始做中斷式按鍵每個(gè)按鍵申請(qǐng)獨(dú)立的中斷號(hào)配合debounce timer做消抖。結(jié)果板子上的按鍵一多中斷頻繁觸發(fā)導(dǎo)致主控頻繁在中斷和定時(shí)器之間切換系統(tǒng)的實(shí)時(shí)性反而變差了。后來(lái)改成了“一個(gè)定時(shí)器驅(qū)動(dòng)輪詢掃描所有按鍵”的方案CPU開(kāi)銷(xiāo)更小邏輯也更簡(jiǎn)單。所以我的建議很明確按鍵數(shù)量超過(guò)4個(gè)且平時(shí)沒(méi)有休眠需求優(yōu)先考慮輪詢掃描數(shù)量少、有休眠喚醒需求才上中斷式。還要補(bǔ)充一下?tīng)顟B(tài)機(jī)的價(jià)值。按鍵掃描層里設(shè)計(jì)一個(gè)按鍵狀態(tài)機(jī)松開(kāi)、按下確認(rèn)、長(zhǎng)按觸發(fā)、抬起確認(rèn)能幫你把復(fù)雜按鍵語(yǔ)義理得很清楚。狀態(tài)機(jī)的好處是它把時(shí)間維度的信息顯式建模了——“按下持續(xù)了多少毫秒”是一個(gè)屬于狀態(tài)機(jī)的概念不是屬于電平的概念。用過(guò)一次你就會(huì)發(fā)現(xiàn)把按鍵交互做得再?gòu)?fù)雜都不怕。5. 國(guó)產(chǎn)芯片、汽車(chē)嵌入式與GPU驅(qū)動(dòng)產(chǎn)業(yè)視角下的技能棧5.1 不同行業(yè)對(duì)嵌入式驅(qū)動(dòng)的需求差異我在嵌入式這行混了幾年一個(gè)最直接的感受是嵌入式是一個(gè)極其寬泛的領(lǐng)域不同行業(yè)對(duì)驅(qū)動(dòng)開(kāi)發(fā)的要求完全不同。如果你的目標(biāo)是就業(yè)一定要想清楚自己想切入的方向。消費(fèi)電子方向比如手機(jī)、平板、IoT設(shè)備驅(qū)動(dòng)開(kāi)發(fā)更多是在SoC原廠SDK上做裁剪適配重點(diǎn)是模塊化驅(qū)動(dòng)、低功耗、快速啟動(dòng)對(duì)Linux內(nèi)核機(jī)制的理解要求比較深面試常問(wèn)的八股文也主要來(lái)自這個(gè)方向。工業(yè)控制方向比如PLC、運(yùn)動(dòng)控制卡、數(shù)據(jù)采集模塊驅(qū)動(dòng)開(kāi)發(fā)的重點(diǎn)是確定性中斷延遲、任務(wù)調(diào)度、通信總線CAN、EtherCAT的實(shí)時(shí)性這塊對(duì)裸機(jī)驅(qū)動(dòng)和RTOS的經(jīng)驗(yàn)更看重。汽車(chē)嵌入式方向這幾年非?;?。它跟前面兩者都不一樣它有功能安全等級(jí)ISO 26262約束有AUTOSAR軟件架構(gòu)框架代碼規(guī)范和審查流程非常重。驅(qū)動(dòng)開(kāi)發(fā)的職責(zé)被極大地“體系化”了——你寫(xiě)的每一個(gè)驅(qū)動(dòng)都要對(duì)應(yīng)到軟件需求、架構(gòu)設(shè)計(jì)、單元測(cè)試、集成測(cè)試的文檔鏈路上。如果你擅長(zhǎng)寫(xiě)代碼但不擅長(zhǎng)寫(xiě)文檔進(jìn)汽車(chē)行業(yè)會(huì)很難受。GPU驅(qū)動(dòng)方向說(shuō)實(shí)話門(mén)檻比一般嵌入式高一個(gè)檔次。它要求你同時(shí)懂操作系統(tǒng)內(nèi)核、圖形學(xué)基礎(chǔ)、并行計(jì)算原理和具體GPU硬件架構(gòu)。而且這個(gè)崗位在國(guó)內(nèi)相對(duì)稀缺招聘量不大但薪資也明顯高于一般嵌入式驅(qū)動(dòng)。有機(jī)會(huì)接觸底層圖形棧的話積累的經(jīng)驗(yàn)價(jià)值很高。我的建議是剛?cè)胄械臅r(shí)候不要管哪個(gè)方向先把Linux內(nèi)核驅(qū)動(dòng)基礎(chǔ)打牢然后選擇一個(gè)行業(yè)方向深耕兩年。驅(qū)動(dòng)開(kāi)發(fā)的技術(shù)??缍群艽鬁\嘗輒止只會(huì)讓你永遠(yuǎn)在低水平項(xiàng)目里循環(huán)。5.2 嵌入式AI傳統(tǒng)驅(qū)動(dòng)開(kāi)發(fā)者的新機(jī)會(huì)熱搜詞里看到“嵌入式AI測(cè)試”和“AI嵌入式”我多說(shuō)幾句。很多人覺(jué)得AI和驅(qū)動(dòng)開(kāi)發(fā)是兩條技能樹(shù)其實(shí)完全不是。AI嵌入式設(shè)備跑神經(jīng)網(wǎng)絡(luò)的時(shí)候真正卡脖子的恰恰是驅(qū)動(dòng)層NPU驅(qū)動(dòng)要管理內(nèi)存、搬運(yùn)權(quán)重、處理中斷、做DMA調(diào)度——這些內(nèi)核機(jī)制和普通驅(qū)動(dòng)并沒(méi)有本質(zhì)區(qū)別只是換了一個(gè)性能要求更苛刻的硬件端點(diǎn)。如果你能寫(xiě)好普通的Linux驅(qū)動(dòng)上手NPU驅(qū)動(dòng)會(huì)非常順暢。反過(guò)來(lái)AI測(cè)試這個(gè)方向也值得驅(qū)動(dòng)工程師關(guān)注。因?yàn)轵?qū)動(dòng)是系統(tǒng)里最靠近硬件的一層出的問(wèn)題往往要在軟硬件交界處排查?,F(xiàn)在的嵌入式AI測(cè)試工具越來(lái)越強(qiáng)調(diào)在目標(biāo)板上直接跑模型評(píng)測(cè)而不是只在云端跑仿真。這里面涉及大量驅(qū)動(dòng)層適配和性能剖析工作傳統(tǒng)驅(qū)動(dòng)工程師反而是最合適的人選。5.3 別被“八股文”帶偏面試考的是原理還是應(yīng)用提到嵌入式面試八股文我有點(diǎn)又愛(ài)又恨。愛(ài)的是它確實(shí)系統(tǒng)地把內(nèi)核機(jī)制梳理成了便于復(fù)習(xí)的知識(shí)點(diǎn)——互斥鎖和自旋鎖的區(qū)別、中斷上半部和下半部、內(nèi)存屏障的作用、死鎖的四個(gè)條件。這些是驅(qū)動(dòng)開(kāi)發(fā)躲不開(kāi)的概念背一背沒(méi)壞處。恨的是很多人只背了結(jié)論不理解應(yīng)用場(chǎng)景。面試官一問(wèn)“你項(xiàng)目里哪里用到了自旋鎖”就啞火。八股文背書(shū)只能幫你過(guò)第一輪篩選真正讓面試官覺(jué)得你“靠譜”的永遠(yuǎn)是你對(duì)項(xiàng)目里坑的理解、對(duì)方案的取舍邏輯、對(duì)故障的排查思路。我建議的復(fù)習(xí)方式是這樣的挑一個(gè)自己最熟的驅(qū)動(dòng)模塊把相關(guān)的內(nèi)核機(jī)制、數(shù)據(jù)結(jié)構(gòu)、API調(diào)用鏈全部梳理一遍。比如你寫(xiě)過(guò)I2C驅(qū)動(dòng)就順著“i2c_adapter注冊(cè) → 傳輸函數(shù)封裝 → 從設(shè)備驅(qū)動(dòng)probe → 用戶空間訪問(wèn)接口”這條鏈路把涉及的知識(shí)點(diǎn)全部串起來(lái)。面試官問(wèn)任何知識(shí)點(diǎn)你都能從這條鏈路里找到一個(gè)具體的對(duì)應(yīng)點(diǎn)講給他聽(tīng)。這比背一百道八股文效果好得多。5.4 學(xué)習(xí)路線的現(xiàn)實(shí)建議最后給還在打基礎(chǔ)的朋友一些學(xué)習(xí)建議這些是我自己走彎路后總結(jié)出來(lái)的先攻硬件基礎(chǔ)看懂原理圖、了解I2C/SPI/UART時(shí)序、熟悉GPIO和中斷控制器這是驅(qū)動(dòng)開(kāi)發(fā)的前提。不懂硬件只看軟件寫(xiě)出來(lái)的驅(qū)動(dòng)經(jīng)常直接燒板子。再通關(guān)Linux內(nèi)核基礎(chǔ)設(shè)備樹(shù)、字符設(shè)備框架、platform驅(qū)動(dòng)模型、中斷子系統(tǒng)、內(nèi)核同步機(jī)制。完成這些后可以嘗試把一個(gè)小外設(shè)的驅(qū)動(dòng)從零寫(xiě)完包括設(shè)備樹(shù)節(jié)點(diǎn)、驅(qū)動(dòng)注冊(cè)、數(shù)據(jù)讀寫(xiě)接口。然后做一個(gè)小而完整的項(xiàng)目別追求大而全就做一個(gè)溫濕度傳感器驅(qū)動(dòng) 一個(gè)按鍵驅(qū)動(dòng) 應(yīng)用層讀取和展示完整跑通。這個(gè)項(xiàng)目會(huì)逼著你把文件系統(tǒng)、應(yīng)用層接口、調(diào)試手段全部串起來(lái)。持續(xù)迭代和閱讀源碼驅(qū)動(dòng)開(kāi)發(fā)的上限取決于你對(duì)內(nèi)核的理解深度。源碼是最好的老師不要只看注釋要順著調(diào)用鏈往下追讀的時(shí)候隨手畫(huà)調(diào)用流程再對(duì)比實(shí)際現(xiàn)象驗(yàn)證猜測(cè)。重視調(diào)試工具我在驅(qū)動(dòng)的調(diào)試上用的最多的三板斧內(nèi)核日志、devmem工具直讀寄存器、萬(wàn)用表和示波器。真正的驅(qū)動(dòng)調(diào)試是軟硬件聯(lián)合排查只會(huì)打日志的效率太低。6. 我的日常工作流與踩坑記錄寫(xiě)到最后分享一套我自己沉淀下來(lái)的驅(qū)動(dòng)開(kāi)發(fā)日常流程以及幾個(gè)經(jīng)常被抓來(lái)復(fù)盤(pán)的坑。如果你能把這套流程內(nèi)化成自己的工作習(xí)慣很多低級(jí)錯(cuò)誤根本不會(huì)出現(xiàn)在你身上。日常開(kāi)發(fā)流程大概是這樣的拿到新的芯片或板卡先做最小系統(tǒng)驗(yàn)證串口通、時(shí)鐘對(duì)、GPIO能翻轉(zhuǎn)。這一步不要跳過(guò)后面所有調(diào)試都依賴于一個(gè)穩(wěn)定的基礎(chǔ)平臺(tái)。設(shè)備樹(shù)和啟動(dòng)日志先行。先把板卡的內(nèi)核啟動(dòng)日志完整看一遍確認(rèn)設(shè)備樹(shù)解析成功、驅(qū)動(dòng)匹配上了再開(kāi)始寫(xiě)功能代碼。很多“驅(qū)動(dòng)不工作”的問(wèn)題其實(shí)是設(shè)備樹(shù)配錯(cuò)了。寫(xiě)驅(qū)動(dòng)時(shí)遵循“能靜態(tài)驗(yàn)證的先靜態(tài)驗(yàn)證”先檢查寄存器地址、位定義、中斷號(hào)、時(shí)鐘使能不要急著上電調(diào)代碼。每次改動(dòng)只改一個(gè)變量驗(yàn)證通過(guò)再改下一個(gè)。這條聽(tīng)起來(lái)像廢話但我在實(shí)際項(xiàng)目里見(jiàn)過(guò)太多同時(shí)改三四個(gè)地方然后不知道哪里錯(cuò)的人。驅(qū)動(dòng)代碼合入前必做代碼評(píng)審重點(diǎn)關(guān)注鎖的使用、中斷上下文、內(nèi)存釋放路徑這三個(gè)地方最容易埋雷。幾個(gè)復(fù)盤(pán)的深坑每一個(gè)都讓我多熬了兩天夜GPIO復(fù)用沒(méi)查清。芯片的同一個(gè)引腳可能同時(shí)承擔(dān)UART、I2C、PWM功能設(shè)備樹(shù)里配了I2C但沒(méi)改pinmux的復(fù)用關(guān)系結(jié)果I2C波形完全是亂的。排查這類(lèi)問(wèn)題用示波器看引腳電平比看代碼更高效。中斷申請(qǐng)失敗。中斷號(hào)在設(shè)備樹(shù)里配的是邏輯中斷號(hào)結(jié)果驅(qū)動(dòng)里用了物理中斷號(hào)去請(qǐng)求返回-EINVAL還百思不得其解。內(nèi)核里中斷號(hào)的轉(zhuǎn)換要經(jīng)過(guò)irq_of_parse_and_map這一步不是可選的。DMA緩沖區(qū)的cache一致性沒(méi)處理好。接收數(shù)據(jù)時(shí)偶爾出現(xiàn)半新半舊的數(shù)據(jù)排查了兩天才意識(shí)到是cache沒(méi)有無(wú)效化正確處理方式是用dma_sync_single_for_cpu()做同步別試圖靠“手動(dòng)加延遲”這種土辦法繞過(guò)。掉電重啟后設(shè)備狀態(tài)不干凈。一些外設(shè)芯片掉電后再上電內(nèi)部狀態(tài)還在上一次的殘留狀態(tài)驅(qū)動(dòng)初始化時(shí)就必須做完整復(fù)位流程寧可多等幾百毫秒不要直接開(kāi)始操作寄存器。這些坑在教科書(shū)上不會(huì)寫(xiě)每一個(gè)都是實(shí)際項(xiàng)目里真金白銀買(mǎi)回來(lái)的教訓(xùn)。我也沒(méi)打算把它們變成什么“標(biāo)準(zhǔn)答案”踩坑本身就是一個(gè)驅(qū)動(dòng)工程師成長(zhǎng)最快的過(guò)程。希望這篇文章里的一些思路能讓讀到這里的你少走幾個(gè)彎路把更多精力花在真正有價(jià)值的設(shè)計(jì)和優(yōu)化上。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
大香蕉九九| 后入式在线免费观看60秒| 发朗少妇买婬全视频中文| 久久伊人网视频一区二区三区| 死我十八禁| 亚洲视频1区| 大香蕉操久久| 欧美激情一区| 国产久久一区二区午夜| 亚洲人妻日日日| 在线观看国产黄色| 日韩淫色网| 高清无码一区二区三区| 91国产丝袜足交精品视频| 精品人妻久久久久一区二区三区| 久久久久国产精品片区无码直播| 亚洲第一男人天堂| 亚欧Av| 九九亚洲精品| 国产精品不卡一区二区电影| 日韩中字av一区| 男人综合网| 337p大胆噜噜噜噜噜91Av| 精品人妻伦一区二区三区久久| 超碰色综合| 久久精彩视频| 91精品网站| 99视频只有精品| 亚洲综人网| 久久精品性| 婷婷五月天色网| 日本在线视频导航| 超碰九7免费| 丁香六月综合激情| 91国模| 久热免费视频| 日韩人妻一区二区| 日韩钢筋无码高清啾啾啾| 无码人妻精品一区二区三区99不卡| 九月丁香| 欧美老妇曰批的视频| 加勒比东京热五月天天堂网| 这里只有精品视频在线| 真实高潮91| 91精品无码久久久久久久 | 黄片www视频免费| 人妻精品综合中文字幕在线| 无码 黑人一区二区三区| 今日头条成人一区二区三区四虎精品| 一级特级aaaa毛片免费观看 | 中欧人妻丝袜中文字幕| 97人人中文网| 小日子操bb在线看| 中文字幕一区二区三区人妻不卡| 4141514逼喷水三级片| 性色AV蜜色av色欲av| 青青操在线亚洲视频观看欧美在线| 久99| 97色伦欧美| 精品人体无圣光凹凸| 亚洲一区二区AV| 四虎视频在线观看| 亚洲人妻精品一区二区| 中日韓欧美高清| 久久男人的天堂| 日韩有码专区| 日本操逼视频在线| 嫩草影院永久在线制服丝袜| 神马久久久久久久| 99热在线观看| …亚洲黄色厕厕女女在线播…| 久久天天躁日日躁狠狠躁| 国产精品日日摸夜夜添骚逼| 人人天天欧洲| 亚州精人品大香蕉| www.99在线| 亚州久久9| 日本操逼视频在线| 激情文学欧美| 色综合久久88色综合久久天天| 99re99视频在线免费观看| 婷婷av在线中文字幕| 色狠人在线99| 强奸乱伦中文字幕AV| 超碰这里有精品| 激情久久av一区av二区av| 熟妇人妻精品一区二区| 夜夜爽爽爽| 性饥渴少妇av无码毛片| 国产精品禁久久久精品| 久九干| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 99久热| 免费家庭乱伦视频| av2014 日韩在线中文字幕| 先锋精品av色鲁| 无码区蜜乳| 男人综合网| 国产无马在线| 啪啪视频免费在线观看| 精品女同一区| 亚洲情色 欧美| 亚拍在线| 久噜噜| 大香蕉伊人亚洲| 五月丁香激情综合| 亚洲αv一区二区三区| 亚洲日韩电影| 舔足天天操天天射| 啊啊啊水好多| 69久久| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 国产欧美另类久久久精品课程| 有码色中文字幕在线观看| 日韩草久视频| 亚欧精品久久久久久久久久久| 久久久精品无码亚免费| 国产精品福利视频播放| 白丝1区2区3区| 女人爽到高潮久久久| 久久久96| 国产辣妈在线视频福利| 人妻精品综合中文字幕在线| 麻豆婷婷成人一二三| 超碰人妻在线| 一区二区三区 日韩欧美| 亚洲精品国产日韩无码AV永久免| 国产精品伦理| 亚洲情欲| 日韩欧美成人午夜福利| 黄色小视频日本txt| 97人妻免费中文字幕| A 天堂| 国模无码人体一区二区三| 国产精品高潮呻吟av久久4虎| 久久这里只精品免费福利| 日逼逼免费看| 99在线观看| 久久αⅴ| 久草视频观看视频在线| 亚洲乱码精品一区二区| 男人精品区| 男女做爰猛烈动高潮A片免费应用 少妇厨房愉情理伦片bd在线观看 不卡中文字幕aⅴ在线 | 91天美传媒精品| 欧美久久久15P| 天天干1区2区在线| 亚洲国产综合图区中文字幕 | 曰韩精品九九无码 | 屁股久久久久久久久| 97久久久久久久久久| 精品对白久久不卡| 日本女优在线视频福利| 国产日本熟女顶级一区二区三区视频| 亚洲综合夜色| 99.色网| 人妻少妇被猛烈进入中| 久久丁香五月婷婷| 天美av在线| 天天干1区2区在线| 国产女大学生AV| 在线一道啪| 熟妇高潮一区二| 尤物av网站免费在线播放| 久久夜黄色无码A级大片| 97国产人人| 91男人综合| 欧美黄片欧美黄片xxx| 亚洲男人的天堂AV| 一个人免费视频观看在线WWW| 欧美亚洲第一页| 天天操人人操骚逼网站| 亚洲一区二区三区四区视频| 色综合久久88色综合久久天天| 天天激色| 日本三级韩国三级99| 18禁在线视频| 国产情侣自拍在线播放| 亚洲综合有码| 超碰97日韩| 一区二区日韩欧美久久| 国产无码久久高清| 蜜桃臀一区二区aV| 日韩/97| 在线a v| 日逼97| 亚洲吊色| 在线观看一卡二卡| 老司机老司机午夜影院| 蜜臀久久久99久久久久 | 91蜜桃婷婷狠狠久久综合9色| 亚洲av噜噜噜噜噜噜| 亚洲清纯唯美| 青青操网| 亚洲18禁| 色屁屁影院www国产| 物尤视频一区二区| 国产吹潮女在线观看| 九久久九精品视频| 伊人操你| 亚洲最新a在线观看| 五月天黄色av| 99热8| 日韩二三区| 97香焦色区| 99久久久久久久久| 日韩AV噜噜噜一区二区三区四区| 有码免费观看| 九九碰九九爱97| 日韩美女操b| 操逼视频免费日韩无码| 性色中出| 99啪啪| 999精品国产高清一区二区| 噜噜噜无码AV一级一级久久影院| 天天色黄色影院天天操| 密乳视频在线| 亚洲色婷婷久久久综合日本| 少妇三p| 色诱中文字幕| 黄片免费视频2019| 一本久久久精品| 操死我了啊啊啊| 久久久久久中文版| 自拍丝袜美腿人妻| 成人精品视频一区二区| 屌逼传媒| 97在线观看免费| 69视频福利导航| 九九黄色网| 日韩性爱电影一区| 日本韩欧美在线播放a| 中国农村熟妇毛片视频| 黄片www视频免费| 色97干| 五月天久久人妻| 久久中文字幕人妻熟av女蜜柚| 97er欧美性| 综合 青草 伊久久 影院 综合| 久热99999| 91欧美巨乳| 高清无码一区二区三区| 国产福利精品最新在线| 国产一区二区三区中文字幕| 青青操青娱乐| 97bbn| 男人的天堂成人的社区| 日韩人妻无码精品系列| 骚逼一区二区| 久久人妻无码毛片A片麻豆| 手机av亚洲丝袜美腿日韩第一页二页| 欧美第一页| 97超碰伊人| 日本不卡在线二区三区| 超清福利精品视频在线| www.99中文字幕| blacked精品一区国产| 国产AV高清AV无码| 极品白嫩美少妇在地板上位骑射淫水泛滥| 日日夜夜免费| 91快色色色色色| 国产激情久久久| 欧美性夜| 色噜噜国产精品视频一区二区| 日夜伊人网| 国语av最新自产拍在线观看| 久久久久免费少妇| 美女干逼2| 精品人妻一区二区三区日产| 在线观看国产黄色| 91美女色视频亚洲| 天天影视色香欲综合网小说| 亚洲国产欧美中文永久| 青青草色插素人| 91在线视频国产网站| 性爱精品一区| 无码人妻系列少妇| www.人人cao| 99精品久久久久久| 中国国产精品一区视频| 精品无码久久久久| 亚欧高清| 嫩草伊人久久精品| aV中文麻| 婷婷月色| 色欲久久99国产精品久久久久久| 插欧洲美女欧美精品| 亚洲高清在线se| 逼逼逼逼操操操操操操操操操午夜剧场| 欧美 传媒 麻豆 日韩 偷拍| 涩综合导航| 一本一首道人妻少妇免费久久| 一级成人性爱| 日韩欧美麻豆| 蜜桃精品一区二区三区ww| 91网九色蝌蚪操熟女| 热久久九九热| 欧美很很操视频| 国产女人视频三四五区| 一本一首道人妻少妇免费久久| 日欧亚洲二三区大片不卡| 国产乱不卡| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 最新国产亚洲精品精品国产亚洲综合| 男人的天堂kva| 欧美五区| 国产最新AV| 欧美 亚洲 大香| 久操精品网| 韩国三级一线观看久| 91N综合网在线| 欧美亚洲高清不卡| 欧美综合色,www| 国产精品久久久久久久久久久久久久久久| 日本一区二区不卡精品| 亚洲鸥美色图| 澳门特级毛片免费观看| 精久久久| 精品久久久久瑟瑟| 亚洲成A∨人影院在线欢看| 97日视频| 97超碰精品成| 男女啪啪啪18禁网站| 久热久一区二区三区| 丝袜美女诱惑 91 视频| 亚洲精品97中文字幕| 精品久久久久黄少妇| 亚洲第一综合| 啊啊啊啊啊啊好多水| 日日夜夜草草草| 91|九色|国产熟女| 成人26uuu| 超碰地址久久| 久久中文字幕女同性恋一区| 国产天天看| 啪啪91| 亚洲色吧网| 神马久久久久久久久久| 中文字幕亚洲永久精品| 日韩有码回春沙龙第一页| 青青草吊丝| 亚州操逼图| 嫩呦国产一区二区三区AV| 亚洲 欧美 日本 国内 首页| 好屌色综合| 裸体美女国产免费久久久网站| 亚洲四虎熟女精品| 啊啊啊好爽快点啊啊啊嗯嗯| 91色情黑丝搞鸡在线观看一区二区三区三州| 成 人 影视 一区 二区 三区 四区| 99re免费| 日韩欧视频| 性91| 精品成人无码| 91综合在线| 蜜臀99久久精品久久久久| 欧美大片天天看| 中文字幕精品亚洲熟女| 精品人妻一区二区三区在线视频不卡| JIZZJIZZ亚洲女人被躁| 国产三级多多影院2022国产AA一级毛片无码| 精品欧美А∨无码黑人大荫蒂 | AV高清一区| 校园春色家庭伦理欧美激情| 欧美色图 色综合图| 丁香色狠狠色综合久久小说| 国产成年免费大片黄在线观看| 91人妻最真实刺激绿帽| 久操操| 美骚妇av高清在线| 久久久久久久| 性久久| 国产欧美日产一区二区三区 - 国产欧美日 | 丰满欧美少妇| 97一本大道亚洲一区| 中文字幕一区二区三区人妻不卡 | 十八禁电影伊人网| 国产成年女黄特黄| 丁香色婷婷| 欧美亚洲宗合色性图| 91少妇人妻| 综合色99| 欧美操逼录像国产黄色国产| 人人 操人人 操人人| 91N欧美| 97精品人妻一二三四| 内射小黄片| 闷骚老熟女15P| 欧美97爱| 中文字幕97色| 国产极品精品美女视频| 亚州综合AⅤ| 亚洲精品乱码线路中文字幕| 嗯嗯啊好爽| 亚州久久9| 久久久精品国产亚洲伊人| 久肏视频字幕| 亚洲人妻av| 久久久91| 青青草吊丝| 这里只有精品视频在线观看麻豆| 97干天天| 中文字幕亚洲在线一区| 久操国产在线| 久久9 9 9精品| 一二三四视频中文字幕在线看| 欧美性爱精品一区二区| 熟妇视频一区二区三区在线观看| 黄色视频高清无码网站| 偷拍综合亚洲| 婷婷久久综合久| 欧美亚洲情色| 男人的天堂在线| 我要看免费韩日黄片| 久久超碰网| 国产精品第二页| 色综合久久久久| 2017av无码免费无线播| 国产精品高朝久久久久久久| 久久久极品| 青青国产精品在线| 丰满人妻一区二区三区色-百度| 国产馆极品诱惑| 在线观看黄色电话| 麻豆国产精品午夜视频| 天天爽入口| 强奸熟女一区二区三区| 九九九久千久久激情蜜桃在线看 | 九九久久玖玖| 亚洲牲交| 国产视频一区二区在线| 日本性爱不卡视频| 一类无码操逼视频| 色屁屁影院www国产| 欲香欲色综合天天伊人| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 欧美在线55555| 人人天天欧洲| 久久精品视频久久久| 午夜男女爽爽爽在线视频| 日本国产高清色www视频在线| 国产原创自拍| 成年在线视频日本亚洲在线视频区精品江靖宇公司 | 天天操人人操狠狠插| 国产精品播放| 看全色黄大色大片免费视频| 欧美综合自拍| 熟女乱3伦999| 操www| 免费精品人妻一区二区三| 欧美岛国精品在线观看| 免费αV在线视频| 中文字幕国产| 97干在线视频| 九九玖玖精品| 蜜臀th| 91亚洲黄色网| 国产精品一二三区18| 樱花蜜乳av| 性爱av在线免费观看| 九九99久久| 超碰性爱97| 97超碰免费生活| 深爱伊人影院| 国产精品第一页国产大屁股视频免费区i| 国产精品经典一卡久久久| 亚洲av无线观看| 婷婷五月综合激情| 一区二区不卡| 久久久偷拍| 日本成a人v网站在线观看| 久久精品一区二区| 亚洲一卡二卡在线免费| 久久黄色视频一区二区三区 | 熟女中出视频| 青青草久草AV| 超碰午夜| 美国日韩黄色片| 亚洲色图超碰在线| 天天综合网亚洲综合网| 亚洲情色综合| 日韩不卡av一二三| 久久久穴999| 蜜臀99久久精品| 国产精品不卡av免费在线观看| 久久久亚洲熟妇熟女| 日韩人妻制服丝袜av| 国产 v乱码一区二| 五月天激情国产综合婷婷婷| 中文在线久久字幕| 干超碰碰熟女| 成人性爱美曰韩| 玖玖综合.com| 欧美丝袜中文字幕07在线| 中文字幕乱码人妻二区三区| av爱爱爱| 婷婷丁香五月激情啪啪| 天天添天天干电影| 九九九九热| 亚洲福利中文字幕在线| 777奇米影视777四色| 久久久九九网站| 超碰中文字幕人妻草一区| 色激情综合网站| 99热这里都是精品| 人人操人人爽人人操人人| 亚洲极品| 亚洲永久永久永久永久一级一级一级精品| 久久婷五月| AV无码久久久精品| 91痴汉| 草莓精品视频| 欧美91网| 欧美一级特黄淫片在线观看| 男女无套 免费网站| 情色五月天就去干| 九九九国产| 国产精品白丝在线播放| 歐美性天天| 亚洲精品 欧美精品| 亚洲高清少妇| 免费男人的天堂| 欧美日韩资源| 天天艹天天日| 操亚州| 欧美日韩亚洲一区二区在线观看| 美女黄页网站| 97资源免费视频| 啊啊啊操一区| 久久久久国产精品片区无码直播| 国产又粗又大硬免费色网视频| 91N综合网在线| 99国产精品人妻人伦| 在线中文字幕极品av| 中国AAAAAA黄色片| 久久久不卡| 日本不卡高清免v欧美日韩在线观看| 欧美另类色图片| 麻豆一区二区三区精品| 96久久久久久久| 都市久久精品激情亚洲| 啪啪综合网| 天天综合网1| 超碰在线一区二区三区| 男男H黄动漫啪啪无遮挡网站| 在线电影亚洲色图| 无码人妻丰满熟妇奶水区毛片| 99热99色| 五月天大香蕉| 国产情侣自拍在线播放| 在线看片国产精品每日更新| 中文字幕美女91| 女人天堂av在线播放| 亚洲欧美97√| 欧美综合色,www| 变态另类专区| 可乐操亚洲蜜911| 色天使AV天堂| 天综合网| 韩国国产欧美情侣视频在线| AAAA级日本片免费视频| 夜夜操狠狠操| 性欧美| japan日本高清乱xxxx| 欧美亚男人的天堂| 亚洲天堂2020| 九九色热| 校园春色 亚洲| 精品一区二区三区18| 欧美亚洲AN| 久操在97| 欧美自拍网| 男人精品区| 久久久久斤小| 女性喷水高潮在线观看| 97天天爽| 天天肏天天干| 狠狠躁AV| 精品国产三级av韩国在线| 人妻激情另类| 亚州欧美色图| julia在线观看久久| 少妇久久久| 尻女朋友一夜| 在线视频免费观看午夜| 台湾佬中文娱乐自偷自拍| 欧美男人天堂| 亚洲丝袜B诱惑| 内射老妇BBWX0C0CK| 自拍丝袜美腿人妻| 无码最新| 激情内射| 天天色粽合合合合合合合| 久久精品28| 91视频国品一二三区| 婷婷五月天激情四射| 超碰在线免费一区二区三区| 99热在线只有精品| 一区二区乱码福利| 一线黄色免费性爱片| 丁香婷婷色五月| 日韩性爱电影一区| 夜夜骑操视频| 超碰av在线| 91美女视频| 欧美色66| 精品一二三区久久AAA片| 青青草原成人| 精品久久視頻在线| 免费福利视频中文字幕| 波多野结衣先锋影音| 日日操丁香五月天| 亚洲色堂免费视频| 超碰 欧美| 免费的黄片有限公司| 99九九精品| 麻豆成人av| 国产精品ww久久| 亚洲九区| 啊啊啊啊好大好硬啊啊啊啊啊| 女性91网站| 精品少妇一区二区三区在线视频| 麻豆区99999| 日韩91网站| 五月天玖玖资源站| 婷婷精品国产一区二区三区日韩| 色爱亚洲| 99久久婷婷| 久久偷偷色综合蜜桃| CCYY草草影院地址入口| 猛交交| 91高跟美女在线播放| 先锋激情∨在线视频播放| 成人精品久久| 久久99精品九九久久久婷婷| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 羞涩视频| 激情四射婷婷六月天| 青娱乐亚洲热| 国内自拍 日韩激情 99| 爱妃国产亚洲视频中文字幕| 精品美女少妇一区二区| 丰满精品人妻少妇久久字幕| 91neishe| 91free福利| 樱花蜜乳av| 亚洲爽图| 国产又粗又长视频| 欧美青青草视频| wwe 天天干.com| 人妻久久久久久久久久久久久久久 | 九九激情网| 自拍视频大全亚洲专媒视频/一区二区三区| 啊啊啊免费视频| 国产精品青青草| 丁香色狠狠色综合久久小说| 岛国小电影| 后入人妻无码| 久久曰曰| 国产乱婷婷精品二区三区| 五月天啪啪| 欧美人人AAA| 日本免费专区| 午夜乱轮操逼视频免费看| 精品人妻中文字幕高清| 天天爱天天操| 嗯阿好爽好紧| 玖草在线视频| 精品国产99| 老司机老司机午夜影院| 男人天堂最新手机版在线青青草| 色婷婷香蕉| 国产极品馒头逼| 91欧美偷拍| 国产精品亚洲天堂网址| 青青草国产一区二区三区| 狠狠操综合| 欧美色999| 亚洲激情天堂网| 99色色网| 乱操乱伦AV| 欧美成人国产精品| 熟女性视频| 超碰超碰超碰超碰的大鸡吧操黑丝袜 | 牛牛aV| 日韩性爱电影一区| 日韩黄色成人性爱| 激情丁香婷婷| 95人妻爽爽人人做人人澡| 天天做天天爱天天高潮| 亚洲日产专区| 日韩一999精品| 一区二区首页| 欧美激情久久久久| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 爱我干综合| 99综合免费视频| 人妻激情另类| 打av高清| 超碰久久精品| 亚洲 欧美 日本 国内 首页| 中文有码9| 91人妻少妇| 另类亚洲一区二区三区| 国产一级内射无挡观看| 国产中文字幕曰本毛片| 免费中文在线| 91操碰| 日本九九久久99播| 韩日巨乳美女免费视频在线观看| 综合色久欲| 超碰人妻久久| 黄片qw| 人人爱人人操人人性| 成人精品在线| 亚洲城人男人的天堂| 黄呦呦在线| 竹菊一区二区三区AV线| 中文字幕精品探花视频 | 东京热91| 另类亚洲一区二区三区| 熟女中出视频| 久久久999日本大片| 最新日韩黄片| 日韩欧美俄罗斯A片| 飘花国产午夜精品不卡| 一区在线精品中文字幕| 日韩猛交| 97久久超碰日韩精品| 美国三级日本三级久久99| 大香蕉伊人在线成人AV在线观看 | 久九色| 色悠悠伊人网五月天| 97在线资源| 裸体1区| 密臀视频一区二区三区| 99精彩视频| 综合激情97 | 国产九九久久久精品| 蜜桃狠狠色伊人亚洲综合| 蜜臀久久99精品久久久| 中文字幕亚韩| 欧美综合色站| 91亚洲综合在线| 久久黄色视频一区二区三区| 91视频国品一二三区| 亚洲操逼无码| 综合国产影视三级| 逼操网站| 无码 有码 国产18p| 强奸乱伦资源| 亚洲图片欧美在线视频| 欧美一区二区亚洲天堂| 国产不良强奸视频免费看| 风流老熟女一区二区三区l| 欧亚乱色熟一区二区三四区| 亚洲图片视频小说| 青娱乐国产精品| 啊啊啊啊啊好大好舒服想要| 少妇久久久久久久| 六月天婷婷| 欧美日韩97在线| 91搞逼视频| 中文字幕天天天天天| 女生久久网| 日本午夜久久电影| 舔人妻中文免费视频| 久久精品日韩| 欧美 牲| 极品欧美一区二区三区| 久热伊人99re| 九九九九热| 五月丁香综合网| 中文字幕黄色一起草| 精品国产精品一区二区| 91色伦| 国产亚洲禁久一区二区| 黑人干亚洲| aaaa少妇高潮大片| 一区二区三区四区在线不卡| 国产精品一区二区校花| 亚洲欧洲成人在线电影| 国产综合色精品在线观看| 国产精品熟女九色九色蜜臀| 欧美成人午夜免费福利785| 天美国产三级传媒| 99在线啪| 水多多映视AV| 五月婷亚洲精品天堂| 色综合久久88色综合久久天天| 天天日天天屌天天操| 日本免费人成视频播放120秒| 丝袜美腿校园春色| www.91理论| 亚洲自拍青操视频| 婷婷激情综合网| 国产三级片在线观看| 爱爱60秒免费视频| 日本性爱视频一级| 91天天c| 久草在| 伊人嫩草| 国产成年女人免费视频播放a| 五月婷婷激情综合| 日本顶级天天操狠狠操夜夜操中文字幕| 操熟女91| 色综合尤物| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 狠狠狠狠狠干| 97天天在线| 自怕偷自怕亚洲精品| 97天天爽| 久久免费9| 精品少妇一区二区三区在线视频| 欧亚成人在线视频| 五月婷婷丁香六月丁香| 精品偷拍13p欧美dodk视频| 欧美九一精品久久久熟妇| 久久久久久久人妻| 亚洲精品成人动漫在线| 亚洲素人综合| 色月天AV导航| 欧美黄片欧美黄片xxx| 97超碰色情| 性色av一区二区| 五月丁香婷婷啪啪| 免费看片黄| 五月天日日操夜夜操| 亚洲男人天堂2012| 思思热免费视频观看| 亚洲自拍偷拍视频在线| 天天影视之亚洲综合网| 欧洲综合视频| 免费毛片在线播放| 妇女性内射冈站HDWWWCOM| 亚洲校园激情| 啊啊啊不要啊啊受不了了视频在线| 日韩黄色成人性爱| Sekablack无码一区| 欧美黑人与女人91| www.男人天堂| 四虎AV无码| 99热伊人| 国产精品欧美日韩久久| 私人尤物在线精品不卡| 福利社区午夜一区二区| 久日91在线| 国产男人又猛又粗又爽| 国产久9| 农村妇女一级二级三级视频| 亚洲在线欧美| 青青草黑寡妇男人天堂| 小视频玖玖| 丁香五月色情| 综合亚洲欧美精品日韩?v| 欧中美三级一区二区三区| 色网在线| 91人妻视频| 国产超碰国产97| 熟女人妻一区二区三区| 日韩激情电影中文字幕| 麻豆色约约| 美女91av| 亚洲欲| 天堂资源欧美| 91国产丝袜白虎| 国产伦乱91| 中文字幕在线观看网址| 丰满搜索结果 -第18页- 久久高清无码| 亚洲欧美精品国产一区二区| 91超碰在线播放| 欧美日韩性爱视屏免费看了| 92一区二区| 欧美久久人妻少妇一区二区| 国产精品无码av在线 | 亚洲国产午夜真人一级片中文字幕精品黄网站 | 香蕉久久精品| 午夜电影在线观看无码专区| 伦理第一页| 欲射影视| 大香蕉五月天婷婷| 亚洲97成人在线观看| 中文字幕AV片| 98色网| 免费簧片在线观看| 日日操夜夜操天天操免费观看麻豆| 夜夜夜夜夜夜夜夜夜狠狠狠狠狠狠狠 | 天天夜躁日日躁狠狠2002| 999久久久国产精品| 啊啊啊啊好疼| 91成人无码| 男人天堂2030| 亚洲色天| 欧美激情综合网| 最新亚洲黄色免费电影| 欧美性爽xyxOOOO| 天堂无码| 亚洲欧洲日本精品中文a∨| 国产一国产一级毛片古装| 日产操逼| 久久久久亚洲av综合波多野制衣| 国产精品成人AV片免费看网站 | 日韩人妻精品| 久久久无码精品人妻二区| 亚洲天在线| 欧美 亚洲精品首页| 伊人操| 亚洲图片欧美另类综合免费视频大大香| 91精品少妇搡搡搡| 久久久久国色αv免费观看| 久伊人网78| 黄骗免费网站| 无码高清国产AV| 日本视频一区二区三区| 蜜乳av首页| 99热精品在线在线| 天天日日日射| 一区三区啪啪| 九九热精品| 91N综合网| AV高清一区| 精品精品精品| 人妻少妇一区二区| 一区三区啪啪| 一级久久久久久久久久久| 操逼片国产| 美日韩一二三区| 亚州熟妇精品| 97超碰欧美精品| 黄片视频观看| 亚洲第一无码播放立川理惠| 久久久久9| 91美乳| 久久精品国产97欧美精品亚洲 | 国产污视频麻豆传媒一区二区| 加勒比人妻综合| av天堂加勒比| 免费的黄片有限公司| 97欧美性爱| 熟女少妇视频| 好好的日:com久久九九| 成人精品电影| 久久免费老司机精品| 99热网站| 色噜噜狠狠色综无码久久合欧美| 深田咏美亚洲精品福利社| 亚洲啪啪视频一区二区| 美国aaaaa一级黄片| 国产精品成人蜜臀AV在线| 天天激清| 色综合加勒比| 91色色网站| 欧美巨大性舒爽顶到了| 中文字幕欧美丝袜07资源| 怡红院亚洲怡春院av| 国产二区三区粉嫩在线| 欧美情色男人的天堂| 天天做天天爱天天爽AV| 东北老女人的激情视频| 久久9精品视频| www.婷婷| 天天操av懂色| 开心五月激情网| 色婷婷五月综合| 中文字幕视频在线观看一区二区| 欧亚不卡| 欧美91精彩| 另类欧美综合| 四虎在线观看网站| 精品夜夜澡人妻无码AV| 国产强上视频在线观看| 91天堂视频| 女人久久久| 久久婷五月| 天天弄欧美| 亚州综合网| 婷婷尹人大香蕉免费| 欧美日韩国产人人| 国产精品久久久久久照片| 日本伦理一区二区| 伊人九九九| 国产动漫操逼视频| 国产AB视频| 国产精品久久久久久久电影渣男| 久久秀这里有精品| 亚洲丝袜诱惑| 激情专区综合| 1204人成网站色www| 一级特级aaaa毛片免费观看| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 久久久久久久久久黄色网| 中出20p| 国精综合一二三区影视| 大JI巴好深好爽又大又粗视频| 欧美色五月| 天天色播| 日本一区二区三区欧美日韩中文字幕| 亚洲蜜臀视频精品久久| 国产不卡中文字幕免费avi| 精品国产乱码久久久久久网站入口| 一本久道久久综合狠狠爱| www男人天堂| 久久草在线综合视频| 久久熟女嫩草成人片免费| 国产精品人妻无码久久久老鸭窝| 99re6久热只有精品6在线直播 | 4虎在线视频| 丁香五月综合| 亚洲性少妇| 91久久免费视频互動交流| 厕所偷拍在线| 中文字幕日韩电影人妻| 男女日B国产| 在线视频免费播放一区| 青青草视频导航官网| 啊啊嗯嗯好爽| 欧美国产伊人久久久久| 一区二区三区成人 | 一区二区三区四区色图| 中文字幕第95页| 伊人网综合在线视频| 91原创在线观看| 深夜视频| 五月婷在线| 久操影视| 91人妻做a观看视频| 青草香蕉网| 亚洲色狠| 97亚洲综合电影| 精品久久久久久久| 日本肉体xxxx裸交| 色偷综合| 亚洲97久久精品亚洲| www.高清无码诱惑一区.com| 亚洲人妻久久| 人人爽天天爽| 免费成人自拍视频在线| 亚洲.欧美.丝袜.中文.综合| 91中文精品日韩欧美在线 | 欧美天天射| 混色激情av| 好淫网一二三视区| 激情熟女12P| chaopen97久久| 最新中文字幕精品在线| 精品999一区二区| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 91 丝袜在线| 草莓精品视频| 国产1024在线播放| 青青草久草AV| 欧美淫穴| 欧美强奸乱能| 精品午夜福利| 风月影院男女十八禁| 国产天美欧美| 老熟妇一区二区三区…| 男人天堂资源| 男人成人黄色视频在线观看免费下载| 欧美日韩成人在线| 大香蕉www.超碰| 国产一区二区在线播放| 亚精品无码毛片一区二区三区| 噜噜吧,噜噜色,噜噜| 亚洲国产av中文字幕久久| 成人青青草原伊人| 日韩超碰精品综合| 日韩精品 资源| 啪啪啪精品视频| 欧美一区二区男人天堂| 91大香蕉伊人| 欧美在线大香蕉| 激情婷婷丁香| 国产无码一二三区| 中文精品一区二去| 国产午夜精品理论片a大结局| 精品无码一区二区人妻久久蜜桃| 人人爽天天爽| 99综合网| 岛国片国产成人亚洲播放| 久久香蕉国产线看观看猫咪av| 91高潮| 99re不伦| 黄片不用下载在线观看| 三久久久四久久久久| 精品久久九| 极品尤物在线观看| 影音先锋日本乱伦| 午夜视频久久久| 亚洲色图久久成人| 2019久久久久久久久福利| 97精品久久久久中文字幕| 十八禁视频一区二区| 亚洲国产美女久久久久| 91亚洲欧美激情| 欧洲亚洲人妻无码高清久久三区四区| 91丝袜激情在线| 成人A片男人的天堂| 蜜臀亚洲中文| 人夜夜精品网站香蕉嫩草| 999国产精品999| 亚洲国产丝袜熟女av| 婷婷五月天无码 | 大香蕉日韩| 亚洲综合射| 亚洲男人天堂2012| 国产吞精a级片激情电影| 久久这里只精品免费福利| 欧美天天影院| 美女超碰978| 女人高潮大叫一级毛片| 亚洲图片婷婷五月天| 试看60秒 爽| 久久久久婷婷精品av电影| 欧美色997| 99丝袜福利在线播放| 久久一区二区蜜桃| 97公开久久| 日日日色色色色色| 久久亚州大香蕉| 欧美草草| 欧美大的香蕉有线电视视频| 伊人九九九| 亚洲情色综合| 69一区二区| 亚洲欧美国产va在线播放频| 肏逼视频日本| 欧美日韩色综合网| 少妇一区二区三区高速| 成人 日本A片无码8888| 亚洲日韩成人性爱视频| 精品性爱一区二区| 丁香五月av| 无码欧美有限公司| 啊操爽品善一区二区三区| 亚洲情色在线| 久久久精品视频欧州站| 天天操妹子| 国产一级高清免费观看| 久久久四区| 嗯嗯嗯啊啊啊操的我好爽| 极品色综合| 国产精品天美传媒| 9精品久久久久| 美日韩一卡二卡三卡免费人妻精品| 91精品导航| 国厂麻豆77q4| 天天舔天天 | 成人性交免费视屏| 亚洲91色在线| 欧美日韩成人| 欧成人精品H无码| 久久久999国产精品| 亚欧美综合网。| 精品一区二区啪啪啪| 亚洲精品中文字幕一区在线视频 | 久久久久921| 亚洲三级网址久久最新| 欧美黄片视频在线观看免费| 国产精品4p在线观看| 久操精品网|