久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

嵌入式Linux根文件系統(tǒng)構(gòu)建實戰(zhàn):BusyBox從編譯到NFS掛載全流程

嵌入式Linux根文件系統(tǒng)構(gòu)建實戰(zhàn):BusyBox從編譯到NFS掛載全流程 1. 項目背景為什么嵌入式Linux離不開BusyBox1.1 從一片空白到最小可運行系統(tǒng)剛接觸嵌入式Linux那會兒我最直觀的困惑是開發(fā)板拿到手bootloader起來了kernel也加載了但是文件系統(tǒng)掛載失敗屏幕上一行Kernel panic - not syncing: VFS: Unable to mount root fs直接把你釘在原地。這種時候你才真正意識到內(nèi)核只是操作系統(tǒng)的一半另一半是用戶空間而用戶空間最基礎(chǔ)的那一層就是根文件系統(tǒng)。構(gòu)建根文件系統(tǒng)有很多方式你可以用Buildroot一鍵生成也可以用Yocto跑一個完整發(fā)行版。但回到原點思考——如果讓你徒手從一個空目錄開始把/bin、/sbin、/etc、/lib這些基礎(chǔ)骨架搭起來用什么東西填充里面的命令全用GNU coreutils那光/bin和/usr/bin下的可執(zhí)行文件加起來就幾百MB這還不算它們各自依賴的共享庫。嵌入式設(shè)備存儲空間按MB計算、內(nèi)存按幾十MB計算這種方案顯然不現(xiàn)實。BusyBox就是來解決這個問題的——它把三百多個常用的Unix命令壓縮進一個不到1MB的靜態(tài)編譯二進制里用一套精巧的機制響應(yīng)不同命令名的調(diào)用這就是它被譽為“嵌入式Linux的瑞士軍刀”的原因。1.2 一個二進制文件如何撐起整個用戶空間BusyBox的核心思路用一句話說就是“多合一”。它的實現(xiàn)方式很巧妙所有命令邏輯都編譯進同一個可執(zhí)行文件程序啟動時通過argv[0]也就是被執(zhí)行時使用的命令名來判斷自己應(yīng)該扮演哪個角色。當你在終端敲ls時如果/bin/ls是一個指向/bin/busybox的符號鏈接系統(tǒng)執(zhí)行的就是BusyBox二進制而BusyBox在初始化時判斷argv[0]是ls就路由到對應(yīng)的applet處理函數(shù)。這個設(shè)計的好處非常明顯代碼共享率高一個printf、一個malloc、一套字符串處理函數(shù)被幾百個命令共用磁盤占用極小運行時內(nèi)存占用低因為指令段只有一份。當然也有代價——每個命令的功能都是“夠用就好”的精簡版復(fù)雜參數(shù)和高級特性往往缺失性能也未必比得上原生GNU工具。但嵌入式場景下穩(wěn)定可靠、夠用、資源占用低這三點比強大的功能集重要得多。1.3 從最小系統(tǒng)到完整產(chǎn)品適用場景全梳理BusyBox適合誰這問題得分層面來看。如果你在做資源極度受限的IoT設(shè)備Flash只有4MB、內(nèi)存只有32MB那BusyBox不是選項之一而是幾乎唯一的選擇。如果你的產(chǎn)品是基于ARM Cortext-A系列的應(yīng)用處理器跑Linux做網(wǎng)關(guān)、工控HMI、邊緣計算節(jié)點BusyBox同樣能撐起底層的文件系統(tǒng)基礎(chǔ)上層跑Qt或AWTK等GUI框架毫無壓力。在基于AWTK的嵌入式Linux項目里根文件系統(tǒng)通常就是用BusyBox打底再去掉不需要的組件塞進圖形庫和應(yīng)用程序。BusyBox很貼心地提供了CONFIG_FEATURE_*這一系列配置項你可以精確到“去掉traceroute”、“保留telnetd”、“把vi換成完整版”這種顆粒度。本次實戰(zhàn)我會帶著你從編譯BusyBox開始一路做到內(nèi)核NFS掛載根文件系統(tǒng)、集成Dropbear開啟SSH、用mdev管理設(shè)備節(jié)點最終得到一個可遠程登錄、可掛載U盤、可跑應(yīng)用程序的完整嵌入式Linux環(huán)境。2. 原理拆解BusyBox的applet調(diào)度機制與動靜編譯選擇2.1 從argv[0]到applet表一次命令調(diào)用的完整旅程很多人以為BusyBox是通過“每個命令都是硬鏈接”來區(qū)分行為的這個說法只對了一半。先看編譯層面的設(shè)計BusyBox的源碼里有一個applet列表每個applet注冊了名字、main函數(shù)入口、幫助信息、可選特性標志。編譯時這個列表被展開成一個查找表而busybox.c里的main()函數(shù)就是總?cè)肟凇.斈阍趕hell里敲下ls -l并回車內(nèi)核通過execve()加載/bin/busybox這個可執(zhí)行文件同時把argv[0]設(shè)置為ls。BusyBox的main函數(shù)拿到argv[0]后會先從完整路徑里提取出最后的文件名部分去掉/bin/前綴然后在applet表中做二分查找。找到對應(yīng)條目后調(diào)用該applet的main函數(shù)并把argv原封不動傳過去。這里有個細節(jié)值得琢磨BusyBox還支持busybox ls -l這種顯式帶命令名的調(diào)用方式。也就是說即使所有符號鏈接都不存在你仍然可以執(zhí)行任意內(nèi)置命令只要在busybox后面跟命令名就行。這在急救場景下特別有用——系統(tǒng)里符號鏈接壞了但busybox這個二進制還在就能用它恢復(fù)整個/bin目錄。2.2 符號鏈接與硬鏈接之爭鏈接方式對存儲和升級的影響B(tài)usyBox安裝時make install會在目標目錄下創(chuàng)建每個applet對應(yīng)的符號鏈接或硬鏈接。默認是符號鏈接它指向/bin/busybox。符號鏈接的好處是清晰易懂ls -l /bin/ls一眼就能看出它指向哪里排錯方便。壞處是在某些文件系統(tǒng)上比如FAT格式的SD卡符號鏈接支持不好或者跨文件系統(tǒng)做chroot時解析會出問題。硬鏈接則沒有“指向”的概念/bin/ls和/bin/busybox是同一個inode的多個名字不占額外數(shù)據(jù)塊也不存在“懸空的符號鏈接”問題。但硬鏈接不能跨文件系統(tǒng)也不行鏈接目錄這在某些場景下反而是限制。實際項目里怎么選我的經(jīng)驗是常規(guī)ext4或jffs2根文件系統(tǒng)用符號鏈接沒問題但如果你要把BusyBox放進一個只讀的squashfs分區(qū)同時/bin目錄需要可寫那就會把busybox放在只讀分區(qū)在可寫分區(qū)里用符號鏈接指向它——這時候符號鏈接反而是更靈活的選擇。2.3 靜態(tài)編譯還是動態(tài)編譯一個影響全局的決定BusyBox的編譯模式分兩種靜態(tài)鏈接和動態(tài)鏈接。靜態(tài)編譯會把所有依賴的libc代碼直接鏈進busybox二進制運行時不再依賴任何共享庫動態(tài)編譯則依賴目標板上的libc.so和ld-linux.so。別看只是編譯參數(shù)的區(qū)別這個選擇直接決定你的根文件系統(tǒng)怎么做。靜態(tài)編譯的busybox只有一個文件把它拷到任何位置只要有內(nèi)核就能跑非常適合ramdisk或initramfs場景——內(nèi)核加載完initramfs后里面的busybox不需要任何外部依賴立刻就能啟動init進程。代價是二進制體積偏大一般是動態(tài)版的1.5到2倍。動態(tài)編譯的busybox大約只有三百多KB但代價是你必須在根文件系統(tǒng)里帶上相應(yīng)的C庫。用glibc的話庫文件加起來一百多MB用musl的話只需要一個libc.so約700KB左右非常精致。我個人的建議如果Flash和內(nèi)存都寬裕64MB以上直接用glibc動態(tài)編譯工具鏈兼容性最好調(diào)試階段也少很多因為庫缺失導致的怪問題。如果資源緊張不如放棄glibc整體切到musl而不是在glibc體系里糾結(jié)精簡。2.4 剪裁的藝術(shù)config配置平臺的組合優(yōu)化BusyBox沿用了內(nèi)核的Kconfig配置體系make menuconfig進去能看到和內(nèi)核配置幾乎一樣的交互界面。這里面有幾個關(guān)鍵的配置分組Busybox Settings - Build Options靜態(tài)編譯開關(guān)、交叉編譯前綴都在這里Coreutils、Shells、Networking等分類按需勾選命令Busybox Settings - Applets是否允許以busybox 命令名方式調(diào)用Busybox Settings - General Configuration是否啟用unicode支持、是否啟用long options剪裁原則是“跑起來優(yōu)先然后按需迭代”。第一次編譯不必執(zhí)著于最小化先保證系統(tǒng)能通過串口或網(wǎng)絡(luò)登錄、能執(zhí)行基礎(chǔ)的ls/cat/mount/ifconfig再根據(jù)業(yè)務(wù)需要增加或刪除。我曾經(jīng)為了把根文件系統(tǒng)壓縮到1MB以內(nèi)一臺設(shè)備一個命令一個命令地刪刪到telnetd能用、boa能起、業(yè)務(wù)進程能跑就行——但那屬于后期產(chǎn)品定型階段的精細化工作初學者不要在這個階段花太多時間。3. 實戰(zhàn)準備交叉工具鏈、目錄骨架與庫依賴3.1 工具鏈選型與編譯環(huán)境搭建動手之前先確保主機上有交叉編譯工具鏈。最常見的選項是gcc-arm-linux-gnueabihfARM 32位硬浮點或aarch64-linux-gnu-gccARM 64位。Ubuntu上安裝非常直接sudo apt install gcc-arm-linux-gnueabihf安裝完驗證一下arm-linux-gnueabihf-gcc --version輸出正常后把交叉編譯器的bin目錄加進PATH。接下來準備一個工作目錄我習慣這樣組織mkdir -p ~/embedded/rootfs/{bin,sbin,etc,proc,sys,dev,lib,usr,tmp,var,mnt} cd ~/embedded這個目錄結(jié)構(gòu)基本就是最終根文件系統(tǒng)的骨架。先建出來后續(xù)編譯完往里填內(nèi)容就行。3.2 BusyBox交叉編譯一份可以直接照抄的配置流程從官網(wǎng)下載穩(wěn)定版BusyBox源碼目前常用的版本是1.33.x到1.36.x。解壓后進入目錄tar xf busybox-1.36.1.tar.bz2 cd busybox-1.36.1執(zhí)行make menuconfig之前先設(shè)置環(huán)境變量指定交叉編譯前綴export ARCHarm export CROSS_COMPILEarm-linux-gnueabihf- make menuconfig在菜單里重點改這幾項Busybox Settings - Build Options - Build BusyBox as a static binary如果想省事直接編譯成靜態(tài)版可以避免后面處理庫依賴但要跑動態(tài)應(yīng)用如AWTK程序還是要動態(tài)編譯并正確指定CONFIG_SYSROOT退出保存后編譯make -j$(nproc) make install CONFIG_PREFIX~/embedded/rootfsCONFIG_PREFIX指定安裝路徑執(zhí)行完你就會看到rootfs目錄的bin、sbin下堆滿了指向busybox的符號鏈接。到這里BusyBox本身已經(jīng)部署完畢但要讓系統(tǒng)完整跑起來還有幾件事必須做。3.3 動態(tài)庫依賴分析別讓“No such file or directory”坑了你動態(tài)編譯模式下把busybox拷到目標板執(zhí)行時最經(jīng)典的問題不是“command not found”而是“No such file or directory”——文件明明存在卻報這個錯根因是動態(tài)鏈接器路徑不對或依賴的共享庫缺失。用交叉工具鏈的readelf檢查依賴arm-linux-gnueabihf-readelf -d ~/embedded/rootfs/bin/busybox | grep NEEDED輸出會列出libc.so.6、ld-linux-armhf.so.3等依賴項。把對應(yīng)的庫文件從交叉工具鏈的sysroot里拷貝到根文件系統(tǒng)的/lib目錄。sysroot一般在這個路徑下arm-linux-gnueabihf-gcc -print-sysroot找到后把lib目錄下的libc.so.6、ld-linux-armhf.so.3、libm.so.6拷過去。需要注意的是某些庫是符號鏈接cp -a保留鏈接屬性別用普通cp把它們拍平了。3.4 /etc目錄初始化inittab、fstab與系統(tǒng)啟動腳本Linux用戶空間的啟動起點是init進程。BusyBox內(nèi)置了init實現(xiàn)它的配置在/etc/inittab語法比SysVinit簡單得多。一個最小可用的inittab長這樣::sysinit:/etc/init.d/rcS ::askfirst:-/bin/sh ::restart:/sbin/init ::ctrlaltdel:/sbin/rebootsysinit行在系統(tǒng)啟動最早階段執(zhí)行rcS腳本askfirst在串口上拉起一個交互shellrestart和ctrlaltdel則是常規(guī)的信號處理。fstab文件也建議創(chuàng)建雖然BusyBox的mount不一定讀取它但很多腳本和工具比如mount -a依賴這個文件的存在proc /proc proc defaults 0 0 sysfs /sys sysfs defaults 0 0 tmpfs /tmp tmpfs defaults 0 0 devtmpfs /dev devtmpfs defaults 0 03.5 設(shè)備節(jié)點devtmpfs與mdev的雙保險設(shè)備節(jié)點是Linux用戶空間訪問硬件的接口歷史上需要手動mknod創(chuàng)建每一個設(shè)備節(jié)點極為繁瑣?,F(xiàn)代內(nèi)核支持devtmpfs掛載/dev時內(nèi)核自動填充常見設(shè)備節(jié)點這已經(jīng)解決90%的問題。BusyBox還提供了一個叫mdev的守護進程或觸發(fā)式工具用于熱插拔管理和動態(tài)加載驅(qū)動。在rcS腳本里加上這兩行就能啟用echo /sbin/mdev /proc/sys/kernel/hotplug mdev -s第一行告訴內(nèi)核當設(shè)備熱插拔發(fā)生時調(diào)用/sbin/mdev來做用戶空間處理第二行讓mdev掃描并創(chuàng)建設(shè)備節(jié)點。如果你的內(nèi)核開啟了CONFIG_DEVTMPFS_MOUNT甚至這一步都可以省但很多嵌入式內(nèi)核配置精簡所以保留mdev機制是更穩(wěn)妥的做法。4. 深度實操從NFS掛載根文件系統(tǒng)到系統(tǒng)自啟動全流程4.1 宿主機NFS服務(wù)配置與內(nèi)核啟動參數(shù)調(diào)試階段最推薦的方式是NFS掛載根文件系統(tǒng)rootfs放在開發(fā)機上開發(fā)板通過網(wǎng)絡(luò)加載內(nèi)核后掛載開發(fā)機上的rootfs目錄。這樣做的好處是迭代速度極快——修改rootfs里的任何文件開發(fā)板重啟即生效不需要反復(fù)燒寫Flash或制作SD卡鏡像。在開發(fā)機上安裝并配置NFS服務(wù)sudo apt install nfs-kernel-server編輯/etc/exports加入一行/home/yourname/embedded/rootfs *(rw,sync,no_root_squash,no_subtree_check)no_root_squash很關(guān)鍵它允許開發(fā)板上的root用戶對rootfs目錄擁有完整權(quán)限否則板上創(chuàng)建設(shè)備節(jié)點會失敗。然后導出并確認sudo exportfs -ra showmount -e開發(fā)板的U-Boot啟動參數(shù)里加上“root/dev/nfs nfsroot服務(wù)器IP:路徑, v3 ipdhcp”等根據(jù)你的實際網(wǎng)絡(luò)環(huán)境調(diào)整。我的常用啟動參數(shù)組合是setenv bootargs consolettyS0,115200 root/dev/nfs nfsroot192.168.1.100:/home/user/embedded/rootfs,v3,tcp ipdhcp如果網(wǎng)絡(luò)環(huán)境固定也可以設(shè)靜態(tài)IP減少DHCP帶來的不確定性ip192.168.1.50:192.168.1.100:192.168.1.1:255.255.255.0::eth0:off4.2 首次啟動的排障要點從串口日志定位問題NFS掛載根文件系統(tǒng)常見的坑不少串口日志是最好的朋友。內(nèi)核輸出中如果看到VFS: Mounted root (nfs filesystem) on device 0:15說明掛載成功后面就交給BusyBox的init了。比較典型的報錯是Root-NFS: no NFS server responded字面意思是開發(fā)板沒收到NFS服務(wù)的響應(yīng)。排查順序是先ping開發(fā)機IP通了之后在開發(fā)板上用mount -t nfs 192.168.1.100:/path /mnt手動掛一次這樣能快速區(qū)分是網(wǎng)絡(luò)問題還是NFS配置問題。還有一層容易忽略的是防火墻Ubuntu默認的ufw可能攔掉了NFS端口臨時關(guān)掉或放行端口都能解決。另一個容易踩的坑是NFS版本不一致。BusyBox的mount命令和內(nèi)核的NFS客戶端支持v3和v4但某些環(huán)境下v4的掛載會報Operation not supported。我傾向于在nfsroot參數(shù)里顯式加v3兼容性最好。4.3 rcS腳本編排系統(tǒng)服務(wù)的啟動順序與依賴根文件系統(tǒng)掛載成功、內(nèi)核啟動init后第一個真正交給用戶的腳本就是/etc/init.d/rcS。這個腳本的編寫質(zhì)量直接決定系統(tǒng)的穩(wěn)定性。我習慣把rcS按功能段劃分#!/bin/sh # 1. 基礎(chǔ)文件系統(tǒng)掛載 mount -a # 2. 設(shè)備節(jié)點與熱插拔 echo /sbin/mdev /proc/sys/kernel/hotplug mdev -s # 3. 網(wǎng)絡(luò)配置 ifconfig eth0 up udhcpc -i eth0 # 4. 啟動Dropbear SSH服務(wù) /usr/sbin/dropbear -R # 5. 啟動業(yè)務(wù)進程 /usr/bin/my_app “啟動順序”這件事看似平常實際上有很多講究。mount -a必須最先執(zhí)行因為后續(xù)很多操作依賴/proc和/sys下的信息mdev的初始化要在任何涉及設(shè)備操作的進程之前完成否則設(shè)備節(jié)點缺失會導致后面流程靜默失敗。業(yè)務(wù)進程放最后保證底層環(huán)境已就緒。另外要注意rcS里的后臺進程要加否則會阻塞后續(xù)腳本的執(zhí)行。4.4 U盤測速方案用BusyBox自帶工具完成性能驗證拿到一個根文件系統(tǒng)很多人會懷疑它的實際I/O性能。BusyBox提供的dd命令雖然參數(shù)精簡但做簡單的讀寫測速綽綽有余。U盤插入開發(fā)板后先看內(nèi)核日志確認設(shè)備名然后用dd跑一輪# 寫入測速寫入100MB數(shù)據(jù) time dd if/dev/zero of/mnt/usb/testfile bs1M count100 convfsync # 讀取測速從磁盤讀回并丟棄 time dd if/mnt/usb/testfile of/dev/null bs1M count100注意convfsync不能省它強制把緩存刷到物理介質(zhì)否則寫測速會虛高。讀取測速時也可用iflagdirect繞過Page Cache獲得更真實的裸盤速度。測出來的數(shù)字只是參考我在實際項目中會交替測三次取中位數(shù)并且在不同的文件系統(tǒng)格式ext4/exfat/vfat下分別測試——同一個U盤格式不同寫入速度能差好幾倍這個偏差往往比U盤本身的優(yōu)劣更大?;诖宋覟楫a(chǎn)線自測設(shè)計過一個簡單腳本用dd測完自動記錄數(shù)據(jù)并判定是否達標比人工記數(shù)字準確得多。4.5 集成Dropbear讓開發(fā)板擁有安全的SSH登錄能力BusyBox自帶了一個telnetd調(diào)試用沒問題但生產(chǎn)環(huán)境明文傳輸始終不放心。更專業(yè)的方案是集成Dropbear——一個專為嵌入式環(huán)境優(yōu)化的輕量SSH服務(wù)端。Dropbear依賴zlib和libtomcrypt等庫直接交叉編譯時需要先編譯這些依賴wget https://matt.ucc.asn.au/dropbear/releases/dropbear-2022.83.tar.bz2 tar xf dropbear-2022.83.tar.bz2 cd dropbear-2022.83 ./configure --hostarm-linux-gnueabihf --disable-zlib \ CCarm-linux-gnueabihf-gcc make -j$(nproc) make install DESTDIR~/embedded/rootfs--disable-zlib是為了省事如果對傳輸壓縮沒硬性需求可以砍掉這層依賴。Dropbear跑起來之前還需要rootfs里有/etc/dropbear目錄來存放主機密鑰mkdir -p ~/embedded/rootfs/etc/dropbear啟動時用-R參數(shù)讓它自動生成主機密鑰。第一次啟動會生成RSA和ED25519密鑰對可能需要幾秒鐘。配置完成后在開發(fā)機上執(zhí)行ssh root開發(fā)板IP就能登錄配合前面rcS里的dropbear啟動行整個系統(tǒng)就具備了遠程管理能力。不用再依賴串口線工作效率提升一個檔次。5. 系統(tǒng)功能擴展與調(diào)試技巧vfs、sync與業(yè)務(wù)軟件部署5.1 理解VFS層為什么mount之后一切才真正開始BusyBox的mount命令內(nèi)部調(diào)用的是內(nèi)核的VFS接口。VFSVirtual File System是Linux內(nèi)核的抽象層讓用戶空間不用關(guān)心底層具體是什么文件系統(tǒng)——ext4、vfat、tmpfs還是nfs大家都以統(tǒng)一的文件和目錄方式呈現(xiàn)。理解這層關(guān)系對排障很重要。比如NFS掛載根文件系統(tǒng)后在開發(fā)板上執(zhí)行df -h看到的根分區(qū)容量其實是宿主機NFS導出目錄的容量如果開發(fā)機上rootfs所在分區(qū)滿了開發(fā)板會莫名報“No space left on device”。這就是VFS抽象帶來的“障眼法”不追到宿主機那一層很難發(fā)現(xiàn)根因。BusyBox的mount命令還支持-t指定類型、-o指定掛載選項。在rcS里執(zhí)行mount -a時它會逐個解析/etc/fstab并掛載尚未掛載的文件系統(tǒng)。想讓某個文件系統(tǒng)只讀掛載就在fstab里加ro選項如果調(diào)試時希望快速看到文件更新NFS掛載選項加noac可以關(guān)閉屬性緩存代價是性能下降但調(diào)試期換來的一致性非常值得。5.2 sync與數(shù)據(jù)安全掉電保護的第一道防線嵌入式設(shè)備最怕的是突然斷電丟數(shù)據(jù)。sync命令的作用是把內(nèi)核緩沖區(qū)的數(shù)據(jù)強制寫回磁盤避免掉電導致文件系統(tǒng)損壞或數(shù)據(jù)丟失。在內(nèi)核層面page cache是異步寫回的sync會阻塞直到所有臟頁寫完。在BusyBox體系里有幾處經(jīng)常用到sync。一處是應(yīng)用寫重要配置文件后的顯式調(diào)用另一處是關(guān)機腳本里先sync再reboot。很多嵌入式系統(tǒng)直接靠斷電關(guān)機沒有執(zhí)行關(guān)機流程這種情況下如果之前寫入的數(shù)據(jù)還在cache里沒刷盤那這部分數(shù)據(jù)就丟了。雖然主流Flash文件系統(tǒng)如ubifs、jffs2有日志或?qū)憰r復(fù)制機制斷電后能保證文件系統(tǒng)整體一致但已經(jīng)寫入但未落盤的數(shù)據(jù)不一定能找回。所以我在實際項目里有一條鐵律任何一次關(guān)鍵寫入掉電需保留的配置、運行日志后業(yè)務(wù)代碼里都要調(diào)用sync()系統(tǒng)調(diào)用或者調(diào)用BusyBox的sync命令。這一點在量產(chǎn)階段的可靠性測試中體現(xiàn)得非常明顯做了sync的設(shè)備和沒做的設(shè)備掉電后配置文件損壞率完全不是一個量級。5.3 業(yè)務(wù)程序部署動態(tài)鏈接、運行庫與AWTK應(yīng)用的整合構(gòu)建好的根文件系統(tǒng)最終要承載業(yè)務(wù)程序。以AWTK為例它是ZLG開源的一套嵌入式GUI框架交叉編譯后會生成動態(tài)庫和可執(zhí)行程序。把整個AWTK的bin、lib、resources放進rootfs對應(yīng)目錄然后在rcS里啟動系統(tǒng)就從一個“能登錄的Linux”變成“能顯示界面的產(chǎn)品”。這里有幾個經(jīng)驗之談。第一AWTK等GUI應(yīng)用建議使用動態(tài)鏈接因為靜態(tài)鏈接會讓可執(zhí)行文件體積膨脹數(shù)倍而且升級維護很不方便。第二資源文件的路徑要嚴格遵守應(yīng)用預(yù)期比如AWTK默認從./assets或指定路徑讀取資源如果把路徑配錯應(yīng)用啟動時會靜默失敗或只顯示白屏。第三運行庫一并拷貝用ldd檢查目標程序依賴把缺失的.so也放進rootfs。我踩過最疼的一個坑是目標板上程序啟動報libstdc.so.6: cannot open shared object file因為交叉編譯工具鏈的libstdc沒有進rootfs。查了整整一個下午才發(fā)現(xiàn)是--sysroot路徑配置問題。所以建議在一開始就明確lib庫來源最好維護一個rootfs依賴清單每次編譯和更新都對照清單走不要靠眼睛一個個比。5.4 調(diào)試階段的高效操作主機-開發(fā)板文件互傳與快速驗證開發(fā)階段文件傳輸頻率很高。NFS掛載已經(jīng)解決了rootfs內(nèi)文件直接共享的問題但有些場景繞不開“打包拷貝”比如燒寫生產(chǎn)鏡像前的最終驗證。我常用的三件套是TFTPU-Boot下載內(nèi)核、NFSrootfs調(diào)試、scp通過Dropbear傳文件。這三者配合節(jié)奏非常舒服。另外BusyBox的wget在很多嵌入式環(huán)境下可用。如果開發(fā)板能上網(wǎng)或者局域網(wǎng)內(nèi)有文件服務(wù)器在板上直接用wget http://192.168.1.100/myapp -O /usr/bin/myapp chmod x /usr/bin/myapp就可以完成程序更新比反復(fù)插拔SD卡或拆機接串口高效太多。這個操作在生產(chǎn)現(xiàn)場遠程升級時同樣適用只要把升級包放到內(nèi)置Web服務(wù)器上設(shè)備端拉取后校驗、替換、重啟就是一套最簡單的OTA流程。6. 常見問題速查與排障實例6.1 高頻問題與針對性解決方案問題現(xiàn)象根本原因解決辦法串口登錄后敲命令報not found/bin下的符號鏈接未創(chuàng)建或路徑不在PATH中make install CONFIG_PREFIX...重裝echo $PATH確認目錄No such file or directory但文件存在動態(tài)鏈接器缺失或路徑不對readelf -d查看依賴補拷ld-linux.so到/libinit: must be run as PID 1手動執(zhí)行了/bin/init確認內(nèi)核init參數(shù)指向正確路徑cant open /dev/ttyS0: No such file or directory串口設(shè)備節(jié)點未創(chuàng)建mdev -s掃描或手動mknod對應(yīng)主次設(shè)備號NFS掛載卡住或Operation not supportedNFS版本不匹配nfsroot參數(shù)強制加v3或v4開啟端口ifconfig: SIOCGIFFLAGS: No such device內(nèi)核未編譯對應(yīng)網(wǎng)卡驅(qū)動內(nèi)核menuconfig中啟用網(wǎng)卡驅(qū)動確認設(shè)備樹正確telnet連接成功但無法登錄未配置密碼或inittab中沒有askfirst檢查/etc/passwd、/etc/shadow用passwd設(shè)置密碼程序啟動報Permission denied可執(zhí)行文件沒有x權(quán)限chmod x如果是腳本檢查首行#!/bin/shmount -a后df看不到新掛載fstab格式錯誤或不支持該文件系統(tǒng)類型手動mount定位問題檢查內(nèi)核是否編譯對應(yīng)文件系統(tǒng)驅(qū)動6.2 實戰(zhàn)排障實錄一NFS掛載成功的假象我之前接過一個現(xiàn)場問題開發(fā)板啟動后根文件系統(tǒng)是在NFS上但應(yīng)用層的配置始終寫不進去報Read-only file system。排查第一反應(yīng)是查fstab和掛載選項發(fā)現(xiàn)rootfs的掛載選項里并沒有ro。繼續(xù)查發(fā)現(xiàn)宿主機NFS導出目錄時/etc/exports里的父目錄權(quán)限是只讀子目錄雖然rwx但NFS的導出層級限制了權(quán)限繼承。最后在exports里把具體子目錄單獨加了一行rw導出才解決。這個案例給我的教訓是NFS權(quán)限問題不只在開發(fā)板側(cè)排查宿主機的目錄權(quán)限、exports配置、SELinux/AppArmor都要納入檢查范圍。做一個checklist按 網(wǎng)絡(luò)通不通→掛載行對不對→宿主機權(quán)限→目標板權(quán)限 的順序逐層排查能省下大量踩坑時間。6.3 實戰(zhàn)排障實錄二init找不到 —— VFS panic的完整追查過程另一個常見場景是內(nèi)核起來后報Kernel panic - not syncing: VFS: Unable to mount root fs on unknown-block(0,0)。這個報錯有兩個常見原因一是內(nèi)核確實沒編譯對應(yīng)文件系統(tǒng)驅(qū)動如NFS、ext4的驅(qū)動沒編進去二是root參數(shù)指定的設(shè)備不存在或路徑寫錯。我遇到的情況是兩者疊加根文件系統(tǒng)在NFS上但內(nèi)核配置里CONFIG_ROOT_NFS沒開同時bootargs里root/dev/nfs的寫法在內(nèi)核某版本上解析有差異。解決辦法很樸素確認內(nèi)核編了NFS客戶端和CONFIG_ROOT_NFS再把bootargs改為明確設(shè)備路徑的寫法。改完后串口輸出的日志從panic變成正常執(zhí)行init那種感覺比什么都有成就感。6.4 實用排障技巧以最小化思維定位“僵尸啟動”系統(tǒng)起不來的時候不要急著懷疑BusyBox或內(nèi)核先做減法。假設(shè)你已經(jīng)通過串口看到內(nèi)核輸出但卡在某個階段那么思路應(yīng)該是先確認內(nèi)核解壓完成、跳轉(zhuǎn)執(zhí)行用戶空間init時有沒有報錯然后用init/bin/sh讓內(nèi)核直接拉起shell繞過init進程所有的腳本邏輯這樣如果shell能起來說明內(nèi)核和rootfs基本沒問題問題出在腳本層接著在shell里手動執(zhí)行rcS的每一行定位具體哪條命令導致啟動卡死或重啟最后修復(fù)后再恢復(fù)init/sbin/init正常啟動。這種方法看起來笨卻是效率最高的排查路徑。它把一個大問題分解成多個可驗證的小節(jié)點每一步都確認“到這一步一定是好的”就能快速收斂問題范圍。這套思路不管是對付NFS掛載、BusyBox init還是業(yè)務(wù)進程崩潰都屢試不爽。7. 性能優(yōu)化與生產(chǎn)級加固7.1 精簡rootfs體積從30MB到3MB的步步為營嵌入式產(chǎn)品的Flash容量往往是硬件選型時就鎖死的因此rootfs體積直接決定你能否在一個給定的Flash上裝下整個系統(tǒng)。精簡單可以從這樣幾個方向做編譯BusyBox時關(guān)閉所有用不到的applet和feature能去掉vi就絕不留著能不用ip就換ifconfig和routestrip所有可執(zhí)行文件的符號表C庫從glibc切換到musl把不常用的庫和應(yīng)用從rootfs中挪出去需要時再動態(tài)掛載。這三個動作做完30MB的體積壓到3MB以內(nèi)是完全可行的。7.2 系統(tǒng)可靠性加固只讀文件系統(tǒng)、A/B分區(qū)與掉電保護精簡到極致之后還要考慮生產(chǎn)環(huán)境下的可靠性。一個被驗證過多次的做法是把根文件系統(tǒng)做成只讀的squashfs把Bootloader、內(nèi)核、rootfs放在獨立分區(qū)所有需要運行時寫入的數(shù)據(jù)/var、/tmp、日志掛載到tmpfs或單獨的data分區(qū)。這樣做的好處是不管怎么斷電根文件系統(tǒng)永遠不會因為意外寫入而損壞系統(tǒng)起不來就重燒數(shù)據(jù)區(qū)單獨處理。更進一步就是A/B分區(qū)方案兩份固件一份正在運行一份備用升級時寫備用區(qū)啟動時校驗并切換。這個方案會讓系統(tǒng)整體復(fù)雜度上一個臺階但帶來的可靠性回報非常明顯尤其是對無法接受OTA失敗變磚的設(shè)備。7.3 裁剪的邊界理解“夠用”不等于“能用”精簡rootfs的時候一定把握好度。我的經(jīng)驗是保留一份能力完整的備用rootfs用于開發(fā)調(diào)試產(chǎn)品量產(chǎn)時再切換到精簡版。否則為了省幾百KB換來開發(fā)時處處碰壁反而拖慢整個項目進度。比如BusyBox里ps命令在精簡模式下可能不顯示完整參數(shù)排查問題時很難受top甚至可能被砍掉——這種時候省下的100KB就變得毫無意義。8. 結(jié)語從啃文檔到構(gòu)建屬于你的第一個系統(tǒng)回想我?guī)н^的幾個AWTK項目新人最容易卡住的地方反而不是寫業(yè)務(wù)代碼而是“不知道根文件系統(tǒng)是怎么來的”。從裸機到完整系統(tǒng)中間隔著的這一段正是BusyBox和其他基礎(chǔ)組件存在的地方。當你自己動手編譯一次BusyBox、配好inittab、用NFS掛載起整個系統(tǒng)、再從串口和SSH分別登進開發(fā)板時嵌入式Linux的面紗才算真正揭開了一角——它不神秘就是一套由無數(shù)清晰環(huán)節(jié)構(gòu)成的完整體系。如果你打算從零開始我的建議是先把這篇文章里的流程親手做一遍遇到問題就按第6節(jié)的思路排查。等你能順利看到一個BusyBox的shell提示符出現(xiàn)時你已經(jīng)超過了很多只會改改調(diào)調(diào)的應(yīng)用工程師。后續(xù)真正要下功夫的無非是把這份“骨架”越填越豐滿讓自己的系統(tǒng)從能開機升級到穩(wěn)定、安全、可維護。這條路上有一段話我一直很喜歡系統(tǒng)不是某個天才設(shè)計出來的而是無數(shù)個細節(jié)一層層堆疊出來的。BusyBox就是這些細節(jié)里最基礎(chǔ)的一塊拼圖希望這篇實戰(zhàn)筆記能幫你把它拼進你自己的系統(tǒng)版圖里。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美片第一页| 97色诱| 欧美黄色图片| 伊人影院综合是一个与深夜成人在线| 大色网久久| 欧美男人一区| 国内一区二区免费| 日本不卡三级网在线播放| www.久久制服糖| 在线小说视频一区| 青青草久久一区网| 国产懂色精品国产av| 男同专区一区二区三区在线| 色婷婷婷五月天激情四射| 蜜桃视频成a人v在线| 欧美中文综合| 另类图片天天影视| 久久精品视| 久久久久精| 激情综合网激情综合| 五月婷婷激情综合| 国产精品欧美激在线| 国产9 9在线 | 亚洲| 一区三区啪啪| 精品亚洲俞拍视频一区| 天天操夜夜嗨| 人人色97| 欧美高潮| 艳尻美人妻| 99国产精品| 亚洲美女精品| 日产狠狠干| 熟妇艹鸡八| 午夜AV污污污| 亚洲av无码国产精品字幕| 天天做日日做天天欢。| 91插B网站| 中文字幕成人理论在线| 操屄日韩| 3PAV乱伦视频| 樱花蜜乳av| 丰满人妻一区二区三区大胸懂色| 精品久久久久久无码| 无码99| 亚洲玖玖爱| 国产一区二区在线看| 加勒比海色香蕉婷婷| 天欧美在线| 精品亚洲俞拍视频一区| 激情自拍 校园春色| 日韩欧美国产一区二区三区四区 | 欧美综合自拍亚洲综合图| 黑丝日韩av丝袜av| 久久久98网站免费视频| 久草电影网| 日韩亚洲美女一区久久| 天天爽天天爽| 999久久久久久久精| 毛片电影一区二区三区| 国产高清成人mv在线观看| 夜色91| 欧美日综合| 日韩欧美中文字亚洲慕| 日韩9区| 精品人妻一区二区免费看| 97精品综合久久网| 欧美国产成人在线| 男人的天堂欧美| 国产亚洲99久久精品| 欧美日韩一区二区三区四区蜜桃| 成人性爱全视频观看| 99re国产精品视频| 国产亚洲色婷婷久久99精品91葵花宝典| 欧美黄色片在线播放| 欧美A片中文字幕| 色在线亚洲视频www| 97人人夜夜精品视频| 啊啊啊无码| 一区二区三区美女超清| 青青草天天亲夜夜操网| 操逼网站视频漫画国产| 国产黄a三级三级三级av在线看| 三级三级三级日本99| 天天色播| 久久久久久波多野吉衣高潮| 中文字幕制服诱惑| 自拍偷拍草一草| 人妻夜爽夜夜爽| 老熟妇91| 亚洲高清无码在线桃色| 啊…啊…操我用力操我| 日韩av影片在线观看| 色丁香五月婷婷| yazhousetuoumei| 天天综合网亚洲综合网| 成人免费性爱视视| 麻豆天美国美国产| 欧美欲色| 校园春色综合网| 国产精品国产自产高清AV| 日本1区2区不卡视频| 每日更新AV| 色999人与兽| 99热这里只有精| 精精夜夜| 丝袜AV一区二区三区| 91制服丝袜| 台湾一区国产高清在线| 五月天婷婷久久| 国产一级久久久| 久久久999国产精品| 亲子敌伦对白在线播放| 精品亚洲国产成人AV制服丝袜| 凹凸视频特色日本特黄| 91色艳| 加勒比综合九九99视频在线播放| 亚洲欧洲日韩中文字幕一区| 精品无码久久久久久国产浪潮| 九九亚洲视频| 久9综合在线| 欧美日产国产在线成人第一区| 日本色婷婷| 鸥美插入视频| 欧美大波激情xxxx| 欧美亚洲宗合色性图| 精品视频一二三中文| 黄色片一区二区三区四区五区| 日本色婷婷| 97超碰精品成| 日韩黄色成人性爱| 黄页网站成人免费| A片三级无码| 污电影在线观看| 免费又黄又裸乳的视频| 久草热制服丝袜在线观看| 天天看天天日天天操| 丁香五月天堂网| 亚州欧美综合| 99久久综合网| 亚洲 欧美 第一页| 亚洲人妻AV| 欧美性视频二区三区| 777AV电影| 五月天婷婷色色| 中文字幕精品三级久久久| 美國A片| 亚洲人91| 太久视频| 精品亚洲俞拍视频一区| 欧美性爱十八禁| 成人日本精品九区| AV不卡在线| 中文字幕人妻色偷偷久久皮 | 中文字幕av乱伦| 亚洲情色无码一区二区三区| 亚洲精品丝袜-不卡成人免费……| 少妇精品久久久八区九区| 国产精品爽爽va在线观看98| 亚欧美色| 亚州精品丝袜-不卡成人免费| 热99这里有精品综合久久| 97综合在线| 九七超碰人人乐| 色播丁香| 搡老熟女免费视频| 黄久在线| 色婷婷电影网| 无码 黑人一区二区三区| 久久婷婷欧美| 99热精品在线在线| 亚洲精品一二牛牛| 精品少妇一区二区| 九X超碰| 国产精品伦理| 超碰天天去日穴| 国产精品久久伊人| 亚州综合色| 日韩人妻精品中文字幕| 久碰视频| 国产无码成人无码| 插入粉嫩少妇视频| 欧美成不卡网| 伊人五月天| 秋霞操逼片| 久9综合在线| 欧美日综合| 亚洲色婷婷久久91| 大鸡巴久久| 中文字幕少妇色 | 超碰97国产欧美| 日韩超碰精品综合| 91强热人妻| 亚洲无码视频免费在线观看网址!| 性色国产东北露脸精品视频| 综合色图,成人综合网| 黄色一区二区秘书性感| 97超级久久| 亚洲爱爱视频一区二区| 亚洲情色婷婷五月天| 丰满人妻一区二区三区大胸懂色| 男啪女色黄无遮挡免费观看| 热热色色综合| 乱操9999| 亚洲自拍欧美色综合| 五月丁香六月婷| 精品国产乱码| 日韩熟女操逼| 久久夜夜| 日韩成人私密一级精品av| 97资源站国产精品| 97视频在线免费| 色亚州人久干视频在线观看免费版 | 国产婷婷综合在线观看| av三级电影在线播放| 欧美图片校园春色| 久久婷婷苹果| 久久久18禁| 91蜜臀在线久久久久| 看黄片视频免费| 资源新线在线天堂| 欧美色综合| 青青草亚洲一区| 啊啊啊用力在线观看| 加勒比性爱成人在线| 果冻国产精品麻豆成人av| 亚州免费啪啪视频| 思思热国产在线视频| 亚洲一区在线观看欧洲| 88xx成人精品视频| 免费看A片毛毛片在线播| 久久黄色视频一区二区三区| A片 AV一级在线播放观看免费| 91人妻最真实刺激绿帽| 99国产在线 精品 视频| 午夜理论片在线观看免费| 欧美的性爱网站免费| 任我爽在线视频免费观看| 成人黄页| 亚州高清AV| 欧美色图自拍| JuliaAnn丝袜熟女系列| 亚洲日韩资源| 欧美色图91| 久久国产成人精品国产成人亚洲| 91丝袜在线观看| 天久久久噜噜噜久久国产精品爽爽 | 熟妇熟女一区二区三区| 无遮挡男女激烈动态图| 欧美91视频| 约操熟妇| 大香樵伊人网| 蜜臀av在线播放一区二区三区| 午夜丁香| 夜夜操天天肏| 国产热av| 国产高清成人免费视频| 欧美性爱91| 日本韩国国产精品一区| 色成人Www精品永久观看| 性爱av网站| 九九热精品视频在线观看| 国产11页| 欧美日韩亚洲电影| 精品二区三四区五电影 | 性爱久久| 久久AV无码1区2区3区| 青青草乱入乱欲视频在线观看| 91激情综合| 91欧美色| 国产黄片精品在线| 超踫中文字幕| 一级免费啪啪片| 啊啊啊 在线观看| 国产精品密臀网在线观看| 综合熟妇一区二区三区| 国产男女边吃边摸视频网站| 成人免费福利在线观看| 超碰资源亚洲97| 日韩久草| 中国大陆国产高清AⅤ毛片| 国产极品粉嫩馒头一线天av| 久久五月丁香| 东北操逼| 天天射天天操天天干天天吃2018| aaa一级黄片| 久久m| 操少妞在线视频| 天天操熟妇| 大香蕉色欲AV| 欧美色图第一页| 色色色欧美| 久久久久国产亚洲一区欧美色图日韩| 亚洲加勒比色图| 亚欧免费| 欧美一区二区亚洲天堂| 操死我干死我| 九九九九九精品视频| AAAAAAAAA黄片| 99综合免费视频| 亚洲天堂资源| 日韩欧美成人性爱在线| 欧美人妻中出| 亚洲97在线| 我爱大香蕉| 久艹99| 91视频综合| 97人人草| 中文久久久| 3P乱轮视频| 老熟妇一区二区三区啪啪| 97国产精品在线观看| 一区二区三区四区免费视频| 哈哈操电影AV| 成人97人人超碰人人| 五月婷婷丁香| 91老熟女| 欧美视频激情久久久久久| 日比av无码| 国产这里只有精品| 久久男人的天堂| 婷婷五月天_亚洲小说欧美激情另类_精品久久国产字幕 | 蜜桃久久久久久久久久久久| AV和黑人在线播放| 999熟女精品| 精品性爱一二三区| A一级色女| 久久毛卡| 色淫网站优优视频| 91九久| 欧美日韩午夜精品一区二区三区| 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | 欧美亚洲手机在线| 国产粉嫩出水在线播放| 呦女网站| 亚洲黄网在哪免费看| 在线洲亚线| 日韩一级二级| 91精品国产91久久青草| 神马久久69| 粉嫩av在线一区二区| 久久天天躁日日躁狠狠躁| 在线岛| 一区二区三区网站日日骚| jazzjazz国产精品麻豆| 男人天堂最新手机版在线青青草| 在线看免费无码AV天堂的| 91精品国产91熟女| 新视频sss国产| wwwcaobibi| 美女性91| 经典丝袜一区| 伊人影院中文字幕| 精品中文字幕一区二区l - 百度| 欧美日韩97在线| 亚乱色| 欧美日韩在线小说| 99精品网站| 色色五月丁香| www.yeyecao| 九九九成人| 中文字幕在线日亚洲9| 亚洲影院成人| 深喉吞精| 欧美日本久久精品一区| 久久色情| 99在线无码精品秘 入口黑人| 日韩精品一区二区人人人| 免费看欧美美女黄色大片| 女人天堂av在线播放| AV男人天堂网| 欧色性第一页| 884t在线| 青青草原狼av| 人妻久久久久久| 毛片久久| 亚洲天堂久| 亚射在线| 天美传媒av 在线| 操操逼视频| av中亚| 日本一级不卡一二区| 午夜精品久久久久久久男人的天堂 | 中文字幕-区二区三区四区视频中国| 国产成人无码a| 941超碰| 欧美97视频| 性感女人网页在线观看视频| 屌逼传媒| 大香樵伊人网| 色五月婷婷五月天| 麻豆这里只有精品| 久久久久九九九| 91制服丝袜中文字幕| A一级色女| 夜草欧美| 久久是精品| 98福利在线视频| 99色视频| 综合日本女人伊人| 青青草原人妻| 久久精品视频久久久| 男人的天堂不卡一区二区| 十八禁视频网站| 韩国三级一线观看久| 亚洲好色人妻| 日产123区精品免费观看| 99久热精品99re6热| 99久久综合| 狠狠图片青青草| 激情五月丁香五月| 天天色香欲综合网| 伊人天堂在线| 日日狠狠久久偷偷色综合免费| 九九热最新| 国产日韩在线播放| 另类在线| 欧美日韩黄色片一区二区三区四区人与兽做爱 | 中文字幕精品一区欧美| 久久九九97| 亚洲高清少妇| 狠狠色噜噜狠狠狠狠2018| 欧美1区二区三区公司 | 人妻色偷色噜| 荡小穴在线观看| 91久| 男人兔费天堂| 夜夜嗨一区二区三区三州加勒比| 久久无码一区二区二三区性色 | 天堂v无码免费视频| av资源在线播放天堂| 韩国女主播青草福利视频| 九九热av| 欧美性暴力猛交XXXX| 中日韩一区二区三区欧美| 久久天天躁日日躁狠狠躁 | 富二代亚洲精品99| 91美女中出| 天天舔天天日天天射| 亚洲日韩美女中文字幕乱| 亚洲精品一区二区三区新线路| 超碰综合97在线| 亚洲成A∨人影院在线欢看| 亚洲色图综合网| 午夜精品五区| 天天视频网站黄| 久久中文字幕女同性恋一区| 亚洲国产一区二区日韩专区| 加勒比性爱成人在线| 亚洲中文字幕网| 国产精品农村妇女| 日韩有码专区| 精品视频一区二区| 99黄页网站| 亚洲综合激情五月久久| 韩国一级做a久久久久| 97 视频在线| 国产97视频免费观看| 亚洲情欲| 日本 情色 1区2区3区| 亚洲乱码尤物193YW| 午夜福利1区2区3区| 韩日欧亚a级| 日韩精品9999| h在线看免费版在线看| 久久欲| 欧美 综合 亚洲| 免费少妇一区二区| 岛国免费黄色网址| 黄色片A级一区二区三区| 亚洲宗合网| 69XX一中文字幕人妻91 | 久久一区二区蜜桃| 国产一区二区三区高清视频| 麻豆视频国产一区二区| 97精品一区二区视频| 久久黄色视频一区二区三区| 日本一区二区三区四区五区六区七区八区九区 | 99蜜桃臀久久久欧美精品网站| 国产精品久久久久久夜夜夜| 激情开心五月天| 欧美性爱日韩性爱| 日本在线激情一区二区三区| 尤物网站91| 欧美精品成人亚洲| 久久精品成人| 综合久久中文字幕综合日韩精品| 嗯嗯啊啊操我| 国产精品九九九| 男人女人18禁片免费看网站| 日熟女| 人人妻人人爽一区二区三区| 天美传媒婬乱在| 私人尤物在线精品不卡| 思思热影视| 超碰成人最新最好看| 国产无套粉嫩白浆在| 亚洲欧美日韩综合在线尤物 | 亚瑟国产精品久久无码| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 目产99999久久999| 日欧毛片久久| 国产熟妇 码视频户外直播| 亚洲国产精品成人无码久久久| 精品一区二区三区蜜桃臀赵总| 中文日韩欧美熟| 亚洲巨爆乳一区二区三区四季网| 免费av大片| 日本性爱少妇| 五毛骚逼极品美女怕怕| 97资源站国产精品| 91干熟女| 成人日本片久久久蜜桃| 97摸视频| 色色色热| 99啪| 九九九免费视频| 婷婷久久网| 欧美色一二三| 日韩AC| 九九九只有精品| 亚洲人妻中文在线视频| 国产成人精品日本视频| 欧美有码激情视频一区二区三区| 日韩精品9区| 97精品一区二区视频| 999岛国大片| 久久一二三四五六七八九区区| 超碰97资源网亚洲| 中文字幕成人| 久久国产乱子伦精品免费女,网站| 亚洲日韩美国人妻| 0755午夜福利视频| 欧美激情综合色综合啪啪五月| 国产一二三福利视频网| 黄色网址久久精品欧美喷水| 久久av一级av少妇av高潮| 粉嫩国产精品久久久| 国产精品久久久久久久毛片1| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 91丨国产丨白浆秘 洗澡动漫| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 97中文天堂| 欧美日韩大黄片| 超碰社区97| 日韩一级片在线看| 91色欧美| 久久成人午夜狠狠| 青青伊人这里只有精品| 乱伦熟女论坛| 99re6在线视频精品免费完整版安卓版| 欧美日韩第一页| 可乐操在线| 国产农村妇女精品一| 亚洲综合在线视频| AV乱伦专区| 日本成a人v网站在线观看| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 九九九九热| 日韩欧美蜜桃精品久久中文字幕久久 | 色呦呦、国产精品| 加勒比大香蕉视频在线| 尤物视频视频官网| 精久久久| 天天综合网~91综合网| 日本超碰色精品| 亚洲凸凹超碰成人| 牛牛久久国产精品视频一二三| 性爱av网站| 高清在线偷拍自拍视频| 久久久亚洲高清不打码| 男人a天堂手机在线版| 蜜臀网 一区| 84YTCOM性无码| 亚洲精品少妇| 欧美日日操| 国产精品爆乳懂色蜜乳| 51久久夜色精品国产麻豆| 久久久亚洲高清不打码| 亚洲无码太久| 国产精品三级视频网站 | 久久国产性爱| 亚洲欧美日韩免费电影| 五月天婷婷在线看| 屁屁影院一区二区三区国产| 福利视频网站| 日小BB小视频| 国产女性无套 免费观看| 中文字幕老熟妇黄色视频| 亚洲黄色影视| 任你干在线视频| 97中文综合| 啪啪视频亚洲第一| 熟女丰满人妻一区| 伊人久久亚洲中文字幕不卡| 青娱乐手机日韩在线视频| 亚洲日韩乱码中文无码蜜桃臀网站| 二级久久网| 碰碰97| 婷婷精品视频| 2017超碰| 香蕉久久AⅤ...| 九九九久千久久激情蜜桃在线看 | 乱老女人一区二区视频| 欧美精品双插| 2019天天干| 超碰日本97美女人妻人人玩人人爱| 欧美综合 站| 欧美乱伦专区| 无码欧美有限公司| 亚洲乱码精品一区二区| 激情99| 91中出| 日韩一区二区熟女| 国产精品ⅴ无码大片在线看.| 久久国产精品91| 精品欧美老熟女一二区| 亚洲 日韩 欧美 国产综合体| 欧美色吧综合| 碰碰在线视频| 欧美日韩在线视频网站| 久草视频制服诱惑| 亚洲国产一区二区日韩专区| 色综合超碰超| 香蕉人人操tv| 天天综合网网欲色| 亚洲色性情三级| 白天啪啪晚上啪啪视频| 亚洲综合色在线| 日韩精品99999| 超碰97极品9| 日韩熟妇二区| 色综合久久av| 69一区二区| 青青草国产盗摄一二三区| 99热在线观看| 欧美亚洲自拍另类人妻| 啊啊啊不要啊啊受不了了视频在线 | 噜噜噜狠狠色综合| 日韩免费看在线黄色片| 无码粉嫩白虎一线天b区| 大香蕉在线视频重口味毛片在线| 热思思免费视频| AV污污污污| 精品视频在线观看精品| 超碰天天操| 九九九久久久| 操国产逼| 日韩精品亚洲专区在线影视| 天天射,天天操,天天爽-国内精品一区二区三区-成人AV | 国产精品99久久久www| 91婷婷伊人狠人| 北野未奈加勒比av| 日韩av在线精品观看| 久久精品国产免费观看99| 成人无码欧美一级A片狼牙直播| 韩日欧亚a级| 99在线无码精品秘 入口黑人| 国产97视频| 五月丁香啪啪网| 久久少妇| 中出789在线视频| 婷婷激情综合网| 91激情国产| 精品人妻一区二区三区日产乱码| 精品人妻伦一二三区久久| 91亚洲情色| 国产三区免费在线观看| 东京热毛片调教| 情色av电影| av天堂手机版追回| 久久这里只精品免费福利| 蜜桃色院一区久久| 五月天开心网| 国产亚洲日韩在线三区黑人| 国产精品伦理| 日韩成人性爱AV| 国产精品第一页国产大屁股视频免费区 | se,,,亚洲欧美| 又大又白奶子| 大地资源在线观看中文第二页| 狠狠操使劲操| 91美女精品| 福利五区| 天天日天天屌天天操| 97超碰美国| 第一高清av中文字幕| 国产AAAAAABBBBB| 综合另类| 天堂中文资源在线bt| 国产一区二区在线电影| 亚洲熟妇白浆无码AV| 久久九九视频九九视频| 大香蕉乱级| 亚洲另类春色| 国产自制av蜜乳| 亚洲男人天堂网| 亚洲精品97久久| 欧美在线啊啊| 欧美成年人性爱视频免费观看| 人妻熟女一区二区在线视频| 国产一区二区精品久久久不卡蜜臀| 91在线/欧洲| 天天综合网合集91| 91女日逼| 女色综合| 国产亚洲中文不卡二区| 亚洲AV秘 精品久久老牛影视| 九月丁香婷婷色| 天天干天天操天天干天天操| 欧美在线干| 中文字幕一区 二区三四五 区日 日骚| 色五月婷婷在线| 夜夜狼人妻| 亚洲好色人妻| 17c嫩草51久久91嫩草| 亚欧毛片基地国产毛片基地| 国产av美女被艹的乱叫| 丁香五月偷拍| 91热情品| 少妇蹲下露出大唇5| 亚洲欧美日韩制服另类| 一区二区三区四区免费视频| 欧美午夜精品久久久久久3D| 天美一二三在线观看Av| 热热色青青草| 97在线精品观看视频| 婷婷六月色开| 亚洲欲| 97久久超碰| 91在线精品| 亚洲欧美性生活| 91少妇高潮| 国产51色综合久久免费| 久久久久久久久久久人妻| 综合97久久| 欧美精品xxxwww| 九九视品黄色| 日本精品不卡一二三区| 人妻9117c| 大学生口爆吞精| 人人色97| 操逼日批| caorenqi shipin| 欧美91视频| 国产一区二区在线看| 涩涩五月天| 俺去久久| 久久精品国产96精品亚洲拳交| 抽插一区二区视频| 久久久av爱| 欧美在线播放aaaa| 家庭乱伦国产精品| 蜜臀99久久精品| 快点操死我| 日本久久天堂| 亚洲好看强奸乱伦| 国产一区在线播放| 国产精品乱码久久久、久久| 青娱乐导航AV| 久久久久9999| 操逼操逼逼操操逼91| 97国产精品| 无码粉嫩白虎一线天b区| 玖玖爱一区在线| 高潮内射在线| 久久婷婷视频| 在线观看黄色电话| 国产91乱伦| 国产狂喷潮在线精品| 69精品| 东京热,男人的天堂| 欧美综合色综合| 天天天天天天天天综合| 欧洲综合视频| 欧美色偷拍| 久久精品一区二区三区不卡| 久久精品国产72国产精品福利| 最新亚洲人成网站在线影院| 一级一性爱免费视频| 欧美亚洲激情| 亚洲啪啪综合?v一区综合精品区| 91丰满| 四虎视频在线观看| 日韩免费三级黄片电影| 中文字幕伊人| 精品乱码久久久久| 亚洲无码AV九九九| 亚洲自拍天堂| 久久久偷拍| 极品后入免费视频| 中国探花熟女| 视频国产欧美在线播放| 久久久久久免费电影| 欧美嫩性色| 亚州AV无码国产精品| 一区在线精品中文字幕| 亚州男人的天堂| 久热久一区二区三区| 日本午夜福利影院| 夜夜操美女| 亚洲国产综合图区中文字幕 | 91超碰在线播放| 国产欧美日韩在线观看麻豆传媒公司| 老熟女搡BBBB搡BBBB视频| 亚洲国产成人精品999| 日韩精品亚洲一二三| 大香蕉日亚洲日本亚大| 久久久久久人体| 成人蜜乳小视频网站| 波多野结衣被操50分钟免费视频| 久久黄片国产一区二区| 天天搞在线综合网| 九九热最新| 91亚洲人电影| 日日夜夜噜| 欧美爱国产综合、| 久久春色| 欧美 日韩 亚洲 春色| 婷婷视频网| 日韩一级二级在线| 欧美日本视频一区| 84YTCOM性无码| 亚洲无码?第一页| 精品久久久久,69国产成人精| 亚洲男人天堂网久久| 青久久| 亚洲色欧美| 999国产精品999| 亚洲s在线观看| 亚洲高清男人天堂| 内射小黄片| 日韩三级一区| 玖玖综合视频| 人妻81p| 国产视频三区四区| 日韩无码第3页| 国产综合永久精品日韩鬼片| 欧美在线官网| 日日操夜夜操天天操免费观看麻豆| 免费一级特黄特色大片在线观看看 | 欧美久久婷| 久久久97| 麻豆一区在线| 国产大学生口爆吞精合集| 99re这里只有精品中心播放| 97欧美日韩综合| 国产这里只有精品| 97国产中文| 中文字幕一区二区三区视频播放| 亚洲综合九| 欧美aa一级片| 欧美天堂超碰97| 天天干天天操天天干天天操| 日本黄色XXX| 超碰97色| 午夜男人天堂| 操逼大黄片| 韩国国产欧美情侣视频在线| 国产操逼视频在线观看| 在线 亚洲 网爆 自拍| 98久久| 91精品成人www| 亚洲日韩美女丝袜美腿人妻视频| 日本污ww视频网站| 综合自拍| 丰满人妻一区二区三区免费,| 人妻熟女一区二区三区视频| 婷婷激情五月综合| 久久女人一区二区三区| 久操| 在线无码网站| 日本色婷婷| 一本大道不卡一二三区| 无马一区二区| 日本免费一区二区不卡| 国产欧美日韩在线不卡第一页| 人人妻人人操人人乐| 伊人专区一区二区三区| 中文字幕熟女人妻丝袜丝| 欧美日韩大陆黑人少妇99| 黑丝少妇| 狠狠五月天| 国产亚州精品美女久久久免费| 91操操操操| 热热色中文无码| 欧美美逼| 99色热| 天天干夜夜操一区二区| 日韩一级二级三级免费看完整版国语版| 激情五月天校园春色网| 九九AV| 99久在线精品99re8| 日本三级韩三级99久久| 超碰97导航| 亚洲天堂久久| 日韩欧美大力操| 欧美人妻一区二区| 亚洲人妖网| 婷婷在线播放| 亚洲 日本 一 二 三| 五月天激情国产综合婷婷婷| 99精品网| 国语人妻精彩刺激| AV天堂电影网| 九九九九九用不成了| 青青操视频在线| 日韩综合第八区国产精品| 亚洲有薄码区久久在线一区| 好湿好紧视频| 99久久99久久免费精品蜜臀| 国产成人欧美精品在线| 人人妻碰人人免费| 久久久亚洲Av| 福利在线观看一区二区| 久久久成人国产精品无码| 激情婷婷丁香| 久久国色天香香蕉| 亚洲免费97免费| 97国产综合欧美| 60秒不遮不挡| 日韩激情电影中文字幕| 黄色一区二区秘书性感| 日本三级韩三级99久久| 欧美v日韩欧亚洲电影天堂色诱,国产传媒| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 久九干| 亚洲自拍欧美国产首页网曝| 欧美在线中M| 国产精品另类| 国产精品黑人一区二区三区| 色色香蕉| 日韩97超碰中文字幕| 亚洲综合小视频小说在线观看| 伊人久久蜜月| 9久热这里只有精品| 久久国产AⅤ| 极品色www影院| 九九精品美女高溯喷水| 亚洲超碰综合网| 人妻少妇精品视频一区二区三区| 亚洲日韩视频二区| 破苞ⅩXXX性无码动漫无码| 蜜臀av在线播放一区二区三区| 欧美 综合| 欧美精品激情| 在线无码网站| 一本一道人妻久久一区二区三区| 和协影院中文字幕三区| 一区二区三区看视频| 无码国产Av| 人妻熟女字幕一区二区| 91久久久老司机| 蜜臀久久99精品久久久久久无删减 | 一级岛国大片| 久碰视频| 欧美一级专区免费大片| 欧美综合网| 色综合婷婷| 加勒比少妇AV婷婷六月天超碰超碰| 蜜臀99久久精品久久久久| 丝袜剧情| 亚州再线| 少妇一区二区三区| 999岛国大片| 天天激色| 中文字幕人妻资源在线| 狠狠操狠狠| 日本高清视频在线观看黄已三辽| 丰满美女一级毛片在线播放| 青草视频在线看看看看看看看看看| 91久久国外网| 秋霞网—男女啪啪亚洲免费体验区 | 免费一级精品啪啪视频| 97超碰美国| 久九九九九九九九热| 岛国色情视频在线观看| 91红杏| A级国产欧美激情在线| 五月丁香久久| 可乐操亚洲蜜911| 无码聚合| 插入粉嫩少妇视频| 亚洲国产婷婷在线播放| 97人人爱人人做人人乐| 蜜臀久久99精品久久久久| 99综合| 久久久一区二区三区麻豆| 日本熟妇人妻中出视频| 99精品人人爽| 天天看天天在线精品| 五月婷婷hd| 国产欧美日本亚洲精品| 亚洲不卡不卡中文字幕不卡 | 噜噜瑟| 亚洲aV无码成人在线观看| 欧美熟女逼久久久久久| 成人 日本A片无码8888| 97欧美色综合| 色噜噜人妻丝袜a∨先锋影| 97精品在线| 8050无码八戒| 精品无人区麻豆乱码1区2区图片| 亚洲aV性爱| 欧美天天影院| www.久久| 伊人操| 国产婷婷一区| 国产午夜福利电影免费在线观看| 国产综合久久久鬼色| 久久免费99精品久久久久久| 91黑丝美女| 18禁网站在线播放| 一区超碰一区| 五月丁香综合| 精品国产一区探花在线观看| 日韩一区二区熟女| 蜜乳AV.COM| 综合97久久| 五月丁香啪啪| 91精品人| 亚热日本熟女| 国产成人无码高清| 啊v在线观看视频| 四虎AV无码| 无码最新| 久草电影网| 日本人体九九九九九九| 欧洲性爱无码区| 日本男人插女人的逼黄色| 久久九九国产精品| 中文字幕视频二区| 亚洲精品丝袜| 乱欲一区二区| 美女黄站| 伦在线97| 人人扣人人操| 日本国产欧美一区三区二区| 新视频sss国产| 婷婷伊人| 欧州一区二区三区四区| 国产精品国产| 色97| 成年人黄色小视频网站| 蜜桃臀av一区二区| 亚洲综合113页| 每日更新AV| 国产精品人妻免费精品| 欧美传媒一区| 综合网,亚洲,欧美| 永久免费发布性爱网| 国产综合久久久麻桃个| 免费看污网址| 长长久久88视频| 亚洲欧美日韩免费电影| 蜜臀久久99精品久久久久久成人小说| 青青草吊丝| 93人人操人人| 精品欧美老熟女一二区| 91女优在线观看| 99热超碰| 蜜臀AV网站| 免费看黄片现成| 91无码精品| 亚洲成人妻日韩在线| 亚洲日产专区| 人人操人人摸人| 国产一级舔足在线观看| 天天欧美97| 日韩精品怡红院| 禁止观看美女黄| 717影院理论午夜伦八戒| 极品综合| 超碰九7| 天天影视综合色| 天天看高清麻豆| 精品久久在线区一区| 久久九九99| 欧美日韩性爱无码| 囯戸精品高潮呻吟旡码| 99无码| 日天天九九天堂666| 射丝袜大香蕉| 1区2区3区中文字幕日韩| 91oumei| 99操逼| 婷婷深爱五月| 亚洲黄色a级片| 日韩性爱1级片视频| 日本欧美中文字幕| 超碰诱惑| 久久久久久人| 熟女91网| 97欧美久久久久久久| 超碰97久久观看| 久久久久久久久九九久孕交| 国产伊人自拍| 丰满欧美少妇| 一区二区日韩欧美久久| 久久色情| 人妻人人操| 强奸乱亚洲| 免费看一级a性色生活片久久无| 亚洲高清无码在线桃色| 日本一级婬片试看三分钟| 操逼逼一区视频| 欧美一区二区三区四区综合| 强奸乱伦 亚洲一区| 国内毛片欧美香蕉精品| 96久久久| 人妻少妇久久中文字幕一区二区 麻豆 | 久久久久国产| 免费A V在线播放| 人妻 丝袜美腿 中文字幕| 伊人操你| 免费观看性欧美一级| 久久性爱视频99| 欧美性爱日韩高清| 少妇厨房愉情理伦片bd在线观看| 久久久久亚洲熟妇熟女| 五月天我淫我色av| 眼镜人妻101.com| 综合久久久久久久综合网| 亚洲成人性| 久久精品国产亚洲AV高级北京| 亚洲AV操| 亚洲欧美经典一区二区| 久久综合99| 日本精品人妻少妇一区二区| 中文字幕少妇色| 好舒服视频| 中文字幕免费在线观看| 欧美亚洲今日在线| 成人毛片免费| 亚洲啪啪视频一区二区| 国产92麻豆天美精品色欲5| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 欧美综合区| 丁香激情网| 嗯嗯啊啊操死我| 中文字幕第23区| 久操电影网| 2024黄色视频| 芊芊操逼视频无码| 91free福利| 亚洲精品一区二区三区新线路| 大香蕉男人的天堂| 超碰在线综合97| 久久久久亚洲| 久操网无码在线| 九九99精品视频在线观看| 人人喜人人妻| 在线情色电影 91大| 91制服丝袜| 欧美日韩另类在线| 亚洲天堂 视频你懂的| 日韩国产品视频中文字| 91黑丝操| 免费操逼91| 久久国内| 亚洲欧美天堂在线|