久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

kexec原理與實戰(zhàn):跳過重啟實現(xiàn)秒切Linux內(nèi)核的完整指南

kexec原理與實戰(zhàn):跳過重啟實現(xiàn)秒切Linux內(nèi)核的完整指南 1. 從“重啟”到“秒切內(nèi)核”kexec到底解決了什么痛點我在生產(chǎn)環(huán)境折騰內(nèi)核不是一天兩天了。早些年每次升級內(nèi)核或者調(diào)試一個新的內(nèi)核特性最讓人頭疼的就是“重啟”這兩個字。一臺承載著業(yè)務的服務機動不動就要等上幾分鐘甚至十幾分鐘的BIOS自檢、硬件初始化、引導加載程序掃描然后才是內(nèi)核解壓、驅(qū)動加載、服務拉起。如果是一臺需要快速切換內(nèi)核的測試機倒還好但如果是在線上環(huán)境每多等一秒都意味著業(yè)務中斷時間被拉長。有沒有一種辦法能跳過那堆冗長的硬件自檢和引導流程直接從當前正在運行的Linux內(nèi)核“跳”到一個新內(nèi)核答案就是題目里這個命令kexec。kexec是Linux內(nèi)核提供的一個機制它的全稱是“Kernel EXecution”直白地說就是讓當前正在運行的內(nèi)核直接加載并切換到一個新內(nèi)核不需要經(jīng)過傳統(tǒng)的重啟流程。底層對應一個系統(tǒng)調(diào)用用戶態(tài)配套的工具也叫kexec。它的工作方式相當于你在辦公室里正開著會突然要換一間會議室但你不是走出大樓再從大門進來而是直接推開隔壁會議室的門坐下——省掉了所有重復的入場流程。這個能力在不少場景下都非常值錢。比如線上內(nèi)核升級后需要驗證新內(nèi)核是否穩(wěn)定你不想經(jīng)歷漫長的停機窗口再比如你在調(diào)試一個會導致系統(tǒng)崩潰的內(nèi)核模塊希望崩潰時能自動跳到一個保留的“急救內(nèi)核”去抓取現(xiàn)場信息這就是后面要聊的kdump機制的基礎。作為Linux運維、內(nèi)核開發(fā)者或者底層系統(tǒng)愛好者掌握kexec幾乎是必修課。這篇內(nèi)容我盡量用實際操作的角度把kexec的原理、用法、坑點和配套場景都講透確保你不僅能看懂還能直接拿去用。2. kexec的兩種核心工作模式與系統(tǒng)級架構2.1 加載式的兩階段操作kexec -l 與 kexec -ekexec這個工具的使用邏輯非常清晰一共就兩大步先加載再執(zhí)行。第一步用kexec -l把新內(nèi)核和它的initrd初始根文件系統(tǒng)加載到當前內(nèi)核已經(jīng)預留好的內(nèi)存區(qū)域中同時把啟動參數(shù)一并準備好。執(zhí)行完這一步新內(nèi)核其實是“待命”狀態(tài)當前系統(tǒng)一切照常運行沒有任何切換發(fā)生。第二步在你準備好的時機執(zhí)行kexec -e當前內(nèi)核會立即停止一切正?;顒又苯犹D到之前加載好的新內(nèi)核入口地址。整個切換過程非??焱ǔ>褪且粌擅氲氖赂緵]有傳統(tǒng)重啟那樣的硬件重置和引導流程。這兩個步驟分開設計是刻意為之。因為加載內(nèi)核是一個相對耗時的過程需要讀取內(nèi)核文件、解壓縮、把各段放入內(nèi)存、組裝啟動參數(shù)而執(zhí)行切換是瞬間動作。把加載和執(zhí)行解耦意味著你可以提前很多時間把新內(nèi)核準備好然后在業(yè)務低峰期一鍵切換。我在實際使用中經(jīng)常提前幾分鐘把內(nèi)核加載好反復檢查啟動參數(shù)無誤最后執(zhí)行真正的切換動作。需要注意kexec -l參數(shù)后面可以直接指定內(nèi)核鏡像文件路徑比如/boot/vmlinuz-xxx。同時幾乎都必須配合--initrd指定initrd文件否則新內(nèi)核可能因為缺少必要的驅(qū)動模塊而無法掛載根文件系統(tǒng)。至于啟動參數(shù)可以用--command-line手動指定但如果懶得一個個敲直接用--reuse-cmdline復用當前內(nèi)核的啟動參數(shù)也是一種省事且穩(wěn)妥的做法。2.2 立即執(zhí)行的kexec系統(tǒng)調(diào)用與一次性的頂層封裝上面說的兩階段是針對kexec工具的使用流程。在系統(tǒng)調(diào)用層面其實還有一個更加猛烈的封裝kexec_load系統(tǒng)調(diào)用可以直接完成從加載到執(zhí)行的整個過程因為加載和執(zhí)行本質(zhì)上是一個連續(xù)的動作。只是內(nèi)核出于安全考慮通常會要求調(diào)用者具備CAP_SYS_BOOT權限而且大多數(shù)發(fā)行版默認不會把這種“自殺式”調(diào)用暴露給普通用戶。實際日常操作中我們使用kexec工具就足夠了。kexec工具在加載階段會把內(nèi)核鏡像、initrd等數(shù)據(jù)通過kexec_load系統(tǒng)調(diào)用交給內(nèi)核但并不會觸發(fā)立即切換。而kexec -e執(zhí)行的其實是另一個系統(tǒng)調(diào)用reboot(LINUX_REBOOT_CMD_KEXEC)相當于告訴內(nèi)核“我已經(jīng)準備好了你現(xiàn)在可以跳轉過去了”。此外如果你的系統(tǒng)使用systemd作為init系統(tǒng)還有一個更省事的入口systemctl kexec。這個命令會讀取systemd預設的kexec加載配置通常是/run/systemd/system/kexec.conf或者由systemd-kexec服務在啟動時配置然后自動完成加載并執(zhí)行切換。對很多場景來說直接用systemctl kexec比手工敲kexec -l加kexec -e要省心很多但前提是你得先把加載信息提前配置好。3. 為什么kexec能跳過重啟深入內(nèi)核的切換機制3.1 跳過固件與引導加載程序的關鍵設計傳統(tǒng)啟動的路徑是電源上電 - BIOS/UEFI自檢 - 引導加載程序如GRUB加載內(nèi)核到內(nèi)存 - 內(nèi)核初始化硬件 - 掛載根文件系統(tǒng) - 啟動init進程。這個過程中BIOS/UEFI自檢和引導加載程序的掃描往往是耗時的大頭很多時候不需要每次都完整執(zhí)行。kexec的核心思想是當前內(nèi)核已經(jīng)完成過硬件初始化這些硬件狀態(tài)其實都還活著不需要重新初始化一遍。新內(nèi)核只需要接管這些已經(jīng)被初始化好的硬件即可。所以kexec在加載新內(nèi)核的時候會把新內(nèi)核鏡像放入一段特定的內(nèi)存區(qū)域然后在新內(nèi)核入口點執(zhí)行時它并不會像傳統(tǒng)引導那樣重新掃描總線、重新枚舉設備而是盡可能繼承當前內(nèi)核已經(jīng)建立的硬件上下文。這就像你換了個新的大腦來接管一個已經(jīng)正常運行的身體而不是讓整個身體推到手術室重新組裝一遍。當然實際操作中新內(nèi)核還是會做大量的軟初始化工作比如重新初始化內(nèi)存管理、進程調(diào)度、中斷等核心子系統(tǒng)但硬件層面的重復枚舉確實被大幅簡化了。3.2 內(nèi)存布局與加載地址的指定邏輯kexec加載內(nèi)核時有一個很重要的概念是加載地址。使用kexec -l加載時系統(tǒng)默認會選擇一段“安全”的內(nèi)存區(qū)域來放新內(nèi)核。這個安全區(qū)域通常是當前內(nèi)核未使用的物理內(nèi)存段由內(nèi)核在啟動時預留或者動態(tài)分配。在某些特殊場景下你可能需要手動指定加載地址比如當默認加載區(qū)域被某些固件或驅(qū)動占用時會報出kexec: Cannot allocate memory或者類似的內(nèi)存沖突錯誤。這時可以通過--load參數(shù)配合地址選項手動指定。但絕大多數(shù)情況下內(nèi)核自帶的這個內(nèi)存分配邏輯已經(jīng)足夠智能會自動避開正在使用的內(nèi)存區(qū)域。這里要特別提醒一個點kexec加載新內(nèi)核時必須保證新內(nèi)核鏡像的完整性并且新內(nèi)核運行時需要的物理內(nèi)存區(qū)域覆蓋范圍不能和當前內(nèi)核正在使用的關鍵數(shù)據(jù)結構沖突。否則切換后可能出現(xiàn)無法解釋的隨機崩潰。我在調(diào)試時遇到過好幾次類似問題最后都發(fā)現(xiàn)是加載地址選擇不當造成的。3.3 內(nèi)核配置選項與kexec的依賴關系要在你的Linux系統(tǒng)上使用kexec首先內(nèi)核必須開啟相應的配置項最常見的有三個CONFIG_KEXEC、CONFIG_KEXEC_FILE和CONFIG_CRASH_DUMP。CONFIG_KEXEC是支持傳統(tǒng)kexec加載機制的開關CONFIG_KEXEC_FILE是指基于文件描述符的加載方式也就是用kexec -s參數(shù)時走的那條路徑?;谖募募虞d方式在安全性上要更好一些因為內(nèi)核會對鏡像簽名做校驗尤其在啟用了Secure Boot的機器上這種方式幾乎成了唯一選擇。如果你的內(nèi)核編譯時沒開這兩個選項即使你裝了kexec工具執(zhí)行時也會提示不支持。所以在折騰kexec之前先確認一下你的內(nèi)核配置zgrep KEXEC /proc/config.gz或者如果你的發(fā)行版沒有把config導出到/proc/config.gz那就檢查一下/boot/config-$(uname -r)文件。確認有CONFIG_KEXECy或CONFIG_KEXEC_FILEy之后再進行下一步。4. 實操篇kexec的安裝、加載與切換全流程4.1 安裝kexec-tools不同發(fā)行版的差異kexec的用戶態(tài)工具一般叫kexec-tools幾乎所有主流Linux發(fā)行版都提供了對應的軟件包。在Debian/Ubuntu系列上安裝命令是sudo apt install kexec-tools安裝過程中會詢問你是否允許系統(tǒng)在重啟時自動使用kexec快速啟動如果沒有特殊需求可以先選擇否手動控制更穩(wěn)。在RHEL/CentOS/Fedora系列上安裝命令是sudo yum install kexec-tools或者在新版本上用sudo dnf install kexec-tools在openSUSE上則是sudo zypper install kexec-tools安裝完成后先用kexec --version驗證一下工具是否正??捎谩0姹咎柌煌瑓?shù)解析上會有細微差異但核心操作邏輯基本一致。4.2 加載新內(nèi)核到內(nèi)存一個完整的kexec -l示例下面我以一個實際的升級場景來演示。假設當前系統(tǒng)跑的是5.15內(nèi)核你要切換到剛裝好的6.1內(nèi)核但暫時不想執(zhí)行真正的重啟動作。首先確認新內(nèi)核和initrd文件已經(jīng)放在了/boot目錄下ls /boot/vmlinuz-6.1* /boot/initrd.img-6.1*確認無誤之后執(zhí)行加載命令sudo kexec -l /boot/vmlinuz-6.1.0-rc3-generic \ --initrd/boot/initrd.img-6.1.0-rc3-generic \ --reuse-cmdline這里--reuse-cmdline會自動復用當前內(nèi)核的啟動參數(shù)在很多場景下是最省事的選擇。但如果你的新內(nèi)核需要額外的啟動參數(shù)比如要預留內(nèi)存給kdump那就需要手動指定sudo kexec -l /boot/vmlinuz-6.1.0-rc3-generic \ --initrd/boot/initrd.img-6.1.0-rc3-generic \ --command-lineroot/dev/mapper/vg-root ro crashkernel256M quiet這里有一個小提醒手動指定啟動參數(shù)時root一定要寫對否則新內(nèi)核起來后會因為找不到根文件系統(tǒng)而直接進入initramfs的緊急模式甚至直接panic。如果你不確定當前根文件系統(tǒng)的設備路徑可以先執(zhí)行findmnt /查看。4.3 執(zhí)行切換kexec -e與systemctl kexec加載完成之后你可以通過kexec -e立即執(zhí)行內(nèi)核切換。但執(zhí)行前務必確認幾件事所有重要的數(shù)據(jù)已保存當前服務的狀態(tài)可以接受中斷。因為kexec -e執(zhí)行后當前內(nèi)核幾乎不會有任何優(yōu)雅的退出流程所有用戶態(tài)進程會直接消失未落盤的數(shù)據(jù)可能會丟失。如果你用的是systemd更優(yōu)雅的替代方案是sudo systemctl kexecsystemctl kexec會觸發(fā)systemd先執(zhí)行一些基本的服務停止操作然后再調(diào)用kexec切換。注意它并不是完整地執(zhí)行關機流程而是會盡量在短時間內(nèi)停掉部分服務、卸載部分文件系統(tǒng)然后快速切換。優(yōu)點是比kexec -e稍微溫和一些缺點是沒有完整關機那么干凈。從我個人的經(jīng)驗來看如果是測試機或者你能扛得住服務直接中斷的場景直接kexec -e反而更簡單直接因為加載階段你已經(jīng)準備好了一切。systemctl kexec多執(zhí)行的那些步驟有時候反而會引入額外的變量。4.4 用腳本一鍵完成“加載-切換”的自動化實踐如果你經(jīng)常需要切換不同的內(nèi)核寫一個簡單的腳本可以省去每次手動輸入?yún)?shù)的麻煩。下面是一個我常用的shell腳本模板#!/bin/bash KERNEL$1 INITRD$2 EXTRA_CMDLINE${3:-} if [ -z $KERNEL ] || [ -z $INITRD ]; then echo Usage: $0 kernel-image initrd-image [extra-cmdline] exit 1 fi echo Loading kernel: $KERNEL echo Initrd: $INITRD CMD if [ -n $EXTRA_CMDLINE ]; then CMD--command-line$EXTRA_CMDLINE else CMD--reuse-cmdline fi sudo kexec -l $KERNEL --initrd$INITRD $CMD echo Kernel loaded. Run sudo kexec -e to switch.使用時就執(zhí)行./kexec-switch.sh /boot/vmlinuz-6.1.0-rc3-generic /boot/initrd.img-6.1.0-rc3-generic這個腳本只負責加載切換動作留給使用者手動觸發(fā)避免腳本誤觸發(fā)導致意外重啟。5. kdump場景kexec的另一半江山5.1 crashkernel預留內(nèi)存與kdump機制講到kexec不可能不提kdump。kdump是Linux內(nèi)核崩潰轉儲機制的核心它依賴的正是kexec技術。在系統(tǒng)啟動時通過內(nèi)核參數(shù)crashkernel256M預留一塊物理內(nèi)存這塊內(nèi)存專門用于在系統(tǒng)崩潰時加載和維護一個“捕獲內(nèi)核”。平時這個捕獲內(nèi)核并不會運行它只是被kexec預先加載到預留內(nèi)存中處于待命狀態(tài)。當主內(nèi)核發(fā)生panic時它會直接跳轉到這個捕獲內(nèi)核捕獲內(nèi)核啟動后會盡可能保存崩潰現(xiàn)場的內(nèi)存映像也就是生成一個vmcore文件供后續(xù)離線分析。這背后的流程是系統(tǒng)正常啟動時用kexec -p加載捕獲內(nèi)核。這里-p參數(shù)的含義是panic內(nèi)核加載目標是一段獨立的預留內(nèi)存。等到真正崩潰時主內(nèi)核無法繼續(xù)執(zhí)行但它會跳轉到這段預留內(nèi)存中運行捕獲內(nèi)核。捕獲內(nèi)核不依賴被崩潰破壞的根文件系統(tǒng)而是從預先加載好的initrd啟動然后把主內(nèi)核的內(nèi)存轉儲到磁盤上。5.2 配置kdump的完整步驟與參數(shù)說明配置一套可用的kdump環(huán)境其實很簡單。首先在GRUB的內(nèi)核啟動參數(shù)中加入crashkernel256M這個大小取決于你的系統(tǒng)內(nèi)存總量和需要轉儲的內(nèi)存大小。一般建議至少預留系統(tǒng)內(nèi)存的1/16比如系統(tǒng)有8G內(nèi)存預留512M會比較穩(wěn)。修改/etc/default/grub中的GRUB_CMDLINE_LINUX加上參數(shù)然后執(zhí)行sudo update-grub重啟后確認預留內(nèi)存已生效cat /proc/iomem | grep Crash kernel這一步如果沒有任何輸出說明crashkernel參數(shù)沒有生效需要檢查是不是GRUB配置沒寫對。接著安裝kdump工具sudo apt install kdump-tools安裝完成后kdump-tools服務會自動用kexec -p把當前內(nèi)核的捕獲內(nèi)核加載到預留內(nèi)存中。驗證是否加載成功可以看kdump-config show正常情況下會顯示ready to kdump狀態(tài)。最后測試一下崩潰轉儲是否生效sudo sysctl -w kernel.panic_on_oops1 sudo echo c /proc/sysrq-trigger這條命令會強制觸發(fā)內(nèi)核panic然后系統(tǒng)應該會快速跳轉到捕獲內(nèi)核并生成vmcore。注意執(zhí)行這條命令后系統(tǒng)會短暫不可用生產(chǎn)環(huán)境別亂試。測試成功后重啟回到正常內(nèi)核檢查/var/crash目錄下是否有vmcore文件生成。5.3 捕獲內(nèi)核與主內(nèi)核的資源隔離問題kdump有一個容易被忽略的問題捕獲內(nèi)核和主內(nèi)核共享物理硬件但預留內(nèi)存是獨立的。如果捕獲內(nèi)核加載了和主內(nèi)核沖突的驅(qū)動或者在轉儲時訪問了被主內(nèi)核破壞的硬件寄存器可能導致轉儲失敗。為了減少這種概率很多發(fā)行版會為捕獲內(nèi)核準備一個專門的initrd里面只包含最基礎的驅(qū)動模塊。實際操作中如果發(fā)現(xiàn)kdump經(jīng)常轉儲失敗大概率是initrd里包含了太多不必要或者有副作用的驅(qū)動模塊。這時候可以考慮精簡initrd只保留磁盤控制器、網(wǎng)卡等必要驅(qū)動。不過需要注意的是精簡initrd是個技術活搞不好反而會讓捕獲內(nèi)核根本起不來。我在這里的建議是先用發(fā)行版默認的initrd跑一遍測試確認基本可用后再考慮優(yōu)化。6. 我踩過的坑kexec使用中的常見問題與排查技巧6.1 kexec -l 報錯內(nèi)核鏡像格式或權限問題最常見的問題之一是在執(zhí)行kexec -l時直接報kexec: Loading kernel failed或者Invalid file format。這類錯誤通常有兩個原因。第一是權限不夠。kexec加載內(nèi)核需要root權限如果你用的是普通用戶記得加上sudo。第二是內(nèi)核鏡像文件格式不對。部分發(fā)行版在/boot目錄下的vmlinuz文件不是標準的Linux內(nèi)核鏡像而是帶EFI stub的混合鏡像某些舊版本的kexec-tools識別不了。解決辦法是使用kexec -s走基于文件描述符的加載方式它會用內(nèi)核內(nèi)部的kexec_file_load接口來處理兼容性通常更好。另外還有一個小概率問題內(nèi)核鏡像文件損壞。檢查一下文件的校驗值是否和發(fā)行版的發(fā)布值一致。如果文件不完整加載時內(nèi)核在解壓階段就會失敗。6.2 切換后新內(nèi)核起不來initrd問題與模塊缺失kexec -e執(zhí)行后如果新內(nèi)核一直黑屏或者反復重啟大概率是initrd有問題。initrd的作用是在真正的根文件系統(tǒng)掛載前提供必要的驅(qū)動和工具讓內(nèi)核能找到根設備。如果你沒有指定initrd或者initrd和內(nèi)核版本不匹配新內(nèi)核會因為沒有磁盤驅(qū)動而無法掛載根文件系統(tǒng)。遇到這種情況我的排查思路是這樣在kexec -l之前先檢查一下initrd里是否包含了對應的磁盤控制器驅(qū)動??梢杂靡韵旅畈榭磇nitrd內(nèi)容lsinitramfs /boot/initrd.img-6.1.0-rc3-generic如果發(fā)現(xiàn)缺少必要模塊可以用update-initramfs -c -k 6.1.0-rc3-generic重新生成initrd。另外一個容易被忽略的點是部分驅(qū)動模塊依賴固件文件而固件文件在initrd中缺失導致驅(qū)動加載失敗。這種問題通常會在系統(tǒng)日志中留下firmware: failed to load之類的記錄。排查時如果黑屏看不到任何輸出可以考慮在內(nèi)核啟動參數(shù)里加上noreplace-paravirt earlyprintk這類調(diào)試選項讓啟動早期信息輸出到串口或VGA上。6.3 Secure Boot場景下的簽名校驗問題現(xiàn)在不少服務器默認開啟Secure Boot這種情況下直接加載未簽名的內(nèi)核鏡像會被固件攔截。使用傳統(tǒng)kexec -l通常會直接失敗或者雖然在加載階段通過了但在執(zhí)行切換時被固件中止。正確的做法是使用帶簽名的內(nèi)核鏡像并且使用kexec -s基于文件描述符的加載方式讓內(nèi)核自己去做簽名校驗。如果你需要簽名的工具鏈可以在發(fā)行版?zhèn)}庫里找sbsigntool用自己的Machine Owner KeyMOK對內(nèi)核鏡像簽名。簽完名后加載時會比傳統(tǒng)方式稍微復雜一點但整體動作還是那幾步。如果你只是為了在本地測試不想折騰簽名最簡單的方案是在BIOS設置里臨時關閉Secure Boot。但要注意生產(chǎn)環(huán)境不建議為了圖省事關閉安全啟動這會大大降低系統(tǒng)安全性。6.4 切換后網(wǎng)卡名變化導致網(wǎng)絡失聯(lián)的應對這是一個非常實際的問題。當你從一個內(nèi)核切換到另一個內(nèi)核時如果新內(nèi)核使用的網(wǎng)絡驅(qū)動命名規(guī)則不同比如從eth0變成了enp0s3你的網(wǎng)絡配置可能全部失效遠程連接的機器會直接斷線。解決辦法是在新內(nèi)核的啟動參數(shù)中固定網(wǎng)卡命名規(guī)則或者提前在initrd和系統(tǒng)配置中預置好新環(huán)境下的網(wǎng)絡配置。最簡單粗暴的辦法是在切換前確保新內(nèi)核的驅(qū)動模塊和udev規(guī)則和舊內(nèi)核一致。如果你用的是現(xiàn)代發(fā)行版通常系統(tǒng)的網(wǎng)絡管理服務會自動處理網(wǎng)卡重命名但還是建議在切換前把網(wǎng)卡的配置文件檢查一遍。我這里還有一個實用的小技巧如果你必須遠程操作一臺機器做kexec切換最好準備一個IPMI或者帶外管理口。萬一切換后網(wǎng)絡起不來你還能通過帶外方式恢復。這個教訓我是付出過代價的在沒有任何帶外管理的情況下遠程切換內(nèi)核結果只能跑去機房物理操作。6.5 內(nèi)存不足導致的加載失敗當系統(tǒng)可用內(nèi)存非常緊張時kexec -l可能會報錯Cannot allocate memory。這是因為kexec需要一段連續(xù)的物理內(nèi)存來存放新內(nèi)核和initrd。系統(tǒng)內(nèi)存碎片化嚴重時即使總可用內(nèi)存還有不少也找不到足夠大的連續(xù)區(qū)域。這時有兩個常用手段。一是嘗試用--load配合指定的加載地址嘗試不同的內(nèi)存段。這種情況通常需要根據(jù)/proc/iomem里的內(nèi)存布局來選擇合適的區(qū)域。二是先用echo 3 /proc/sys/vm/drop_caches釋放頁緩存減少內(nèi)存碎片。如果這兩個辦法都不行那基本只能等一些內(nèi)存占用大戶退出后再嘗試。6.6 常見問題速查表為方便快速定位問題我把上面提到的典型問題整理成一張速查表現(xiàn)象可能原因排查方向kexec -l 報 Invalid file format內(nèi)核鏡像格式不被識別嘗試 kexec -s 走文件描述符方式加載時報 Cannot allocate memory內(nèi)存碎片化或預留區(qū)域沖突釋放緩存或手動指定加載地址kexec -e 后黑屏initrd缺失或驅(qū)動模塊不完整檢查initrd內(nèi)容并重新生成Secure Boot攔截切換內(nèi)核鏡像未簽名使用簽名內(nèi)核或臨時關閉Secure Boot切換后網(wǎng)絡失聯(lián)網(wǎng)卡命名變化或驅(qū)動缺失提前確認新內(nèi)核網(wǎng)絡配置切換后系統(tǒng)反復重啟根文件系統(tǒng)參數(shù)不對檢查 command-line 里的 root 配置kdump轉儲失敗預留內(nèi)存不夠或模塊沖突調(diào)大 crashkernel 或精簡initrd這張表不能覆蓋所有場景但常見的坑基本都在這了。7. kexec的進一步擴展與GRUB、systemd和容器的協(xié)同使用7.1 和GRUB引導流程的對比何時用kexec何時用傳統(tǒng)重啟有人可能會問既然kexec這么方便為什么不把所有重啟都改成kexec答案在于kexec的適用范圍是有限的。傳統(tǒng)重啟的好處是徹底。硬件被完全重置、固件重新初始化能夠清掉很多潛在的不穩(wěn)定狀態(tài)。如果系統(tǒng)里某個硬件設備狀態(tài)異常傳統(tǒng)重啟很容易解決但kexec切換時硬件狀態(tài)是繼承的如果某個設備已經(jīng)處于不穩(wěn)定狀態(tài)新內(nèi)核也會跟著遭殃。所以我的經(jīng)驗法則是日常內(nèi)核升級和版本切換用kexec能顯著縮短停機時間但如果系統(tǒng)出現(xiàn)莫名其妙的硬件異常、驅(qū)動僵死、或者你要清理固件級別的異常狀態(tài)那就老老實實走完整重啟。不要迷信kexec它只是工具不是銀彈。7.2 systemd-kexec服務與內(nèi)核升級自動化systemd提供了一套和kexec協(xié)同的機制你可以通過配置/etc/systemd/kexec.conf來預設kexec加載信息。每當系統(tǒng)執(zhí)行systemctl kexec時systemd會根據(jù)配置完成加載并切換。同時在內(nèi)核升級自動化方面有些發(fā)行版會在安裝新內(nèi)核包后自動執(zhí)行kexec -l預加載新內(nèi)核。這樣用戶之后只需要執(zhí)行一條命令就能完成切換。Debian系的部分環(huán)境在安裝kexec-tools時會提示你配置這個行為。實際操作時我不太建議完全自動化畢竟內(nèi)核切換是一件影響面很大的動作提前預加載可以但真正的切換動作還是應該由人來控制至少得留一個確認環(huán)節(jié)。7.3 kexec在容器和虛擬機快速迭代中的妙用在容器場景下kexec本身并不直接作用于容器但如果你是搞內(nèi)核開發(fā)的經(jīng)常需要測試新內(nèi)核在容器運行時環(huán)境下的表現(xiàn)kexec就能幫上大忙。比如某公司在物理機上跑著一堆容器需要快速驗證新內(nèi)核與容器運行時是否兼容。如果走傳統(tǒng)重啟可能要等很多容器重新調(diào)度。用kexec提前加載好新內(nèi)核在維護窗口一鍵切換整體服務中斷時間能壓縮到一分鐘以內(nèi)。虛擬化場景下的思路也類似。某些虛擬化平臺支持guest內(nèi)部用kexec快速切換內(nèi)核宿主機層面無感知對業(yè)務影響極小。但需要注意虛擬化平臺的某些特性比如動態(tài)內(nèi)存氣球、設備透傳在kexec切換后可能無法保持原有狀態(tài)測試時一定要驗證這些高級特性是否仍然正常工作。8. 實操記錄一次線上內(nèi)核升級的完整復盤最后分享一次我實際操作的案例。環(huán)境是一臺某公司的測試服務器跑著一個對網(wǎng)絡性能要求很高的應用內(nèi)核版本從5.10升到5.15但那次升級不能走正規(guī)的重啟流程因為業(yè)務要求盡量減少中斷時間而完整的硬件自檢要花掉將近十分鐘。我的操作流程是這樣先把新內(nèi)核和initrd準備好檢查/boot目錄下的文件無誤然后執(zhí)行kexec -l預加載加載時手動指定了root設備和幾個必要的啟動參數(shù)沒有用--reuse-cmdline因為舊內(nèi)核的某些參數(shù)比如舊驅(qū)動專用的配置在新內(nèi)核上已經(jīng)不適用。加載完成后我用kexec -e執(zhí)行切換整個切換過程只花了大概兩秒鐘系統(tǒng)直接進入新內(nèi)核。新內(nèi)核啟動后我第一時間檢查了/var/log/kern.log確認沒有明顯的驅(qū)動報錯然后又檢查了網(wǎng)絡狀態(tài)和業(yè)務進程的運行情況一切正常。整個過程從發(fā)出切換指令到業(yè)務完全恢復用了不到三十秒。如果走傳統(tǒng)重啟這個數(shù)字至少要膨脹到十分鐘。再分享一個反面案例。另一次我圖省事沒有手動指定啟動參數(shù)直接用了--reuse-cmdline結果新內(nèi)核繼承了舊內(nèi)核里一個已經(jīng)廢棄的驅(qū)動參數(shù)導致驅(qū)動加載失敗網(wǎng)絡接口起不來最后只能跑機房處理。所以現(xiàn)在我在kexec -l這一步從來不敢偷懶啟動參數(shù)寧可花兩分鐘仔細核對也不要切換后花半小時收拾爛攤子。這里給你一個操作清單可以當作checklist用確認新內(nèi)核和initrd文件存在且完整檢查當前內(nèi)核啟動參數(shù)決定復用還是手動指定手動指定參數(shù)時確認root設備路徑正確確認預留內(nèi)存區(qū)域kdump場景沒有被新參數(shù)覆蓋切換前保存所有重要數(shù)據(jù)通知業(yè)務方執(zhí)行kexec -l后用kexec --status檢查加載狀態(tài)一切就緒后執(zhí)行kexec -e或systemctl kexec切換完成后立刻檢查內(nèi)核日志和關鍵服務狀態(tài)9. 個人經(jīng)驗與建議kexec雖好用但別忽視細節(jié)我用kexec已經(jīng)有比較長的時間了從最開始單純?yōu)榱思涌熘貑⑺俣鹊胶髞斫Y合kdump做崩潰分析再到線上內(nèi)核版本的低中斷升級這個工具確實幫了大忙。但我也想說kexec不是一個可以完全無腦使用的黑魔法它要求使用者對內(nèi)核啟動機制、內(nèi)存布局和硬件狀態(tài)都有足夠的理解。給剛接觸kexec的朋友幾個建議。第一先在虛擬機或者測試機上反復練習整個加載、切換、回退流程不要一上來就在生產(chǎn)環(huán)境上操作。第二切換前務必備份當前內(nèi)核的啟動參數(shù)和根文件系統(tǒng)配置一旦新內(nèi)核出了問題至少還能用傳統(tǒng)方式引導回舊內(nèi)核。第三如果條件允許配合串口控制臺使用。串口能讓你在屏幕黑掉的情況下也能看到內(nèi)核啟動日志這對排錯來說簡直是無價之寶。最后再分享一個小技巧如果你需要頻繁在不同的內(nèi)核版本之間切換測試建議在磁盤上保留至少兩個可引導的內(nèi)核版本并分別用GRUB菜單項固定好。這樣一來即使kexec切換失敗你重啟后還能通過GRUB選擇器回到原來的內(nèi)核。生產(chǎn)環(huán)境里的安全網(wǎng)越多越好這個習慣能幫你避免很多低級事故。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
日韩精品一区二区人人人| 国产午夜福利电影免费在线观看| 极品尤物女神在线观看| 我想要 啊 啊 啊| 久久久久久大| 噜噜噜无码AV一级一级久久影院| 97啪啪| 亚洲 图片 欧美 色图| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 日本孕妇一区二区视频操逼免费看 | 中文字幕av一区二区三区人妻少妇| 欧美人妻久久精品二区三区| 日韩人妻丝袜中文字幕| 九九av| 99亚洲精品| 9久在线视频只有精品| 99re9这里只有精品| 福利社区午夜一区二区| 精品无码久久久久久久久果冻糖心| 四虎视频在线观看| 蜜桃色色网站视频三区| 欧洲成人性爱视频| 98人妻精品一区二区色欲| 天美传媒Av在线| 国产一区二区三区精品观看啪| 亚洲成人激情小说视频| 亚洲欧美天| 久久久久久性爱视频| 日本理论在线| 久久 国产精品 一区| 边做饭边操逼逼| 色网亚洲人| 加勒比日本在线| 高清孕妇孕交 交孕妇| 国产精品久久久亚洲一区| 精品亚洲国产成人av网站| 漂亮人妻被强中文字幕hd| 黄呦呦在线| 色欧美天天| 青草青草久热| 极品尤物自安慰| 自拍偷拍国产欧美日韩韩| 少妇熟女视频一二三区| 亚州欧美总和| 久湿久久| 综合五月天| 国产外初女出血视频| 久久视网78| 95精品在线| 99热自拍| 婷婷五月影院| 天天添天天干电影| 日韩精彩免费| 美女97超碰| 91ise欧美| 欧美亚洲综合色| 99激情视频| 国产刺激视频| 久7色| 久久久精久久久| 大香蕉97久久| 国产精品色哟哟| 青青操在线亚洲视频观看欧美在线 | 欧美亚洲首页| 欧美性爱免费短视频| AV综合中文字幕干| 性影在线视频| 国产欧美亚洲精品a第2页| 都市久久精品激情亚洲| 日本三级一区二区 在线| 国产精品99999| WWW.操逼.COM| 樱花蜜乳av| 国产一区二区三区视频在线看| 又大又大又大又粗爽高潮观看| 精品中文一区二区| 99999国产| 九九九国产| 亚洲精品一区二区精华| 国产福利电影| 国产精品探花在线| 999狠狠综合| http://qxhbdz.com| 免费观看欧美日韩操逼视频| 九九久久久久久爱| 亚洲爱爱视频一区二区| 99热在线不卡| 伊人久久AV诱惑悠悠| 亚洲激情视频| 亚欧Av| 九九99精品| 久久久久久久久久久人妻| 亚洲男人天堂网久久| 操逼999| 精品国产a∨一区天美传媒| 欧美激情精品| 日本高清_区二区三区| 思思性爱| 中文幕97| 婷婷五月天激情网| 370p日韩欧美亚洲精品| 色播丁香| 粉嫩小泬久久久一区二区| 欧美久久人体| 色黄色美女大长腿午夜视频| 天天舔天天 | www亚洲免费| 夜夜操2028| 最新精品久久蜜桃 | 男啪女色黄无遮挡免费观看| 乱伦图一区| 玖玖在线视频| 亚洲国成人情色好看电影| 天天天做天天天爱天天天爽| 免费观看性欧美一级| 偷窥自拍亚洲天堂网爆| 91另类| 无码精品久久久天天影视| 精品人妻伦一二三区久久| 国产精品。| 中文字幕乱码在线观看| 亚洲国产激情国产av| 神马久久中文字幕| 超碰午夜| 国产亚州精品美女久久久免费| 日本人妻一区二区| 国产v亚洲v日韩v欧美v片另类| 岛国视频免费在线观看| 久操 高清| 欧美激情综合| 天天综合网久久ww| 国产高清午夜成人在线观看| 嗯啊不要啊在线 | 久久久久久999| 日本性爱不卡视频| 天天日骚逼熟女| 日夜精品| 欧美天天拍| 久久久久成人网| 强奸乱伦av电影| 日韩在线AB| 色噜噜狠狠色综无码久久合欧美| 激情五月天色色| 男人的天堂kva| 久久久久成人亚洲国产| 噜噜噜噜天天狠狠| 久/久精品99看9| 怡红院亚洲怡春院av| 青娱乐欧美激情一区二区| 欧美亚洲第1页| 成人a v在线播放免费| 美女诱惑爱爱| 国产精品福利资源在线尤物| 天天综合香 ld视频| 国内自拍 日韩激情 99| 亚洲色宗合| 九九热九九热| 日韩 国产 欧美自拍| 色av中文字| 亚洲欧美日韩激情不卡| 欧洲射精91| 久久久久久久强迫| 久九9精品| 综合色图区| 国产白丝av| 欧美成人9797| 在线看的av| 台湾佬中文娱乐网久久久久久久久久com| 手机在线观看不卡无码av| 少妇人妻在线| 亚洲欧美九九| 先锋色眉乱伦资源| 伊人骚琪琪亚洲天堂网站| 欧美九九爱| 老熟妇一区二区三区…| 91成人18| 好屌色综合| 日本高清免费一本视频在线观看| 亚洲影视综合网| 啊啊啊想要| 日韩少妇丰满亚洲| 欧美一级久久久丰满| 久久久国产护士丝袜美腿一| 情色av电影| 久久久久免费看少妇A片特黄| 999热日韩精品| 强奸少妇AV导航网| 免费啪啪一级视频| 加勒比综合| 97精品97| 日韩草久视频| 蜜桃av综合网发布| 国产主播福利| 久久久久久九九九九九| 亚洲www91| 久久人妻办公室视频| 夜夜爽爽爽| 国产精品视频91久久| 天堂av最新电影网| 密臀AV在线| 欧美黑人XXXⅩ高潮交| 国产欧美精选自拍一区| 色图综合网| 国产精品69久久久久孕妇欧美| 97在线国产精品| 加勒比在线视频一区二区三区| 好属操| 日日骚 av| 亚洲久9| 亚洲乱色视频一区、二区在线| 国产黄色 A 片免费看| 亚洲日韩天堂| 欧美日综合| 蜜桃臀久久| 大香蕉综合久久| 97爱爱爱综合| 热天堂一区二区| 色综合五月天| 久久五月婷| 无码自拍SM| 国产成年女人免费视频播放a| 超碰97伊人| 夜夜操中文字幕| 艾草av| 国产女上位好爽在线| 久久婷综合| 久久精品店| 天天色天天干天天射| 国产宅男宅女在线观看| 国产51色综合久久免费| 熟女这里只有精品6| 强奸乱伦免费网站| 婷婷伊人| 中文字幕在线播放2中文字幕在线观看2| 人人摸人人摸人人干| 免费亚洲黄色视频在线观看| 日本污ww视频网站| 爆操无码| 亚洲黑丝在线| 一区麻豆 高清中文字幕| 国产欧美伊人| 亚洲人精品久久久喷水| 91jk色拍| 秋霞福利网| av中文在线| 久久久五月天| 六月丁香网| 国产馆极品诱惑| 国产成人精品日本视频| 桃色五月天| 久久久久久久一级黄色打同平台| 亚洲妇色| 四虎影视国产精品| 人人操人人肉久久精品| 亚洲性爱免费电影| 久久性爱免费送| 久热99| 日本人体九九九九九九| 精久久久| 亚洲色图欧美| 人人干黄色| 国产精品久久99日日| www网站黄| 九九九九久久久| 久久一区,青青青青草视频在线播放| 躁躁日曰躁2020| 超碰免费欧美7| 欧美综合第一页| 久久免费99精品久久久久久| 色婷婷导航| 欧美乱色| 天天影视之亚洲综合网| 婷婷丁香熟妇综合网| 97这里只有精品| 亚洲 日本 国产 综合| www成人啪啪18秘 免费| 国产亚洲人妻综合日韩 久久| 欧美日韩国产传媒在线精品| 亚洲偷91色| 精品人妻一区二区免费蜜桃视频| 国产不卡免费在线视频| 2001天天操| 午夜毛片高清免费不卡| 96精品久久久久久久久久| 日韩国产不卡在线视频| 日本一区二区三区欧美日韩中文字幕| 2020中文字幕在线| 性暴力欧美猛交在线直播| 日韩啪啪网| 99re在线观看| 丰满人妻一区二区三区免费 | 欧美色五月| 蜜桃视频精品一区二区三区| 国产综合久| 欧美亚洲一级在线观看| 一区二区三区四区久久视1| 欧美亚洲成人在线一区二区三区| 情色日播放AV| 天堂69亚洲精品中文字| 91黑人狂躁丰满熟妇| 日影院久久婷婷夜夜网| 嫩草91| 女一区二区| 99热在线播放| 久久久久久久一级黄色打同平台| 六月婷激情福利天堂69| 欧美巨大性舒爽顶到了| 国产玖玖| 精品国产乱码久久久| 东亚亚洲无码高清| julia中文字幕在线观看| 一起草在线视频| 天天爽天天干| 97日韩欧美亚洲| 国语国产操逼伊人AV网| 小骚逼被操的爽不爽| 亚洲第一综合| 一区二区三区黄色片a| 天天摸天天插天天日| 亚洲高清欧美总合| 天天爽天天爽| 欧美色涩| 日本免费不卡二区| 久久久久久亚洲Av无码| 99操| 人人玩人人添人人澡免费| 国产不卡片| 国产亚洲色停停久久99精品91| 蜜臀av在线播放一区二区三区| 无码二级三级| 亚洲美乱| 国产亚洲精品无码三区| 搡老女人老91妇女熟女| 五月丁香影视| 国产亚洲色停停久久99精品91| 日本不卡卡一区| 乱伦日本中文自拍| 欧美亚洲首页| 超碰79人人乐| 久草尤物| 色拍偷亚洲| 超碰人人干| 亚洲精品少妇| 亚洲激情色片| 日韩乱伦视频| 免费岛国一级片| 9久久美女首页| 黄色高清无码无码破解免费暗网| 99热伊人| 狠狠躁天天躁日日躁| 日韩欧美午夜视频在线| 91亚洲网站| 欧洲精品一二三在线| 久久久久久久人妻丝袜| 亚洲精品一区二区精华| 天天性射网| 99热| 午夜视频好爽啊| 97草草| 中文字暮97| 国产自产一区视频在线| 久99在线免费观看视频| 蜜桃久久久久久久| 中文字幕av乱伦| 蜜臀久久99精品久久久久| 亚洲精品骚逼| 欧美亚洲日韩人妻在线观看| 欧美午夜一区二区三区| 日韩激情电影中文字幕| 69久久| 成人女人国产| 国产精品免费美女视频| 欧美92| 日韩图区| AV高清一区| 91欧美| 91成人久久 | 欧洲精品人妻| av天天在线观看| AV无码久久久精品| 国产成人精品无码久久| 国产无码精品无码| 91精品导航| 亚洲色图 图片| 69AV女优男人的天堂| 强免费黄色网址| 在线岛| 操逼网站网站| av网站免费看| 麻豆成人影音在线| 9Ⅰ超碰| 欧美精品欧美精品系列| 一区二区三区蜜桃成人撸久久东京热| 天天操夜夜操| 国产精品另类一区大香蕉| 人妻人人操| 亚洲导航深夜福利| 男人天堂黄片| 18禁的网站在线| 日韩一级性爱无码| 欧美日韩亚洲一区二区在线观看| 中国熟女老妇仑乱一区二区三区| 97超碰欧美| 亚洲欧美伦综合| 日本三级精品| 极品少妇久久久| 免费簧片在线观看| 五十路熟女工口 | 亚洲天堂久久久久久粉红视频| 伊人网一本| 啊啊啊在线看| 97资源站国产精品| 综合色区偷拍| 无码人妻一区二区三区免费九色| 91亚洲欧洲| 酒色综合网| 97综合| 中文字幕第9页萱萱影音先锋| 三级网色| 91人妻尻屄视频| 精品亚洲国产成人AV制服丝袜| 中文字幕一区二区三区蜜臀| 嗯嗯嗯,草死我| 蜜伊人色综合97| 午夜性| 久久內射| 国产精品白丝AV| 日本二三四区| 91免费看一区二区三区| 成人av福利在线观看| 天天躁日日躁AAAAXXXX国产 | 黄片免费久久久久久久| 日本一级婬片试看三分钟| 日本色色视频网站| 中文字幕精品资源在线| 亚洲色色色| 香蕉一区二区三区在线视频| 高清肉丝中文无码| 九九热精品| 亚洲97成人在线观看| 国产一进一出视频网站| 无码抄逼网| 99啪| wuyechaopeng| 97视频免费播放| 我想要 啊 啊 啊| 麻豆国产视频精品观看| 久久久精品国产亚洲AV无码| 美女的肌被草喷水视频| 67914在线兔费成人视频| 97国产精品视频| 国产高清成人mv在线观看| 五月丁香六月婷综合成人综合| 色香阁在线| 伊人在线大香蕉二。| 狠狠超| 嫩草伊人久久精品| 美女91在线观看| 色97综合中文字幕| 色婷婷六月丁香七月婷婷| 欧美专区日本专区| 欧美性暴力猛交XXXX| 日本高清有码网址视频| 亚洲国产剧情少妇激情| Aa东京男人的天堂| 不卡中文字幕aⅴ在线| 亚欧性爱ab| 96精品久久久久中文字幕| 精品女同一区| 久久九精品| 中文字幕午夜精品久久久| 亚洲人成在线放东京热| 黑人精品成人一区二区三区| oumeisetu综合| 伊人青青草久久| 天天综合中文字幕 91| 日韩人成网站在线播放| 91欧美偷拍| 中文字幕在线免费观看| 国产AV高清AV无码| 日韩精品系列| 人人操人人大香蕉| 天天操人人操骚逼网站| 秋霞操逼片| 久久综合日韩亚洲欧美| 精品无码久久久久久久杏吧| 欧洲天天在线| 俄罗斯及免费在线看| 久久草大香蕉| 久久一区二区蜜桃| 国产乱码久久| 日韩射精| 亚洲日韩av一区二区三区百合| 五十路三区在线| 中文字幕在线观看丝袜| 久久久天堂| 国产成人亚洲精品无| 骚货人妻偷情自拍在线视频| 青草成人免费视频一com| 久久亚洲不卡| 久久综合婷婷| julia国产在线 | 国产乱人伦AVA麻豆软件.| 情侣操 逼视频99| 久久久亚洲高清不打码| 日本性一区| 人人操人人大香蕉| 91精品导航| 久都青青视频| 夜夜操美女| 96国产污污污丝袜| 综合久久欧美| 色吊丝 日日骚 清纯唯美| 婷婷久久综合| 极品AV网站在线观看| 97就爱干| 国产亚洲精品第一最新| 美女诱惑1区2区| 资源新线在线天堂| 东京日日夜夜| 欧美中文字幕日韩在线| 色阁阁AV综合网| 丁香九月激情| 中文字幕美女91| 在线亚洲精品久久久| 久久久精品视频免费观看| 香蕉精品二区二区| 久久水蜜臀亚洲AV无码精品| 亚洲无吗在线视频| 国产一级内射高清视频| 欧美午夜视频| 色九九九九久| 亚洲成a人片在线观看中文!!!| 在线色资源| 午夜精品99久久久久传媒| Av手机版天堂网| 国产不卡的视频| 日韩亚洲美女一区久久| 在线看片国产精品每日更新| 日韩在线观看三级电影| www. 男人天堂成人在线| 爽爽淫人网| 国产成人无码啪| 青青在线视频日韩欧美| 久久视频,这里只有精品 | 免费观看欧美日韩操逼视频| 午夜激情成人在线观看| 97欧美日韩综合| Av色五月| 亚洲色五月| 伊人久久在线视频观看| 亚洲天堂男人天堂| 亚91网| 91黑丝美女| 久久久草成人网站久久久草成人久久久草久久久 | 国产精品久久久久久久久久久久久久久久| 92福利社视频| 爱做久久久久久| 国产美女口爆吞精视频| 亚洲综合91| 人妻丰满熟妇av无码区蜜桃| 中文字幕超碰CAO| 亚洲另类久操网| 大香蕉伊人75| 丁香婷婷五月| 加勒比无码毛片| 中国特猛少妇色xxx| 国产精品无码成人精品| 91天天综合日韩欧美| 欧美日韩美女精品久草一区二区三区 | 久久久久78| 成人精品视频一区二区| 青青网三级视频| 日本久久天堂| 激情五月天色色网| 免费一级视频特黄色大片| 少妇高潮特黄A片| 91精品亚洲内射孕妇| 亚洲一区二区在线观看91| 三级色影综合网| 男人的天堂久久| 九九九不卡| 综合熟妇一区二区三区| 91中文字幕在线观看| 熟女91网| 欧美另类丝袜熟女| 性欧美91| 伊人网高清| 亚洲色阁| 中英熟女操女| 人人玩人人添人人澡免费| 久9re热视频这里只有精品| 一区二区三区免费视频入口| 日B操| 北约熟女超碰| 强奸乱伦αv片| 久热9| 亚洲丝袜色| 久操高青| 欧美成97爱| 加勒比综合a∨| 综合亚洲网| 少妇久久| 东北丰满熟女国产一区| 免费毛片在线播放| 天美传媒av 在线| 欧美爆操91| 操淫穴亚洲五月丁香 | 日本激情免费大片| 91热爆在线| 久久理论字幕视频| 天堂射| 日本一卡二区在线| 搡老熟女免费视频| 你想操日本小逼吗| 亚洲欲| 久久爱超碰网| 天干天干天干天天做| 五月丁香激情四射| 3d成人精品一区二区| 天天日B夜夜干B时时操B| 中文字幕第页| 亚洲熟女一区| 97精品视频| 日本免费中文字幕在线| 伊人久久88国产女| 美女黑人91神马| 天天欧美| 欧洲一级性爱视频在线观看| 久久久亚洲精品电影免费看| 欧美人妻另类在线| 2023天天操夜夜操| 玖玖玖玖精品国产剧情| 香一区二区三区| 91亚.色| 乱伦色图网址是多少| 久久99亚洲精品久久99果| 久久超碰97中文字幕| 好涩综合| 留下AⅤ黄色片| 亚州色交| 国产中文字幕在线| av在线播放国产一区| 伊人久久88国产女| 97 国产精品| 亚洲成人日韩小说| 久久免费看高潮毛片韩国| 偷拍盗拍亚洲色图图片| 国产日本久久免费精品| 久久永久无码人妻视频| 蜜臀一二三| 久久一留热品黄| 久久精品无码专区| 97人妻免费中文字幕| 熟女一区二区| 亚洲九九九| 伊人激情| 欧美se综合| 黄片在线免费在线观看| 丝袜性亚洲| 久久久久国产精品久久久| 性爱1区| 99热日| 草草影院最新网址| 黄呦呦在线| 少妇熟女1区2区3区| 丰满人妻一区二区三区在线| 精品九九九九| 国产精品国产自产拍高清AV| 精品视频在线观看| 亚洲色鬼| 草草草视频在线免费看| 少妇国产不卡| 思思热在线视频在线| 亚洲图片 91| 成年无码动漫av片无尽在线 | 国产av热热色| 国产欧美精选激情视频| 欧美日韩国产人人| 久操视频资源站公开| 91亚洲欧美综合高清在线| 99久久e免费热视| 99精品丰满人妻无码| 成人亚欧免费视频| 后入日本1234| 超碰人人超在线观看| 碰碰97| 九九毛片这里只有精品| 久久精品国产亚洲5555| 97超碰天天爱天天爱| 成人av毛片在线观看| 麻豆AV短剧| 免费一级特黄特色大片在线观看看 | 国产精品人妻熟女aⅴ| 亚码人妻| 在线性黄高清免费视频| 久久久久久久久久9| 九九久久首页| 久久亚洲AV无码专区国产精品| 蜜臀久久99精品| 欧美视频一区二区在线| 极品美女嘿咻| 人妻一区二区三区| 最新中文字幕在线亚洲| 亚洲色图A| 亚洲人在线成线成人| 亚洲国产奇米影视久久| 国产搭汕a级片| 日日天天久久啊啊aaa| 性久久久| 免费男人的天堂| 99婷婷| 91青青草| 欧美在线大香蕉| 成视频在线观看免费看| 思思热在线视频免费| 91无码人妻| 91亚洲黑人| 欧美色图小说综合| 双插在线| 91性高| 欧美日韩国产电影| 成人性生活高清视频在线播放| 亚洲国产一区二区入口| 91成人精品| 欧美页片| 啪啪91| 久久久久久电影| 漂亮人妻被强中文字幕hd| 欧美一区二区传媒| 色激情五月天| 曰韩操B| 好爽免费视频| 少妇人妻在线| 精品亚洲俞拍视频一区| 99热综合| 免费啪啪一级视频| 火箭成精品视频884必出精品| 日本男人插女人的逼黄色| 精品一区二区啪啪啪| 国产精品久久久久亚洲av| 久久大黄片| 情色五月天就去干| 加勒比海成人视频网| 日韩pv中文| 热思思免费视频| 天天日天天看| 久久精品女同亚洲女同13| 国产乱弄免费在线视频。 | 一级毛片电影免费看| 97精品视频在线播放| 青青欧洲黑| 玖玖综合色| 人人手机欧洲亚洲国产人妻| 五月丁香网站| 婷婷伊人网| 国产精品岛国片在线观看| 久操网无码在线| 影音先锋日本一区二区| 中文字幕天堂在线| 国产辣妈在线视频福利| 绯色一区二区三区不卡少妇| 男人天堂网站| 国产在线播放成人免费| 91精品国| 精品国产乱码久久久| 国产蜜臀精品一区二区尤物| 久久精品国产97欧美精品亚洲| 91老熟女91老女人| 人澡逼| 少妇大屁屁| 九一综合网| 大香蕉青青9| 亚洲精品黑丝| 风间由美日韩欧美久久| 精品少妇99| 日日骚中文字幕| 国产黄色剧情影片麻豆免费播放| 天天干人人乐| 九九热三级片| 中文字幕丰满子伦无码专区在线视频最新| 校园春色亚洲| 国产亚洲日韩欧| 中文字幕一区二区三区高清| 天天干夜夜一操| 国产一区自拍欧美日韩| 亚洲天堂人妻熟妇视频| 欧美性爱在线无码| 狠狠操狠狠插| 欧色综合| 黄色一区三区| 天堂性色| 岛国1区2区3区在线观看| 亚洲91在线播放影院| 久久一区二区三区入口| 人妻激情偷乱视频一区二区三区 | 午夜AV人气不卡| 亚洲女毛多水多21P| 欧美色综合影院| 性欧美另类高清| 欧美久久婷婷| 亚洲美女高潮喷水视频| 国产福利精品98视频| 91精品微拍福利| 欧美成人黄网色网站| 天天色粽合合合合合合合| 麻豆福利视频导航| 91麻豆天美国产欧美高潮| 久久久极品| 国产黄色小视频网站| 玖玖爱免费观看视频| 在线观看十八禁| 日韩 欧美 国产 麻豆| 亚洲在饯| 日韩av免费一级电影| av天堂手机版追回| 9 7超碰在线免费观看| 亚洲骚男同com| 91丨国产丨白浆秘 洗澡动漫| 黄片色区软件| 欧插网站| 久久噜噜噜精品国产亚洲综合| 天天肏天天干| 曰韩av中文字幕专区| 欧美亚洲一区二区久久久婷精品大包诱| a片亚洲一本通视频| 欧美亚洲高清| 强奸a片网| 级品肉射| 欧美少妇色图| 国产精品免费视频不卡| 婷婷五月天基地| 97欧美日韩中文| 欧美精品宗合| 激情小说五月天| 国产中午字一暮区| 日韩中文字幕视频| 东京太热久久久| 久久男人| 日韩中文字幕在线视频观看| 99青青草国产视频| 亚洲天天在线| 制服乱伦| 色欧美色交综合| av无线看| 操逼内射干逼白丝91| 亚洲综合九九| 大香蕉亚洲中文| 少妇色综合| 成人小说视频在线精品欧美| 中文伊人大香蕉视频| 五月天伊人网| 大香蕉啪啪网| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 欧美大干日韩| 中文字幕久热视频在线| 日han少妇无码| 亚洲精品免费中文字幕| 台湾佬中文娱乐自偷自拍| 亚洲色欧| 久久激情综合| 大茄子熟女AV导航| 玖玖婷婷五月天| 久艹免费| 日韩激情啪啪| 久久久久幕乱码| 日本精品不卡一二三区| 日本国产二线女色| 99操碰| 亚洲熟女人妻中文字幕一区二区| 久久思思热| 亚洲中文字幕一区二区| 色五月婷婷网| 97在线视频观看| 亚洲中文人妻色| 欧美人人曰人人操人人射射| 97精品综合久久网| 亚洲熟女性高潮久久久| 97超级色碰碰| 国产欧美日韩在线不卡第一页| 欧美啪啪天堂| 人人操av| 日B操| 综合网97| 婷婷六月色| 中文字幕一区二区视频在线观看| 欧美精品第四五页中文字幕在线观看| av爱爱爱| 中文熟女五十乱码在线| 色五月网址| 婷婷婷婷婷婷久久久久| 男人网站婷婷| 伊人女女资源在线观看| 中文乱码字幕观看视频| 男人干美女| 亚洲成人美女无吗| 神马午夜久久| 男女打扑克高清网站| 老司机天天操| 少妇九九九九| 91色图片| 亚洲欧洲网站免费观看| 少妇久久久久久久久| 欧美另类自拍| 91婷婷| 五月丁香六月综合缴清无码| 国产黄色动态精品| 成人性爱电影一区二区| 精品一级毛片在线观看| 久久精品中文字幕女同| 视频二区美腿丝袜制服人妻欧美| 成人性爱AV在线免费观看| 麻豆色99999| 麻豆黄四叶草网站| 99热精品在线在线| 岛国色情视频在线观看| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区 | 日日黄色三级网站| 久久精彩免费视频| 日韩A优精品在线观看| 无码九九九九| 天天看天天综合成人网| 蜜桃无码AV一区二区| 操逼视频国产无套| 综合网少妇| 伊人久久亚洲中文字幕不卡| 欧亚洲精品有视频| 91天堂色男人的天堂| 一二三区操逼国产91| 亚洲日本大香蕉1| 亚洲中文字幕日产无码久久| 夜夜肏2021| 小情侣高清国产在线视频| 老子午夜伦不卡影院| 熟妇一区二区| 色噜噜狠狠色综无码久久| 日韩超碰精品综合| 91爱综合| 欧美一区二区三区蜜桃| 欧美日韩午夜精品一区二区三区| 神马麻豆福利院| 青青草成人视频在线观看二区| 毛片视频白嫩| 久久一二三四五六七八九区区区 | 爱射综合| 囯产操逼片| 中国一级特黄大片护士| 亚洲欧洲成人在线电影| 啊啊啊好舒服视频| 欧美se综合| 91欧美少妇| 9999久久久久| 久久久久久91香蕉国产| 夜夜操av亚洲一区二区| 日韩欧美麻豆大片| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 国产51色综合久久免费| 日本高清视频xxxx| 亚洲欧美高清无码| 久久国产成人精品国产成人亚洲 | 五月丁香婷婷啪啪| 韩国一级做A片免费的| 国产麻豆福利av在线播放| 国产黄片精品在线| 亚洲暴力强奸AV| 91在线超高颜值国产| 人人艹亚洲| 欧美一区二区三区另类精品| 乱伦熟妇一区二区| 国产精品ⅴ无码大片在线看.| 亚洲影院365| 久久一区二区三区四区五区| 麻豆久久一区二区三区| 亚洲色图91| 视频不卡中文字幕| 色综合国产在线观看| 夜夜操美女| 视频黄色国产一级| 91人妻素女| 国内自拍 日韩激情 99| 色色色综合网| 国产精品情侣啪啪| 美女尤物福利视频| 欧美曰韩国产精品| 99re在线视频这里只有精品| 激情婷婷丁香网| 啊啊啊啊啊啊在线| 国语对白露脸XXXXXX | 狼人久草| 欧美天天谢综合网| 亚洲男人天堂网久久| 欧美日韩亚洲高清不卡一区二区三区| 久久一二三四五六七八九区区| 天天操天天日天天干| 欧美色综合网| 天天视频黄| **一级毛片国产| 精产国品一区二三产品| 日产精品久久久一区二区| 国产精品不卡一区二区三区av| 成人网站 免费观看| 青青欧美在线| 日日97| 日本熟女免费視颖| 亚州精人品大香蕉| 超碰久草| A级毛片在线看免费| 91久久久久久| 亚洲天堂日本| 国产精品一二三区18| 久久伊人大香蕉| 爱干爱射网啊啊啊| 97亚洲国产| 超碰在线人妻中文字幕| 国产呦精品一区二区三区下载| 毛片电影一区二区三区| 又黄又粗又硬又长又大| 久久大香蕉97| 日产欧美电影一区二区三区| 亚洲砖码砖专无区2023| 禁片 高清 在线观看视频网站| 加勒比AV天堂| 国产色产精品在线观看| 美女被艹尤物视频| 午夜性| 蜜臀久久99精品久久久久久酒店 | 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 欧美淫乱视频| 二男一女成人A片| 久久久久久九九九九-美女久久久久久久-成人AV| 99热婷婷一区二区三| 欧亚性爱视频免费看| 天天躁狠狠躁av| 少妇无码av专区线| 精品96久久| 一级日本牲交大片好爽在线看| 日韩内射视频| 天天影视色香欲综合网小说| 久久久精品日本一道| 国产精品播放| 91oumei| 色欲av国内精品久久久久久| 久久99久久99久久99人受| 人妻少妇无码| 91黑人无码激情在线| 国产精品夜夜夜| 在线观看日韩av不卡| 玖玖大干人妻| 亚卅熟女乱色| 久久久亚洲精品中文字幕人妻| 99热99色| 中文字幕人妻丝袜乱一区三区| 99综合免费视频| 日本欧美不卡| 欧美 亚洲 综合 制服| 天天插网| 欧美欲色| 亚洲免费成人在线高清无码视频| 四季AV一区二区凹凸精品小说| 亚洲国产av中文字幕久久| 亚州色国| 午夜精品探花| 91中文字幕制服丝袜免费视频| 五月婷婷色| 蜜桃av色偷偷av老熟女| 欧美狠狠弄| 午夜AV人气不卡| 日本国产二线女色| 一区二区你上我| 久久精品国产精品一区| 亚洲欧洲无码97久久精品| 视频黄色国产一级| 97操97干| 日韩欧美麻豆大片| 亚洲成人性爱网站在线播放| 玖玖爱伊人玖玖爱| 激情五月天色播| 思思热在线视频免费| 老熟女中文字幕高清| 综合色99| 久久精品一区二区一8| 欧美一区二区成人一卡| 亚洲色图亚洲无码强奸乱伦| 狠狠爱大香蕉| 伦理弟一页| 我爱大香蕉| 日韩激情无码影院| 欧美性五月| 97蜜桃综合| 96久久精品一二三区色欲| 精品熟女呻吟久久91| 婷婷美人网| 91 刺激在线| 95自拍视频在线观看| 十八禁黄色| 精品97精品97| 激情久久久| ..日韩av毛片精品久久久| 狠狠躁伊人中文字幕| 1二区9| 少妇超碰在线| 精品亚洲国产成人av网站| 丝袜综合网| 日韩淫色网| 熟妇一区二区三区| 国产伦精品一区二区三区在线观| 久久国产AⅤ| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 超碰综合97在线| 岛国AV一区二区电影| 熟女被操视频网址| 国产最新小视频在线播放下载 | 亚洲欧美一区二区三区在钱蜜桃 | 91在线美女| 4399成人黄A片| 大香蕉久| 99亚洲国产精品色一区二区三区| 蜜区区视频79| 人妻激情在线视频| 秋霞男人网| 91色艳| 色色综合网站| 欧美日韩性爱操大逼| 免费福利视频中文字幕| 91亚洲色图| 欧美九九九| 国产熟码AV| 中文字幕视频免费| 日han少妇无码| caopeng97| 亚洲麻豆精品二区三区| 静品嫩模一区二区| 八人操人人摸人人看| 黑人美精品 A片| 国产精品福利资源在线尤物| 久草老司机| 日韩激情电影中文字幕| 精品国产乱码久久久久久久| 99re在线视频国产| 操亚州| 东北老女人的激情视频| 97久精品| 久草成人福利导航| 亚洲激情网一二三四区| 亚洲成人网站在线观看| 熟女乱伦二区| 性爱av网站| 日本福利二区视频| 五月丁香社区婷婷日韩欧美精品影院 | 青草视频人妻在线观看| 亚洲综合性感在线| 亚洲自拍另类丝袜综合| 亚洲情色一区综合| 色鬼在线综合| 久久鲁夜| AV丝袜东京热| 久久人妻无码毛片A片麻豆| 青青草狠狠撸| 国产精品高朝久久久久久久| 女上位精品在线|