久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見(jiàn)路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座。現(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
九九热精品在线| 日本特黄f c2| 九九九网页| 综合网少妇| 亚洲成A∨人影院在线欢看| 日韩av熟女一区二区三区成人| 亚洲日精品| 午夜啪啪片| 天天看特黄的免费网站| 欧美自拍偷拍综合图片| 97天天弄| 男女激情黄色网址| 97超碰人操| 上海一级黄片| 试看60秒| 日本中文字幕在线视频| 精品少妇一区二区三区| 亚洲欧美国产日本一区二区三区| 亚洲se91| 天堂麻豆天美| 91快色色色色色| 国产成人AV麻豆| 天天干人妻视频| 亚洲成人性爱网站在线播放| 9久综合网| 超碰久草| 丝袜熟女2P| 欧美天天综合| 亚洲高清视频在线观看| 国产日韩无码一区二区三区久久区| 天天操女人| 国产精品天堂| 亚洲色91C| 人人操人人插人www| 国产精品3| 大香蕉丝袜一级片| 精…码一二三区| 激激五月| 亚洲图片色图欧美另类| 青青草色情网站视频| 亚洲欧美日韩精品久| 国产精品91ai| 欧美精品在线观看| 超碰调教97| 欧美日韩电影一区二区| 亚洲av性爱电影| 欧美日韩另类激情图片| 啊啊啊啊二区好大| 亚洲中文字幕三级在线| 亚洲日韩人妻中文字幕一区| 欧美日综合| 91久久久久久久| 五月天婷婷影院| 91精品国产91久久青草| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 综合久久欧美| 99re免费视频精品全部| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | 密乳无码| 香蕉欧美| 78超碰| 区二区亚洲婷| 色婷婷99| 风流老熟女一区二区三区l| 亚洲精品欧洲色| 级品肉射| 欧美亚洲20p| h无码动漫在线观看| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 超碰调教97| 日本不卡高清视频| 亚洲综合电影| 蜜臀久久99精品久久久久久成人小说| 91美女视频在线| 色婷婷综合网站| 亚瑟国产精品久久无码| 极品国产内射| 99热在线只有精品| 99色婷婷中文字幕乱色| www.婷婷六月天| 亚洲精品xxx| 国产性爱强奸乱伦大全| 亚洲欧美内射| 色哟哟AV| 热热色青青草| 亚洲天堂久| 超碰在线97国产| 欧美图片色综合| 野狼激情网| 337p大胆噜噜噜噜噜91Av| 香蕉久久AⅤ...| 国产97在线 | 亚洲| 玖玖资源视频一区二区三区| 亚洲丰满很很操| 亚洲视频一二区| 美女在线H91| 91九色精品熟女内射| 嫩呦国产一区二区三区AV| AAAA欧美日韩| 黄片免费视频2019| 久久透逼视频| 久久黄色性爱视频| 最近2019中文字幕国语免费版| 高清无码在线播放网站| 成人97人人超碰人人| 亚洲电影中字一区二区| 久久成人国产精品| 日韩性爱视频在线免费观看 | 秋霞鲁丝午夜无码一区二区三| 久久久久国产亚洲一区欧美色图日韩| 国模限制级电影| 五月丁香影院| 国产天天骚| 天美传媒国产原创中文字幕亚洲欧美另类 | 精品传媒在线一区| 国产美女自拍AV| 亚洲一区二区三区不卡国产欧美| 自拍偷拍亚洲熟女妇人精品| 高清无码一区二区三区| 333kkkk·亚洲com久久| 欧美日韩第一页| 99无码视频| 99ri视频| 亚洲欲色9532548967一区| 中文字幕在线观看丝袜| 久久人妻四季| 一区| 欧美第一页| 美女性91| 亚洲一区操| 亚洲国产一区二区入口| 亚洲成A∨人影院在线欢看| 亚洲国产欧美中日韩成人综合视频| 日本操BAV| 嗯嗯啊在线视频| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 伊人网综合在线视频| 超碰成人最新最好看| 新版天堂中文资源8在线| 婷婷综合激情| 国产精品午夜成人福利| 秋霞福利网| 夜夜爽夜夜高潮夜夜爽| 久久久久久久伊人精品| 怡红院一区二区熟女人妻| 久久婷婷综合国际产色怕| 五月婷婷激情| 色www精品视频在线观看| 九九九九九九九| 亚洲天天自拍| 秋霞免费无码视频日韩A片| 久久黄色视频一区二区三区| 蜜臀AV成人精品蜜臀AV久久| 欧美夜夜| 国产福利影视| 欧美成人一区二区| 蜜臀99久久精品久久久久| 蜜乳AV.COM| 欧亚在线视频| 一区 欧美 日韩 麻豆| 日本精品加勒比海一区| 色综合久久av| 超碰爽人妻熟女Av| 9久9久| 午夜福利国产欧美日韩夜夜| 日韩啪啪视频| 老鸭窝日丰县女人| 丁香五六月啪啪| 99热这里只有精品地址| 日韩欧美丝袜诱惑| 男人的天堂 在线一区| 思思热影视| 97资源欧美| 风间由美日韩欧美久久| 果冻国产精品麻豆成人av| 插老姨肥穴| 97超碰9| 久久久无码av精| 啊啊好多水| 日本506070| 国产又色又爽又舒服的三级视频| 999综合色| 国产精品4p在线观看| 色色婷婷五月| 亚洲天堂男| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 五月婷婷综合在线| av日韩在线观看电影| 久热精品在线| 欧美黑人与女人91| 97操97色| 久热网| av网页一区二区三区| 九九热九九热| 97欧美| 丁香五月性| 人澡逼| 国产女同在线观看视频| 日韩射图| 色综合20p| 老熟女乱伦一区| 97亚洲综合电影| 老鸭窝成人免费毛片视频| 婷婷亚洲综合| 亚洲综合999| 亚洲成人一二三区| 中文字幕高清精品一区| av情色影音| 超碰免费人妻人人| 大香蕉啪啪啪啪在线| 日韩免费高清大片在线| 天美欧美国产| 综合五月婷婷亚洲一区| 亚洲drav色图| 中文字幕在线日亚州9| 后入人妻无码| 97露脸精品丝袜| 久草色悠悠在线视频| 超碰碰碰碰| 人妻99p| 蜜臀Av一区二区三区| 日本天天色| 国产精品999aaa| 99爱久久视频频| 亚洲啪AⅤ永久无码| www.高清无码诱惑一区.com | 欧美青青视频| 青草伊人网| 91美女视频直播| 校园春色美腿丝袜 | 亚洲精品影视老司机| 夜夜做夜夜爽精品视频| 日日干日日| 秋霞怕怕片| 青青草亚洲一区 | 麻豆天美一区二区| 伦在线97| 天美AV片| 看日韩操逼| 天天影视亚洲| 日日骚精品视频| 99热免费| 国产97视频免费观看| 嗯嗯啊啊啊好爽| 97色爱| 99热这里只有精品地址| 无码高清操逼| 伊人久大| 偷拍片久久| 99久热| 日韩一区二区高清在线观看的| 91痴汉| www老逼91| 大香蕉黄色一区| 欧美日韩另类在线| 欧美日韩大香蕉| 色99久草| 超碰夫妻97| 激情小说五月天| 岛国免费黄色网址| 校园春色综合网| 久久久久久裸体| 国产精品制服丝袜中文字幕日韩一区二区三区| 精品婷婷| 日本欧美一区二区三区免费| 91久久99久久91熟女精品| 秋霞午夜成人福利片片| 亚洲高清综合网| 久操视频免费观看| 物尤视频一区二区| 韩国女主播青草福利视频| 久热91| 久久精品国产亚洲AV片多多| 日本三级一区二区 在线| 久久久久九九九| 中文字幕熟女人妻丝袜丝| 91n免费处女| 97资源站久久| 在线观看一卡二卡| 婷婷性网| 自拍偷拍草一草| 激情五月综合| 狠色婷婷久久一区二区三区_| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 2018天天干在线视频| 亚洲成人综合在线| 亚欧美无遮挡| 日本在线视频导航| 久久久极品| 97人妻免费中文字幕| 亚洲综合网图| 国产精品国产亚洲区艳妇糸列| 日韩精品区二区三区不卡| 日本精品九九九| 成人七区| 北野未奈加勒比av| 日本三级日本三级99| 欧美极品少妇| 激情综合婷婷| yaouchengrenav| 在线啊啊啊啊| 日韩av不卡在线看| 九九九只有精品| 色婷婷99| 成人精品在线免费视频| 黄色高清久久无码依人| 日本一区二区三区四区免费观看| 丝袜亚洲91| 日本在线激情一区二区三区 | 人妖欧美一区二区| 九九香蕉网| 精品一级毛片在线观看| 亚洲精品国产av天美传媒| 日韩欧美大片免费高清啪啪| 国产在线精品电影观看| 大奶啊啊好爽| 国产成人亚洲精品无码古代早漏男| 人妻黑丝袜电影| 人人摸人人叼| 蜜桃臀久久| 一个国产在线综合网站| 激情小说图片亚洲首页| 2019男人的天堂| 国产suv精品一区二区四| 久久AV无码网址| 国产粉嫩蜜臀av一区二区三区| 美女淫穴| 麻豆久久视频在线地址| 亚洲免费人妻在| 超碰日韩人妻| 五月天婷婷社区| 久久久久久裸体| 美腿色图| 色综合加勒比四四季| 久操不卡视频| 色官网在线| 日韩精品字幕| 911av网站免费观看| 超碰在线免费一区二区三区| 蜜桃精品一区二区三区久在线| 欧美在线官网| 97WW精品| 狼天天狼天天大香蕉| 中文字幕成人| 插欧洲美女欧美精品| 欧美强奸一区二区诱惑| 近亲乱伦一区二区| 国产视频一区二区免费| 综合操逼| 五月丁香啪啪网| а√天堂资源官网在线资源| 69av一区二区三区| 十八禁av无码免费网站APP| 中国AAAAAA黄色片| 91亚洲色人| 国产特级毛片AAAAAA高潮流水 | 亚洲精品白浆高清久久久久久| 91青青草| 黄片免费看的| www.夜夜操| 口爆欧美91| 午夜天堂网| 色网亚洲人| 国产黄色小视频网站| 久久丁香五月天| 91久久国产综合精品| 欧美色宗合| 色九九综合| 无码二级三级| 欧亚乱色熟女一区二区| 97中文字幕色| 波多野结衣之双飞调教在线播放 | 2020中文字幕| 亚洲骚男同com| 国产毛片在线| 亚洲欧美国产中文字幕| 日韩强奸av| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 久久久久久国产成人| 无码最新| 9999伦理视频| 一区二区三区四区五区久久久久久| 久久久久久久久久8888| 久久中出在线| 欧美成97爱| 熟女熟妇一区二区三四区| 三四中文字幕| 久久美女国产| 91社区拍啪人妻| 国产精品网站www| 色诱avtt| 激情欧美97| 日韩猛交| 毛片电影一区二区三区| 99精品网站| 国产嫩草精品A88AV| 精品久操| 天天日天天干天天整| 丝袜AV一二三区| 国产精品粉嫩福利在线| 岛国免费视频在线| AV天天在线观看| 婷婷九月国产| 亚洲AV无码翔田千里网站| 欧洲色色| 久久精品国产97欧美精品亚洲| 久久狠狠色噜噜狠狠狠狠97| 中文字幕一区 二区三四五 区日 日骚| 97国产超湿| 日韩免费a级毛片无码a∨| 久久久久久精品免费看A级| 91九九九小逼| 碰碰在线视频| 中 文字幕一区二区三四 五 区日 日 骚| 免费成人在线观看91| 欧美性生活男人的天堂| 欧美 日韩 亚洲 春色| 激情综合五月天| 不卡六六在线91| 黑丝自慰喷水网站| 亚洲九九爱| 熟女人妇一区二区三区| 久久9精品网站| 日韩无码人妻| 91女在线观看| 成人av福利在线观看| 国产免费大片| 韩日色费| 久久久久久9999| 国产精品亚洲一级av第二区| 69精品少妇一区二区三区蜜桃| 欧美精品系列| 强奸a片网| 亚洲熟女av中文字幕| 性爱久久| 成人无遮挡毛片免费看| 五十路成人在线视频二区三区| 人人摸人人添人人操| 肥臀熟女一区二区三区视频| 人夜夜精品网站香蕉嫩草| AV一区观看| 91n处女在线观看| 亚洲丝袜天堂| 免费精品福利在线观看| 2017人人操,人人摸| 亚洲 欧美 综合 91| 真实高潮91| 人人操人人操草草| 超碰97日韩| 热的中文 热的有码 热的国产| 人人插人人搞人人操| 国产精品美女视频诱惑| 欧美色图99| 97精品视频网站| 久久这里都是精品| 亚洲天堂久久| 国产黄色 A 片免费看| 欧美日韩在线视频网站| 精品无码一区二区三区色欲| 久热伊人| 日韩欧美三级| 夜夜免费视频| 亚欧美综合网。| 啊啊啊好湿久久| 欧美日韩高潮喷水91| 亚洲天堂99| 黄色视频特级毛片| 国产激情在线| 日本性爱少妇| 99爱在线视频| 蜜臀久久一区二区| 亚洲熟妇乱女区二区三区| 黄污污污污| 午夜男人一级A片7777| 熟女色综合久久| 激情看片网站| 天堂岛av| 日韩精品人妻中文字幕有码午| 香蕉一区二区三区在线视频| 五月综合激情网| 久久精品免费| 歐美性天天| 999 久久久| 涩涩久久精品| 亚洲Av诱惑| 黑人娇小av在线播放| 极品欧美一区二区三区| 色yeye成人免费视频| 人人摸人人摸人人干| 开心婷婷五月| 欧美呦呦性爱| 五月丁香婷婷综合网| 久久女人一区二区三区| 久久久一级| 超碰79人人乐| 久久国产对白激情浪潮| 美腿色图| 91美女在线| 国产尤物AV尤物在线观看不卡| 亚 欧 美 综合| 你草精品在线视频| 久久久九九| 精品国产三级av韩国在线| 强奸乱伦日韩AV| 91三级理论片播放器| 国模无码一区二区三区在线| 少妇毛片久久| 国产熟女无套内射| 黄色片大香蕉| 亚洲男人的天堂AV| 人妻色偷色噜| 九九精品美女高溯喷水| 97se综合网| 小说区 图片区色 综合区| 国产精品999zyz| 手机不卡视频不卡在线一二三区| 中国特猛少妇色xxx| 国产AV激情无码久久无码 | 国内精品嫩模A∨私拍小视频| 亚洲精品第一| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | yazhousetuoumei| 97免费在线观看视频| 极品极品色影院| 67194无码不卡| aaa亚无码专区| 91爱综合| 日产操逼| 亚洲AV不卡在线观看尤物| 日本影视久久免费| 九九九网页| 97超碰精品| 亚洲另类色图片| 特级特黄一级毛片免费| 亚洲精品天天影视综合网 | 四季AV一区二区凹凸精品小说| www.男人的天堂| 日韩AC| 夜夜爽爽夜夜精品视频| 成人自拍三级在线观看| 国产精品欧美在线观看| 超碰吊日色| 91岛国动作片| 一级性爱啪啪视频| 婷婷久草| 欧美性视频二区三区| 国产AV中文| 亚洲第2页| 欧美日韩国产中文超碰| 欧美黑人91| 无码精品久久久久久亚洲| 成人麻豆av电影网站| 五月丁香综合| 久久久噜噜噜久久人妻| 永久电影三级在线观看| 激情婷婷五月天| 久久久久国产| 青草草免费网站av| 色噜噜人妻av 中文字幕| 操逼无毒无码免费视频| 丁香六月激情| 顶级少妇BT天堂| 97资源亚洲| 亚洲黄色网址视频| 久久久久国产| 免费一级黄色录像影片| 亚州色站 日韩电影| 欧美色图91| 国产粉嫩出水在线播放| 啊灬啊灬啊灬啊灬高潮奶出了免费视| wwwxxx日本爽| 97视频在线观看高清资源| 超碰免费人妻在线| 蜜乳中文字幕a在线| 日产狠狠干| 91中出视频| 综合色啪| 久久精品国产亚洲av水密被窝| 国产懂色精品国产av| 香蕉免费一区二区三区不读 | 中文字幕乱碼在线| 国产精品福利资源在线尤物| 九九干| 91麻豆一二三区| 日韩 欧美 视频 在线 一区| 夜精品久无码| 国产精品女久久久久av爽| 97超视频在线观看| 久久精品店| 精品熟妇视频一区二区| 三级三久久线久久99久目本WW| 第一高清av中文字幕| 九九九九热只有精品| 亚洲AV无码国产精品久久久久| 热热色综合网| 六月婷婷激情| 香蕉视频欧美一卡二卡| 亚洲宗合电影| 亚洲色图尤物视频| 亚洲97网站| 天天插天天插| 超碰97护士| 人人综合| 亚洲日韩国产欧美综合v| 久久久免费视频18| 国产久久一区二区午夜| 欧美组图日韩亚洲中文字幕| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 99久热精品99re6热| 狼狼色丁香久久婷婷综合五月 | 好吊色一区| 中国一级操逼视频| 91白虎| 国产久久一区二区午夜| 一级特黄aaa大片在线观看成人一级片在线观看 | 一区二区三区高清| 国产亚卅97| 欧美高清无码免费视频高清版| 久久999久| 久久老子无码午夜伦不卡| 97Ai亚洲| 蜜桃久久精品一区二区三区| 婷婷五月成人| 欧美成熟性爱精品| 国内外激情在线| 99re这里只有精品3| 欧美综合娱乐久久| 97免费在线观看| 日本大香蕉| 日韩人妻资源在线看| 亚欧视频在线| 亚洲天堂2020| 日韩综合97P| 99久久这里只有精品| 老熟妇一区二区三区…| 蜜臀99久| 免费男人的天堂| 日本黄 R色 成 人网站| 98人妻精品一区二区色欲| 老女人91| 99精品网站| 99久久婷婷国产综合精品草原| 久久久久亚洲熟妇熟女| 极品色综合| 日韩欧美水蜜桃人妻| 99热这里只有精品9| 亚洲精品黄码久久久久| 97精品国产手机| 国产不卡片| 一块操欧美性爱| 一区二区免费电影久久| 亚洲AV无码乱码| 美女让帅哥通她小鸡鸡| 99天天超碰| 亚洲中文字幕熟女少妇一区二区| 九九九九日本 | 国产亚州精品美女久久久免费| 久久久久国产精品久久久| 欧美色图片色哟哟| 好看的久久不射无码影视影院| 91黑丝在线播放| 91精品久久久久久77777| 日韩成人在线性爱视频| 五月天婷婷在线看| 国产老太乱伦一区| 青青草好吊色| 日韩91网| 久久久∴| 超碰1024久久| 欧美色图片91| 91在线精品| 日本一级婬片试看三分钟| 操一操摸一摸| 啊啊啊好想要| 国产精品香蕉| 人妻三级在线中文字幕| 日韩综合97p| 日产精品久久久一区二区| 超碰在线在公开超碰在线在公开| 啊啊啊不要啊啊受不了了视频在线| 在线 亚洲 网爆 自拍| 亚洲AV乱码专区国产噜噜亚洲| 久热91| 中文字幕 人妻不满 在线视频| 色区久久| 五月婷婷爱六月丁香色| 色色婷婷丁香| 人妻少妇一区二区| 成功精品影院| 日本一区三级韩国| 91九色丨国产丨爆乳| 婷婷情色综合网| 青青操97| 亚洲欧美激情另类色图| 久久9亚洲| 日韩午夜国产| 久久久久久久国产| 久久久九精品| 超碰97COm中文| 欧美日韩资源| 女沟厕偷窥piss小便| 国产亚洲精品久久久久小 | 熟妇国产免费一区| 91M一社| 伊人久久大香线综合无码| 色娱乐色呦呦夜夜夜夜av| 夜夜免费视频| 久久日韩肥臀| 亚洲色婷婷久久91| 亚洲av综合色| 日韩另类| 欧美 日韩 国产传媒| 久久骚| 一区二区三区男人的天堂| 屁股久久久久久久久久| 第四色奇米影视777| 一牛影视成人片免费| 亚洲图片偷拍视频区| 97干在线看| 丝袜美腿校园春色| 九九热av| 嗯啊抽插大香蕉网页| 综合自拍| 啊啊啊好湿久久| 天天综合网亚洲综合网| 天天噜| 日本成人A片免费看| 人妻嗯啊啊在线播放| 亭亭丁香激情| 婷婷10月天青娱乐| 天天操人人操狠狠插| 综合欧美日韩在线观看| 欧洲免费一区二| avav青青草久久夜| 欧美日韩午夜精品一区二区三区| 中文字幕 国产区| 吉田爱美AV在线| 一区二区三区在线日韩影院观看| 综合另类| 99在线精品观看99| 欧美另类自拍| 麻豆美女丝袜人妻中文| 欧美一级做a爰片免费视频| 国产精品久久久久绯色| www.91视频网| 亚洲最大无码中文字幕网站| 中文字幕日产av人| 啪啪自拍九九综合| 国产 三级自拍| 九九英色视频| yiqicaoav| 丁香激情网| 久久熟女久| 秋霞免费无码视频日韩A片| 日本大片日本一区二区免费高清| 色欧洲97| 国产人伦a片信息免费片| 蜜伊人色综合97| 操操操操操操| 日韩三级伊人| 内射白嫩美女| 极品色| 久久五月丁香| 色97欧美| 99综合网| 另类老少妇| 国精精品无码一二三区水多多| 欧洲与亚洲欧美精品中文字幕| av中亚| 亚洲av夫妻操穴网| 欧亚日韩中文在线| 午夜丁香| 啊啊啊啊好疼| 大香蕉男女超碰精品在线| 91精品婷婷国产综合久久| 亚洲成人一区二区精品| 欧洲大香蕉| 亚洲码在线中文在线观看| 男人的天堂2018.| 国产丝袜欧美在线视频| 一区在线国产播放| 97爱啪| 三级片网站在线播放| 超碰色大香蕉| 亚洲夜夜欢无码一区二区| 久伊人网78| 发朗少妇买婬全视频中文| 竹菊一区二区三区AV线| 五月天婷婷基地| 青娱乐啪啪视频| ′ !γ}丶。。久久精品欧美一区二区三区| 人人妻人人玩人人澡人人爽| 偷拍 亚洲| 国产成年女黄特黄| 性性欧美| 日韩成人大片在线观看| 天天操天天日天天干| 色综合av男人天堂| 日日AAvv| 高凊专区人人操| 欧美影院一区二区三区| 久久綜合很很很| 日韩人妻中文视频| 激情文学亚洲| 五月天春色激情网| 国产日韩在线播放av| 亚洲91网。| 夜嗨影院| 国产精品熟女一区二区三区| 91色噜噜狠狠| 乱伦图av| 日韩色香| 99re这里| 亚洲天堂热| 操逼无码操逼| 一二三四区电影| 92福利社视频| 九九综合久久中文字幕| 97人人爱人人乐| 国产精品午夜成人福利| 欧美视频一区二区在线| 四虎免费在线观看| 91美女看B| 九九热AV| 色狠狠 - 百度| 精品无吗m| 91麻豆天美国产欧美| 亚洲,日韩,欧美,成人播放| 国产91美女视频| 美女毛片999| 极品尤物在线观看| 久综合国内精品自在自线| 久草电影网| 色月天AV导航| 五月婷婷啪啪| 国产亚洲中文不卡二区| 97视频900| 久久精品国产精品亚洲艾通辽熟妇| 精品日韩人妻视频| 亚洲男人天堂2017| 国产精品视频播放| 在线看片国产精品每日更新| 百度百度日本操逼| 熟女一区二区三区四区| 午夜福利久久久噜久噜久久综合| 美女操逼福利视频| 久久在线观看免费视频| 9九九国产| 在线97在线| 色综合91| 久久精品国产亚洲AV无码电影| 亚洲在线网站| 东北老熟女| 嗯~啊~快点 死我视频| 日本岛国黄色网址| 国产精品无套内谢| 色屁屁影院www国产| 巨乳特殊服务按摩| 亚州色图第三区| 国产一区二区三区精品观看啪| 亚洲欧洲中文日韩女优乱码| 先锋女优在线观看视频| 999熟女精品| 情侣操 逼视频99| 亚洲美女精品| 色婷婷色99国产综合精品| 秋霞免费AV| 岛国A V在线免费看| 97网色| 97在线观看免费| 呻吟 欧美 日本 中出| 亚州综合图片| 日本 免费 一区二区三区 久久香蕉 | 伊人在线大香蕉视频久久| 日本天天干天天搞一区| 夜夜操av亚洲一区二区| 色性综合| 欧美色三级片91| 六月婷婷激情| 久久婷色| 男人的天堂不卡一区二区| 超碰av在线| 黑人精品成人一区二区三区 | 少妇无码999| 天天干夜夜操一区二区| 极品出轨视频网站| 老熟女阿 国产91| 久久亚州大香蕉| 天天操天天7| 久久九九精品一区二区| 97欧美久久久久久久| 观看免费区二区三区二| 欧美色图亚洲特色| 亚洲视频一二区| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 亚洲诱惑| 精品无码久久久久| 青青操在线亚洲视频观看欧美在线| 日本女厕偷拍| 9长久久精品| 蜜桃精品视频一区二区三区| 无码人妻精品一区二区三区九九| 欧美性天天影院| 天天操天天谢| 97 亚洲 日韩 欧美 在线| 99re在线观看| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 亚洲精品xxx| 又大又长又粗又爽又黄| 欧美性爱视频免费一区一A| 91丨熟女丨丰满熟女| 97精品综合久久| www.夜夜操| 精品福利视频| 伊人久久亚洲中文字幕不卡| 亚洲文学偷乱拍啪啪啪啪| 精品人妻视频一区二区在线播放| 精品人妻一区二区三区蜜桃视频| 欧美AB在线| 思思视频免费看网站| 国产无马视频| 九九亚洲视频| 青青草精品| 久久久成人精品| 欧美78P| 国产美女在线精品免费看| 屁股久久久久久| 日本精品一区二区三区四区的功能| 3P丝袜熟女 色综合| 日本精品五区| 成人精品一区二区91毛片不卡| 99ri在线视频| 色婷婷激情| 亚洲欧美国产中文字幕| 日本亚欧爱爱| 翔田千里爆乳巨臀无码| 99在线无码精品秘 入口黑人| 最新av网站在线观看| 国产激情av女片自拍| 日韩一区二区熟女| 激情小说亚洲视频| 精品国产乱子伦一区二区三区,精品一 | 99热在线观看| 欧美72网页| 97在线免费视频观看| 超碰在线观看av不卡| 日韩欧美视频青青| 天天综合网AV91| 丁香七月婷婷| 极品尤物在线观看| 日韩精品熟妇| 四虎在线视频| 秋霞久久亚洲精品成人| 九九九九88| 日韩BBN| 国产在线视频二区| 精品无码久久久| 四虎AV在线播放| 亚洲影院无码在线| 操人无码| 天天躁夜夜躁狠狠躁AV| 国产强奸91| 中文字幕性感少妇av| 九九英色视频| 91丝袜在线观看| 97福利视频| a人欧美综合天堂麻豆| 后入国产| 国产亚洲精品自在线亚洲情侣| 欧美少妇高潮久久91| 四虎在线视频| 日本精品高清一二区一本到| SUV一区二区在线看| 亚洲伊人久久综合97| 亚洲欧美一区二区三区一猛片| 熟女欧美日韩综合婷婷| 男插女青青影院| 精品免费一区二区三区在线亚洲人成| 久久精品无码不卡| 秋霞蝌科网日本一区| 欧美色图人妻| 久久久久久久国产视频| 欧美精品丝袜久久久中文字幕| 日韩黄色小说| 国产野战露脸在线播放| 丁香五月天啪啪| 一本色道久久综合熟妇| 日本视频一区二区三区| 亚洲综合69| 国产精品福利视频播放| 禁止观看美女黄| 久久AV无码AV| 在线 亚洲 网爆 自拍| 91青青| 色欲日韩欧美在线一区| 色在线69堂| 熟女五十路一区二区三| 区一在线观看| 亚洲丝袜在线观看| 日本福利社| 婷婷综合伊人一区| 柠檬AV导航| 久久久涩| 国产精品久久久久无码AV会牛| 亚洲综合骚逼| 欧美大香蕉专区网| 大香蕉色欲AV| 国产伦乱91| 中国91AV| 91人人爽人人爽| 天天日天天干天天操| 无码人妻一区二区一牛影视| 麻豆国产97在线| 蜜臀久久99精品| 三级色综合| 久久综合久色欧美综合狠狠 | 午夜男人av| 中文精品少妇天堂| 这里只有精品久久| 美女诱惑久久| 人妻加勒比东京热| 欧美一区二区三区互相| 99日免费视频中文字幕| 精品在线观看视频在线| 97国产中文| 日韩在线女优天天干| 国产乱色国产精品免费视| 青青青艹在线视频| 久久9视频| 丰满人妻一区二区三区免费 | 1级黄色夫妻对换性交免费看| 韩日精品福利视频一区不卡在线免| 神马久久久久久| 夜夜人妻爽| 黄片www.| 熟妇综合一区二区三区| 久久久久久少妇| 色色婷婷丁香| 久久久久亚洲Av无码专区老牛影视 | 福利视频一区二区微拍| 久久精品女同亚洲女同13| 激情网五月天| 亚洲精品三区在线观看| 东京热av影院| 超碰97网址| 色五天伊人| 欧美色图综合网| 中文字幕人乱码中文字的预防方法 | 久久久久久久| 欧美久久人妻少妇一区二区| 91精品国产高清久久久久久,亚洲成人| 欧美情色亚洲| 亚洲老司机123专区| 精品区9| 人人么人人操| 蜜桃久久一区| 91天天综合网,天天综合网| 五月天激情四射| 天天激情综合站| 嗯嗯啊啊啊好爽| 欧亚不卡| 亚洲色图激情小说| 秋霞曰韩R级| 青草一区二区| 四虎在线播放| 婷婷久草一区二区三区| 久久久久久精品免费看A级| 欧美传媒| 99精品九九九九九九| 欧美三级一级| 亚洲乱熟女一区二区三区大香蕉| 无码137片内射在线影院| 久久久久女教师免费一区| 麻豆一区在线| 99re9在线| 色婷婷久久| 久久久精品视频免费观看| 91视频伊人| 国产高清自拍| 亚洲日本大香蕉1| 久久精品国产久精国产| 国产精品午夜成人福利| 在线 制服丝袜中出 人妻| 操逼网站视频漫画国产| 囯戸精品高潮呻吟旡码| 久久AV无码AV| 国产精品一区二区三区免费视频| 亚洲日韩东京热一区| 激情综合五月丁香| 久久精品中文字幕观看| AAAA欧美日韩| 亚洲网站一区二区在线| 92一区二区| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 日韩成人色图| 麻豆人妻精品一区二区| 91九九| 91碰碰| 蜜桃av综合网发布| 日本 色 导航| 一起草日韩| 日韩人妻播放| 国产操逼逼网| 日产操逼| 五月亭亭六月丁香| 精品久久久久久中文字幕视频免费| 欧美中文综合| 在线视频97| 久久老熟女| 综合亚州欧美| 欧美熟妇精品黑人巨大91| 色综合大香蕉| 另类图片天天影视| 五十路熟女人妻一区二区在线观看 | 91人人看| 校园春色亚洲欧洲| 男人天堂.AB| 自拍盗摄一区| 欧美白嫩女HD| jiujiujiujingpin| 久久久内射良家| 毛片视频白嫩| 青青草白白色| 欧美玖玖爱免费玖玖| 亚洲做性| 性91| 偷拍盗拍亚洲色图图片| 日本久久超碰| 真实高潮91| 精品无码久久久久久久久果冻糖心| 亚洲在线综合| 中文字幕三四五区| 九九亚洲| 色综合av综合久久| 2025年A片视频精品| 综合伊人激情| 国产精品一区午夜福利| 亚洲精品日日夜夜52| 女优免费一区二区永久| 无码人妻丰满熟妇奶水区毛片| 日本九九久久99| 欧美页片| 日产精品久久久一区二区| 国产精品99999| 操逼免费视频无码国产| 丁香九月激情啪| 偷拍欧美综合| 久草新免费| 欧洲亚洲人妻无码高清久久三区四区| 久久少妇| 日日操丁香五月天| 这里只有精品视频| 伊人大香蕉在线| 国产丝袜高跟美女av免费观看| 91n欧美| 亚洲国产婷婷在线播放| 麻豆国产尤物AV| 欧美美女在线高潮999| 1024午夜激情男人的天堂| 成人怡红院|