色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見(jiàn)路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座。現(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧亚三区动漫| 91女在线观看| 国产精品成人AV片免费看网站| 狠狠搞 亚洲91| 岛国黄| 丝袜美腿91| 日韩一级片在线看| 久久亚洲欧美中文字幕国语| 91性网| 情色av电影| 一区二区三区免费岛国片| 国产精品白丝| 成人精品水蜜桃久久久久久久| 日产狠狠干| 一起草视频在线| 久久精精区一区二区一蜜桃一区二区| 国产aⅴ无码片毛片一级网站| 91人妻在线视频| 人妻黑丝袜电影| 91久操| 九九精品99| 亚洲国产天堂| 九九九久久久W精品| 18禁久极品美女久久哦哟呀!| 亚洲欧美激情小说| 人妻素股| 四虎免费视频| 成人开心网在线视频| 国产美女激情| 丁香六月婷婷久久综合| 人人扣人人操| 99热精品在线观看| 色情成人五月天| 岛国大片在线观看网站入口| 边做饭边操逼逼| 97亚洲欧美| 亚洲 欧美 日本 国内 首页| 91亚洲综合在线| 国产女人9999| 狠狠2050在线观看| 天天操av懂色| 96爱综合| 激情五月天网| 亚洲美女av无码| 日韩综合97p| 超碰97久久| 久久色一区| 91在线无码精品秘 软件| 极品少妇久久久久| AV不卡在线| 91欧美大片| 黑人黄片在线免费观看| 日韩免费高清大片在线| 亚洲日韩精品久久久久一区壹牛| 蜜臀久久99精品久久久电影| 亚州综合色| 久久久111| 欧美性,色九九| 99热aaa| 天色综合网| 4141514逼喷水三级片| 91色爽欧美| 97爱爱影院| 伊人青青草久久| 精品国产99| 伊人久久蜜月| 嗯嗯嗯啊啊在线观看| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 伊人一级免费黄片| 人人看人人插| 国产AV久久久蜜爱影集| 伊人97超碰| 色眯眯射| 婷婷人妻激情| 亚洲成人激情小说视频| 黄色区免费观看中文字幕| 天美传媒AV国产在线| 熟妇高潮二区三区| 精品999999| 午夜福利一区二区影院| 婷婷五月色| 人人妻人人操人人乐| 精品然女一区二区| 91天天看| 欧美成人黄网色网站| 人人喜人人妻| 欧美啪啪天堂| 久久中文字幕一区不卡| 久久一区二区三区入口| 天操天操夜操夜月操月年年操| 精品人妻一区二区免费蜜桃| 一级免费精品| 亚洲无码一二三区| 欧洲大香蕉| 青娱乐91| 亚洲男人天堂AV| 天天天天天天天天天天干美女| 色区久久| 国产久久男人天堂| 欧美成年人性爱视频免费观看| 人人操人人摸人人看人人干| 日本裸体久久色噜噜| 亚洲清纯唯美| 伊人女女资源在线观看| 特级特黄一级毛片免费| 91色黑人少妇| 欧美黄页| 精品超碰中文在线| 久久久久久久久久久久欧美日| 国产精品视屏| 亚洲欧美精品91| 国产精品不卡一区二区三区| 小视频玖玖| 殴美性色a级欧美| 天天操天天日青青草超碰av| 日本免费中文字幕在线| 熟女高潮合集-永久久久-成人AV| 美女操逼A A| 五月香婷婷| 中文字幕精品人妻丝袜| 婷婷色综合欧美日韩| 依人大香蕉| 亚洲精品久久一区二区三区蜜桃臀| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 国产隔壁老王影院在线| 亚洲免费精品一区| 欧美性爽xyxOOOO| 桃色六月天| 成人国产视频在线观看| 一起草av| 国产h小视频在线观看免费| 精品一区二区成人动漫| av2014 日韩在线中文字幕| 色色毛片| 亚洲有码第一页| A级在线视频| www.超碰| 免费在线黄片视频| 久久9免费视频| 成人在线视频网| 久久熟女嫩草成人片免费| 亚洲精品99| 亚洲激情片| 红杏大香蕉| 后入日本1234| 91在线美女| 国产美女自拍AV| 一级黄碟在线观看| 色色五月婷婷| 91精品老女人| 成人无码专区精品视频| 国产家庭乱伦性爱视频| 91日韩网站| 五月色网| 992视频一区| 熟妇人妻一区二区三在线 | 91 在线亚洲| 色婷婷九月天天综合| 九九av| 亚欧国产无码精品在线| 天天干人人乐| 亚热日本熟女| 五月香婷婷| 毛片一区二区| AV色五月| 国产性刺激| 天天操天天干一区二区| 国产中文字幕在线观看| 啊啊啊在线观看免费视频| 一本久道在线综合视频| 一本大道青青| 五月综合色| 黄片免费日韩| 欧日韩一二三f区| 欧美性爱97超碰| 美女国产一区二区久久| 91国模| 亚洲AV乱码专区国产噜噜亚洲| 99re9这里只有精品| 日韩美女啪啪一区| 三级日本一区二区三区| 怡春院久久| 亚洲综合码| 日美免费黄片| aⅴ日韩成人电影av在线免费看av大全 | 激情四射五月天| 国产一区二区在线播放量| 伊人在线大香蕉视频久久| 国内外色色色色色成人视频| 中文字幕亚洲热播人妻| av一区二区三区不卡| 国产亚洲综合欧美一区| 91美女高潮| 一道本久久棕合爱| 狠狠色丁香| 性爱乱伦视频免费| 亚洲 欧美 制服 另类 自拍| 78久久| 久久精品99| 裸体1区| 亚洲 欧美 天天| 天堂中文日本在线观看| 1769国内精品视频| 久热在线精品免费观看| 午夜性生活av免费在线看| 999九九九九国产动| 动漫av中文| 99亚亚热| 久久亚洲不卡| 天美av在线观看| 久久香蕉国产传媒一区剧情天美| 日韩丨制服丨中文|在线| 97亚洲性爱| 欧美天天拍| 亚洲综合色网| 人妻激情另类| 亚洲人成网www| 亚洲 日韩 欧美 国产综合体| 国产第25页在线观看| 激情抓乳插进去啪啪啪日韩 | 91国产操逼视频| 亚洲在线91| 天天欧美| 精品无码久久久久久久久果冻糖心| 又粗又长又大国产不卡| 日本精品一级二级三级| 超碰午夜| 天天色,天天干,天天干| 99精品在线观看| 亚洲成人性爱网站在线播放| 欧美激情另类一区二区| 九久久九精品视频| 91 国产丝袜在线放观看| 亚洲丝袜色| 婷婷六月天| 五月激情天| 丰满人妻一区二区三区| 99青青草国产视频| 91N综合网| 超碰97男女| 亚洲色图欧美| 人妻干天天| 高潮内射在线| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 久久m| 中文字幕视频免费| 久久久久78| 国产风韵犹存熟妇三区| 国内一级精品| 亚洲欧美精品国产一区二区| 国产激情在线| 91超碰人人| 人妻大相焦在线| 九九久久国产精品| 国产一区二区在线看| 色综91| 噜噜噜在线视频| 亚洲色图亚洲无码强奸乱伦| 国产精品交换一区二区| 东北操逼| 亚洲风情在线观看| 亚洲九月丁香| 啊啊啊com| 婷婷九月国产| 啊啊啊网站| 一线黄色免费性爱片| 色色色999| 麻豆AV96熟妇人妻| 欧美亚洲丝袜人妻制服中文99| 欧亚日韩中文在线| 久久肏大逼| 亚洲国产综合视频| 人人干人人操人人..com| 男人的天堂亚洲| 日欧毛片久久| 天堂v无码免费视频| 欧美国产精品| 欧美有码亚洲中文字幕一区二区三区四区 | 物业黑人 AV一区| 躁躁躁日日躁2020| 18禁超污无遮挡无码免费网| 亚州色图狠狠干| 鸥美中出| 看看小穴| 欧美AB在线| 麻豆啪啪啪视频| 热久久99999| 青娱乐91| 婷婷中文字幕| 91中文字幕在线观看| 成人精品一区二区91毛片不卡| 91N欧美| 国产精品农村妇女| 激情五月综合网| 97欧美色| 欧美一区二区三区日韩| 天天操人人操骚逼网站| 性久久| 天天干天天日天天射黄色片| 看免费一级在线播放毛片| 国产精品熟女乱伦| 女上位精品在线| 一本精品日本在线视频精品| 青青草日本中文字幕| 97色碰| 天天爽爽爽爽| 九九亚洲| 久久侵犯人妻爽爽爽| 精品天堂| 东京太热久久久| 亚洲人妻爽爽爽| 欧美婷婷| 久久免费少妇| 成人一级性爱| 久久久91福利姬| 亚洲αv一区二区三区| 国产 大胆 对白| 天堂中文资源在线bt| 色香伊人| 91在线精品| 淫穴高潮色图| 91 手机在线播放 绯色| 2024年最新色情网站在线观看| 成年女人一区| 人人操人人爽人人操人人| 欧美熟妇乱码在线一区| 美女操逼A A| 亚洲一二三| 91成人久久 | 色五月激情综合网| 欧美色图色综合| 96精品久久久久中文字幕| 国产av激情无码久久天堂| 精品小视频在线| 亚洲古典另类欧美在线| 大香蕉淫人| 香蕉99秘 精品一区丁香| 成人免费看吃奶视频网站| 青青欧美| 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 99国产在线 精品 视频| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | 日韩乱码Av| 青娱乐999| 国内97干免费看| 欧美性爱另类综合| 色色毛片| 欧美美逼| 97超碰色屌| 免费人成?大片在线播放| 91 丝袜在线播放| 亚洲色图美腿丝袜| 亚洲激情网一二三四区| 国产精品久久久久亚洲av| 91色亚洲| 天天性射网| 澳门人妻久久| 探花精品视频| 情趣丝袜无码操逼视频| 亚洲毛片久久| 色网亚洲人| 国产AV人人 夜夜人人澡| 久久激情五月| 黄aaaaaaaaaaaaaaaaaa色网站| 国产成年女黄特黄| 91亚洲黄色网| 中文幕97| 久久手机视直播| 亚洲精品国产精品乱码不99| 交换娇妻呻吟声不停中文字幕| 岛国天天午夜影院传媒网| 天美国产三级传媒| 色999;丁香五月| 美国一区二区三区视频| 97视频在线| 女生看匆91网站| www.99中文字幕| 日韩欧美日韩| 亚洲图片欧美色| 天操天操夜操夜月操月年年操操| AV天堂男人的天堂| 欧美v日韩欧亚洲电影天堂色诱,国产传媒| 91精品无码人妻系列| 亚洲A曰本VA欧美VA视频| 男同专区一区二区三区在线| 超碰 国产熟女精品一区| 久久久久亚洲一区女同性恋中文字幕| 久久免费老司机精品| 十八禁啪啦拍视频无遮挡| 日韩精品碰碰| 双插性欧美一二三区| 欧美激情性久久久久久| 国产操逼视频在线观看| 2019精品国产无码成人| 亚洲日韩视频二区| 欧美人人曰人人操人人射射| 大香蕉视频一二三区| 男人的天堂VA| 97视频免费| 无码粉嫩白虎一线天b区| 天堂精品| 激情婷婷黑人91| 黑人综合色| 99热这里只有精品1| 玖玖超碰熟| 97热视频在线观看| 日日骚一区二区三区| 久久久月天| 伊人国产AV| aV中文麻| 国产成人在线观看网址| 黄色小说亚洲| 精品然女一区二区| 天堂综合| 男人的天堂99| 91香蕉国产尤物视频| 97免费视频在线| 欧美色宗合| 欧美中文字幕日韩在线| 国产呦精品一区二区三区下载| 亚洲 欧美 手机在线观看| 国产精品成人无码av无码免费| 婷婷深爱五月| 久久女人视频| 午夜福利一区二区三区四区五区色婷婷| 91亚洲丝袜熟女| 精品欧美乱码久| 亚洲 欧美 日韩 国产一区二区 | 91 丝袜在线| www.高清无码诱惑一区.com| 综合天天。| 中日韓欧美高清| 色就色综合| 大香蕉综合| 人妻插插人妻人| 亚洲综合贴图91 | 7777欧美成是人在线观看| 色婷婷激情| 好吊色一区| 青青草在线视频美女| 91综合网| 亚洲乱码尤物193YW| 亚洲 图片 综合91| 亚洲综合大片| 亚洲精品一区二区日本| 岛国黄色大片网站| 9999伦理视频| 九九碰九九爱97超碰| 在线天堂999| 亚洲免费97免费| 丝袜AV一区二区三区| 亚洲精品自拍| 大奶啊啊好爽| 亚欧操逼片在线观看| 成人羞羞视频国产| 性爱视频无打码在线观看| 日本三级中国三级99人妇网站| 草久久久| 国产亚洲色停停久久99精品91| 91动漫操逼视频| 色九九九| 无码78| 人妻精品一区二区在线| 天天插夜夜爽| 麻豆视频国产一区二区| 日韩素人无码一区二区三区三州| 熟女露脸激情自拍视频| 青娱乐欧美激情一区二区| 国产青一二三| 亚洲另类春色| 欧美亚州手机在线| 人妻久久| 国产一级片| 97在线播放| 国产精品久久久久久久毛片1| 精品人妻夜夜草| 麻豆天美传媒毛片| 色99视频| 欧美日韩中文字幕不卡| 亚洲97久久精品亚洲| 久久一区,青青青青草视频在线播放| 日韩图色| 久久久九97| 亚洲视频精选| 久久久9品一区二区三区| 97超碰欧美手机| 色五月婷婷网| 狠狠操狠狠操操| 国产精品一区二区三区在线密挑| 97碰久久| 高清不卡一二三区视频......| 最近二区三区视频大全| 熟妇人妻精品一区二区视频色欲| 精品对白久久不卡| 91熟女视频| 天天摸夜夜摸| 国产精品一区二区校花| 日本中文字幕熟妇| 婷婷色婷婷| 青草成人免费视频一COm| 亚洲AV小说| 福利视频香蕉免费一区二区在线| 国产农村妇女精品1区二区| 伊人久久综合影院精品久久久| 撸撸成人在线视频| 福利伊人玖玖国产| 欧美丝袜中文字幕07在线| 情侣开房子拍 日韩无码 女的很漂亮| 欲色综合| 99re8超碰| 欧美一区二区三区蜜桃| 日骚逼视频| 丰满少妇人妻久久久久久| 日本人妻伦在线中文字幕| 人妻熟女一区二区| 亚洲操操操| 久久日韩精品一区二区| 天天综合站| 91欧美高清| 精品国产无码中文| 快播电影网日韩新片| 禁止观看美女黄| 国产h片在线观看视频| 欧美在线大香999| 九九久久一区二区三区| 1769一区二区| 综合久久少妇中文字幕| 99热国产精品| 嗯嗯嗯啊啊啊操的我好爽| 3P乱轮视频| 天天射日日干| 九久久精品| 密臀在线免费观看| 亚洲成人免费电影| 欧美1区二区三区公司| 99热在线只有精品| 国产精品 久久久精品一牛| 天天看特黄的免费网站| 99啪啪| 97在线精品观看视频| 花花AV导航| 亚洲drav色图| 欧美性,色九九| 91久操| 亚洲精品三区在线观看| 精品少妇999| 九九五月天| 爱爱久久| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 国产成人无码久久精品| 嗯啊视频免费在线观看| 日本一道在线播放高清| 久久华人网| 国产精品不卡一区二区三区| 嗯~啊~快点 死我视频| 综合激情五月天| 91强热人妻| 国产高清无码一区三区二区| V A在线| 久9九综合在线| 91男人综合| 色五月激情AV在线| 91夜色chaopeng| 激情四射婷婷四五月天| 人人射人人操人人摸| 国产免a费看黄片在线| 日本羞羞的视频在线播放| 97久久国产精品女不卡| 一卡二卡三卡| 欧美日韩欧美| 无码人妻丰满热妇又大又粗| 精品无码不卡视频| 亚欧成人综合影院| 九九视频黄色片| 综合影院永久入口国产| 中国AAAAAA黄色片| 综合激情二| 色综合国产在线观看| 日本αv| 无码137片内射在线影院| 黄片www视频免费| yiqicaoav| 岛国福利在线精品播放| 久久五月天婷婷丁香中文字幕| 手机午夜电影神马久久| 天天操人人操狠狠插| 色操逼网| 中国国国产一级特黄毛片| 国产精品。| 在线只有精品| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 免费观看国产不卡av| 天天综合网日韩7799| 国产偷拍自拍在线视频| 综合色色婷婷| 欧美另类色图片| 国产农村妇女精品1区二区| 啊啊啊97视频| 九99久久| 久草午夜| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 新婚人妻扶着粗大强行坐下| 99熟女| 99re6久热只有精品6在线直播 | 午夜后入| 九九热国产| 99婷婷一区二区| 久久社区一区二区三区| www99热| 欧美久久婷| 伊人色综合欧美| 日本精品一区二区不卡| 国产又猛又粗又爽又黄| 久久精品店| 偷拍欧美激情| 欧美色爱综合| 久久系列| 日本视频在线观看污污污| 97色婷婷| 97碰碰日本乱偷人妻中文的| 人人妻人人爽| 强奸抽插av| 欧美疯狂做爰xxxx| a人欧美综合天堂麻豆| 熟女久久| 一区二区三区成人高清视频| 综合色图亚洲欧美| 伊人视频| 青青草中文字幕| 午夜久久无码1000合集| 白丝AV网站| 玖玖资源视频一区二区三区| 欧美大波激情xxxx| 激情五月天婷婷| 天天干夜夜肏| 久久久精品网站| 黄色免费网页无码| 极品内射| 老熟乱一区二区三区四区| 免费?级毛片无码?∨蜜芽试看| 色吧五月| 色69大色97香蕉| 欧美日韩午夜精品一区二区三区| 丁香五月性爱| 久久精品操| av国产无码| 亚洲 欧美 日韩另类 麻豆| 日本色色色色色视频| 色拍偷亚洲| 乱欲一区二区| 福利大香蕉| 福利伊人玖玖国产| 久久九九精品一区二区| 国产精品免费视频人成| 一二区在线观看视频| 精品久久人妻成人网| 久久久99免费| 男人天堂2019| 国产第12页| 九热大香蕉| 欧美一级黄片视频在线| 97在线青| 女人高潮抽搐喷水视频网站| 天天影视综合色| 色婷婷99| 精品综合久久久久久五月天| 色色99| 九九干| 欧美性Fer办公室秘书| 亚洲精品日韩国产欧美| 九九九九九九九九九国产精品| 久久乐| 亚欧无码线免费观看视频| 99天天超碰| 日本高清有码网址视频| 91综合网在线| 亚洲视频一二区| 岛园激情| 在线观看中文字幕| 九九国产| 91亚洲黑人| 欧美日韩不卡a片| 超碰偷拍| 天天干天天日天天射黄色大片| 久久社区一区二区三区| 人人妻人人爽| 国产极品久久久| 99热自拍| 免费黄色片。| 久久精品国产亚洲粉嫩| 国产精品欧美激在线| 手机看片1025| 一本色道久久天天射天天干| 中文字幕欧洲有码| 日少妇亚洲版| 综合婷婷| 无码操逼网| 久操视频在线观看| 一级免费精品| 蜜臀AV成人精品蜜臀AV久久| 亚洲福利中文字幕在线| 日韩av在线精品观看| 亚洲熟妇白浆无码AV| 天天综合网久久ww| 色五月亚洲| 黄色AAAAA欧美| 天天看天天日天天操| 性色高清..……| 白丝少妇一区二区| 精品超碰中文在线| 日本高清一区二区在线| 久久这里只精品免费福利| 97资源站国产精品| 91影视亚洲| 亚洲男人天堂网久久| 五月激情小说| www.人人cao| 欧美激情性爱视频网站| 搡老熟女免费视频| 女人综合网| 91色夜| 国产又长又大又粗的视频| 狠狠图片青青草| 青青草在线成人视频| 五月丁香婷婷综合| 精品久久久亚洲AV成人网站| 国产综合网站在线播放 | 很黄很色的视频在线观看| 91天天| 日韩一二三区| 60秒不遮不挡| 啊啊啊水好多| 天天摸天天操视频| 高清无码学生妹高潮| 色偷偷综合91久久噜噜| 综合激情一一91| 情侣操 逼视频99| 亚洲第91页| 日韩电影天堂视频二区三区| juliaann丝袜大战黑鬼| 欧美中字二区| 91激情网| 内射中国少妇高清视频免费视频 | 中文字幕第9页萱萱影音先锋 | WWW4虎| 91肏屄网| wwe 天天干.com| 粉嫩少妇自慰在线| 久久久久大香青草精品综合| 亚洲第一二区另类图| 人人搡人人肉久久精品| 91男人天堂网| 久9综合在线| 亚洲中文字幕av | 免费在线观看国内色片网站网址| 91三级理论片播放器| 粉嫩av在线一区二区| 成人黑料社久久| 天天做天天爽| 久久久久久久 九九九九九九九| 国产精品天美传媒| 国产农村妇女精品1区二区| 欧美色一二三| 一区二三区四区视频大全套| 97 国产精品| 精品天堂| 搞中出久久| 图片区小说区| 伊人综合色网| 精品人妻一区春色| 四虎免费在线播放| 麻豆久久一区二区三区| 亚洲欧洲日韩天堂av| 人人爱人人操人人性| 1024香蕉视频| 亚洲第91页| 久久久久久久久一区二区三区| 午夜性刺激视频免费观看| 99久久精品无码一区二区毛片免费 | 欧美|91色综合| 亚洲中文字幕日产无码久久| 自拍第一页| 天天看夜夜看日日干| 激情网色| 日韩av女优在线免费一区| 欧美色日本| 91综合无码| 熟女乱伦A| 91oumei| 91欧美巨乳| 亚洲男人天堂网| 人人摸人人干人人拍97| 久久久久国产亚洲一区欧美色图日韩| 欧美亚洲成人在线一区二区三区| 大香蕉淫人网| 一区二区三区四区免费视频| 久久久久久大| 90后后入| 色综合av男人天堂| 人妻在线臀日韩| 天天影视综合色| 一本大道不卡一二三区| 亚洲色图超碰在线| 久久精品六区| 高清成年美女黄网站免费大全| 亚洲男人的天堂亚洲| 天天摸天天舔天天操| 精品九九九| 深爱五月天| 日日干夜夜骑| 五月婷婷丁香六月丁香| oumeisetu综合| 亚洲丨在线| 亚洲成人久久一区二区| 欧美页片| 欧美不卡五十路| 五月天婷婷欧美三区| nuu12国产麻豆精品| www.yeyecao| 色好看av| 超碰色综合| 少妇二级| 91人妻人人澡人人爽人人精品| 干婷婷综合网| 亚洲。天堂。日本在线观看| 人人操人人摸人人看人人干| 91亚洲欧美色图| 婷婷伊人五月| 久久这里精品国产99丫e6| 人妻少妇精品视频一区二区三区| 超碰人人超在线观看| 欧美亚洲国产日本在线,久久精品国产| 伊人热综合| 亚洲日韩av一区二区三区百合| 超碰九区| 欧美日韩m| 国产老太乱伦一区| 九九热免费国产视频婷婷伊人| 亚洲天堂资源网| 亚洲宅男天堂| 俄罗斯及免费在线看| 综合色图,成人综合网| 神马麻豆福利院 | 蜜臀99久久国产| 九九性视频| 99999re| 久久精品亚洲婷婷| 国产精品又黄又猛又粗| 99国内精品| 欧美性爱第一页久久| 国产农村妇女精品一二区| 美日韩男女操屄视频| 亚洲情色一区三区| 欧美天天干| 97超色| 爱射综合| 色激情综合网站| 美女诱惑在线一区| 亚洲一级特黄大片在线播放91| 风骚少妇视频中文字幕| 综合激情五月丁香| 97香蕉网| 9久精品视频在线观看| 天天躁日日躁XXXXYY| 久操国产在线| av大香蕉网站| 亚洲AV成人无码久久精品播放| 亚州欧美在线| 麻豆婷婷成人一二三| 日本狂喷奶水在线播放212| 97操综合| 国产精品青青草| 无码高清国产AV| 欧美男人的天堂| 污到发麻的视频 国产| 激情网色| 啊v在线观看视频| 久插综合| 亚洲国产日韩欧美熟妇在线| 丰满人妻一区二区三区色-百度| 一本一首道人妻少妇免费久久| 国产精品久久久久久 百度| 91精品国产一区三一| 精品人妻视频一区二区三区蜜桃视频| 日本精品不卡一二三区| 欧美91精品国产自产| 国产第二页| 嗯嗯嗯嗯啊啊啊好紧好大| 国产AV精久久| 中国AAAAAA黄色片| 97中文综合| 91天天c| 98色网| 韩国午夜理伦三级好看| 一区二区三区国产在线播放| 长久操视频| 蜜臀AV成人精品蜜臀AV久久| 国产亚洲国产超碰| 亚洲视频1区| 神马麻豆福利院| 久湿久久| 青青久操| 极品丝袜无码| 五月丁香成人网| 欧美不卡二区| 色综合V| 日韩97| 久操免费观看| 99久在线精品99re8| 久久久久久久久久久999| 屌逼麻豆| 丁香六月激情综合| 久久精品国产亚洲AV高级北京| 五月天婷婷在线看| 九色黄站| 97超碰9| 欧美激情 一区| 九9热伊人| 99精品伊人| 打av高清| 秋霞男人网| 91人妻丝袜无码| 日韩情色视频| 殴美牲| 日本有码久久| 口爆综合网| 99色综合| 天天日天天色| 午夜天堂精品久久久久91| 99久在线精品99re8热| 每日更新AV| 无码人妻丰满热妇又大又粗| 秋霞无码av鲁丝片一区| 911av网站免费观看| 最新av中文字幕高清| 富女玩鸭子一级毛片| 国产精品内射婷婷一级二| 日本成人在线不卡一区二区三区 | 日本综合久久| 国产成人无码网站在线视频| 精品超碰国产| 色人久久| 一本道综合色图| 国产精品一区人妻精品阁在线| 无码色| 国内91熟女人妻丝袜天天精品视频在线 | 蜜桃视频一区二区三区在线观看| 国产精品乱人伊人网| 欧美 中文字幕 一区| 德国一二三不卡| AV丝袜少妇| 97超碰总站| 男人的天堂三级| 97超碰大| 黄片视频观看| 欧美精品日韩久久久九| 国内亚洲精彩视频在线| 欧美国产伊人久久久久| 人人色人人操在线| 日韩精品一区二区三区四虎影视| 久久免费中文字幕在线观看| 影音综合网| 9999久久久久| 97资源站日韩| 日韩黄片影院| 最新日产中文在线麻豆| 少妇超碰在线| 97免费视频网| 日本熟妇自慰性高潮一区二区三区| 欧美性高潮| 日韩电影在线观看网址| 日本不卡高清视频| 婷婷五月激情综合| 黑丝日韩av丝袜av| 综合自拍| 岛国黄片网站| 国产亚州精品美女久久久免费| 99操99| 久久超碰免费的| 久久成人东京热人妻| 激情婷婷综合久久| 国产高清精品福利| 国产天天骚| 国产蜜臀在线| V A在线| 强奸a片网| 久久9久9久99久9久9| 熟女久久久| 在线αⅴ| 91蜜桃婷婷狠狠久久综合9色| 欧美黄色图片| 亚洲欧美97√| 2020中文在线一区二区三区| 天天爽天天操| 欧美在线视频观看一二三四区高清| 久久久久久加勒比| 人人艹亚洲| 99久久com免费视频′| ...日韩成人一区二区三区字幕| 欧美97色| 中文字幕狠狠玩| 综合网欧| 91视频在线观看18| 午夜男女爽爽爽在线视频| 熟女中出视频| 91美女视频在线观看| 强奸乱伦大香蕉网| 日本啊啊啊啊啊视频| 国产精品96久久久久久| 思思热免费视频观看| 亚洲精品国产精品乱码不卡| 97色色色| 狠狠色婷婷7777久| 玖玖超碰熟| 欧美日韩免费性爱| 岛国AV一区二区电影| 大鸡巴久久| 天天天天天干夜夜夜夜夜操| 啊啊啊要高潮了| 免费1级a做爰片观看| 北条麻妃99精品青青久久| 国产视频第二页| 久久精品色欧美aⅴ一区二区| 久久久久密臀视频| 亚洲成aⅴ人片不卡无码| 国产不卡精品91| 亚洲情色视频| 亚洲高潮少妇| 天天色欧美| 狠狠操天天干| 成人性生活高清视频在线播放| www.色婷婷色综合| 欧美高清在线| 伊人黄色视频免费观看| 日韩综合97P| 成人美女av| 久久久久人| 91精品伊人久久久大香线蕉91| 久久宗合亚洲| 日韩欧美国产一区二区三区四区| 亚州高清色综合| 3d成人精品一区二区| 9999久久久久| 人人做人人妻人人夜视频| 少妇蹲下买菜露大唇0| 青青操狠狠撩| 亚洲欧美综合网| 五月婷丁香| 精品人妻一二三| 亚洲熟女综合| 美女极品一区二区三区| 色天欧美| 极品色www影院| 狠狠爱夜夜| 玖玖97综合| 99re免费视频精品全部| 超碰碰激情97+久| 亚洲制服欧美另类内射| 超碰97极品9| 日韩精品.久久精品.AV女优.天美传媒| 亚洲色图综合| 大香蕉一人在线| 一,爱啪啪,在线免费视频| 夜夜黄| 欧美久久草熟女| 国产日韩欧美中文在线播放| 大香蕉青青9| 狠狠穞A片一區二區三區| 草草电影院| 中文字幕AV片| 激情久久久| 欧美一级黄色免费专区| 亚洲日本天堂| 久超碰在| jk白丝没脱就开始啪啪| 亚洲天天自拍| 夜夜狼人妻| 天天天天天天天天天天干美女| 日韩精品人妻一区二区| 啊好爽受不了无码| 7777欧美成是人在线观看| 久久69| 青青草玖玖爱| 欧美熟女少妇| 啪啪资源网| 97超碰欧美中文字幕| 日韩无码AB| 久操大香蕉手机视频在线看| 亚洲小电影免费涩涩成人在线高清| 色777999综合| 日本不卡高清免v欧美日韩在线观看| 天天操夜夜嗨| 色臀av| 日韩无码服务区| 亚州久久9| 五月综合激情| aaaa少妇高潮大片| 蜜乳AV免费观看| 色老大| 久久草视频污视频| 色噜噜人妻av 中文字幕| 熟女六十路| 俄罗斯一区二区视频在线观看| 热热色91| 亚洲丝袜二区在线| 激情视频一二三| 天天看片天天爽| 六月丁香五月婷婷| 青娱乐久久艹| 国产精品视频自拍在线| 蜜臀久久99精品久久久久| 91美女高潮| 九九九九欧美| 女人一区| 99999精品视频| 久久婷婷五月| 韩国一级做A片免费的| 人人澡人人爽人人精品| 妺妺跟我一起洗澡没忍住| 国产精品免费日韩| 国产午夜福利专区综合| 精品久| 国产伦精品| 香蕉精品二区二区| www.acm成人黄色毛片| 91美女视频在线| 精品无吗久久| 少妇99成人麻豆| 人妻AV 中文字幕的| 国产乱伦一二三区| 亚洲国产午夜真人一级片中文字幕精品黄网站 | 97超碰久久| 男人综合网| 91女色| 粉嫩AV一区二区夜夜| 欧美综合传媒| 成人资源中文字幕在线观看| 久艹99| 青青久久久| 白嫩妹子国产骚| 超碰 欧美| 中文字幕av片| 天美传媒麻豆一区二区三区国产精| 午夜福利 成人 91| 竹菊一区二区三区AV线| 欧美综合色图网| 久久久久久久久久久久97| 亚洲高清欧美总合| 91n欧美| 久草加勒比一区在线| 爱逼综合| 玖玖爱在线视频免费观看| 富女玩鸭子一级毛片| 精品久久久久久中文字幕视频免费| 久久久久少妇| 成人精品久久久午夜福利| 久久欲| 操高情无码| 亚洲国产一区二区三区四区国产| 久久东京国产精品视频|