久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

PYNQ-Z2上的HLS矩陣乘法加速:從零到Python調(diào)用完整實踐

PYNQ-Z2上的HLS矩陣乘法加速:從零到Python調(diào)用完整實踐 第一次接觸PYNQ-Z2的HLS開發(fā)十有八九會被“用C寫FPGA”這個概念吸引住既想保留Python調(diào)硬件的爽快又不想回頭去寫Verilog?,F(xiàn)實也很骨感網(wǎng)上教程要么只講單個環(huán)節(jié)要么把所有步驟打散真正從零一路跑到板子亮燈、跑通數(shù)據(jù)、拿到加速比的內(nèi)容很少。這篇文章不煮雞湯也不復(fù)制官方文檔直接把我從搭建HLS流程、寫矩陣乘法加速器、集成到PYNQ、最后在Jupyter里用Python調(diào)用硬件的全過程和踩過的坑一次說清楚。[!NOTE] 整套流程適合三類人剛?cè)胧諴YNQ-Z2不知道下一步做什么的入門者已經(jīng)會用Verilog但想提高開發(fā)效率的老手以及想評估“算法直接轉(zhuǎn)硬件”到底靠不靠譜的軟件工程師。1. 為什么PYNQ-Z2上的HLS開發(fā)值得上手板子與工具的選型思路1.1 PYNQ-Z2這塊板子的家底PYNQ-Z2的核心是Xilinx Zynq-7000 SoC具體型號是XC7Z020-1CLG400C。它內(nèi)部不是一顆單獨的FPGA而是把雙核ARM Cortex-A9處理器PS側(cè)和Artix-7架構(gòu)的可編程邏輯PL側(cè)封裝在了同一顆芯片里。這意味著跑Linux系統(tǒng)的ARM處理器和做并行計算的FPGA邏輯可以共享同一片DDR內(nèi)存通過AXI總線高速互相訪問。PYNQ這個框架真正的價值是把PL側(cè)當(dāng)成一個“可以動態(tài)加載的硬件庫”。PYNQ-Z2官方鏡像啟動后直接進入Jupyter Notebook你可以用Python加載“overlay”也就是一個已經(jīng)綜合好的比特流文件然后像調(diào)用numpy一樣調(diào)用FPGA上做好的功能模塊。這種玩法讓FPGA不再只是硬件工程師的工具也成了做嵌入式視覺、信號處理、加速算法原型驗證的軟件工程師的實驗臺。但這里有個隱藏邊界PYNQ本身只管加載、控制、數(shù)據(jù)搬運管不了你如何在PL側(cè)造出一個自定義加速器。傳統(tǒng)做法是你去學(xué)一套Verilog/VHDL工作量不小HLS則把這條邊界抬高了允許你用C/C描述算法再自動生成RTL邏輯。1.2 HLS解決什么問題從“寫邏輯”到“寫算法”HLSHigh-Level Synthesis高層次綜合的價值用一句話概括把用C/C描述的算法轉(zhuǎn)換成可以在FPGA上運行的寄存器傳輸級RTL電路。傳統(tǒng)FPGA開發(fā)里你要先明確每個時鐘周期、每個信號線、每個狀態(tài)機的行為HLS開發(fā)里你更多關(guān)注算法本身循環(huán)怎么流水、數(shù)組怎么并行、數(shù)據(jù)怎么搬運這些底層細節(jié)通過綜合指令pragma來引導(dǎo)工具完成。這不是說硬件工程師就沒用了而是節(jié)奏完全不同。用Verilog實現(xiàn)一個矩陣乘法狀態(tài)機寫半天用HLS核心循環(huán)幾十行C代碼就能表達然后通過#pragma HLS PIPELINE和#pragma HLS ARRAY_PARTITION這類指令把循環(huán)展開、流水、數(shù)組切分到BRAM/寄存器的優(yōu)化空間里。綜合工具會給你產(chǎn)生一個帶AXI接口的IP核供Vivado Block Design直接調(diào)用。HLS當(dāng)然不是萬能的不是所有代碼都能被綜合動態(tài)內(nèi)存分配和遞歸基本不可綜合時序約束緊、資源占用極緊的模塊手寫RTL仍然更可控。但對絕大多數(shù)“算法加速”場景HLS帶來的開發(fā)效率提升是實打?qū)嵉奈液竺鏁靡粋€完整例子驗證。1.3 為什么選PYNQ-Z2而不是別的平臺做HLS如果你已經(jīng)有其他FPGA開發(fā)板理論上HLS流程是通用的跟著Vivado HLS/Vitis HLS走就行。但PYNQ-Z2有它不可替代的優(yōu)勢硬件驗證環(huán)節(jié)被Python無縫接管。Vivado里生成的比特流和hwh文件放到PYNQ的overlay目錄Jupyter里三行代碼就能加載并測性能。即使你對Linux不熟也不用額外去寫驅(qū)動和用戶態(tài)程序PYNQ把寄存器的映射和DMA緩沖區(qū)管理都封裝好了。對HLS學(xué)習(xí)來說快速反饋非常重要。傳統(tǒng)FPGA開發(fā)中綜合、布局布線、燒寫、調(diào)試一輪下來幾十分鐘起步PYNQ-Z2上HLS仿真階段可以在PC上確認(rèn)算法板上驗證階段Jupyter交互式執(zhí)行省下來的時間全部用在優(yōu)化算法上。這也是我勸新手從PYNQ-Z2入FPGA HLS開發(fā)的原因門檻低、反饋快、生態(tài)資源多。2. 零基礎(chǔ)起步PYNQ-Z2的HLS開發(fā)環(huán)境搭建與工程模板2.1 工具鏈準(zhǔn)備Vivado、Vivado HLS/Vitis HLS和鏡像做PYNQ-Z2 HLS開發(fā)主要涉及兩套環(huán)境開發(fā)機環(huán)境安裝Xilinx Vivado含HLS工具。早期版本叫Vivado HLS是一個獨立圖形界面2020.1之后的版本把它并入Vitis統(tǒng)一叫Vitis HLS基本功能一致。我的方案是使用Vivado 2020.1對應(yīng)Vitis HLS 2020.1和PYNQ-Z2官方v2.6/v2.7鏡像兼容性很好。板卡環(huán)境給PYNQ-Z2燒錄官方鏡像。去PYNQ官網(wǎng)下載對應(yīng)SD卡鏡像用rufus等工具寫入至少8GB的microSD卡。上電后通過網(wǎng)線連接路由瀏覽器訪問pynq:9090或板卡IP進入Jupyter Notebook。版本匹配是我首先想強調(diào)的。PYNQ官方鏡像里集成了一些pl內(nèi)核的PETALINUX驅(qū)動不同PYNQ版本對應(yīng)不同Vivado版本。常見問題是Vivado版本太高、生成的bitstream/hwh格式與PYNQ環(huán)境不兼容導(dǎo)致Overlay加載失敗。如果你不想折騰直接選“PYNQ v2.6 Vivado 2020.1”這個組合相對穩(wěn)定。2.2 用模板建立第一個HLS工程打開Vivado HLS點Create New Project項目名隨意工程位置不要帶中文路徑。關(guān)鍵的環(huán)節(jié)是Part Selection搜索并選擇xc7z020clg400-1也就是PYNQ-Z2的芯片型號。選錯芯片會導(dǎo)致綜合結(jié)果和板卡資源不匹配所以這一步務(wù)必核對清楚。創(chuàng)建項目后Vivado HLS會生成一個頂層函數(shù)入口。新手最容易犯的錯誤是直接從頭開始寫代碼其實可以直接用工具自帶的模板入門菜單File - New File選擇FIR、Matrix Multiplication或FFT示例先看一遍模板代碼再改成自己的算法。這些模板的接口定義和pragma寫法都是官方維護的直接拿來做試驗省去查手冊的時間。2.3 熟悉HLS的標(biāo)準(zhǔn)開發(fā)流程在Vivado HLS/Vitis HLS里HLS開發(fā)不是一錘子買賣而是分階段反復(fù)迭代C仿真C Simulation在PC上編譯并運行C代碼驗證算法功能正確。這個過程不涉及硬件只是把C代碼當(dāng)普通程序跑方便在早期暴露邏輯錯誤。C綜合C Synthesis把C代碼轉(zhuǎn)換成RTL生成Verilog/VHDL以及對應(yīng)的綜合報告時序、資源、吞吐量預(yù)估。聯(lián)合仿真C/RTL Co-Simulation把C測試平臺轉(zhuǎn)換到RTL仿真環(huán)境中運行驗證綜合出的硬件行為和C代碼一致。導(dǎo)出IPExport RTL把綜合結(jié)果封裝成Vivado可以調(diào)用的IP核一般選擇IP Catalog格式。我實際使用的建議是C仿真階段多寫幾個用例至少覆蓋正常輸入、邊界輸入、矩陣尺寸變化的情況C綜合報告出來后先看“Latency”延遲和“Trip Count”循環(huán)次數(shù)判斷哪些循環(huán)是性能瓶頸聯(lián)合仿真過了再導(dǎo)出否則導(dǎo)出后再改代碼一輪要額外花不少時間。2.4 一個容易忽略的問題hwh文件是PYNQ的靈魂很多新手把bitstream燒進板子加載Overlay時報pynqpl.Warning: No hwh file found然后就懵了。PYNQ加載一個overlay依靠的不僅是bit文件還有hwh文件硬件握手文件。hwh文件本質(zhì)是Vivado Block Design生成的硬件描述里面記錄了IP實例名、寄存器地址段、中斷號等關(guān)鍵信息。在Vivado正常生成比特流后開發(fā)機工程里可以找到project_name.gen/sources_1/bd/block_design/hw_handoff/block_design.hwh把它和.bit文件放到PYNQ板子上同一個overlay目錄并保持同名前綴比如mmult.bit和mmult.hwh配對。沒有hwhPYNQ無法知道IP掛載在哪個地址Python側(cè)也就沒法操作寄存器。這一點我放在環(huán)境搭建部分說是因為它決定了你后面幾步能不能跑通。3. 手把手寫一個矩陣乘法加速器HLS核心流程完整實操3.1 硬件接口怎么定m_axi與s_axilite的組合HLS設(shè)計IP時首先要思考的是“硬件怎么和外界通信”。矩陣乘法的場景是ARM側(cè)把兩個輸入矩陣放在DDR里FPGA側(cè)要從DDR讀取數(shù)據(jù)、計算、再把結(jié)果寫回DDR。最自然的接口方案是m_axi接口讓HLS生成的IP作為AXI Master直接訪問DDR地址主動讀A、B矩陣寫回C矩陣。s_axilite接口作為AXI Slave允許ARM通過一組控制寄存器啟動IP、傳入矩陣數(shù)據(jù)地址、讀取狀態(tài)標(biāo)志。為什么不用AXI-StreamAXI-Stream適合流式數(shù)據(jù)比如視頻像素流。矩陣乘法需要隨機訪問整個矩陣地址跳變明顯用AXI-Stream會讓主機端手動切分?jǐn)?shù)據(jù)復(fù)雜度高。而m_axi像一個大水管可以按地址直接讀DDR中任意位置配合突發(fā)傳輸burst對矩陣乘法這類數(shù)據(jù)塊訪問非常友好。頂層函數(shù)設(shè)計成void matrixmul(int *A, int *B, int *C, int size) { #pragma HLS INTERFACE m_axi portA offsetslave bundlegmem0 depth16384 #pragma HLS INTERFACE m_axi portB offsetslave bundlegmem1 depth16384 #pragma HLS INTERFACE m_axi portC offsetslave bundlegmem2 depth16384 #pragma HLS INTERFACE s_axilite portsize #pragma HLS INTERFACE s_axilite portreturn // 核心計算 }其中offsetslave表示基地址寄存器會暴露在s_axilite接口中ARM會通過寄存器來告訴IP“矩陣A的物理地址是多少”。depth用來提示工具這塊內(nèi)存的最大訪問深度影響突發(fā)劃分建議按矩陣最大元素數(shù)設(shè)置。3.2 第一版樸素矩陣乘法先驗證功能再談性能如果只想驗證流程可以從最直接的實現(xiàn)開始void matrixmul(int *A, int *B, int *C, int size) { #pragma HLS INTERFACE m_axi portA offsetslave bundlegmem0 #pragma HLS INTERFACE m_axi portB offsetslave bundlegmem1 #pragma HLS INTERFACE m_axi portC offsetslave bundlegmem2 #pragma HLS INTERFACE s_axilite portsize #pragma HLS INTERFACE s_axilite portreturn for (int i 0; i size; i) { for (int j 0; j size; j) { int acc 0; for (int k 0; k size; k) { acc A[i * size k] * B[k * size j]; } C[i * size j] acc; } } }這段代碼在C仿真階段完全沒問題綜合也能通過。它的性能很差原因在于內(nèi)存訪問模式內(nèi)層循環(huán)每讀一個數(shù)都直接訪問DDR地址隨機性高AXI總線無法形成有效的突發(fā)傳輸大量時間浪費在數(shù)據(jù)搬運上。我在第一次實測時128x128的int矩陣乘法用這個版本跑硬件執(zhí)行時間能到幾百毫秒比ARM上直接用numpy還慢。這不代表HLS沒用只說明算法映射時不能把PC上的內(nèi)存模型直接搬到FPGA上——FPGA的強項是片上存儲和并行計算而片上BRAM容量是有限的必須通過數(shù)據(jù)分塊讓數(shù)據(jù)盡量留在片內(nèi)。3.3 性能優(yōu)化的核心思路分塊緩存和流水線并行要做出真正能加速的版本核心思想是“分塊”把大矩陣切成適合BRAM容納的子塊先從DDR把子塊搬到片上數(shù)組計算完再搬結(jié)果回DDR。這樣整個計算過程大部分時間在片上BRAM里操作DDR只負責(zé)整塊數(shù)據(jù)的起止搬移AXI burst效率大幅提升。分塊矩陣乘法的骨架如下#define BLOCK 16 void matrixmul(int *A, int *B, int *C, int size) { #pragma HLS INTERFACE m_axi portA offsetslave bundlegmem0 depth16384 #pragma HLS INTERFACE m_axi portB offsetslave bundlegmem1 depth16384 #pragma HLS INTERFACE m_axi portC offsetslave bundlegmem2 depth16384 #pragma HLS INTERFACE s_axilite portsize #pragma HLS INTERFACE s_axilite portreturn int Ablock[BLOCK][BLOCK]; int Bblock[BLOCK][BLOCK]; #pragma HLS ARRAY_PARTITION variableAblock cyclic factor4 dim2 #pragma HLS ARRAY_PARTITION variableBblock cyclic factor4 dim1 for (int i0 0; i0 size; i0 BLOCK) { for (int j0 0; j0 size; j0 BLOCK) { int Cblock_acc[BLOCK][BLOCK] {0}; #pragma HLS ARRAY_PARTITION variableCblock_acc complete dim0 for (int k0 0; k0 size; k0 BLOCK) { // 從DDR批量搬運Ablock和Bblock load_block(A, Ablock, i0, k0, size); load_block(B, Bblock, k0, j0, size); // 計算兩個BLOCKxBLOCK分塊的乘累加 multiply_block(Ablock, Bblock, Cblock_acc, BLOCK); } // 寫回C分塊 store_block(C, Cblock_acc, i0, j0, size); } } }這里load_block、multiply_block、store_block的內(nèi)部實現(xiàn)可以繼續(xù)優(yōu)化例如在multiply_block的最內(nèi)層循環(huán)加#pragma HLS PIPELINE II1讓乘累加每時鐘周期能啟動一次對Ablock和Bblock做ARRAY_PARTITION把同一行的多個元素放到不同BRAM端口上實現(xiàn)多路并行讀取。當(dāng)初我從樸素版改成分塊版后128x128矩陣乘法從幾百毫秒降到了幾十毫秒量級再配合流水線和數(shù)組并行化最終可以壓到十幾毫秒甚至個位數(shù)毫秒取決于時鐘頻率和資源使用。3.4 C/RTL聯(lián)合仿真別急著導(dǎo)出IPC綜合通過后一定跑一次C/RTL聯(lián)合仿真。聯(lián)合仿真會把C測試平臺的激勵信號映射到RTL仿真器里驗證生成的硬件邏輯和C代碼行為一致。我遇到過不止一次C仿真全對一到聯(lián)合仿真就報數(shù)據(jù)錯誤最后定位到是頂層函數(shù)里指針參數(shù)被當(dāng)作局部緩存時綜合出的接口握手時序和testbench預(yù)期不一致。解決辦法是測試平臺里盡量用ap_vld或ap_none等接口約束控制好ap_start/rst信號或者干脆檢查m_axi的depth是否真的覆蓋了訪問范圍depth設(shè)小了仿真時地址超出范圍也會報錯。聯(lián)合仿真需要較長時間一開始不要跑太大矩陣16x16、32x32驗證邏輯足夠等到板上再跑128x128。這個習(xí)慣能省下大量調(diào)試時間。3.5 在Vivado里把IP接到Zynq上HLS導(dǎo)出IP后打開Vivado并創(chuàng)建Block Design按下列步驟連線添加ZYNQ7 Processing System IP運行Block Automation按PYNQ-Z2的板級配置啟用UART、SD、USB和Ethernet。如果只是純硬件加速驗證可以不啟用全部外設(shè)但DDR必須配好。添加導(dǎo)出的HLS IP運行Connection Automation讓它自動連接AXI接口。設(shè)置PL時鐘。PYNQ-Z2常見配置是FCLK_CLK0為100MHz或150MHzHLS IP的時鐘默認(rèn)會連到這個時鐘。時鐘頻率越高性能越好但時序收斂壓力也越大新手建議先100MHz跑通。地址分配。在Address Editor里給自定義IP分配地址段一般落在0x40000000~0x7FFFFFFF區(qū)域內(nèi)比如0x40000000到0x4000FFFF。如果m_axi接口無法自動分配地址需要手動給DDR空間賦值。生成比特流時間取決于工程復(fù)雜度。執(zhí)行Generate Bitstream后Vivado會順帶生成hwh文件。連線時有個小陷阱Zynq的PS側(cè)默認(rèn)只有S_AXI_GP0和S_AXI_GP1可以用來給PL側(cè)IP發(fā)配置信息。如果你的HLS IP用了三個m_axi接口而且需要直接訪問DDR最好再給自定義IP連接到S_AXI_HP0或HP1否則數(shù)據(jù)通路可能全部擠在GP口上帶寬明顯不足。這個細節(jié)會直接影響性能我在后面的調(diào)優(yōu)章節(jié)再展開。4. 在PYNQ上用Python調(diào)起硬件加速從比特流到Jupyter4.1 組織overlay文件在PYNQ板卡上新建一個工作目錄比如/home/xilinx/jupyter_notebooks/mmult/把Vivado生成的.bit和.hwh文件復(fù)制進去并確保兩個文件的主名一致例如mmult.bitmmult.hwhJupyter里加載from pynq import Overlay overlay Overlay(mmult.bit) print(overlay)如果一切正常overlay會列出IP實例比如mmult_0。這一步如果報錯找不到hwh先檢查兩個文件主名是否一致如果報PL版本不匹配多半是Vivado版本和PYNQ鏡像不匹配。4.2 用allocate分配物理連續(xù)內(nèi)存PYNQ里不能用普通的numpy數(shù)組直接給硬件IP傳地址。普通數(shù)組的內(nèi)存是虛擬內(nèi)存物理地址可能不連續(xù)AXI Master無法正確訪問。正確做法是使用pynq.allocate分配物理連續(xù)且地址對齊的緩沖區(qū)from pynq import allocate import numpy as np import time N 128 A allocate(shape(N, N), dtypenp.int32) B allocate(shape(N, N), dtypenp.int32) C allocate(shape(N, N), dtypenp.int32) A[:] np.random.randint(0, 10, (N, N)).astype(np.int32) B[:] np.random.randint(0, 10, (N, N)).astype(np.int32) # 如果緩沖區(qū)是cacheable寫完后需要flush確保數(shù)據(jù)回到DDR A.flush() B.flush()allocate分配出來的緩沖區(qū)自帶device_address屬性后面會把這三個緩沖區(qū)的物理地址寫入HLS IP的寄存器。4.3 寄存器操作啟動IP并等待完成HLS生成的s_axilite接口寄存器布局是可以預(yù)測的。對于普通HLS IP0x00地址是控制寄存器bit0寫1觸發(fā)啟動bit1是完成標(biāo)志函數(shù)參數(shù)比如A、B、C指針和size按地址0x10、0x18、0x20、0x28順序映射。每個參數(shù)是64位地址長度但低32位足夠覆蓋PYNQ-Z2的DDR物理地址空間。用Python操作寄存器的方式見下面代碼# 假設(shè)overlay.mmult_0是HLS IP實例 ip overlay.mmult_0 # 寫入三個緩沖區(qū)地址和size ip.write(0x10, A.device_address) ip.write(0x18, B.device_address) ip.write(0x20, C.device_address) ip.write(0x28, np.int32(N)) # 啟動硬件 ip.write(0x00, 1) # 等待done標(biāo)志CTRL寄存器bit1 while (ip.read(0x00) 0x2) ! 0x2: pass # 讀取結(jié)果前如果緩沖區(qū)是cacheable需要invalidate C.invalidate() result C.copy()這段代碼基本就是所有PYNQHLS IP通用模板。如果你發(fā)現(xiàn)C矩陣值全為0最先檢查的是是否忘了寫緩沖區(qū)地址其次檢查size是否寫成了0x28位寬不對再次檢查DMA緩沖區(qū)是否flush。4.4 實測性能對比軟件和硬件到底差多少我在PYNQ-Z2上跑的128x128 int矩陣乘法時鐘100MHz軟件側(cè)直接用ARM A9上的numpy使用OpenBLAS大約40ms左右第一版樸素HLS IP反而要三百多毫秒優(yōu)化后的分塊HLS IP大約10~15ms。如果繼續(xù)優(yōu)化比如使用雙緩沖、增大分塊、提高PL時鐘到150MHz可以進一步降到個位數(shù)毫秒。這個對比不是想強調(diào)硬件一定比軟件快而是想說清楚一個道理FPGA加速的收益來自于“并行計算 數(shù)據(jù)重新調(diào)度”的組合缺一不可。如果只是把PC的循環(huán)直接翻譯成硬件很可能比CPU還慢。5. 性能調(diào)優(yōu)的關(guān)鍵路徑從200ms優(yōu)化到十幾毫秒5.1 為什么第一版HLS IP比軟件還慢很多新手在HLS第一步就跑出了“負優(yōu)化”然后就下結(jié)論說HLS沒用。實際上第一版慢主要有兩個原因內(nèi)存訪問沒有突發(fā)樸素版本里內(nèi)層循環(huán)逐個訪問DDR地址AXI總線無法利用burst模式相當(dāng)于每次讀一個32位數(shù)據(jù)都需要和DDR做一次完整握手延遲極大。計算沒有并行即便內(nèi)層循環(huán)沒有流水線每個時鐘周期也只能做一次乘累加硬件資源和電腦CPU相比沒有任何優(yōu)勢。解決這兩個問題的方向很明確先做數(shù)據(jù)分塊讓DDR訪問變成連續(xù)的大塊數(shù)據(jù)傳輸再做循環(huán)優(yōu)化讓FPGA上的DSP48E1和BRAM真正忙碌起來。5.2 HLS優(yōu)化指令的實戰(zhàn)組合PIPELINE、UNROLL、ARRAY_PARTITIONHLS代碼的性能主要由三個基本操作決定PIPELINE讓循環(huán)體在不同迭代之間重疊執(zhí)行。最理想的是II1也就是每個時鐘周期都能處理一次循環(huán)迭代。UNROLL把循環(huán)展開用多個計算單元同時處理多個數(shù)據(jù)。展開因子越大DSP資源使用越多吞吐越高。ARRAY_PARTITION把大數(shù)組切分成多個小數(shù)組分布在多個BRAM端口上解決“同時需要讀多個數(shù)據(jù)”時的帶寬瓶頸。矩陣乘法里我常用的組合是#pragma HLS ARRAY_PARTITION variableAblock cyclic factor4 dim2 #pragma HLS ARRAY_PARTITION variableBblock cyclic factor4 dim1 #pragma HLS PIPELINE II1這樣設(shè)計后乘累加循環(huán)每周期可以同時從Ablock的不同列和Bblock的不同行讀取多個數(shù)據(jù)配合DSP資源做并行乘法。資源約束也要心里有數(shù)。XC7Z020的PL側(cè)有220個DSP48E1、140個BRAM36Kb。如果展開因子太大、數(shù)組切得太碎綜合時資源超了就會自動降頻或瘋狂布線結(jié)果反而變慢。我的經(jīng)驗是小矩陣如128x128用factor4或8不用追求極端展開資源利用率保持在70%以內(nèi)時序會寬松得多。5.3 dataflow與雙緩沖解決數(shù)據(jù)搬運和計算互相等待分塊設(shè)計里還有一個隱藏瓶頸搬運數(shù)據(jù)需要時間計算也需要時間如果搬一塊、算一塊、再搬一塊、再算一塊數(shù)據(jù)通路就是串行的。解決辦法是用#pragma HLS DATAFLOW把多個循環(huán)塊流水起來讓上一個循環(huán)還在搬運時下一個循環(huán)已經(jīng)開始計算更進階的是用寄存器或BRAM做雙緩沖一塊buffer在計算時另一塊buffer在接收DDR數(shù)據(jù)。DATAFLOW的坑在于不同循環(huán)之間如果有數(shù)據(jù)依賴工具會強制插入乒乓緩沖Ping-Pong Buffer資源占用會成倍增長。我當(dāng)時調(diào)試時發(fā)現(xiàn)資源占用突然翻了一倍就是這個原因。最終我選擇手動控制分塊循環(huán)把搬運和計算拆到不同函數(shù)再用DATAFLOW串起來才在資源和性能之間找到平衡點。5.4 哪些算法適合放進HLS加速器做了幾個HLS項目后我對“什么算法適合HLS加速”有了比較清晰的認(rèn)識適合計算密集、數(shù)據(jù)復(fù)用率高、有規(guī)則訪問模式的算法矩陣乘、卷積、FIR濾波、FFT都是典型。不太適合分支邏輯復(fù)雜、依賴遞歸、數(shù)據(jù)訪問完全隨機或需要頻繁動態(tài)分配內(nèi)存的算法。勉強適合圖形圖像預(yù)處理、視頻縮放、顏色空間轉(zhuǎn)換這類流式處理但要優(yōu)先選AXI-Stream接口而不是m_axi效率會更高。如果你拿不準(zhǔn)可以先在C語言階段統(tǒng)計一下算法內(nèi)層循環(huán)是否存在大量乘累加訪問數(shù)組時地址是否規(guī)律如果兩個條件都滿足HLS大概率能幫你吃下這塊硬件加速的蛋糕。6. 常見問題與排查技巧那些文檔里不寫的坑6.1 仿真過了但板子跑掛先懷疑復(fù)位和時鐘HLS的C仿真過關(guān)不代表上板一定正常工作。最常見的情況是IP沒收到有效復(fù)位或時鐘沒起來。PYNQ-Z2的PL側(cè)時鐘由PS輸出如果Block Design里沒配置好FCLK或沒使能對應(yīng)的GP端口IP內(nèi)部狀態(tài)機可能永遠停在初始狀態(tài)。排查辦法在Jupyter里寫一段循環(huán)讀取IP CTRL寄存器觀察ap_idle位是否為1。如果始終是0說明IP根本沒有正確初始化回頭查時鐘和復(fù)位連接。另一個快速驗證方案是在IP里加一個固定值輸出寄存器比如某個內(nèi)部計數(shù)器的低16位加載后直接讀寄存器如果讀到非零值就說明IP在跑。6.2 burst沒有打滿帶寬上不去優(yōu)化后的HLS IP在C綜合報告里可能顯示吞吐很高但實測性能依然拉胯。問題通常出在AXI burst效率上。打開Vivado的波形或HLS的接口報告看m_axi接口的burst長度是否達到十幾以上。如果burst長度總被限制在4或8說明綜合器認(rèn)為訪問的數(shù)據(jù)不連續(xù)或存在別名問題。一個很實用的技巧在函數(shù)參數(shù)里給指針加__restrict限定符告訴編譯器A、B、C不會指向同一片內(nèi)存綜合器就能更大膽地安排連續(xù)讀。另外檢查depth參數(shù)是否夠大過小的depth會讓工具保守地限制突發(fā)。6.3 hwh文件缺失、地址沖突和DDR緩存一致性O(shè)verlay加載失敗的第三個高頻問題就是hwh文件缺失或IP實例名對不上。PYNQ加載hwh后會按照實例名生成Python屬性。如果你的Block Design里IP名字叫matrixmul_0Python里就得用overlay.matrixmul_0如果名字叫mmult_0就用overlay.mmult_0。命名不統(tǒng)一雖然不影響硬件功能但代碼里找起來很痛苦建議在建工程時就有意識地統(tǒng)一命名。數(shù)據(jù)錯亂還可能是緩存一致性問題。PYNQ的allocate默認(rèn)分配non-cacheable內(nèi)存通常不需要手動flush。但如果你用其他途徑分配內(nèi)存或者對一些非默認(rèn)target的緩沖區(qū)寫回和失效操作就很重要。我習(xí)慣總是調(diào)用A.flush()和C.invalidate()代價是幾個微秒換來的是調(diào)試時少掉頭發(fā)。6.4 我的個人心得版本管理、增量優(yōu)化和耐心最后分享幾條我自己的實操經(jīng)驗純屬個人習(xí)慣但效果很好。工程目錄做好版本管理。HLS代碼、Vivado工程、PYNQ overlay目錄三者分開每輪優(yōu)化都記錄基線比如“樸素版320ms”、“分塊版45ms”這樣能清晰看出改動帶來了什么效果。優(yōu)化要增量跑。不要一次把分塊、流水線、數(shù)組切分、DATAFLOW全部堆上出問題根本定位不了。每加一條pragma就重新綜合一次雖然慢一點但調(diào)試效率反而更高。對參數(shù)化代碼先在C仿真里用小矩陣比如16x16驗證所有邊界再上板跑128x128。板上調(diào)試的成本遠高于PC仿真能提前發(fā)現(xiàn)的問題就不要留到板子上。如果你也想在PYNQ-Z2上試一把自定義硬件加速建議就從矩陣乘法這個例子開始跑通全流程再把其中的負載替換成你真正關(guān)心的算法。整套“C代碼 - HLS綜合 - Vivado集成 - PYNQ Python調(diào)用”的鏈路一旦打通后續(xù)做圖像卷積、FIR濾波、簡單神經(jīng)網(wǎng)絡(luò)推理都會順很多。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
黑丝制服中文字幕| 人妻啪| 99热97| 欧美日日夜夜| 日本性一区| 岛国天天午夜影院传媒网| 97亚洲中文| 精品人妻中文字幕4399| 国产嫩草精品A88AV在线| 无码操逼天堂| 欧美色女人| 亚洲AV秘无码一区..| 在线观看午夜婷婷久久久久清性观看| 伊人欧美大香蕉视频| 日本性爱网址| 91 国产丝袜在线放观看| 久久久久亚洲精品| 农村少妇久久久久久久| 亚洲欧洲自拍图片专区满春格| 日韩av不卡在线看| 亚洲免费97免费| 人人操人人爽人人操人人| 日韩成人网址| 自拍第一页| 色欲天天婬色婬香WWW夜色| 五月丁香影院| 天天插天天操天天摸天天射天天看| 久九九九九九九九热| 日韩av不卡在线看| 精品制服美女中文一区二区三区| 国产视频一区二区免费| 色色97爱| 91人人看| 麻豆美女丝袜人妻中文| 国产夜夜艹| 精品人妻一区二区三区四区石在线| 嗯嗯嗯啊啊啊在线免费观看| 日韩一级久久毛片| 伊人在线大香蕉二。| 中国国国产一级特黄毛片| 亚洲色欲一区二区三区| 操操吧亚洲乱伦视频| 99xav| 国产精品白丝在线播放| 校园春色中文字幕AV| 色在线视频导航| 国产动漫操逼视频| 91碰碰| www超碰| 97在线观看免费| 免费观看国产不卡av| 成年男人的天堂| 老子午夜伦不卡影院| 无码欧美有限公司| 成年人黄色视频免费| 动漫区日韩区欧美区| av爱爱爱| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 欧美亚性天堂| 亚洲 在线| 欧美 亚洲 大香| 欧美日韩国产高清在线一二三区 | 久久久一级| 日本色色色网站免费看不卡| 九九精品美女高溯喷水| 亚洲成?V人片在线观看福利| 狠狠超| 91无码中出人妻视频| 久久99九九九九6666免费观看软件| 亚洲激情在线一区二区| 亚洲黄色电影| 精品一国2| 熟女人妻av在线资源,黄色的资源 粉嫩国产精品久久粉嫩 | 国产综合网站在线播放| 成人26uuu| 国产中文字幕在线观看| 一区二区三区四区姦女| 人人人人人人少妇| www被窝色com| 成人五月天色网| 五月丁香综合激情| 国产黄片精品在线| 欧美96精品在线| 99热只有这里有精品| 色香av| 色综和网| 性色av一区二区| 婷婷亚洲中文字幕在线| 综合一区中亚洲国产成人综合精品 | 五月天婷婷基地| 亚洲资源站| 亚州大图综合色图| 天天日天天屌天天操| 婷婷视频在线免费观看| 久久成人国产| 色呦呦国产精品免费看| 国产激情在线| 亚州黄站| 国产精品第一页国产大屁股视频免费区| 色精品极品| 曰韩无码777| 熟女乱3伦999| 国产亚洲精品A在线观看下载| 久九九九| 欧美 亚洲 偷拍自拍| 成人无码在线超碰网| 人人操,人人液| 97综合在线观看| 国产欧美精选激情视频| 17c嫩草51久久91嫩草| 凹凸 69堂 在线播放| 亚洲999综合| 自拍欧美| 欧美999999| 精品无人区麻豆乱码久久久| 国产无遮挡| 亚洲AV资源| 精爱久久| 中日韩欧美精品无码AⅤ一区二区| 天天躁日日躁狠狠躁| 超碰在97| 91色伦| 国产精品大屁股999| 青青草久久| 精品无码一区二区| 偷拍伦理视频| 99性爱| 后入美女国产| 白 大 人妻 区 在线| 婷婷丁香一区二区三区| 97综合久第一页| 狠狠色五月亚洲91| 天天综合网国产| 国产 热久久久久国产精品| 中文精品一区二去| 婷婷丁香六月天| 亚洲天天艹| 久久超碰97中文字幕| 裸体美女国产免费久久久网站| 婷婷五月天网| 亚洲成人精品久久久| 亚洲一区亚洲天堂| 欧美综合91| 国产欧美伊人| 9色在线| 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 天操天操夜操夜月操月年年操操| 97色欧洲| 欧美一级美片在线观看免费| 青青草日韩无码| 亚洲色鬼| 精品无码少妇| 成人资源中文字幕在线观看| 91国产丝袜美女| 偷拍视频青青草在线视频| 亚洲成人综合在线| 大香蕉手机在线| 天天操天天看| 国产精品播放| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 大香蕉手机在线视频| 精精夜夜| 蜜臀va69| 国产日韩欧美三级片| 情色AV电影| 日韩中文9| 天美精品原创av片国产| 看一级特黄a大一片| 韩国三级理论在线| 狠狠干综合| 97国产色图| 亚州高清色综合| 色吊丝 日日骚 清纯唯美| 极品欧美一区二区三区| 久久国产三区| 中文字幕三四五区| 久久免费精彩视频| 97精品中文字幕| 十八禁啪啪视频| 欧美一级做a爰片免费视频| av大香蕉网站| 亚洲色天| 亚洲情色1区| 日产精品久久久一区二区| 国产精品久久久久无码A√| 大香蕉伊利av| 久草资源在线| 大香蕉碰碰| 97鸡把在线视频| 日本一区二区不卡精品| 玖玖超碰熟| 曰本人妻人人澡人人夹| 丁香五月婷婷色| 欧美91精彩| 国产自制av蜜乳| 欧美99热| 日本色日夜干| 中文字幕丝袜美腿| 成人精品无码| 精品久久久av| 家庭乱伦国产精品| 91扒丝袜综合在线| 亚洲无码精品AV久久久| 欧美欲色| 欧美1区二区三区公司| http://qxhbdz.com| 91精品久久久久| 婷婷视频网| 蜜臀久久久99久久久久 | 欧美成熟性爱精品| 欧美性战999| 日本乱人伦片中文三区| 69视频福利导航| 精品日韩中文在线| 99青草| 亚洲91色| 国产丰满少妇久久久精品影院| 国产日韩精品suv| 自拍丝袜美腿人妻| 午夜福利精品| 夜夜做夜夜爽精品视频| 五月激情视频| 国产91福利小视频在线观看| 99色日| 欧美亚洲日本视频久久久| 国产精品粉嫩福利在线| 久久久久久久伊人精品| 亚洲高清少妇| 熟女在线视频| 一本一道vs波多野结衣| 蜜桃久久一区| 热天堂一区二区| 久久成人国产精品| 丰满少妇精品一区二区| 精品超碰中文在线| 久久黄色视频一区二区三区| 亚州大图综合色图| www鬼畜国产男人的天堂| 久久精品久久久久久久久| 久久久久久九九九九-美女久久久久久久-成人AV| 精品久久久久久无码| 日韩一级二级三级免费看完整版国语版| 亚洲成A∨人影院在线欢看| www.人人摸在线视频| 亚洲宅男天堂| 久久久久久国产精品免费网站| 欧美,日韩,中文,另类| 猛交交| 欧美另类精品xxxx| 日韩无码极品| 亚州精品人妻一二三区| 人人妻人人操人人乐| 国产精品婬乱一级毛片彝族| 美欧色综合| 99re95| 激情小说五月天| 精品无码一区二区三区色欲| 久久激情四射婷婷丁香五月天| 91逼逼女人91| 五月丁香色综合| 中文字幕AV乱伦| 国产精品伦理| 亚洲文学偷乱拍啪啪啪啪| 亚洲天堂另类美腿| 大香蕉手机视频| 精品中文字幕第一页| 神马午夜久久| av天堂加勒比| 999九九精品| 天堂国产AV| 综合免费无码中文| 男插女青青影院| 天天欧美| 污电影在线观看| 婷婷三区| 91亚·色| 超碰三级秋霞| 日本特黄f c2| 日韩人妻少妇 一区二区三区| 日韩操逼HD| 日韩欧美性爱电影在线观看| 四虎在线观看视频| yaouchengrenav| 日本色日夜干| 天天日天天干少妇日| 91久久国产精品| 91亚洲狠狠色| 麻豆亚洲AV成人无码久久精品| 亚洲文学偷乱拍啪啪啪啪| 欧美综合在线91| 人人人摸人人| 天天躁日日躁xxxxx| www. 男人天堂成人在线| 97 国产一区| 熟妇人妻一区二区三区| 日本一区二区三区精品| 日韩紧密久久| 亚洲少妇在线影音| 91爰爱欧美| 日韩人妻精品中文字幕| 福利大香蕉| 亚洲综合贴图91| 久污| 青青草原伊人网| 深夜激情 | 九一综合精品视品av| 91九九九馒头| 99精品网站| 97超碰在线资源网站| 黄网站黄视频网站进入口| 久久伊人网视频一区二区三区| 久九九九九九九热| 超碰97最新人妻| 搞中出视频在线观看| 男人精品天堂一区| 一本大道青青| 日欧操屄| 3p国产欧美99热| 激情综合五| 日夜啪电影| 鸥美插入视频| 久久精品店| 在线播放成人高清免费视频| 被男人添B超爽视频| 国产三级日产三级韩国三级 | 日韩黄片影院| 中文字幕aⅴ在线视频| 国产小视频91| 天天做日日爱夜夜爽| 五月婷久久| 91色鬼| 亚洲色图 图片| 欧美日韩妖精91com| 久久精品一区二区| 91男同| 日本精品一区二区不卡| 人人看黄色视频| 国产 无码 一区二区| 另类小说五月天| 抽查国产福利主播| 东京男人天堂| 国产精品久久久久无码A√| 亚洲国产成人高清在线| 久久成年精品| 超碰在线免费一区二区三区| 国产AV色黄看到爽| 中文字幕第页| 97 国产精品| 在线观看中文字幕| 久久久久免费少妇| 日本道日本道中文字幕日本道最新日本道在线观看 | 午夜呻吟欧美| 日韩本不卡视频在线观看| 搡老熟女免费视频| 色婷婷99| 爱丝福利| 黑人无码一区二区| 麻豆AV96熟妇人妻| 国产精品扒开腿做爽爽爽视频| 欧美色视频在线| 天天日老熟妇| 蜜臀99久久国产| 亚洲最新中文字幕免费| 日本999精品视频| 亚洲美女精品九九视频| 亚洲成人福利电影免费| 精品人妻一区二区乱码一区二区| 午夜美女福利视频| 激情99| 亚洲做性| 国产乱码精品一区二区三区四川| 国产白领连续中出在线播放| 久久久久亚洲Av无码专区老牛影视| 人人干人人搞人人摸| 日韩成人精品| 精品人人| 69一区二区三区 | 在线看片国产精品每日更新| 久久綜合很很很| 超碰97丝袜| 99爱爱| 超碰97综合网| 91九色首页| 人妻喷水| 99精品视频在线观看| 久久9999 | 国产精品久久久久中文字幕| 在线亚洲精品久久久| 人妻三级在线中文字幕| 久久久啊啊| 久久超碰网| 天天添天天干电影| 91精品无码久久久久久久| 九九九九久久久| 欧美美女视频| 91天天综合网,天天综合网| 亚洲一区日韩精品中文字幕| 亚洲 欧美 另类 综合 偷拍| 国内毛片热久久思思热| 屌妞视频久久久久久久| 操逼免费视频无码国产| 啊啊啊好疼| 熟女六十路| 亚洲第一页色网| 天天插天天干| 小说区 图片区色 综合区| 久久9精品视频| 蜜乳AV免费观看| 曰本精品久久久| 影音先锋少妇| 人妻人久久精品中文字幕| 中文字幕人妻丝袜乱一区三区| 熟女突然公开看18禁影片| 日韩久射综合| 九九热免费在线国产视频伊人五月| 在线观看中文字幕| 麻豆一区二区三区精品| 26uuu国产免费观看| 九九热精品视频六| 国产天天骚| 日本操色导航| 躁躁躁日日躁2020| 97色视频在线| 丁香九月激情啪| 91九九| 九九九久久久久| 久久久久国产精品片区无码直播| 亚洲熟女av中文字幕| 97免费免费视频网| 99热18| 亚洲,日韩,欧美,成人播放| 五月天亚洲网| 性色中出| 五月婷婷基地| 亚洲激情在线观看一区| 精品国产乱码久久久影院| 亚洲最大的黄色电影网站。| 国产精品久久久久久 百度| 九九亚洲| 久热这里| 中文字幕人乱码中文字的预防方法 | 四虎午夜影院| 中文有码9| 日韩精品99久久久久久中文字幕| 91麻豆va国产精品| 亚洲 自拍偷拍 欧美| 夜夜夜夜久久久久| 校园春色综合香蕉| 熟妇一区二区三区| 东京热男人天堂| 超碰久久网| 国产四虎在线| 成人精品在线观看| 黑人操一区二区| 精品综合久久久久久五月天| 青女偷拍网| 色综合久久夜色精品国产天堂| 亚洲国产欧美日韩人妻日中文| JIZZJIZZ国产精品喷水| 51久久夜色精品国产麻豆| 大奶的诱惑| 国产蜜臀在线| 伊人午夜福利视频| 欧美91网站| 亚洲天堂另类小说男人| 天天色悠悠激情| 丁香九月婷婷| 婷婷九月色| 日韩性爱电影一区| 亚洲人妻在线一区| 九九热久久99精品re| 久久九色| 91性色| 澳门色噜噜色噜噜色噜噜色噜噜色噜噜| 青青草无码视频| 爱爱动态试试看6 0秒| 一二三四日本视频高清| 狠狠狠狠狠狠| 狠狠操狠狠| 一块操欧美| 极品色www影院| 韩国三级理论在线| 久久久久久AⅤ无码免费肉站| 午夜120视频在线观看| 亚洲精品性爱片| 999精品国产高清一区二区| 亚洲欧美国产中文视频| 亚洲无码国产探花在线观看| 97久久精品| 精品91日日夜夜超清资源| 无码人妻一区二区三区四区老鸭窝| 青青草原成人| 91观看 国产白丝| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 美女91av| 91亚洲丝袜熟女| 亚洲另类色综合网站| 夜夜高潮夜夜爽国产伦精品| 黄页网站成人免费| 亚洲97超碰| 97在线免费观看| 极品国产内射| 蜜乳Av成人片网站| 1204人成网站色www| 91视频女生| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 亚洲97成人在线观看| 91一区二区三区蜜桃| 国产女同视频在线播放| 粉嫩av在线一区二区| 影音先锋国产精品| 超碰97精品在线| 黄网站黄视频网站进入口| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 亚洲少妇激情一区二区三区| 伊色久人大在线| 中文字幕三四区| 欧洲亚洲国产综合在线| 牛黄色久午久| 久久久久密| 99热日| 超碰在线一区二区三区| 久久精品日韩| 色色99| www.99热在线只有精品| 亚州五月| 操人人| 中文字幕在线观看视频www| 亚洲人成色9999精品久久| 在线观看视频91| 伊香蕉综合久久久久久久噜噜噜 | 精品免费成人久久| 无码人妻一区二区三区色欲aⅴ | 人妻 丝袜美腿 中文字幕| 国产亚洲精品自在线亚洲情侣| 99热超碰| 91男人综合| 激情 欧美 亚洲 小说| 97香蕉碰碰人妻国产欧美| 亚洲 图片 欧美 色图| 日韩欧美久久婷婷网站| 日韩在线欧美精品一区二区| 色噜噜狠狠色综合日日| 久久久久9999精品九九九| 九久9精品| 爆操无码| 日日日骚女人精品| 欧美精品二区视频在线| 开心五月婷婷激情| 日本五区不卡| 少妇高潮对白在线观看| 美女的肌被草喷水视频| 国产精品第一页国产大屁股视频免费区| 在线一道啪| 婷婷五月天久久精品视频一区二区三区| 92大香蕉| 免费A V在线播放| 日韩99精品视频综合区| 99国产精品人妻人伦| www.成人无码| 大香蕉一线视频| 久啪| 国产特级毛片AAAAAA高潮流水 | 日本操BAV| 先锋音影AV| 91视频精品| 91蜜臀熟女| 欧美性高潮在线| 日本午夜精品理论片A级APP发布| 91路www| 国产无码高清操逼视频| 欧洲中文字幕| 日欧操屄| 欧美老妇女内射网址| 麻豆国产精品午夜视频| 丝袜狠狠草尤物人妻av91| 久久久一区二区三区四区五区| 超碰在线人妻| 久久久极品| 开心婷婷五月| 亚洲欧美另类小说| 99热这里只有精| 亚洲全色网| 国产欧美精品日韩区二区麻豆天美| 欧中美三级一区二区三区| 超碰人人超在线观看| 九九九九九九免费视频| 免费啪啪啪网站18岁| 国产97在线播放| 97人人草| 中文AV制服乱伦| 五十路熟女工口 | 三上悠亚在线毛片91| 99999无码| 欧美色图另类图片| 麻豆AV一区二区| 99999精品成人| 亚春色色| 99视频只有精品| 欧美亚洲小说| 日本中文字幕在线视频 | 久久一区二区三区入口| 亚洲日韩肥臀视频在线观看| 96久久久精品| WWW.操逼.COM| 91一起操| 免费亚洲国产精品久久一区| 人妻丝袜美腿中文字幕| 国产午夜无码片在线观看影视| 亚洲天堂区| 99999这里都精品| 女性91网站| 免费中文在线| 久久久久亚洲精品| 又粗又长又大国产不卡| 免费a在线播放v| 精品97精品97| 国产精品九九九| 色播丁香| 国产三级中文字幕粉嫩| 天天摸夜夜添无码小视频| 欧美视频在线第3页| 91激情国产| 国产欧美精选激情视频| 亚洲综合图文| 午夜小电影在线插入淫高潮| 在线只有精品| 熟女熟妇一区二区三区视频| 国产精品视频一区二区三区八戒| 午夜天堂网| 91超碰在线| 99热婷婷| 日日骚一区二区三区| 最新日产中文在线麻豆| 91AV天堂| 日韩无码黄色片| 97超碰资源网| 26UUU欧美激情一区二区| 超碰色中文| 大二网站亚洲| 黄色小说亚洲| 国产91av在线播放| 99re69综合| 欧美成人A√在线一区二区| 欧美亚洲丝袜美女电影| 日本伦乱九九九综合| 啊啊啊 在线观看| 亚洲色图欧美一区二区不卡| 96精品在线| 屁股久久久久久| 1024亚洲中文字幕久在线看片你懂的| 91丝袜| 青青11操操操操操操操操| 97干在线| 99热精品国产| 亚洲成人免费中文字幕| 智利AV在线网| 99精品在线播放| 亚洲人天堂| 国产性刺激| 偷拍亚洲熟女视频播放| 91国产丝袜美女| 九九aV| 清纯唯美亚洲综合| 操人妻逼91| 综合欧美激情网| 色婷婷日韩精品一区二区三区 | 96麻豆精品一区二区三区| 亚洲美乱| 国产91啪| 欧美激情精品| 97色论| 欧美东京热精品A∨| 亚洲 欧美综合| 婷婷五月天久久精品视频一区二区三区 | 国产高清精品一区二区三区毛片| 日本道日本道中文字幕日本道最新日本道在线观看 | 日本久久天堂| 国产资源中文字幕在线| 香蕉免费一区二区三区不读 | 亚州黄站| 粉嫩国产精品久久久| 黄页网站免费高清在线观看| 夜夜嗨一区二区三区直播内容| www鬼畜国产男人的天堂| 性爱免费视频成人| 中文字幕视频在线观看| 97视频620| a在线视频免费观看| 日本一级特级毛片视频| 中文字幕精品亚洲熟女| 亚洲色欲一区二区三区| 极品极品色影院| 欧美在线永久天堂| 91无码人妻精品一区二区三区蜜桃| 久久国产精品91| 国产极品一区二区三区三州| 乱欲视频| 欧美草草高清日韩视频| 亚洲视频,小说| 激情综合五月| 另类 日韩 熟女| 欧美国产精品久久九九| 亚洲成人在线乱码色午夜| 国产九区| 美女高潮视频91| 久热伊人| 精品伊人久久久大香线蕉小说| 91丨国产丨白浆秘 洗澡动漫| 密臀国产在线| 91性感网站| 精品无码久久久| 婷婷久久五月| 丁香五月综合| 在线无码视频| 高清无码久操视频| 久久久久久久人妻丝袜| 日韩本不卡视频在线观看 | 欧洲人妻视频| 超碰偷拍| 欧美九一精品久久久熟妇| 91熟女综合| 快点操死我| 欧插网站| 殴美牲| 麻豆人妻精品一区二区| 亚洲欧美日韩综合在线尤物| 黄色网址在线免费观看| 国产最新小视频在线播放下载| 丝袜美腿亚洲| 国产精品视屏| 亚洲欧美高清| 亚洲成a人v欧美综合天堂下载| 啊啊啊啊免费视频| 78m成人视线| 男人的天堂视频精品乱在线| 亚洲第一视频 欧美风情 日韩| 人妻大香蕉| 怡红院亚洲怡春院av| 亚洲一区制服诱惑| 亚洲男人天堂视频| 青草伊人网| 人妻少妇精品久久久久久| 久久久精品,3| 日本一二区不卡| 97香蕉网| 无码精品久久| 亚洲天堂AV在线播放| 成人aⅴ一区二区三区| 亚洲导航深夜福利| 亚洲一区二区精品福利| 97干在线视频| 亚洲综合春色| 国产精品久久久久绯色| 一区二区三区蜜桃成人撸久久东京热| 一级黄碟在线观看| 玖玖草久草99蜜月一区二区三区| 精品乱码在线观看| 蜜臀久久99精品久久久久电影| 欧美色综合网| 日本人妻丰满熟妇久久久久久| 精品久久无码午夜福利| 国产h片在线观看视频| 美女被艹尤物视频| 校园春色综合| 亚洲第91页| 亚洲校园激情| 国产乱伦搜索结果91P| 免费一级黄色录像影片| 人人操人人狠狠操| 美女露胸露屁股| 麻豆国产成人精品| 欧美情色亚洲| 久久性爱精品一区| 亚洲夜夜欢无码一区二区| 95精品在线| 伦在线97| 精品国产AV一区天美传媒| 偷拍 欧美 日韩| 国精精品无码一二三区水多多| 欧洲色色| 色综合20p| 97超碰久久| 中文字幕亚洲热播人妻| 日韩AV电影网站| 天堂涩涩| 日韩欧美性吧婷婷乱伦大香蕉 | 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 日日操免费视频| 97人人超| 久久久久国产| 在线a亚洲视频播放在线| 333kkkk·亚洲com久久| 欧亚乱色熟一区二区三四区| 日韩特一级久久| 亚洲天堂五月天国产| 亚洲日本韩国在线| 性性欧美| a片久久久久久久久久久久 | 亚洲中文电影| 欧亚日韩一区在线| 色噜噜人妻丝袜a∨先锋影| 91欧美长吊| 国产精品片| 五月丁香成人网| 亚洲麻豆18发?| 肏逼福利网站| 久久极品一区二区| 久久久久久中文| 久操网无码在线| 国产婷婷一区| 国产福利合集| 长长久久曰曰夜夜成人网| 97欧美色综合| 国产精品久久久久久无码红治院| 欧美综合97www| 啪啪自拍九九综合| 开心五月激情网| 丝袜天堂网| 最新中文字幕精品在线| 久草男人天堂| 久久综合国产精品国产| 4141514逼喷水三级片| 熟女人妻一区二区三区免费看 | 麻豆91熟妇人妻中文字幕茄子| 精品中文字幕一区二区l - 百度| 9久久美女首页| 色欲Av人妻精品一区二| 日韩中文字幕熟妇人妻 | 蜜桃视频一区二区三区在线观看| 97爱综合| 色呦呦、国产精品| 中文?日韩?免费?精品| 久热69九色熟妇97| 日韩操啪| 熟女欧美日韩综合婷婷| 高树玛利亚无码流出| 亚洲天堂男人| 日本三级小说中文字幕| a片 xxxx受爽视频| 日本免费一区二| 人人干人人操人人爱| 欧美亚洲20p| 日本色色视频网站| 久久国语| 国产视频一区二区免费| 午夜噜噜噜| 99热这里只有精品8| 啊啊啊啊啊好多水| 中文字幕一区 二 区 三 四 五 区日 日 骚 | av在线免费一区二区| 夜夜青青无码影院| 操美女高潮抽搐白浆| 不卡视频一区蜜桃视频| 女人天堂AV五区在线| 五月天我淫我色av| 亚洲宗合网| 久久婷婷亚洲| 91精品人| 亚洲精品1区| 亚洲各类熟们中文字幕| 中文乱码字幕观看视频| 国产传媒美日韩av| 激情干在线| 综合色91| 啊啊好多水| 91丨熟女丨丰满熟女| 玖玖久久久| 日韩精品第3页| 性爱1区| 国产v亚洲v日韩v欧美v片另类| 91av天美性媒精品视频| 亚洲色图亚洲无码强奸乱伦| 亚洲图片第一页| 欧美78| 丁香五月激情网| 欧美精品一区二区少妇免费A片| 国产风韵犹存熟妇三区| 97天天搞在线| 欧美黑人精品一区二区| 综合97| 日韩 女同 综合| 情侣开房子拍 日韩无码 女的很漂亮| 国产成人精品必看| 欧美日本不卡在线| 热久日综合| 国产精品色| 26uuu性| 国产精品人妻无码久久久互動交流 | 操狠狠| 亚洲成人美女无吗| 人人操人人摸人人骑| 超碰97资源网亚洲| 欧美精品 - 91爱爱| 长长久久88视频| 黑人无码一区二区| 久久久久久久久久久免费精品| 欲色综合| 人妻少妇久久中文| 国产精品 午夜福利| 丁香五月社区| 留下AⅤ黄色片| 吖在线不卡一区二区国产剧情| 视频二区美腿制服人妻欧美| av72网| 国产精品2020| oumeisetu综合| 久久婷婷伊人| 久久‘黄片视频| 在线观看无码三级少妇| 日本影视久久免费| 96麻豆精品一区二区三区| 欧美激情精品久久久| 亚洲限制级| 久草色悠悠在线视频| 另类综合另类| 精品国产乱码久久久久久久久1| 欧美日韩国产色图在线| 亚洲系列第一页| 欧美性爱免费短视频| 亚洲欧美高清无码| 免费精品无码一级毛片牛牛影视| 久久高潮妇女视频| 可乐操亚洲蜜911| 亚洲 欧美 日本 国内 首页| 欧美日本不卡| 十八禁电影伊人网| 欧美成人国产精品| 欧美亚洲激情一二三| 操逼999| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 免费作爱一级视频| 国产理论视频在线播放| 免费在线黄片视频| 人妻中文字幕日韩电影| 人人摸人人叼| 人妻少妇av在线观看| 青青草天天亲夜夜操网| 国产久久久久久久久一区二区| 麻豆国产免费影片| 91操人| www.狠狠干.coom | 九九热九九热| 乱理日韩中文| 91黑丝美女| 亚洲熟女乱色一区二区三区久久久| 无码男人天堂| 日韩黄色小说| 无马一区二区| 丰满人妻一区二区三区色-百度| 起碰97| 麻豆国产视频精品观看| 熟女五十路一区二区三| 亚洲中文日韩精品| 九九在线视频| 亚洲狼狼干综合1| 另类视频在线| 亚洲情色 自拍| 中文久久| 琪琪精品免费一区二区三区| 久久亚洲AV成人精品无码| 国产97色在线| 日韩美一区| 97亚洲欧美日韩| 亚洲日本大香蕉1| 欧美亚洲小说| 亚州免费啪啪视频| 欧美99热| 国产精品亚洲四五区在线观看| 美女黑人91神马| 97久久超碰日韩精品| 91福利网在线观看| 亚洲精品啪视频| 69超碰综合| 亚洲天堂人人妻| 中文有码9| 一区二区三区亚洲| 激情开心五月天| av亚洲天堂资源网站| 久久中文字幕人妻熟av女蜜柚| 九九九久久久| 欧美日韩中文亚洲v在线综合| 骚货人妻偷情自拍在线视频| 亚热日本熟女| 麻豆久久一区二区三区| 国产女人极品高潮毛片| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 新怡红院| 日韩人妻一区二区| 日韩一级片在线看| 97 国产一区| 久久人妻熟女一区二区 | julia ann久久| 强奸乱伦AV一天堂网| 大屁股xxxxx| 嗯嗯,好大,好爽,好骚| 国产精品不卡少妇白| 日本激情免费大片| www.一本大99| 老熟妇91| 国产呦精品一区二区三区下载| 亚洲图片欧美制度| 欧美精品庄| 国产91久久九九免费精品无码| av情色影音| 97在线看| 丁香五月综合| 欧美线天码中字| 国产精品亚洲一级av第二区| 素人美腿视频网站| 噜噜噜噜久久久精品免费| 人人摸人人添人人操| 亚洲色9| 欧美第一页| 日本高清电影欧美色图| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 精品999日本| 黄色香蕉视频网站一区| 日本人体九九九九九九| 床戏久久久av一区二区麻豆| 老司机射| 亚洲青青草| 青青伊人这里只有精品| 熟女一区二区三区| 国产精品一区二区亚洲人成毛片| 大香蕉伊人亚洲| 中文字幕在线观| 欧美后进式| 久久尹人大香焦视| 五月婷丁香| 青草地一本线一区二区三区| 精品超碰国产| 99这里只有精品| AV综合中文字幕干| 欧美色91| 五月丁香六月激情| 欧美黑人熟妇精品91| 91狠| 日韩欧美亚洲自拍偷拍| 91丝袜美腿网站| 色哟哟综合| 国产乱码精品久久久久久| 最新岛国大片| 色眯眯av| 天天看,天天做| JuliaAnnXXX888| 亚州色图第三区| 91欧美大片| 天堂国产AV| 精品少妇人妻av久久免费| 久色99999| 久久婷婷综合国际产色怕| 色网亚洲人| 大香蕉97久久| 欧美福利视频啊啊啊啊| 97超碰免费人人性爱| 艹少妇网站| 欧美日韩小说| 不卡超碰护士AV在线免费播放| 欧美18老人禁| 亚洲色图综合网| 人妻-91porn| 综合网亚洲| 欧美成人综合| 岛国精品视频在线观看| 97天天摸天天爽| 美女淫穴| 97国产成人精品免费视频| 久热热| 久久久久久久久久久久黄色 | juliaann欧美丝袜办公室| 69AV女优男人的天堂| 亚洲国产奇米影视久久| 国产丁香精品露脸视频| 天天综合日韩网| 国产特级毛片AAAAAA高潮流水 | 日日夜夜干| 午夜人人操| 久久天堂网| 日韩99神马视频播放片在线播放| 成人免费毛片| 天堂亚洲精品| 91伊人大香蕉| 日本韩欧美在线播放a| 91处女在线观看| 精品视频久久区| 96久久科窝| 青娱乐久久艹| 99久久亚洲精品无码毛片潘甜甜| 99在线啪| 动漫片子网站3黄| 欧美疯狂做爰xxxx| AA级电影三区| 91熟女丨91老女人| 欧美91网站| 午夜男人天堂| 探花激情视频| 亚洲国产av中文字幕久久| a一区二区三区乱码在线| 大香蕉免费乱伦视频| 欧美天天综合| 久久久草草精品| 91夜夜蜜桃臀1区2区3区| 翔田千里av一区二区三区| 国产精品一区二区久久精品| 97久久超碰日韩精品| 免费成人在线熟妇网| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 亚洲91在线| 无码人妻毛片丰满熟妇精品区| 高树玛利亚无码流出| 三级三级三级日本99| 日韩性爱免费视频在线网站| 1000部熟女视频在线观看| 中文字幕AV中出| 亚欧操逼片在线观看| 天天摸夜夜操视频| 艾草av| 天美av在线观看| www.久久爱| 国产成人无码网站在线视频| av无码av无码专区| 国产精品永久免费10000| 黄色大片视频在线免费看| 99re久久| 午夜一区| 98超碰欧美| 有码专区最新中文字幕有码| 97久久国产亚洲精品超碰热| 嗯嗯啊啊视频一区二区三区| 粉嫩国产精品久久久| 歐美一級亂黃99在綫精品| 天堂av2019| 人人喜人人妻| 99久久这里只有精品| 天美传媒国产原创中文字幕亚洲欧美另类| 欧美丰满熟妇XXXX性ppX人交| 99久久e免费热视| 人妻人人做人人澡人人爽欧美一区| 性爱乱伦视频免费| 国产又黄又粗的视频| 日韩av电影成人在线| 激情小说图片亚洲首页| 波多野结衣AV无码一区| 家庭乱伦国产精品| 1级黄色夫妻对换性交免费看| 操屄日韩| 免费的黄片有限公司| a一区二区三区乱码在线| 三级激情网站| 97人妻免费中文字幕| 91天堂色男人的天堂| 亚洲欧美日韩综合在线尤物 | 91亚洲人| 久久大黄片| 无码精品久久| 日韩免费大片一级播放| 久久亚洲AV成人精品无码| 日本韩欧美在线播放a|