久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

FPGA上位機(jī)SDK遷移實(shí)戰(zhàn):從API替換到適配層設(shè)計(jì)

FPGA上位機(jī)SDK遷移實(shí)戰(zhàn):從API替換到適配層設(shè)計(jì) FPGA上位機(jī)開(kāi)發(fā)里換底層通信庫(kù)算是我最不愿意輕易碰的活。之前一個(gè)FPGA采集卡項(xiàng)目把上位機(jī)控制通道從老供應(yīng)商的同步接口SDK遷到另一家供應(yīng)商的同類SDK項(xiàng)目標(biāo)題就叫“Opalkelly Frontpanel SDK到Pionway SDK的代碼遷移實(shí)例”。這名字聽(tīng)起來(lái)像照著文檔改API就行真做起來(lái)完全是另一回事設(shè)備枚舉方式不同、管線下載時(shí)序不同、塊傳輸?shù)膶?duì)齊要求不同連錯(cuò)誤碼都沒(méi)法直接翻譯。這篇文章不點(diǎn)評(píng)具體廠商而是把這次代碼遷移的完整思路、API映射表、適配層設(shè)計(jì)、踩坑記錄和回歸測(cè)試方法整理出來(lái)。適合正在做FPGA上位機(jī)底層替換、或者準(zhǔn)備給項(xiàng)目加一層硬件無(wú)關(guān)抽象層的朋友參考。1. 為什么要做這次遷移不是閑得慌是硬件供應(yīng)變了1.1 表面是換接口實(shí)際上是重寫“邊界”這個(gè)項(xiàng)目原本的架構(gòu)非常典型上位機(jī)軟件通過(guò)USB 3.0跟FPGA采集卡通信采集卡里跑的是自己寫的邏輯上位機(jī)里則是廠商提供的動(dòng)態(tài)庫(kù)。剛開(kāi)始沒(méi)有想太遠(yuǎn)所有業(yè)務(wù)代碼都直接調(diào)用廠商SDK的函數(shù)比如枚舉設(shè)備、打開(kāi)設(shè)備、下載管線的bit文件、讀寫寄存器、批量收發(fā)數(shù)據(jù)。項(xiàng)目跑起來(lái)之后功能確實(shí)沒(méi)問(wèn)題但硬件方案一調(diào)整麻煩就來(lái)了原來(lái)那家供應(yīng)商的驅(qū)動(dòng)和庫(kù)不能再繼續(xù)使用時(shí)上層業(yè)務(wù)代碼幾乎要到每個(gè)函數(shù)里改一遍。表面上這只是一個(gè)“換庫(kù)”的動(dòng)作實(shí)際上等于把上位機(jī)與FPGA之間的邊界重寫一遍。因?yàn)閮杉襍DK雖然解決的是同一個(gè)問(wèn)題但它們的抽象層級(jí)不一樣。老SDK把“設(shè)備”看成一套完整的FrontPanel工作環(huán)境打開(kāi)設(shè)備之后要先初始化環(huán)境再下載bit流然后才能操作管線新SDK更偏向“命令式”的接口打開(kāi)句柄、發(fā)送命令、關(guān)閉句柄沒(méi)有那么多隱含狀態(tài)。如果只是按函數(shù)名一一對(duì)應(yīng)替換很容易把A SDK里的隱式初始化邏輯丟掉結(jié)果就是設(shè)備打開(kāi)成功、寄存器也能寫但數(shù)據(jù)通路完全不通。所以我的第一個(gè)結(jié)論是別急著寫代碼先承認(rèn)這是一次架構(gòu)層面的調(diào)整而不是文本替換。你需要重新梳理上位機(jī)軟件里所有跟硬件有關(guān)的操作把它們歸納為一組對(duì)上層穩(wěn)定的能力再在這組能力和具體SDK之間建立適配層。這么做的代價(jià)是前期多畫幾張圖、多建幾個(gè)類但好處是后續(xù)每換一次硬件只需要換一個(gè)適配器。1.2 三種遷移路線的對(duì)比直接替換、適配層、重寫針對(duì)這次遷移我認(rèn)真對(duì)比過(guò)三條路線結(jié)合實(shí)際項(xiàng)目情況才選了中間那條。第一條是全局替換API調(diào)用。把代碼里所有A_OpenDevice換成B_OpenDeviceA_WriteRegister換成B_WriteRegister看起來(lái)最省事。但這條路線的問(wèn)題在于兩家SDK的調(diào)用上下文不一致。老的塊傳輸接口可能要求先打開(kāi)一條管道并設(shè)置緩沖區(qū)新的接口卻是在調(diào)用時(shí)傳端點(diǎn)號(hào)老的上位機(jī)代碼里遍布各種A_GetLastError新的SDK卻直接返回布爾值把錯(cuò)誤碼掛在另一個(gè)查詢函數(shù)里。全局替換下來(lái)改了一兩百處調(diào)用任何一處漏掉隱式依賴排查成本都會(huì)指數(shù)上升。第二條是做適配層也是我最后選的方案。定義一個(gè)中間接口把自己項(xiàng)目的語(yǔ)義放進(jìn)去比如打開(kāi)設(shè)備、配置FPGA、讀寄存器、寫寄存器、批量讀、批量寫。然后分別實(shí)現(xiàn)老SDK適配器和新SDK適配器業(yè)務(wù)代碼只依賴這個(gè)接口。這樣上層代碼幾乎不用動(dòng)換SDK只是換一個(gè)工廠方法的事。第三條是重寫業(yè)務(wù)邏輯。如果項(xiàng)目本身就比較小功能就一個(gè)寄存器讀寫加一個(gè)中斷處理確實(shí)可以考慮直接在B SDK上重寫一套簡(jiǎn)單的控制流程。但我們的采集卡項(xiàng)目涉及十幾個(gè)寄存器、三種以上的批量傳輸端點(diǎn)而且還帶一套內(nèi)部狀態(tài)機(jī)重寫業(yè)務(wù)的測(cè)試成本比寫適配層高得多。最終選適配層還有一個(gè)原因它可以跟舊代碼共存。遷移不是一天完成的老SDK的適配器先寫出來(lái)、先跑通業(yè)務(wù)層繼續(xù)用統(tǒng)一接口不會(huì)出現(xiàn)老代碼全部不可用的空窗期。2. 動(dòng)手前的接口梳理先畫清楚映射再寫代碼2.1 端到端的最小調(diào)用鏈路在寫適配器之前我把現(xiàn)有上位機(jī)程序里所有跟FPGA有關(guān)的調(diào)用整理成了一條完整鏈路。最小調(diào)用鏈路大概是下面這樣枚舉設(shè)備拿到設(shè)備序列號(hào)列表。打開(kāi)指定序列號(hào)的設(shè)備。如果固件不在Flash里就下載bit流文件到FPGA。讀取固件版本號(hào)等握手寄存器確認(rèn)固件已經(jīng)運(yùn)行。寫采集控制寄存器啟動(dòng)采集。通過(guò)批量傳輸端點(diǎn)讀回?cái)?shù)據(jù)。停止采集關(guān)閉設(shè)備。這條鏈路看著簡(jiǎn)單實(shí)際驗(yàn)證時(shí)就會(huì)發(fā)現(xiàn)很多隱含動(dòng)作。老SDK的設(shè)備枚舉返回的是一串字符串新SDK返回的是結(jié)構(gòu)體加索引兩者之間的對(duì)應(yīng)不是簡(jiǎn)單的類型替換。固件版本這個(gè)動(dòng)作也不僅僅是“讀0x10寄存器”因?yàn)樾耂DK可能要求在讀取之前先發(fā)一個(gè)同步命令。所以我在動(dòng)手前做了一張“調(diào)用場(chǎng)景清單”把這條鏈路拆成六個(gè)業(yè)務(wù)場(chǎng)景初始化與枚舉、打開(kāi)與關(guān)閉、固件配置、寄存器訪問(wèn)、批量數(shù)據(jù)收發(fā)、錯(cuò)誤處理。每個(gè)場(chǎng)景都標(biāo)注出老SDK的一份代碼路徑和新SDK應(yīng)有的對(duì)應(yīng)路徑。這張清單后來(lái)成了映射表的底稿也是回歸測(cè)試用例的來(lái)源。2.2 核心API對(duì)應(yīng)關(guān)系表映射表不需要覆蓋SDK的所有函數(shù)只需要覆蓋項(xiàng)目實(shí)際用到的部分。我們項(xiàng)目里用到的核心能力大概二十個(gè)我選其中最有代表性的放在下面功能層面老SDK接口新SDK接口需要重點(diǎn)關(guān)注的差異枚舉設(shè)備A_Enumerate()B_FindAll()序列號(hào)的格式與排序策略不同打開(kāi)設(shè)備A_Open(serial)B_Open(index)一個(gè)用序列號(hào)字符串一個(gè)用索引號(hào)下載固件A_Configure(bitfile)B_LoadFirmware()新SDK不支持直接給bitfile需要先讀入內(nèi)存讀寄存器A_ReadRegister(addr, val)B_RegRead(addr, val)地址位寬和訪問(wèn)對(duì)齊要求不同寫寄存器A_WriteRegister(addr, val)B_RegWrite(addr, val)寫后可能需要流水線同步批量寫A_PipeOut(ep, buf, len)B_BulkWrite(ep, buf, len)緩沖區(qū)對(duì)齊要求和超時(shí)語(yǔ)義不同批量讀A_PipeIn(ep, buf, len)B_BulkRead(ep, buf, len)一次請(qǐng)求中允許接收的數(shù)據(jù)量上限不同查詢錯(cuò)誤A_GetLastError()B_ErrorString()錯(cuò)誤碼體系完全不對(duì)應(yīng)必須包一層翻譯建這張表時(shí)最大的收獲是不要把老SDK的調(diào)用習(xí)慣帶到新SDK里去。比如老SDK里寫寄存器之前通常要調(diào)用一個(gè)“同步”函數(shù)新SDK沒(méi)有這個(gè)概念但新SDK要求所有寄存器寫入都帶一個(gè)明確的地址偏移不能直接傳邏輯地址。這些差異靠人肉記很容易漏落到表格里之后每個(gè)適配函數(shù)在實(shí)現(xiàn)前都能先找到對(duì)應(yīng)關(guān)系。3. 遷移落地的三步走分層、適配、逐模塊替換3.1 先定義自己的統(tǒng)一控制接口既然決定走適配層路線第一件事就是把統(tǒng)一接口設(shè)計(jì)出來(lái)。這個(gè)接口不應(yīng)該照著任何一家SDK的函數(shù)來(lái)而應(yīng)該照著項(xiàng)目業(yè)務(wù)來(lái)。我們的業(yè)務(wù)需求是上位機(jī)需要能夠打開(kāi)一臺(tái)設(shè)備下載固件讀寫寄存器批量收數(shù)據(jù)。于是接口長(zhǎng)這樣class IFpgaControl { public: virtual ~IFpgaControl() default; virtual bool OpenSerial(const std::string serial) 0; virtual void Close() 0; virtual bool Configure(const std::string bitFile) 0; virtual bool WriteRegister(uint32_t addr, uint32_t value) 0; virtual bool ReadRegister(uint32_t addr, uint32_t* value) 0; virtual bool BulkWrite(uint8_t endpoint, const void* data, size_t size) 0; virtual bool BulkRead(uint8_t endpoint, void* data, size_t size) 0; virtual const FpgaError GetLastError() const 0; virtual bool IsConnected() const 0; };這里有一個(gè)很容易踩的坑接口設(shè)計(jì)不要太厚不要一上來(lái)就想覆蓋SDK的所有能力。比如老SDK支持好幾種握手協(xié)議、支持通過(guò)寄存器動(dòng)態(tài)改管腳電平新SDK也有類似功能但項(xiàng)目根本用不到。把用不到的功能塞進(jìn)接口會(huì)讓每個(gè)適配器都背上沉重的實(shí)現(xiàn)負(fù)擔(dān)。我們只需要把現(xiàn)在和未來(lái)半年內(nèi)確定要用的能力放進(jìn)來(lái)剩下的可以通過(guò)擴(kuò)展接口再加。配套的錯(cuò)誤信息結(jié)構(gòu)體我定義為struct FpgaError { bool hasError false; int32_t code 0; std::string message; };這個(gè)結(jié)構(gòu)體統(tǒng)一承載所有底層錯(cuò)誤不管老SDK返回的是整型錯(cuò)誤碼還是新SDK返回的是錯(cuò)誤文本都在適配層里轉(zhuǎn)換好。上層業(yè)務(wù)不需要知道底層是哪家SDK。3.2 舊SDK適配器把A的調(diào)用包起來(lái)統(tǒng)一接口定義好之后先寫老SDK的適配器。這一步很有價(jià)值因?yàn)槔蟂DK是已經(jīng)跑通的用它來(lái)驗(yàn)證接口設(shè)計(jì)是否合理最省事。class AdapterOldSdk : public IFpgaControl { public: ~AdapterOldSdk() override { Close(); } bool OpenSerial(const std::string serial) override { uint32_t count 0; if (!A_GetDeviceCount(count) || count 0) { error_ { true, 0, no device found }; return false; } for (uint32_t i 0; i count; i) { char buf[64] {0}; if (A_GetDeviceSerial(i, buf, sizeof(buf)) serial buf) { device_ A_Open(buf); return device_ ! nullptr; } } error_ { true, 0, serial not found }; return false; } void Close() override { if (device_) { A_Close(device_); device_ nullptr; } } bool Configure(const std::string bitFile) override { if (!device_) return false; if (!A_Configure(device_, bitFile.c_str())) { error_ { true, A_GetLastError(device_), configure failed }; return false; } return true; } bool WriteRegister(uint32_t addr, uint32_t value) override { if (!device_) return false; if (!A_WriteRegister(device_, addr, value)) { error_ { true, A_GetLastError(device_), write reg failed }; return false; } return true; } bool BulkRead(uint8_t endpoint, void* data, size_t size) override { uint32_t transferred 0; bool ok A_PipeIn(device_, endpoint, data, (uint32_t)size, transferred, 2000); if (!ok || transferred ! size) { error_ { true, A_GetLastError(device_), bulk read failed }; return false; } return true; } const FpgaError GetLastError() const override { return error_; } bool IsConnected() const override { return device_ ! nullptr; } private: void* device_ nullptr; FpgaError error_{}; };寫老SDK適配器時(shí)確實(shí)會(huì)有一種“接口應(yīng)該有幾個(gè)參數(shù)”的糾結(jié)。比如老SDK的塊讀取函數(shù)需要傳入超時(shí)參數(shù)統(tǒng)一接口里要不要暴露超時(shí)我最后的做法是不暴露在適配器內(nèi)部給一個(gè)保守的默認(rèn)值。原因是上層業(yè)務(wù)大多不需要單獨(dú)控制超時(shí)真要控制超時(shí)是另外的接口設(shè)計(jì)問(wèn)題不能讓每個(gè)調(diào)用點(diǎn)都背著參數(shù)。3.3 新SDK適配器別在老適配器上打補(bǔ)丁老適配器跑通之后新SDK的適配器就好寫了因?yàn)樗獙?shí)現(xiàn)同樣的語(yǔ)義。很多人會(huì)在這一步偷懶想著在老適配器里加幾個(gè)#ifdef或者復(fù)制一份出來(lái)改成新調(diào)用。這兩種做法我都試過(guò)最終結(jié)論是老老實(shí)實(shí)新建一個(gè)類別在老適配器上打補(bǔ)丁。新SDK適配器的核心代碼長(zhǎng)這樣class AdapterNewSdk : public IFpgaControl { public: ~AdapterNewSdk() override { Close(); } bool OpenSerial(const std::string serial) override { B_DeviceInfo info; uint32_t count 0; if (!B_FindAll(info, count) || count 0) { error_ { true, 0, no device found }; return false; } for (uint32_t i 0; i count; i) { if (serial std::string(info[i].serialNumber)) { handle_ B_Open(i, B_OPEN_FLAG_EXCLUSIVE); return handle_ 0; } } error_ { true, 0, serial not found }; return false; } void Close() override { if (handle_ 0) { B_Close(handle_); handle_ -1; } } bool Configure(const std::string bitFile) override { std::vectoruint8_t raw ReadFileAsBytes(bitFile); if (raw.empty()) return false; if (!B_LoadFirmware(handle_, raw.data(), raw.size())) { error_ { true, B_ErrorCode(handle_), firmware load failed }; return false; } return true; } bool WriteRegister(uint32_t addr, uint32_t value) override { if (addr 0x03) { error_ { true, 0, address should be 4-byte aligned }; return false; } if (!B_RegWrite(handle_, addr, value)) { error_ { true, B_ErrorCode(handle_), reg write failed }; return false; } return true; } bool BulkWrite(uint8_t endpoint, const void* data, size_t size) override { if (size % 16 ! 0) { error_ { true, 0, bulk size must be multiple of 16 }; return false; } uint32_t written 0; bool ok B_BulkWrite(handle_, endpoint, data, (uint32_t)size, written, 5000); if (!ok || written ! size) { error_ { true, B_ErrorCode(handle_), bulk write failed }; return false; } return true; } private: int32_t handle_ -1; FpgaError error_{}; };我在新適配器里加了幾個(gè)老適配器沒(méi)有的檢查比如寄存器地址必須4字節(jié)對(duì)齊、批量大小必須是16的整數(shù)倍。這些檢查來(lái)自新SDK固件的約束條件不是我想當(dāng)然加的。有一次我在新SDK上直接傳了一個(gè)奇數(shù)大小的緩沖給批量寫接口返回錯(cuò)誤碼也很正常但FPGA那邊收到的數(shù)據(jù)整體錯(cuò)位了兩字節(jié)。后來(lái)翻了固件源碼才發(fā)現(xiàn)新SDK的驅(qū)動(dòng)內(nèi)核默認(rèn)把所有請(qǐng)求按整塊處理非對(duì)齊長(zhǎng)度會(huì)被靜默處理成對(duì)齊值不會(huì)提示錯(cuò)誤。新適配器剛寫好的時(shí)候不建議接入業(yè)務(wù)。先寫一個(gè)小測(cè)試程序直接調(diào)用新適配器的OpenSerial、Configure、WriteRegister、ReadRegister確認(rèn)能跑通最簡(jiǎn)單的“寫一個(gè)寄存器再讀回來(lái)”流程。這一步通過(guò)之后再把它接到工廠方法里替換掉老適配器。3.4 業(yè)務(wù)層替換策略水管全換水龍頭不動(dòng)適配器寫完之后業(yè)務(wù)層的替換其實(shí)是最簡(jiǎn)單的。設(shè)計(jì)一個(gè)工廠函數(shù)std::unique_ptrIFpgaControl CreateControlDevice(DeviceKind kind) { switch (kind) { case DeviceKind::OldVendor: return std::make_uniqueAdapterOldSdk(); case DeviceKind::NewVendor: return std::make_uniqueAdapterNewSdk(); default: return nullptr; } }業(yè)務(wù)代碼只需要保證自己依賴的是IFpgaControl*指針不要直接依賴AdapterNewSdk內(nèi)部成員。初始化的地方從這一句std::unique_ptrIFpgaControl fpga CreateControlDevice(DeviceKind::OldVendor);改成std::unique_ptrIFpgaControl fpga CreateControlDevice(DeviceKind::NewVendor);然后把編譯錯(cuò)誤一個(gè)個(gè)修掉絕大部分錯(cuò)誤都是因?yàn)槟硞€(gè)業(yè)務(wù)函數(shù)還在用老的裸調(diào)用。這個(gè)時(shí)候能明顯感受到適配層的好處修編譯錯(cuò)誤是機(jī)械工不會(huì)出現(xiàn)“改完一處之后另一處設(shè)備狀態(tài)丟失”的問(wèn)題。整個(gè)替換過(guò)程我分了三個(gè)批次推進(jìn)。第一批只替換設(shè)備打開(kāi)、關(guān)閉、握手保證程序能跑起來(lái)顯示“設(shè)備已連接”第二批替換寄存器讀寫第三批替換批量數(shù)據(jù)傳輸同時(shí)跑回環(huán)測(cè)試。每批都單獨(dú)提交代碼評(píng)審時(shí)目標(biāo)明確出了問(wèn)題也能很快定位。4. 遷移過(guò)程中的真實(shí)踩坑記錄4.1 管線下載失敗不能只看返回碼第一個(gè)大坑出現(xiàn)在修改固件下載邏輯時(shí)。老適配器調(diào)用A_Configure把bitfile一次下載進(jìn)去下載完畢之后FPGA自動(dòng)進(jìn)入運(yùn)行狀態(tài)后續(xù)直接讀寫寄存器就能通。新SDK的B_LoadFirmware函數(shù)也是類似功能但下載完之后馬上讀寄存器發(fā)現(xiàn)讀回來(lái)的是全零。排查了很久才發(fā)現(xiàn)新SDK的下載函數(shù)只負(fù)責(zé)把bit流寫入FPGA并不會(huì)等待FPGA內(nèi)部的上電復(fù)位完成。老SDK在下載完之后內(nèi)部還有一步等待至少會(huì)打印出固件ID才能返回成功。新SDK則是下載命令發(fā)出后就返回如果立刻讀寄存器FPGA還在加載階段。這里得到的教訓(xùn)是下載完固件之后不要直接信任成功返回必須有一個(gè)“固件握手”動(dòng)作。我在新適配器里添加了下載完成后的重試循環(huán)最多等2秒讀固件版本寄存器直到讀出非零值。這個(gè)動(dòng)作不能放在業(yè)務(wù)代碼里否則每個(gè)用適配器的人都要記得。4.2 塊傳輸錯(cuò)位對(duì)齊不是玄學(xué)是協(xié)議批量傳輸?shù)膶?duì)齊問(wèn)題是遷移中最隱蔽的坑。老SDK的批量寫函數(shù)對(duì)待緩沖區(qū)大小非常寬松傳500字節(jié)、傳512字節(jié)都能跑。新SDK底層驅(qū)動(dòng)按塊設(shè)備處理緩沖區(qū)大小必須是16的整數(shù)倍而且緩沖區(qū)的內(nèi)存地址最好也做對(duì)齊。我們的業(yè)務(wù)里有幾種命令長(zhǎng)度不是16倍數(shù)比如一條控制命令恰好是42字節(jié)。老SDK里直接調(diào)用A_PipeOut沒(méi)問(wèn)題新SDK里寫42字節(jié)驅(qū)動(dòng)返回成功但多包了14字節(jié)的空白填充FPGA那邊的狀態(tài)機(jī)把這個(gè)命令當(dāng)成兩條消息解析直接亂掉。解決辦法是在適配層加一層打包邏輯如果字節(jié)長(zhǎng)度不是16的整數(shù)倍分配一個(gè)對(duì)齊后的緩沖前端填充原始數(shù)據(jù)剩余部分填0再告訴FPGA邏輯“實(shí)際有效長(zhǎng)度”。這個(gè)邏輯必須和固件約定好固件端也要根據(jù)同樣的規(guī)則解包。如果不改固件也可以讓FPGA端自己按16字節(jié)對(duì)齊??傊畬?duì)齊規(guī)則必須是兩端共同確認(rèn)的協(xié)議不是適配器單方面能定的。4.3 回調(diào)線程里干活輕則超時(shí)重則死鎖新SDK的批量讀取支持兩種模式同步阻塞和異步回調(diào)。我們最開(kāi)始圖省事直接用異步回調(diào)模式在回調(diào)函數(shù)里把數(shù)據(jù)搬到應(yīng)用緩沖區(qū)順便更新UI狀態(tài)。結(jié)果程序跑一會(huì)兒就出現(xiàn)讀超時(shí)嚴(yán)重時(shí)整個(gè)上位機(jī)界面卡死。問(wèn)題不在回調(diào)本身而在回調(diào)線程里做了太多事情?;卣{(diào)函數(shù)是SDK內(nèi)部驅(qū)動(dòng)線程調(diào)用的如果我在里面加鎖保護(hù)共享數(shù)據(jù)而主線程同時(shí)也在等待這次讀取完成就會(huì)形成死鎖。正確做法是回調(diào)只做一件事——把數(shù)據(jù)推到一個(gè)無(wú)鎖隊(duì)列里然后讓業(yè)務(wù)工作線程去隊(duì)列里取數(shù)據(jù)。這樣回調(diào)線程永遠(yuǎn)不被阻塞業(yè)務(wù)線程有自己的節(jié)奏處理數(shù)據(jù)。這里補(bǔ)充一個(gè)實(shí)測(cè)經(jīng)驗(yàn)異步回調(diào)模式下隊(duì)列長(zhǎng)度要有上限。如果采集卡每毫秒產(chǎn)生一塊數(shù)據(jù)而業(yè)務(wù)層處理速度跟不上隊(duì)列會(huì)無(wú)限膨脹最終內(nèi)存暴漲。我給隊(duì)列加了最大深度限制滿了就直接丟包并統(tǒng)計(jì)丟包計(jì)數(shù)器寧可丟包也不能把系統(tǒng)拖死。4.4 超時(shí)參數(shù)不能拿來(lái)就用要重新標(biāo)定老SDK的很多接口有默認(rèn)超時(shí)參數(shù)1000毫秒是常見(jiàn)的。新SDK有些接口也有默認(rèn)值有些需要顯式傳入。我在遷移時(shí)第一版直接把老SDK的2000毫秒搬過(guò)來(lái)結(jié)果固件下載經(jīng)常超時(shí)因?yàn)樾耂DK的固件下載函數(shù)要先把1MB多一點(diǎn)的bit文件從用戶態(tài)拷貝到內(nèi)核態(tài)再通過(guò)USB控制器下發(fā)大文件傳輸需要的時(shí)間遠(yuǎn)超2000毫秒。不同操作的超時(shí)需求差異很大。寄存器讀寫這種短事務(wù)500毫秒都算寬裕批量傳輸則要基于數(shù)據(jù)量估算時(shí)間比如USB 3.0實(shí)際有效帶寬約300MB/s傳輸1MB數(shù)據(jù)大約需要3.5毫秒但驅(qū)動(dòng)握手、端點(diǎn)調(diào)度、FPGA處理都可能增加額外延遲所以我把批量傳輸?shù)某瑫r(shí)設(shè)置為至少10毫秒基數(shù)加上按數(shù)據(jù)量線性增長(zhǎng)的部分。固件下載我干脆設(shè)成了30秒因?yàn)檫€要考慮讀SD卡鏡像、校驗(yàn)和等步驟。超時(shí)不應(yīng)該寫死應(yīng)該做成適配器的配置項(xiàng)至少支持從配置文件讀取。比如固件文件變大了、USB線質(zhì)量變差了可能需要調(diào)高閾值。4.5 熱拔插之后句柄說(shuō)沒(méi)就沒(méi)設(shè)備熱拔插是采集卡項(xiàng)目里一定會(huì)遇到的場(chǎng)景。老SDK對(duì)熱拔插處理得比較好設(shè)備拔掉之后API調(diào)用會(huì)直接返回錯(cuò)誤重插之后枚舉列表會(huì)自然更新。新SDK在這方面差一些拔掉設(shè)備后已經(jīng)打開(kāi)的句柄仍然是“看起來(lái)有效”的狀態(tài)但任何讀寫操作都會(huì)失敗重插之后如果不再枚舉一次句柄也不會(huì)自動(dòng)恢復(fù)。這個(gè)問(wèn)題的根因是兩邊驅(qū)動(dòng)的事件通知機(jī)制不同。老SDK會(huì)在設(shè)備拔插時(shí)主動(dòng)觸發(fā)一個(gè)系統(tǒng)事件新SDK則依賴應(yīng)用層周期性輪詢。我的做法是寫了一個(gè)設(shè)備健康檢查線程每3秒調(diào)用一次B_CheckHandle(handle_)判斷設(shè)備是否還在線。如果檢查失敗自動(dòng)關(guān)閉舊句柄并觸發(fā)重連邏輯重連時(shí)重新枚舉設(shè)備列表。這個(gè)健康檢查邏輯必須放在適配層里業(yè)務(wù)層不需要知道設(shè)備在不在它只需要在調(diào)用任何接口失敗之后拿到一個(gè)明確的錯(cuò)誤然后決定是否重新打開(kāi)設(shè)備。4.6 線程安全先串行化再談并發(fā)適配器要支持的并發(fā)訪問(wèn)模式往往被忽視。老SDK內(nèi)部做了全局鎖所有API調(diào)用天然串行化同一時(shí)間只允許一個(gè)線程訪問(wèn)設(shè)備。新SDK雖然線程安全但不同接口之間并不保證原子性比如一個(gè)線程正在下載固件另一個(gè)線程同時(shí)寫寄存器可能會(huì)出現(xiàn)不可預(yù)期的狀態(tài)。遷移一開(kāi)始我就踩了一次這個(gè)坑業(yè)務(wù)層有采集線程在持續(xù)批量讀數(shù)據(jù)UI線程偶爾會(huì)寫寄存器調(diào)整增益。在老SDK下這個(gè)模式跑了一年多都沒(méi)事切到新SDK之后寫寄存器偶發(fā)失敗并且伴隨采集數(shù)據(jù)掉幀。解決辦法是在適配器內(nèi)部增加一個(gè)互斥鎖所有公開(kāi)接口都先拿鎖再執(zhí)行底層調(diào)用。這個(gè)鎖粒度雖然粗但保證了一次完整操作不會(huì)被其他線程打斷。如果未來(lái)業(yè)務(wù)需要更細(xì)的并發(fā)比如同時(shí)讀多個(gè)端點(diǎn)再針對(duì)具體端點(diǎn)升級(jí)為讀寫鎖。先串行化是遷移階段最保險(xiǎn)的做法性能上損失很小但穩(wěn)定性的收益非常大。5. 回歸測(cè)試怎么做遷移能不能交差的標(biāo)準(zhǔn)5.1 功能回歸用例清單適配層寫完、業(yè)務(wù)替換完之后最容易出現(xiàn)的錯(cuò)覺(jué)是“程序能跑就說(shuō)明遷移成功了”。我這邊踩過(guò)一次深淺不定的坑程序能跑只是表面功能細(xì)節(jié)可能還是錯(cuò)的。于是這次我把回歸測(cè)試用例做成了一張表格每一條都對(duì)應(yīng)一個(gè)可觀測(cè)的檢查點(diǎn)。用例編號(hào)測(cè)試內(nèi)容操作步驟通過(guò)標(biāo)準(zhǔn)TC01設(shè)備枚舉插上設(shè)備后調(diào)用枚舉接口能列出正確序列號(hào)TC02固件下載下載標(biāo)準(zhǔn)bit文件返回成功且固件版本寄存器非零TC03寄存器讀寫掃描寫入0x5A5A5A5A到不同地址并讀回讀寫結(jié)果完全一致TC04批量數(shù)據(jù)寫讀回環(huán)FPGA內(nèi)部將寫數(shù)據(jù)回環(huán)返回讀出內(nèi)容與寫入內(nèi)容完全一致TC05多端點(diǎn)并發(fā)兩個(gè)端點(diǎn)同時(shí)進(jìn)行批量傳輸兩邊數(shù)據(jù)均無(wú)錯(cuò)位和丟包TC06異常拔插數(shù)據(jù)傳輸中拔出設(shè)備再插回上位機(jī)能檢測(cè)到掉線并完成重連TC07長(zhǎng)時(shí)間運(yùn)行持續(xù)采集72小時(shí)無(wú)死機(jī)、無(wú)數(shù)據(jù)中斷、無(wú)內(nèi)存增長(zhǎng)TC04的回環(huán)測(cè)試是最重要的一道關(guān)卡。我在FPGA邏輯里加了一個(gè)簡(jiǎn)單的FIFO回環(huán)模塊上位機(jī)往端點(diǎn)A寫入什么FPGA就從端點(diǎn)B返回什么。這個(gè)測(cè)試能同時(shí)驗(yàn)證塊傳輸?shù)亩它c(diǎn)映射、數(shù)據(jù)寬度、字節(jié)序和打包邏輯。如果回環(huán)測(cè)試通過(guò)批量傳輸這塊基本就穩(wěn)了。5.2 性能和穩(wěn)定性指標(biāo)怎么定功能回歸通過(guò)后還需要對(duì)比性能指標(biāo)否則系統(tǒng)上線后遇到吞吐量不足的問(wèn)題會(huì)非常被動(dòng)。我定的指標(biāo)很簡(jiǎn)單回環(huán)測(cè)試連續(xù)傳輸100MB數(shù)據(jù)統(tǒng)計(jì)平均吞吐量分別記錄遷移前老SDK的數(shù)據(jù)、遷移后新SDK的數(shù)據(jù)要求新SDK的吞吐不低于老SDK的95%。這個(gè)5%的容差不是拍腦袋想出來(lái)的USB協(xié)議本身的調(diào)度和驅(qū)動(dòng)層緩沖策略會(huì)帶來(lái)微小波動(dòng)真正的性能瓶頸在FPGA處理邏輯和上位機(jī)應(yīng)用層如果一個(gè)SDK的性能差到兩位數(shù)百分比說(shuō)明驅(qū)動(dòng)或固件配置有問(wèn)題。CPU占用也要測(cè)。老SDK的塊傳輸在驅(qū)動(dòng)層用了零拷貝新SDK在部分接口上有一次額外的內(nèi)存拷貝。實(shí)測(cè)下來(lái)新SDK在傳輸相同數(shù)據(jù)量時(shí)CPU占用高出約5個(gè)百分點(diǎn)可以接受但如果不再做適配層緩沖很可能高出更多。穩(wěn)定性測(cè)試則需要跑足夠長(zhǎng)時(shí)間。USB接口設(shè)備最怕出現(xiàn)運(yùn)行一段時(shí)間后句柄失效、驅(qū)動(dòng)棧異常、帶寬被莫名占用的現(xiàn)象。我跑了三天三夜連續(xù)采集日志里沒(méi)有出現(xiàn)一次傳輸錯(cuò)誤基本可以確認(rèn)適配層的鎖設(shè)計(jì)和超時(shí)策略是靠譜的。5.3 自動(dòng)化回歸讓遷移結(jié)果可重復(fù)手工回歸做了兩輪之后我把測(cè)試用例腳本化。腳本不需要復(fù)雜主要就是把上面的操作步驟串起來(lái)記錄每個(gè)用例的執(zhí)行結(jié)果和耗時(shí)。自動(dòng)化之后每次修改適配器代碼都能在一個(gè)小時(shí)內(nèi)跑完全部回歸。自動(dòng)化回歸里有一個(gè)額外動(dòng)作值得提一下每次跑測(cè)試之前強(qiáng)制重新枚舉設(shè)備并重新下載固件。這樣能確保每次測(cè)試的初始狀態(tài)一致不會(huì)出現(xiàn)上一次測(cè)試殘留的狀態(tài)影響結(jié)論。我遇到過(guò)最典型的例子是某次寄存器讀寫測(cè)試失敗是因?yàn)樯弦淮斡美言O(shè)備狀態(tài)寄存器改成了錯(cuò)誤值沒(méi)有復(fù)位就接著跑下一個(gè)用例結(jié)果誤判成適配器有bug。6. 經(jīng)驗(yàn)總結(jié)遷移過(guò)程中最有用的幾個(gè)習(xí)慣6.1 先梳理協(xié)議鏈路再寫適配代碼如果讓我重新做一次這個(gè)遷移我一定會(huì)更早在協(xié)議層面花時(shí)間。所謂協(xié)議鏈路就是從FPGA的寄存器地址表、命令碼表、端點(diǎn)定義出發(fā)把上位機(jī)每個(gè)操作和固件里的某個(gè)邏輯單元對(duì)應(yīng)起來(lái)。拿寄存器來(lái)說(shuō)FPGA可能定義了0x00狀態(tài)寄存器、0x04控制寄存器、0x08數(shù)據(jù)長(zhǎng)度寄存器但兩家SDK訪問(wèn)這些寄存器時(shí)的地址變換不一樣。老SDK可能要求傳入物理地址新SDK要求傳入虛擬地址差一個(gè)偏移讀出來(lái)的數(shù)據(jù)就對(duì)不上。協(xié)議梳理最好的產(chǎn)出是一張“寄存器地址對(duì)照表”左邊寫FPGA邏輯里的寄存器名和地址右邊寫兩個(gè)SDK調(diào)用時(shí)實(shí)際傳的參數(shù)。這張表比代碼注釋可靠得多也方便固件工程師參與評(píng)審。6.2 第一個(gè)適配器版本不要帶過(guò)多功能新手寫適配器容易貪全覺(jué)得一次性把SDK所有函數(shù)都包進(jìn)去才叫“適配”。我建議第一個(gè)版本只實(shí)現(xiàn)最小閉環(huán)枚舉、打開(kāi)、下載、一個(gè)寄存器讀寫、一個(gè)批量傳輸。先把這條鏈路跑通證明適配器架構(gòu)可行再逐批增加功能。最小閉環(huán)還有一個(gè)額外價(jià)值可以盡早驗(yàn)證新SDK本身在這套硬件上的穩(wěn)定性。如果新SDK連最小回環(huán)都跑不穩(wěn)那就應(yīng)該先解決硬件和驅(qū)動(dòng)問(wèn)題而不是繼續(xù)往上疊功能。我在這個(gè)項(xiàng)目里第一次用新SDK時(shí)就發(fā)現(xiàn)一個(gè)驅(qū)動(dòng)bug在極小概率下枚舉列表會(huì)返回重復(fù)設(shè)備如果我一上來(lái)就寫滿所有功能這個(gè)問(wèn)題會(huì)被淹沒(méi)在其他報(bào)錯(cuò)里排查會(huì)痛苦得多。6.3 評(píng)審不能只盯上位機(jī)要帶著固件一起看代碼遷移通常被認(rèn)為是上位機(jī)的事但實(shí)際上它牽動(dòng)的是整個(gè)系統(tǒng)。適配器怎么處理對(duì)齊、超時(shí)、下載后握手這些都需要固件工程師確認(rèn)。如果固件端的端點(diǎn)配置沒(méi)有根據(jù)SDK特性調(diào)整適配器寫得再對(duì)數(shù)據(jù)還是對(duì)不上。因此遷移適配器的代碼評(píng)審我堅(jiān)持拉上固件工程師一起看。評(píng)審重點(diǎn)不在于代碼風(fēng)格而在于適配器里的每個(gè)數(shù)據(jù)操作是不是和FPGA頂層模塊里的對(duì)應(yīng)端口一致固件下載之后的握手寄存器是不是真的已經(jīng)實(shí)現(xiàn)了批量傳輸端點(diǎn)的最大包長(zhǎng)是不是和適配器的分塊策略匹配。這三項(xiàng)確認(rèn)完代碼評(píng)審才算有意義。6.4 制作一張“遷移對(duì)照卡”后續(xù)維護(hù)全靠它最后分享一個(gè)小技巧。我把這次遷移過(guò)程中的API映射、寄存器地址變換、超時(shí)參數(shù)、對(duì)齊規(guī)則、錯(cuò)誤翻譯表全部整理到了一張紙上掛在工位旁邊。這張“遷移對(duì)照卡”不僅遷移期間用后續(xù)雙版本維護(hù)也長(zhǎng)期在用。每有新需求涉及底層數(shù)據(jù)通路我先在對(duì)照卡上標(biāo)出兩個(gè)SDK的對(duì)應(yīng)端點(diǎn)、包長(zhǎng)度和超時(shí)語(yǔ)義再討論固件側(cè)怎么改。幾次下來(lái)團(tuán)隊(duì)里新來(lái)的同事也能自己動(dòng)手做后續(xù)適配不用每次都要找我核對(duì)一遍底層細(xì)節(jié)。回到開(kāi)頭說(shuō)的那句話換底層通信庫(kù)不是簡(jiǎn)單的API替換。真正決定這次遷移成敗的是邊界畫得清不清楚、協(xié)議梳理得完不完整、回歸測(cè)得到不到位。把這些基礎(chǔ)工作做好換哪個(gè)SDK都只是適配器里的一段普通代碼。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲天堂加勒比| 超碰97人人乐| 91久操| 智利AV在线网| 国产精品第二页| 色欲久久综合| 伊人五月天婷婷| 麻豆性爱视频在线播放| 色婷婷五月天| 十八禁视频一区二区| 97在线观视频免费观看| 大香蕉97久久| 日韩精品视频在线观看一卡二卡| 狠狠超| 久久偷偷色综合蜜桃| 99久久久| 4141514逼喷水三级片| 日韩欧美午夜一区二区| 天天综合欧美黑人| 欧美少妇性乱| 97九色人妻| 久久久久久日韩| 久久精品电影在线| 91超碰在线播放| 欧洲黄色网| 国产精品午夜福利视频| 久久久性爱视频| 色色福利| 绯色一区二区三区不卡少妇| 久九九九九九九九热| 麻豆 亚洲 97| 成人天天看站长推荐| 婷婷99| 日韩 欧美 视频 在线 一区| yellow网站免费观看日韩高清无码| 91第一页| 97国产|免费| 九九热精彩视频| 久艹伊人精品综合在线| 综合色图区| 亚洲午夜av| 久久久久久久久久va| 欧美综合第一页| 9长久久精品| 九九人妻| 人妻天天爽夜夜爽2| 偷拍片久久| 99抽插| 免费的av网| 美女露胸露屁股| 粉嫩av在线| 外国免费性情大片| 美女久久久久久久久久久| 99re99在线视频| 中文字幕午夜精品久久久| 情色av电影| 综合网久久| 欧美专区第一页| 亚洲人人操| 欧美日韩高潮喷水91| 超踫中文字幕| 久久久九九九九| 欧美久久毛片基地| 亚洲一区二区 麻豆传媒| 亚洲欧美性生活| 久久人人爽爽爽人久久久| 91xingse| 久九干| 一区二区三区蜜桃成人撸久久东京热| 无码人妻精品一区二区三区九九| 日本黄页视频在线观看| 亚洲色婷婷综合久久一区二区三区| 天堂av最新电影网| 国产美女高潮| 97爱爱| a级免费在线观看| 久久久999| 涩涩这里只有精品视频| 加勒比大香蕉视频在线| 男人天堂.AB| 日韩 成人 有码| 欧美色www亚洲国产阿娇要播| 国产高清自拍视频| 国产传媒操逼视频| 久久精品国产精品亚洲艾通辽熟妇| 夜夜爽33333| 啪啪视频mP4| 天天天天做夜夜夜夜做| 天堂亚洲欧美| 97欧美性爱| 91久久婷婷| 久久最新免费视频23| 国产熟妇一区二区| 中文字幕一二三| 一二三四视频中文字幕在线看| 青娱乐国产精品| 激情五月天色色网| 九九自拍伦理| 亚洲三区视频| 一区二区激情国产熟女 | 最新日韩黄片| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 国产精品国产亚洲区艳妇糸列| 亚洲精品三区在线观看| 欧美97日韩精品| 亚洲丝袜综合| 激情网五月天| 免费男人的天堂| 日本人妻伦在线中文字幕| 91天天综合在线观看| 国产精品日本无码A片| 3p国产色噜噜一区| a啊啊啊啊啊啊啊啊一区二区| 一级做a爰片性色毛片久久| 99色在线视频| 久久久久久免费电影| 午夜无遮挡男女啪啪视频| 丁香五月天激情| 97爱碰| 丰满美女一级毛片在线播放| 久久婷婷一区二| 骚货操死你| 国人欧美精品一区二区| 国产精品熟女九九九| 色悠久| 日韩一级欧美一级在线观看| 美女丝袜激情小说| 多乙久久久久久| 殴美日韩m| 天天干天天燥| 免费男人的天堂| 家庭乱伦性爱av| 农村妇女精品一区二区| 女同女同恋久久级三级| 东京热熟女亚洲视频网站| 亚洲综合第一页| 亚洲操人| 欧美日韩久久精品爱爱| 亚洲 欧美 第一页| 色五月综合网| 免费a v| 日韩午夜国产| 丰满岳乱妇一区二区三区| 69人妻精品丰满熟女区| 亚洲精品无码久久AV| 成人一区二区三区四区| 操逼日批| 欧美日韩亚洲天堂| 久久9亚洲| 综合久久久久久久久91| 爽爽淫人网| 国产日本一区二区三区蜜臀在线观看| 精品久久久久久亚洲| 超碰97亚洲| 鲁鲁色综合网| 欧美成人A√在线一区二区| 熟妇艹鸡八| 国产av强奸美女| 亚洲美女 晚间男人天堂| A级国产欧美激情在线| 亚洲 图片 欧美 色图| 青椒国产97在线熟女| 91偷拍欧美亚洲| 国产成人99久久亚洲综合| 久操在97| 女人的久久久| 午夜精品探花| 96精品久久久久久久久久| 亚熟在线| 日韩成人大片一区二区| 亚洲爽图| 中文自拍欧美影视| 国产无码精品无码| 性色高清..……| 一区二区偷拍拍视频| 亚洲成人精品在线一区| av日韩中文字幕| 99热99re超碰精品| 特级毛片特黄久久免费看| 日韩精品亚洲一二三| 亚洲综合色网| 午夜操逼不卡| 欧美亚洲丝袜人妻制服中文99| 99999精品成人| 亚洲欧美日韩精品久| 97欧美| 搡老熟女国产1000部| 猛交交| 欧美亚洲色图另类国产| 东京热视频网| 日熟女| 欧美色综合网| 欧美丰满少妇交换91欧美精品| 白嫩嫩一区| 美女被艹尤物视频| 国产性久久久| 久久中文字幕不卡人妻| 啪啪啪男女亚洲中文字幕99| 亚洲诱惑| 五十路二区在线| 国产AV人人 夜夜人人澡| 欧美日韩性爱操大逼| 中文字幕免费在线观看| 97频视在线| 男人天堂站| 国产黄色 A 片免费看| AV乱伦国产| 亚洲第一无码播放立川理惠| 操逼不卡中文字幕| 国产操伦| 国产又黄又粗的视频| 成人一级二级| 久久人妇| 少妇第一页| 亚洲人精| 欧美性爱一内片一区二区三区| 狠狠干婷婷| 乳欲人妻办公室奶水| 思思久热在线精品66| 99精品人妻| 欧美图片校园春色| 91亚州| 国产精品电| 91国内外在线| a啊啊啊啊啊啊啊啊一区二区| 亚洲影视高清第一页| 青青草字幕AV| 天堂网 主播 亚洲| 熟女久久久| 欲色啪| 91精品国| 美女网站91| 天天操天天舔| 国内偷拍精品一区二区| 一区操逼日比视频| 动漫爆乳3D奶水一区在线观看 | 高潮嗯啊性感美女久久久| 超碰爽人妻熟女Av| 色婷婷九月天天综合| 欧美一级久久久久久久大片动画| 艹精品| 美国一区二区三区视频| 人妻aa| 欧美国产日韩高清在线| 青青草日韩无码| 青青操青娱乐| 欧美日韩人人早| 中文字幕视频免费| 91丝袜美女视频| 精品国产99999| 男人天堂欧美| 国产精品一区二区校花| 秋霞一级视频在线观看免费| 天天干天天爽| 91男同| 淫纸中9区| 天天射日日干| 欧美亚洲日本视频久久久| 亚洲天堂久久| 九九亚洲精品| 日夜精品| 丰满岳乱妇一区二区三区| 欧美,日韩,亚洲视频| 97人人草| 91高清日| 人人操人人爽人人操人人| av在线观看不卡网站| 一起草av| 色香91| 超碰97中文| AAAA欧美日韩| 超碰在线国产| 久久欧洲| 亚洲天堂2020| 欧美系列在线一区二区| 中文字幕久久精品一区| 亚洲动态色图| 亚洲一区二区中文字幕| 久久水蜜臀亚洲AV无码精品| 久久久青青草| 爱av免费| 99色色| 亚洲天天操| 天天懆天天日| 中文字幕AV片| 精品一区二区2| 亚洲精品国语在线播放| 久久免费精品视频免一| 国产精品91ai| 中文字幕在线观| 乱伦3P视频| 91 丝袜在线| 日本色日夜干| Julia在线播放亚洲久久| 亚洲宗合网| 国产精品 久久久精品一牛| 亚洲人妻一区二区三区| 蜜臀va69| 无码伊人久久大杳蕉中文无码| 国产13区| 天天综合网网欲色| 中国一级操逼视频| AV丝袜少妇| 男女啪啪网站免费视频| 亚洲操操| 91人人| 柠檬AV导航| 久久久9 9 9精品| 成人免费看吃奶视频网站| 国产成人资源| 欧美欧美啪啪视频| 色麻豆AV| 最新欧洲欧美日本激情网站| 亚洲精品久久久久毛片A片拉屎| 99久视频| 97超碰欧美中文字幕| 日韩欧美女优电影| 九九九综合精品| 国产精品无码成人精品| 和协影院中文字幕三区| 99re公开精品免费视频| 欧美在线视频播放| 久久久久久久伊人精品| 人妻黑丝袜电影| 精品人体无圣光凹凸| 性性欧美| 天天爽天天| 久久 精品| 久久五月份| 亚洲欧美色图| 精品一区二区三区四区外站| 国内精品久久久久影院亚洲| 久草这里只有精品 | 在线a亚洲视频播放在线| 性爱久久| 国产精品99精品视频网站| 天美一二三在线观看Av| 在线看片国产精品每日更新| 9九九国产| 九九热精品| 亚洲中文字幕一区| 天天日日本| 欧美日韩日产免费网站看| 超碰精品人妻狠狠干| 色爱国产| 欧州一区二区三区四区| 蜜桃网熟妇| 欧美丰满熟妇XXXX性ppX人交| 可乐操亚洲蜜911| 日韩三四五区| 亚洲av影院在线观看| 成人久久久| 国产Av超碰| 后入式999| 激情丁香五月| 免费精品中文字幕| 91九色丨风韵犹存| 久久久久国产| 韩日男人的天堂| 亚洲日韩美女中文字幕乱| 花花AV导航| 试看福利| 久久秀这里有精品| 久久香蕉国产线看观看猫咪av| 亚洲在线| 久久妇| 欧美性色综合网| 激情综合五月| 色伊人91| 国产成人91一区二区三区| 91热色| 91夜夜蜜桃臀1区2区3区| 色噜噜精品一区二区三| 偷拍亚洲熟女视频播放| 精品视频在线观看精品| 欧美黄页| 精品一区二区三区麻豆| 天操天操夜操夜月月年年操操| 久久久久久久久久久97| 婷婷丁香五月综合| 老司机老司机午夜影院| 国产亚洲女v在线观看| 亚洲不雅视频1区二区| 怡红院亚洲怡春院av| 性色av一区二区| ′ !γ}丶。。久久精品欧美一区二区三区 | 人妻熟女av国产网站| 久久久久久久久久va| 中文字幕三四区| 九九九九九精品视频| 丝袜视频网国产90| 国产AV人人夜夜澡人人爽麻豆| 久久日本熟女精品一区| 无码一区二区三区四区五区六区七区八区九区十区视频 | 日韩免费簧片| 澳门黄片一香蕉视频| 国产精品com| 国产99999| 超碰在97| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 97超碰天天爱天天爱| 97人妻色| 91国产大片| 日本大香蕉| 亚洲在高跟鞋自慰久久在色线| 欧美最婬乱婬爆婬性视频 | 婷婷色一区| 91色碰| 亚 欧 美 综合| 欧美不卡在线美女| 人妻在线中出视频| 一区二区三区色综合| 亚洲综合贴图91| 人妻内射一区二区在线视频| 天天摸夜夜操视频| 自拍啪啪视频| 天美传媒AV在线播放| 网站A V在线| 日韩欧美午夜一区二区| 在线a v| 俺去俺来也在线www| 日本高清一区二区在线| 五月天激情小说| 91狠| 性爱欧美五月| 午夜福利 成人 91| 啊啊啊好多水| 国产免a费看黄片在线| AA级电影三区| 成人性爱全视频观看| 91久久婷婷| 女人的久久久| 欧亚日韩综合精品国产| 一起草视频在线| 久久精品国产亚洲妲己影视| 午夜福利成人免费视频| 午夜男人天堂| 少妇久久久免费| 色汉综合| av日韩手机在线影视| 天天操天天插| 综合色拍| 明星性猛交ⅹxxx乱大交| 东北丰满熟女国产一区| 超碰国产在线| 亚州中文字幕超碰97| 激情另类激情| 日韩综合无码色欲vv| 亚洲另类在线观看| 97网址97| 中文乱码字幕观看视频| 亚洲欧美自拍偷拍| 亚洲欧美九九九| 午夜福利 成人 91| 福利社区午夜一区二区| 用力操死我| 毛片99-全集电影手机免费观看完整-B029AV | 伊人丁香五月婷婷| 黑丝少妇在线观看| 干妹子| 欧洲欧美视频一区二区| 99re这里只有精品中心播放 | 久久大香蕉97| 成人麻豆av电影网站| 日韩精品一区二区三区色欲 | 欧美亚洲清纯| 国产精品嫩草久久久久| 中文字幕在线观看AV| 这里只有精品97| 91大神精品长腿在线观看网站| 亚洲激情av| 狠操91,com| 69精品| 中文字幕第页| 亚洲日韩人妻中文字幕一区| 亚洲天堂另类小说男人| 操国产逼| 97日视频| 飘花国产午夜精品不卡| 天天看人人操屄犊摸阴| 国内偷拍精品一区二区| 性爱动态120秒| 久久二| 五月丁香婷婷啪啪| 欧美综合中文| 婷婷五月激情综合| 久久久青青草| 天天综合91在线| 国产白丝AV| 欧美亚洲丝袜人妻制服99| 国色综合天| 97五月天| 欧美精品宗合| 久久久久七视频| 一区操逼| 人妻免费观看| 92人人操人人| 偷拍导航视频网站| 素人播放一区| 国产无码久久高清| 亚洲国产精品久久久男人的天堂| 欧美五十路熟| 性欧美精| 无码抄逼网| 亚洲国产97在线精品一区| 巨爆乳肉感一区二区三区竹菊影视| 欧美爱国产综合、| 一区二区三区精品黑丝白丝酒店对鸡| 少妇蹲下露出大唇5| 国色天香av| 亚洲天堂五月天国产| www.AV有限公司一区| 国产一区二区av综合| 亚洲影视高清三级-草1024榴社区入口-品爱AV| 欧美丰满熟妇XXXX性ppX人交| 亚洲图片小说欧洲| 强奸少妇AV导航网| 日韩欧无码一区二区三区免费不卡| 久久久久久性爱视频| 18禁免费视频| 日韩91网站| 亚洲人在线| 国产高清成人mv在线观看| 自拍啪啪视频| 欧美三级一级| 精品国产一级久久| 亚洲无992tv| 九九热精彩视频| 色五月首页| 熟妇乱伦一区二区| 亚洲熟女一区| 国产精品天美传媒| 欧美一区二区观看在线| 日韩免费中文字幕视频| 人人操人人射人人干| 97日本超碰综合| 强奸乱伦大香蕉网| 国产最火爆久久国产网站网站| 色一区二区三区综合| 国产免费大片| 国产一级特黄大片处女| 玖玖久久久| 亚洲自拍一区夜夜操| 99无码| 国产精品久久99日日| 超碰2017| 日韩欧美麻豆 | 在线a亚洲视频播放在线| 亚洲自拍欧美国产首页网曝| 五月婷婷激情网| 久久亚洲中文字幕视频| 欧美天天综合在线| 久草毛片| 是还免费视频1727我| 97综合在线观看| 亚洲精品美女久久久久久久久| 蜜乳Av成人片网站| 美女网站91| 日本在线伊人啪啪| www.成人无码| 久久九九精品一区二区| 久久久成人精品| 久久鲁夜| 屌妞视频久久久久久久久久久久| 一区二区娱乐网站| 国产99久久99热这里只有精品15 | 青青草女人天天干| 91 综合 色| 午夜福利区| 日韩精品熟妇| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 99re超碰| 91性高朝久久久久久久久| 亚洲成成熟女人综合一区二区| 999久久久久久久久| AV色五月| 99rre在线精品99re8| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 国产精品视频播放| 亚洲AV无码久久精品蜜桃小说| 免费看污网站| 射丝袜高跟鞋99| 亚洲熟妇乱女区二区三区| 97爱免费插| 精品免费一区二区三区在线亚洲人成| 久久久久成人蜜桃精品| 你操综合| 色欲人妻一区二区在线| 欧美大片一区二区三区| 1024午夜激情男人的天堂| 丰满熟女人妻一区二区三五十一路| 国产自啪精品视频网站黑丝| 美女上床网站| 日韩精品 欧美激情| 99re久久| 日韩熟女无码| 国产曰批免费观看久久久| 韩国一级AAA| 91狼人| 4tube欧美女厕所| 亚洲美女高潮喷水视频| 无码人妻1727| 亚洲AV成人无码一二三久久 | 五月丁香激情综合网| 日韩一级二级| 人妻人人澡人人爽人人| 老鸭窝在线视频播放| 五月天精品| 精人妻无码一区二区三区伊人直播| 亚洲丝袜二区在线| 日韩欧美亚洲自拍偷拍| 激情小说成人日本无码一| 高清国产av无码| 一本道综合色图| 日韩三级一区| 精品久久大胆人体| 午夜一区| 国产精品无码久久久久2028| 超碰99在线观看| 97蜜桃综合| 91n免费处女| 亚洲另类春色| 午夜寂寞欧美| 人妻天天爽夜夜爽爽| 欧美综合色综合| 东北少妇高潮zzzz| 丰满人妻-区二区三区免费| 亚州九九九精品视频| 国产亚洲深夜激情| 丰满少妇一区二区三区专区| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 黄色激情电影在线观看| 久久啊啊啊| 国产精品亚洲天堂网址| 97色插| 亚洲综合草草| 91在线超高颜值国产| 久久综合五月天| 天美传媒av一区二区| 日本色色视频网站| 99抽插| 亚洲电影中字一区二区| 日本一区二区三区欧美日韩中文字幕| 亚洲美女精品九九视频| 国产综合操逼高清| 久久天堂网| 日韩AV无码中文一区二区| 久久只有精品一区二区三区| 四季av一区二区凹凸精品小说| 三级日本一区二区三区| 亚洲日韩肥臀视频在线观看| 精品无码久久| 中日高清无码操逼视频| 久久久久久久综合,国产| 日韩三A大片在线观看 | 日韩 欧美 校园一区| 色欲天天综合久久久无码网中文| 婷婷丁香六月天| 国产中午字一暮区| 7777欧美成是人在线观看| 校园春色美腿丝袜 | 长久操视频| 每日更新AV| 综合熟妇一区二区三区| 九九色色| av一区二区三区不卡| 嫩草伊人久久精品| 欧美日韩国产高清在线一二三区 | 大香蕉淫人| 熟女丰满人妻一区| 国产精品成人久久一区二区三区| 久久久99999久网站| 国语对白在线播放视频| 外国免费性情大片| 91殴美大片| 成人性爱美曰韩| 亚洲综合在线91| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 日韩大香蕉AV影片| 蜜臀久久99精品久久久久免费观| 欧美日韩国产黄色片| 97国产中文| 嗯阿好爽好紧| 岛园激情| 26UUU欧美日本| 日韩大香蕉精品在线视频| 99精品免费| 久久久精品91八戒| 九久久九九久视频| 麻豆AV96熟妇人妻| 久99热| 俄罗斯一区二区视频在线观看| 五月天AV资源| 成人综合网 欧美| 日韩性爱网址| 日B操| 97伦综合| 日欧毛片久久| 色婷婷丁香五月| 探花一区二区三| 国产精品操| 精品视频久久区| 欧美黄色手机在线观看| 后入日本1234| 青青草精品| 色五月婷婷麻豆在| 日本Xx性爱| 免费精品国偷自产在线在线 | 亚洲精品国产专区在线观看| 日韩一级二级三级| www. 男人天堂成人在线| 国产怡红院| 婷婷亚洲综合| 中文字幕丝袜国产第一页不卡| 亚州欧美色图| 蜜桃臀av一区二区| 天美传媒av在线| 第45页一区二区| 欧美久久九九| 99热色精品| 久久肏大逼| 人妻中文字幕精品无码| AV色五月天| 欧美婷婷五月天| 久久九色| 久久婷婷成人综合色怡春院| 91少妇通奸网站| 东京热av男人的天堂| 97人妻色| 成人欧美一区二区三区黑人一| 久久九九国产精品| 国产精品免费日韩| 成人无码电影在线观看网| 青娱乐休闲视频在线观看| 变态综合色| 98超碰欧美| 97色欧洲| 久久午夜神马| 欧美丝袜中文字幕07在线| 久久精品一区一起草| 蜜臀无码一区二区| 欧美综合色综合| 欧美综合传媒| AV男人天堂网| 亚州五月| julia国产在线| 水滴偷拍| 97天堂| 四虎免费在线观看| 亚洲国产精品成人久久蜜臀| 91骚熟女| 成人免费性爱视视| 一区二区三区免费视频入口| 成人a v在线播放免费| 91啦人妻| 激情网色| 国产精品夜夜夜| 亚洲在线A| 男人的天堂99| 伊人影院日本| 日韩熟女乱伦中出| 亚洲古典另类欧美在线| 亚洲成人久久美女| 激情五月天婷婷| 69AV女优男人的天堂| 99热导航| 热G综合热G中文| 九九九精品美女| 激情婷婷综合久久| 很黄很色的视频在线观看| 欧美日韩性爱操大逼| 色噜噜狠狠色综无码久久合欧美| 欧美熟爽综合| 伊人网在线视频| 自拍啪啪视频| 色吧5亚洲| 精品性爱一二三区| 91在线页| 久久久99999久网站| 久久婷婷一区| 五月丁香六月综合缴清无码| 人妻系列无码专区中文有码| 五月婷在线| 男人的天堂VA在线| 日韩天天综合| 白丝被操91| 人妻99p| 春色校园综合网| 97欧美色| a片久久久久久久久久久久| 3D污黄视频在线观看| 国产欧美伊人| 日本精品九九九| 97爱| 99操视频| 美日韩一二三区| 91综合网站| 欧美性爱视频免费一区一A| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 久久女婷| jiujiujiujingpin| 九九九精品| 久久东京国产精品视频| 丁香五月成人| 97精品在线| 欧洲黄色网| 色噜噜狠狠色综无码久久合欧美| 久久人妇| 2018天天日天天日| 又大又白奶子| 久久精品国产97欧美精品亚洲| 国产午夜福利电影免费在线观看| 狠狠操天天干| 91激情国产| 久操com| 亚洲熟妇无码一区二区三区| 欧美碰碰综合色| 日韩性爱小视频在线观看| 男人 天堂 日 亚洲| 国产色图乱伦| 成人情色一区二区| 亚洲中文字幕av | 97婷婷色| 玖玖爱伊人玖玖爱| 亚洲精品尤物yw在线影院| 澳门人妻久久| 久久九色| 蜜臀久久99精品久久久久久久久| 国产97在线播放| 午夜福利免费精品视频| 人妻少妇精品久久久| 91人精品妻入口| 久久久久久亚洲精品中文字幕人妻| 噜噜噜噜久久久精品免费| 欧美在线观看综合国产| 色偷偷男人的天堂麻豆| 中文字幕乱在线伦视频中文字幕乱码在线 | www久久精品| 天堂8在线新版官网| 国产人妻精品一区二区三区秋霞| 精品中文字幕一区二区| 嗯嗯啊啊好疼| 午夜一区二区三区国产| 爽爽爽免费视频| 欧美呦呦性爱| 亚洲色性情三级| 日本高清免费一本视频在线观看| 欧美 传媒 麻豆 日韩 偷拍| 日韩免费三级黄片电影| 99国产精品久久久在线播放| 亚洲制服aⅴ中文字幕| 长久操视频| 9l视频自拍9l九色成人| 中文字幕三四五区| 夜夜狼人妻| 在线观看无码三级少妇| 操淫穴亚洲五月丁香 | 免费久久一级毛片大黄| 韩国女主播青草在线| 黄色AAAAA欧美| 久久久性少妇| 91大学精品激情戏| 精品日韩人妻视频| 亚洲男人的天堂网| 91精品黄在线观看| 91久久青青草原精品| 超碰在线人妻不卡| 国产伦乱91| 九九九九9999| 330Dv国产女人终合视频极品人与兽 | 91久久久久久久久久久| 欧美18 在线观看| 啊啊啊啊啊啊啊啊啊啊在线观看| 韩日无码在线观看| 丰满人妻一区二区三区四区| 久久不卡一区二区 | 青青草在线视频播放器| 国产精品肉丝自拍| A 天堂在线观看视频| 亚洲AV无码乱码| 夜草欧美| 大香蕉伊人色偷偷在线| a片偷拍视频| 国产97在线播放| 精品人妻夜夜草| 亚洲日韩成人性爱视频| 国产精品爆乳懂色蜜乳| 999九九九九国产动| 欧美美女自慰一区二区三区| 密乳无码| 久久精品久久久久久久| 99re这里| 丰满人妻一区二区三区四| 超碰在线香蕉| 亚洲色图 欧美热图 清纯唯美 另类自拍| 成人无码在线超碰网| 91精品导航| 欧美激情色婷婷花野真衣一区二区| 天天做天天爽| 乳欲人妻办公室奶水| 综合97| 91亚洲丝袜熟女| 97自拍一区| 亚洲熟妇图片| 亚洲精品三| 欧美亚洲色图另类国产| 国产成人亚洲精品无| 色婷婷一区二区三区久久午夜成人不| 色女综合| 欧美亚洲丝袜人妻制服99| 1禁看欧美黄片免费看| www久久国产精品| 60秒不遮不挡| 麻豆色约约| 嫩草 我啊~嗯~在线| 久久一二三四不卡 | 97国产人人| 欧美中日韩XXXX| 午夜九九| 亚洲精品久久一区二区三区蜜桃臀| 久久的网站啊啊啊啊啊| 插入综合网| 红杏大香蕉| 五月丁香婷婷啪啪| 97最新在线播放视频| 一级久久久久久久久久久| 三级激情网站| 国产黄色小视频网站| 亚欧免费观看视频| 中文字幕欧美日韩三级| 久久一区二区三区四区五区| 97在线免费视频观看| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 伊人久久综合精品欧美| 性暴力欧美猛交在线直播| 高清国产无码av| 91av熟女人妻| AV乱伦专区| 精品丝袜无码一区二区三APP| 亚洲在线网站| 亚洲激情在线观看一区| av在线播放国产一区| 国产成人无码a| 密乳AV免费观看| 色婷婷视频| 日韩不卡a级视频专区| 亚洲AV无码国产精品久久久久| 成人午夜小视频手机在线看| 日亚韩精品视频二区三| 99综合网| 亚洲精品久| 第四色亚洲色图| 精品一区二区三区四区外站| 国产综合网站在线播放| 欧美综合区| 99性爱| 国产suv精品一区二区四区999| 9999伦理视频| 丝袜亚洲91| 99re这里只有精品2| 天天噜| 欧美性爱日韩高清| 日韩Va亚洲va欧美Ⅴa久久| 牛牛aV| 男人的天堂网免费| 综合网亚| 欧洲性人爱视频| 天堂综合网| 国产精品视频91久久| 国产精品嫩草影院免费| 五月天大香蕉| 涩爱AV在线| 伊人午夜福利视频| 精品久| 操迟操逼在巾线Fre看| 亚洲国产成人高清在线| 人妻夜夜爽天天爽麻豆三区网站 | 亚洲高清无码在线桃色| 九九亚洲| 另类视频在线| 九九九九九精品| 国产一区在线观看无码AV| 狠狠色婷婷7777久| 91美女在线视频| 老熟女综合网| 八戒无码国产午夜福利| 亚洲激情网| 99色日| 亚州色综合| 永久免费发布性爱网| 激情四射婷婷四五月天| 日韩丝袜高跟制服在线观看| 91狠狠综合久久| 国产隔壁老王影院在线| 色综合99| 国产精品久久久久久久免牛肉蒲团| 91久| 激情小说成人日本无码一| 日本一区三级韩国| 羞答答AV中文字| 26uuu成人影片| 9+1视频网址| 极品色电影院| 国产精品精品系列在线观看| 色牛牛AV| 99蜜桃臀久久久欧美精品网站| 国产精品乱码久久久久| 视频分类 国内精品| 男生女生啊啊啊啊| 亚洲日韩国产精品| 日韩成人综合网| 亚洲欧美日韩中文久久自慰| 色哟哟AⅤ| 精品少妇后入一区二区三区四区人妻巨乳 | 91国产在线精品| 亚洲一区二区三区在线激情| 日本色色网| 日韩无码服务区| 亚洲成?V人片在线观看福利| 国产不卡中文字幕免费avi| 欧美组图日韩亚洲中文字幕| 开心五月激情网| 精品二区三四区五电影 | 色男人色天堂东京热| 日韩三级在线观看网站| 欧美午夜精品久久久久久超碰| www.99在线| 久久精品99| 无码免费精品高清| 久久精品中文字幕女同| 日韩无码三级影院| 亚洲 欧美 另类 日韩 人妻一区| 看全色黄大色大片免费视频| 女优视频第10页| 夜夜欧美| 中文字幕第页| 91熟女丨91老女人| 性爱综合网| 手机在线大香蕉| 黑丝少妇在线观看| www.男人的天堂| 天综合中文| 久久久久亚洲| 91丝袜美腿网站| 亚洲一区二区三区在线激情| 伊人色综合超碰| 久久这里只精品免费福利| 91网亚洲| 激情五月天插| 另类专区加勒比| 国产小u女在线观看| 小电影欧美91| 91黑丝露脚| 96精品久久久久久久久久| 日韩精品三区四区| 少妇一区二区三区精选| 欧美人人天天网| 探花激情视频| 亚洲欧美另类图片| 色狠狠综合噜一二三区| 亚洲密乳AV| 欧美91色| 色综合五月天| 国产欧美在线观看免费观看| 男女激情中文字幕| 国产精品蜜乳AV| 黑人性暴力毛片| 超碰亚洲欧美日韩无| 国产最火爆久久国产网站网站| 91高跟美女在线播放| 久久精品国产亚洲AV高级北京| 热G综合热G中文| 懂色AV一区二区三区| 亚洲成人黄色在线观看| 91嫩草在线| 婷婷五月天激情网| 日本人妻伦在线中文字幕| 自拍亚洲综合| 熟妇熟女视频一区二区三区| 91AV入口| 97超碰色中文字幕| 国模一区二区三区| 北约熟女超碰| 精品人妻一区二区三区视频在线| 色月天AV导航| 日韩av不卡在线观看| 亚洲天堂男人网| 国产第二页| 亚州色图第三区| 丁香六月激情| 大奶的诱惑| 97操在线| av优播| 大香网站| 日韩三级在线观看网站| 日本天堂在线播放| 99热精品青草在线| 亚洲精品久久久久久久蜜桃臀| 日本成熟少妇A∨网站| 国产91丝袜 在线播放| 日韩国产十八禁| 屌逼麻豆| 欧美视频边做饭边橾| 欧美夜夜草视频| 91热| 亚洲天堂美臀在线| 九九九九九九九九九九九免费国产| 特级丰满少妇一级AAAA爱毛片| 亚洲无992tv| 四虎影视国产精品| 国精综合一二三区影视| 97超碰jingpin| 色爱国产| 97人妻免费中文字幕| V A在线| 一本久道久久综合狠狠爱一密臀精| 十八禁一区二区无码观看| 日本丝袜美腿人妻九九| 九九热精品| 国产粉嫩出水在线播放| 国产精品亚洲一级av第二区| 久久久新亚洲AV| 视频二区美腿制服人妻欧美| av无码精品久久久久| 欧美日韩免费性爱| 强被迫伦姧在线观看无码网站| 色97干| 蜜桃臀av一区二区| 无卡一区=区| 久久人妻无码毛片A片麻豆| 撸撸成人在线视频| 国产老熟女| 97视频网站在线观看| 中文字幕啊啊啊在线观看视频| 加勒比伊人影院| 中文字幕在线免费观看 | 佐山爱中文字幕| 色噜噜人妻av 中文字幕| 25国产精品免费观看| 久久婷婷影院| 综合久久中文字幕综合日韩精品| 色综合久久88色综合久久天天| 人人艹亚洲| 久操网视频| 日日操丁香五月天| 久久av成人无码免费| 你想操日本小逼吗| 五月天丁香婷婷综合网站| 亚洲成a人片在线观看中文!!!| 欧美激情另类一区二区| 国产高清免费不卡av| 色黄色美女大长腿午夜视频| 99国产精品视频尤物| 日本午夜操逼| 色爱三区| 日本在线激情一区二区三区| 日韩精品一区二区三区色欲| 超碰99在线观看| 射 色综合| 欧美色图私拍91|