• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于FPGA的卷積神經(jīng)網(wǎng)絡(luò)的實現(xiàn)*

    2018-04-18 07:00:26李嘉輝蔡述庭陳學(xué)松熊曉明
    自動化與信息工程 2018年1期
    關(guān)鍵詞:流水線卷積神經(jīng)網(wǎng)絡(luò)

    李嘉輝 蔡述庭 陳學(xué)松 熊曉明

    ?

    基于FPGA的卷積神經(jīng)網(wǎng)絡(luò)的實現(xiàn)*

    李嘉輝 蔡述庭 陳學(xué)松 熊曉明

    (廣東工業(yè)大學(xué)自動化學(xué)院)

    現(xiàn)有基于CPU或GPU的卷積神經(jīng)網(wǎng)絡(luò)實現(xiàn)方案,無法兼顧實時性、功耗以及便攜性的要求?;贔PGA強(qiáng)大的并行處理能力和超低功耗,在DE1-Soc開發(fā)板上采用Verilog HDL實現(xiàn)了使用MNIST數(shù)據(jù)集的阿拉伯?dāng)?shù)字手寫體識別卷積神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)的每一層采用流水線和時分復(fù)用方法;單個時鐘周期能完成72次乘累加操作,在100 MHz的工作頻率下,加速器峰值運(yùn)算速度可達(dá)7.2 GMAC/s。與PC上運(yùn)行的定點數(shù)版本的C語言程序相比,在相同錯誤率6.43%的情況下,速度是其5.2倍。

    卷積神經(jīng)網(wǎng)絡(luò);FPGA;性能加速

    0 引言

    目前卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)的實現(xiàn)方案有基于CPU、GPU和FPGA三大類。因CPU的結(jié)構(gòu)特點以及通用計算機(jī)的架構(gòu)限制,導(dǎo)致基于CPU的方案功耗、便攜性和實時性不可兼得。雖然GPU具有強(qiáng)大的浮點運(yùn)算和并行處理能力,但基于GPU的方案,存在功耗過高,移動性能也不足的弱點[1-3]。因此,基于CPU或者GPU的實現(xiàn)方案在追求移動性能的場景下均不可取。FPGA具有強(qiáng)大的并行處理能力、靈活的可配置特性和超低功耗,可以考慮作為CNN的實現(xiàn)平臺。

    目前,F(xiàn)PGA開發(fā)有2種途徑:一種是基于HDL的傳統(tǒng)途徑;另一種是使用高層次綜合工具,如OpenCL或者Xilinx的HLS[4],雖能加快FPGA開發(fā)流程,但資源消耗大、性能低,且開發(fā)人員不能對生成的電路進(jìn)行精準(zhǔn)干預(yù)。因此本文使用Verilog HDL語言,在DE1-Soc平臺下實現(xiàn)一個識別阿拉伯?dāng)?shù)字手寫體的CNN網(wǎng)絡(luò)。

    1 網(wǎng)絡(luò)結(jié)構(gòu)

    本文實現(xiàn)的CNN網(wǎng)絡(luò)整體結(jié)構(gòu)如圖1所示。其中卷積層C1和C3的卷積核都是5×5的矩陣組;下采樣層S4和輸出層之間的192×1矩陣,由下采樣層的12個4×4矩陣直接展開得到,再經(jīng)過全連接層計算得到輸出層。

    圖1 CNN網(wǎng)絡(luò)結(jié)構(gòu)示意圖

    2 CNN加速模塊的總體架構(gòu)

    2.1 總體架構(gòu)

    CNN加速系統(tǒng)分為2部分:一部分是在開發(fā)板上以Cortex-A9為中心的HPS,主要將樣本數(shù)據(jù)讀取并加載到DDR3 SDRAM的特定地址,然后告知CNN加速模塊數(shù)據(jù)已經(jīng)準(zhǔn)備完畢;另一部分是FPGA內(nèi)部實現(xiàn)的CNN加速模塊,實現(xiàn)一個使用AXI-HP接口的AXI4總線主機(jī),從DDR3 SDRAM中讀取樣本,計算并將結(jié)果寫回DDR3 SDRAM,再通過中斷通知HPS。另外,HPS通過AXI4-lite設(shè)置加速模塊的參數(shù),如數(shù)據(jù)存儲地址。加速系統(tǒng)整體架構(gòu)和CNN加速模塊結(jié)構(gòu)圖如圖2、圖3所示。

    2.2 CNN實現(xiàn)方案特點

    本文CNN實現(xiàn)方案具有以下特點:

    1)通過時分復(fù)用降低對FPGA上DSP等資源的需求;

    2)具體到某一層的實現(xiàn),采用流水線增加數(shù)據(jù)吞吐率;

    3)使用定點數(shù)代替浮點數(shù),進(jìn)一步降低對BRAM和DSP的資源消耗;

    4)對MNIST樣本預(yù)處理,避免因數(shù)據(jù)位數(shù)有限導(dǎo)致溢出。

    圖2 加速系統(tǒng)整體架構(gòu)

    圖3 CNN加速模塊結(jié)構(gòu)圖

    3 CNN各層的實現(xiàn)

    3.1 卷積層的實現(xiàn)

    以第一卷積層為例闡述卷積層的實現(xiàn)方法。第一卷積層的運(yùn)算過程如圖4所示,6個卷積核矩陣分別在輸入矩陣進(jìn)行平移,兩者重疊部分相乘求和得到輸出矩陣中的一個元素。輸入輸出矩陣和卷積核的數(shù)據(jù)在存儲器中的組織情況如圖5所示。每次對kernels的讀操作,能夠讀取6個數(shù)據(jù),故可同時計算6個輸出元素。為提高模塊處理能力,采取流水線結(jié)構(gòu),如圖6所示,其中表示當(dāng)前樣本在一批樣本中的序號;和表示輸出元素的坐標(biāo);和表示卷積核與輸入矩陣重疊部分中當(dāng)前處理的元素的坐標(biāo)(相對于重疊部分)。上述變量用于多層循環(huán)的遍歷,并用于產(chǎn)生輸入地址(i_addr,k_addr)和輸出地址(o_addr)。i_addr和k_addr分別用于檢索輸入和卷積核數(shù)據(jù)。檢索得到的數(shù)據(jù)相乘,各自進(jìn)行累加求和,再由模塊外部的sigmoid函數(shù)求值模塊得到輸出元素,寫入到o_addr指定地址中(圖6中,輸出地址傳輸路徑上省略了若干寄存器)。另外,圖6中存儲累加器輸出結(jié)果的寄存器初值是偏置值;粗線表示其上同時傳輸多個數(shù)據(jù)。

    圖4 第一卷積層運(yùn)算過程示意圖

    圖5 第一卷積層的數(shù)據(jù)存儲方式

    圖6 第一卷積層的流水線示意圖

    3.2 下采樣層的實現(xiàn)

    以第一下采樣層為例闡述下采樣層的實現(xiàn)方法。第一下采樣層的計算過程如圖7所示,一個樣本有6個24階輸入方陣,以二階方陣作為單元對輸入矩陣分塊并計算各方陣元素平均值,作為其輸出元素。

    下采樣層的輸入輸出數(shù)據(jù)存儲排列方式,也是將矩陣按行展開為一維數(shù)組;存儲器中某地址對應(yīng)的字存儲同一樣本的多個矩陣相同坐標(biāo)的元素,從而一次訪問可同時計算多個輸出矩陣的元素(稱為一組輸出元素)。另外,使用雙端口ram存儲輸入輸出元素,從而只需要2個時鐘周期就能計算一組輸出元素。下采樣層也采取流水線的結(jié)構(gòu)實現(xiàn),如圖8所示,其中表示當(dāng)前樣本在一批樣本中的序號;和表示當(dāng)前輸出元素在輸出矩陣中的行列坐標(biāo);使用雙端口ram存儲輸入數(shù)據(jù),故各輸出元素的計算只需讀2次輸入數(shù)據(jù)存儲器input,這2次讀取標(biāo)記為變量。2次讀取的4個數(shù)據(jù)求和之后,舍棄結(jié)果最后2位,得到平均數(shù)存入寄存器。i_addr,o_addr和圖中粗線與前文意義相同。另外,圖8中輸出地址傳輸路徑省略了若干寄存器。

    圖7 第一下采樣層的計算過程示意圖

    圖8 第一下采樣層的流水線示意圖

    3.3 全連接層的實現(xiàn)

    全連接層的輸入是12個4階方陣,一個樣本輸入,最終輸出10個數(shù)值結(jié)果。權(quán)值矩陣可看做是10組4階方陣,每組12個方陣。10組權(quán)值矩陣均與輸入的同型矩陣組按元素相乘求和。單個樣本在該層的輸入數(shù)據(jù)的存儲排列情況,可以看做是字?jǐn)?shù)為16、位寬為12個數(shù)據(jù)項的一段存儲空間;共10組權(quán)值矩陣中的每一組也可以看成是相同大小的一段存儲空間。整個權(quán)值矩陣可以存儲在一個字?jǐn)?shù)為160、位寬為12個數(shù)據(jù)項的存儲器中。每組權(quán)值矩陣和單個樣本輸入數(shù)據(jù)存儲情況如圖9所示。

    圖9 全連接層數(shù)據(jù)的存儲示意圖

    全連接層的實現(xiàn)也通過并行化和流水線提高數(shù)據(jù)吞吐率,輸入數(shù)據(jù)和權(quán)值矩陣的存儲也用雙端口ram。其流水線示意圖如圖10所示,其中表示當(dāng)前樣本在一批樣本中的序號;和表示當(dāng)前處理的元素在4階方陣中的坐標(biāo);表示當(dāng)前使用哪組權(quán)值矩陣與輸入數(shù)據(jù)相乘。圖10中,w_addr表示用于檢索權(quán)值數(shù)據(jù)的地址;wght是存儲權(quán)值矩陣的存儲器。輸入到sigmoid求值模塊的寄存器初值就是全連接層的某偏置值。

    3.4 sigmoid函數(shù)求值模塊的實現(xiàn)

    常見的sigmoid函數(shù)求值模塊的實現(xiàn)方法有3種:1)查表法,將預(yù)先計算的結(jié)果存儲起來,把輸入數(shù)據(jù)轉(zhuǎn)換為查表地址,查詢結(jié)果;2)直接計算法,使用較為復(fù)雜的邏輯構(gòu)建計算電路;3)分段線性近似法,將函數(shù)曲線分為足夠多段,每一段使用直線段近似代替原圖像。因本文使用的FPGA內(nèi)BRAM有限,本設(shè)計只用于預(yù)測,不需要太高精度,所以使用分段線性近似法進(jìn)行sigmoid求值模塊的實現(xiàn)。另外,該模塊也采用流水線結(jié)構(gòu)設(shè)計。

    圖10 全連接層的流水線示意圖

    3.4.1 sigmoid模塊設(shè)計依據(jù)

    1)本設(shè)計使用的定點數(shù)包含10位二進(jìn)制小數(shù),近似計算結(jié)果誤差不應(yīng)超過0.001;

    3)當(dāng)輸入大于8時,函數(shù)值與1的差值小于0.001。

    線性近似線段參數(shù)的計算:區(qū)間[0, 8]等分為32段,連接函數(shù)圖像在相鄰兩分點的交點,得到線性近似;計算各線段的斜率和截距??梢则炞C,近似計算的誤差不超過0.001。

    3.4.2 模塊計算過程

    1)對輸入取絕對值;

    2)根據(jù)絕對值進(jìn)行近似計算;

    3)根據(jù)原數(shù)據(jù)符號,決定是否使用1減去第2步的結(jié)果;

    4)輸出結(jié)果。

    4 實驗結(jié)果與分析

    4.1 實驗平臺和條件

    本設(shè)計使用MNIST數(shù)據(jù)集作為訓(xùn)練和測試數(shù)據(jù)。PC配置:i5-3570,8GB DDR3-1600 MHz;開發(fā)板上的Soc FPGA芯片是5CSEMA5F31C6,邏輯容量為85 K,并包含一個以cortex-A9雙核CPU為核心的HPS。首先在PC上使用C語言編寫的程序(單精度浮點版本)進(jìn)行網(wǎng)絡(luò)訓(xùn)練(樣本已預(yù)處理),得到參數(shù);然后對參數(shù)定點化處理作為FPGA加速模塊的參數(shù);最后使用相同的測試集進(jìn)行測試,與PC上定點版本的正向預(yù)測過程進(jìn)行對比。CNN加速模塊最終工作頻率為100 MHz。

    樣本數(shù)據(jù)預(yù)處理:原MNIST數(shù)據(jù)集使用uint8存儲數(shù)據(jù);若采用20位定點數(shù),則用原MNIST數(shù)據(jù)集運(yùn)算很可能導(dǎo)致溢出,產(chǎn)生錯誤,因此對樣本進(jìn)行預(yù)處理:設(shè)定閾值,當(dāng)輸入數(shù)據(jù)不超過該閾值,那么保持原值,否則輸出閾值。本設(shè)計使用16作為閾值。

    4.2 實驗結(jié)果

    實驗結(jié)果分2部分:PC上的正向預(yù)測過程錯誤率6.43%,平均每個樣本耗時852 us;FPGA方案錯誤率為6.43%,平均每個樣本總耗時164 us,因此加速效果為5.2倍。

    本設(shè)計消耗的資源統(tǒng)計:

    logic utilization:7%

    DSP blocks:42%

    total block memory bits:69%

    total registers:4765

    4.3 結(jié)果分析及改進(jìn)

    預(yù)測錯誤率6.43%與同類論文對比偏高,這是因為PC上網(wǎng)絡(luò)訓(xùn)練過程中,只對訓(xùn)練集樣本進(jìn)行一次遍歷,與FPGA加速模塊的設(shè)計無關(guān)。另外,第二卷積層的實現(xiàn)中,一個時鐘周期同時計算12個輸出特征圖的元素,每個輸出元素需要計算6對乘法,因此峰值性能能夠得到7.2 GMAC/s(工作頻率100 MHz)。對于本設(shè)計實現(xiàn)的CNN網(wǎng)絡(luò)算法,一個樣本的處理需要約2.06×105次乘累加操作,因此加速模塊的平均性能達(dá)到1.26 GMAC/s。對比文獻(xiàn)[5]中的性能,本文提出的設(shè)計性能更優(yōu)。另外,文獻(xiàn)[5]中使用浮點數(shù)進(jìn)行數(shù)據(jù)處理,以及關(guān)于激活函數(shù)計算使用查表法,都導(dǎo)致較高的BRAM使用率。

    在正向預(yù)測過程中,卷積層用時最長,特別是第一卷積層,因其輸出矩陣尺寸較大且模塊的并行度不高(每個時鐘計算5次乘法)。可以考慮將第一卷積層的輸入數(shù)據(jù)的存儲器從1個擴(kuò)展為5個,那么可以同時從5個存儲器獲取數(shù)據(jù)來源,從而提高模塊并行度;而由此導(dǎo)致BRAM不足的問題,將輸入樣本數(shù)據(jù)進(jìn)行二值化即可。

    5 結(jié)論

    本文提出的基于FPGA的CNN加速器設(shè)計,采用流水線和并行計算的方法,提高了加速器的吞吐率;使用時分復(fù)用的方法以及用定點數(shù)代替浮點數(shù),降低了資源利用率。通過采用MNIST數(shù)據(jù)集進(jìn)行測試,對比PC運(yùn)行的C語言程序,在相同預(yù)測準(zhǔn)確率的情況下,性能是PC實現(xiàn)的5.2倍。

    [1] 畢占甲.基于多GPU的多層神經(jīng)網(wǎng)絡(luò)并行加速訓(xùn)練算法的研究[D].哈爾濱:哈爾濱工業(yè)大學(xué),2015.

    [2] Strigl D, Kofler K, Podlipnig S. Performance and scalability of GPU-based convolutional neural networks[C]. 18th Euromicro Conference on Parallel, Distributed and Network-Based Processing, 2010.

    [3] 劉琦,黃咨,陳璐艷,等.基于GPU的卷積檢測模型加速[J].計算機(jī)應(yīng)用與軟件,2016,33(5):226-230.

    [4] Zhang Chen, Li Peng, Sun Guanyu, et al. Optimizing FPGA-based accelerator design for deep convolutional neural networks[C]. In ACM Int. Symp. On Field Programmable Gate Arrays, 2015:161-170.

    [5] 余子健.基于FPGA的卷積神經(jīng)網(wǎng)絡(luò)加速器[D].杭州:浙江大學(xué),2016.

    [6] Suda N, Chandra V, Dasika G, et al. Throughput-optimized OpenCL-based FPGA accelerator for large-scale convolutional neural networks[C].Proceedings of the 2016 ACM/SIGDA International Symposium on Field-Programmable Gate Arrays. ACM, 2016: 16-25.

    The Realization of the Convolution Neural Network Based on FPGA

    Li Jiahui Cai Shuting Chen Xuesong Xiong Xiaoming

    (School of Automation, Guangdong University of Technology)

    Convolutional Neural Network is a computation intensive algorithm based on deep learning, and it is common used in image classification, video recognition, etc. Due to the powerful parallel capability and flexibility of FPGA, it is frequently used as the platform to implementation of CNN. Meanwhile, the rapidly emerging mobile application of deep learning suggest that it is very significant to implement a CNN on mobile platform. Therefore, a DE1-Soc development board was used to implement a CNN network by Verilog HDL approach, using mnist as samples data. Finally, the implementation is 5.2 times faster than that on PC.

    Convolution Neural Network; FPGA; Performance Acceleration

    李嘉輝,男,1991年生,在讀碩士,主要研究方向:FPGA加速、深度學(xué)習(xí)。

    蔡述庭(通訊作者),男,1979年生,博士,副教授,主要研究方向:FPGA加速、深度學(xué)習(xí)。E-mail:shutingcai@126.com

    陳學(xué)松,男,1978年生,博士,副教授,主要研究方向:強(qiáng)化學(xué)習(xí)、機(jī)器學(xué)習(xí)。

    熊曉明,男,1956年生,博士,教授,主要研究方向:IC設(shè)計、EDA技術(shù)。

    國家自然科學(xué)基金(61201392);廣東省自然科學(xué)基金-自由申請項目(2015A030313497)。

    猜你喜歡
    流水線卷積神經(jīng)網(wǎng)絡(luò)
    Gen Z Migrant Workers Are Leaving the Assembly Line
    基于3D-Winograd的快速卷積算法設(shè)計及FPGA實現(xiàn)
    流水線
    神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    從濾波器理解卷積
    電子制作(2019年11期)2019-07-04 00:34:38
    基于傅里葉域卷積表示的目標(biāo)跟蹤算法
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
    報廢汽車拆解半自動流水線研究
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    基于支持向量機(jī)回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
    激情视频va一区二区三区| 老汉色av国产亚洲站长工具| 黑人操中国人逼视频| 欧美大码av| 操美女的视频在线观看| 国产国语露脸激情在线看| 欧美日本中文国产一区发布| 国产男女内射视频| 日韩大码丰满熟妇| 99re6热这里在线精品视频| 久久久久久人人人人人| 久久午夜综合久久蜜桃| 中文字幕色久视频| 麻豆国产av国片精品| 久久亚洲真实| 老鸭窝网址在线观看| 大陆偷拍与自拍| 亚洲成人国产一区在线观看| 国产精品麻豆人妻色哟哟久久| 日日爽夜夜爽网站| 777米奇影视久久| 99香蕉大伊视频| 夜夜爽天天搞| 精品久久久久久久毛片微露脸| 欧美成人午夜精品| 精品少妇久久久久久888优播| videosex国产| 极品少妇高潮喷水抽搐| 岛国在线观看网站| 久久久久久久久免费视频了| 性少妇av在线| 一边摸一边抽搐一进一小说 | 手机成人av网站| 亚洲国产欧美网| 夫妻午夜视频| 国产欧美日韩一区二区精品| 亚洲av日韩精品久久久久久密| 国产日韩欧美在线精品| 亚洲专区中文字幕在线| 亚洲欧美精品综合一区二区三区| 久久久国产一区二区| 亚洲天堂av无毛| 纵有疾风起免费观看全集完整版| 99精品欧美一区二区三区四区| 国产在线一区二区三区精| 久热爱精品视频在线9| 色综合婷婷激情| 黑人欧美特级aaaaaa片| 亚洲国产欧美在线一区| 精品少妇一区二区三区视频日本电影| 国产国语露脸激情在线看| 国产欧美日韩精品亚洲av| 新久久久久国产一级毛片| 激情在线观看视频在线高清 | 亚洲成国产人片在线观看| 一进一出抽搐动态| 日韩有码中文字幕| 欧美激情 高清一区二区三区| 麻豆乱淫一区二区| 色播在线永久视频| 亚洲 欧美一区二区三区| 国产高清国产精品国产三级| 国产精品亚洲av一区麻豆| 日韩一卡2卡3卡4卡2021年| 制服诱惑二区| 在线观看免费日韩欧美大片| 麻豆av在线久日| 最近最新免费中文字幕在线| 欧美精品人与动牲交sv欧美| 狠狠婷婷综合久久久久久88av| 曰老女人黄片| 国产成人av激情在线播放| 人人妻人人澡人人看| 90打野战视频偷拍视频| 男女午夜视频在线观看| 变态另类成人亚洲欧美熟女 | 桃红色精品国产亚洲av| 亚洲中文av在线| 人妻一区二区av| 日韩欧美三级三区| 精品乱码久久久久久99久播| 人妻 亚洲 视频| 成年动漫av网址| 精品亚洲成a人片在线观看| 一区二区三区激情视频| 色视频在线一区二区三区| 欧美精品一区二区免费开放| 日韩熟女老妇一区二区性免费视频| 精品亚洲乱码少妇综合久久| 亚洲精品成人av观看孕妇| 国产亚洲精品一区二区www | 亚洲伊人久久精品综合| 久久香蕉激情| 免费人妻精品一区二区三区视频| 亚洲九九香蕉| 久久精品91无色码中文字幕| 国产伦人伦偷精品视频| 一本一本久久a久久精品综合妖精| www.自偷自拍.com| 亚洲av成人不卡在线观看播放网| 欧美精品亚洲一区二区| 欧美性长视频在线观看| 亚洲av成人一区二区三| 中文字幕高清在线视频| 啦啦啦在线免费观看视频4| 亚洲情色 制服丝袜| 国产精品 欧美亚洲| 亚洲综合色网址| 中文字幕色久视频| 国产精品亚洲av一区麻豆| 99久久精品国产亚洲精品| 精品一区二区三区四区五区乱码| 天天操日日干夜夜撸| av有码第一页| 久久久水蜜桃国产精品网| 日韩精品免费视频一区二区三区| 午夜免费成人在线视频| 91成人精品电影| 久久国产精品男人的天堂亚洲| 国产野战对白在线观看| 国产一区有黄有色的免费视频| 欧美 日韩 精品 国产| 欧美 亚洲 国产 日韩一| 日韩免费高清中文字幕av| 亚洲国产欧美网| 咕卡用的链子| 两性午夜刺激爽爽歪歪视频在线观看 | 成年动漫av网址| 在线观看一区二区三区激情| 亚洲国产毛片av蜜桃av| 欧美精品高潮呻吟av久久| 欧美在线黄色| 午夜激情久久久久久久| 天堂8中文在线网| 日本撒尿小便嘘嘘汇集6| 性少妇av在线| 嫁个100分男人电影在线观看| a级片在线免费高清观看视频| 国产不卡一卡二| 中文字幕制服av| 97人妻天天添夜夜摸| 亚洲精品在线美女| 麻豆乱淫一区二区| 在线观看www视频免费| 另类精品久久| 久久久久久久大尺度免费视频| 少妇粗大呻吟视频| 亚洲国产欧美日韩在线播放| 99久久人妻综合| 热re99久久精品国产66热6| 少妇粗大呻吟视频| 亚洲,欧美精品.| 精品人妻在线不人妻| 国产不卡一卡二| 国产精品影院久久| 欧美在线黄色| 国产主播在线观看一区二区| 一进一出好大好爽视频| 黄片小视频在线播放| 久久久久精品人妻al黑| 成人免费观看视频高清| 天天添夜夜摸| 国产亚洲精品久久久久5区| 亚洲一码二码三码区别大吗| 最新的欧美精品一区二区| 在线观看免费日韩欧美大片| 久久精品亚洲av国产电影网| 一区二区三区精品91| 欧美人与性动交α欧美精品济南到| 久久人妻福利社区极品人妻图片| 亚洲精品美女久久久久99蜜臀| 日韩三级视频一区二区三区| 亚洲精品美女久久久久99蜜臀| 十八禁网站免费在线| 岛国毛片在线播放| 久久精品人人爽人人爽视色| 亚洲性夜色夜夜综合| 亚洲精品中文字幕一二三四区 | 国产成人啪精品午夜网站| 国产精品一区二区在线不卡| 国产在线精品亚洲第一网站| 日日夜夜操网爽| 五月天丁香电影| 老司机亚洲免费影院| 丝袜美足系列| 国产老妇伦熟女老妇高清| 999久久久精品免费观看国产| 国产精品国产高清国产av | 怎么达到女性高潮| 九色亚洲精品在线播放| 日韩一区二区三区影片| 亚洲 国产 在线| 日韩欧美一区二区三区在线观看 | 操美女的视频在线观看| 亚洲伊人久久精品综合| 操美女的视频在线观看| 国产激情久久老熟女| av又黄又爽大尺度在线免费看| av片东京热男人的天堂| 欧美精品av麻豆av| 中文字幕高清在线视频| 亚洲专区国产一区二区| 亚洲国产欧美日韩在线播放| 国产精品久久久av美女十八| 蜜桃在线观看..| 国产在线视频一区二区| 宅男免费午夜| 欧美精品高潮呻吟av久久| 1024香蕉在线观看| avwww免费| 丁香欧美五月| 欧美变态另类bdsm刘玥| 啦啦啦免费观看视频1| 亚洲欧美色中文字幕在线| 丝袜喷水一区| 18禁观看日本| 黑人巨大精品欧美一区二区蜜桃| 欧美+亚洲+日韩+国产| 精品亚洲乱码少妇综合久久| h视频一区二区三区| 午夜福利免费观看在线| 一级片免费观看大全| 久久这里只有精品19| 久久国产精品人妻蜜桃| 久久精品亚洲精品国产色婷小说| 一级黄色大片毛片| 一进一出好大好爽视频| 久久久久久久精品吃奶| 国产精品av久久久久免费| 十分钟在线观看高清视频www| 在线天堂中文资源库| 欧美激情高清一区二区三区| 欧美日韩成人在线一区二区| 99久久精品国产亚洲精品| 正在播放国产对白刺激| 热re99久久国产66热| 国产精品免费视频内射| 国产亚洲精品第一综合不卡| 欧美黄色片欧美黄色片| 露出奶头的视频| 青草久久国产| 亚洲免费av在线视频| 亚洲欧美日韩高清在线视频 | 国产在线观看jvid| 少妇被粗大的猛进出69影院| 亚洲av电影在线进入| 亚洲av国产av综合av卡| 无人区码免费观看不卡 | 纯流量卡能插随身wifi吗| 啦啦啦免费观看视频1| 1024香蕉在线观看| 国产精品.久久久| 久久亚洲真实| 久9热在线精品视频| 欧美另类亚洲清纯唯美| 真人做人爱边吃奶动态| 黑人巨大精品欧美一区二区mp4| 久久久精品区二区三区| 美女视频免费永久观看网站| 久久精品国产a三级三级三级| 中文亚洲av片在线观看爽 | av电影中文网址| 日韩免费av在线播放| 欧美激情 高清一区二区三区| 99精国产麻豆久久婷婷| 国产熟女午夜一区二区三区| 色综合欧美亚洲国产小说| 搡老乐熟女国产| 亚洲专区字幕在线| 中文字幕制服av| 国产91精品成人一区二区三区 | 久久ye,这里只有精品| 美女福利国产在线| 丰满饥渴人妻一区二区三| 久热这里只有精品99| 免费观看av网站的网址| bbb黄色大片| 久久人人爽av亚洲精品天堂| 激情在线观看视频在线高清 | 亚洲欧美激情在线| 巨乳人妻的诱惑在线观看| 大陆偷拍与自拍| 亚洲av国产av综合av卡| 后天国语完整版免费观看| 十分钟在线观看高清视频www| 极品人妻少妇av视频| 欧美国产精品一级二级三级| 国精品久久久久久国模美| 午夜福利影视在线免费观看| 国产无遮挡羞羞视频在线观看| 蜜桃国产av成人99| 国产伦理片在线播放av一区| 香蕉国产在线看| 精品国内亚洲2022精品成人 | 免费观看a级毛片全部| 成人影院久久| 成年版毛片免费区| 日韩成人在线观看一区二区三区| 国产欧美日韩精品亚洲av| 在线观看免费日韩欧美大片| 丰满人妻熟妇乱又伦精品不卡| 一本久久精品| av天堂在线播放| 五月开心婷婷网| 中文字幕人妻熟女乱码| 色综合婷婷激情| 免费看a级黄色片| 黄频高清免费视频| 亚洲精品国产一区二区精华液| 国产av国产精品国产| 老司机在亚洲福利影院| 老熟女久久久| 视频区欧美日本亚洲| 日本av免费视频播放| 欧美大码av| 又紧又爽又黄一区二区| 精品一区二区三卡| 肉色欧美久久久久久久蜜桃| aaaaa片日本免费| 91精品国产国语对白视频| 老司机靠b影院| 天堂动漫精品| 大香蕉久久成人网| 91大片在线观看| 久久国产精品影院| 久久狼人影院| 最近最新免费中文字幕在线| 国产精品亚洲av一区麻豆| 午夜91福利影院| 男人舔女人的私密视频| 在线天堂中文资源库| 69精品国产乱码久久久| 精品第一国产精品| 麻豆乱淫一区二区| 在线观看免费视频网站a站| 亚洲一码二码三码区别大吗| 十分钟在线观看高清视频www| 人人澡人人妻人| 亚洲中文字幕日韩| 他把我摸到了高潮在线观看 | 欧美日韩国产mv在线观看视频| 美女国产高潮福利片在线看| 日韩 欧美 亚洲 中文字幕| 黑丝袜美女国产一区| 国产欧美日韩一区二区精品| 色视频在线一区二区三区| 成人特级黄色片久久久久久久 | 女人久久www免费人成看片| 一进一出抽搐动态| 亚洲国产欧美网| 国产亚洲精品第一综合不卡| 91av网站免费观看| 欧美另类亚洲清纯唯美| 黑人巨大精品欧美一区二区mp4| 丁香六月天网| 香蕉丝袜av| av又黄又爽大尺度在线免费看| 亚洲精品久久午夜乱码| 变态另类成人亚洲欧美熟女 | 纯流量卡能插随身wifi吗| 国产三级黄色录像| 久久这里只有精品19| 无限看片的www在线观看| 欧美av亚洲av综合av国产av| 国产福利在线免费观看视频| 欧美另类亚洲清纯唯美| 久久国产精品影院| 久久中文看片网| 一区在线观看完整版| 国产免费视频播放在线视频| 国产日韩欧美在线精品| 宅男免费午夜| a在线观看视频网站| 成人三级做爰电影| 窝窝影院91人妻| 悠悠久久av| 18禁国产床啪视频网站| 91国产中文字幕| 多毛熟女@视频| 自线自在国产av| 欧美黄色片欧美黄色片| 亚洲色图 男人天堂 中文字幕| 两人在一起打扑克的视频| 日日摸夜夜添夜夜添小说| 亚洲精品在线观看二区| 免费女性裸体啪啪无遮挡网站| 日本一区二区免费在线视频| 国产成人免费无遮挡视频| 99久久人妻综合| 在线看a的网站| 久久国产精品人妻蜜桃| 女人被躁到高潮嗷嗷叫费观| 黑丝袜美女国产一区| 精品午夜福利视频在线观看一区 | 欧美精品亚洲一区二区| 国产亚洲欧美在线一区二区| 美女扒开内裤让男人捅视频| 99国产精品一区二区三区| av天堂在线播放| 肉色欧美久久久久久久蜜桃| 桃花免费在线播放| 亚洲自偷自拍图片 自拍| 中文亚洲av片在线观看爽 | 亚洲 国产 在线| 黑丝袜美女国产一区| e午夜精品久久久久久久| 美女国产高潮福利片在线看| 一进一出好大好爽视频| 成人手机av| 国产亚洲精品一区二区www | 国产成人欧美| 色94色欧美一区二区| 狂野欧美激情性xxxx| 一级a爱视频在线免费观看| 老汉色av国产亚洲站长工具| 一区二区av电影网| 老司机深夜福利视频在线观看| 国产不卡一卡二| 最新的欧美精品一区二区| 亚洲色图综合在线观看| www.自偷自拍.com| 国产成人精品久久二区二区91| 亚洲国产中文字幕在线视频| 精品一区二区三区视频在线观看免费 | 在线亚洲精品国产二区图片欧美| 国产午夜精品久久久久久| 女人精品久久久久毛片| 一级a爱视频在线免费观看| 亚洲成av片中文字幕在线观看| 久久精品亚洲av国产电影网| xxxhd国产人妻xxx| 免费看a级黄色片| av网站免费在线观看视频| 黄色丝袜av网址大全| 纯流量卡能插随身wifi吗| 男女之事视频高清在线观看| av一本久久久久| 在线亚洲精品国产二区图片欧美| 99在线人妻在线中文字幕 | 制服诱惑二区| 精品高清国产在线一区| 啦啦啦免费观看视频1| 亚洲av国产av综合av卡| 多毛熟女@视频| 成年女人毛片免费观看观看9 | 成年人黄色毛片网站| bbb黄色大片| netflix在线观看网站| 他把我摸到了高潮在线观看 | 精品高清国产在线一区| 亚洲国产毛片av蜜桃av| 成人手机av| 中文字幕精品免费在线观看视频| 极品少妇高潮喷水抽搐| 日韩有码中文字幕| 一本久久精品| 精品一区二区三卡| 欧美黄色淫秽网站| 曰老女人黄片| 亚洲成人国产一区在线观看| 国产精品亚洲av一区麻豆| a级毛片黄视频| 日本黄色日本黄色录像| 亚洲免费av在线视频| 久久精品亚洲精品国产色婷小说| 久久天堂一区二区三区四区| 日本av免费视频播放| netflix在线观看网站| 成年动漫av网址| 超色免费av| 色老头精品视频在线观看| 国产在线视频一区二区| 欧美另类亚洲清纯唯美| 在线亚洲精品国产二区图片欧美| 天天添夜夜摸| 91老司机精品| 国产精品香港三级国产av潘金莲| 男人操女人黄网站| 下体分泌物呈黄色| 大香蕉久久网| av一本久久久久| 免费黄频网站在线观看国产| 一边摸一边抽搐一进一小说 | 可以免费在线观看a视频的电影网站| 亚洲三区欧美一区| 欧美激情高清一区二区三区| xxxhd国产人妻xxx| 午夜激情av网站| 国产精品久久久av美女十八| 久久精品91无色码中文字幕| 国产成人免费无遮挡视频| 亚洲成人免费av在线播放| 成人黄色视频免费在线看| www日本在线高清视频| 亚洲精品国产精品久久久不卡| 18禁裸乳无遮挡动漫免费视频| 亚洲色图av天堂| 天天添夜夜摸| 日本av手机在线免费观看| 久久亚洲精品不卡| e午夜精品久久久久久久| 不卡一级毛片| 男女免费视频国产| 中文字幕av电影在线播放| 国产主播在线观看一区二区| 操出白浆在线播放| www.自偷自拍.com| aaaaa片日本免费| videos熟女内射| 热99re8久久精品国产| 美女视频免费永久观看网站| 久久久久久久久久久久大奶| 久久青草综合色| 两个人免费观看高清视频| 麻豆国产av国片精品| 一二三四在线观看免费中文在| 中文字幕人妻丝袜一区二区| 国产激情久久老熟女| 国产亚洲精品第一综合不卡| 一区在线观看完整版| 亚洲欧美精品综合一区二区三区| 一个人免费在线观看的高清视频| 亚洲欧洲日产国产| 午夜免费成人在线视频| 亚洲人成电影观看| 手机成人av网站| 90打野战视频偷拍视频| 成人18禁在线播放| 在线观看一区二区三区激情| 免费在线观看黄色视频的| 亚洲精品成人av观看孕妇| 日本a在线网址| 精品高清国产在线一区| 人人妻人人爽人人添夜夜欢视频| 免费观看a级毛片全部| 少妇 在线观看| 日本a在线网址| 我要看黄色一级片免费的| 成在线人永久免费视频| 精品少妇内射三级| 亚洲熟妇熟女久久| 黑人欧美特级aaaaaa片| 午夜福利一区二区在线看| av又黄又爽大尺度在线免费看| 免费在线观看视频国产中文字幕亚洲| 亚洲成av片中文字幕在线观看| av网站在线播放免费| 波多野结衣av一区二区av| 欧美日韩一级在线毛片| 美女视频免费永久观看网站| 香蕉国产在线看| 成人特级黄色片久久久久久久 | 性色av乱码一区二区三区2| 亚洲中文日韩欧美视频| 免费在线观看完整版高清| 欧美另类亚洲清纯唯美| 国产精品麻豆人妻色哟哟久久| 亚洲国产毛片av蜜桃av| e午夜精品久久久久久久| 18禁观看日本| 免费观看a级毛片全部| 免费在线观看影片大全网站| 亚洲天堂av无毛| 老熟妇仑乱视频hdxx| 如日韩欧美国产精品一区二区三区| 欧美成人免费av一区二区三区 | 中文字幕人妻熟女乱码| 日韩中文字幕欧美一区二区| 久久人妻福利社区极品人妻图片| 日日爽夜夜爽网站| 国产在线免费精品| 久久国产精品人妻蜜桃| 亚洲,欧美精品.| 久久热在线av| 国产欧美日韩一区二区三| www.熟女人妻精品国产| 国产av一区二区精品久久| 免费av中文字幕在线| 天天影视国产精品| 婷婷丁香在线五月| 欧美在线黄色| 亚洲综合色网址| 日韩视频在线欧美| 两人在一起打扑克的视频| av天堂在线播放| 精品一区二区三区四区五区乱码| 99久久99久久久精品蜜桃| 亚洲av美国av| 在线播放国产精品三级| 久久天堂一区二区三区四区| 国产精品欧美亚洲77777| 国产一区有黄有色的免费视频| 久久99一区二区三区| 午夜福利影视在线免费观看| 亚洲熟妇熟女久久| 精品一区二区三区av网在线观看 | 欧美黑人精品巨大| 国产一区二区 视频在线| 午夜福利一区二区在线看| 成人三级做爰电影| 久久精品国产亚洲av香蕉五月 | 久久精品成人免费网站| 欧美精品亚洲一区二区| 天堂动漫精品| 欧美大码av| 国产伦理片在线播放av一区| 我的亚洲天堂| 亚洲熟妇熟女久久| 久久青草综合色| 久久久国产精品麻豆| 咕卡用的链子| 精品免费久久久久久久清纯 | 人人妻人人添人人爽欧美一区卜| 一区二区日韩欧美中文字幕| 欧美大码av|