• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于FPGA的卷積神經(jīng)網(wǎng)絡(luò)的實現(xiàn)*

    2018-04-18 07:00:26李嘉輝蔡述庭陳學(xué)松熊曉明
    自動化與信息工程 2018年1期
    關(guān)鍵詞:流水線卷積神經(jīng)網(wǎng)絡(luò)

    李嘉輝 蔡述庭 陳學(xué)松 熊曉明

    ?

    基于FPGA的卷積神經(jīng)網(wǎng)絡(luò)的實現(xiàn)*

    李嘉輝 蔡述庭 陳學(xué)松 熊曉明

    (廣東工業(yè)大學(xué)自動化學(xué)院)

    現(xiàn)有基于CPU或GPU的卷積神經(jīng)網(wǎng)絡(luò)實現(xiàn)方案,無法兼顧實時性、功耗以及便攜性的要求?;贔PGA強(qiáng)大的并行處理能力和超低功耗,在DE1-Soc開發(fā)板上采用Verilog HDL實現(xiàn)了使用MNIST數(shù)據(jù)集的阿拉伯?dāng)?shù)字手寫體識別卷積神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)的每一層采用流水線和時分復(fù)用方法;單個時鐘周期能完成72次乘累加操作,在100 MHz的工作頻率下,加速器峰值運(yùn)算速度可達(dá)7.2 GMAC/s。與PC上運(yùn)行的定點數(shù)版本的C語言程序相比,在相同錯誤率6.43%的情況下,速度是其5.2倍。

    卷積神經(jīng)網(wǎng)絡(luò);FPGA;性能加速

    0 引言

    目前卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)的實現(xiàn)方案有基于CPU、GPU和FPGA三大類。因CPU的結(jié)構(gòu)特點以及通用計算機(jī)的架構(gòu)限制,導(dǎo)致基于CPU的方案功耗、便攜性和實時性不可兼得。雖然GPU具有強(qiáng)大的浮點運(yùn)算和并行處理能力,但基于GPU的方案,存在功耗過高,移動性能也不足的弱點[1-3]。因此,基于CPU或者GPU的實現(xiàn)方案在追求移動性能的場景下均不可取。FPGA具有強(qiáng)大的并行處理能力、靈活的可配置特性和超低功耗,可以考慮作為CNN的實現(xiàn)平臺。

    目前,F(xiàn)PGA開發(fā)有2種途徑:一種是基于HDL的傳統(tǒng)途徑;另一種是使用高層次綜合工具,如OpenCL或者Xilinx的HLS[4],雖能加快FPGA開發(fā)流程,但資源消耗大、性能低,且開發(fā)人員不能對生成的電路進(jìn)行精準(zhǔn)干預(yù)。因此本文使用Verilog HDL語言,在DE1-Soc平臺下實現(xiàn)一個識別阿拉伯?dāng)?shù)字手寫體的CNN網(wǎng)絡(luò)。

    1 網(wǎng)絡(luò)結(jié)構(gòu)

    本文實現(xiàn)的CNN網(wǎng)絡(luò)整體結(jié)構(gòu)如圖1所示。其中卷積層C1和C3的卷積核都是5×5的矩陣組;下采樣層S4和輸出層之間的192×1矩陣,由下采樣層的12個4×4矩陣直接展開得到,再經(jīng)過全連接層計算得到輸出層。

    圖1 CNN網(wǎng)絡(luò)結(jié)構(gòu)示意圖

    2 CNN加速模塊的總體架構(gòu)

    2.1 總體架構(gòu)

    CNN加速系統(tǒng)分為2部分:一部分是在開發(fā)板上以Cortex-A9為中心的HPS,主要將樣本數(shù)據(jù)讀取并加載到DDR3 SDRAM的特定地址,然后告知CNN加速模塊數(shù)據(jù)已經(jīng)準(zhǔn)備完畢;另一部分是FPGA內(nèi)部實現(xiàn)的CNN加速模塊,實現(xiàn)一個使用AXI-HP接口的AXI4總線主機(jī),從DDR3 SDRAM中讀取樣本,計算并將結(jié)果寫回DDR3 SDRAM,再通過中斷通知HPS。另外,HPS通過AXI4-lite設(shè)置加速模塊的參數(shù),如數(shù)據(jù)存儲地址。加速系統(tǒng)整體架構(gòu)和CNN加速模塊結(jié)構(gòu)圖如圖2、圖3所示。

    2.2 CNN實現(xiàn)方案特點

    本文CNN實現(xiàn)方案具有以下特點:

    1)通過時分復(fù)用降低對FPGA上DSP等資源的需求;

    2)具體到某一層的實現(xiàn),采用流水線增加數(shù)據(jù)吞吐率;

    3)使用定點數(shù)代替浮點數(shù),進(jìn)一步降低對BRAM和DSP的資源消耗;

    4)對MNIST樣本預(yù)處理,避免因數(shù)據(jù)位數(shù)有限導(dǎo)致溢出。

    圖2 加速系統(tǒng)整體架構(gòu)

    圖3 CNN加速模塊結(jié)構(gòu)圖

    3 CNN各層的實現(xiàn)

    3.1 卷積層的實現(xiàn)

    以第一卷積層為例闡述卷積層的實現(xiàn)方法。第一卷積層的運(yùn)算過程如圖4所示,6個卷積核矩陣分別在輸入矩陣進(jìn)行平移,兩者重疊部分相乘求和得到輸出矩陣中的一個元素。輸入輸出矩陣和卷積核的數(shù)據(jù)在存儲器中的組織情況如圖5所示。每次對kernels的讀操作,能夠讀取6個數(shù)據(jù),故可同時計算6個輸出元素。為提高模塊處理能力,采取流水線結(jié)構(gòu),如圖6所示,其中表示當(dāng)前樣本在一批樣本中的序號;和表示輸出元素的坐標(biāo);和表示卷積核與輸入矩陣重疊部分中當(dāng)前處理的元素的坐標(biāo)(相對于重疊部分)。上述變量用于多層循環(huán)的遍歷,并用于產(chǎn)生輸入地址(i_addr,k_addr)和輸出地址(o_addr)。i_addr和k_addr分別用于檢索輸入和卷積核數(shù)據(jù)。檢索得到的數(shù)據(jù)相乘,各自進(jìn)行累加求和,再由模塊外部的sigmoid函數(shù)求值模塊得到輸出元素,寫入到o_addr指定地址中(圖6中,輸出地址傳輸路徑上省略了若干寄存器)。另外,圖6中存儲累加器輸出結(jié)果的寄存器初值是偏置值;粗線表示其上同時傳輸多個數(shù)據(jù)。

    圖4 第一卷積層運(yùn)算過程示意圖

    圖5 第一卷積層的數(shù)據(jù)存儲方式

    圖6 第一卷積層的流水線示意圖

    3.2 下采樣層的實現(xiàn)

    以第一下采樣層為例闡述下采樣層的實現(xiàn)方法。第一下采樣層的計算過程如圖7所示,一個樣本有6個24階輸入方陣,以二階方陣作為單元對輸入矩陣分塊并計算各方陣元素平均值,作為其輸出元素。

    下采樣層的輸入輸出數(shù)據(jù)存儲排列方式,也是將矩陣按行展開為一維數(shù)組;存儲器中某地址對應(yīng)的字存儲同一樣本的多個矩陣相同坐標(biāo)的元素,從而一次訪問可同時計算多個輸出矩陣的元素(稱為一組輸出元素)。另外,使用雙端口ram存儲輸入輸出元素,從而只需要2個時鐘周期就能計算一組輸出元素。下采樣層也采取流水線的結(jié)構(gòu)實現(xiàn),如圖8所示,其中表示當(dāng)前樣本在一批樣本中的序號;和表示當(dāng)前輸出元素在輸出矩陣中的行列坐標(biāo);使用雙端口ram存儲輸入數(shù)據(jù),故各輸出元素的計算只需讀2次輸入數(shù)據(jù)存儲器input,這2次讀取標(biāo)記為變量。2次讀取的4個數(shù)據(jù)求和之后,舍棄結(jié)果最后2位,得到平均數(shù)存入寄存器。i_addr,o_addr和圖中粗線與前文意義相同。另外,圖8中輸出地址傳輸路徑省略了若干寄存器。

    圖7 第一下采樣層的計算過程示意圖

    圖8 第一下采樣層的流水線示意圖

    3.3 全連接層的實現(xiàn)

    全連接層的輸入是12個4階方陣,一個樣本輸入,最終輸出10個數(shù)值結(jié)果。權(quán)值矩陣可看做是10組4階方陣,每組12個方陣。10組權(quán)值矩陣均與輸入的同型矩陣組按元素相乘求和。單個樣本在該層的輸入數(shù)據(jù)的存儲排列情況,可以看做是字?jǐn)?shù)為16、位寬為12個數(shù)據(jù)項的一段存儲空間;共10組權(quán)值矩陣中的每一組也可以看成是相同大小的一段存儲空間。整個權(quán)值矩陣可以存儲在一個字?jǐn)?shù)為160、位寬為12個數(shù)據(jù)項的存儲器中。每組權(quán)值矩陣和單個樣本輸入數(shù)據(jù)存儲情況如圖9所示。

    圖9 全連接層數(shù)據(jù)的存儲示意圖

    全連接層的實現(xiàn)也通過并行化和流水線提高數(shù)據(jù)吞吐率,輸入數(shù)據(jù)和權(quán)值矩陣的存儲也用雙端口ram。其流水線示意圖如圖10所示,其中表示當(dāng)前樣本在一批樣本中的序號;和表示當(dāng)前處理的元素在4階方陣中的坐標(biāo);表示當(dāng)前使用哪組權(quán)值矩陣與輸入數(shù)據(jù)相乘。圖10中,w_addr表示用于檢索權(quán)值數(shù)據(jù)的地址;wght是存儲權(quán)值矩陣的存儲器。輸入到sigmoid求值模塊的寄存器初值就是全連接層的某偏置值。

    3.4 sigmoid函數(shù)求值模塊的實現(xiàn)

    常見的sigmoid函數(shù)求值模塊的實現(xiàn)方法有3種:1)查表法,將預(yù)先計算的結(jié)果存儲起來,把輸入數(shù)據(jù)轉(zhuǎn)換為查表地址,查詢結(jié)果;2)直接計算法,使用較為復(fù)雜的邏輯構(gòu)建計算電路;3)分段線性近似法,將函數(shù)曲線分為足夠多段,每一段使用直線段近似代替原圖像。因本文使用的FPGA內(nèi)BRAM有限,本設(shè)計只用于預(yù)測,不需要太高精度,所以使用分段線性近似法進(jìn)行sigmoid求值模塊的實現(xiàn)。另外,該模塊也采用流水線結(jié)構(gòu)設(shè)計。

    圖10 全連接層的流水線示意圖

    3.4.1 sigmoid模塊設(shè)計依據(jù)

    1)本設(shè)計使用的定點數(shù)包含10位二進(jìn)制小數(shù),近似計算結(jié)果誤差不應(yīng)超過0.001;

    3)當(dāng)輸入大于8時,函數(shù)值與1的差值小于0.001。

    線性近似線段參數(shù)的計算:區(qū)間[0, 8]等分為32段,連接函數(shù)圖像在相鄰兩分點的交點,得到線性近似;計算各線段的斜率和截距??梢则炞C,近似計算的誤差不超過0.001。

    3.4.2 模塊計算過程

    1)對輸入取絕對值;

    2)根據(jù)絕對值進(jìn)行近似計算;

    3)根據(jù)原數(shù)據(jù)符號,決定是否使用1減去第2步的結(jié)果;

    4)輸出結(jié)果。

    4 實驗結(jié)果與分析

    4.1 實驗平臺和條件

    本設(shè)計使用MNIST數(shù)據(jù)集作為訓(xùn)練和測試數(shù)據(jù)。PC配置:i5-3570,8GB DDR3-1600 MHz;開發(fā)板上的Soc FPGA芯片是5CSEMA5F31C6,邏輯容量為85 K,并包含一個以cortex-A9雙核CPU為核心的HPS。首先在PC上使用C語言編寫的程序(單精度浮點版本)進(jìn)行網(wǎng)絡(luò)訓(xùn)練(樣本已預(yù)處理),得到參數(shù);然后對參數(shù)定點化處理作為FPGA加速模塊的參數(shù);最后使用相同的測試集進(jìn)行測試,與PC上定點版本的正向預(yù)測過程進(jìn)行對比。CNN加速模塊最終工作頻率為100 MHz。

    樣本數(shù)據(jù)預(yù)處理:原MNIST數(shù)據(jù)集使用uint8存儲數(shù)據(jù);若采用20位定點數(shù),則用原MNIST數(shù)據(jù)集運(yùn)算很可能導(dǎo)致溢出,產(chǎn)生錯誤,因此對樣本進(jìn)行預(yù)處理:設(shè)定閾值,當(dāng)輸入數(shù)據(jù)不超過該閾值,那么保持原值,否則輸出閾值。本設(shè)計使用16作為閾值。

    4.2 實驗結(jié)果

    實驗結(jié)果分2部分:PC上的正向預(yù)測過程錯誤率6.43%,平均每個樣本耗時852 us;FPGA方案錯誤率為6.43%,平均每個樣本總耗時164 us,因此加速效果為5.2倍。

    本設(shè)計消耗的資源統(tǒng)計:

    logic utilization:7%

    DSP blocks:42%

    total block memory bits:69%

    total registers:4765

    4.3 結(jié)果分析及改進(jìn)

    預(yù)測錯誤率6.43%與同類論文對比偏高,這是因為PC上網(wǎng)絡(luò)訓(xùn)練過程中,只對訓(xùn)練集樣本進(jìn)行一次遍歷,與FPGA加速模塊的設(shè)計無關(guān)。另外,第二卷積層的實現(xiàn)中,一個時鐘周期同時計算12個輸出特征圖的元素,每個輸出元素需要計算6對乘法,因此峰值性能能夠得到7.2 GMAC/s(工作頻率100 MHz)。對于本設(shè)計實現(xiàn)的CNN網(wǎng)絡(luò)算法,一個樣本的處理需要約2.06×105次乘累加操作,因此加速模塊的平均性能達(dá)到1.26 GMAC/s。對比文獻(xiàn)[5]中的性能,本文提出的設(shè)計性能更優(yōu)。另外,文獻(xiàn)[5]中使用浮點數(shù)進(jìn)行數(shù)據(jù)處理,以及關(guān)于激活函數(shù)計算使用查表法,都導(dǎo)致較高的BRAM使用率。

    在正向預(yù)測過程中,卷積層用時最長,特別是第一卷積層,因其輸出矩陣尺寸較大且模塊的并行度不高(每個時鐘計算5次乘法)。可以考慮將第一卷積層的輸入數(shù)據(jù)的存儲器從1個擴(kuò)展為5個,那么可以同時從5個存儲器獲取數(shù)據(jù)來源,從而提高模塊并行度;而由此導(dǎo)致BRAM不足的問題,將輸入樣本數(shù)據(jù)進(jìn)行二值化即可。

    5 結(jié)論

    本文提出的基于FPGA的CNN加速器設(shè)計,采用流水線和并行計算的方法,提高了加速器的吞吐率;使用時分復(fù)用的方法以及用定點數(shù)代替浮點數(shù),降低了資源利用率。通過采用MNIST數(shù)據(jù)集進(jìn)行測試,對比PC運(yùn)行的C語言程序,在相同預(yù)測準(zhǔn)確率的情況下,性能是PC實現(xiàn)的5.2倍。

    [1] 畢占甲.基于多GPU的多層神經(jīng)網(wǎng)絡(luò)并行加速訓(xùn)練算法的研究[D].哈爾濱:哈爾濱工業(yè)大學(xué),2015.

    [2] Strigl D, Kofler K, Podlipnig S. Performance and scalability of GPU-based convolutional neural networks[C]. 18th Euromicro Conference on Parallel, Distributed and Network-Based Processing, 2010.

    [3] 劉琦,黃咨,陳璐艷,等.基于GPU的卷積檢測模型加速[J].計算機(jī)應(yīng)用與軟件,2016,33(5):226-230.

    [4] Zhang Chen, Li Peng, Sun Guanyu, et al. Optimizing FPGA-based accelerator design for deep convolutional neural networks[C]. In ACM Int. Symp. On Field Programmable Gate Arrays, 2015:161-170.

    [5] 余子健.基于FPGA的卷積神經(jīng)網(wǎng)絡(luò)加速器[D].杭州:浙江大學(xué),2016.

    [6] Suda N, Chandra V, Dasika G, et al. Throughput-optimized OpenCL-based FPGA accelerator for large-scale convolutional neural networks[C].Proceedings of the 2016 ACM/SIGDA International Symposium on Field-Programmable Gate Arrays. ACM, 2016: 16-25.

    The Realization of the Convolution Neural Network Based on FPGA

    Li Jiahui Cai Shuting Chen Xuesong Xiong Xiaoming

    (School of Automation, Guangdong University of Technology)

    Convolutional Neural Network is a computation intensive algorithm based on deep learning, and it is common used in image classification, video recognition, etc. Due to the powerful parallel capability and flexibility of FPGA, it is frequently used as the platform to implementation of CNN. Meanwhile, the rapidly emerging mobile application of deep learning suggest that it is very significant to implement a CNN on mobile platform. Therefore, a DE1-Soc development board was used to implement a CNN network by Verilog HDL approach, using mnist as samples data. Finally, the implementation is 5.2 times faster than that on PC.

    Convolution Neural Network; FPGA; Performance Acceleration

    李嘉輝,男,1991年生,在讀碩士,主要研究方向:FPGA加速、深度學(xué)習(xí)。

    蔡述庭(通訊作者),男,1979年生,博士,副教授,主要研究方向:FPGA加速、深度學(xué)習(xí)。E-mail:shutingcai@126.com

    陳學(xué)松,男,1978年生,博士,副教授,主要研究方向:強(qiáng)化學(xué)習(xí)、機(jī)器學(xué)習(xí)。

    熊曉明,男,1956年生,博士,教授,主要研究方向:IC設(shè)計、EDA技術(shù)。

    國家自然科學(xué)基金(61201392);廣東省自然科學(xué)基金-自由申請項目(2015A030313497)。

    猜你喜歡
    流水線卷積神經(jīng)網(wǎng)絡(luò)
    Gen Z Migrant Workers Are Leaving the Assembly Line
    基于3D-Winograd的快速卷積算法設(shè)計及FPGA實現(xiàn)
    流水線
    神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    從濾波器理解卷積
    電子制作(2019年11期)2019-07-04 00:34:38
    基于傅里葉域卷積表示的目標(biāo)跟蹤算法
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
    報廢汽車拆解半自動流水線研究
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    基于支持向量機(jī)回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
    直男gayav资源| 欧美性猛交╳xxx乱大交人| 亚洲成人精品中文字幕电影| 汤姆久久久久久久影院中文字幕 | 国产精品美女特级片免费视频播放器| 午夜老司机福利剧场| 国产精品久久视频播放| 日本爱情动作片www.在线观看| 久久久久久国产a免费观看| 九色成人免费人妻av| 日本猛色少妇xxxxx猛交久久| 欧美一区二区国产精品久久精品| 国产一区二区亚洲精品在线观看| 丰满乱子伦码专区| 一级二级三级毛片免费看| 国产高清国产精品国产三级 | 九九久久精品国产亚洲av麻豆| 国内揄拍国产精品人妻在线| 婷婷色麻豆天堂久久 | 国产人妻一区二区三区在| 99热6这里只有精品| 麻豆成人午夜福利视频| 亚洲成人久久爱视频| 最近的中文字幕免费完整| 久久精品国产99精品国产亚洲性色| 晚上一个人看的免费电影| 欧美极品一区二区三区四区| 亚洲av电影不卡..在线观看| 别揉我奶头 嗯啊视频| 乱码一卡2卡4卡精品| 天堂网av新在线| 国产色婷婷99| 国产精品不卡视频一区二区| 精品少妇黑人巨大在线播放 | 听说在线观看完整版免费高清| 少妇裸体淫交视频免费看高清| 超碰av人人做人人爽久久| 亚洲av熟女| 亚洲国产精品成人综合色| 国产精品久久视频播放| 中文乱码字字幕精品一区二区三区 | 精品不卡国产一区二区三区| 99视频精品全部免费 在线| 亚洲中文字幕一区二区三区有码在线看| 久久久久久九九精品二区国产| 欧美日本亚洲视频在线播放| 日本与韩国留学比较| 日韩精品青青久久久久久| 亚洲乱码一区二区免费版| 成人国产麻豆网| 国产私拍福利视频在线观看| 国产成人精品婷婷| 一级毛片电影观看 | 国产精品熟女久久久久浪| 最近的中文字幕免费完整| 亚洲欧美精品综合久久99| 国产精品蜜桃在线观看| 国产av一区在线观看免费| 亚洲人成网站高清观看| 人人妻人人看人人澡| 日韩成人伦理影院| 久久亚洲国产成人精品v| 观看免费一级毛片| 亚洲成av人片在线播放无| 欧美+日韩+精品| 女人久久www免费人成看片 | 18禁裸乳无遮挡免费网站照片| 午夜爱爱视频在线播放| 中文字幕亚洲精品专区| 国产日韩欧美在线精品| 中国美白少妇内射xxxbb| 精品酒店卫生间| 成人毛片60女人毛片免费| 日韩av不卡免费在线播放| 午夜日本视频在线| 五月伊人婷婷丁香| www.色视频.com| 丰满人妻一区二区三区视频av| 淫秽高清视频在线观看| 99久久无色码亚洲精品果冻| 毛片女人毛片| 日本黄色片子视频| 直男gayav资源| 国产伦精品一区二区三区四那| 大香蕉久久网| 午夜福利网站1000一区二区三区| 自拍偷自拍亚洲精品老妇| 男女下面进入的视频免费午夜| 亚洲精品色激情综合| 丰满乱子伦码专区| 卡戴珊不雅视频在线播放| 好男人在线观看高清免费视频| 国产视频内射| 国产成人精品一,二区| 欧美+日韩+精品| 国产免费福利视频在线观看| 亚洲精品自拍成人| 看非洲黑人一级黄片| 亚洲熟妇中文字幕五十中出| 一二三四中文在线观看免费高清| 国产精品嫩草影院av在线观看| 99久国产av精品| 国产在线男女| 一级黄色大片毛片| 日日啪夜夜撸| 亚洲成人中文字幕在线播放| 国产精品国产三级国产av玫瑰| 青春草亚洲视频在线观看| 能在线免费看毛片的网站| 中文字幕精品亚洲无线码一区| 精品久久久久久成人av| av专区在线播放| 成年版毛片免费区| 久久热精品热| 成人国产麻豆网| 国产视频首页在线观看| 一区二区三区免费毛片| 51国产日韩欧美| 内地一区二区视频在线| av在线亚洲专区| 波多野结衣巨乳人妻| .国产精品久久| 91午夜精品亚洲一区二区三区| 国产精品国产三级国产av玫瑰| 天美传媒精品一区二区| 人妻少妇偷人精品九色| 久久精品国产鲁丝片午夜精品| 精品久久久久久久人妻蜜臀av| 美女脱内裤让男人舔精品视频| 欧美日本亚洲视频在线播放| 在线免费观看的www视频| 少妇的逼好多水| av在线播放精品| 亚洲欧美中文字幕日韩二区| 欧美成人午夜免费资源| 97超碰精品成人国产| 熟女电影av网| 欧美日韩精品成人综合77777| 有码 亚洲区| 丝袜美腿在线中文| 亚洲人与动物交配视频| 亚洲欧美精品综合久久99| 欧美潮喷喷水| 国产精品一区二区三区四区免费观看| 亚洲av中文av极速乱| 看非洲黑人一级黄片| 男女国产视频网站| 99国产精品一区二区蜜桃av| 春色校园在线视频观看| 人妻系列 视频| 久久精品国产鲁丝片午夜精品| 秋霞伦理黄片| 精品不卡国产一区二区三区| 久久欧美精品欧美久久欧美| 国产私拍福利视频在线观看| 观看美女的网站| 精品人妻熟女av久视频| 亚洲国产成人一精品久久久| 久久精品熟女亚洲av麻豆精品 | 女的被弄到高潮叫床怎么办| 99久久精品一区二区三区| 波野结衣二区三区在线| 午夜福利在线在线| 草草在线视频免费看| 色综合站精品国产| 91久久精品国产一区二区成人| 久99久视频精品免费| 亚洲欧美精品综合久久99| 老女人水多毛片| 搞女人的毛片| 日本-黄色视频高清免费观看| 神马国产精品三级电影在线观看| 国产成年人精品一区二区| 嫩草影院精品99| 久久午夜福利片| 国产真实乱freesex| 一卡2卡三卡四卡精品乱码亚洲| 免费观看精品视频网站| 精品少妇黑人巨大在线播放 | 国产黄色小视频在线观看| 国产精品嫩草影院av在线观看| 免费看av在线观看网站| 在线播放国产精品三级| 久久亚洲国产成人精品v| 亚洲中文字幕日韩| 国产真实伦视频高清在线观看| 久久久成人免费电影| 男女国产视频网站| 一区二区三区乱码不卡18| 久久草成人影院| 亚洲在线观看片| 国产探花极品一区二区| 一区二区三区高清视频在线| 丰满人妻一区二区三区视频av| 卡戴珊不雅视频在线播放| 国产真实乱freesex| 欧美高清性xxxxhd video| 精品久久久久久久人妻蜜臀av| 色网站视频免费| 国产 一区精品| 国产国拍精品亚洲av在线观看| 嫩草影院新地址| 亚洲四区av| 国产精品永久免费网站| 色5月婷婷丁香| 永久网站在线| 久久精品久久久久久噜噜老黄 | 国产成人a区在线观看| 国产白丝娇喘喷水9色精品| 天天躁夜夜躁狠狠久久av| 久久久久久伊人网av| av在线播放精品| 国产乱来视频区| 国产伦精品一区二区三区四那| 国产老妇女一区| 婷婷色综合大香蕉| 丰满乱子伦码专区| 熟女人妻精品中文字幕| 中文字幕人妻熟人妻熟丝袜美| 日日摸夜夜添夜夜添av毛片| av在线蜜桃| 色吧在线观看| 国语对白做爰xxxⅹ性视频网站| 亚洲美女搞黄在线观看| 一个人看视频在线观看www免费| 国产三级中文精品| a级毛片免费高清观看在线播放| 春色校园在线视频观看| 精品久久久久久久久久久久久| 国产伦一二天堂av在线观看| 边亲边吃奶的免费视频| 国产精品人妻久久久影院| 91精品伊人久久大香线蕉| 在现免费观看毛片| 日韩国内少妇激情av| 你懂的网址亚洲精品在线观看 | 国产麻豆成人av免费视频| 亚洲人成网站高清观看| 国产av码专区亚洲av| 少妇人妻一区二区三区视频| 综合色av麻豆| 日韩亚洲欧美综合| 尤物成人国产欧美一区二区三区| 国产精品99久久久久久久久| 日本免费一区二区三区高清不卡| 日日撸夜夜添| 日日干狠狠操夜夜爽| 国产黄片视频在线免费观看| 国产亚洲精品久久久com| 国产黄色视频一区二区在线观看 | 自拍偷自拍亚洲精品老妇| 欧美一区二区亚洲| 日韩 亚洲 欧美在线| 国产又黄又爽又无遮挡在线| h日本视频在线播放| 亚洲精品成人久久久久久| av在线天堂中文字幕| 日韩亚洲欧美综合| kizo精华| 日本与韩国留学比较| 久久久久久伊人网av| 18禁裸乳无遮挡免费网站照片| 亚洲不卡免费看| 欧美最新免费一区二区三区| 26uuu在线亚洲综合色| 一二三四中文在线观看免费高清| 精品99又大又爽又粗少妇毛片| 国产精品一区二区三区四区免费观看| 亚洲成人中文字幕在线播放| 精品免费久久久久久久清纯| 亚洲一区高清亚洲精品| 亚洲av中文字字幕乱码综合| 永久网站在线| av又黄又爽大尺度在线免费看 | 可以在线观看毛片的网站| 日本黄色视频三级网站网址| 国内揄拍国产精品人妻在线| 欧美激情在线99| 亚洲欧美精品综合久久99| 天天一区二区日本电影三级| 男女下面进入的视频免费午夜| 亚洲五月天丁香| 中文字幕免费在线视频6| 久久久久久久久久久免费av| 久久久成人免费电影| 日本一二三区视频观看| 成人综合一区亚洲| 午夜福利网站1000一区二区三区| 99热网站在线观看| 18禁在线无遮挡免费观看视频| 国产精品久久电影中文字幕| 岛国毛片在线播放| 高清日韩中文字幕在线| 国产精品嫩草影院av在线观看| 麻豆一二三区av精品| 国产精品一区二区性色av| 淫秽高清视频在线观看| 国产大屁股一区二区在线视频| 精品国产露脸久久av麻豆 | 只有这里有精品99| 日本猛色少妇xxxxx猛交久久| 精品欧美国产一区二区三| 老师上课跳d突然被开到最大视频| 亚洲国产精品合色在线| 少妇人妻一区二区三区视频| 我要看日韩黄色一级片| 久久99热6这里只有精品| 看片在线看免费视频| 日韩人妻高清精品专区| 成人特级av手机在线观看| 国产人妻一区二区三区在| 免费观看精品视频网站| 欧美一区二区精品小视频在线| 一边亲一边摸免费视频| 好男人在线观看高清免费视频| 免费观看精品视频网站| 午夜福利网站1000一区二区三区| 日韩大片免费观看网站 | 国产综合懂色| 国产极品精品免费视频能看的| 亚洲av福利一区| 日韩亚洲欧美综合| 国产精品麻豆人妻色哟哟久久 | 22中文网久久字幕| 嫩草影院精品99| 国产69精品久久久久777片| 麻豆一二三区av精品| 一区二区三区高清视频在线| 综合色av麻豆| 美女高潮的动态| 国产精品一区二区三区四区免费观看| 国产不卡一卡二| 欧美zozozo另类| 亚洲国产精品久久男人天堂| .国产精品久久| 最近最新中文字幕免费大全7| 亚洲欧美清纯卡通| 丝袜喷水一区| 亚洲精品aⅴ在线观看| 狂野欧美激情性xxxx在线观看| 成人二区视频| 免费无遮挡裸体视频| 久久久久久久久大av| 亚洲精品国产av成人精品| 国产日韩欧美在线精品| 天堂中文最新版在线下载 | 成人av在线播放网站| 91精品一卡2卡3卡4卡| 日韩欧美精品v在线| 综合色丁香网| 亚洲精品456在线播放app| 不卡视频在线观看欧美| 男人舔女人下体高潮全视频| 亚洲五月天丁香| 久久久a久久爽久久v久久| 你懂的网址亚洲精品在线观看 | 99久久人妻综合| 国产黄片美女视频| 亚洲精品日韩av片在线观看| 免费看美女性在线毛片视频| 国产一级毛片在线| av天堂中文字幕网| 亚洲一级一片aⅴ在线观看| 亚洲最大成人手机在线| 秋霞伦理黄片| 午夜福利在线在线| 国产精品精品国产色婷婷| 久久精品国产99精品国产亚洲性色| 97超碰精品成人国产| 国产精品福利在线免费观看| 一个人免费在线观看电影| 亚洲av电影不卡..在线观看| 白带黄色成豆腐渣| 男人舔女人下体高潮全视频| 卡戴珊不雅视频在线播放| 99热这里只有精品一区| 九草在线视频观看| av免费在线看不卡| 国产精品久久电影中文字幕| 免费看a级黄色片| 亚洲四区av| 99视频精品全部免费 在线| 色播亚洲综合网| 国产午夜精品论理片| 男女边吃奶边做爰视频| 国产精品麻豆人妻色哟哟久久 | 自拍偷自拍亚洲精品老妇| 日韩欧美精品免费久久| 少妇熟女aⅴ在线视频| 丰满乱子伦码专区| 99久久成人亚洲精品观看| 中文字幕av成人在线电影| 国内精品宾馆在线| 国产免费男女视频| 亚洲内射少妇av| 久久精品国产鲁丝片午夜精品| 深夜a级毛片| 午夜激情福利司机影院| 天堂中文最新版在线下载 | 国产精品久久电影中文字幕| 亚洲国产高清在线一区二区三| 91在线精品国自产拍蜜月| 亚洲av成人精品一区久久| 日产精品乱码卡一卡2卡三| 精品欧美国产一区二区三| 看片在线看免费视频| 最新中文字幕久久久久| 国产麻豆成人av免费视频| 久久久久久久久久久免费av| АⅤ资源中文在线天堂| 一级av片app| 亚洲电影在线观看av| 欧美性猛交黑人性爽| 女人被狂操c到高潮| 夫妻性生交免费视频一级片| 少妇的逼好多水| 嘟嘟电影网在线观看| av.在线天堂| 亚洲av电影在线观看一区二区三区 | 久久久久久久久久久丰满| 麻豆久久精品国产亚洲av| av在线天堂中文字幕| 国产在线一区二区三区精 | 精品午夜福利在线看| 少妇熟女欧美另类| 亚洲人成网站高清观看| av播播在线观看一区| 亚洲国产最新在线播放| 天堂av国产一区二区熟女人妻| 亚洲成人中文字幕在线播放| 国产精华一区二区三区| 日韩在线高清观看一区二区三区| 3wmmmm亚洲av在线观看| 国产精华一区二区三区| 日韩成人伦理影院| 99热网站在线观看| 非洲黑人性xxxx精品又粗又长| .国产精品久久| a级毛片免费高清观看在线播放| 亚洲av电影不卡..在线观看| 国产成人精品久久久久久| 亚洲最大成人av| 99久久成人亚洲精品观看| 久久欧美精品欧美久久欧美| 18禁在线无遮挡免费观看视频| 成人一区二区视频在线观看| eeuss影院久久| 国产精品熟女久久久久浪| 欧美日韩国产亚洲二区| 亚洲怡红院男人天堂| 最近的中文字幕免费完整| 日韩,欧美,国产一区二区三区 | 日韩 亚洲 欧美在线| 色综合色国产| 亚洲熟妇中文字幕五十中出| 免费看日本二区| 日本黄大片高清| 亚洲欧美日韩卡通动漫| 免费人成在线观看视频色| 久久精品国产自在天天线| 日韩 亚洲 欧美在线| 一个人看的www免费观看视频| 91久久精品国产一区二区三区| 99热这里只有精品一区| 日韩一本色道免费dvd| 亚洲高清免费不卡视频| 中文字幕av在线有码专区| 国产一区亚洲一区在线观看| 欧美成人精品欧美一级黄| 国产午夜福利久久久久久| 偷拍熟女少妇极品色| 久久人妻av系列| 97人妻精品一区二区三区麻豆| 午夜福利视频1000在线观看| 特级一级黄色大片| 五月玫瑰六月丁香| 亚洲av不卡在线观看| 日韩一本色道免费dvd| 嫩草影院入口| 97超碰精品成人国产| 丰满人妻一区二区三区视频av| 干丝袜人妻中文字幕| 我的老师免费观看完整版| 91在线精品国自产拍蜜月| a级一级毛片免费在线观看| 九九久久精品国产亚洲av麻豆| 午夜激情欧美在线| 夜夜看夜夜爽夜夜摸| 99国产精品一区二区蜜桃av| 最近最新中文字幕大全电影3| 亚洲成人精品中文字幕电影| 国产片特级美女逼逼视频| 国产精品国产高清国产av| 狂野欧美激情性xxxx在线观看| videos熟女内射| 婷婷色综合大香蕉| 久久精品国产亚洲网站| 夜夜看夜夜爽夜夜摸| 色播亚洲综合网| 久久亚洲国产成人精品v| 亚洲18禁久久av| 国产久久久一区二区三区| 国产亚洲5aaaaa淫片| 国产真实乱freesex| 成人亚洲欧美一区二区av| 国产视频首页在线观看| 国产成人精品一,二区| 少妇被粗大猛烈的视频| 99热这里只有是精品在线观看| 国产精品久久久久久久电影| 一区二区三区四区激情视频| 久久久久久久久中文| 国产精品人妻久久久影院| 亚洲美女搞黄在线观看| 国产真实伦视频高清在线观看| 国产老妇伦熟女老妇高清| 国产av码专区亚洲av| 69av精品久久久久久| 日韩欧美在线乱码| 国产成人精品婷婷| 在线播放国产精品三级| www日本黄色视频网| 桃色一区二区三区在线观看| 久久久久久九九精品二区国产| 免费观看的影片在线观看| 国产黄片美女视频| 观看美女的网站| 亚洲欧美成人精品一区二区| 久久人人爽人人爽人人片va| 内地一区二区视频在线| 免费观看a级毛片全部| 午夜激情欧美在线| 亚洲精品aⅴ在线观看| 亚洲欧美清纯卡通| 黄色日韩在线| 日韩成人av中文字幕在线观看| 成人午夜精彩视频在线观看| 亚洲国产欧美在线一区| 国产亚洲av片在线观看秒播厂 | 国产又色又爽无遮挡免| 99在线人妻在线中文字幕| 国产色爽女视频免费观看| 国产伦精品一区二区三区视频9| 婷婷色av中文字幕| 亚洲真实伦在线观看| 亚洲欧美一区二区三区国产| 国产精品久久久久久久电影| 日日干狠狠操夜夜爽| 亚洲,欧美,日韩| 亚洲av电影在线观看一区二区三区 | 国产毛片a区久久久久| 国产精品女同一区二区软件| a级一级毛片免费在线观看| 国产高清视频在线观看网站| 国产 一区 欧美 日韩| 久久婷婷人人爽人人干人人爱| 亚洲av不卡在线观看| 免费观看a级毛片全部| 又爽又黄无遮挡网站| 神马国产精品三级电影在线观看| 三级毛片av免费| 久久久久久九九精品二区国产| 精品欧美国产一区二区三| av.在线天堂| 国产在视频线精品| 美女脱内裤让男人舔精品视频| 91久久精品国产一区二区成人| 欧美不卡视频在线免费观看| 99国产精品一区二区蜜桃av| 久久久久久久久久成人| 久久精品久久精品一区二区三区| 日韩欧美在线乱码| 国产亚洲午夜精品一区二区久久 | 搡女人真爽免费视频火全软件| 午夜福利成人在线免费观看| 婷婷色综合大香蕉| 亚洲欧美精品综合久久99| 精品久久久久久久久亚洲| 中文字幕精品亚洲无线码一区| 日韩av不卡免费在线播放| 久久精品夜色国产| 又粗又爽又猛毛片免费看| 能在线免费观看的黄片| 又粗又爽又猛毛片免费看| 热99re8久久精品国产| 午夜福利高清视频| 国产美女午夜福利| 久久久久久九九精品二区国产| av女优亚洲男人天堂| 成人毛片a级毛片在线播放| 国产精品久久久久久精品电影小说 | 如何舔出高潮| 久久国产乱子免费精品| 桃色一区二区三区在线观看| 国产精品福利在线免费观看| 久久精品久久久久久久性| 亚洲自拍偷在线| 国产一级毛片在线| eeuss影院久久| av黄色大香蕉| 亚洲av免费在线观看| 国产免费又黄又爽又色| 少妇的逼好多水| 赤兔流量卡办理| 亚洲最大成人av| 91狼人影院| 99国产精品一区二区蜜桃av| 伦理电影大哥的女人| 91精品伊人久久大香线蕉| 国产精品一区二区在线观看99 | 国产一区二区在线观看日韩| 蜜桃久久精品国产亚洲av| 国产成人91sexporn| 一级爰片在线观看| 精品久久久久久久久av|